コラム第919号：「新年度のご挨拶：AIエージェントとデジタル・フォレンジック」

第919号コラム：上原　哲太郎 理事（IDF会長、立命館大学　情報理工学部　教授）
題：新年度のご挨拶：AIエージェントとデジタル・フォレンジック

　2026年度が始まりましたが皆様いかがお過ごしでしょうか。年度が改まると様々な変化がありますが、IDFの活動領域に近いところでは今年度は能動的サイバー防御（ACD）の運用が始まること、またサプライチェーンセキュリティ対策評価制度（SCS評価制度）の運用開始というあたりが大きなトピックかなと思います。また、社会情勢で言えばAIがいよいよ多くの企業の業務に直接使われるような年になるだろうと考えています。IDFはおかげさまで23期を迎えましたが、このような社会情勢に対応してAIに関する分科会を立ち上げることになりました。詳しい内容は追って会員の皆様にお知らせしますが、是非とも積極的にご参加頂ければと思います。

　そのAIですが、このところの動きは一層目まぐるしくなっています。このコラムの今年最初のご挨拶（コラム第906号：「新年のご挨拶：熊とAIとフォレンジック」）でも「今年はAIの普及による功罪が明確に現れる年になる」と申し上げましたが、それからわずか3ヶ月ほどの間にAIはまた長足の進歩を遂げました。今年に入ってから多くの方が口々に「AIの出力の質が急速に高まった」ことを指摘しています。特にオープンソースソフトウェア(OSS)の世界では、昨年あたりから話題になっていた「AIがソースレポジトリに対して大量の質の低いpull requestを発行する」という問題が急激に減少し、AIによる「まともな」pull requestが急増したとされています。つまり、AIがOSSのバグやセキュリティ上の脆弱性を『正しく』修正する能力を身につけたということが言えます。言い換えれば、今やAIは平均的な技術者と同等以上の質のコードを読み書きする能力を身につけつつあるのです。そのことを象徴するのが、2月にAnthropicが「完全なCコンパイラをAIに作成させることに成功した」と発表したことです。そのコードは公開されていますが、その内容はRustで10万行に及ぶもので、所々おかしなコーディングはあるもののとにもかくにも動いており、これはAIが普通の技術者のレベルを超えたなぁと考えさせられるものでした。まだシンギュラリティが来たと言えるほどではないものの、AIが多くの人の仕事を代替するといわれてきたことが、いよいよ現実になりつつあるようです。

　そこにさらに大変な社会的インパクトがあったのが、OpenClawに代表されるAIエージェントの登場です。OpenClaw自体は昨年11月にリリースされたClawdbotが起源ですが、色々あって今年1月末にOpenClawに改名され、そのネーミングの良さから急速に認知が広まったように思います。さらにそのOpenClawなどのAIエージェント同士に会話をさせるSNSであるMoltbookの登場とその人気の爆発や、nVidiaのCEOジェイスン・ファン氏がOpenClawを「次のChatGPT」と持ち上げたことも、その普及に拍車をかけたように思います。

　AIエージェントの社会的影響は絶大なものがあります。それまでのAIはChatGPTのような単なる「会話の相手」であるか、もしくは自動運転やマルウェア検出のように大きなシステムの中の重要な機能ではあっても単一の仕事をこなすものに過ぎず、予め与えられた枠からはみ出ることはありませんでした。それがエージェント化によって自律的に行動することができるようになり、いわば手足を得て「人に代わってパソコンを操作し、業務を代行する」存在に進化したのです。このようなエージェント化はソフトウェア開発の場で始まりました。最初はAIにコードを書かせていただけだったのが、「AIにコードを書かせ、コンパイルさせ、ビルドさせ、エラーメッセージやテストコードの出力を自動的に読ませ、それに基づいて修正させ、この繰りかえしをバグが収束するまで行わせる」という手法に置き換えられたのです。これを例えば「AIがメールを読んで、打ち合わせの依頼を認識し、カレンダーを見て日程を調整し担当者を割り当て、メールに返信し、さらには社内システムにアクセスして必要な情報を取得し資料を予めセットする」といった事務作業に拡大させようというのがいわゆるAIエージェントです。すなわちAIにパソコンの基本的操作やアプリケーションの操作を行わせることで、自律的に複数ステップのタスクを実行させることができるようになり、まさに人の代替としての作業が行えるようになってきたのです。MCP（Model Context Protocol）やOpenAIのResponses APIなど、AIエージェント同士やアプリケーションとの連携に必要な標準化の動きも相まって、AIのエージェント化はこのところ急速に進みました。そしてOpenClawの登場と、Claude Cowork、Copilot Cowork、Gemini for Workspace、Grok Agentsといった商用サービスの展開により、今年はまさにAIエージェント元年というべき年になりそうです。

　このことの「功」、つまり利点は言うまでもありません。まさにホワイトカラーの仕事の多くを代替しうる存在が産まれたのですから、生産性の向上に役立つのは確実です。特に定型的な伝票・帳票類の作成、点検、集計といった事務作業は多くがAIで代替可能になるでしょう。そうすると人はより高度な判断が求められる仕事に集中することができるようになるはずです。

　一方「罪」もなかなか大変なものがあります。なにせ人のように振る舞う機械が業務現場に入り込んでくるのですから、業務の成果に人によるものとAIによるものが複雑に入り交じってくるのです。ということは、何か業務上のミスや問題が発覚した場合に、「誰の責任でそれが生じたか」の「誰」に人とAIが混じってしまうわけですから、その切り分けは大問題になりそうです。しかも、仮にAIによるミスであることが発覚したとしても、その原因をAIに人が与えたプロンプトや権限の問題に帰することが出来るのか、あるいはAI自身の設計の問題なのか、この判断もなかなか困難でしょう。実際、AIエージェントに予め与えるファイルアクセス制限などのセーフガードは様々な場面で破れてしまったり、操作者が錯誤で外してしまうことがあり、それに起因する事故も既に発生しています。しかし仮にAI自身の設計に疑義が生じたとしても、現在の多くのAIサービスは契約上さまざまな免責を謳っていますから、エージェント運営者の責任を問うのも事実上困難な場合が多いでしょう。

　ということは、AIエージェントの利用者はAIにさせてよい業務と、させてはいけない業務、つまりその結果責任が重大で業務そのものを揺るがしたり、法的責任問題なったりする業務を切り分けてから、前者だけをAIに割り当てる必要があるのですが、そんなことが末端の従業員にできるのかという問題がつきまといます。例えばある取引において、売り方買い方の双方がAIエージェントを使ってメール処理をしていた結果、両社で自律的にメールが交換されて契約が成立してしまうことが考えられます。この場合、そのメールは民法上の契約として認められるのでしょうか。その行為に何かの問題があった場合に、エージェントに指示を与えた人間、エージェントを開発した企業、エージェントを運用したユーザ企業のシステム管理者、それぞれの責任の境界線はどこにあるのでしょうか。

　さらに厄介なのが、このプロンプトに外部の攻撃者のものが紛れ込む、いわゆるプロンプトインジェクション攻撃があらゆる方向から可能になっていることです。AIエージェントが処理するコンテンツの中に悪意ある指示を埋め込むだけで、エージェントに意図しない行動を取らせ、その組織の情報を盗み取ったりデータを改ざん・破壊できることが知られています。この種の攻撃に対するフォレンジック調査では、「悪意あるプロンプトがいつどこから混入したか」という問いに答えることが求められますが、そのためにはAIの判断の連鎖を記録しておく基盤が必要になってくるでしょう。つまり、実行履歴を正確に保全・解析できる技術的基盤を持つAIエージェント、言い換えると「フォレンジック対応のAIエージェント」が求められてくるのだろうと思いますが、そのようなものがきちんと整備される前に事故が起きることは間違いありませんので、私たちはAIエージェントの行為と人の行為をそれぞれ切り分けて追跡した上で、この起源を辿るというこれまでにないフォレンジック技術を開発し、磨いていく必要があるのだろうと思います。

　いやはや、大変な時代がやってきてしまいました。一つ確かなことは、AIエージェントの功罪のうち「功」があまりに大きすぎるので、これを遠ざけることはもはや許されない、ということではないでしょうか。そして不可避な「罪」に立ち向かうためにも、私たちの業界としてはAIエージェントの仕組みを深く理解したフォレンジック人材の育成、AIエージェントの行為の追跡技術の確立、そしておそらくフォレンジックにもAIエージェントが活用されることを見通せばそのAIが判断した証拠の法的効力をめぐる検討などを同時並行で進めていく必要があります。今期に立ち上がるAI分科会がそのようなテーマも扱って下さることを期待しております。また会員の皆様の中でこの領域に取り組んでおられる方がおられれば、是非とも分科会を含めたIDFの活動にご参加、ご協力下さい。今期もよろしくお願い申し上げます。

以上
※著作権は、上原氏に属します。