コラム第947号：「AIとデジタルフォレンジックの関係に関する考察」

第947号コラム：佐々木　良一 理事（東京電機大学　名誉教授　兼　同大学サイバーセキュリティ研究所　客員教授）
題：AIとデジタルフォレンジックの関係に関する考察

1．はじめに
　AIへの注目が増大してきており、IDFでもAIとセキュリティやデジタルフォレンジック（DF）に関連したコラムが多い。図１に示すように生成AIやAIエージェント、エージェンティックAI、フィジカルAIの様に新しいAIが誕生し、能力、自律性が増大する一方、リスクも増大しているからだろう。
　AIとDFといっても多様な関係があり整理して議論しないと混乱を招きやすい。ここではAIとDFの関係を3つに整理することを提案するとともに、それぞれについて現状と必要な対応を示す。

2．AIとDFに関する3つの関係
　AIとDFの関係の分類法についてはいろいろなものがありうるが、次の様に分類するのがDFとして広い範囲を扱え、かつ重複が少ないと考えた（図2参照）。
（1）AIを利用したDF（DF using AI）
（2）AIを利用したDFの妨害（Anti-DF using AI）
（3）AIのためのDF（DF for AI）
このような分類法は従来提案されてこなかったと考えている。以降、これらのそれぞれについて、現状を示すとともに、必要な対策を整理していく。

3．AIを利用したDF（DF using AI）
　AIを利用したDFにもいろいろなものがあるが、以下のようにDFの手順に従って分類するのが全体を扱え、わかりやすいと考えた。
①AIを用いたデータ収集：収集データの自動識別・トリアージの効率化
②AIを用いたデータ復元：破損・劣化データの高精度再構築
③AIを用いたデータ分析：ログ解析と不正挙動の自動検知
④AIを用いた報告書作成：技術情報の自動要約と文章化
　これらはいずれも、研究が進行中で、一部製品化もされているものもある。
これにより、DFの高度化や高効率化・低コスト化が図れる可能性が高く、したがってDFがさらに普及する可能性が高い。米国ではEnergentAI社がこのようなAIを使ったサービスを実施しているようである。このために日本のDF業者もAI対応の推進を図っていく必要がある。なおその際に、生成AIを中心とするAIにおいてはハルシネーションによる誤解析の問題、AIの出力に関する説明責任などがあることも意識しておく必要がある。

4．AIを利用したDFの妨害（Anti-DF using AI）
　これはDFに対するAIを利用した妨害で、Anti – Digital Forensics using AIとも表記できる。妨害の方法は、妨害の手段により次の様に分けるのが分類しやすいと考えた。　
⑪AIエージェント等によるログの自動改ざん・消去
⑫生成AI等によるログなどに対する大量ノイズの追加
⑬生成AI等による偽装通信・偽装行動
⑭生成AI等を用いた偽コンテンツによるDFの攪乱
⑮生成AI・AIエージェント等を用いたDFツールそのものへの攻撃
例えば、「⑪AIエージェント等によるログの自動改ざん・消去」ではAIエージェントやエージェンティックAIはリアルタイムでログを操作し、侵害の証跡を完全に隠蔽する能力を持ち得る。他の項目も実際に攻撃が増えつつある部分であり対策が必要となる。どの項目に対する対策の必要性が高いか、表1に示すような簡単なリスク評価を実施してみた。ここでは発生確率、攻撃の影響の大きさ、検知困難性を評価指標とし、それぞれ3点満点とし、その積をリスク値とした。その結果、⑪AIエージェント等によるログの自動改ざん・消去、⑭生成AI等を用いた偽コンテンツによるDFの攪乱のリスクが大きいという結果になった。⑪に対しては、(a) ログをデジタル署名し、改ざんを即検出できる状態にする対策や、(b) WORM（Write Once、 Read Many）ストレージで書き換え不可の証拠保全を行う対策があることが知られている。⑭に対しては、各種のディープフェーク対策が重要であると考えられる。これらの対策は、すでにいろいろ研究され、実際に対策が取られるようになっている部分である。

5．AIのためのDF（DF for AI）
ここで、AIのためのDFとは、生成AIやAIエージェントなどが関与するインシデントに対して、電子的証拠を科学的・法的に有効な形で収集・保全・分析し、AIの挙動・生成物・モデル利用履歴を対象に事実を再構成するフォレンジック領域である。AIのためのDFは、AIの種類別に分類するのがわかりやすいと考え、次の3種のAIのDFを対象とした。
㉑生成AIのDF
㉒AIエージェントのDF
㉓エージェンティックAIのDF
なお、これ以外に、フィジカルAIのDFなども重要となるが調査の進展との関係で今回の整理対象からは除外した。
各種AIのDFのイメージをつかんでもらうためにミニ事件の例と、そのDFの主な目的を表2に示すようにまとめてみた。生成AIのミニ事件に関するDFとして、調査により次のような対応が必要だと考えた。
①データ収集
プロンプト履歴（ユーザ質問・システム指示）
モデル出力ログ（誤情報の内容）
モデル設定（temperatureなど）
推論環境ログ（API呼び出し、モデルバージョン）
外部データ参照（RAG（Retrieval Augmented Generation）の検索結果・参照文書）
ガードレール設定（医療情報の制限ルール）
② データ復元
削除・欠損したプロンプトや生成物の復元
キャッシュ・バックアップ・通信ログから履歴を再構成
AI特有の自動補完・編集痕跡の確認
③ データ分析
入力→出力の因果分析（どの指示が誤情報につながったか）
再現実験（同じプロンプトで同じ誤情報が出るか）
モデル設定の影響（温度が高すぎた等）
RAGの影響（誤った外部文書を参照した可能性）
ガードレール未作動の理由（設定ミス・ルール不備）
ハルシネーション発生要因の特定
④ 報告書作成
事件概要（いつ、どの質問で、どんな誤情報が生成されたか）
プロンプトチェーンの時系列整理
原因の構造化（設定、外部データ、ガードレール、モデル特性）
再現性評価
再発防止策
• 医療情報ガードレール強化
• RAGデータソースの精査
• 重要領域は温度低設定（0〜0.3）
• 人間レビューの導入
生成AI対応のDFの具体的作業ができるようにするには、さらに調査が必要である。また、AIエージェンント対応のDFやエージェンティックAI対応のDFに関して、社会全体としても研究の緒に就いたばかりさらに多くの検討が必要となると考えられる。そしてもっと多くの専門家の参加が期待される分野である。

6．おわりに
AIとDFの関係を3つに整理するとともに、それぞれの研究状況や実用化状況を紹介した。AIエージェントやエージェンティックAIのためのDFは今後ますます重要となるため、もっと多くの専門家の参加が期待される。

※著作権は、佐々木氏に属します。
※本稿は筆者の見解であり、IDFの見解を示すものではありません。