コラム第949号：「法執行機関におけるAIの活用―カリフォルニア州SB524を参考に」

第949号コラム：尾崎　愛美 理事（筑波大学　ビジネスサイエンス系　准教授）
題：法執行機関におけるAIの活用―カリフォルニア州SB524を参考に

2025年10月、カリフォルニア州では、「法執行機関における人工知能の利用」（Law enforcement agencies: artificial intelligence, SB524）法が成立した。この法律は、生成AIを利用して作成された捜査報告書について、AI利用の明示や警察官による内容確認等を義務づけるものである。本法が制定された背景には、AI支援型捜査報告書の急速な普及が挙げられる。たとえば、Axon社のDraft Oneは、生成AIを活用して、警察官のボディカメラから得られた音声を文字起こしし、事件の経過を記述する報告書の草案を作成するものであり、警察官は、生成された文章を確認・修正して、最終的な報告書として提出することができるようになっている。

このAI支援型捜査報告書の普及により、警察官の書類作成の負担が軽減されるようになった一方で、学説においては、次のような問題点が指摘されている。

『監視大国アメリカ』の著者として知られるジョージ・ワシントン大学ロースクールのアンドリュー・ガスリー・ファーガソン教授は、捜査報告書は単なる事務的な書類ではなく、逮捕、勾留、起訴、証拠排除、答弁取引、量刑などの判断を支える刑事司法の基礎的資料であるところ、生成AI特有の課題ともいうべきハルシネーションは、事件の結論そのものを左右し得るものであるとして、批判的な考察を加える。さらに、ファーガソン教授は、捜査報告書には、何が起きたかを記録する機能に加え、警察官が、なぜ特定の市民に対して国家権力を行使したのかを説明し、その行使を正当化する機能があるとする。すなわち、誰が報告書を作成したのかという「著者性」と、誰が停止や逮捕の正当性を引き受けるのかという「権限」が、捜査報告書においては最も重要なものとなる。そして、AIが文章の大部分を生成すれば、人間の警察官による判断とアルゴリズムによる判断との境界が曖昧になり、反対尋問、信用性評価、さらには警察権力に対する民主的なアカウンタビリティに疑念が生じることになると指摘する。

他方で、ファーガソン教授は、AI支援型捜査報告書の導入は、従前から指摘されていた、捜査報告書への過度な依存や、報告書に含まれる主観的選択が見えにくいといった問題点を可視化するものでもあり、捜査報告書の役割そのものを再検討する契機にもなり得ると主張する。そこで、ファーガソン教授は、AI支援型捜査報告書の導入にあたっては、生成過程、訓練データ、プロンプト、編集履歴を検証可能にし、監査証跡と証拠開示を確保するとともに、人間の警察官が内容を確認し、最終的な責任を引き受ける仕組みが整えられるべきであると述べる。

ファーガソン教授によるAI支援型捜査報告書に対する批判は、本法の審議過程でも取り上げられている。そもそも、本法案は、カリフォルニア州公選弁護人協会（California Public Defenders Association）の主導により提出され、当初から、刑事訴追に利用される報告書の正確性や被告人の防御権の確保が立法過程における中心的な課題として取り上げられていた。

このような経緯を経て制定された本法の特徴は、警察による生成AIの利用そのものを禁止するのではなく、生成AIを利用して捜査報告書が作成された経緯を後から検証できるようにする点にある。まず、同法は、AIを利用して作成される捜査報告書について、AI利用の明示、作成者による確認・署名、草案および監査記録の保存、契約事業者による情報利用の制限を定めている（同条(a)(1)）。また、この内部方針には、公式報告書を作成した警察官その他の職員による署名を求めることも含まれなければならず、署名者は、報告書の内容を確認したこと、および記載された事実が真実かつ正確であることを確認する必要がある（同条(a)(2)）。さらに、法執行機関は、AIを利用して報告書を作成した場合、AIが生成した最初の草案を、報告書と同じ期間保存しなければならない（同条(b)(1)）。他方、AIを利用して作成された報告書の草案は、報告書を除き、警察官の供述を構成しないとされる（同条(b)(2)）。加えて、AIを利用して草案ないし報告書を作成する法執行機関は、報告書と同じ期間、監査記録を保存しなければならない。この記録には、少なくとも、AIを利用して報告書を作成した者と、報告書の作成に使用した映像・音声が存在する場合にはそれらを特定できる情報を含める必要がある（同条(c)）。加えて、本法は、AIを提供する契約事業者による情報の取扱いについても規制する。本法によれば、契約事業者は、AIによる処理のために法執行機関から提供された情報について、契約先の法執行機関の目的のために行う場合、または裁判所の命令に従う場合を除き、共有、販売その他の利用をしてはならない（同条(d)(1)）。ただし、トラブルへの対応、偏りの軽減、正確性の向上またはシステムの改良を目的として、AIによって処理されたデータにアクセスすることは認められている（同条(d)(2)）。

なお、電子フロンティア財団（Electronic Frontier Foundation：EFF）は、本法について、AIを利用した捜査報告書の透明性と説明責任を確保するための「重要な第一歩」として支持している。一方、全米自由人権協会（American Civil Liberties Union：ACLU）は、AIが生成する文章の正確性や差別的な偏りに加えて、警察官の記憶や判断過程に与える影響を鑑み、AI支援型捜査報告書自体に対して懸念を表明している。

同法により、カリフォルニア州刑法13663条（Cal. Penal Code § 13663）が新設され、2026年1月から施行されている。同条に基づく規律が、今後の警察実務にどのような影響をもたらすのか、注目される。

【参考資料】
Act of Oct. 10, 2025, 2025 Cal. Stat. ch. 587, § 1 (codified at Cal. Penal Code § 13663).

Andrew Guthrie Ferguson, Generative Suspicion and the Risks of AI-Assisted Police Reports, 120 Nw. U. L. Rev. 299 (2025).

Matthew Guariglia, California Lawmakers: Support S.B. 524 to Rein in AI Written Police Reports, Elec. Frontier Found. (Sept. 4, 2025),
https://www.eff.org/deeplinks/2025/09/california-lamakers-support-sb-524-rein-ai-written-police-reports.

Jay Stanley, AI Generated Police Reports Raise Concerns Around Transparency, Bias, Am. C.L. Union (Dec. 10, 2024),
https://www.aclu.org/news/privacy-technology/ai-generated-police-reports-raise-concerns-around-transparency-bias.

※著作権は、尾崎氏に属します。
※本稿は筆者の見解であり、IDFの見解を示すものではありません。