第５２１号コラム：丸山 満彦 監事（デロイト トーマツ リスクサービス株式会社 代表取締役社長）
題：「ＡＩは科学捜査を騙せるか？」
ＡＩ（Artificial Intelligence）と表題に書きましたが、ＡＩが意味する分野は広いので全部というわけにはいきません。今回はＡＩの中でも深層学習（Deep Learning）の分野に絞りたいと思います。また、科学捜査と書きましたが、その一部である、文章解析、音声解析といった分野に絞りたいと思います。つまり、「深層学習技術を使って、人間又はコンピュータが行っている文章解析、音声解析を騙すことができるか？」ということを考えてみたいと思います。例えば、殺人犯Ｘが、無関係なＹさんの文章を深層学習技術を使って特徴を覚えさせ、その学習済みのＡＩを使い、Ｙさんを語ってメールやＳＮＳ等で殺人をしたことをほのめかし、Ｙさんを殺人犯に仕立て上げることができるかということです。そしてあわせて、もしそうなればどういうことが起こりそうかということを考えたいと思います。（もちろん実際は、その他の物証等で殺人犯ＸがＹさんを殺人犯に仕立て上げることは難しいとは思います。ですので、今回はあくまで思考ゲームと思ってください。）
「無くて七癖」と言われる通り、人にはなんらかの癖があります。歩き方や顔の表情、話し方や文章の書き方などにもそれぞれの癖があります。小説にもその作家の文章の書き方についての特徴がでますよね。「この文章って星新一っぽい」とか、「この小説はきっと松本清張だ」とか、よく読んでいる作家の文章はなんとなくわかるようになりますよね。さて、Ｙさんが書いた文章（たとえば、メールやＳＮＳ）を大量にコンピュータに読み込ませ、深層学習技術を使ってＹさんの文章の癖を覚え、任意の文章をコンピュータにインプットすれば、Ｙさんが書いたような文章としてアウトプットさせることができるようになりそうです。そのようにＡＩによって作成されたＹさんの特徴を含んだ文章を、警察や民間の文章解析専門家がＹさんの書いた文章と判断してしまう可能性は、深層学習技術の進歩等によって増えていくように思います。そういう可能性が高まれば、いままで科学捜査として文章解析をし、Ｙさんの文章であると鑑定した結果についても信頼がおけなくなる可能性があります。
裁判での想定やりとり：
検察 ：「ここにＹさんが殺人を犯したと告白した文章があります。」
弁護人：「いやいや、それはＹさんの癖を覚えさせたコンピュータにより作られた文章の可能性がありますよ。最近の技術であれば、Ｙさんが書いた文章と思わせることも可能です。さて、ここに２つの文章があります。実際にＹさんが書いた文章と、コンピュータによってＹさんの文章に似せた文章です。さて、どちらの文章が、実際にＹさんにより書かれた文章であるか解析してください。」
という展開になり（実際にはならないとは思いますが・・・）、後日、
検察 ：「文章Ａよりも文章Ｂのほうが、Ｙさんにより書かれた文章である可能性が高いという結果になりました」
弁護人：「残念ながら文章ＡがＹさんにより書かれた文章であり、文章ＢはコンピュータによりＹさんに似せて作成された文章です。先日の文章解析結果は必ずしも証拠に採用できるとは限らないのではないでしょうか？」
みたいな展開があるかもしれません。（実際はそうはならないのでしょうが。）
これは音声についても同じかもしれません。Ｙさんの声や話し方を人工的に作り出し、Ｙさんがあたかも話をしたかのようにして留守番電話にメッセージを残し、捜査をかく乱させることができるかも知れません。
ＡＩが身近になればなるほど、より複雑で難解な社会が到来するような気もしてきました。（もちろん、いいこともいっぱいあるのでしょうけど。）
【著作権は、丸山氏に属します】
