第854号コラム：湯淺 墾道 理事
（IDF副会長・明治大学専門職大学院ガバナンス研究科教授）
題：「年末のご挨拶に代えて」
2024年は世界的に「選挙イヤー」で、1月に行われた台湾の総統選挙、2月に行われたインドネシアの大統領選挙、3月に行われたロシアの大統領選挙、11月に行われたアメリカの大統領選挙など、世界的に注目を集める選挙が数多く行われました。韓国では4月に国会議員選挙が行われ、野党第一党が議席の単独過半数を占める状況がさらに深化して大統領にとってはさらに政権運営が困難を増したとみられていましたが、12月3日に尹錫悦大統領が突然非常戒厳を布告して世界を驚かせました。
これらの選挙に共通する問題の一つが「フェイク」であるといってよいでしょう。
フェイクとデジタル・フォレンジックとの関連で、興味深い一例があります。
2024年1月23日、ニューハンプシャー州で予備選挙が行われた際、何者かによって、バイデン大統領が話しているように聞こえる生成系AIにより作成された音声によって予備選に参加しないように有権者に呼びかけるロボコールが州内で行われました。ロボコールは、「今日、投票に行くことはトランプ候補を当選させようとする共和党を利するだけだ」とか、「あなたの票が意味を持つのは11月（の本選挙）で、今日ではない」等、有権者に対して予備選挙の投票に行かないように呼びかける内容となっていました。
その後、スティーブ・クレーマーという選挙コンサルタントが、当該ロボコールに資金提供を行ったのは自分であると名乗り出たのですが、興味深いのは、このロボコールに対するデジタル・フォレンジックが行われたことです。セキュリティ企業であるPindrop社と、カリフォルニア大学バークレー校の研究者がそれぞれ別個にデジタル・フォレンジックを行った結果、この音声はElevenLabs社という生成系AIのベンチャー企業が開発した技術により生成されていたことが判明しました。Pindrop社による解析の概要は、下記で読むことができます。
https://www.pindrop.com/blog/pindrop-reveals-tts-engine-behind-biden-ai-robocall
この件は、後日談があります。
バイデン大統領が2024年7月に大統領選挙の候補者から降りることを公表した際、X（旧Twitter）上で、「ホワイトハウスが、人気のAI音声生成ツール@ElevenLabsを使用しカマラ副大統領の本部イベントへの偽電話をかけていたことが発覚（The White House Gets Caught Using Popular AI Voice Cloning Tool @ElevenLabs to Fake Call To Vice President Kamala’s HQ Event.）」という動画が広く流布したことです。この動画では、あるユーザーがバイデン大統領の音声を録音し、ElevenLabsのサービスである「AI Speech Classifier」（音声がElevenLabsの技術を使用して生成されたかどうかを識別するフォレンジック・ツール）にアップロードするコンピューターの画面を映していました。
ElevenLabs社は、バイデン大統領の電話を録音して「AI Speech Classifier」にアップロードしたユーザーは存在しないと否定しましたが、デジタル・フォレンジックのためのツールもまたフェイクやディスインフォメーションに利用されることになったのは、皮肉な顛末といえます。
末尾となりましたが、本年の皆様のデジタル・フォレンジック研究会に対するご支援・ご協力に心から御礼申し上げますと共に、皆様の新年のご健勝とご活躍を心から祈念申し上げます。
【著作権は、湯浅氏に属します】
