第７８２号コラム：松本　隆 理事（株式会社ディー・エヌ・エー 　技術統括部　セキュリティ部
サイバーアナリスト）
題：「サイバー犯罪と生成AI」

一般人にとって便利なサービスは犯罪者にとっても便利なサービスである。
考えてみれば至極当たり前のことだが、われわれは犯罪者をどこか浮世離れした存在として扱いたいと考えているからなのか、彼らがわれわれと同じサービスを便利に使っている姿をあまり想像しない。

私はリサーチ活動のなかで高品質な翻訳サービスであるDeepLのプラグインを活用するようになってから、ロシア語など馴染みのない言語で書かれたドキュメントをほぼリアルタイムで読むことが可能になった。また、テキストチャットのようなインタラクティブなコミュニケーションに困ることが殆どなくなった。同様に、犯罪者もDeepLのような高度な翻訳サービスを利用することによってグローバルにデータを共有しながら、多様なメンバーとコミュニケートしていると指摘されている。現状はまだテキストベースに限った話ではあるが、高品質な翻訳サービスの登場によって、サイバースペースから言語の壁が取り除かれようとしている。

これまで、サイバーセキュリティの神話のひとつとして「日本語の壁」があると言われてきた。日本語は言い回しや言葉のバリエーションが他言語に比べて豊富で、同音異字も含め覚えるべき文字も大量にあり、外国人にとって優しくない言語であるとされている。この特性が海外のサイバー犯罪者に対しても「壁」として機能していたという。私も日本語の壁については肯定的に考えているが、壁とは単に言語としての日本語の難解さ「だけ」ではなく、日本独特の商習慣やマナーも大きな壁となっていると考えていた。日本人ですら悩む、独特かつ複雑なマナーや商習慣といった文化を、海外の犯罪者が理解し再現するのは難しいのではないか。そして、今後さらに高度な翻訳サービスが提供されたとしても、海外の犯罪者が書いたフィッシングメールをネイティブな日本人が読んだときには、依然として違和感が残るのではないかと考えていた。

しかし、2023年2月にリリースされたテキスト生成AIのChatGPT Plus（GPT-3.5）を検証した際に、「日本語の壁」はもはや無くなったのだと実感した。
ChatGPTに「日本の商習慣に従った違和感がないメールの例文」を生成するよう命令したところ、日本のビジネスメールにおける挨拶や結びの言葉を使用した、丁寧かつ具体的な日本語の例文を生成したからだ。犯罪者はChatGPTをガイドツールにすることで、日本人にも違和感のないフィッシング用のおとりメールを生成することが可能だろう。興味深いことにChatGPT-4.0では、日本独自の文化とされるPPAP（パスワード付きZIPファイルをメールで送信後、パスワードを記載したメールを送信する方法）すら例文に取り入れてみせた。GPT-4.0は確かに日本独自の商習慣を完璧に理解しているように見える。ChatGPTが一体どこで日本の商習慣を学習したのか、そもそも日本の商習慣が含まれるメールデータをどのように収集したのかは非常に気になるところではあるが・・・

いま、ChatGPTなどの生成AIがもたらすサイバーセキュリティへの影響について議論されている。専門的なフィッシングやソーシャルエンジニアリングに用いる文章や、マルウェアで利用する悪質なコードを、自然言語で簡潔に指示することで生成する様子が大きなインパクトを与えたからだ。犯罪者の手に渡らないように、生成AIサービスの提供をもっと制限すべきであるとか、不正目的での利用を制限する目的で、AIが生成するコンテンツにもっと倫理的な制約を設けるべきなどといった議論が盛んだ。

安全なサービスを広く社会に届けるという意味では、こういった規制の検討は重要だと考えるが、一方で犯罪者は提供制限や倫理的制約のない独自の生成AIサービスを準備し、武器化を進めている。WormGPTはその一つで、テレグラムの販促用アカウントでは、サービスを利用することで様々な検出不可能なマルウェア、BECメール、一般的なハッキングツールを作成できると謳っている。また、ブラックハットな目的で提供されるサービスのため、利用者のログやフィンガープリント情報は保持されないという。生成AIサービスの規制については様々な考え方があるだろう。しかし、仮にセキュリティを守る側が制限をかけられたサービスしか使えないとなると、制限のないブラックハットAIによるガイドを手に入れた犯罪者との「AI格差」が、今後広がっていくのではないかと懸念している。

【著作権は、松本氏に属します】