コラム第８７４号：「幹事就任のご挨拶」

第874号コラム：寺師　悠平 幹事（株式会社NTTデータグループ　技術革新統括本部　Cloud & Infrastructure技術部　情報セキュリティ推進室　NTTDATA-CERT）
題：「幹事就任のご挨拶」

IDFの皆様、4月より幹事に就任いたしました寺師と申します。今回のコラムでは、就任にあたって私の自己紹介と、普段の業務を通じて感じていること、考えていることを執筆させていただきます。

私は学生時代、光通信の大容量化に関する研究に従事していました。研究室では、情報を効率的に伝送するために光ファイバを伝搬している光をどのような形で伝搬させればよいのか工夫するというアプローチで、どちらかというと理論的な研究を行っており、将来の実用化に向けてシミュレーションをひたすら行っていました。その中で私は、いかに効率的に誤りなく信号を受信するかという観点で、当時の第三次AIブームに乗っかり機械学習を活用し、受信した信号から0と1のバイナリデータに復号する研究を行っていました。当時、私のセキュリティとの唯一の接点は、大学の講義で受けていた暗号の授業で単位を取得する程度でした。そのような状態から2023年にNTTデータに入社し、気付いたらセキュリティの部署に配属され、私のセキュリティとの関わりが始まりました。

現在の私は、NTTデータグループ内のインシデントレスポンスを担当するCSIRT組織に所属しています。配属当初は、インシデント対応に関する社内のガバナンスの観点の仕事に従事しました。その際に、組織全体のインシデントが発生した際の連携方法の整理や、規定の修正を実施し、セキュリティにおいては自分一人だけでは何も解決できず、あらゆるステークホルダーと調整する必要があることを実感しました。現在の業務は、ガバナンス的な側面から、実際のインシデント対応にフォーカスし、大規模言語モデル（Large Language Model: LLM）を活用した改善を目指しています。いかにインシデントの収束に向けたハンドリングの対応ハードルを低減できるか、インシデントのハンドリングを補助するシステムの作成の側面からアプローチしています。

このように何かとAIブームに乗っかっている私が、業務を通じて感じていることを述べてみたいと思います。LLMが世間の注目を集め始めてから数年が経過しましたが、今でも日々新しいモデルや活用方法のニュースが飛び交っています。しかし残念ながら、セキュリティの分野においては、攻撃者が先手を取って攻撃の高度化に利用しています[1]。こういった背景の中で、守る側としていかにしてLLMを利用するかを探ることが必須です。攻撃が高度化し、難易度が増す中で後手後手に回ることは避けられませんが、それでも迅速かつ適切に対応できるように力を尽くす必要があります。
また、LLMの発展スピードが速く、セキュリティの側面が甘く見られているようにも感じます。2025年はLLMエージェントの時代になるとも言われていますが、OWASP Top10 for Large Language Model Applications[2]にあるように、プロンプトインジェクションといったLLM自体に対するリスクや、LLMに必要以上の権限を持たせてしまう過剰なエージェンシーなど、新たな攻撃面として悪用されるケースも多くなるのではないかと思います。一方で、入出力のサニタイズや最小権限の原則の適用など、従来のセキュリティ対策の考え方を適用することで回避できるリスクも多々あるように感じます。今一度、基本的なセキュリティ対策に立ち返って、どのような対策が必要なのかを考えることが大事なのではないでしょうか？

最後に、技術者としてもIDF幹事としてもまだまだ未熟者ですが、皆様のご指導ご鞭撻を賜りながら精一杯努めて参りますので、今後ともどうぞよろしくお願いいたします。

[1]松本隆　理事「コラム第782号：「サイバー犯罪と生成AI」」
https://digitalforensic.jp/2023/08/14/column782/
[2]OWASP Foundation「OWASP Top 10 for Large Language Model Applications」
https://owasp.org/www-project-top-10-for-large-language-model-applications/

【著作権は、寺師氏に属します】