コラム第921号：「「AIリスク学」への思い」

第921号コラム：佐々木　良一 理事（東京電機大学　名誉教授　兼　同大学サイバーセキュリティ研究所　客員教授）
題：「AIリスク学」への思い

1.はじめに
　先に、生成AIを含む「AIとセキュリティ」の関係を4つに分類し、それぞれに必要な対応策を提案した［1］［2］。この整理自体は、今でもセキュリティ対策という観点から見ると、一定の有効性があると考えている。しかし「AIのリスク」というより広い視点で見ると、ハルシネーションのような技術的課題や、生成AIと著作権の問題といった社会的課題など、扱えていない領域が多く残っている。そこで、セキュリティリスクも含めた「トータルのリスク」をAIとの関係で体系的に整理することを試みてみた。

2.「AIとセキュリティ」
　AIとセキュリティの関係を図1に示すように次の4つに分類することを先に提案した。
(a) Security Attack using AI（AIを利用した攻撃）
(b) Security Attack by AI（AI自身による攻撃）　
(c) Security Attack to AI（AIへの攻撃）
(d) Security Measure using AI（AIを利用したセキュリティ対策）
　ここで、(a)(b)(c)はセキュリティリスクを表している。(d)は厳密な意味ではセキュリティリスクではないがセキュリティ対策を怠ることにより、リスクが低減できなくなることから広義のセキュリティリスクといっていいだろう。

3.AIのリスクの全体像
　AIに関するリスクの全体像は、図2のように5分類できるのではないかと考えている。すなわち、AIのリスクは②セキュリティリスクだけでなく、①AI固有の技術的リスク、③AIに関する社会的リスク、④安全保障・地政学的リスク、⑤AIの運用リスクの5つに分類できる。
　それぞれの分類には、図３に示したような固有の要素が含まれると考えている。

4.「AIリスク学」への思い
　そんなことをしていたら、夜中にふと「この領域をもっと掘り下げて、AIリスク学として体系化できないだろうか」と思い立ち、そのための第一歩として『AIリスク学』という本を書いてみたいという気持ちが芽生えた。
　しかし朝になって冷静になると、かつてITリスク学に関する本［3］［4］を書いたものの、学問として十分に成立していたとは言いがたかったことを思い出し、さらに「もういい年だしな」と否定的な気持ちが次々と湧いてきた。
　一方で、Copilotに相談すると「重要なテーマだから、ぜひ一緒にやりましょう」と背中を押してくれる。最終的にどうなるかはわからないが、まずは情報処理学会のCSS2026あたりで、最初の部分を「AIリスク学私論」としてまとめ、発表してみようかと考えているところだ。やると書くことで退路を断つ、いつもの作戦ではあるが、年齢や体力のこともあり、今回は本当にやり切れるかどうか自信が持てない。さてどうなるか。

参考文献
[1] Ryoichi Sasaki “AI and Security – What changes with generative AI-” IEEE QRS2023
[2] Ryoichi Sasaki, Kenta Onishi, Yoshihiro Mitsui, Masato Terada,” Development and Trial Application of an Improved MRC-EDC Method for Risk Assessment of Attacks on Humans by Generative AI” Journal of Information Processing Vol.32 1057–1065 (Dec. 2024）
[3] 佐々木良一「ITリスクの考え方」岩波新書、2008
[4] 佐々木良一編著「ITリスク学　情報セキュリティを超えて」共立出版、2013

※著作権は、佐々木氏に属します。
※本稿は筆者の見解であり、IDFの見解を示すものではありません。