第７９８号コラム：小向　太郎　理事（中央大学 国際情報学部 教授）
題：「コンテンツ・モデレーションと媒介者の責任」

　最近、コンテンツ・モデレーションという言葉を、よく聞くようになった。例えばデジタル大辞泉では、コンテンツ・モデレーションを、次のように説明している。

「インターネット上の不適切なコンテンツを監視し、必要があれば削除すること。主にソーシャルメディアや動画共有サービスに投稿された暴力・虐待・ポルノなどの画像・動画を対象とする」

　日本では、コンテンツ・モデレーションのことを「投稿監視」と訳しているものも見かけることがある。これだと、プラットフォーム上の情報を監視して、なにか問題のあるコンテンツを見つけ次第すぐに削除しようとしているような印象を受ける。しかし、規制や管理ではなくモデレーション（緩和、軽減）という言葉が使われていることを考えると、本来はもう少し緩やかな概念だといってよいだろう。実態としても、不適切なコンテンツの根絶を目指すものとは考えられていない。

　ネットワーク上で情報を媒介する事業者など（媒介者）が、媒介する情報に対してどのようなスタンスを取るべきかというのは、結構難しい問題である。インターネットが広く使われるようになりだしたのは1990年代半ばであるが、そのころから繰り返し議論されてきた。

　この問題については、媒介者の自発的な取り組みがどうあるべきかといういわば倫理的な問題と、媒介者にどのような法的責任を負わせるべきかという法的な問題があり、やや錯綜しがちである。前者が重要なのはもちろんだが、これは基本的には、利用者の反応やビジネス上の利害も考えてそれぞれの媒介者が自己責任で決めることであろう。法的な媒介者責任に関する議論は、それではうまく行かない場合があるという前提で、媒介者に強制されるルールのあり方を考えるものである。

　この媒介者責任の制度は、実は、米国、EU、日本で大きく異なる。米国の通信品位法230条は、媒介者に対して削除等の対応を行っても行わなくても原則として責任を問われないという強力なフリーハンドを与えている。これに対して、EUで2022年に成立したデジタルサービス法は、媒介者が行うべき対応を、かなり具体的に示すことを目指している。日本のプロバイダ責任制限法は媒介者が免責される場合についてだけ規定をおいており、対処義務については個別の事例ごとに関連する法に基づいて判断がされる。

　しかし、これだけ異なる制度でも、一つだけ共通している考え方がある。「媒介者に常時監視は義務付けない」ということである。媒介者に原則として責任を課さない米国はもちろん、EUでも「媒介者（媒介サービスのプロバイダー）には、送信または保存する情報を監視する一般的な義務や、違法行為を示す事実や状況を積極的に探す義務は課されない（デジタルサービス法第8条）」として常時監視義務を否定している。日本プロバイダ責任制限法の規定も、原則として常時監視義務がないことが前提になっている。

　これは、そもそも媒介者が常時監視を行うことは、インターネットの自由な情報の流通を阻害する恐れがあり、望ましくないと考えられていたからである。また、当初は膨大な情報を人間がチェックすることが想定されており、インターネット企業にとって過度な負担を強いる懸念もあった。

　最近の動向として目を引くのは、EUのデジタルサービス法が、コンテンツ・モデレーションに関する規定を導入していることである。コンテンツ・モデレーションの実施が義務付けられている訳ではないが、コンテンツ・モデレーションが行われることを前提として、その透明性の確保するために報告義務を課している。特に、超大規模オンラインプラットフォームと超大規模オンライン検索エンジンに対しては、違法コンテンツや欧州社会に大きな脅威となるような情報による深刻な悪影響について特定・分析・評価し（34条）リスクの軽減に取り組むことなどが義務付けられており（35条）、講じられるべき取り組みとしてコンテンツ・モデレーションがあげられている。具体的な対処方法は各事業者に委ねる自主性も重んじた制度ではあるが、積極的関与を制度的に求めるようになったことは、大きな変化だと言えるだろう。

　こうした変化の背景には、現在の主要な媒介者が、巨大デジタル・プラットフォーム事業者であり、コンテンツへの対処能力も大きいと考えられるようになったことがある。また、媒介者の人工知能を始めとする様々な技術がコンテンツ・モデレーションをサポートできるようになっていることも影響しているだろう。そしてもちろん、このような大量のデジタル情報を解析して問題を検出する技術は、デジタル・フォレンジックスとも密接に関わるものである。

　事業者によるコンテンツ・モデレーションが、インターネット上のコンテンツの適正化に有効な場合があるのは確かである。しかし、媒介者による積極的な関与を制度的に促進することが、全体としてどのような影響を生じるのかは、まだわからないことが多い。今後行われる制度の検証に注目すべきであろう。

【著作権は、小向氏に属します】