新清士の「メタバース・プレゼンス」 第61回

画像生成AI“児童ポルノ”学習問題、日本では表現規制の議論にも

日本国内ではグレーのままにされる可能性が高い

文化庁「『AIと著作権に関する考え方について（素案）』に関するパブリックコメントの結果について」より

　文化庁の「AIと著作権に関する考え方について」のために募ったパブリックコメントで、この問題についての意見が扱われています。児童ポルノやCSAMの学習段階での抑止と生成段階での法規制を求める意見があり、それに対して、文化庁の回答は「刑法、児童ポルノ禁止法等の関係法令において規制が設けられており、これらの法令における禁止規定に該当する行為があった場合、これらの法令に基づく刑事罰等の措置を受けることとなります」というものでした。刑法・児童ポルノ禁止法の所轄官庁は、法務省であるため、文化庁では法令に基づいて措置されるということ以上に主張することができません。

　それでは、法務省の見解はどうか。自民党・山田太郎参議院議員の公式動画チャンネルの4月3日放送分によると、事務所が法務省に見解を問い合わせたところ、「違法性があるものがAIで扱われた場合には、法務省で議論していないどころか結論を出そうとしない。法務省は個別の事案（という返答）で結論が出ない」（山田氏）という状況のようです。

　法務省は、裁判時の解釈の自由度を縛ってしまうことになるため、積極的にガイドラインといったものを作成するつもりはなく、あくまで裁判が起こされ、判例ができるまでは見解を決めるつもりはないようです。

「山田太郎のさんちゃんねる」2024年4月3日放送より。

　山田議員事務所の小山紘一政策秘書はこれについて、かなり踏み込んで問い合わせたようです。

　「元々違法なコンテンツがありました。それを機械学習しました。パラメーターになってAIに（コンテンツは）残っていません。その段階でAIの学習行為は（法的な評価は）どうだったのですか？　法務省は『まったく考えていません』。学習してしまったモデルはどういう法的な評価を帯びるのですか。（法務省は）そこもまったく考えていません」（小山政策秘書）

　また、LAION-5Bに含まれるCSAMの枚数は、LAION-5Bの全体からすれば0.000017％以下という天文学的に小さい数値でそのまま学習したデータにそっくりな画像を出力する可能性はほぼないと言える低いものです。だからこそ法的な評価が重要になります。

　「生成AIから実在児童の児童ポルノは論理的に出るのかという話もあると思います。そもそも実在しているものを出せるのか。そして、たまたま出てきたら、それは実在の児童に似ていたからといって、それは実在児童の児童ポルノなのかどうかも法務省は考えていない」（小山政策秘書）

　結局のところ、日本では、具体的な裁判事例が出ない限り、先に法務省が何らかの見解を示す可能性は低そうです。ただ、生成・利用段階で、アウトプットが実在の人物のフェイク画像のような高い類似性を持つものであれば、立件の余地は十分にあると考えられます。一方、Stable Diffusionの基盤モデルを、開発・学習段階で、日本国内で違法であると裁判で追求するのは、論拠の組み立ても含めて相当難しいと思えるのですが、確定的なことは言えません。合法か違法か、明確にならないままの状態が続く可能性が高いと考えられます。