新清士の「メタバース・プレゼンス」 第139回

AIフェイクはここまで来た　自分の顔で試して分かった“違和感”と恐怖

国のディープフェイク対策は

　現在、国ではこうした警察などを通じた対処以外に、2025年4月に施行された「情報流通プラットフォーム対処法（情プラ法）」を通じて、SNSなどのプラットフォームに違法なディープフェイクが出回ることを抑えようとしています。例えば、9日、林芳正総務大臣は定例会見で、「性的画像の拡散に関する報道については承知しております」とした上でで、情プラ法で定める「違法情報ガイドライン」に基づいて、「Xに対して違法情報ガイドラインを踏まえた適切な対応を促す」と発言しています。

　また、12月には、自民党が「ディープフェイク対策合同プロジェクトチーム」を新設し、前デジタル大臣の平将明衆議院議員が座長として就任したことを明らかにしています。大きなテーマとして「SNS型投資詐欺」があげられており、2027年の通常国会なりでの法案提出を目標に、今後、本格的な議論が進むものと思われます。

自民党の発表

　ディープフェイク画像であるかどうかを見抜く仕組みも、グーグルは提供しています。飲み会の写真をGeminiに判定させたところ、Nano Bananaで生成した場合には入る電子透かしSynthIDの検知を理由にAI画像であると断定してきました。しかし、コラージュしたり、一定の加工を与えると判定ができないことが起こるため、完全ではありません。

　また、性的目的の画像では、AI画像であるかどうかが問われるケースは少ないので、透かしは予防策としては決定的なものではありません。

飲み会の画像を、AI生成かどうかをGeminiに判定させた結果

責任は基本的に利用者とプラットフォームに

　よくも悪くも、ディープフェイクは、大きく広がることでしょう。クリエイティブの現場では、AIに人物の一貫性を担保する中核技術となりつつあります。一方で、負の側面として、悪意を持った利用者が、様々なトラブルを引き起こすことも避けられません。

　現在のところ、日本国内では、国はディープフェイクが存在するから、生成AI技術そのものを規制すべきという動きにまではなっていません。あくまでまず利用者の責任であり、また情報が拡散されるプラットフォームの責任というのが基本です。しかし、応用例が増加する中で、今後、予想外のケースは十分起こり得るため、注視が必要な技術であることは間違いないでしょう。

 

筆者紹介：新清士（しんきよし）

1970年生まれ。株式会社AI Frog Interactive代表。デジタルハリウッド大学大学院教授。慶應義塾大学商学部及び環境情報学部卒。ゲームジャーナリストとして活躍後、VRマルチプレイ剣戟アクションゲーム「ソード・オブ・ガルガンチュア」の開発を主導。現在は、新作のインディゲームの開発をしている。著書に『メタバースビジネス覇権戦争』（NHK出版新書）がある。