新清士の「メタバース・プレゼンス」 第127回

「Sora 2」は何がすごい？ 著作権問題も含めて整理

日本政府も対応要請 ただしまだ問題も

　国の動きとしては、城内実知的財産担当相が、10日の会見で、6日に内閣府の知的財産戦略推進事務局から、OpenAIに対して、オンライン電話で「著作権侵害となるような行為をしないように」と直接要請をしたことを明らかにしました。

　ここに至る経緯は、自民党の「AIの進化と実装に関するプロジェクトチーム」として活動している実績を持つ、塩崎彰久衆議院議員がnoteで明らかにしていますが、「直ちに、知的財産権に詳しい弁護士に相談。既存キャラクターに実質的に類似する映像を無断で生成・公衆送信することは、少なくとも翻案権（著作権法27条）、複製権（21条）、公衆送信権（23条）侵害に該当し得ること、そして法的救済手段の限界などを確認」したうえで、関係省庁の緊急協議を実施してできることを見極めていったようです。

　そして、5月に成立した「AI推進法」の16条を根拠に要請をするところまで進んだようです。16条では「不適切なAI活用により国民の権利利益が侵害された場合」に、政府が関係事業者に調査・報告を求め、必要な指導・助言を行う法的権限を定めているとしています。

　その制限範囲は、日が経つにつれてどんどんと厳しくなり、連想する言葉も通らなくなりました。ピカチュウを連想させる「黄色いネズミのぬいぐるみ」や初音ミクを連想させる「緑色のロングテールの少女」も軒並み通らなくなりました。

　Sora 2は生成を開始する段階のプロンプトをチェックして弾く場合と、生成後に動画内容をチェックして弾く場合の二段階に分かれているようで、生成段階にまで進むこともあります。しかし、特に後者はアニメ系のキャラクターは、初音ミクと限定されるわけではないのですが、動画生成までも進んだ場合でも、大半が弾かれてしまうようです。これは、Sora 2で生成すると初音ミクと判定される動画が生み出される可能性が高いということなのでしょう。

筆者が10月5日に試したプロンプトの結果。特定のキャラクター連想させる単語も軒並み生成されなくなった。

　一方で、本質的な能力が失われているわけではありません。著作物のチェックから漏れていると思われる生成物も出てきます。話題になったのは、とうやさん（@towya_aillust）が発見した「ロボットアニメのエンディング」とだけ指定したもの。

　何の特別な指定をしたわけでもないのに、「機動戦士ガンダム 水星の魔女」にそっくりな主人公キャラクターと、劇中のガンダムに近いロボットが出てきて、オープニング曲に似た曲が付いています。筆者も何度か試したり、「1980年代の」という追加条件をつけても、やはり同じような結果になりました（10月12日現在、状況は変わっていない）。

Sora2での「ロボットアニメのエンディング」というプロンプトでの生成結果。何回やっても同じような結果になる（画像はぼかしてあります）

　比較としてグーグルの動画AI「Veo3」でも試してみたのですが、ガンダム顔のロボットが出てきたものの、体はトランスフォーマー的要素も混じっていました。露骨に特定コンテンツのみを学習させたとは感じにくい印象を受けました。

　OpenAIはまったく学習方法などの内実を明らかにしていないので、現時点では断定できないとはいえ、ロボットアニメで特定のアニメに似た動画しか出てこないという状況は不自然です。ただ、これは学習分布の偏在、出力ガイダンスのバイアス、トロープ依存の複合要因で技術的には説明可能で、特定アニメへの集中学習を直ちに示すものではなく、学習の違法性も示すものではありません。しかし、出力が既存表現に実質的に強く近接する場合には、今後、法的争点となり得る可能性があります。

　Sora 2は、こうした特定条件下で似たものが出てくる近似問題を回避するようにする能力を持つ必要があると思われますが、初期セーフティ設計が甘く、現状はそうした能力を持っていないのでしょう。

　そして、この結果は、ユーザーがSora2で生成した動画が、意図せずに著作権侵害を引き起こすリスクが一定の頻度で起こり得るとも言えます。もちろん、本当に元となる著作物を知らなかった場合には、日本の著作権法上はユーザーには責任がないとされますが、実際の業務に使うにはそうも言ってられないため、利用する場合にはかなり注意をする必要が出てくるでしょう。