学習モデルに批判も AI画像で学習している疑い
アドビはこうした生成AI機能を使っているのかどうかを区別できるように、「コンテンツ認証情報」の仕組みを追加しています。現在はまだベータ版ですが、Photoshopであれば専用のタブを開くことで、何の生成AIツールを利用して作成されたのかといった履歴を確認することができます。フェイク画像対策では、この認証制度が重要な鍵を握ると考えられており、他社との連携を含めて、今後も拡張が進められていきそうです。
一方で、アドビは今、学習モデルについて批判をされています。アドビの学習モデルは、「オープンライセンス画像や著作権が切れた一般コンテンツのコンテンツライブラリを活用」し、ユーザーにより登録・販売されている「Adobe Stock」の画像データを学習してきたことで、「Fireflyで作成されたものは、すべて安全に商用利用できるように設計」しているとしてきました。それらの安全性がStable Diffusion、Midjourney、Dall-E3といったモデルよりも安全であるというアピールをしてきました。
![](/img/2024/06/09/3745523/l/162c7472a5e1b276.png)
Adobe Fireflyが、Midjouneryなどよりも優れていると主張しているブログ(リンク)
ところが、Adobe Stockには、Midjouneryなど他の画像生成AIによって作成された画像が多数登録されており、それらも学習に使われているのではないかという疑問が繰り返し出されているのです。2024年4月の米ブルームバーグ紙の報道によると、アドビは全体の約5%が含まれていることを認めたそうです。
![](/img/2024/06/09/3745525/l/9214cc20754ed56e.png)
Adobe StockでMidjouneryと検索した結果。これらのものは基本的には「AI生成」というタグが付いているため、学習に使用されていないと考えられるが、そもそも著作権的に問題がありそうな画像も少なくない
Adobe Stockで、Midjouneryのタグがついた画像を見つけるのは簡単です。これは、アドビがAI生成で作られた画像の投稿も認めているためです。現在では全体の14%にも及ぶと言われています。アドビは、生成AIの画像はその旨のタグを追加する必要性があり、それを学習には使っていないと主張しています。しかし、実際には含まれていないものも多数存在すると見られます。そうした画像が的確に省かれたどうかについて、詳しい情報は公表されていません。アドビは最終的には生成AI画像を学習データから除くとはしています。
ただ、アドビが生成AIに今後も力を入れていくことを止めるとは考えにくいです。アドビは、生成AI機能を同社製品のほぼ全てに拡張しようと推し進めています。昨年に、Fireflyエンタープライズ版で作成した画像で訴訟された場合は、全額保証すると発表しており、問題が起きれば、裁判を受けて立つ姿勢は変わっていません。アドビのユーザー数は同社の画像系のサブスクサービスである「Creative Cloud」の利用者は、2022年には2300万人に達しているとも推計されており、世界最大の画像系生成AIプラットフォームを目指していることは間違いありません。
![](/img/blank.gif)
この連載の記事
-
第69回
AI
“革命”起こした画像生成AIに暗雲 「Stable Diffusion 3 Medium」の厳しい船出 -
第68回
AI
AIが作る3Dモデルの完成度が上がってきた 毎回異なるモンスターが生成されるゲームも実現か -
第66回
AI
有名人そっくり、増え続けるAI音声 “声の権利”どう守る -
第65回
AI
画像生成AIに照明革命 日本と世界で同時に“神ツール”登場 -
第64回
AI
自分好みのAIチャット相手を簡単に作れる「Dify」が面白い -
第63回
AI
まるで“いけない話ができるChatGPT” ローカルAI「Command R+」の爆発的な可能性 -
第62回
AI
動画生成AI、映像制作の“民主化”目指して研究進む -
第61回
AI
画像生成AI“児童ポルノ”学習問題、日本では表現規制の議論にも -
第60回
AI
3Dアニメーション技術の革新が止まらない -
第59回
AI
政府、生成AI推進に向けて議論を加速 - この連載の一覧へ