米グーグル傘下のGoogle DeepMindは8月29日(現地時間)、Google Cloudと提携し、AIで生成した画像に人間の目では気付かれない電子透かしを入れ、識別を可能にする新ツール「SynthID」をベータ版としてリリースしたことを発表した。
人間の目には見えない電子透かし
ジェネレーティブAIによる画像生成技術は急速に進歩しており、AIが作製した画像をそれ以外の画像と区別することが難しくなっている。
「SynthID」はデジタル透かしを画像のピクセルに直接埋め込み、人間の目には気づかれないが、AI画像識別のために検出できるようにする技術だ。
当初はGoogle Cloudの機械学習プラットフォーム「Vertex AI」上の画像生成モデル「Imagen」でのみ利用可能だが、「将来的には他のAIモデルでも使用できるように拡張される可能性があり、近い将来、より多くのグーグル製品に統合され、サードパーティが利用できるようになる」という。
画像編集後も検知可能
これまでの透かしは画像にスタンプのように押されることが多く後から簡単に消せるため、AI生成画像識別用途には不向きであった。
また、これまで開発されてきた見えない透かしの中には、リサイズなどの簡単な編集技術で解除できてしまうものも多かった。
SynthIDは透かしを画像のピクセルに埋め込むことでフィルターを追加したり、色を変更したり、圧縮したりといった変更後でも、画質を損なうことなしに電子透かしを検出可能な状態に保つことができるという。
AIによって生成された可能性を3段階で評価
検出結果は、「透かし検出(Imaginによって生成されている)」「透かし未検出(AIで生成されていない)」「透かし検出の可能性あり(AI製かもしれない、注意)」の3段階で表示される。
Google DeepMindはこのベータ版で「ユーザーからのフィードバックを集め、SynthIDの機能を強化し、画像の生成や識別からメディアリテラシーや情報セキュリティに至るまで、あらゆる段階で安全、安心、信頼できるアプローチの開発に取り組んで」いくという。