国立情報学研究所（NII）は、AIが生成したフェイク顔映像の真偽を自動判定するプログラム「SYNTHETIQ VISION: Synthetic video detector」をサイバーエージェントが採用し、著名人のディープフェイク映像検知で実用化すると発表した。
今回サイバーエージェントが展開しているサービス「デジタルツインレーベル」において、同技術が採用され、AIにより生成されたフェイク顔映像を真偽自動判定する技術が、実サービスに導入されるのは国内初となる。
近年、人間由来のデータを大量にAIに学習させることで、本物と見紛う「シンセティックメディア」の生成が技術的に可能となった。
現在ではこれを悪用し、詐称や情報操作などに使われる可能性がある。とりわけ、映像中の人物の顔を他人の顔に置き換えたディープフェイク映像による偽情報の流布が、社会問題になっている。
SYNTHETIQ VISIONは、大量のデータに基づく自動識別をし、人間による分析等を一切必要としない手法で判定している。さまざまな画質の映像を学習しているため、圧縮やダウンコンバージョンなどのメディア処理で画質が低下した映像でも一定の信頼度による判定を行なえる。
同技術を実際の映像に適用して真偽判定するには、複数の高度な深層学習技術を直接操作できる技術レベルが必要だった。そこで、他のアプリケーションにも本技術を容易に導入できるパッケージとして、真贋判定を行なう映像をサーバーにアップロードし、判定結果を示した映像をダウンロードするまでの全てのプロセスを利用可能なプログラムとして開発した。
リリース全文はこちら。
