富士通は、2024年7月19日、SNSで流布する“フェイクニュース”などの偽情報を検知・評価するシステムの研究開発に着手したことを発表した。
現在、生成AIや合成コンテンツによる“偽情報の流通”が社会問題化している。ディープフェイクを用いた意図的な偽情報を見破る技術など、部分的な検討や研究は始まっているが、偽情報の抽出から分析まで一気通貫で対応するシステムはまだ登場していないという。
富士通が開発する偽情報対策システムは、SNSなどの情報に含まれる文章、画像、音声、動画が、生成AIなどで作られていないかどうかの“作為性”を判定する。加えて、様々な根拠の関係性を繋ぎ合わせた「エンドースメントグラフ」を用いて、整合性や矛盾を分析、社会的な影響度も評価するものになるという。
民需・官需向けのユースケースに合わせた要件定義をもとに、以下の4つの特徴における偽情報対策技術の開発を進め、これらを組み合わせたシステム化に取り組んでいく。
・特徴1：メディアごとの情報分析と偽情報検知
SNSの投稿内容などから文章、画像、音声、動画をメディアごとに抽出・分析し、その結果を根拠として用いると共に、作為性の判定を行う技術を開発
・特徴2：根拠、エンドースメント管理
特徴1で抽出した、インターネットの情報に対する様々な根拠を、グラフ構造化して管理するシステムを構築
・特徴3：総合真偽判定支援
大規模言語モデル（LLM）により情報に紐づけられた根拠の整合性や矛盾を分析し、情報の真偽の判定を支援する技術を開発
・特徴4：偽情報影響度評価
偽情報の特徴を分析し、拡散規模や社会的な影響度を評価する技術を開発
偽情報対策システムのイメージ
なお、同研究開発は、政府創設のプログラムの元で、新エネルギー・産業技術総合開発機構（NEDO）が公募した「偽情報分析に係る技術の開発」の実施予定先に採択されている。事業予算は60億円で、期間は2027年までを予定している。
