富士通、SNSに出回る“偽情報”見破るシステム開発へ

　富士通は7月19日、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が公募した「偽情報分析に係る技術の開発」の実施予定先に同社が選ばれ、偽情報の検知、評価のシステム化に関する研究開発に着手することを発表した。期間は2024年から2027年の予定で、事業規模は60億円。

偽情報の抽出から影響分析まで対応する総合システムを開発

　富士通が採択された「偽情報分析に係る技術の開発」は、経済安全保障の強化、推進のため、内閣府や経済産業省などが創設した「経済安全保障重要技術育成プログラム」の一環として実施される事業だ。

　同社が開発するのはSNSの投稿の真偽について、複数の見地から総合的に分析できるシステム。従来のシステムではテキストや画像、動画といった個々のコンテンツの真偽判定しかできなかったが、新たに開発するシステムではコンテンツごとの真偽判定に加え、複数の根拠の関係性から整合性や矛盾点を分析する仕組みを導入。人間による最終的な真偽判定の手助けや、当該投稿の社会的影響度の評価が可能になるという。

　導入先は官民両方を想定。どちらもユースケースに応じて要件を定義し、主に以下の4つの研究開発内容を組み合わせたシステムを構築する。

1.メディアごとの情報分析と偽情報検知

・SNSの投稿内容などからテキスト、画像、動画、音声などを分離して、それぞれの内容を分析。結果を根拠として利用するほか、作為性を判定する技術を開発

2.根拠、エンドースメント管理

・抽出した情報に対するさまざまな根拠をグラフ構造で表現し、管理するシステムを構築

3.総合真偽判定支援

・大規模言語モデル（LLM）を使用し、情報に紐付いた根拠の整合性、矛盾点を分析し、真偽判定を支援する技術を開発

4.偽情報影響度評価

・偽情報の特徴を分析し、情報拡散の規模や社会的な影響度を評価する技術を開発

　ネット上での偽情報の流通を巡っては、生成AIで作られた偽の画像や動画、音声（いわゆる「ディープフェイク」）など、人間が即座に真偽を区別できないケースが増加。日本でも著名人の顔写真を無許可で使った偽広告や、災害時に被災地の様子と称して虚偽情報を拡散するといった事態が発生し、問題となっている。

■関連サイト

• ニュースリリース
• 富士通