NABLASとNTT東日本は8月25日、総務省の「インターネット上の偽・誤情報等への対策技術の開発・実証事業」に採択されたことを発表した。両社はコンソーシアムを構成し、「電話音声フェイク検知および自治体向け偽・誤情報総合対策の開発・実証」を同日より開始する。
巧妙化するAIフェイク音声や偽情報に対抗
生成AIの急速な普及により、誰もが高精度な画像や音声を手軽に生成できるようになった一方で、技術の悪用による偽情報の拡散や特殊詐欺が国内外で深刻な社会問題となっている。特に、生成AIで作られたフェイク音声による「なりすまし電話」は従来の手口より巧妙で、被害者が偽物と気づかずに騙されるケースが急増しているという。また、SNSなどで拡散される偽の画像や映像は、政治や経済、災害対応に混乱を招くリスクを孕んでいる。このような状況を受け、偽・誤情報を見破り、情報の信頼性を守る技術の社会実装が急務となっている。
今回の取り組みでは、電話音声の環境下におけるフェイク音声検知と、自治体向けの偽・誤情報拡散を防止するシステム開発という2つの柱で、情報の信頼性を確保し、安全・安心な社会の実現を目指す。
具体的な実施事項の1つ目として、電話音声フェイク検知技術の開発・実証を進める。最新の音声合成技術に対応した高精度な検知技術を開発し、音声形式や品質が変化しやすい電話の環境下でも安定した検知精度を維持できる技術の確立を目指す。開発した技術は電話アプリに組み込み、実際の電話サービス上での動作を実証する計画だ。実験では、生成AIが合成した音声を電話で流し、音声フォーマットや発着信のパターンなど、さまざまな条件下でフェイクとして検知できるかを確認する。
2つ目の実施事項は、自治体向けの偽・誤情報総合対策の開発・実証だ。ここでは、デジタル上で本人であることを証明するDID/VC技術を活用し、信頼できる投稿者かを確認可能にする。また、偽の画像や映像を検知する技術に加え、人の目には見えない情報を埋め込む電子透かし技術も活用する。これにより、情報が転載・拡散された際にも改ざんの有無を確認し、AIが事実に基づいているかを自律的に評価・判定するファクトチェックAIエージェントを開発する。これらのシステムは、長野県伊那市での実証実験を予定している。
本実証における各社の役割として、NABLASはプロジェクト管理と電話音声や画像・映像のフェイク検知技術、電子透かし技術、ファクトチェックAIエージェントの開発を担当する。NTT東日本は、電話音声フェイク検知システムの開発とDID/VC技術の開発、および開発されたシステム全体の評価を実施する。
両社は、今後も生成AIの普及と高度化に伴い、巧妙な詐欺やフェイク情報の流布はさらに増加すると予測している。本実証で得られた成果をもとに、将来的には自治体の広報や防災、危機管理業務などへの技術実装を進め、現場での実用性向上を図る。継続的な技術開発を通じて、信頼できる情報が正しく届き、フェイク情報が拡散されにくい社会の実現に向けて取り組んでいく構えだ。
