このページの本文へ

前へ 1 2 次へ

世界最大テックイベント「CES 2025」現地レポート 第37回

本物の映像かディープフェイクなのかを瞬時に見分ける技術

AIが作った偽の動画は、もう誰も騙せなくなる

2025年01月14日 08時00分更新

文● せきゅラボ

  • この記事をはてなブックマークに追加
  • 本文印刷

インタビューに応じてくれた、マカフィーの最高技術責任者 スティーブ・グロブマン氏

アメリカ総選挙で話題になったディープフェイク

 2024年春、選挙に関心の高い人々の間で、そしてアメリカの政治情勢全体においても、ディープフェイクが大きな話題となった。

 共和党のドナルド・トランプ氏を応援する陣営が、黒人有権者の支持を装うAI生成画像を作成し、拡散した疑いが広まったことで、選挙戦略の公正性や倫理に対する議論が沸き起こったのだ。

 ディープフェイクとは、AI技術を用いて写真や動画、音声などを加工し、本物そっくりの偽物を作り出す手法を指す。こうした技術が誤情報の拡散に利用されることで、選挙の透明性や有権者の判断に影響を与えることへの懸念が高まった。また、近年では専門的な知識がなくても、誰でも簡単にディープフェイクを生成できるツールが登場している。発展し続けるAI技術の、負の側面だ。

 だが、ディープフェイクを用いた有権者に対する政治的な判断のかく乱も、長くは続かないかもしれない。

 本稿ではマカフィーの最高技術責任者 スティーブ・グロブマン氏に対するインタビューを通じて、CES 2025で発表されたマカフィー詐欺検知の特徴を紹介する。

サイバーセキュリティのトレンドは「個人にカスタマイズした攻撃」

──AI技術の発展にともなって、AIを悪用した詐欺や、ディープフェイクによる政治的な判断のかく乱といった問題も起きています。

スティーブ・グロブマン氏「スカム(スパムの中でも、特に金銭の窃取などの詐欺行為を目的としたもの)の技術が、ここのところ急速に発展しています。ですが、私たちもまた、それに対抗するための技術の開発を急ピッチで進めてきました。我々がもともと持っているデータベースを使いながら、毎日、新しい技術を試し、技術を向上させ続けています」

 ここでの技術とは、マカフィーが発表した新機能「マカフィー詐欺検知」のコア技術を指している。

マカフィー詐欺検知の使用イメージ。受信ボックス上で、スカムが疑わしいメールに警告のラベルが表示されている

 マカフィー詐欺検知は、メール、ショートメッセージ(主にSMS)、動画に対して包括的な防御を実現する機能。ユーザーが、スカムの疑いがあるメールやショートメッセージを受信すると、疑わしいメールやショートメッセージに警告ラベルが付与され、かんたんに見分けられるようになる。

こちらは動画配信プラットフォーム上での使用イメージ。イーロン・マスク氏のディープフェイク動画を再生すると、数秒で動画エリアの左上に警告のラベルが表示された

 また、動画配信プラットフォーム上のディープフェイク動画に対しては、動画再生ウィンドウの上にオーバーレイするようにして、警告のラベルが表示される。いずれも、警告が表示されるまでにかかる時間は数秒と短い。

 メール、ショートメッセージの分析においては、メールやショートメッセージの文面そのものだけでなく、リンク先の内容も自動的に参照して、その危険性を判断している。ディープフェイク動画の分析機能においては、動画の中で、ディープフェイクが疑わしいカットがいくつ検知され、どの程度疑わしいのかという根拠も示してくれる。

スキャンを何回実施したか、また分あたり/ここまでの再生時間中で何度疑わしいカットが検出されたかが表示される。この数値の大きさを根拠にして、警告ラベルを表示させる

 ほとんどの場合、ユーザーがスカムに反応してしまうよりも先に警告が表示されるだろう。利用方法は、グーグルやマイクロソフトのアカウントと連携するだけとシンプル。AI利用向けに最適化されたデバイスを用意する必要はなく、ここ数年で発売された先進的なスペックを持つPCやスマートフォン、タブレットなら、多くのモデルで利用できるという。

──2025年のマカフィーは、この分野に注力していく予定ですか。

スティーブ・グロブマン氏「はい。この分野には特に注力していく予定です。より包括的に言えば、こうした技術に加えて、デバイスそのものへの保護、また両者の組み合わせを通じて、消費者のデジタルライフを従来よりもさらに総合的に、さまざまな角度から保護していくことが、今年のマカフィーの技術的な方針になるでしょう」

AI技術の負の側面、ディープフェイクに対する防御策とは

──ディープフェイクは、アメリカ総選挙でもかく乱目的で悪用されたというニュースで話題になりました。ほかにも、AI技術を悪用した代表的な事例はありますか?

スマートフォンでマカフィー詐欺検知を有効にしたところ。デバイスを問わずUIは統一されており、わかりやすい

スティーブ・グロブマン氏「全体的な傾向として、幅広い意味でのサイバー犯罪は、よりパーソナルで、より信憑性の高いものへと発展しています。例えば、仕事を探している人に対しては、仕事を探している人が反応しそうな内容を、買い物をしようとしている人には、買い物をしようとしている人が反応しそうな内容のスカムが送りつけられるのです。窃取された情報を元にした、個人の消費者向けにカスタマイズされたスカムです。(特定の事例というよりも)個人向けにカスタマイズされた詐欺がサイバー犯罪の世界で急速に広がっているということ自体が、最近の大きな潮流であると言えるでしょう」

前へ 1 2 次へ

カテゴリートップへ

この連載の記事