このページの本文へ

大統領選挙でも気をつけたい「ディープフェイク」ってなんだ?

2020年10月30日 09時00分更新

文● せきゅラボ編集部

  • この記事をはてなブックマークに追加
  • 本文印刷

選挙で悪用される恐れがあるフェイク動画

 写真が普及した20世紀に、プロパガンダのため、写真の中にいる政治家が削除されていたというエピソードは、歴史の教科書にも出てくるほど有名だ。他にも、事件の現場や、戦場などを写した写真で、合成された形跡が見つかったというニュースは、21世紀になっても問題になることがある。

 今日において、気をつけたいのが「ディープフェイク」だ。人工知能を用いて、既存の画像や映像などを、別の画像・映像に合成する技術のこと。ディープラーニング技術を活用して既存の画像、音声、動画をソースメディアファイルに重ね合わせることで作成される。“ディープ”とは、ディープラーニングを意味している。

 たとえば、特定の人物がそのことを話していないのに、まるで話しているような映像が作れたとする。何らかの事情で直接話す映像が撮影できなくても、ディープラーニングを活用して、いかにもその人の声と仕草で話すような映像になる。あるいは、映画やニュース番組の吹き替えのときに、多言語にあわせた自然な口の動きの映像を作れるようにもなるだろう。

 一方、ディープフェイクが問題なのは、実際にはその場にいなかった、あるいはそうは言っていなかった絵像や映像が拡散され、虚偽のメッセージが広まってしまうことだ。

 また、著名な女性が、架空のポルノ動画を作られるという被害もある。たとえ動画がニセモノであっても、一度ネットに広がってしまうと、訂正することはとても困難になる。

 最近では、個人でも画像や映像の合成を容易にするソフトウェアなどが手に入りやすくなった。そのため、これからは、大がかりな機材を使わずとも、ディープフェイクが作れるようになっていくだろう。

 これらの動画は、2020年のアメリカ大統領選や、今後の選挙で、候補者や政党を中傷する情報の拡散に利用されるおそれがある。当事者や報道機関が異議を唱える間もなく、ソーシャルメディア上で拡散される可能性があるわけだ。

より一層の注意が必要になってくる

 サイバー攻撃でいえば、合成された音声などによる指示や、映像によるオンライン通話などで、企業や消費者が詐欺に遭う可能性がある。あるいは、企業の問題を訴えるフェイクの動画が拡散された場合、それを訂正する情報を広めることには、かなりのコストがかかってしまう。

 もちろん、セキュリティベンダーも手をこまねいているだけではない。マカフィーは、ディープフェイクの疑いがある動画を最新AIを活用して分析し、マスメディアやソーシャルメディアに提供する「McAfee Deepfakes Lab」の設立を発表している。

 個人レベルでは、やはりフェイク動画に気をつけることが大事だ。安易に拡散するのではなく、情報を目にしたときに冷静になる必要がある。何が事実で、何がフィクションなのかを見分ける、メディアリテラシーが重要になってくる。

 この情報を投稿したのは誰か、このコンテンツを共有するべきか、情報の受け手はしっかりと判断する必要がある。同じトピックについて、他の情報源がどのように掲載しているか、確認するのもよい。情報源を確認し、信用ができるかどうかを判断したい。

 安易に情報に飛びつかず、正しい情報かどうか精査する心がけとして、感情的に判断しない、という点が重要。SNS上のニュースは、よく確認する心構えを持つことが肝心だ。悪質なコンテンツに関しては、正規の問い合わせ窓口から通報することも考慮するとよいだろう。

 これからの時代に“フェイク”を見抜くにはより一層の注意が必要になってくる。McAfee Blogの「選挙2020–この選挙で偽のディープフェイクの動画を見つける方法」を紹介しよう。(せきゅラボ)

※以下はMcAfee Blogからの転載となります。

選挙2020–この選挙で偽のディープフェイクの動画を見つける方法:McAfee Blog

 ロバート・ダウニー・Jrとその他のアベンジャーズのキャストメンバーが、1939年のオズの魔法使いのキャストと顔を交換し、黄色いレンガの道をたどるビデオを見たことがあるかもしれません。または、俳優のニコラス・ケイジの顔、フレンズのキャストからフォレスト・ガンプまで、顔が交換されている膨大な数のビデオはどうでしょうか。それら面白くて不気味で、時には少しリアルすぎます。ディープフェイクー、これは、エンターテイメント性を備えながらも、面白くても、選挙を迎える年、まさに今、そして今後に渡り、悪い影響を与えるテクノロジーです。

ディープフェイクとは

 ディープフェイクは、見た目も音も本物のような偽のビデオまたは音声であり、巧妙なそれらは人々をだまして本物だと思わせることができます。それらあなたの子供や姪や甥が彼らのスマートフォンに持っているかもしれないそれらの顔を交換するアプリと同じですが、より洗練されています。ディープフェイキングソフトウェアのそれほど強力ではないバージョンは、上記のビデオを作成するYouTubeチャンネルで使用されています。ただし、より洗練されたディープフェイクテクノロジーは、政治家などの公人に関しては深刻な影響を及ぼします。

 あなたが文字通り彼らの口に言葉を入れた公人のビデオを作成することを想像してみてください。それがディープフェイクにより行われることなのです。これは、脅威の戦術、脅迫、個人的なイメージの妨害につながる可能性があり、選挙の年には、偽情報の拡散につながる可能性があります。

ディープフェイクは疑いの種をまく

 ディープフェイクは、あなたが見ているものや聞いているものが実際に本物であるかどうかを疑問視させる可能性があります。選挙の年に関して、それらは私たちの言説にさらに別の疑いの層を導入する可能性があります。人々は、政治家が今までに言ったことのないことを言ったと信じるようになります。そして、逆に、政治家に悪い印象を与えた結果、実際にはそうではないのに、本物のオーディオまたはビデオクリップをディープフェイクとして非難する可能性があります。

 テクノロジーおよびセキュリティ業界は、ディープフェイクを検出して発見するための独自の取り組みを展開することで対応してきました。そんな中マカフィーでは、このたび、マカフィーディープフェイクラボを立ち上げました。これは、従来のニュースやソーシャルメディア組織に、2020年の米国選挙シーズン以降の個人や組織に関する評判を傷つける嘘を広めることを目的としたディープフェイクの疑いのある動画の高度な人工知能(AI)分析を提供します。

 しかし、インターネット上でディープフェイクに遭遇したとき、または遭遇したと思うとき、あなたは何ができるでしょうか?選挙の誤報に関する私の最近のブログのように、メディアに精通したいくつかのヒントが道を示しています。

ディープフェイクを見つける方法

 テクノロジーは絶えず進歩していますが、あなたが見ているビデオがディープフェイクであるという典型的な兆候がまだあります。ディープフェイクの作成者は、今日のテクノロジーでは被写体の微妙なタッチをキャプチャするのが非常に難しいため、以下のように細部を見落とすことを期待しています。

・顔:特に被写体がカメラの方を向いているときにテクノロジーが最適に機能するため、頭の動きが画像のレンダリングにわずかな不具合を引き起こす可能性があります。
・肌:しみなどでまだらな、不規則な肌の色、または顔の端のちらつきはすべて、ディープフェイクビデオの兆候です。
・目:他の欠陥は、眼鏡、無表情に見える目、間違った方向を向いているように見える目などによって発生する可能性があります。同様に、虹彩に反射した光は、状況と一致しない、奇妙に照らされているように見える場合があります。
・髪:飛び散った髪の毛や、人の笑顔に見られる不規則性のいくつかは、ディープフェイクにとって引き続き課題です。代わりに、その髪の毛は少し完璧すぎるように見えるかもしれません。
・笑顔:ディープフェイクでは、歯が常にうまくレンダリングされるとは限りません。人々の笑顔に見られる通常の不規則性を示す代わりに、白いバーのように見えることもあります。また、リップシンクの不整合にも注意してください。

言っていること、そしてそれをどのように言っているかを注意深く聞く

 これは重要なことです。ソーシャルメディアフィードで偽のニュースや誤った情報を見つける方法に関する最近の記事で指摘したように、ディープフェイクのコンテンツは、嘲笑、嘲笑、怒り、怒りの感覚など、感情をかき立てることを目的としています。あなたが見るいくつかのビデオへの感情的な反応は、ディープフェイク自体のハードで速い指標ではありませんが、それはあなたに一時停止の瞬間を与えるはずです。言っていることをよく聞いてください。その信頼性を考慮してください。動画のプロデューサーやポスターの動機について尋ね、ビデオが実際に本物であることを確認するために、追加の信頼できる情報源を探してください。

 人がどのように話すかについても考慮することが重要です。ディープフェイクテクノロジーのもう1つのコンポーネントは、オーディオディープフェイクです。つい最近の2019年、詐欺師はオーディオディープフェイク技術を使用して、電話でCEOの声を模倣することにより、英国に本拠を置くエネルギー会社から25万ドル近くを詐取しました。ビデオ版と同様に、オーディオディープフェイクは、驚くほどリアルに聞こえるか、少なくとも疑いの種をまくのに十分リアルに聞こえます。特徴的に、この技術には欠点があります。オーディオディープフェイクは「オフ」に聞こえることがあります。つまり、通常の人間の感情的な手がかりが取り除かれたように、冷たく聞こえるか、リズムがオフになり、ロボコールのようにフラットに聞こえます。

 この選挙シーズン以降のすべてのものと同様に、注意深く見守り、批判的に耳を傾けてください。そして、常に独立した確認先を探してください。.GOV-HTTPS郡のWebサイト調査、潜在的な偽情報キャンペーン、選挙に対するその他の脅威、および有権者の安全に関するヒントの詳細については、選挙2020ページをご覧ください:https://www.mcafee.com/enterprise/en-us/2020-elections.html

最新情報を入手

 マカフィーに関するすべての最新情報、および最新のコンシューマーおよびモバイルセキュリティの脅威に関する最新情報を入手するには、Twitterで@McAfee_Homeをフォローいただき、ポッドキャストHackableをお聴きください。

※本ページの内容は2020年10月12日(US時間)更新の以下のMcAfee Blogの内容です。
原文:Election 2020 – How to Spot Phony Deepfake Videos this Election
著者:Judith Bitterli

※本記事はアスキーとマカフィーのコラボレーションサイト「せきゅラボ」への掲載用に過去のMcAfee Blogの人気エントリーを編集して紹介する記事です。

■関連サイト

カテゴリートップへ

5分で解説! あなたとスマホは狙われている

マカフィーは大切なものを守ります。