合成画像や合成動画を検知するツールを開発しているディープトレイス（DeepTrace）の新しい報告書によると、インターネット上には少なくとも1万4678件のディープフェイクが存在するという。しかし、その大半は選挙を混乱させるために作られたものではない。
ディープフェイクは2017年の後半に登場した。本来ディープフェイクという言葉は、有名女優の顔とアダルト映画スターの体を組み合わせた、人工知能（AI）によって生成された偽のポルノを指していた。その後、「ディープフェイク」の意味は拡大され、あらゆる種類の内容を操作された映像を指す言葉となった。マーク・ザッカーバーグがフェイスブックについて偽のスピーチをする映像もその1つだ。ディープフェイクは真実の終わりと民主主義を揺るがす恐怖を煽っている。
先のディープトレイスの報告書によると、ディープフェイクの大半は政治に影響を与えるために作られたものではない。ディープフェイクの96%は、単純な昔ながらのフェイクポルノである。「ディープフェイク・ポルノは、女性だけを狙って被害を与える現象です」と報告書は述べている。すべてのフェイクポルノには女性が含まれており、その大半は有名な女優やミュージシャンだ（ユーチューブ上にあるポルノではないディープフェイクの大半には男性も入っている）。数自体はそれほど多くはないが、急激に増えているのは懸念すべき点だ。
ディープフェイクの問題には議員たちも注目している。カリフォルニア州では、ディープフェイクを制限する2つの法案にギャビン・ニューサム知事が署名したばかりだ。1つは、選挙までの2カ月間、政治家を対象とした悪意のあるディープフェイクの作成と配布を違法とするものだ（すでに米国自由人権協会（ACLU）と電子フロンティア財団（Electronic Frontier Foundation）は、この法律は対象が広すぎて政治的言論を損なうとして、反対の姿勢を見せている）。2つ目のディープフェイク法は、ディープフェイクの実際の使い方により迫ったものだ。この法律により、同意なしに自分の画像がディープフェイク・ポルノで使用された場合、被害者は訴訟を起こせることになる。
