画像クレジット:Stephanie Arnett/MITTR | Envato
パリ同時多発テロの遺族がグーグルを相手取って起こした訴訟の弁論が、米最高裁で始まった。有害なコンテンツの「おすすめ」は法律に違反しているというのが遺族の主張だ。判決によっては大手テック企業は、レコメンド・アルゴリズムの大改修だけでなく、プラットフォームの再構築まで迫られる可能性がある。
この記事は米国版ニュースレターを一部再編集したものです。
レコメンド・アルゴリズムは、私たちがネット上で目にするコンテンツにランクを付け、デジタル・プラットフォームでどのように投稿、ニュース記事、およびフォロー中のアカウントが優先的に表示されるかを決めている。レコメンド・アルゴリズム、そしてそれが私たちの政治に及ぼす影響に関しては、以前大きな議論を呼んでいた。ケンブリッジ・アナリティカ（Cambridge Analytica）、フィルターバブル、そしてフェイクニュースの増幅などについての議論を思い出してほしい。
そして今、レコメンド・アルゴリズムに関して、重要な訴訟が進行している。判決によっては、私たちのオンラインでの生活が完全に変わってしまうかもしれないほど、影響力のある訴訟だ。2月21日、米国最高裁にて、2015年のパリ同時多発テロで犠牲になったノエミ・ゴンザレスの家族がグーグル（Google）を訴えている訴訟が始まった。グーグルは、ユーチューブのおすすめ欄でイスラム国（ISIS）のコンテンツを訴求した。これは対テロリズム法に違反するという訴えだ。この訴訟は、裁判所が通信品位法の第230条と呼ばれる法律の規定をもとに判断を下す、初めての例となる。
通信品位法230条は、数十年にわたって、何らかのユーザー生成コンテンツを扱う巨大インターネット企業、たとえばグーグル、メタ（Meta Platforms）、ウィキメディア（Wikimedia）、AOL、さらにはクレイグズリスト（Craigslist）が、その運営規則、そしてしばしばその事業を構築する上での基盤としてきた、法的根拠である。先日記事に書いた通り、通信品位法230条は、「長きにわたって、有害なユーザー生成コンテンツについての訴訟からソーシャル・プラットフォームを守ってきたと同時に、ソーシャル・プラットフォームに対して独自の裁量で投稿を削除する権限を与えてきた」ものだ（トランプ前大統領もバイデン大統領も、通信品位法230条の廃止に賛成している。両大統領とも、通信品位法230条はほとんど監督のない状態でプラットフォームに過剰な権力を与えると論じている。テック企業および言論の自由を擁護する活動家の多くは、通信品位法230条の廃止を望んでいない）。
米国最高裁は、極めて細かな点を論点としている。コンテンツのレコメンドは、コンテンツの表示と同じなのか、という点だ。コンテンツの表示は、通信品位法230条での保護の対象となることが広く受け入れられている。
この訴訟に、インターネットの今後が全面的にかかっている記事に書いた通り、「通信品位法230条が廃止、あるいはこれまでとはかなり異なる形で解釈されることになると、ユーザー生成コンテンツを扱う企業は、コンテンツ・モデレーションのアプローチを変えなければならないかもしれない。そしてその過程で、プラットフォームのアーキテクチャーを全面的に変更する必要に迫られる可能性がある」。
ここでは難解な法律用語には触れずに説明したいのだが、理解するべき重要な点がある。それは、レコメンド・アルゴリズム（特にテロリストを支援するもの）と、コンテンツの表示およびホスティングの間には、線引きができるように思われるかもしれないが、技術的には線引きは非常に曖昧だという点だ。アルゴリズムが、ほとんどのコンテンツに時系列、位置情報、またはその他の条件で順位を付けており、どのコンテンツを表示するかを何らかの形で決めている。そのため、どのコンテンツを表示するかを決めるアルゴリズムとアルゴリズムによる増幅、つまり特定のコンテンツを意図的に優先させ、場合によっては有害な（そして場合によっては有益な）結果をもたらす行為の間に線引きをするのは簡単ではないと考えるテック企業もあり、同様の考えの専門家もいる。
先日の記事では、レディット（Reddit）の「賛成」などの機能を含むオンラインのコミュニティ・モデレーション・システムに対して判決が持つリスクに焦点を絞った。しかし、私が話を聞いた専門家らは、ほかにもさまざまな懸念を抱いていた。専門家の多くは、米国最高裁が技術面および社会面に注意を払った判決を明確に下すことは期待できないのではないか、という懸念をそろって口にしていた。
サンタクララ大学法学部の副学部長であるエリック・ゴールドマン教授は、「米国最高裁が判決を下すということで、私はあまり期待できません」と取材に答えている。ゴールドマン教授は、判決が意図せぬ結果を幅広い範囲にもたらすのではないかと懸念しており、「インターネットを殺してしまう見解」が表明される危険があると心配している。
一方で、アルゴリズムが個人や社会にもたらす危害は受け入れられない水準に達しており、アルゴリズムを法律で規制する方がより望ましいかもしれない。米国最高裁はこの機会をしっかりつかんでインターネット関連の法制度を変えるべきだと取材に答えた専門家もいる。
カリフォルニア大学バークレー校で電気工学と情報学の教授を務めるハニー・ファリドは、「私たちは皆、技術の動向、特にインターネットを見て、『これは良くない』と考えています」と取材に答えている。「私たち個人にとっても良くないですし、社会にとっても良くないですし、民主国家にとっても良くありません」。
ファリド教授は、ネット上の子どもの性的虐待に関するコンテンツ、新型コロナウイルス感染症に関するデマ、そしてテロ扇動コンテンツの拡散を研究する中で、コンテンツ・レコメンド・アルゴリズムが、極めて破壊的なコンテンツからユーザーを守ろうとしていない実態を目の当たりにしてきた。
読者も、何らかの形で同様の経験をしたことがあるのではないだろうか。私も最近、同様の経験をした。それについては、別のエッセーにしている。私の父が最近がんと診断されて以来、私のデジタル・ライフがアルゴリズムに侵食されていったのだ。このエッセーは私にとってこれまでで最もつらい思いで書いたものの1つであったし、当事者として最も心を痛めながら書いたものであったことに間違いはない。私はこれまで10年以上、エマージング・テクノロジーと政策の世界で仕事をする中で、監視資本主義の最も懸念すべき影響の一部を調べ、観察してきた。しかし、自分自身に合わせて調整されたアルゴリズムのせいで、過激かつ要注意のコンテンツばかり表示されるようになるという体験は、完全に別物だった。
私は、意識的に、そして無意識的に、インスタグラムの動画、様々なニュースフィード、そしてツイッターでの体験記などを通して、愛する人を亡くした人々の悲痛な体験や悲劇を追体験し始めた。それはまるで、インターネット全体が私の衝動と秘密裏にタッグを組んで、私が最も恐れていることばかりを表示してきたかのようだった。
そうとわかりつつ、私がさらに検索してクリックするたびに、うかつにも私の周りには、愛する人との死別についての記したコンテンツが、ネバネバした蜘蛛の巣のように張り巡らされた。ついには、この蜘蛛の巣から自力で抜け出すのはほぼ不可能な状況となった。私に合わせてパーソナライズされた恐ろしいアルゴリズムが、愛する人との死別との可能性に向き合う私のデジタル・ライフを、琥珀のように永久化してしまった。アルゴリズムは、私の頭からがんや死が離れなくなっていることを巧みに見抜き、がんや死に関するコンテンツをさらに提示してきたのだ。
簡単にいえば、私のグーグル、アマゾン（Amazon）、ツイッター（Twitter）、そしてインスタグラム（Instagram）などのプラットフォームにおけるオンライン体験が、がんや愛する人との死別に関する投稿だらけになったということだ。それは不健全なことだった。それに、私の父が回復期に入ってからも、こうしたアプリはがんや愛する人との死別に関するコンテンツを表示し続けた。
私は、数カ月にわたって、おすすめアルゴリズムがどれほど強権的かつ有害になりうるか、そしてパーソナリゼーションによって有害なコンテンツが表示されるようになった際にはどうすべきか、専門家に取材を続けてきた。その中で、私たちのデジタル・ライフを管理するにあたっての様々なヒントを集められた。しかし同時に、テック企業さえも、自社のアルゴリズムを管理するのにかなり手こずっていることがわかった。その理由の1つは、機械学習だ。
たとえば、私のグーグル・ディスカバー（Google Discover）のページには、がんや愛する人との死別についての様々な記事が表示されていた。しかし、これはグーグルのターゲティング・ポリシーにそぐわない。同社のターゲティング・ポリシーでは、システムにおいて繊細な健康問題についてのコンテンツが表示されないようにする旨が定められているはずだ。
想像してみてほしい。摂食障がいや自傷行為の傾向で苦しんでいるティーンエイジャーに対して、動揺してしまうようなコンテンツが大量にコントロール不能な形で次々と表示されれば、それはどれほど危険なことであるだろうか。もしくは、最近流産を経験した女性に対してなら、どれほど危険だろうか。実際、そのような体験を友人がした旨のお便りを、私のエッセイの公開後に1人の読者の方からいただいている。もしくは、ゴンザレスの場合と同じように、イスラム国（ISIS）がリクルートしようとしている若い男性に対してなら、どれほど危険だろうか。
つまり、この訴訟は、司法の場ではおおよそ理論的なものにとどまるように思われるかもしれないが、実際には私たちの日常生活、そしてインターネットが社会で受け持つ役割の根幹に関わる問題なのだ。カリフォルニア大学バークレー校のファリド教授は私に、「『ねえ、これは私たちの問題ではないよ。インターネットはインターネットなのさ。インターネットは世界を反映しているに過ぎないんだよ』ということもできるかもしれませんが、私はその考えは受け入れられません」と語ってくれた。しかし、レコメンド・システムは、インターネット上の情報整理の役割も受け持っている。レコメンド・システムなしで、私たちは本当に生きていけるだろうか。
◆
他の気になるニュース
マグニチュード7.8の地震では、トルコとシリアで壊滅的な被害が発生しており、死者数は2万人を超えるまでに膨れ上がっている。
- ロビン・ファンがワイヤードに寄せた私たちを元気づけてくれる記事を読んでみてほしい。ソフトウェア・エンジニアが救援活動を支援するために取り組んでいる大規模なプロジェクトについての記事だ。地震発生の翌日までには、1万5000人の専門技術者が、「地震被害者支援プロジェクト」にボランティアで加わった。トルコ人起業家フルカン・クルチュおよびエセル・オズヴァタフが率いるプロジェクトで、瓦礫の下に取り残されて苦しんでいる人の居場所を突き止める機能、そして支援物資を配るための機能を有するアプリケーションを構築するというものだ。このプロジェクトで真っ先に生み出されたアプリケーションの1つが、救援を必要としている生存者のマップだ。ソーシャル・メディアにおける救援要請をスクレイピングし、その位置情報を特定する機能を持っている。
そしてもちろん、あの偵察気球の話題だ。2月4日に米国が撃墜した巨大な中国の気球について、詳細情報が次々と伝えられている。
- 米国は、この気球は複数のアンテナを使って電子「信号情報」を収集していたと発表している。つまり、通信を監視していたということだ。携帯電話および無線機器などの端末からデータを収集し、その位置情報を特定していた可能性があるということだ。具体的にどのような情報がどのように収集されていたのかについて、詳しいことはまだあまり分かっていない。それでも、米国で残骸の収集が進められているので、さらなる情報が出てくるかもしれない。
- この件は、すでに危うくなっている世界の2大強国間の関係にさらなる緊張をもたらすものであり、また新たな技術的な冷戦の1コマでもある。
- バイデン大統領が一般教書演説にて語った、「しかし私は断固としてとしてこう言いたい。我々は、米国をより強くするために投資を続けている。米国のイノベーションに投資している。未来を決定づける、中国が独占したいと考えている業界に投資している。我々の同盟国に投資し、同盟国と協力して、中国が先進技術を我々に対して使用しないよう、先進技術を守っている」という部分は、まさにこのタイミングにぴったりの内容だ。
一般教書演説では、バイデン大統領は巨大テック企業にも数回言及した。これまでになくはっきりとした言葉遣いで、技術政策に関して、今後動きが激しくなるという、これまでになく明確なシグナルを送ったのだ。議会では新たにねじれ状態が生じているが、その中でも技術政策は、両党が合意できる可能性がある数少ない分野の1つだ。
- バイデン大統領は、反トラストの取り組みにさらに注力してテック業界の独占状態の解消を目指すことに加えて、若者のデジタル・プライバシーの保護、ターゲティング広告の制限、そして個人データの利用の制限にも言及した。両政党からスタンディング・オベーションが巻き起こった、数少ない瞬間だった。
- しかし、だからといって、連邦レベルでのオンライン・プライバシー法案の可決に近づいているということにはならない。議会よ、一体いつになったら仕事をしてくれるのだ。
最近分かったこと
米国では、オンラインのデータ・プライバシーに関して、巨大な知識格差がある。ほとんどの米国人は、オンライン・データについて、そして企業がオンライン・データを利用して何をしているかについて、その基本すら理解していないということが、ペンシルベニア大学のアネンバーグ・コミュニケーション大学院が2000人の米国人を対象に実施した新たな調査で判明した。調査対象となった80%が、自身のオンラインでの行動を通して企業に知られてしまった情報が、自身にとって有害な形で使用されるかもしれないと考えていたにもかかわらずだ。
研究者は、人々がオンライン・データ慣行について何を知っているかを見極めるために、17項目の質問を用意した。もしこれが試験であったなら、大部分の人は落第するような結果となった。回答者の77%は、正解数が10に満たなかったのだ。
- オンライン店舗が位置情報に応じてほかの客に別の価格を提示することが合法であることを知っていたのは、調査対象のわずか約30%にとどまった。
- 医療保険の相互運用性と説明責任に関する法律（HIPAA：Health Insurance Portability and Accountability Act）が健康アプリ（運動または受胎トラッカーなど）がデータをマーケティング業者に販売することを禁じていると信じている調査対象者は10人中8人を超えていたが、これは誤りである。
- フェイスブックのプライバシー設定で、ユーザーが自身の個人情報が広告主にどのように共有されるかを管理できることを知っていたのは、半数未満だった。
手短にまとめると、米国の規制当局がテック企業に課している要件を厳格化して、データの共有と収集に関してユーザーから明示的な同意を得なければならないようにしても、多くの米国人は同意すべきかどうか的確に判断できない状況なのだ。
