画像クレジット:Photo Illustration by Sarah Rogers/MITTR | Photos Getty
オープンAIは、時間帯などの手がかりをもとに「18歳未満かどうかを予測するモデル」を導入する計画を発表した。しかし、自動予測には誤認のリスクがあり、誤判定した場合の本人確認には政府発行IDや生体認証データが必要となる。プライバシーとセキュリティの問題を抱えた解決策のもとで、子ども保護の責任を誰が負うべきか。
テクノロジー企業は、ユーザーが子どもかどうかをどのように確認しているのだろうか？
この問題は最近、子どもがAIチャットボットと会話する際に生じる危険性への懸念が高まったことで、喫緊の課題として再浮上している。長年にわたり、巨大テック企業は児童プライバシー法に違反しないよう、生年月日（偽装可能なもの）の入力を求めてきたが、その情報に基づいてコンテンツを管理する義務はなかった。先週起きた2つの動きは、米国で状況がいかに急速に変化しているか、そしてこの問題が保護者や児童保護活動家の間で新たな争点となっていることを示している。
一方では、共和党がいくつかの州で性的コンテンツを含むサイトにユーザーの年齢確認を義務付ける法律を支持している。これに対し批評家は、こうした法律が「未成年に有害」とされる幅広いコンテンツをブロックする隠れ蓑になると懸念しており、性教育までもが対象となり得ると指摘している。他方、カリフォルニア州などは、チャットボットと会話する子どもを保護する法律により、AI企業に対して年齢確認の義務を課そうとしている。その一方で、トランプ大統領は、AI規制を州ごとの判断に委ねず、連邦レベルで維持しようとしている。議会内の法案への支持は、流動的なままだ。
では今後何が起きるのか？ 議論の焦点は、「年齢確認が必要かどうか」から、「誰がその責任を負うべきか」へと急速に移っている。この責任は、どの企業にとっても引き受けたくない厄介な問題である。
1月20日、オープンAI（OpenAI）はブログ投稿で、自動的に年齢を予測する機能を導入する計画を明らかにした。要するに、同社は時間帯などの手がかりをもとに、ユーザーが18歳未満かどうかを予測するモデルを用いる。10代や子どもと判定されたユーザーには、ChatGPT（チャットGPT）が暴力的な画像や性的なロールプレイといったコンテンツへの「露出を減らす」フィルターを適用する。ユーチューブ（YouTube）も昨年、同様のシステムを導入した。
プライバシーを懸念しながら年齢確認を支持する立場の人にとっては、これは一見良いニュースに思えるかもしれない。だが落とし穴もある。当然ながら、このシステムは完璧ではなく、子どもを大人と、あるいは大人を子どもと誤認する可能性がある。18歳未満と誤って判定されたユーザーは、自撮り写真や政府発行のIDをペルソナ（Persona）という企業に提出することで本人確認が可能だ。
しかし、自撮りによる認証には課題がある。有色人種や特定の障害を持つ人々の場合、失敗率が高いのだ。サイバーいじめ研究センターの共同代表であるサミール・ヒンドゥジャは、ペルソナが何百万件もの政府発行IDと膨大な生体認証データを保持する必要があること自体が大きなリスクだと指摘している。「IDやバイオメトリクスが侵害されれば、大量の人々が一挙に危険にさらされることになります」。
ヒンドゥジャ共同代表は代替案として、親が子どもにスマートフォンを設定する際に年齢を指定し、その情報が端末内に保存されてアプリやWebサイトと安全に共有される「デバイスレベルでの年齢確認」を提案している。
これは、アップルのティム・クックCEOが最近、米国の議員に求めた内容とほぼ一致している。クックCEOは、アプリストアに年齢確認を義務付けようとする議員らに反対しており、それが認められればアップルが重大な責任を負うことになると懸念している。
この問題の行方を示すさらなる兆候は、1月28日に現れる予定だ（日本版注：この記事のオリジナルは1月26日に米国版に掲載された）。この日、これらの新法を執行する立場にある連邦取引委員会（FTC）が、年齢確認をテーマとした終日のワークショップを開催する。現地時間午後3時のセッションには、アップルの政府関係責任者のニック・ロッシが登壇し、グーグルやメタ（Meta）の児童安全責任者、さらに子ども向けマーケティング専門企業の関係者とともに議論に参加する。
FTCはトランプ大統領の下でますます政治色を強めている（唯一の民主党系委員の解任は連邦裁判所によって違法とされ、現在は米連邦最高裁の審理を待っている）。7月、私はFTCがAI企業に対する姿勢を軟化させつつある兆候について報じた。実際、12月には同機関が、バイデン政権下で出された、偽の製品レビューを拡散させたAI企業に対する裁定を覆し、それがトランプ大統領のAI行動計画と矛盾すると記した。
28日のワークショップでは、FTCの年齢確認に対する姿勢がどの程度党派的であるかが明らかになるかもしれない。共和党優位の州では、ポルノサイトに年齢確認を義務付ける法律が支持されている（だが批評家は、これが多種多様なコンテンツの制限に使われる恐れがあると警告している）。サウスダコタ州でこの種の法案を推進している共和党州議会議員のベサニー・ソイエが、FTCのワークショップで登壇予定だ。ACLU（米国自由人権協会）は、一般にWebサイト閲覧にIDを求める法律に反対し、代わりに既存の保護者による制限機能の拡充を主張している。
だが、こうした議論が交わされている間にも、AIは児童保護の分野に火をつけてしまった。我々は今、児童性的虐待コンテンツの生成増加、チャットボットとのやり取り後の自殺や自傷行為に関する懸念（および訴訟）、そして子どもたちがAIコンパニオンに深い愛着を持ってしまうという憂慮すべき兆候に直面している。プライバシー、政治、表現の自由、監視といった対立する価値観が、あらゆる解決策を一層複雑にするだろう。ぜひあなたの意見を聞かせてほしい。
