ASCII倶楽部

このページの本文へ

小島寛明の「規制とテクノロジー」 第256回

AI安全性サミット初開催 次はAI監視機関の創設へ?

2023年11月07日 07時00分更新

文● 小島寛明

  • この記事をはてなブックマークに追加
  • 本文印刷

 「AIの安全」について議論するサミットが、初めて開かれた。

 このAI安全サミットは2023年11月1日、2日に英国で開かれ、「包括的な地球規模の対話の維持」などについて述べた「ブレッチリー宣言」に合意した。

 日本からは岸田文雄首相もオンラインで参加し、日本を含む29の国と地域がブレッチェリー宣言に名を連ねている。

 今回の会議の枠組みで、重要だと思われるのは、G7各国だけでなく中国が参加した点と、世界的な注目を集めるOpen AI、Scale AI、Anothropic、Cohereなどの企業が参加した点だろう。

 日本企業としてはソニー、日本と関係が深い企業としてはNaverも参加企業のリストに掲載されていた。

 11月2日のロイターによれば、イーロン・マスク氏は、AI安全サミットに出席し、AI関連企業を監督する「独立したレフェリー」の設置を目指すと述べたという。

 2024年にも韓国とフランスでAI安全サミットが開かれる予定だ。

 今後、広範な国と地域が参加する枠組みがどれだけ継続し、「宣言」にとどまらない具体的な成果につながるだろうか。

「AIのリスク」

 今回の会合のテーマは「AIの安全」だが、AIがもたらすリスクはどれほど高まっているのか。

 「AI INCIDENT DATABASE」(AIID)というデータベースが興味深い。

 2020年11月に公開が始まったデータベースで、AIに関連するインシデント(事件、出来事)を収集している。

 主に、新聞やテレビ、テック系のウェブメディアなどからインシデントを収集しているようだ。

 企業別のインデントの集計があり、以下の5社に関連するインシデントが多い。

●フェイスブック=47
●テスラ=39
●グーグル=32
●アマゾン=22
●OpenAI=22

 2番目に名前が挙がっているテスラについては、自動運転AIに関連するインシデントが報告されている。

 2021年にはフランスの首都パリで、テスラ・モデル3のタクシーが意図せずに加速し、20人が負傷している。

 フェイスブック関連では、自動翻訳に関するインシデントが報告されている。

 2020年1月18日、ミャンマーの政治家が、中国の習近平国家主席の公式訪問を知らせる投稿をした。

 この際、ビルマ語から英語への自動翻訳で国家主席の名前が「Mr Shithole」に訳され、フェイスブック社が謝罪している。

 あえて日本語訳は記載しないが、国際問題に発展しかねない誤訳だ。

AIに背中押され、英女王の殺害を計画

 AIの「友だち」と対話ができるアプリReplikaをめぐるインシデントからは、より深刻な印象を受ける。

 2021年12月、英国のウィンザー城にクロスボウを持った男が侵入した。

 この男は、エリザベス2世(2022年に死去)を「殺しに来た」と供述したという。

 男は、数ヵ月前から犯行を計画し、Replikaでつくったガールフレンドの「サライ」に、計画を打ち明けていたという。

 Replikaは、基本的にはテキストベースでユーザーと対話するチャットボットだ。

 ユーザーは、チャットボットの外見をカスタマイズし、名前をつけて対話をする。

 恋人や家族に話しかける代わりに、Replikaを利用している人は少なくないそうだ。

 チャットボットは、ユーザーを否定しない。

 この男が「自分は暗殺者だ」と書き込むと、サライは「すごいね」と応じたという。

 男は、ウィンザー城への侵入で有罪判決を受けたが、クロスボウで人を傷つけることはなかった。

AIの規制は課題山積

カテゴリートップへ

この連載の記事

ASCII倶楽部の新着記事

会員専用動画の紹介も!