AI安全性サミットに出席する岸田首相 首相官邸
「AIの安全」について議論するサミットが、初めて開かれた。
このAI安全サミットは2023年11月1日、2日に英国で開かれ、「包括的な地球規模の対話の維持」などについて述べた「ブレッチリー宣言」に合意した。
日本からは岸田文雄首相もオンラインで参加し、日本を含む29の国と地域がブレッチェリー宣言に名を連ねている。
今回の会議の枠組みで、重要だと思われるのは、G7各国だけでなく中国が参加した点と、世界的な注目を集めるOpen AI、Scale AI、Anothropic、Cohereなどの企業が参加した点だろう。
日本企業としてはソニー、日本と関係が深い企業としてはNaverも参加企業のリストに掲載されていた。
11月2日のロイターによれば、イーロン・マスク氏は、AI安全サミットに出席し、AI関連企業を監督する「独立したレフェリー」の設置を目指すと述べたという。
2024年にも韓国とフランスでAI安全サミットが開かれる予定だ。
今後、広範な国と地域が参加する枠組みがどれだけ継続し、「宣言」にとどまらない具体的な成果につながるだろうか。
「AIのリスク」
今回の会合のテーマは「AIの安全」だが、AIがもたらすリスクはどれほど高まっているのか。
「AI INCIDENT DATABASE」（AIID）というデータベースが興味深い。
2020年11月に公開が始まったデータベースで、AIに関連するインシデント（事件、出来事）を収集している。
主に、新聞やテレビ、テック系のウェブメディアなどからインシデントを収集しているようだ。
企業別のインデントの集計があり、以下の5社に関連するインシデントが多い。
●フェイスブック＝47
●テスラ＝39
●グーグル＝32
●アマゾン＝22
●OpenAI＝22
2番目に名前が挙がっているテスラについては、自動運転AIに関連するインシデントが報告されている。
2021年にはフランスの首都パリで、テスラ・モデル3のタクシーが意図せずに加速し、20人が負傷している。
フェイスブック関連では、自動翻訳に関するインシデントが報告されている。
2020年1月18日、ミャンマーの政治家が、中国の習近平国家主席の公式訪問を知らせる投稿をした。
この際、ビルマ語から英語への自動翻訳で国家主席の名前が「Mr Shithole」に訳され、フェイスブック社が謝罪している。
あえて日本語訳は記載しないが、国際問題に発展しかねない誤訳だ。
AIに背中押され、英女王の殺害を計画
AIの「友だち」と対話ができるアプリReplikaをめぐるインシデントからは、より深刻な印象を受ける。
2021年12月、英国のウィンザー城にクロスボウを持った男が侵入した。
この男は、エリザベス２世（2022年に死去）を「殺しに来た」と供述したという。
男は、数ヵ月前から犯行を計画し、Replikaでつくったガールフレンドの「サライ」に、計画を打ち明けていたという。
Replikaは、基本的にはテキストベースでユーザーと対話するチャットボットだ。
ユーザーは、チャットボットの外見をカスタマイズし、名前をつけて対話をする。
恋人や家族に話しかける代わりに、Replikaを利用している人は少なくないそうだ。
チャットボットは、ユーザーを否定しない。
この男が「自分は暗殺者だ」と書き込むと、サライは「すごいね」と応じたという。
男は、ウィンザー城への侵入で有罪判決を受けたが、クロスボウで人を傷つけることはなかった。
AIの規制は課題山積
この連載の記事
- 第314回 SNSの“ウソ”選挙結果に影響か 公選法改正議論が本格化へ
- 第313回 アマゾンに公取委が“ガサ入れ” 調査の進め方に大きな変化
- 第312回 豪州で16歳未満のSNS禁止 ザル法かもしれないが…
- 第311回 政府、次世代電池に1778億円 「全固体」実現性には疑問も
- 第310回 先端半導体、政府がさらに10兆円。大博打の勝算は
- 第309回 トランプ2.0で、AIブームに拍車？
- 第308回 自動運転：トヨタとNTTが本格協業、日本はゆっくりした動き
- 第307回 総選挙で“ベンチャー政党”が躍進 ネット戦略奏功
- 第306回 IT大手の原発投資相次ぐ AIで電力需要が爆増
- 第305回 AndroidでMicrosoftストアが使えるように? “グーグル分割”の現実味
- この連載の一覧へ
