AI安全性サミットに出席する岸田首相 首相官邸
「AIの安全」について議論するサミットが、初めて開かれた。
このAI安全サミットは2023年11月1日、2日に英国で開かれ、「包括的な地球規模の対話の維持」などについて述べた「ブレッチリー宣言」に合意した。
日本からは岸田文雄首相もオンラインで参加し、日本を含む29の国と地域がブレッチェリー宣言に名を連ねている。
今回の会議の枠組みで、重要だと思われるのは、G7各国だけでなく中国が参加した点と、世界的な注目を集めるOpen AI、Scale AI、Anothropic、Cohereなどの企業が参加した点だろう。
日本企業としてはソニー、日本と関係が深い企業としてはNaverも参加企業のリストに掲載されていた。
11月2日のロイターによれば、イーロン・マスク氏は、AI安全サミットに出席し、AI関連企業を監督する「独立したレフェリー」の設置を目指すと述べたという。
2024年にも韓国とフランスでAI安全サミットが開かれる予定だ。
今後、広範な国と地域が参加する枠組みがどれだけ継続し、「宣言」にとどまらない具体的な成果につながるだろうか。
「AIのリスク」
今回の会合のテーマは「AIの安全」だが、AIがもたらすリスクはどれほど高まっているのか。
「AI INCIDENT DATABASE」（AIID）というデータベースが興味深い。
2020年11月に公開が始まったデータベースで、AIに関連するインシデント（事件、出来事）を収集している。
主に、新聞やテレビ、テック系のウェブメディアなどからインシデントを収集しているようだ。
企業別のインデントの集計があり、以下の5社に関連するインシデントが多い。
●フェイスブック＝47
●テスラ＝39
●グーグル＝32
●アマゾン＝22
●OpenAI＝22
2番目に名前が挙がっているテスラについては、自動運転AIに関連するインシデントが報告されている。
2021年にはフランスの首都パリで、テスラ・モデル3のタクシーが意図せずに加速し、20人が負傷している。
フェイスブック関連では、自動翻訳に関するインシデントが報告されている。
2020年1月18日、ミャンマーの政治家が、中国の習近平国家主席の公式訪問を知らせる投稿をした。
この際、ビルマ語から英語への自動翻訳で国家主席の名前が「Mr Shithole」に訳され、フェイスブック社が謝罪している。
あえて日本語訳は記載しないが、国際問題に発展しかねない誤訳だ。
AIに背中押され、英女王の殺害を計画
AIの「友だち」と対話ができるアプリReplikaをめぐるインシデントからは、より深刻な印象を受ける。
2021年12月、英国のウィンザー城にクロスボウを持った男が侵入した。
この男は、エリザベス２世（2022年に死去）を「殺しに来た」と供述したという。
男は、数ヵ月前から犯行を計画し、Replikaでつくったガールフレンドの「サライ」に、計画を打ち明けていたという。
Replikaは、基本的にはテキストベースでユーザーと対話するチャットボットだ。
ユーザーは、チャットボットの外見をカスタマイズし、名前をつけて対話をする。
恋人や家族に話しかける代わりに、Replikaを利用している人は少なくないそうだ。
チャットボットは、ユーザーを否定しない。
この男が「自分は暗殺者だ」と書き込むと、サライは「すごいね」と応じたという。
男は、ウィンザー城への侵入で有罪判決を受けたが、クロスボウで人を傷つけることはなかった。
AIの規制は課題山積
この連載の記事
- 第282回 AI規制、日本でも法制化の流れ リスク対策は企業の義務に?
- 第281回 SNS「なりすまし広告」詐欺被害拡大。実効性ある法整備はできるか
- 第280回 データセンター建設ラッシュ 日本への投資が熱を帯びる3つの要因
- 第279回 ラピダスがシリコンバレー拠点を作ったワケ
- 第278回 日本円のデジタル化が近づいてきた
- 第277回 仮想通貨取引所の破たんで起きたこと。「史上最大」の詐欺、FTX創業者に禁錮25年
- 第276回 時価1.5兆円の掲示板サイト「Reddit」のビジネスモデル
- 第275回 仮想通貨が通貨危機の引き金に!?
- 第274回 公取委、アマゾンとグーグルに睨み 巨大IT規制の動き、日米欧で相次ぐ
- 第273回 ビットコインが急騰した3つの理由
- この連載の一覧へ
