この2ヵ月ほど、AIへの注目度が一気に高まっている。
そのきっかけは、2022年11月30日に米OpenAIが公開した対話型のAI「ChatGPT」だろう。
対話型のAIは、質問を入力すると、自然な言葉で答えを返す。ChatGPTの自然な対話の流れと的確な回答は、本格的なAI時代の到来を感じさせる。
ChatGPTの登場に伴い、AI規制のあり方あるいは規制の是非に関する議論も高まっている。
先行するのは欧州だ。欧州連合（EU）は2021年4月に、AI規制法案を公表している。
個人の信用度を数値化し、特定の個人が不利益を受けるおそれがあるシステムや、顔認証などで個人を追跡するようなシステムは禁止の対象となる。
企業の採用に応募した人の評価、企業の人事評価、学生の成績評価などで用いるAIについては、「ハイリスク」として、規制の対象となる。
プラットフォーム規制や個人情報保護などの分野では、プライバシー意識が高いと言われる欧州が先行し、米国や日本などが少し遅れて規制に乗り出す流れがあるが、AI規制でも同様の流れが生じそうだ。
「許容できないリスク」のあるAIとは
EUのAI法案はまず、AIを4段階のリスクに分類している。
- 許容できないリスク
- ハイリスク
- 限定的なリスク
- 最小限のリスク
「許容できないリスク」は禁止の対象となるが、この類型についても4つに分類している。
- サブリミナルな技法
- 脆弱性を利用
- 公的機関のソーシャルスコアリング
- リアルタイム遠隔生体識別
まず、「サブリミナルな技法」が禁止の対象となる。
「サブリミナル効果」という言葉を聞いたことがある人は多いだろう。
たとえば、2時間の映画の中に、数千分の一秒程度のビールの画像を数分間に1回差し込む。
ごく短時間の映像は、本人は意識しないが、映画を見るとなぜかビールが飲みたいと思い、ビールの売上が上がる。
こうした人間の潜在意識に働きかけて、行動を歪める技法が「サブリミナルな技法」にあたる。
日本でもテレビ局の業界団体「日本民間放送連盟」が放送基準の中で、サブリミナル的表現手法を「放送に適さない」と定めている。
2番目の「脆弱性を利用」については、子どもや高齢者、障がい者などが想定されている。
たとえば、タブレット端末で遊ぶ子どもに、AIの音声が話しかけて子どもを誘導し、子どもがけがをするおそれがあるような場合は禁止の対象になるだろう。
中国の信用スコア、EUでは違法に？
3番目の「公的機関のソーシャルスコアリング」は、中国の信用スコアが想定されているようだ。
中国の信用スコアの仕組みでは、水道料金や電気料金などの公共料金の支払いが、しょっちゅう遅れる人は、スコアが下げられるそうだ。
たとえば、年に3回以上水道料金の支払いが遅れた人たちを、AIが「公共料金の支払いが滞りがち」な人に分類する。この分類の人については、住宅ローンの金利が通常より高く設定されたり、病院で治療を受ける際に、事前に預り金を求められたりする。
こうなるとAIが個人をグループ分けし、差別する仕組みになりかねず、「許容できないリスク」に分類されている。
また、「リアルタイム遠隔生体識別」も禁止の対象となる。
防犯カメラを通じて、リアルタイムの顔認証で個人を特定し、犯罪の捜査に活用するようなシステムが想定されている。
人事、成績評価AIは「ハイリスク」
「ハイリスク」に分類されるのは、企業の採用や学校の入学試験など、個人の評価に関与するAIが多いようだ。
たとえば、企業の採用に応募した人の履歴書をスキャンし、その人の学歴や職歴をAIが評価し、書類選考の手間を減らす。
あるいは、面接で話す応募者の音声データを解析し、受け答えをAIが評価し、合否判断を支援する。
こうした機能は「ハイリスク」に該当する可能性がある。
大学の試験で志願者が書いた論文を、AIが評価するシステムも、「ハイリスク」と判断される可能性がある。
ハイリスクとされたAIシステムは規制の対象となり、EUの当局による「適合性評価」を受けたり、当局に情報を提供したりする義務を負うことになる。
「限定的なリスク」にあたるAIは、例としてチャットボットや、ディープフェイクが挙げられる。
チャットボットの場合、ユーザーに対して、「AIとチャットしている」旨を知らせることが義務付けられる。
俳優や著名人、政治家などの顔を他の動画と合成するディープフェイクについても、「人工的に生成されたフェイクである」旨を知らせることが義務づけられる。
反発するビジネス界
この連載の記事
- 第314回 SNSの“ウソ”選挙結果に影響か 公選法改正議論が本格化へ
- 第313回 アマゾンに公取委が“ガサ入れ” 調査の進め方に大きな変化
- 第312回 豪州で16歳未満のSNS禁止 ザル法かもしれないが…
- 第311回 政府、次世代電池に1778億円 「全固体」実現性には疑問も
- 第310回 先端半導体、政府がさらに10兆円。大博打の勝算は
- 第309回 トランプ2.0で、AIブームに拍車？
- 第308回 自動運転：トヨタとNTTが本格協業、日本はゆっくりした動き
- 第307回 総選挙で“ベンチャー政党”が躍進 ネット戦略奏功
- 第306回 IT大手の原発投資相次ぐ AIで電力需要が爆増
- 第305回 AndroidでMicrosoftストアが使えるように? “グーグル分割”の現実味
- この連載の一覧へ
