この2ヵ月ほど、AIへの注目度が一気に高まっている。
そのきっかけは、2022年11月30日に米OpenAIが公開した対話型のAI「ChatGPT」だろう。
対話型のAIは、質問を入力すると、自然な言葉で答えを返す。ChatGPTの自然な対話の流れと的確な回答は、本格的なAI時代の到来を感じさせる。
ChatGPTの登場に伴い、AI規制のあり方あるいは規制の是非に関する議論も高まっている。
先行するのは欧州だ。欧州連合（EU）は2021年4月に、AI規制法案を公表している。
個人の信用度を数値化し、特定の個人が不利益を受けるおそれがあるシステムや、顔認証などで個人を追跡するようなシステムは禁止の対象となる。
企業の採用に応募した人の評価、企業の人事評価、学生の成績評価などで用いるAIについては、「ハイリスク」として、規制の対象となる。
プラットフォーム規制や個人情報保護などの分野では、プライバシー意識が高いと言われる欧州が先行し、米国や日本などが少し遅れて規制に乗り出す流れがあるが、AI規制でも同様の流れが生じそうだ。
「許容できないリスク」のあるAIとは
EUのAI法案はまず、AIを4段階のリスクに分類している。
- 許容できないリスク
- ハイリスク
- 限定的なリスク
- 最小限のリスク
「許容できないリスク」は禁止の対象となるが、この類型についても4つに分類している。
- サブリミナルな技法
- 脆弱性を利用
- 公的機関のソーシャルスコアリング
- リアルタイム遠隔生体識別
まず、「サブリミナルな技法」が禁止の対象となる。
「サブリミナル効果」という言葉を聞いたことがある人は多いだろう。
たとえば、2時間の映画の中に、数千分の一秒程度のビールの画像を数分間に1回差し込む。
ごく短時間の映像は、本人は意識しないが、映画を見るとなぜかビールが飲みたいと思い、ビールの売上が上がる。
こうした人間の潜在意識に働きかけて、行動を歪める技法が「サブリミナルな技法」にあたる。
日本でもテレビ局の業界団体「日本民間放送連盟」が放送基準の中で、サブリミナル的表現手法を「放送に適さない」と定めている。
2番目の「脆弱性を利用」については、子どもや高齢者、障がい者などが想定されている。
たとえば、タブレット端末で遊ぶ子どもに、AIの音声が話しかけて子どもを誘導し、子どもがけがをするおそれがあるような場合は禁止の対象になるだろう。
中国の信用スコア、EUでは違法に？
3番目の「公的機関のソーシャルスコアリング」は、中国の信用スコアが想定されているようだ。
中国の信用スコアの仕組みでは、水道料金や電気料金などの公共料金の支払いが、しょっちゅう遅れる人は、スコアが下げられるそうだ。
たとえば、年に3回以上水道料金の支払いが遅れた人たちを、AIが「公共料金の支払いが滞りがち」な人に分類する。この分類の人については、住宅ローンの金利が通常より高く設定されたり、病院で治療を受ける際に、事前に預り金を求められたりする。
こうなるとAIが個人をグループ分けし、差別する仕組みになりかねず、「許容できないリスク」に分類されている。
また、「リアルタイム遠隔生体識別」も禁止の対象となる。
防犯カメラを通じて、リアルタイムの顔認証で個人を特定し、犯罪の捜査に活用するようなシステムが想定されている。
人事、成績評価AIは「ハイリスク」
「ハイリスク」に分類されるのは、企業の採用や学校の入学試験など、個人の評価に関与するAIが多いようだ。
たとえば、企業の採用に応募した人の履歴書をスキャンし、その人の学歴や職歴をAIが評価し、書類選考の手間を減らす。
あるいは、面接で話す応募者の音声データを解析し、受け答えをAIが評価し、合否判断を支援する。
こうした機能は「ハイリスク」に該当する可能性がある。
大学の試験で志願者が書いた論文を、AIが評価するシステムも、「ハイリスク」と判断される可能性がある。
ハイリスクとされたAIシステムは規制の対象となり、EUの当局による「適合性評価」を受けたり、当局に情報を提供したりする義務を負うことになる。
「限定的なリスク」にあたるAIは、例としてチャットボットや、ディープフェイクが挙げられる。
チャットボットの場合、ユーザーに対して、「AIとチャットしている」旨を知らせることが義務付けられる。
俳優や著名人、政治家などの顔を他の動画と合成するディープフェイクについても、「人工的に生成されたフェイクである」旨を知らせることが義務づけられる。
反発するビジネス界
この連載の記事
- 第279回 ラピダスがシリコンバレー拠点を作ったワケ
- 第278回 日本円のデジタル化が近づいてきた
- 第277回 仮想通貨取引所の破たんで起きたこと。「史上最大」の詐欺、FTX創業者に禁錮25年
- 第276回 時価1.5兆円の掲示板サイト「Reddit」のビジネスモデル
- 第275回 仮想通貨が通貨危機の引き金に!?
- 第274回 公取委、アマゾンとグーグルに睨み 巨大IT規制の動き、日米欧で相次ぐ
- 第273回 ビットコインが急騰した3つの理由
- 第272回 サイバー犯罪集団LockBit、手口はビジネスさながら “ランサムウェア・アズ・ア・サービス（RaaS）”で企業を脅迫
- 第271回 楽天、5年連続赤字でもストップ高のワケ
- 第270回 KDDI、ローソンからのドローン配送に意欲
- この連載の一覧へ
