アスキーの会員サービスASCII倶楽部では、会員の方だけが読めるさまざまな連載や特集が毎日更新中。
本日は、ASCII倶楽部の人気記事「どんなAIが禁止されるのか」を紹介します。
この2ヵ月ほど、AIへの注目度が一気に高まっている。
そのきっかけは、2022年11月30日に米OpenAIが公開した対話型のAI「ChatGPT」だろう。
対話型のAIは、質問を入力すると、自然な言葉で答えを返す。ChatGPTの自然な対話の流れと的確な回答は、本格的なAI時代の到来を感じさせる。
ChatGPTの登場に伴い、AI規制のあり方あるいは規制の是非に関する議論も高まっている。
先行するのは欧州だ。欧州連合（EU）は2021年4月に、AI規制法案を公表している。
個人の信用度を数値化し、特定の個人が不利益を受けるおそれがあるシステムや、顔認証などで個人を追跡するようなシステムは禁止の対象となる。
企業の採用に応募した人の評価、企業の人事評価、学生の成績評価などで用いるAIについては、「ハイリスク」として、規制の対象となる。
プラットフォーム規制や個人情報保護などの分野では、プライバシー意識が高いと言われる欧州が先行し、米国や日本などが少し遅れて規制に乗り出す流れがあるが、AI規制でも同様の流れが生じそうだ。
「許容できないリスク」のあるAIとは
EUのAI法案はまず、AIを4段階のリスクに分類している。
- 許容できないリスク
- ハイリスク
- 限定的なリスク
- 最小限のリスク
「許容できないリスク」は禁止の対象となるが、この類型についても4つに分類している。
- サブリミナルな技法
- 脆弱性を利用
- 公的機関のソーシャルスコアリング
- リアルタイム遠隔生体識別
まず、「サブリミナルな技法」が禁止の対象となる。
「サブリミナル効果」という言葉を聞いたことがある人は多いだろう。
たとえば、2時間の映画の中に、数千分の一秒程度のビールの画像を数分間に1回差し込む。
ごく短時間の映像は、本人は意識しないが、映画を見るとなぜかビールが飲みたいと思い、ビールの売上が上がる。
こうした人間の潜在意識に働きかけて、行動を歪める技法が「サブリミナルな技法」にあたる。
日本でもテレビ局の業界団体「日本民間放送連盟」が放送基準の中で、サブリミナル的表現手法を「放送に適さない」と定めている。
2番目の「脆弱性を利用」については、子どもや高齢者、障がい者などが想定されている。
たとえば、タブレット端末で遊ぶ子どもに、AIの音声が話しかけて子どもを誘導し、子どもがけがをするおそれがあるような場合は禁止の対象になるだろう。
中国の信用スコア、EUでは違法に？
3番目の「公的機関のソーシャルスコアリング」は、中国の信用スコアが想定されているようだ。
中国の信用スコアの仕組みでは、水道料金や電気料金などの公共料金の支払いが、しょっちゅう遅れる人は、スコアが下げられるそうだ。
たとえば、年に3回以上水道料金の支払いが遅れた人たちを、AIが「公共料金の支払いが滞りがち」な人に分類する。この分類の人については、住宅ローンの金利が通常より高く設定されたり、病院で治療を受ける際に、事前に預り金を求められたりする。
こうなるとAIが個人をグループ分けし、差別する仕組みになりかねず、「許容できないリスク」に分類されている。
また、「リアルタイム遠隔生体識別」も禁止の対象となる。
防犯カメラを通じて、リアルタイムの顔認証で個人を特定し、犯罪の捜査に活用するようなシステムが想定されている。
人事、成績評価AIは「ハイリスク」
「ハイリスク」に分類されるのは、企業の採用や学校の入学試験など、個人の評価に関与するAIが多いようだ。
たとえば、企業の採用に応募した人の履歴書をスキャンし、その人の学歴や職歴をAIが評価し、書類選考の手間を減らす。
あるいは、面接で話す応募者の音声データを解析し、受け答えをAIが評価し、合否判断を支援する。
こうした機能は「ハイリスク」に該当する可能性がある。
大学の試験で志願者が書いた論文を、AIが評価するシステムも、「ハイリスク」と判断される可能性がある。
ハイリスクとされたAIシステムは規制の対象となり、EUの当局による「適合性評価」を受けたり、当局に情報を提供したりする義務を負うことになる。
「限定的なリスク」にあたるAIは、例としてチャットボットや、ディープフェイクが挙げられる。
チャットボットの場合、ユーザーに対して、「AIとチャットしている」旨を知らせることが義務付けられる。
俳優や著名人、政治家などの顔を他の動画と合成するディープフェイクについても、「人工的に生成されたフェイクである」旨を知らせることが義務づけられる。
反発するビジネス界
続きは「どんなAIが禁止されるのか」でお楽しみください。
なお、こちらの記事の続きを読めるのはASCII倶楽部会員の方限定です。
ASCII倶楽部には、今回紹介した記事だけでなく、PCやスマホ、カメラ、テレビ、オーディオなどの会員だけが読める連載が更新されております！ さらに、週刊アスキー 電子版の最新号から過去4年ぶん以上のバックナンバーが読み放題となっております。
会員制読み放題サービス
ASCII倶楽部（アスキークラブ）
■利用料金
月額 税込1080円
※毎月1日～末日までの利用料金として
■支払方法等
●クレジットカード
* VISAカード/MasterCard/アメリカン・エキスプレスカード/JCBカード
●auかんたん決済
●ドコモケータイ払い
●Amazon アカウント
※auかんたん決済、ドコモケータイ払いを選択された方は、3日間無料キャンペーンをご利用いただけません。 ※ご利用になる決済機関によって決済時期及び決済方法が異なります。
それぞれの決済機関が定める利用規約等をご確認ください。
■提供時期
月額利用料金の支払い後、すぐに利用可能。
■推奨環境 ＜端末・ブラウザ＞
【PC】
・OS
Windows 7 以上 , Mac OS X 10.10以上
・ブラウザ
（Windows）Internet Explorer 11※Edgeは除く , Google Chrome最新版 , Firefox最新版
（Mac）Safari最新版
【スマートフォン】
・OS
iOS 8 以上 , Android 4.x以上
・ブラウザ
（iOS）Safari
（Android）Google Chrome
URL ASCII倶楽部
