AI規制、日本でも法制化の流れ　リスク対策は企業の義務に?

2024年05月07日 07時00分更新

文● 小島寛明

　日本国内でもAI規制を法制化する流れが強まっている。

　5月2日の日本経済新聞は、AIを開発する大規模事業者に対して、政府が法規制を検討すると報じている。他のメディアもほぼ同内容で後追い記事を出しているため、現時点では確度の高いニュースだろう。

　日本政府はこれまで、AIを開発する事業者向けのガイドラインを示すことで、自主的な取り組みを促してきた。欧州のようなAI規制で先を走る地域と比べて、日本政府としては、事業が進めやすい環境を用意し、AIに関連する技術開発や事業展開を促す狙いがあったのだろう。

　実際、4月14日には、ChatGPTを開発・運用するOpenAIが、アジアで初めて日本に拠点を設置している。しかし、偽情報の拡散など生成AIがもたらす負の側面が増大し、欧州などでAI規制の法制化が進む中で、日本だけ法律によるAI規制から目を背けてはいられない現実もある。

広島サミットからの流れ

　AI規制に対する日本政府の立ち位置を理解するうえで、まず2023年5月の広島サミットからの流れをおさらいしておきたい。

　まず、広島サミットでは、生成AIについて主要国が議論を交わす場として、「広島AIプロセス」が設置された。その後、広島AIプロセスの枠組みの中で、国際的な規制の枠組みのあり方について議論を交わしてきた。5月2日には「広島プロセスフレンズグループ」という新しい国際的な枠組みを立ち上げ、設立時には49ヵ国・地域の参加が発表されている。

　フレンズグループの参加国のリストを確認すると、AI規制で先行する欧州連合、関連企業が集中する米国に加え、英国、インド、オーストラリアなどが参加しているが、中国やロシアの名前は見つからない。

　「日本政府が法制化を検討する」という趣旨のニュースが配信されはじめたのは、フレンズグループの発表と同じ日だ。広島サミット以降、日本政府は明らかにAIに関する国際的な枠組みづくりで主導的な役割を果たそうと動いてきた。日本政府の立場としては、国際的な枠組みづくりを主導するからには、自国でもAI規制の法制化を検討しないわけにはいかない、というところではないか。

4月のガイドラインが法律のたたき台か

　AI規制の法制化が本格化した場合、どんな制度が想定されるだろうか。おそらく、冒頭で触れた『AI事業者ガイドライン（第1.0版）』が、法律をつくる際のたたき台になるだろう。このガイドラインは4月19日に経済産業省が公表した文書で、AIをめぐる様々な論点が盛り込まれている。現時点では、AI関連のサービスを開発、提供、利用する事業者に対して、「参考にして事業を進めて」と促すのにとどめている。

　最近、とくに懸念が高まっている偽情報の拡散に関しては、次のような記述がある。少し長いが引用する。

　「生成AIによって、内容が真実・公平であるかのように装った情報を誰でも作ることができるようになり、AIが生成した偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが高まっていることを認識した上で、必要な対策を講じる」

　この記述からは、2023年11月10日のニュースを思い出す。共同通信によれば、岸田首相がニュース番組でみだらな発言をしたという内容のフェイク動画が拡散した。20代の男性は共同の取材に対して、AIを使って1時間ほどで動画を作成したと説明したという。

　米国の大統領選では、あらゆるSNS上に偽情報や、意図して間違った情報が大量に拡散される。AIが生成する画像や動画は、一見しただけでは生成されたものとはわからない。しかも、使い方を覚えれば、だれでも簡単に生成させることができる。それだけに、11月に投開票される大統領選に、深刻な悪影響を及ぼすリスクが懸念されている。

　こうしたリスクは、日本にとっても他人事ではない。国内でも、遠からず衆議院の解散・総選挙があるとの見通しが強まっている。総選挙のさなか、首相を含む各党の党首や、激戦区の候補者の偽画像や偽動画がばらまかれる事態は、いまから想定しておく必要があるだろう。

　ガイドラインの別添資料で紹介されていた、身代金を要求する手口はさらに身近でおそろしい。ある日、娘の声で電話がかかってきて、親は100万ドルの身代金を支払うように指示される。後に、この「娘の声」はAIで生成した音声で、誘拐ではなく新しい詐欺の手口だったと判明している。