Future of Life Institute
非営利組織Future of Life Institute（FLI）は3月28日、急成長するAIシステムの開発は社会にリスクをもたらす可能性があるとして、GPT-4より強力なAIシステムの開発を6ヵ月間停止するよう提案する公開書簡を発表した。書簡にはイーロン・マスク氏、スティーブ・ウォズニアック氏など1300名を超えるテック業界の重要人物が署名している。
公開書簡の要旨
2022年11月にOpenAIがChatGPTを発表して以降、ほぼ毎日のようにAIに関するビッグニュースが続いているが、「高度なAIは地球上の生命の歴史に大きな変化をもたらす可能性があり、相応の配慮とリソースをもって計画・管理されるべきものである」というのが本書簡の主張だ。
「私たちは、AIがプロパガンダや虚偽の情報をあふれさせることを許すべきでしょうか？」
「充実した仕事も含めて、すべての仕事を自動化すべきなのでしょうか？」
「私たちは、いつか私たちを数で上回り、出し抜き、陳腐化させ、取って代わるかもしれない非人間的な知性を開発すべきでしょうか？」
「私たちは、文明のコントロールを失うリスクを冒すべきなのでしょうか？」
と、AIへの不安から来る疑問を強い言葉で投げかけ、「このような決定を、選挙で選ばれたわけでもない技術者に委ねてはならない。強力なAIシステムは、その効果が肯定的でありリスクが管理可能であると確信した場合にのみ開発されるべきです」と現状を否定する。
さらに、「ある時点で、将来のシステムの訓練を開始する前に独立したレビューを受け、最も進んだ取り組みでは、新しいモデルの作成に使用する計算機（コンピューティング性能）の成長速度を制限することに合意することが重要かもしれない 」というOpenAIの声明を引き合いに出し、「私たちはそれに同意します。その時点が今なのです」と、開発速度に制限をかけることを求めている。
具体的には、すべてのAI研究所に対し、GPT-4より強力なAIシステムの開発を少なくとも6ヵ月間、直ちに一時停止するよう要請。さらに、このような一時停止が迅速に実施できない場合は、政府が介入してモラトリアムを実施する必要があるともしている。
同時に、強固なAIガバナンスシステムの重要性も強調している。
これには最低限、AIに特化した規制当局、強力なAIシステムの監視と追跡、（生成系AIにおいて）モデルの流出を追跡するための証明と透かしシステム、堅牢な監査と認証エコシステム、AIによる被害に対する責任、AI安全技術研究に対する強固な公的資金、AIが引き起こす経済的・政治的混乱（特に民主主義の）に対処するための十分にリソースを確保できる制度が必要だとしている。
少々微妙なマスク氏の立ち位置
公開書簡の署名欄（一部）
1300名を超える署名者リストには、マスク氏、ウォズニアック氏の他にも、ニューラルネットワークやディープラーニングの権威であるヨシュア・ベンジオ氏、画像生成AI「Stable Diffusion」の共同開発元であるStability AIのCEOエマド・モスタク氏、「ホモ・デウス」、「サピエンス全史」の著者であるユヴァル・ノア・ハラリ氏など錚々たるメンバーが名を連ねている。
一方、俎上に上がっているOpenAIや、OpenAIに大規模投資をしているマイクロソフトの関係者はリストには見当たらない。（OpenAIのサム・アルトマンCEOが署名し後に削除という報道はあったが確認できず）
Nope.
— Yann LeCun (@ylecun) March 29, 2023
I did not sign this letter.
I disagree with its premise. https://t.co/DoXwIZDcOx
また、メタのチーフAIサイエンティストを務め、深層学習の父とも称されるヤン・ルカン氏が「ノー！私は署名していません。私はこの書簡の趣旨に同意しません」とツイートしたように、拒否反応を示す関係者もいる。
マスク氏は2015年に設立されたOpenAIの共同設立者の一人であり投資家でもあるが、以前からAIの急成長やマイクロソフトの大規模な投資によって、OpenAIの設立当初のポリシーである「オープンソースかつ非営利」から距離を置いているように見えることに懸念を表明していた。
だが、マスク氏率いるテスラも依然AI分野の主要なプレイヤーであり、AI分野でイニシアチブを握れなくなったからといった意地悪な見方もできる。
さらに、もしこの提案が採用されたとしても実効性・強制力のある形で実施できるかどうかは不透明であり、米国以外の企業にも強制できる保証はない。
全員が遵守すれば効果はあるが、抜け駆けしたものがいればそこが大きな利益を得ることになるだろう。まさに「囚人のジレンマ」である。
