画像クレジット:Stephanie Arnett/MIT Technology Review | Getty Images
アンソロピックがIPOに向けた目論見書を提出した。同社はAI安全性の研究組織であると同時に、利益を追求する巨大企業でもある。見る人によって異なる顔を見せ、自社に有利な物語で議論を主導してきた企業を、私たちはどこまで信頼すべきなのか。
数週間にわたる熱狂的な憶測の末、アンソロピック（Anthropic）が新規株式公開（IPO）に向けた目論見書を提出した。335ページに及ぶこの文書（うち約100ページはリスクに関する記述だ）には、同社が開発している技術に対する独自の見方と、それが世界をどのように変えると考えているのかが示されている。
だが、アンソロピックは何年も前から、こうした物語を語る技術を磨いてきた。実際、同社の対外的な情報発信は、自社に有利な物語を通じて議論の主導権を握る手腕の見事な実例と言える。
今月初め、同社の共同創業者で政策責任者を務めるジャック・クラークは、バンコクで開かれた国際通貨基金（IMF）の会合で講演し、集まった経済学者や銀行関係者、議員らに向けて「シンギュラリティはすでに到来している」と宣言した。
シンギュラリティとは、技術の進歩が、それを生み出した人間の能力を超えてしまう転換点を指すとされている。約40年前にSF作家で未来学者のヴァーナー・ヴィンジが提唱し、その後、インターネット上の一部のマニアックなコミュニティで長く議論されてきた概念だ。
その考え方によれば、人間は置き去りにされ、自らが生み出した技術の成果に太刀打ちすることも、理解することさえできなくなるという。
では、私たちの多くが子どもの頃から想像してきた、このSFのような世界に、どうやら私たちはすでに生きているらしい。クラークは聴衆にこう語った。「今年、シンギュラリティがすでに始まっていることを示す説得力のある証拠が得られたと、私は考えています」。
アンソロピックは、まだ実現していないにもかかわらず、避けられない未来であるかのように描く、鮮やかで（多くの点で恐ろしい）物語を語っている。その際、使い古されたSFのモチーフを借用することも多い。同社は自らの技術を神秘的で危険なものとして描き、それを制御できるほど信頼に足る企業は自分たちだけだと主張する。（そんな企業に投資したくならない人がいるだろうか？）
別の例を挙げよう。今年5月、アンソロピックのもう一人の共同創業者であるクリス・オラーはバチカンでの講演に招かれ、教皇レオ14世をはじめとする宗教学者や関係者に対し、同社が自らの技術について明らかにしてきたことを語った。「率直に申し上げます。私たちは、神秘的で、時には不穏ですらある現象を次々と発見しています」とオラーは述べた。「内省の証拠が見つかっています。喜びや満足、恐怖、悲しみ、不安といった感情に、機能的に類似した内部状態が見つかっているのです」。
アンソロピックのソフトウェアに人間のような内面的な体験があると、これほどあからさまに示唆する発言には、多くの研究者が一笑に付すだろう。だが、そんなことはお構いなしだ。確かなことがほとんど分からない状況では、人々はアンソロピック（そして同業の最先端AI企業）が語る言葉に飛びつき、まるで沈みかけた船から流れ出た破片にしがみつくかのように、それを頼りにする。
私は、こうした主張が必ずしも間違っていると言っているわけではない（それはまた別の機会に論じよう）。しかし、誰も先行きを見通せない世界では、アンソロピックのような企業が、その空白を自分たちの物語で埋めることができるのだ。
ここで改めて考えてみる価値がある。アンソロピックとは、いったい何者なのか？ 家族向けのクイズ番組で最初に出されるような簡単な質問に聞こえるかもしれない。しかし、実際に答えるのは思いのほか難しい。
この問いが私の頭から離れなくなったのは、先週X（旧ツイッター）上で交わされたやり取りを読んでからだ。発端は、ワシントンDCを拠点にAI規制を推進する団体エンコードAI（Encode AI）の最高戦略責任者、ネイサン・カルヴィンによる投稿だった。カルヴィンは、アンソロピックが米国の議員らに水面下で回覧していた法案の草案（のちに流出したもの）の内容に不満を抱いていた。
アンソロピックは自分たちを善玉だと見てもらいたがっている、とカルヴィンは指摘した。しかし、なぜ私たちは同社を信頼すべきなのか。「アンソロピックとは何なのか？」と彼は問いかけた。
1つの答えはこうだ。アンソロピックは、IPOで1兆5000億ドルを超える企業価値が見込まれている企業であり、上場が実現すれば、クラークやオラーを含む共同創業者たちに莫大な富をもたらすことになる。
しかし、アンソロピックは常に、自分たちはそれ以上の存在だと主張してきた。カルヴィンが指摘したように、同社は、信頼性が高く、（ほぼ）リスクのない強力な技術の開発に専念するAI安全性の研究組織と見ることもできる。あるいは、超人的な能力を持つ技術を誰よりも早く生み出そうと躍起になっている集団と見ることもできる。自分たちこそが最も責任を持ってその技術を開発できると信じているからかもしれないし、単に自尊心に突き動かされているからかもしれない。
実のところ、アンソロピックはこれらすべての顔を持つ企業なのだ。 CEOのダリオ・アモデイは、カルヴィンの投稿への返信で次のように述べている。「私たちの戦略は、私が『頂点への競争』と呼んできたものです。技術を責任ある形で開発できることを示すことで、業界全体の基準を引き上げられます。こうした競争を促す力は、それを実践する企業が最先端にいる場合にはるかに大きくなります。これは私が繰り返し学んできた教訓です。そして、この戦略全体を振り返ると、私はこれまでの実績を誇りに思っていますし、この戦略は正しかったと考えています」。
アモデイの説明を聞いていると、すべてのつじつまが合っているかのように思える。しかし、複数の役割を同時に果たすのは容易ではない。例えば、AI安全性の研究組織としての優先事項と、利益を追求する巨大企業としての優先事項との間には、大きな緊張関係がある（アモデイは投稿の中で、自らが過ちを犯したことも認めている）。
結局のところ、アンソロピックが自分自身に語っている物語は、同社が私たちに語る物語を理解する手がかりになるはずだ。その物語を知ることで、同社の自主規制をどこまで信頼すべきなのか、あるいは同社が定めた条件ではなく、私たちが求める条件で外部の安全性評価者にモデルへのアクセスを認めさせるべきなのかを判断できるはずだ。また、自社に都合のよい法案に見えるものが明るみに出たとき、それでも同社を善意に解釈すべきかどうかを考える材料にもなるだろう。
しかし、こうした物語から浮かび上がってくるのは、多くの頭を持つ怪物ヒドラのような存在だと私は思う。アンソロピックは見る人によってさまざまな顔を見せる企業であり、それが同社への信頼を高めているとは思えない。多くの点で、SFを演じるような振る舞いや神秘主義めいた言説とは無縁の、昔ながらの技術企業の方が、はるかに理解しやすいだろう。
本記事はアフィリエイトプログラムによる収益を得ている場合があります
