画像クレジット:Stephanie Arnett/MIT Technology Review | Adobe Stock
アンソロピックは9月23日、Claudeのエージェント950体からなるシステムが分子生物学で初の「発見」を成し遂げたと発表した。AI企業は自社のシステムを、顕微鏡のような道具ではなく、それ自体が発見をする主体として提示している。だが、新しい知識は共同作業と増え続けるツール群から生まれるという科学の実際の営みとは相容れない、と見る人もいる。
アンソロピック（Anthropic）は9月23日、今年に入って分子生物学の研究室を立ち上げたことを発表した。そこではClaude（クロード）のエージェントが、難しい生物学上の問題について文献を読み、仮説を立て、その報告内容を人間の科学者が実験で検証する。そして、このAIを活用した研究室が初めての発見を成し遂げたと同社は述べた。
アンソロピックのシステムが成し遂げたとされることを理解するために、科学者たちが生物界のより多くを解読するにつれて蓄積されてきた、数百万のDNA配列からなるライブラリーをめくっている場面を想像してほしい。ブレークスルーへの一歩として考えられるのは、たとえば興味深い酵素をコードする奇妙な配列を見つけることかもしれない。そして次に、その酵素が何をするのかを解明し、最終的にはそれを操作して何か有用なことをさせる方法を見つける必要がある。
アンソロピックによれば、950体のエージェントからなる同社のシステムが21時間後に見つけたのは、まったく新しい配列ではなかった。エージェントたちが代わりに見つけ出したのは、既知の酵素の周囲にある反復パターンであり、アンソロピックによれば、これまで記載されていなかった特定のパターンだという。しかし、アンソロピックの発表を読むと、このパターンは「すでに科学と医学を一変させた」遺伝子編集技術CRISPR（クリスパー）につながったものを「思わせる」とされており、まるでこのエージェント軍団が本当に注目すべき何かを発見したかのように聞こえる。
こうした主張は一部の生物学者を怒らせている。ある生物学者の投稿が拡散し、その後、製薬会社イーライリリー（Eli Lilly）の会長兼CEOも賛同を示した。その投稿では、「奇妙な遺伝子と反復配列のクラスターを見つけることは、多くの場合、簡単な部分です。本当に難しく、実際の発見が生まれるのは、そのシステムが実際に何をしているのかを解明することです」と述べられている。つまり、エージェントたちは研究に伴う地道な作業の一部を手伝ったにすぎず、それは発見とは言えない。
これは、AIが人間の目だけでは認識しづらい大量の生物学的データの中からパターンを見つけるといった印象的なことを成し遂げたとしても、その結果自体が科学上のブレークスルーになるとは限らないことを思い出させるものだ。AIにとって新しいことでも、生物学者にとってはありふれたことだったり、驚くほどのことではなかったり、あるいは単にそれほど重要ではなかったりする可能性がある。
さらに話を複雑にしているのは、コペンハーゲン大学の生物学者マリオ・ロドリゲス・メストレが週末に、自分のチームはすでにこの特定のパターンを発見していたと述べたことだ。『ニューヨーク・タイムズ』紙が報じた。研究の中でClaudeと定期的にやり取りしていたメストレは、アンソロピックのチームが自分とClaudeとの対話から学んでいたのではないかと疑問を呈した。アンソロピックはこれを否定しているが、メストレはいずれにせよ、Claudeの利用をすべてやめるつもりだと述べている。
ここでの問題の一部は、AI企業が自社のシステムを、顕微鏡やスーパーコンピューターのように科学者が利用できる単なる道具として提示していないことだ。それらの企業は、AIシステム自体が発見をしていると主張している。一部の人々にとって、そのようなアプローチは、新しい知識が通常、共同作業と絶えず増え続けるツール群から生まれるという、科学の実際の営みとは相容れないものだ。
それはまた、本物の進歩が実際に起きても、人々がそれをより疑って見るようになる原因にもなっている。20万件の候補を、調べる価値のあるわずかな数まで絞り込むことは、決して小さな成果ではない。それ自体、れっきとした科学的作業だ。汎用チャットボットがその作業をこなせるという事実は注目に値する。たとえ人間が方向付けを手伝い、最終的に実験を実施したとしても、だ。しかし、判断基準が「Claude自身が発見をしたのか」になると、そうした成果のすべてが、「ブレークスルーか失敗か」という二者択一の議論の、どちらか一方を支持する証拠にされてしまう。
AIが発見したかどうかでAIを評価するようになると、AIが本当に成果を上げたように見えた後でさえ、ゴールポストを動かしたくなる誘惑も生まれる。今月初め、オープンAI（OpenAI）は、自社のエージェントチームが数学における100万ドルの懸賞問題を解いたと発表した。しかし数週間後、SNSの私のフィード上のほぼすべてのAI懐疑派は、それが本当に重要な数学の問題だったのかを問う記事をシェアしていた。
念のため言っておくと、その記事はオープンAIの解答が誤っていると主張したわけではない。そうではなく、その特定の成果は、数学者たちが最も重視しているものではないかもしれないと論じたのだ。さらに、モデルが自分の研究の一部を適切なクレジットなしに利用した可能性があるという数学者からの批判もあり、人々には、オープンAIが不正をしたか、その解答がそもそも重要ではなかったかのどちらかだ、という印象が残る。あるいは、その両方かもしれない。
これは、冒頭で触れた、アンソロピックの発表を批判する投稿を書いた生物学者ルーカス・ハリントンが懸念していることの一部でもある。彼は最後に1つの提案で締めくくった。AI企業は、「AIが実際に根本的に新しい生物学的メカニズムを発見したときに、それがどれほど大きな出来事なのかを誰もが理解できるよう、今のうちに基準を高く設定すべきです」と述べた。しかし、オープンAIのサム・アルトマンCEOとアンソロピックのダリオ・アモデイCEOが互いを出し抜こうと競い合う中、AIによる科学的ブレークスルーの基準を引き上げることは、彼らが考えていることの中でも最も優先順位が低いのかもしれない。
本記事はアフィリエイトプログラムによる収益を得ている場合があります
