グーグルのAI分野における最重要論文「Attention Is All You Need」の著者8人の内の1人であるリオン・ジョーンズ氏は8月17日(現地時間)、同じく元グーグルのデイヴィッド・ハ氏と共に東京を拠点とするスタートアップ「Sakana AI」を設立するため、同社を去っていたことがわかった。
Personal Announcement! I’m launching @SakanaAILabs together with my friend, Llion Jones (@YesThisIsLion).https://t.co/nMIl8fzE73 is a new R&D-focused company based in Tokyo, Japan.
— hardmaru (@hardmaru) August 17, 2023
We’re on a quest to create a new kind of foundation model based on nature-inspired intelligence! pic.twitter.com/jAPe8kN60d
魚の群れなど自然界の概念にインスパイア
Sakana AIのウェブサイトには「私たちは、自然からインスピレーションを得た知性に基づく、新しい種類の基礎モデルを創造しています」とだけ書かれており、独自のマルチモーダル生成AIモデルを構築するものと予想されている。
「Sakana」という名前は、もちろん日本語の「さかな」から来ており、「魚の群れが集まって、単純なルールから首尾一貫した実体を形成する」といった、進化や集団的知性といった自然界の概念にインスパイアされているという。
創業者たちは、単に既存のモデルをスケールアップするだけではない、より賢く効率的な方法を開拓したいと考えているようだ。
「Transformer」モデルに関わった研究員全員がグーグルを去ることに
A Godfather of Transformers Launches Lab Developing More Adaptable AI Models @theinformationhttps://t.co/jKb40vFaevpic.twitter.com/B92oalDfFh
— Sakana AI (@SakanaAILabs) August 17, 2023
ジョーンズ氏らGoogle BrainとGoogle Researchの研究者8人によって2017年6月に発表された論文「Attention Is All You Need」は、ChatGPTやMidjourneyなど生成AIテクノロジーのバックボーンを支える「Transformer」モデルを提唱したことで有名だが、発表以来、共著者全員がグーグルを去り、ジョーンズ氏は最後の1人になっていた。
一方、CEOを務めることになるデイヴィッド・ハ氏は、グーグルの日本におけるAI研究部門の元責任者。直近では画像AI「Stable Diffusion」を開発するStability AIで研究を率いていた。
日本である意味
北米では生成AI関連の研究者を集めるためのリクルート合戦が過熱しているが、Sakana AIはそのトレンドに逆らい本拠地に日本の東京を選んだ。
その理由について二人は、強力な技術インフラ、教育された労働力、盛んな研究環境を挙げているが、「『情報解析』に必要な限度においては原則として著作物を自由に利用できる」という内容が2018年に追加された日本の著作権法も理由の一つだろう。
また二人は、訓練データの関係でどうしても英語中心になりがちなこの分野において、欧米以外のニーズに合わせてモデルをカスタマイズすることの多い日本は「他の文化圏でうまく機能しているモデルを中心にデータや機械をトレーニングすることで次のブレークスルーのきっかけになる」とも指摘している。
ハ氏によると「学術界からパートタイムの研究者を迎え入れ、最終的にはさらに多くの人材を雇用する予定」だという。なお、出資者については発表していない。