AIによる人類絶滅を防ぐために。OpenAI、グーグルの元会長シュミット氏とAIアライメント研究に1000万ドルの助成金

　OpenAIは12月14日、グーグル元CEOエリック・シュミット氏とのパートナーシップの元、超人的AIシステム（Superhuman AI systems）の整合性と安全性に関する技術研究を支援することを目的に1000万ドルの助成金プログラム「Superalignment Fast Grants」を開始したことを発表した。

最大200万米ドルの助成金

　OpenAIは、今後10年以内に超知能AI（superintelligence）の出現がありうると考えている。これは非常に高度な能力を持つため、大きな利益をもたらす可能性がある一方、大きなリスクも伴う。

　超人的AI（Superhuman AI）の複雑な行動を完全に理解または監視することは現時点ではできないため、新しい技術が必要であるとOpenAIの研究者は考えている​

　同プログラムでは、10万米ドル（およそ1423万円）から200万米ドル（およそ2億8500万円）の範囲で、学術研究者、非営利団体、個々のエンジニアや科学者に助成金が提供される。

　また、大学院生向けには15万米ドル（およそ2134万円）のフェローシップ（7万5千ドルは給与、残りはコンピュータリソースと研究資金として使われる）も用意されている​​。

　研究の方向性としては、弱い監督から強いモデルの一般化、モデル内部の解釈可能性、AI支援による人間の監視、モデル推論チェーンの正直さと信頼性などが含まれているという。

　OpenAIは「このような助成金とトップレベルの人材を集めるビジョンを通じて、高度なマシンが人類に利益をもたらすように整合性を保つための進歩を加速することを期待している​​」とプログラムの目的を示した。

■関連サイト

• ニュースリリース
• OpenAI