OpenAIは7月5日、人間より賢くなったAIの暴走を抑えることを目的とした基礎研究チームを発足したと発表した。
本研究の目標は、人間より賢いAI(AGIよりも高性能な“超知能”)が人間の意図に従うことを保証する自動調整システムの構築。同社では今後10年以内に人間より賢いAIが誕生すると予測しており、本研究は4年以内の目標達成を目指す。
チームリーダーはIlya Sutskever氏とJan Leike氏の2名。同社は本研究にコンピューティング(計算能力)の20%を投入する一方、得られた知見は外部に広く共有し、OpenAI以外のモデルの調整にも貢献したいとしている。