OpenAIは1月16日（現地時間）、2023年5月に発表された助成金プログラム「Democratic Inputs to AI Grant Program（AIへの民主的なインプット）」の結果およびそこから得られたいくつかの教訓を公表した。
10チームに10万ドルを授与
OpenAIは、AIがより進化し人類の価値観により合致したモデルを提供するためには、AIの振る舞いを決定する際に一般市民を参加させることが不可欠となると考えている。
そこで2023年5月、AIシステムを制御するためのルール決定に民主的な方法を使用するアイデアを設計、構築、テストするための「Democratic Inputs to AI Grant Program」を発表。113ヵ国、およそ1000件の応募の中から12ヵ国のメンバーからなる10チームに10万ドル（およそ1473万円）を授与した。
参加チームは、「デジタルデバイドを越えた多様な参加者の募集」「多様な視点を代表する一貫性のあるアウトプットの生成」「公衆に信頼される十分な透明性を持つプロセスの設計」といった様々な課題に取り組んだ。9月には「Demo Day」を開催し、各チームが互いのコンセプトやOpenAIのスタッフ、他のAIラボやアカデミアの研究者に自分たちのコンセプトを披露した。
特筆すべきことに、ほぼすべてのプロジェクトでAI自体が課題解決の一部として有用な役割を果たしたという。
OpenAIがプロジェクトから学んだ教訓とは
OpenAIは本プログラムからの主な学びとして以下をあげている。
世論は頻繁に変わる可能性がある
・各チームは複数の方法で世論を把握したが、多くのチームは世論が頻繁に変化することを発見した。
デジタルデバイドを越えることはまだ難しく
そのことが結果を歪める可能性がある
・デジタルや文化的な隔たりを越えて適切な参加者にリーチするには、よりよいアウトリーチやよりよいツールへの追加投資が必要となる。
両極化したグループ内で一致点を見出すことの困難さ
・少人数のグループが特定の問題について強い意見を持っている場合、妥協点を見つけるのは難しいかもしれない。
合意形成と多様性の反映
・グループの代表としてひとつの決断を下そうとするとき、コンセンサスを得ようとすることと、さまざまな意見の多様性を適切に表現することの間に緊張が生じる可能性がある。多数派だけではなく異なる視点にもプラットフォームを与えるべきだ。
AIガバナンスの未来への期待と不安
・政策立案にAIを使うことに不安を感じ、民主的なプロセスにおいてAIがいつ、どのように適用されるのかについて透明性を求める声があった。多くのチームが、AIを導くための市民の能力について希望が高まっていることがわかった。
今後の展開は
OpenAIはこれらの教訓を活かし、今後数ヵ月で研究と助成チームによって開発されたアイデアやプロトタイプを組み合わせる予定だ。
将来的には市民からの入力を収集し、モデルの行動に組み込むためのエンドツーエンドのプロセスを設計することを目指している。これには、外部のアドバイザーや助成金チームとの連携が含まれる。
また、この研究を確実に前進させるため、研究者とエンジニアで構成される「Collective Alignment」チームの結成も発表された。
