OpenAIは3月23日（現地時間）、ChatGPTをはじめとするツールやサービスの使用についての利用規約である「Usage policies」を改定し、従来よりもはっきりとした具体的な規定を示した。
OpenAI製品の利用禁止事項
新しい規約には、ChatGPTやGPT-4をはじめとするOpenAIのモデルを利用する際の禁止事項が以下のように具体的に列挙されている。
- 違法行為
- 児童への性的虐待、搾取などが含まれるコンテンツ。見つけ次第「全米行方不明・被搾取児童センター」へ報告される
- 嫌がらせ、脅迫、憎悪や暴力の助長、ハラスメント、暴力的なコンテンツの生成
- システムの破壊や不正アクセスを目的としたマルウェアの生成
- 武器の開発や自傷行為教唆など物理的な危害を及ぼすリスクの高い活動
- MLM、ギャンブル、信用調査など経済的な被害を受けるリスクの高い活動
- スパムや偽情報、組織的な不正行為など詐欺的または欺瞞的な行為
- 出会い系アプリを含むアダルトコンテンツ（性教育・健康増進を除く）全般
- 選挙運動またはロビー活動、政治的に偏ったチャットボットの作成
- 個人を対象とした顔認証、個人を特定できる情報、教育、財務、またはその他の保護された記録の不正な収集または開示などプライバシーを侵害する行為
- 専門家がチェックしていない法的アドバイスなど無許可の法律行為
- 専門家がチェックしていないファイナンシャルアドバイス
- 治療や処置の方法といった医療情報。特に命に関わる問題やトリアージは厳禁
- 法執行、刑事司法、移住、亡命といったハイリスクな政府の意思決定
また、モデルの特定用途における使用については、さらに以下のような制限がもうけられている。
1.医療、金融、法律業界における消費者向けの当社モデルの使用。ニュース生成またはニュース要約、およびその他の保証がある場合は、AIが使用されていることとその潜在的な制限を知らせる免責事項をユーザーに提供しなければならない。
2.自動化されたシステム（会話型AIやチャットボットを含む）。ユーザーがAIシステムとやりとりしていることをユーザーに開示しなければならない。歴史的な公人を描いたチャットボットをのぞき、他人をシミュレートする製品は、その人の明確な同意があるか、「シミュレート」または「パロディ」として明確に表示されなければならない。
3.ライブストリーム、デモンストレーション、研究でのモデル出力の使用は、OpenAIの共有・公開ポリシーに従う。
プラットフォームとプラグインに関する規約
GPT-4、DALL·E、WhisperといったOpenAIが提供するAPIは、すべての主要な技術プラットフォーム、アプリストア、およびそれ以外の製品に統合することが許可されているが、その際上記で説明した禁止事項に加え、プラグインを作成する開発者のための追加要件が設けられている。
- プラグインの基本情報や設定を記述するプラグインマニフェストファイルに、モデルに公開されたAPIの機能と一致する明確に記述された説明が必要。
- プラグインマニフェスト、OpenAPIエンドポイントの説明文、プラグインの応答メッセージに、無関係または欺くような用語や指示を含めない。これには、他のプラグインを使用しないようにという指示や、モデルの動作を制御または設定しようとする指示などが含まれる。
- OpenAIの安全システムを回避したり、妨害したりすることを目的にしたプラグインの使用は禁止
- 人間のような反応をシミュレートしたり、あらかじめプログラムされたメッセージで返信したりすることで、実在の人物との会話を自動化することは禁止。
- ChatGPTが生成した個人的なコミュニケーションやコンテンツ（メール、メッセージ、その他のコンテンツなど）を配布するプラグインは、そのコンテンツがAIによって生成されたものであることを示す必要がある。
違反にはアカウント停止処分も
コンテンツや製品がこれらのポリシーに違反していることが判明した場合、OpenAIは必要な修正を行うよう警告し、さらに違反が繰り返された場合や、重大な違反があった場合には、アカウントの停止処分などの措置を執るとしている。
また、今後もモデルやツール、サービスの利用状況などに応じ、これらの利用規約は変更されることがあることも明言している。
