Anthropicは11月21日(現地時間)、ChatGPTと競合するAIチャットボット「Claude」をバージョン2.1にアップデートしたと発表した。
コンテキストウィンドウを20万トークンに拡大
Our new model Claude 2.1 offers an industry-leading 200K token context window, a 2x decrease in hallucination rates, system prompts, tool use, and updated pricing.
— Anthropic (@AnthropicAI) November 21, 2023
Claude 2.1 is available over API in our Console, and is powering our https://t.co/uLbS2JNczH chat experience. pic.twitter.com/T1XdQreluH
最大のポイントは、コンテキストウィンドウ(入力欄)に入力できる情報量を従来の10万トークンから20万トークンに倍増した点だ。
トークンとはAIが言語を処理し生成するための基本単位。20万トークンはおよそ15万語、500ページ以上の資料に相当するという。
これにより、技術文書や財務諸表、長編小説といった巨大なデータを入力できるようになったことで、要約、Q&A、トレンド予測、複数のドキュメントの比較対照といったさまざまなことが可能になるという。
なお、OpenAIの最新LLM「GPT-4 Turbo」は12万8000トークンだ。
ハルシネーション(幻覚)が2倍減少
以前のモデルと比較して、ハルシネーション(幻覚)などによる虚偽の回答が2倍減少していることも明かされた。
既存モデルの弱点を克服するために作られた複雑で大規模な質問セットを使ってトレーニングすることで、答えがわからない質問をされた時に、答えを無理やり捏造(ハルシネーション)するよりも、「わかりません」と降参する可能性が大幅に高くなった。
高い正確性が要求される法的文書、財務報告書、技術仕様書など長くて複雑な文書でも、理解力と要約力において有意義な改善をもたらしたという。
この改善により「企業は具体的なビジネス上の問題を解決する高性能なAIアプリケーションを構築し、より高い信頼性と信頼性でAIを業務全体に展開することができる」と主張している。
API Tool Use
また、ユーザーの既存のプロセス、製品、APIとClaudeを統合できる新しいツール類(ベータ版)の提供も始めた。
これらのツールを使えば、開発者が定義した関数やAPIを統合して使用したり、ウェブから検索をしたり、プライベートなナレッジベースから情報を取得したりできるようになる。
We’re enhancing our developer experience with a new Workbench feature in the Console that makes it easier for Claude API users to test prompts. We’re also introducing system prompts, which allow users to provide custom instructions to structure responses in a more consistent way. pic.twitter.com/28xwVF6CB8
— Anthropic (@AnthropicAI) November 21, 2023
さらに、開発者向けの新しいコンソール環境である「Workbench」や、カスタム指示を与える「システムプロンプト」も導入している。
Claude 2.1は現在APIおよび無料/有料版の「claude.ai」で利用できる。ただし、20万トークンのコンテキストウィンドウは有料版(月額20米ドル)のみ利用可能だ。
なお、APIの利用料金も改定されている。改定前のClaude2の利用料金は質問(Prompt)が100万トークンあたり$11.02、回答(Completion)が100万トークンあたり$32.68だったところ、Claude2.1(2.0も同価格)では質問が$8、回答が$24と大幅に値下げされている。OpenAIなど他社のAPI料金(GPT-4は質問が$30、回答が$60)と比べてもかなり低めに設定されている。