柳谷智宣の「簡単すぎて驚く生成AIの使い方」 第70回

生成AIは「長く読ませる」「深く考えさせる」ほど賢くなるとは限らない！　トークン節約のおすすめテクニック

　本連載は生成AIをこれから活用しようとしている方たちのために、生成AIの基本やコピペしてそのまま使えるプロンプトなどを紹介。兎にも角にも生成AIに触り始めることで、AIに対する理解を深め、AIスキルを身に着けて欲しい。第70回は生成AIの性能を落とさずに、トークン消費を抑えて使うためのテクニックを解説する。

　生成AIを毎日使っていても、ほとんどの人はトークンという単位を気にしていないのではないだろうか。定額プランなら、1回の質問で何トークン使おうと請求額は変わらないし、会社の経費で使っているなら、なおさら意識しにくい。しかし、トークンを大量に消費したほうが良い答えが返ってくるという考えを、2025年以降の様々な検証や研究が否定しはじめている。

　そもそも、定額だから使い放題というわけでもない。ClaudeもChatGPTも、有料プランに利用の上限を設けている。とくにClaudeは、消費量がメッセージの回数ではなく、やり取りの長さや選んだモデル、添付ファイルの量で決まる。Anthropicのヘルプにも、長い会話ほど使用量が増えると書かれている。余計なトークンを使えば、回答の精度も速度も落ちるうえに、週次の利用枠もそれだけ早く消費してしまう。一般ユーザーでも、トークンの節約術は知っておくにこしたことはない。

Claudeは設定画面の使用量から、5時間ごとの枠と週次の枠の消費状況を確認できる

定額プランでも、使い方によっては利用上限に早く届く

　2026年前半、企業のあいだではトークンのコストが一気に切実な問題になった。Uberは2026年分のAIコーディング予算を4月までに使い切り、Claude CodeやCursorといったツールごとに、従業員1人あたり月1500ドルという上限を設けたことが6月に明らかになった。

　とはいえ、これは企業がAIコーディングツールを大規模に使っている例になる。月20ドルや30ドルのサブスクで使っている人には、まだ他人事に見えるかもしれない。ここで押さえておきたいのは、定額プランで実際に減っていくのが請求額ではなく、決められた利用の上限だという点だ。

　Claudeの有料プランは5時間単位の枠と週次の枠を並行して設けており、この2つの枠は、ツールの利用状況まで含めて同時に消費されていく。なお、ChatGPTは枠の数え方がClaudeと異なる。日常の会話に使う高速モデルと、モデルピッカーで推論の深さを指定したときに動く推論モデルとで、利用枠が別々に管理されている。つまり、簡単な作業まで手動で推論モデルに回すと、本当に必要な場面で使いたい推論の枠だけが先に減っていく。

ChatGPTのモデルピッカーには推論の深さを選ぶスライダーが用意されている

　少し前まで、生成AIを使う際の悩みどころは文脈が足りないことだった。しかし、今はClaude Opus 5、Gemini 3.1 Pro、GPT-5.6 Solなど、各社のハイエンドモデルが軒並み100万トークン規模のコンテキストウィンドウを持ち、議事録もPDFも過去ログもまとめて放り込めるようになった。すると人間の側は、念のため全部添付しておく、可能な限りチャットを続ける、参考資料を10個足す、出力もできるだけ詳しくしてもらう、と考えてしまうのは当然かもしれない。

　ところが、コンテキストウィンドウはあくまでも最大容量であって、推奨される投入量ではない。2025年のEMNLP Findingsで発表された研究は、5つのモデルを数学、質問応答、コーディングの課題で調べ、必要な情報を完璧に取り出せている状態でも、入力が長くなるだけで性能が13.9～85％落ちることが明らかになった。AIに渡すコンテキストが長いほど、マイナスに効いてしまうのだ。

　OpenAIも2026年7月29日に公開した技術記事の中で、この問題をcontext bloat（文脈の肥大）と呼んでいる。ツールやスキル、会話履歴が増えると文脈は簡単に膨らみ、コストが増えるだけでなく、モデルの注意がそれて、必要のない推論まで誘発すると書かれている。

　日本語で使っている人には、さらに言語の事情が加わる。同じ内容でも、日本語は英語より細かくトークンに分割されるのだ。2026年の比較検証では、英語を1としたときの日本語の入力トークン量がGPT-5.5系で1.73倍、Claude Opus 4.7系で1.39倍という差が出た。だからといって英語で質問するのは現実的ではないが、日本語は燃費が悪いということを知っておいたほうがよいだろう。

ツールやスキル、会話履歴が増えるほどコンテキストは膨らみ、モデルの注意がそれて不要な推論まで生じる

上位モデルと下位モデルを賢く使い分ける

　サブスクを契約すると、どうしても一番賢そうなモデルを選びたくなる。せっかくProなんだから一番強いやつ、Thinkingがあるなら毎回Thinking、深く考えてと付けておけば安心、という発想は理解できる。ただ2026年は、高速モデルの性能が相当向上しており、実用レベルに達している。

　OpenAIはGPT-5.6をSol、Terra、Lunaの3つに分け、上位ほど高性能で高価格という位置づけにしている。Anthropicも複数のモデルを用意しつつ、対応モデルではeffortを調整できる。各社とも、作業に応じてモデルの能力と考える量を使い分けられるようにしているのだ。

　深く考えさせれば必ず良くなるわけでもない。Cognitionのコーディング評価FrontierCode 1.1では、Claude Opus 5はmediumで最高点を記録し、high、xhigh、maxはいずれもmediumを下回った。難易度に合っていない深さを選ぶのは、時間と利用枠を捨てているのと変わらないのだ。

　実際、要約や分類、抽出、誤字チェック、フォーマット変換、メールの下書き、翻訳、アイデアを10個出す、といった基本的な作業は高速モデルで足りることが多い。反対に、複数の契約書を突き合わせたり、原因のわからないバグを追ったり、複数の条件から計画を組むといった仕事は推論モデルに回したほうがいいだろう。最初からフルパワーではなく、普段は高速モデルを使い、難所だけ深く考えさせるのが基本形になる。

　ただし、節約しすぎれば当然品質は落ちる。難しいタスクなのに、高速モデルで試し、中位モデルでやり直し、最後に上位モデルを使うほうが、かえってトークンも時間も食ってしまう可能性がある。使い分けのバランスがキモになる。

話題が変わったタイミングで新しいチャットに切り替えると、不要な会話履歴を減らし、長い文脈による性能低下を避けやすい

　では、具体的なトークン節約術を紹介しよう。まずは前提条件の渡し方。PDF資料の一部について、要約・分析してほしいなら、全体を渡さずに、Acrobatなどのアプリで該当ページを抽出して渡したほうが精度が高まる。数ページ程度の文書ならそのまま突っ込んでもいいのだが、何百ページもあるような大きなファイルだとそれだけでトークンを大きく消費してしまうためだ。

　次に会話の切り方。話題が変わったら新しいチャットを立てるのが基本になる。長い会話は精度が落ちるうえに利用枠も多く消費するので、続ける理由がないなら切ったほうがいい。とはいえ、積み上げた前提を捨てるのは惜しいこともある。そんなときは会話の節目で「ここまでの前提、決まったこと、未解決の点だけを箇条書きでまとめて」と指示し、出てきた要約を新しいチャットの1通目に貼ればいい。ある程度の文脈を引き継ぎ、新規セッションで会話をスタートできる。

　文章を直してもらうときは、没案を延々と残さないのもコツ。最新版と、守ってほしい条件だけを新規セッションに渡すことで、無駄な情報を読み込ませずに済む。過去の修正履歴が全部残っているチャットは、モデルにとっては矛盾した指示の山でしかないからだ。

　コネクターやMCPサーバーの付けっぱなしも見直したい。Anthropicが公開した例では、GitHubやSlack、Sentry、Grafana、Splunkの5つをつないだだけで58個のツール定義が読み込まれ、会話が始まる前に約5万5000トークンを消費していた。同社の社内では、最適化前に13万4000トークンを食っていた例もあったという。使っていない連携は外す。それだけでコンテキストウィンドウの消費を抑えられるのだ。

使っていないコネクターを外すだけで、会話開始前に消えていたトークンを取り戻せる

　入力だけでなく出力もトークンを使うので、「詳しく説明して」で長文を出させてから「要するに？」と聞き直すと、二重に消費することになる。それであれば最初から「要点を3つ教えて」などと聞けばいい。アイデア出しなら、10案を短く出させて、選んだ2案だけ深掘りするのも効果的。調査を頼むときも、検索結果を延々と説明させず、候補と根拠を先に短くまとめさせてから踏み込めばいい。

　また、モデルと推論の強度は、高速モデルから使い始めて、出力に不満が出た場面だけ引き上げるほうが効率的だ。

節約の目的は、同じプランでより多くの作業をこなすこと

　トークンの節約術は多数あるが、必要な情報だけ渡す、セッションは時々リセットする、連携機能も最小限にする、といった基本を守るだけでも効果は大きい。さらに、出力の長さは先に指定し、モデルと推論の深さは作業の難易度に合わせるのもおすすめ。どれも特別な知識がいらない操作ばかりだ。

　今後、今のように上位モデルでトークンを使い放題という流れは変化すると考えられる。今のうちに、トークンを賢く使うスキルを身につけておいたほうが将来役に立つことは間違いない。まずは、負担にならないところから、トークン節約術にチャレンジしてみよう。

■関連サイト

• ChatGPT
• Gemini
• Claude