「第4回 GMO大会議 秋 フィジカルAI 2026」にて、最近話題のトークンマネジメントに関するパネルディスカッションを開催
企業で生成AIの導入が進むにつれ、新しい悩みが生まれている。ChatGPTなどのアカウントを配ってもほとんど使わない社員がいる一方、AIエージェントを本格的に動かせば、今度は大量のトークンを消費して料金が大きく膨らんでしまう。そこで企業にとって課題になるのが、AIへの支出をどこまで許容し、その効果をどう測るかだ。
2026年9月15日に開催された「第4回 GMO大会議 秋 フィジカルAI 2026」では、「『うちはAIにいくら使っている？』から始めるトークンマネジメント」と題したパネルディスカッションが行われた。
OpenAIで企業のAI導入を支援するForward Deployed Engineer（FDE）の齊藤初雲氏、企業のAI導入支援を手がけるデジライズ代表取締役CEOの茶圓将裕氏が登壇し、GMO天秤AI代表取締役社長の山城博規氏がモデレーターを務めた。
OpenAIのFDEが1ヵ月で100億トークン
GMO天秤AI代表取締役社長 山城博規氏（以下、山城氏）：今日はトークンマネジメントという視点から、企業のAI活用を考えたいと思います。まず皆さんに聞く前に自分の数字を出すと、8月の利用量をAPI料金に換算すると、約40万円でした。みなさんはどのくらい使っていますか？
OpenAI Forward Deployed Engineer 齊藤初雲氏（以下、齊藤氏）：どこまで言っていいのか探りながらですが（笑）、先月は100億トークンくらい使いました。エンジニアなので、開発や保守運用、システムの改善にかなり使います。自分用の秘書やスタッフのようなエージェントも作って、日々の仕事を進める仕組みにしています。
デジライズ代表取締役CEO 茶圓将裕氏（以下、茶圓氏）：僕もかなり使っています。最大で8アカウントを用途によって使い分けています。それぞれ得意なことが違いますし、APIでもいろいろなモデルを使っています。
左から、GMO天秤AIの山城博規氏、OpenAIの齊藤初雲氏、デジライズの茶圓将裕氏
定額AIは使われない、AIエージェントは料金が膨らむ
山城氏：企業ではAIを導入したのに、一部の人しか使わないという問題もあります。FDEとして現場を見ていると、何が原因なのでしょうか。
齊藤氏：まず「なぜ使われないのか」を調べる必要があります。必要な社内データやシステムにつながっていなかったり、業務で求められる精度に届いていなかったり、理由はいろいろあります。AIを配れば自然に活用が進むわけではありません。実際の業務で価値を出せるところまで持っていく必要があります。
山城氏：茶圓さんも、AIを導入したのに使ってもらえないという相談は多いですか？
茶圓氏：多いですね。大きく2つに分けて考えると分かりやすいです。1つはWebで使う定額制の生成AIです。会社がせっかくアカウントを用意しているのに社員が使わない。一方、CodexやClaude CodeのようなAIエージェントは長時間仕事をさせられるので、本格的に使うと料金も増えます。今の企業では「定額なのに使ってくれない」という問題と、「AIエージェントを使わせたら従量課金が膨らんだ」という問題が同時に起きています。
山城氏：会社が有料版を用意しなければ、社員が個人アカウントや無料版を勝手に使うシャドーAIの問題も出てきますね。
茶圓氏：そこはかなり危険です。「高いから会社では契約しない。でも社員は勝手に使っている」という状態になってしまいます。
生成AI活用企業は34.5％。別調査では73％がシャドーAIを有効管理できず
AIを使いすぎたら止める？ 見るべきは「ROAI」
山城氏：では、現場がAIを使いすぎたら誰が止めるべきでしょうか。本人なのか、管理者なのか、それともシステムで制限するのか。
茶圓氏：僕は、その問いの前提を変えた方がいいと思っています。「使いすぎか」ではなく、「使ったAIがどれだけ価値を生んでいるか」です。僕は「Return on AI」、ROAIと呼んでいます。AI代に対してどれだけリターンを出せたかを見るべきです。
齊藤氏：完全に同意です。「使いすぎ」ではなく、どこへ使えば効果が出るのかを考えるべきだと思います。以前、営業部門向けのAIエージェントを支援した際には、お客様への提案資料を準備する時間が24時間ほどから10分程度になりました。もちろんトークンは使いますが、それによって訪問できるお客様が増え、営業成績にもつながりました。
山城氏：「資料を早く作れた」で終わらせてはいけないということですね。その結果として営業の回数や成果がどう変わったのかまで見ないと、本当の効果は測れない。
齊藤氏：そうですね。ビジネスインパクトまでつなげて見ることが重要です。
AIが安くなるのを待つより、今から仕事を変える
山城氏：AIエージェントを自律的に動かすようになると、さらに大量のトークンを使います。企業はどこまで使わせればいいのでしょうか。
齊藤氏：現在の料金だけで判断しないことも重要だと思います。AIはこの1年間でも、同じようなアウトプットを得るためのコスト効率が大きく改善してきました。これからも効率が上がっていくと考えるなら、将来を見据えて投資する必要があります。ビジネスとしてどのくらいのインパクトが期待できるのか、そこから逆算する方が自然です。
山城氏：今後、同じ仕事をさせるためのコストは下がっていくと見ていますか？
齊藤氏：そう考えています。
茶圓氏：僕も、中長期では性能当たりのコストは下がっていくと見ています。だから、安くなるまで待つのではなく、今から使った方がいい。AIを前提に作られた組織と、そうでない組織では業務フロー自体が変わります。料金が安くなってから始めても、その仕組みを作るには時間がかかります。
山城氏：茶圓さんの会社では、実際に仕事の流れをどう変えていますか？
茶圓氏：例えば営業なら、商談後に議事録をまとめ、メールを書き、提案書を作る仕事があります。うちでは商談の文字起こしから社内への情報格納、提案書のたたき台作成まで自動化しています。ただし、何でも完全自動にはしていません。外部へ送るところなど、人が確認した方がいい場所は残しています。どこまでAIへ任せるのかも戦略です。
経営には「戦略」、現場には「カルチャー」
山城氏：最後に、企業がトークンマネジメントやAI導入を考えるうえで、持ち帰ってほしいことをお願いします。
茶圓氏：ROAIを意識してほしいです。1人当たり1000円、2000円のAI代を節約することだけを考えるのではなく、極端に言えば1人に100万円使っても、その人が1億円の売上を作ればいい。AIへの投資に対して、何が返ってくるのかを見るべきです。そして、それを知るには使ってみないと分かりません。特に経営層には、最先端のAIを自分で使って仕事がどう変わるのかを体感してほしいと思います。
齊藤氏：経営者向けに一言で言うなら「戦略」です。トークン利用はAIへの投資戦略の一部だと思います。自社がどこへ向かい、その中でAIをどう使い、どんなビジネスインパクトを求めるのか。経営の論点として考えてほしいですね。一方、現場で重要なのは「カルチャー」です。ChatGPTのようなAIは一部の専門家だけのものではありません。現場の人が使い、そこから業務改善が生まれる環境を作ることも大切です。
山城氏：AIにいくら使ったのかを見るだけでなく、その金額で何が変わったのかまで見る。トークンを単なるコストではなく投資として捉えることが、これからのAI活用では重要になりそうです。
AIエージェントの活用が広がった企業が、AI利用料金の請求書を見て驚くということが増えている。その流れを受け、セッションでも話されたように、OpenAIやAnthropicから安くて賢いAIモデルが相次いで登場した。同時に、単なるチャットではなく、成果物まで手を動かして作り上げるAIエージェントの進化も続いている。「AIを使おう」から「AIで稼ごう」と状況が変わりつつあると言っていい。今後、AIをどのくらい使ったのかよりも、AIでどんな成果を出したかが問われるようになるだろう。
本記事はアフィリエイトプログラムによる収益を得ている場合があります
