AIのトークンを使いまくる社員は、本当に優秀なのか？――熱狂から「冷徹なROI」へ移行する米国AI前線

「AIのトークンを使いまくる社員は、本当に優秀なのか？」

つい数ヶ月前まで、シリコンバレーのいくつかの尖ったテックベンチャーでは、「生成AIのトークン使用量」を社員の評価や給与のインセンティブに連動させるという、極めてドラスティックな実験が行われていた。「AIを限界まで使い倒す奴こそが、次世代の生産性を手に入れるリーダーだ」という熱狂だ。

しかし、足元のアメリカ企業から聞こえてくるのは、全く逆の冷徹なファクトだ。ウォルマートが社員向けのAIツールにトークン配給制（上限設定）を導入し、ウーバーが年間予算をまたたく間に使い果たし、多くのCFOが毎月送られてくるLLMのAPI請求書を見て青ざめている。あっという間に、アメリカ企業は「AIの無制限利用」に対して極めて慎重になり始めた。

この手のひら返しのスピード感は、まさにアメリカ的だが、ここで僕たちが考えるべきイシューは「AIバブルの崩壊」といった表面的な話ではない。これは、テクノロジーの進化における**「『触って喜ぶフェーズ（R&D・おもちゃの段階）』から『冷徹なROI（投資対効果）のゲーム』への大転換」**という、極めて必然的な構造シフトなのだ。

なぜ、これほどまでにコストが急増したのか。理由はシンプルで、生成AIの「コンテキストウィンドウ（一度に処理できるデータ量）の爆発的拡大」という技術特性と、僕たちの「雑なオペレーション」が最悪の形で噛み合ってしまったからだ。

最近のLLMは、新書数冊分のテキストや膨大なソースコードを丸ごと飲み込めるようになった。これは素晴らしいイノベーションだ。しかし、現場の人間が「ちょっとこの10万行のコードのバグを直して」「この分厚い社内マニュアルを要約して」と、カジュアルに、そして「生のまま」AIにデータを投げ込むと何が起きるか。
裏側では、天文学的な「トークン（文字の最小単位）」が往復し、1回のプロンプト（問いかけ）で数ドル、時には数十ドルというコストが、文字通り「溶けていく」ことになる。

現代の戦略論、あるいは僕がずっと主張している「イシューからはじめよ」の文脈で言えば、多くの企業は**「解くべき問い（イシュー）の解解像度を上げないまま、ただ巨大なAIの演算能力（マシンスペック）という『犬道』に頼って力技で問題を解決しようとした」**のだ。

粗くて曖昧なプロンプトを投げ、AIから返ってきた的外れな長文を読み、また曖昧な修正指示を送る。この「解像度の低いコミュニケーションの往復」こそが、企業の財務を圧迫する最大のコストドライバーになっている。

では、この先どうなるのか？ 僕はこれを「AIの冬」だとは全く思わない。むしろ、ここからが本当の「知の総力戦」の始まりだ。

これから起きるのは、徹底的な**「アーキテクチャの最適化」**だ。
すべてのタスクに、最も高コストで賢いフラッグシップモデル（GPT-4クラスやClaude 3.5クラス）を使うような富豪的なアプローチは終わる。日常的なメールの分類や簡単な要約は、極めて低コストな小型モデル（エッジLLMやローカルLLM）に任せ、本当に深い思考やクリエイティブな戦略構築の局面にのみ、トップエンドのAIを召喚する。人間側の「モデルの使い分け（ディスパッチ能力）」が厳しく問われるようになる。

そしてもう一つ、ビジネスパーソンのスキルセットにおける評価軸がガラリと変わる。
これまでは「AIをたくさん使って、大量のアウトプットを出す人」が評価されたかもしれない。しかしこれからは、**「解くべきイシューを極限まで構造化し、最もミニマムなトークン数（コスト）で、ピンポイントに最高の正解を導き出せる人」**、つまり「コストパフォーマンスと時間対効果（タイパ）を両立できる、プロンプトの打率が高い人間」こそが、真に優秀な人材と定義されるようになるだろう。

AIという魔法のツールを手に入れた僕たちは、今、その「燃費」をコントロールするという、極めて現実的なリテラシーを試されている。富豪的な思考を捨て、リソースの有限性を意識した瞬間に、本当のイノベーションの「実装フェーズ」が始まるのだ。

参考記事:Emil Lendof/WSJ; Getty Images
WSJ配信日時：2026年06月03日 06:43より