プロンプトの次は「コンテキスト」：AIの性能を最大化する、意外な新常識

ここ数年、AI開発の中心は「プロンプトエンジニアリング」でした。いかにして最適な言葉を見つけ、モデルから望む結果を引き出すか。しかし、単発のタスクから、複数のステップを自律的にこなすAIエージェントへと開発の焦点が移るにつれ、新たな壁が見えてきました。「なぜ、あれほど高性能なはずのAIエージェントが、時に文脈を失い、混乱してしまうのか？」

その答えは、プロンプトの先にある、より広範な概念にあります。それは、プロンプトエンジニアリングの自然な進化形である「コンテキストエンジニアリング」です。これは単に「正しい言葉を見つける」技術から、モデルが利用可能な「全体的な状態（holistic state）」を管理する技術へのパラダイムシフトを意味します。この記事では、真に有能な自律型エージェントを構築するための鍵となる、この新しい常識を深く掘り下げていきます。

1. AIにも「注意力の限界」がある：コンテキストは有限な資源

AIのコンテキストは無限であると直感的に考えがちですが、事実はその逆です。LLMは人間と同様、「注意力の限界」という制約を抱えています。
コンテキストウィンドウ内のトークン（情報）が増えるほど、特定の情報を正確に思い出す能力が低下する「コンテキストの陳腐化（context rot）」と呼ばれる現象が起こります。これは、LLMが持つ「注意力の予算（attention budget）」が、トークンが増えるごとに少しずつ消費されていくためです。

この注意力の欠乏は、LLMの基礎となっているTransformerアーキテクチャに起因する技術的な制約です。Transformerは、コンテキスト内の全トークンが他の全トークンに注意を向けることを可能にしますが、これはトークン数をnとすると、n²のペアワイズ関係を計算する必要があることを意味します。コンテキストが長くなるにつれて、この関係性を維持する負荷は急激に増大し、モデルの注意力は薄まっていきます。さらに、モデルは訓練データに含まれる比較的短いシーケンスで注意パターンを学習することが多いため、長大なコンテキスト全体にわたる依存関係の処理には元来不慣れなのです。

この事実は、AIエージェント開発における極めて重要な原則を導き出します。すなわち、「コンテキストは貴重で有限な資源として扱う必要がある」ということです。単に情報を詰め込むのではなく、限られた注意力をいかに効率的に使わせるかを設計することが、その性能を決定づける鍵となります。

2. 最高のコンテキストは「最小限」である

「より多くの情報＝より良い結果」という一般的な思い込みは、AIエージェントの世界では通用しません。効果的なコンテキストエンジニアリングの本質は、むしろ「引き算の思考」にあります。その指導原則は、「望ましい結果を得る可能性を最大化する、最小限かつ最も重要なトークンのセットを見つけること」です。

この原則は、コンテキストを構成する各要素に適用されます。

システムプロンプトは、その典型です。最適な指示は、2つの極端な失敗モードの間にある「ゴルディロックス・ゾーン（Goldilocks zone）」に存在します。一方の極端は、エージェントの振る舞いを厳密に制御しようとする「脆いif-elseのようなハードコードされたプロンプト」。もう一方の極端は、モデルとの間に「共有された文脈」を誤って仮定してしまう「曖昧で高レベルなガイダンス」です。目指すべきは、行動を効果的に導けるほど具体的でありながら、モデルが自律的に振る舞うための強力なヒューリスティクスとして機能する柔軟性を併せ持つ、「適切な高度」の指示を与えることです。

ツールも同様です。開発者が陥りがちな最も一般的な失敗の一つが、「機能性が過剰であったり、曖昧な判断点を生んだりする、肥大化したツールセット」を与えてしまうことです。人間のエンジニアでさえ、ある状況でどのツールを使うべきか断言できないのであれば、AIエージェントがより良い判断を下すことは期待できません。

数ショット（few-shot）の例も、量より質が重要です。考えうるあらゆるルールを網羅しようと、プロンプトを「エッジケースの羅列」で埋め尽くすアプローチは避けるべきです。代わりに、期待される振る舞いを効果的に示す、多様性に富んだ「規範となる例」を厳選することが、モデルを正しく導きます。

この考え方を象徴するように、コンテキストエンジニアリングは一度きりの作業ではありません。それは、モデルの思考プロセスの各ステップで繰り返される、キュレーションの芸術なのです。

3. 必要な情報を「その場で」見つけさせる：ジャストインタイム検索

すべての情報を事前にコンテキストに読み込ませるのではなく、エージェント自身が必要な時に情報を探しに行かせる「ジャストインタイム」アプローチは、非常に効果的です。この手法では、エージェントはファイルパスやウェブリンクといった軽量な識別子のみを保持し、必要になった時点でツールを使ってデータを動的にコンテキストへ読み込みます。

このアプローチは、人間の認知プロセスを見事に反映しています。私たちは通常、情報全体を記憶するのではなく、ファイルシステムやブックマークのような外部の整理・索引システムを導入し、関連情報をオンデマンドで検索します。エージェントにとって、ファイル名やフォルダ階層、タイムスタンプといったメタデータは、人間にとってと同じように重要なシグナルとなります。例えば、testsフォルダにあるtest_utils.pyというファイルは、src/core_logic.pyにある同名のファイルとは全く異なる目的を持つことを示唆します。

この手法は「漸進的な情報開示（progressive disclosure）」を可能にし、エージェントが探索を通じて自ら文脈を発見し、学習していくプロセスを促します。しかし、そこには明確なトレードオフが存在します。実行時の探索は、事前に計算されたデータを取得するよりも時間がかかります。このため、多くの高度なエージェントは、速度のために一部のデータを事前に取得し、必要に応じて自律的な探索を行う「ハイブリッド戦略」を採用します。

4. コンテキストウィンドウの外に「記憶」を持たせる技術

数十分から数時間にわたる長期間のタスクをAIエージェントに実行させるには、どうすればよいでしょうか。その答えは、コンテキストの外に「記憶」を持たせる驚くべきテクニックにあります。

一つ目は圧縮（Compaction）です。これは、会話履歴がコンテキストウィンドウの限界に近づいた際、その内容をモデル自身に要約させ、重要な情報だけを新しいコンテキストウィンドウに引き継ぐ手法です。この技術の巧みさは、何を保持し、何を捨てるかの選択にあります。例えば、アーキテクチャに関する決定や未解決のバグは保持し、冗長なツール出力は破棄します。エンジニアはまず、重要な情報を見逃さないよう「再現率（recall）」を最大化することから始め、次に不要な情報を取り除くことで「適合率（precision）」を高めるよう、反復的に調整していくことが推奨されます。

二つ目は構造化されたメモ取り（Structured note-taking）です。エージェントがタスクの進捗や重要な発見を、NOTES.mdのような外部ファイルに定期的に書き出し、後でそれを参照することで永続的な記憶を実現します。このテクニックの威力は、Claudeにゲーム『ポケモン』をプレイさせた実験で鮮やかに示されました。Claudeは「この1,234歩の間、1番道路でポケモンをトレーニングし、ピカチュウは目標レベル10に対して8レベル上がった」といった具体的な進捗を記録し、探索した地域の地図を作成し、どの攻撃がどの敵に有効かという戦闘戦略まで記憶していました。コンテキストがリセットされた後も、自身のメモを読むことで、数時間にわたる長期戦略を首尾一貫して実行できたのです。

これらのテクニックは、AIに物理的なコンテキストの制約を超えた「永続的な記憶」を与え、長期的な一貫性と目標指向の行動を維持させるために不可欠です。

5. 「専門家チーム」で問題を解決する：サブエージェント・アーキテクチャ

単一の万能エージェントにすべてを任せるのではなく、複数の特化型エージェントからなるチームを編成する。これは、複雑な問題を解決するための先進的なアプローチです。このアーキテクチャでは、メインエージェントが司令塔（マネージャー）となり、特定のタスクに特化したサブエージェントに作業を委任します。

このアプローチの最大の利点は、コンテキストの汚染を防ぎ、効率を劇的に向上させる点にあります。各サブエージェントは、自身のクリーンなコンテキストウィンドウ内で、特定の調査や作業に深く集中します。その過程で数万トークンを消費するような広範な探索を行うかもしれませんが、メインエージェントにはその詳細な作業履歴ではなく、1,000〜2,000トークン程度に要約・蒸留された結果だけを報告します。これにより、メインエージェントのコンテキストは常にクリーンに保たれ、全体像の把握と次の戦略立案に集中できます。これは、人間の組織においてマネージャーが専門家チームにタスクを委任する構造と酷似しており、複雑なタスクの解決能力を飛躍的に向上させます。

結論：AIの「インストラクター」から「アテンション・マネージャー」へ

コンテキストエンジニアリングは、私たちがLLMとどう向き合うべきかについて、根本的なシフトを促しています。完璧なプロンプトを一度書くだけでなく、エージェントの思考プロセスの各ステップで、その限られた注意力にどの情報を与えるかを賢くキュレーションすること。これからのAI開発の核心は、「コンテキストを貴重で有限な資源として扱う」という考え方にあります。

モデルの能力が向上し、より自律的に動作するようになるにつれて、私たちの役割は、単に指示を与える「インストラクター」から、AIという知性のパートナーが持つ限られた注意力を賢く管理し、その焦点を導く「アテンション・マネージャー」へと進化していくでしょう。それは、一方的な指示ではなく、協力関係に基づく役割です。

AIが自律的なパートナーへと進化する未来で、私たちは彼らの無限の可能性を解き放つ、どのような「アテンション・マネージャー」となるべきか？その答えを探す旅は、まだ始まったばかりです。

参考文献：Effective context engineering for AI agents \ Anthropic

解説動画

その他記事、コラムはこちら