Context Length Optimization

コンテキスト長の最適化はClaude APIコールでの入力トークン数を管理するエンジニアリング実践です。その目標は単に「コストを節約する」ことだけでなく——それが主な動機ですが——コスト、速度、アウトプット品質の間で最良のバランスを見つけることです。 重要な理由：Claude APIはトークンごとに課金し、入力トークン（送信するテキスト）と出力トークンは別々に請求されます。実際の本番アプリケーションでは、入力トークンは通常コストの60〜80%を占め、その大部分は最適化可能な「低価値トークン」です。さらに重要なのは「Lost in the Middle」効果です：Claudeはコンテキストの最初と最後への注意力が最も高く、中間の情報は希薄化されやすいです。

実装優先度順の4つの主要なコンテキスト長最適化技術： **技術1：システムプロンプトのトリミング（最高ROI）**：システムプロンプトは毎APIコールで課金されます。冗長な説明と繰り返しのフォーマット指示を圧縮し、各コールのベースコストを即座に削減します。 **技術2：プロンプトキャッシング（システムプロンプトが1,024トークン超の場合）**：Anthropicのプロンプトキャッシング機能でシステムプロンプトの静的部分をキャッシュし、後続の読み取りは10%のコストのみ。 **技術3：会話履歴のトランケーション**：全会話履歴を保持せず、最近のNターンのみ保持します。 **技術4：要約圧縮**：トランケーションよりも洗練された方法——安価なHaikuで古い会話履歴を要約に圧縮します。

コンテキスト長の最適化は「会話メモリアーキテクチャ」の設計決定を通じてシステム設計に最も直接的な影響を与えます。多くの初心者はClaude会話履歴全体を渡しますが（最も簡単な実装）、これは長い会話でトークンの爆発を引き起こします。本番システムは通常「階層型メモリアーキテクチャ」を採用します：最近のターンの完全な記録（短期メモリ）+以前の交換の圧縮要約（中期メモリ）+タスクの重要な決定と事実（長期メモリ、RAGまたは直接注入を通じて）。

コンテキスト長の最適化実装パスの推奨： **ステップ1**：まずトークン消費の監査。console.anthropic.com/settings/usageで日々のトークン消費分布を確認します。 **ステップ2**：システムプロンプトのトリミング。各文に対して「この文を削除するとClaudeの行動はどう変わるか？」を問います。 **ステップ3**：スライディングウィンドウ会話履歴を実装。最近の8ターンを保持することから始め、アウトプット品質が変化するかを観察します。 **ステップ4**：プロンプトキャッシングを評価。システムプロンプトが1,024トークンを超え、連続リクエストで変わらない場合、キャッシングを有効化します。