Prompt Caching

プロンプトキャッシングはAnthropicが提供するAPI機能で、APIリクエストの一部に「このテキストは静的なので、キャッシュしてください」とマークできます。一旦テキストセグメントがキャッシュされると、後続のAPIコールはそのキャッシュされたセグメントを読み取るために元の計算コストの10%のみを支払います。 最も直感的な理解：システムプロンプトを作業マニュアルとして考えてください。キャッシングなしでは、すべてのAPIコールがClaudeにマニュアル全体を最初から読ませます（全額）。キャッシングありでは、Claudeが最初に読んだ後、後続のコールは「マニュアルが同じであることを確認」するだけです（10%のコスト）。

プロンプトキャッシングの適用シナリオ、高効果から低効果の順： **最高の効果**：大きな固定システムプロンプト（2,000トークン超）と高い日次コール量。 **中程度の効果**：コンテキストに参照文書を注入するアプリケーション（例：バックグラウンド文書をシステムプロンプトに持つRAGシステム）。 **低効果または適用不可**：非常に短いシステムプロンプト（閾値以下）；コールごとにシステムプロンプトの内容が異なる；非常に低いコール頻度。

プロンプトキャッシングの技術的な実装の詳細：静的なシステムプロンプト部分にcache_controlマーカーを追加するだけです。 注意：キャッシュに適しているのはシステムプロンプトの静的な部分（すべてのコールで同一の部分）のみです。動的なコンテンツがある場合は、静的な部分の後に配置し、静的な部分のみにcache_controlを有効にします。 キャッシュヒット率の監視：APIレスポンスの`usage`フィールドの`cache_creation_input_tokens`と`cache_read_input_tokens`でキャッシング効率を測定できます。

プロンプトキャッシングのベストプラクティス： **システムプロンプトを構造化する**：静的な汎用ルールを先頭に（この部分がキャッシュされる）；動的なコール変数コンテンツを最後に（この部分はキャッシュされない）。 **キャッシュの有効期間に注意する**：5分間のキャッシュ有効期間は、コール間隔が5分を超えるとキャッシュが期限切れになることを意味します。 **プロンプト圧縮と組み合わせる**：まずシステムプロンプトをトリミングし、次にキャッシングを有効化します。 **長文書RAGに適している**：固定の参照文書をコンテキストに注入する必要がある場合、キャッシングを有効にしてシステムプロンプトに配置します。