Claude API

Claude API

Claudeのプロンプトキャッシュが効かない原因を cache_miss_reason で特定する

プロンプトキャッシュはClaude APIのレイテンシとコストを大きく下げます。ただし効くのは、プロンプトの先頭(プレフィックス)が前回とバイト単位で一致しているときだけ。1か所変わると、それ以降のキャッシュがまとめて無効になります。問題は...