用語解説

プロンプトキャッシュとは?

ひとことで言うと

Claude API の機能。長い system prompt を再利用して料金とレイテンシを大幅削減。

プロンプトキャッシュは、Claude APIが提供する機能で、毎回送る固定のシステムプロンプトや長い参考資料をサーバー側に一時保存し、次回以降は再処理を省く仕組みです。同じ前提を繰り返し送る用途で、料金と応答までの待ち時間を大きく削減できます。

たとえば社内マニュアルや長い指示文を前提に何度も質問するチャットボットでは、共通部分をキャッシュし、変わる質問だけを毎回送る形にします。これにより入力トークンの課金が抑えられます。

キャッシュには有効期間があり、対象部分を一致させる必要がある点に注意します。

「プロンプトキャッシュ」が登場する記事・レッスン

← AI用語集一覧へ