プロンプトキャッシュ
Prompt Caching
AI用語解説Overview
AIへの指示文(プロンプト)の中でよく使う部分を事前に保存しておき、処理を速くしてコストを下げる機能です。長いシステム指示を毎回送らずに済むため効率的です。
さらに詳しく解説Details
プロンプトキャッシュとは、AIへの指示文のうち毎回変わらない部分(例:「あなたはカスタマーサポート担当者です。丁寧な言葉で回答してください」といった共通設定)を事前にAI側で記憶させておく機能です。
通常、AIへのリクエストのたびに全ての指示文を送信するため、システム指示が長いほどトークン消費量が増え、コストと処理時間が増加します。プロンプトキャッシュを使えば、共通部分のトークン処理をスキップできるため、レスポンス速度が向上し利用コストも削減できます。
AnthropicのClaudeやOpenAIのAPIではこの機能が提供されており、特に長いシステムプロンプトを使い続けるビジネスアプリケーションで効果を発揮します。社内ルールや製品情報を大量にAIに読み込ませる用途でも活用できます。活用の際は対応しているモデルとAPIバージョンを確認し、エンジニアとともにキャッシュの有効期限設定も検討することをおすすめします。
関連用語Related terms
この用語が登場した記事Related articles3件
生成AI 最新動向を追いかける会社が陥る誤解。試す領域を間違えたAI活用は損失を増やす
生成AI 最新動向の情報収集に時間を費やしても、試す領域を間違えている組織では確認待ち時間や手戻り工数が増えるだけです。競合との技術格差を広げられない原因を解き明かし、優先業務を絞り込んで成果を出す検証手順と責任境界を解説します。
サイバーセキュリティ最新動向を追うより先にLLM乗り換え判断の基準を揃えよ
サイバーセキュリティ最新動向や主要LLMのモデル更新を追うだけでは現場は変わりません。ChatGPT、Claude、Gemini、Grokの機能比較ではなく、料金・利用制限と業務影響に基づく乗り換え判断を策定し、確認待ちと二重コストを削減する運用設計を解説します。
最新AIを導入すれば安全という誤解。ルール更新を怠る組織で進む利用ログと権限の形骸化
最新AIの導入だけで業務が安全に効率化されるわけではありません。機能が拡張されるほど、ルールを更新しない組織では入力禁止情報の漏洩やログの放置といったリスクが静かに増え続けます。モデル更新や料金改定を踏まえ、現場で機能するルール設計と責任境界の引き方を解説します。