コンテキスト管理

コンテキスト管理とは、AIとのやり取りにおいて「AIに参照させる情報（会話履歴・文書・データなど）」を適切に設計・管理することです。AIは与えられたコンテキスト（文脈・情報）をもとに回答を生成するため、何をどう渡すかが回答の質を大きく左右します。

管理上の主な課題は、①コンテキストウィンドウの上限（扱える情報量に限界がある）、②古い会話履歴を引き継ぎ続けるとコストが増加する、③不要な情報を含めると回答精度が下がる場合がある、の3点です。

対策としては、重要な会話だけを要約してコンテキストに含める「会話サマリー」技術、必要な情報のみ検索して渡すRAGの活用、会話の目的が変わったらコンテキストをリセットするルール設定などがあります。カスタマーサポートや社内FAQ対応のAIシステムを構築する場合、コンテキスト管理の設計がユーザー体験とコストの両面に直結する重要な要素です。