コンテキスト管理
LLM Context Management
AI活用解説Overview
AIとの会話履歴や参照情報をどのように管理・整理するかの設計です。AIは会話の流れを記憶して回答するため、何をどこまで記憶させるかが回答品質に影響します。
さらに詳しく解説Details
コンテキスト管理とは、AIとのやり取りにおいて「AIに参照させる情報（会話履歴・文書・データなど）」を適切に設計・管理することです。AIは与えられたコンテキスト（文脈・情報）をもとに回答を生成するため、何をどう渡すかが回答の質を大きく左右します。
管理上の主な課題は、①コンテキストウィンドウの上限（扱える情報量に限界がある）、②古い会話履歴を引き継ぎ続けるとコストが増加する、③不要な情報を含めると回答精度が下がる場合がある、の3点です。
対策としては、重要な会話だけを要約してコンテキストに含める「会話サマリー」技術、必要な情報のみ検索して渡すRAGの活用、会話の目的が変わったらコンテキストをリセットするルール設定などがあります。カスタマーサポートや社内FAQ対応のAIシステムを構築する場合、コンテキスト管理の設計がユーザー体験とコストの両面に直結する重要な要素です。