コンテキスト詰め込み

コンテキスト詰め込みとは、AIへの入力に大量の情報を詰め込みすぎることで、逆に回答の品質が低下してしまう現象を指します。人間でも一度に大量の情報を与えられると混乱するように、AIも不要な情報が多いほど重要な点を見落としやすくなります。

例えば、長大な社内マニュアルや大量の過去メールをそのままAIに渡して「要点を教えて」と聞いても、AIが重要箇所を特定できず、的外れな回答を返すことがあります。

この問題を避けるためには、RAG（検索拡張生成）を使って関連性の高い情報だけを選別してからAIに渡す設計や、情報を適切なサイズに分割して渡すチャンキングという手法が有効です。LLMを業務に導入する際は「AIに何を渡すか」を設計する段階が最も重要であり、情報の質と量のバランスを意識したプロンプト設計が精度向上の鍵となります。