コンテキストウィンドウ上限
LLM Context Window Limit
AI用語解説Overview
AIが一度に読み込める文章量の上限のことです。この上限を超えると、古い情報がAIの記憶から消えてしまうため、長い会話や大量の資料を扱う際に注意が必要です。
さらに詳しく解説Details
コンテキストウィンドウ上限とは、AIが一度の会話や処理の中で参照できる文章量の最大値を指します。人間で例えると「作業中に同時に頭の中に置いておける情報量」のようなものです。
この上限を超えると、AIは古いやりとりの内容を忘れた状態で回答を生成するため、前の指示が反映されなかったり、矛盾した回答が返ってきたりするリスクがあります。
現在のモデルでは、GPT-4oが最大128,000トークン、Claude 3は最大200,000トークンに対応しており、長文の契約書レビューや議事録の要約にも対応できるようになっています。ただし、上限が大きいほどAPI利用コストも上昇するため、必要な情報だけを選んでAIに渡す工夫が重要です。業務での活用時は、どのモデルがどのくらいの文章量を扱えるかを事前に確認することをおすすめします。