コンテキストウィンドウ上限

コンテキストウィンドウ上限とは、AIが一度の会話や処理の中で参照できる文章量の最大値を指します。人間で例えると「作業中に同時に頭の中に置いておける情報量」のようなものです。

この上限を超えると、AIは古いやりとりの内容を忘れた状態で回答を生成するため、前の指示が反映されなかったり、矛盾した回答が返ってきたりするリスクがあります。

現在のモデルでは、GPT-4oが最大128,000トークン、Claude 3は最大200,000トークンに対応しており、長文の契約書レビューや議事録の要約にも対応できるようになっています。ただし、上限が大きいほどAPI利用コストも上昇するため、必要な情報だけを選んでAIに渡す工夫が重要です。業務での活用時は、どのモデルがどのくらいの文章量を扱えるかを事前に確認することをおすすめします。