入力文字数制限

入力文字数制限とは、LLMに一度のリクエストで送信できるテキスト量の上限を指します。LLMはテキストを「トークン」という単位で処理し、モデルごとにトークンの上限（コンテキストウィンドウ）が定められています。日本語は英語に比べてトークン数が多くなる傾向があるため、同じ字数でも英語より制限に達しやすい点に注意が必要です。

例えば、長い議事録・仕様書・契約書を一括でAIに貼り付けた場合、上限を超えてエラーになったり、後半の内容が無視されたりすることがあります。対策としては、文書を章ごとに分割して複数回入力する、重要部分のみを抽出して送る、RAG（検索拡張生成）を活用して必要な情報だけを都度渡す設計にする、などが有効です。

最新のモデルでは100万トークン以上の入力に対応するものも登場しており、活用できるドキュメント量が急速に拡大しています。