幻覚発生率

幻覚発生率とは、AIが存在しない事実や誤った情報を、あたかも正しいかのように回答してしまう現象（ハルシネーション）が、全回答のうちどれくらいの割合で起きているかを測定した指標です。

AIモデルを業務で使う際には、この幻覚発生率の低さが信頼性の重要な評価軸になります。たとえば法律・医療・財務など、正確性が特に求められる領域では、幻覚発生率が低いモデルを選ぶことが不可欠です。

モデルによって幻覚の出やすさは異なり、最新モデルほど低い傾向がありますが、ゼロにはなりません。業務運用では「AIの回答を必ず人間がダブルチェックする」「根拠となる出典を必ず明示させる」などの運用ルールを設けることで、リスクを大幅に低減できます。ベンチマーク評価でもこの指標を確認することを推奨します。