ハルシネーション（AI幻覚）
Hallucination
AI用語解説Overview
AIが事実と異なる情報を、まるで正しいかのように自信を持って回答してしまう現象です。重要な判断にAIを使う場合は、必ず人間が内容を確認することが必要です。
さらに詳しく解説Details
ハルシネーション（AI幻覚）とは、大規模言語モデルが実際には存在しない情報や事実と異なる内容を、自信を持った口調で回答してしまう現象のことです。「AIが嘘をつく」とも表現されますが、意図的なものではなく、AIが統計的なパターンから「もっともらしい文章」を生成した結果として起こります。
例えば、存在しない法律条文を引用する、実在しない論文の内容を詳しく説明する、架空の会社名や製品名を挙げるなどのケースが報告されています。特に専門的な内容や最新情報に関する質問でハルシネーションが起きやすい傾向があります。
業務でAIを活用する際は、重要な意思決定や顧客への回答に使う情報は必ず人間が一次情報で確認するルールが不可欠です。RAGを活用して参照元を明示させる、「確認できない場合は『わかりません』と答えるよう」指示するなどの対策が有効です。AIは強力な補助ツールですが、最終的な判断は人間が行うという原則を守ることが重要です。