ハルシネーション

AIハルシネーション（幻覚）とは、生成AIが事実とは異なる情報・存在しない人物・架空の統計データなどを、まるで本当のことのように自信を持って出力してしまう現象のことです。AIが「嘘をついている」わけではなく、学習データのパターンから最も確からしい文章を生成する際に誤った内容が混入してしまう技術的な特性です。

ビジネスでのリスク事例としては、①競合分析レポートで実在しない統計数値が含まれる、②法的な契約書の文例で存在しない法律条項が記載される、③存在しない専門家の引用が出力される、などがあります。これを鵜呑みにして外部に発信すると、会社の信用を大きく損なうリスクがあります。

対策としては、①AIの出力結果は必ず人間が内容を確認・ファクトチェックする、②重要な数値・法令・固有名詞は一次情報（公式サイト・論文など）で裏付けを取る、③「〇〇について正確な情報源とともに教えて」などの指示でリスクを下げる、などが有効です。

AIは強力なアシスタントですが、最終的な判断・確認は人間が行う必要があります。