ハルシネーション
AI Hallucination
AI用語解説
AIが事実と異なる内容を、もっともらしく生成してしまう現象。ホームページの競合比較文章にも誤情報が混入するリスクがあり、必ず人間によるファクトチェックが必要。
さらに詳しく解説
AIハルシネーション（幻覚）とは、生成AIが事実とは異なる情報・存在しない人物・架空の統計データなどを、まるで本当のことのように自信を持って出力してしまう現象のことです。AIが「嘘をついている」わけではなく、学習データのパターンから最も確からしい文章を生成する際に誤った内容が混入してしまう技術的な特性です。
ビジネスでのリスク事例としては、①競合分析レポートで実在しない統計数値が含まれる、②法的な契約書の文例で存在しない法律条項が記載される、③存在しない専門家の引用が出力される、などがあります。これを鵜呑みにして外部に発信すると、会社の信用を大きく損なうリスクがあります。
対策としては、①AIの出力結果は必ず人間が内容を確認・ファクトチェックする、②重要な数値・法令・固有名詞は一次情報（公式サイト・論文など）で裏付けを取る、③「〇〇について正確な情報源とともに教えて」などの指示でリスクを下げる、などが有効です。
AIは強力なアシスタントですが、最終的な判断・確認は人間が行う必要があります。
関連用語
この用語が登場した記事 2件
新人教育を口頭説明に頼る組織は、同じ質問と手戻り工数で自滅する。マニュアル化を後回しにしない具体策
新人教育を口頭指導に頼ることで生じる、手戻り工数や早期離職の損失を算出します。セキュリティを担保しながらAIで業務マニュアルを作成する手順と、人間が担保すべき確認テストの設計方法を解説します。
市場調査を後回しにする新規事業は、作る前から致命的な負け筋を抱えています
新規事業の立ち上げにおいて、市場調査を後回しにする判断は致命的な損失を招きます。高額な調査料金や確認待ち時間を理由にリサーチを先送りすると、需要のないサービス開発に数千万円を投じる手戻り工数が発生します。AIで初期の市場規模や競合候補の仮説を組み立て、人間が責任を持って検証する運用設計を解説します。