事実に基づかない誤った情報
AI Hallucination
AI用語解説Overview
AIがもっともらしい嘘や、事実とは異なる情報を生成してしまう現象のこと。特に商品説明やスペック情報などで発生しやすいため、公開前には人間が一次情報と突き合わせて確認する「ファクトチェック」が不可欠です。
さらに詳しく解説Details
AIハルシネーション（幻覚）とは、生成AIが事実とは異なる情報・存在しない人物・架空の統計データなどを、まるで本当のことのように自信を持って出力してしまう現象のことです。AIが「嘘をついている」わけではなく、学習データのパターンから最も確からしい文章を生成する際に誤った内容が混入してしまう技術的な特性です。
ビジネスでのリスク事例としては、①競合分析レポートで実在しない統計数値が含まれる、②法的な契約書の文例で存在しない法律条項が記載される、③存在しない専門家の引用が出力される、などがあります。これを鵜呑みにして外部に発信すると、会社の信用を大きく損なうリスクがあります。
対策としては、①AIの出力結果は必ず人間が内容を確認・ファクトチェックする、②重要な数値・法令・固有名詞は一次情報（公式サイト・論文など）で裏付けを取る、③「〇〇について正確な情報源とともに教えて」などの指示でリスクを下げる、などが有効です。
AIは強力なアシスタントですが、最終的な判断・確認は人間が行う必要があります。
関連用語Related terms
この用語が登場した記事Related articles3件
ec サイト 構築 で商品説明をAI量産しても買う理由がなければ売れない
ec サイト 構築 を進める際、商品説明文をAIで量産しても、購入の決め手となるベネフィットが伝わらなければ売れません。本書では、AIに下書きを任せる範囲と人間が確認すべき事実の境界線を明確にし、無駄な確認待ちや手戻りを防いで現場で機能する運用設計の具体策を解説します。
新人教育を口頭説明に頼る組織は、同じ質問と手戻り工数で自滅する。マニュアル化を後回しにしない具体策
新人教育を口頭指導に頼ることで生じる、手戻り工数や早期離職の損失を算出します。セキュリティを担保しながらAIで業務マニュアルを作成する手順と、人間が担保すべき確認テストの設計方法を解説します。
市場調査を後回しにする新規事業は、作る前から致命的な負け筋を抱えています
新規事業の立ち上げにおいて、市場調査を後回しにする判断は致命的な損失を招きます。高額な調査料金や確認待ち時間を理由にリサーチを先送りすると、需要のないサービス開発に数千万円を投じる手戻り工数が発生します。AIで初期の市場規模や競合候補の仮説を組み立て、人間が責任を持って検証する運用設計を解説します。