説明可能AI（XAI）
Explainable AI
AI用語解説
AIがなぜその判断や回答をしたのか、理由や根拠を人間が理解できるように説明できるAIのことです。信頼性向上に役立ちます。
さらに詳しく解説
説明可能AI（XAI：Explainable Artificial Intelligence）とは、AIが出した判断や予測の根拠を人間にも分かりやすく説明できるように設計されたAI技術・手法の総称です。ブラックボックス問題への対応策として注目されています。
たとえば、融資審査AIであれば「この顧客の申請が否決された理由は、過去の返済遅延歴（影響度70%）と自己資本比率の低さ（影響度20%）が主な要因です」と説明できるようになります。これにより、顧客への説明責任を果たし、担当者もAIの判断の妥当性を確認できます。
XAIが特に重要な場面としては、①金融・医療・人事などの重大な意思決定、②行政や規制対応が必要な業務、③AIの判断に対してクレームや異議が生じる可能性がある業務、があります。
中小企業がAIツールを選ぶ際は、「なぜその結果を出したのか説明してもらえますか？」とベンダーに確認することをお勧めします。説明できないAIへの依存は、後々トラブルの種になる可能性があります。