モデルのブラックボックス化
Model Black-Boxing
AI用語解説Overview
AIがなぜそのような結果を出したのかを、使っている会社側が全く説明できない状態になることです。トラブル時の原因究明が難しくなります。
さらに詳しく解説Details
AIモデル、特にディープラーニング（深層学習）を使ったシステムは、判断の過程が非常に複雑で、なぜその結果が出たかを人間が理解しにくい場合があります。これがブラックボックス化と呼ばれる状態です。
たとえば、AIが「この顧客の融資は却下」と判断した場合、その理由を顧客に説明できなければ、信頼を損なうどころか場合によっては法的な問題にもなりかねません。また、AIの出力に誤りがあった場合に原因を追跡できないと、同じ誤りが繰り返されるリスクがあります。
中小企業がAIを導入する際は、「この判断はなぜ出たか説明できるか」をベンダーに確認することが重要です。説明可能なAI（XAI）技術を採用しているかどうかも選定基準のひとつにするとよいでしょう。特に顧客対応や与信判断など、説明責任が求められる場面では、ブラックボックスのAIは慎重に扱う必要があります。