説明可能なAI

Explainable AI; XAI

出力を見ても、判断の過程がわからない

AIに対する不信を生むおそれ

医療、司法、金融などの説明責任

データのどの特徴が予測に大きく寄与したかを示す

どの学習データが予測に寄与したかを示す

予測の過程を要約し、条件式や文章を生成する