LIME
local interpretaion model-
agnostic
explanations
marcotcr/lime: Lime: Explaining the predictions of any machine learning classifier
LIMEで赤ワインのデータをいじってみる with Python | かものはしの分析ブログ