脱魔術化
public.icon
Disenchantment?
⇆魔術化、再魔術化
脱呪術化もあるので、概念を定義した方が良い。
理由と根拠も明示する「説明可能なAI」 - 日経ビジネス電子版
富士通の「Deep Tensor」
ディープラーニング＋ナレッジグラフで判断の根拠（ロジック）を言語化して実現
ナレッジグラフ・・・実世界の様々な事象の間の「つながり（関連性）」に着目し、この関連性にもとづいて整理されたデータベース
https://gyazo.com/5cfb89435b2331819a7420a29677bd20
人工知能の学習内容を改善するのにも使える
説明可能なAIとは | Googleの「Explainable AI」に触れながら解説
GoogleのExplainable AI
Feature Attribution
説明可能なAIを実現するための手法もさまざまなものが開発されています。たとえば入力の属性に注目した「LIME」「SHAP」「Integrated Gradient」、モデルが注目する概念をテストするような「TCAV」、個々の学習データの有無や、その摂動がモデルとその予測結果にどのように影響を与えるかを計るための「Influence Functions」などが挙げられます。　説明可能なAIとは | Googleの「Explainable AI」に触れながら解説
Interpretable Machine Learning｜A Guide for Making Black Box Models Explainable.がここから無料で読める
機械学習の説明可能性（解釈性）という迷宮 - 渋谷駅前で働くデータサイエンティストのブログ
これについては魔術から科学へ パオロ・ロッシが詳しい落合陽一.icon