反実仮想説明

反実仮想説明 とは、機械学習モデルの予測が変化する (増加/減少する or 反対になる) 特徴量のサンプルを提示することで機械学習モデルを説明しようとする説明性の手法です。

例えば、ある人の住宅ローンの審査が機械学習モデルの予測によって拒否された場合、どういった入力データ (勤続年数、借入金額、年齢 etc) であればローン審査を通過できると機械学習モデルが予測するのかをデータサンプルで示してくれます。