説明可能AIに関する論文が、機械学習の難関国際会議であるAISTATS 2024に採択されました。
Yuya Yoshikawa, and Tomoharu Iwata, “Explanation-Based Training with Differentiable Insertion/Deletion Metric-Aware Regularizers,” The 27th International Conference on Artificial Intelligence and Statistics (AISTATS2024), Valencia, Spain, May 2024.
概要
予測モデルの説明可能性を高めるため、後付けで予測の根拠を説明する事後説明器がよく用いられます。本研究では、説明の忠実性評価尺度である挿入・削除メトリクスを微分可能にし、これを訓練時に利用することで、予測モデルの振る舞いに忠実な説明が事後説明器から得られるように予測モデルを最適化する方法を提案しました。
本論文は、NTTコミュニケーション科学基礎研究所との共同研究の成果です。