MMDS（大阪大学数理・データ科学教育研究センター）が主催するAI・データ利活用研究会で、説明可能AIに関する講演を行いました。
タイトル
モデル非依存な説明可能AI
概要
説明可能AI (XAI)は、ブラックボックスなAIモデルの出力の根拠を人に分かるように説明する技術である。微分不可能なモデルやSoftware-as-a-Service (SaaS)で提供されるモデルを説明対象とする場合、モデルの入出力から根拠を推定するモデル非依存な説明手法を使用することが一般的である。本講演では、XAIでも特に、モデル非依存で利用可能な代表的な説明手法を紹介する。その上で、我々が研究した、入力の入れ子構造を活用することで効率的な説明生成を可能にするモデル非依存な説明手法を解説する。