这是什么
可解释AI(XAI)研究使复杂AI模型(尤其是深度神经网络)的决策对人类可理解的技术——涵盖特征归因、显著性图、本质上可解释模型的设计,以及精度与可解释性之间的理论权衡。
为什么重要
随着AI系统被部署到医疗、金融和刑事司法等高风险领域,解释模型为何做出某个特定决策的能力往往是法律和伦理要求,而不仅仅是一个附加优点,这使可解释性成为一个真正核心的研究问题,而不是边缘关切。
考试小贴士
评估一种可解释性方法时,要仔细区分忠实的解释(准确反映模型实际计算的内容)和仅仅看似合理的解释(对人类来说似乎合理,但可能不反映模型真实的推理)——这一区分是XAI文献中最重要、也最常被忽视的问题之一。