深度学习模型的解释是一个非常具有挑战性的问题，因为它们具有大量参数，节点之间的复杂连接以及难以理解的特征表示。尽管如此，许多人仍将可解释性视为可信赖性，公平性和安全性的关键解决方案，尤其是在将深度学习应用于更关键的决策任务（例如信贷批准，工作筛选和累犯预测）时，尤为如此。有大量的好的研究为深度学习模型提供了可解释性。但是，许多常用方法没有考虑称为“特征相互作用”的现象。这项工作首先解释了特征交互的历史和现代重要性，然后调查了确实明确考虑了特征交互的现代可解释性方法。



"点击查看英文标题和摘要"