Deep Convolutional Neural Networks (CNNs) now match human accuracy in many image prediction tasks, resulting in a growing adoption in e-commerce, radiology, and other domains. Naturally, "explaining" CNN predictions is a key concern for many users. Since the internal workings of CNNs are unintuitive for most users, occlusion-based explanations (OBE) are popular for understanding which parts of an image matter most for a prediction. One occludes a region of the image using a patch and moves it around to produce a heatmap of changes to the prediction probability. This approach is computationally expensive due to the large number of re-inference requests produced, which wastes time and raises resource costs. We tackle this issue by casting the OBE task as a new instance of the classical incremental view maintenance problem. We create a novel and comprehensive algebraic framework for incremental CNN inference combining materialized views with multi-query optimization to reduce computational costs. We then present two novel approximate inference optimizations that exploit the semantics of CNNs and the OBE task to further reduce runtimes. We prototype our ideas in a tool we call Krypton. Experiments with real data and CNNs show that Krypton reduces runtimes by up to 5x (resp. 35x) to produce exact (resp. high-quality approximate) results without raising resource requirements.

中文翻译：

---

更快的深度 CNN 解释的查询优化

深度卷积神经网络 (CNN) 现在在许多图像预测任务中与人类的准确性相匹配，从而在电子商务、放射学和其他领域得到越来越多的采用。自然，“解释” CNN 预测是许多用户的主要关注点。由于 CNN 的内部工作对大多数用户来说并不直观，因此基于遮挡的解释 (OBE) 在理解图像的哪些部分对预测最重要方面很受欢迎。使用补丁遮挡图像的一个区域并移动它以产生预测概率变化的热图。由于产生了大量的重新推理请求，这种方法的计算成本很高，这会浪费时间并提高资源成本。我们通过将 OBE 任务转换为经典增量视图维护问题的新实例来解决这个问题。我们为增量 CNN 推理创建了一个新颖而全面的代数框架，将物化视图与多查询优化相结合，以降低计算成本。然后，我们提出了两种新颖的近似推理优化，它们利用 CNN 的语义和 OBE 任务来进一步减少运行时间。我们在我们称为 Krypton 的工具中对我们的想法进行原型制作。使用真实数据和 CNN 进行的实验表明，Krypton 将运行时间减少了多达 5 倍（分别为 35 倍），以在不增加资源要求的情况下产生准确的（分别是高质量的近似）结果。我们在我们称为 Krypton 的工具中对我们的想法进行原型制作。使用真实数据和 CNN 进行的实验表明，Krypton 将运行时间减少了多达 5 倍（分别为 35 倍），以在不增加资源要求的情况下产生准确的（分别是高质量的近似）结果。我们在我们称为 Krypton 的工具中对我们的想法进行原型制作。使用真实数据和 CNN 进行的实验表明，Krypton 将运行时间减少了多达 5 倍（分别为 35 倍），以在不增加资源要求的情况下产生准确的（分别是高质量的近似）结果。