Since the start of the current century, artificial intelligence has gone through critical advances improving the capabilities of intelligent systems. Especially machine learning has changed remarkably and caused the rise of deep learning. Deep learning shows cutting-edge results in terms of even the most advanced, difficult problems. However, that includes a trade-off in terms of interpretability. Although traditional machine learning techniques employ interpretable working mechanisms, hybrid systems and deep learning models are black-box being beyond our understanding capabilities. So, the need for making such systems understandable, additional methods by explainable artificial intelligence (XAI) has been widely developed in last years. In this sense, this study purposes a Convolutional Neural Networks (CNN) model, which runs a new form of Grad-CAM. As providing numerical feedback in addition to the default Grad-CAM, the numerical Grad-CAM (numGrad-CAM) was used within the developed CNN model, in order to have an explainability interface for brain tumor diagnosis. In detail, the numGrad-CAM-CNN model was evaluated via technical and physicians-oriented (human-side) evaluations. The model provided average findings of 97.11% accuracy, 95.58% sensitivity, and 96.81% specificity for the target brain tumor diagnosis setup. Additionally, numGrad-CAM integration provided 90.11% accuracy according to the other CAM variations in the same CNN model. The physicians used the numGrad-CAM-CNN model gave positive responses in terms of using the model for an explainable (and safe) diagnosis decision-making perspective for brain tumors.

自本世纪初以来，人工智能取得了重大进展，提高了智能系统的能力。尤其是机器学习发生了显着变化，引发了深度学习的兴起。深度学习即使在最先进、最困难的问题上也能显示出最前沿的成果。但是，这包括在可解释性方面的权衡。尽管传统的机器学习技术采用可解释的工作机制，但混合系统和深度学习模型是黑盒，超出了我们的理解能力。因此，通过可解释的人工智能 (XAI) 使此类系统易于理解的附加方法在过去几年中得到了广泛发展。从这个意义上说，这项研究的目的是使用卷积神经网络 (CNN) 模型，它运行一种新形式的 Grad-CAM。作为除了默认 Grad-CAM 之外的数字反馈，在开发的 CNN 模型中使用了数字 Grad-CAM (numGrad-CAM)，以便为脑肿瘤诊断提供可解释性界面。详细地说，numGrad-CAM-CNN 模型是通过技术和面向医生的（人侧）评估来评估的。该模型为目标脑肿瘤诊断设置提供了 97.11% 的准确度、95.58% 的灵敏度和 96.81% 的特异性的平均结果。此外，根据同一 CNN 模型中的其他 CAM 变体，numGrad-CAM 集成提供了 90.11% 的准确度。使用 numGrad-CAM-CNN 模型的医生在使用该模型对脑肿瘤进行可解释（和安全）的诊断决策方面给出了积极的回应。作为除了默认 Grad-CAM 之外的数字反馈，在开发的 CNN 模型中使用了数字 Grad-CAM (numGrad-CAM)，以便为脑肿瘤诊断提供可解释性界面。详细地说，numGrad-CAM-CNN 模型是通过技术和面向医生的（人侧）评估来评估的。该模型为目标脑肿瘤诊断设置提供了 97.11% 的准确度、95.58% 的灵敏度和 96.81% 的特异性的平均结果。此外，根据同一 CNN 模型中的其他 CAM 变体，numGrad-CAM 集成提供了 90.11% 的准确度。使用 numGrad-CAM-CNN 模型的医生在使用该模型对脑肿瘤进行可解释（和安全）的诊断决策方面给出了积极的回应。作为除了默认 Grad-CAM 之外的数字反馈，在开发的 CNN 模型中使用了数字 Grad-CAM (numGrad-CAM)，以便为脑肿瘤诊断提供可解释性界面。详细地说，numGrad-CAM-CNN 模型是通过技术和面向医生的（人侧）评估来评估的。该模型为目标脑肿瘤诊断设置提供了 97.11% 的准确度、95.58% 的灵敏度和 96.81% 的特异性的平均结果。此外，根据同一 CNN 模型中的其他 CAM 变体，numGrad-CAM 集成提供了 90.11% 的准确度。使用 numGrad-CAM-CNN 模型的医生在使用该模型对脑肿瘤进行可解释（和安全）的诊断决策方面给出了积极的回应。在开发的 CNN 模型中使用了数值 Grad-CAM (numGrad-CAM)，以便为脑肿瘤诊断提供可解释性界面。详细地说，numGrad-CAM-CNN 模型是通过技术和面向医生的（人侧）评估来评估的。该模型为目标脑肿瘤诊断设置提供了 97.11% 的准确度、95.58% 的灵敏度和 96.81% 的特异性的平均结果。此外，根据同一 CNN 模型中的其他 CAM 变体，numGrad-CAM 集成提供了 90.11% 的准确度。使用 numGrad-CAM-CNN 模型的医生在使用该模型对脑肿瘤进行可解释（和安全）的诊断决策方面给出了积极的回应。在开发的 CNN 模型中使用了数值 Grad-CAM (numGrad-CAM)，以便为脑肿瘤诊断提供可解释性界面。详细地说，numGrad-CAM-CNN 模型是通过技术和面向医生的（人侧）评估来评估的。该模型为目标脑肿瘤诊断设置提供了 97.11% 的准确度、95.58% 的灵敏度和 96.81% 的特异性的平均结果。此外，根据同一 CNN 模型中的其他 CAM 变体，numGrad-CAM 集成提供了 90.11% 的准确度。使用 numGrad-CAM-CNN 模型的医生在使用该模型对脑肿瘤进行可解释（和安全）的诊断决策方面给出了积极的回应。numGrad-CAM-CNN 模型通过技术和面向医生的（人侧）评估进行评估。该模型为目标脑肿瘤诊断设置提供了 97.11% 的准确度、95.58% 的灵敏度和 96.81% 的特异性的平均结果。此外，根据同一 CNN 模型中的其他 CAM 变体，numGrad-CAM 集成提供了 90.11% 的准确度。使用 numGrad-CAM-CNN 模型的医生在使用该模型对脑肿瘤进行可解释（和安全）的诊断决策方面给出了积极的回应。numGrad-CAM-CNN 模型通过技术和面向医生的（人侧）评估进行评估。该模型为目标脑肿瘤诊断设置提供了 97.11% 的准确度、95.58% 的灵敏度和 96.81% 的特异性的平均结果。此外，根据同一 CNN 模型中的其他 CAM 变体，numGrad-CAM 集成提供了 90.11% 的准确度。使用 numGrad-CAM-CNN 模型的医生在使用该模型对脑肿瘤进行可解释（和安全）的诊断决策方面给出了积极的回应。根据同一 CNN 模型中的其他 CAM 变体，准确度为 11%。使用 numGrad-CAM-CNN 模型的医生在使用该模型对脑肿瘤进行可解释（和安全）的诊断决策方面给出了积极的回应。根据同一 CNN 模型中的其他 CAM 变体，准确度为 11%。使用 numGrad-CAM-CNN 模型的医生在使用该模型对脑肿瘤进行可解释（和安全）的诊断决策方面给出了积极的回应。