The development of safety-critical systems requires the control of hazards that can potentially cause harm. To this end, safety engineers rely during the development phase on architectural solutions, called safety patterns, such as safety monitors, voters, and watchdogs. The goal of these patterns is to control (identified) faults that can trigger hazards. Safety patterns can control such faults by e.g., increasing the redundancy of the system. Currently, the reasoning of which pattern to use at which part of the target system to control which hazard is documented mostly in textual form or by means of models, such as GSN-models, with limited support for automation. This paper proposes the use of logic programming engines for the automated reasoning about system safety. We propose a domain-specific language for embedded system safety and specify as disjunctive logic programs reasoning principles used by safety engineers to deploy safety patterns, e.g., when to use safety monitors, or watchdogs. Our machinery enables two types of automated safety reasoning: (1) identification of which hazards can be controlled and which ones cannot be controlled by the existing safety patterns; and (2) automated recommendation of which patterns could be used at which place of the system to control potential hazards. Finally, we apply our machinery to two examples taken from the automotive domain: an adaptive cruise control system and a battery management system.

中文翻译：

---

减少安全工程师的手动工作：使用安全模式实现自动安全推理

安全关键系统的开发需要控制可能造成伤害的危险。为此，安全工程师在开发阶段依赖于称为安全模式的架构解决方案，例如安全监视器、投票者和看门狗。这些模式的目标是控制（识别）可能引发危险的故障。安全模式可以通过例如增加系统的冗余来控制此类故障。目前，在目标系统的哪个部分使用哪种模式来控制哪种危害的推理主要以文本形式或通过模型（例如 GSN 模型）记录，对自动化的支持有限。本文提出使用逻辑编程引擎进行系统安全的自动推理。我们为嵌入式系统安全提出了一种特定于领域的语言，并将安全工程师用来部署安全模式的推理原则指定为析取逻辑程序，例如，何时使用安全监视器或看门狗。我们的机器支持两种类型的自动安全推理：(1) 识别哪些危险可以通过现有的安全模式控制，哪些不能控制；(2) 自动推荐可以在系统的哪个位置使用哪些模式来控制潜在危险。最后，我们将我们的机器应用于汽车领域的两个示例：自适应巡航控制系统和电池管理系统。我们的机器支持两种类型的自动安全推理：(1) 识别哪些危险可以通过现有的安全模式控制，哪些不能控制；(2) 自动推荐可以在系统的哪个位置使用哪些模式来控制潜在危险。最后，我们将我们的机器应用于汽车领域的两个示例：自适应巡航控制系统和电池管理系统。我们的机器支持两种类型的自动安全推理：(1) 识别哪些危险可以通过现有的安全模式控制，哪些不能控制；(2) 自动推荐可以在系统的哪个位置使用哪些模式来控制潜在危险。最后，我们将我们的机器应用于汽车领域的两个示例：自适应巡航控制系统和电池管理系统。