An autonomous mobile robot may encounter adversarial environments in which an attacker tries to influence its decisions. Through physical or software-level attacks, some of the robot's sensors might be compromised—a special concern for self-driving vehicles. Motivated by this scenario, this letter introduces and studies the problem of planning kinematically feasible (and possibly efficient) paths with bounded collision probability in adversarial settings where the obstacles perceived online by the robot display two layers of uncertainty. The first is the “usual” Gaussian uncertainty one would obtain from a standard object tracker (e.g., an Extended Kalman Filter); the second is an additional layer of uncertainty that captures possible sensor attacks and describes the actual existence of groups of obstacles in the environment. We study the complexity of the problem and propose a general sampling-based solution framework that uses the Sequential Probability Ratio Test (SPRT) to check collision probability constraints along the computed trajectory. We also show how probabilistic programming languages (PPLs) can simplify programming common algorithms (such as RRT and Hybrid A*) for mixed uncertainty. In addition to providing an easy-to-use programming framework, our approach is shown to plan safer paths compared to a Naive Monte Carlo baseline when both approaches are allowed to use at most the same given number of samples to perform collision checks.

中文翻译：

---

恶意注入和移除感知障碍下的路径规划：一种概率规划方法

自主移动机器人可能会遇到攻击者试图影响其决策的对抗性环境。通过物理或软件级别的攻击，机器人的一些传感器可能会受到损害——这是自动驾驶汽车的一个特别关注点。受这种情况的启发，这封信介绍并研究了在对抗性设置中规划具有有限碰撞概率的运动学可行（并且可能有效）路径的问题，其中机器人在线感知的障碍显示出两层不确定性。第一个是从标准对象跟踪器（例如，扩展卡尔曼滤波器）获得的“通常”高斯不确定性；第二个是额外的不确定性层，它捕获可能的传感器攻击并描述环境中障碍物组的实际存在。我们研究了问题的复杂性，并提出了一个基于采样的通用解决方案框架，该框架使用顺序概率比测试 (SPRT) 来检查沿计算轨迹的碰撞概率约束。我们还展示了概率编程语言 (PPL) 如何为混合不确定性简化通用算法（例如 RRT 和混合 A*）的编程。除了提供易于使用的编程框架外，当两种方法最多允许使用相同给定数量的样本来执行碰撞检查时，我们的方法与朴素蒙特卡罗基线相比，可以规划更安全的路径。我们还展示了概率编程语言 (PPL) 如何为混合不确定性简化通用算法（例如 RRT 和混合 A*）的编程。除了提供易于使用的编程框架外，当两种方法最多允许使用相同给定数量的样本来执行碰撞检查时，我们的方法与朴素蒙特卡罗基线相比，可以规划更安全的路径。我们还展示了概率编程语言 (PPL) 如何为混合不确定性简化通用算法（例如 RRT 和混合 A*）的编程。除了提供易于使用的编程框架外，当两种方法最多允许使用相同给定数量的样本来执行碰撞检查时，我们的方法与朴素蒙特卡罗基线相比，可以规划更安全的路径。