What should be the role of law in response to the spread of artificial intelligence in war? Fuelled by both public and private investment, military technology is accelerating towards increasingly autonomous weapons, as well as the merging of humans and machines. Contrary to much of the contemporary debate, this is not a paradigm change; it is the intensification of a central feature in the relationship between technology and war: double elevation, above one’s enemy and above oneself. Elevation above one’s enemy aspires to spatial, moral, and civilizational distance. Elevation above oneself reflects a belief in rational improvement that sees humanity as the cause of inhumanity and de-humanization as our best chance for humanization. The distance of double elevation is served by the mechanization of judgement. To the extent that judgement is seen as reducible to algorithm, law becomes the handmaiden of mechanization. In response, neither a focus on questions of compatibility nor a call for a ‘ban on killer robots’ help in articulating a meaningful role for law. Instead, I argue that we should turn to a long-standing philosophical critique of artificial intelligence, which highlights not the threat of omniscience, but that of impoverished intelligence. Therefore, if there is to be a meaningful role for law in resisting double elevation, it should be law encompassing subjectivity, emotion and imagination, law irreducible to algorithm, a law of war that appreciates situated judgement in the wielding of violence for the collective.

中文翻译：

---

双重提升：自主武器和对不可简化的战争法则的探索

应对人工智能在战争中的传播，法律应该发挥什么作用？在公共和私人投资的推动下，军事技术正在加速朝着越来越自主的武器发展，以及人与机器的融合。与当代的许多争论相反，这不是范式改变。它是技术与战争关系中一个核心特征的强化：双重高度，敌我之上。超越敌人的高度渴望空间、道德和文明的距离。高于自己的高度反映了对理性改进的信念，将人性视为不人道的原因，将去人性化视为我们实现人性化的最佳机会。双仰角的距离由判断的机械化服务。就判断被视为可简化为算法的程度而言，法律成为机械化的侍女。作为回应，无论是关注兼容性问题还是呼吁“禁止杀手机器人”都无助于阐明法律的有意义的作用。相反，我认为我们应该转向对人工智能的长期哲学批判，它强调的不是无所不知的威胁，而是贫乏的智能的威胁。因此，如果法律要在抵制双重提升中发挥有意义的作用，它应该是包含主体性、情感和想象的法律，是一种不可还原为算法的法律，是一种在为集体使用暴力时重视情境判断的战争法。既不关注兼容性问题，也不呼吁“禁止杀手机器人”帮助阐明法律的有意义的作用。相反，我认为我们应该转向对人工智能的长期哲学批判，它强调的不是无所不知的威胁，而是贫乏的智能的威胁。因此，如果法律要在抵制双重提升中发挥有意义的作用，它应该是包含主体性、情感和想象的法律，是一种不可还原为算法的法律，是一种在为集体使用暴力时重视情境判断的战争法。既不关注兼容性问题，也不呼吁“禁止杀手机器人”帮助阐明法律的有意义的作用。相反，我认为我们应该转向对人工智能的长期哲学批判，它强调的不是无所不知的威胁，而是贫乏的智能的威胁。因此，如果法律要在抵制双重提升中发挥有意义的作用，它应该是包含主体性、情感和想象的法律，是一种不可还原为算法的法律，是一种在为集体使用暴力时重视情境判断的战争法。但智力贫乏。因此，如果法律要在抵制双重提升中发挥有意义的作用，它应该是包含主体性、情感和想象的法律，是一种不可还原为算法的法律，是一种在为集体使用暴力时重视情境判断的战争法。但智力贫乏。因此，如果法律要在抵制双重提升中发挥有意义的作用，它应该是包含主体性、情感和想象的法律，是一种不可还原为算法的法律，是一种在为集体使用暴力时重视情境判断的战争法。