This paper critically examines a recently developed proposal for a border control system called iBorderCtrl, designed to detect deception based on facial recognition technology and the measurement of micro-expressions, termed 'biomarkers of deceit'. Funded under the European Commission's Horizon 2020 programme, we situate our analysis in the wider political economy of 'emotional AI' and the history of deception detection technologies. We then move on to interrogate the design of iBorderCtrl using publicly available documents and assess the assumptions and scientific validation underpinning the project design. Finally, drawing on a Bayesian analysis we outline statistical fallacies in the foundational premise of mass screening and argue that it is very unlikely that the model that iBorderCtrl provides for deception detection would work in practice. By interrogating actual systems in this way, we argue that we can begin to question the very premise of the development of data-driven systems, and emotional AI and deception detection in particular, pushing back on the assumption that these systems are fulfilling the tasks they claim to be attending to and instead ask what function such projects carry out in the creation of subjects and management of populations. This function is not merely technical but, rather, we argue, distinctly political and forms part of a mode of governance increasingly shaping life opportunities and fundamental rights.

中文翻译：

---

欺骗性边界的政治：“欺骗的生物标志物”和 iBorderCtrl 的案例

本文批判性地审查了最近开发的名为 iBorderCtrl 的边境控制系统的提案，该系统旨在检测基于面部识别技术和微表情测量的欺骗，称为“欺骗的生物标志物”。在欧盟委员会的“地平线 2020”计划的资助下，我们将分析置于更广泛的“情感人工智能”政治经济学和欺骗检测技术的历史中。然后，我们继续使用公开可用的文件询问 iBorderCtrl 的设计，并评估支持项目设计的假设和科学验证。最后，利用贝叶斯分析，我们概述了大规模筛查基本前提中的统计谬误，并认为 iBorderCtrl 提供的用于欺骗检测的模型在实践中不太可能奏效。通过以这种方式询问实际系统，我们认为我们可以开始质疑数据驱动系统发展的前提，特别是情感 AI 和欺骗检测，推翻这些系统正在完成它们的任务的假设。声称参与并询问此类项目在创建主题和管理人口方面发挥了什么作用。这种功能不仅是技术性的，而且我们认为，它具有明显的政治性，并且构成了日益塑造生活机会和基本权利的治理模式的一部分。通过以这种方式询问实际系统，我们认为我们可以开始质疑数据驱动系统发展的前提，特别是情感 AI 和欺骗检测，推翻这些系统正在完成它们的任务的假设。声称参与并询问此类项目在创建主题和管理人口方面发挥了什么作用。这种功能不仅是技术性的，而且我们认为，它具有明显的政治性，并且构成了日益塑造生活机会和基本权利的治理模式的一部分。通过以这种方式询问实际系统，我们认为我们可以开始质疑数据驱动系统发展的前提，特别是情感 AI 和欺骗检测，推翻这些系统正在完成它们的任务的假设。声称参与并询问此类项目在创建主题和管理人口方面发挥了什么作用。这种功能不仅是技术性的，而且我们认为，它具有明显的政治性，并且构成了日益塑造生活机会和基本权利的治理模式的一部分。推翻这些系统正在完成他们声称要完成的任务的假设，而是询问这些项目在创建主题和管理人口方面发挥了什么作用。这种功能不仅是技术性的，而且我们认为，它具有明显的政治性，并且构成了日益塑造生活机会和基本权利的治理模式的一部分。推翻这些系统正在完成他们声称要完成的任务的假设，而是询问这些项目在创建主题和管理人口方面发挥了什么作用。这种功能不仅是技术性的，而且我们认为，它具有明显的政治性，并且构成了日益塑造生活机会和基本权利的治理模式的一部分。