Accountability is widely understood as a goal for well governed computer systems, and is a sought-after value in many governance contexts. But how can it be achieved? Recent work on standards for governable artificial intelligence systems offers a related principle: traceability. Traceability requires establishing not only how a system worked but how it was created and for what purpose, in a way that explains why a system has particular dynamics or behaviors. It connects records of how the system was constructed and what the system did mechanically to the broader goals of governance, in a way that highlights human understanding of that mechanical operation and the decision processes underlying it. We examine the various ways in which the principle of traceability has been articulated in AI principles and other policy documents from around the world, distill from these a set of requirements on software systems driven by the principle, and systematize the technologies available to meet those requirements. From our map of requirements to supporting tools, techniques, and procedures, we identify gaps and needs separating what traceability requires from the toolbox available for practitioners. This map reframes existing discussions around accountability and transparency, using the principle of traceability to show how, when, and why transparency can be deployed to serve accountability goals and thereby improve the normative fidelity of systems and their development processes.

中文翻译：

---

概述可追溯性：计算系统中可操作性的原则

问责制被广泛理解为治理良好的计算机系统的目标，并且在许多治理环境中都是追捧的价值。但是如何实现呢？可控人工智能系统标准的最新工作提供了一个相关的原则：可追溯性。可追溯性不仅需要建立系统的工作方式，还需要建立系统的创建方式和目的，以解释为什么系统具有特定动态或行为的方式。它以突出强调人类对机械操作及其基础决策过程的理解的方式，将系统的构造方式以及系统机械操作的记录与更广泛的治理目标联系起来。我们研究了来自世界各地的AI原则和其他政策文件中阐明可追溯性原则的各种方式，从这些原则中提取了对由该原则驱动的软件系统的一系列要求，并对可以满足这些要求的可用技术进行了系统化。从需求图到支持工具，技术和程序，我们确定了差距和需求，将可追溯性要求与从业者可用的工具箱分开。该地图使用可追溯性原理，重新组织了有关问责制和透明度的现有讨论，以显示如何，何时以及为什么可以使用透明度来实现问责目标，从而提高系统及其开发过程的规范保真度。从这些原则中提炼出了对由该原理驱动的软件系统的一组要求，并对可以满足这些要求的可用技术进行了系统化。从需求图到支持工具，技术和程序，我们确定了差距和需求，将可追溯性要求与从业者可用的工具箱分开。该地图使用可追溯性原理，重新组织了有关问责制和透明度的现有讨论，以显示如何，何时以及为何可以使用透明度来实现问责制目标，从而提高系统及其开发过程的规范保真度。从这些原则中提炼出了对由该原理驱动的软件系统的一组要求，并对可以满足这些要求的可用技术进行了系统化。从需求图到支持工具，技术和程序，我们确定了差距和需求，将可追溯性要求与从业者可用的工具箱分开。该地图使用可追溯性原理，重新组织了有关问责制和透明度的现有讨论，以显示如何，何时以及为何可以使用透明度来实现问责制目标，从而提高系统及其开发过程的规范保真度。我们确定差距和需求，将可追溯性要求与从业者可用的工具箱分开。该地图使用可追溯性原理，重新组织了有关问责制和透明度的现有讨论，以显示如何，何时以及为何可以使用透明度来实现问责制目标，从而提高系统及其开发过程的规范保真度。我们确定差距和需求，将可追溯性要求与从业者可用的工具箱分开。该地图使用可追溯性原理，重新组织了有关问责制和透明度的现有讨论，以显示如何，何时以及为何可以使用透明度来实现问责制目标，从而提高系统及其开发过程的规范保真度。