当前位置: X-MOL 学术American Business Law Journal › 论文详情
Our official English website, www.x-mol.net, welcomes your feedback! (Note: you will need to create a separate account there.)
Bribing the Machine: Protecting the Integrity of Algorithms as the Revolution Begins
American Business Law Journal ( IF 1.3 ) Pub Date : 2019-11-21 , DOI: 10.1111/ablj.12151
Philip M. Nichols

In the Industrial Revolution, machines took on the burden of physical labor; in the Big Data Revolution, machines are taking on the tasks of making decisions. Algorithms are the rules and processes that enable machines to make those decisions. Machines will make many decisions that affect general well‐being. This article addresses a threat to the efficacy of those decisions: the intentional distortion or manipulation of the underlying algorithm so that machines make decisions that benefit self‐interested third parties, rather than decisions that enhance public well‐being. That threat has not been recognized or addressed by legal thinkers or policy makers. This article first examines the lifecycle of an algorithm, and then demonstrates the likelihood that self‐interested third parties will attempt to corrupt the development and operation of algorithms. The article then argues that existing mechanisms cannot protect the integrity of algorithms. The article concludes with a discussion of policies that could protect the integrity of algorithms: transparency in both the development of and the content of algorithms that affect general well‐being and holding persons who corrupt the integrity of such algorithms accountable. Just as the Industrial Revolution eventually improved the quality of life for many, so too does the Big Data Revolution offer enhancement of general well‐being. That promise, however, will only be realized if policy makers take action to protect the integrity of underlying algorithms now, at the beginning of the revolution.

中文翻译:

贿赂机器:随着革命的开始,保护算法的完整性

在工业革命中,机器承担了体力劳动的重担。在大数据革命中,机器承担着决策的任务。算法是使机器能够做出那些决定的规则和过程。机器会做出许多影响整体健康的决定。本文针对这些决策的有效性提出了威胁:故意扭曲或操纵底层算法,使机器做出的决策有利于利益攸关的第三方,而不是增强公众利益的决策。法律思想家或政策制定者尚未意识到或解决这种威胁。本文首先研究了算法的生命周期,然后证明了自私的第三方试图破坏算法开发和运行的可能性。然后,文章认为现有机制无法保护算法的完整性。本文最后讨论了可以保护算法完整性的策略:算法开发的透明性和影响整体福祉的算法的内容,并使破坏此类算法完整性的人员负责。就像工业革命最终改善了许多人的生活质量一样,大数据革命也提供了总体幸福感。但是,只有在政策制定者在革命之初立即采取行动保护底层算法的完整性时,才能实现这一承诺。然后,文章认为现有机制无法保护算法的完整性。本文最后讨论了可以保护算法完整性的策略:算法开发的透明性和影响整体福祉的算法的内容,并使破坏此类算法完整性的人员负责。就像工业革命最终改善了许多人的生活质量一样,大数据革命也改善了人们的整体生活。但是,只有在政策制定者在革命之初立即采取行动保护底层算法的完整性时,才能实现这一承诺。然后,文章认为现有机制无法保护算法的完整性。本文最后讨论了可以保护算法完整性的策略:算法开发的透明性和影响整体福祉的算法的内容,并使破坏此类算法完整性的人员负责。就像工业革命最终改善了许多人的生活质量一样,大数据革命也改善了人们的整体生活。但是,只有在政策制定者在革命之初立即采取行动保护底层算法的完整性时,才能实现这一承诺。本文最后讨论了可以保护算法完整性的策略:算法开发的透明性和影响整体福祉的算法的内容,并使破坏此类算法完整性的人员负责。就像工业革命最终改善了许多人的生活质量一样,大数据革命也改善了人们的整体生活。但是,只有在政策制定者在革命之初立即采取行动保护底层算法的完整性时,才能实现这一承诺。本文最后讨论了可以保护算法完整性的策略:算法开发的透明性和影响整体福祉的算法的内容,并使破坏此类算法完整性的人员负责。就像工业革命最终改善了许多人的生活质量一样,大数据革命也改善了人们的整体生活。但是,只有在政策制定者在革命之初立即采取行动保护底层算法的完整性时,才能实现这一承诺。就像工业革命最终改善了许多人的生活质量一样,大数据革命也提供了总体幸福感。但是,只有在政策制定者在革命之初立即采取行动保护底层算法的完整性时,才能实现这一承诺。就像工业革命最终改善了许多人的生活质量一样,大数据革命也改善了人们的整体生活。但是,只有在政策制定者在革命之初立即采取行动保护底层算法的完整性时,才能实现这一承诺。
更新日期:2019-11-21
down
wechat
bug