ABSTRACT

As firms are moving towards data-driven decision making, they are facing an emerging problem, namely, algorithmic bias. Accordingly, algorithmic systems can yield socially-biased outcomes, thereby compounding inequalities in the workplace and in society. This paper reviews, summarises, and synthesises the current literature related to algorithmic bias and makes recommendations for future information systems research. Our literature analysis shows that most studies have conceptually discussed the ethical, legal, and design implications of algorithmic bias, whereas only a limited number have empirically examined them. Moreover, the mechanisms through which technology-driven biases translate into decisions and behaviours have been largely overlooked. Based on the reviewed papers and drawing on theories such as the stimulus-organism-response theory and organisational justice theory, we identify and explicate eight important theoretical concepts and develop a research model depicting the relations between those concepts. The model proposes that algorithmic bias can affect fairness perceptions and technology-related behaviours such as machine-generated recommendation acceptance, algorithm appreciation, and system adoption. The model also proposes that contextual dimensions (i.e., individual, task, technology, organisational, and environmental) can influence the perceptual and behavioural manifestations of algorithmic bias. These propositions highlight the significant gap in the literature and provide a roadmap for future studies.

摘要

随着公司转向数据驱动的决策制定，他们正面临一个新出现的问题，即算法偏差。因此，算法系统会产生带有社会偏见的结果，从而加剧工作场所和社会中的不平等。本文回顾、总结和综合了当前与算法偏差相关的文献，并为未来的信息系统研究提出了建议。我们的文献分析表明，大多数研究在概念上讨论了算法偏见的伦理、法律和设计影响，而只有少数研究对它们进行了实证检验。此外，技术驱动的偏见转化为决策和行为的机制在很大程度上被忽视了。在回顾论文的基础上，借鉴刺激-有机体-反应理论和组织正义理论等理论，我们识别和解释了八个重要的理论概念，并建立了一个描述这些概念之间关系的研究模型。该模型提出算法偏差会影响公平感知和与技术相关的行为，例如机器生成的推荐接受、算法鉴赏和系统采用。该模型还提出上下文维度（即个人、任务、技术、组织和环境）可以影响算法偏差的感知和行为表现。这些命题突出了文献中的重大差距，并为未来的研究提供了路线图。我们确定并解释了八个重要的理论概念，并开发了一个描述这些概念之间关系的研究模型。该模型提出算法偏差会影响公平感知和与技术相关的行为，例如机器生成的推荐接受、算法鉴赏和系统采用。该模型还提出上下文维度（即个人、任务、技术、组织和环境）可以影响算法偏差的感知和行为表现。这些命题突出了文献中的重大差距，并为未来的研究提供了路线图。我们确定并解释了八个重要的理论概念，并开发了一个描述这些概念之间关系的研究模型。该模型提出算法偏差会影响公平感知和与技术相关的行为，例如机器生成的推荐接受、算法鉴赏和系统采用。该模型还提出上下文维度（即个人、任务、技术、组织和环境）可以影响算法偏差的感知和行为表现。这些命题突出了文献中的重大差距，并为未来的研究提供了路线图。该模型提出算法偏差会影响公平感知和与技术相关的行为，例如机器生成的推荐接受、算法鉴赏和系统采用。该模型还提出上下文维度（即个人、任务、技术、组织和环境）可以影响算法偏差的感知和行为表现。这些命题突出了文献中的重大差距，并为未来的研究提供了路线图。该模型提出算法偏差会影响公平感知和与技术相关的行为，例如机器生成的推荐接受、算法鉴赏和系统采用。该模型还提出上下文维度（即个人、任务、技术、组织和环境）可以影响算法偏差的感知和行为表现。这些命题突出了文献中的重大差距，并为未来的研究提供了路线图。