Recent years have seen a marked increase in the spread of misinformation, a phenomenon which has been accelerated and amplified by social media such as Facebook and Twitter. While some actors spread misinformation to push a specific agenda, it has also been widely documented that others aim to simply disrupt the network by increasing disagreement and polarization across the network and thereby destabilizing society. Popular social networks are also vulnerable to large-scale attacks. Motivated by this reality, we introduce a simple model of network disruption where an adversary can take over a limited number of user profiles in a social network with the aim of maximizing disagreement and/or polarization in the network. We investigate this model both theoretically and empirically. We show that the adversary will always change the opinion of a taken-over profile to an extreme in order to maximize disruption. We also prove that an adversary can increase disagreement / polarization at most linearly in the number of user profiles it takes over. Furthermore, we present a detailed empirical study of several natural algorithms for the adversary on both synthetic networks and real world (Reddit and Twitter) data sets. These show that even simple, unsophisticated heuristics, such as targeting centrists, can disrupt a network effectively, causing a large increase in disagreement / polarization. Studying the problem of network disruption through the lens of an adversary thus highlights the seriousness of the problem.

中文翻译：

---

网络中断：最大化社交网络中的分歧和两极分化

近年来，错误信息的传播显着增加，这一现象已被 Facebook 和 Twitter 等社交媒体加速和放大。虽然一些行为者传播错误信息以推动特定议程，但也有广泛记载，其他行为者旨在通过增加网络中的分歧和两极分化来破坏网络，从而破坏社会稳定。流行的社交网络也容易受到大规模攻击。在这一现实的推动下，我们引入了一个简单的网络中断模型，在该模型中，对手可以接管社交网络中有限数量的用户配置文件，目的是最大化网络中的分歧和/或两极分化。我们从理论上和经验上研究了这个模型。我们表明，对手总是会将被接管的配置文件的意见更改为极端，以最大限度地破坏。我们还证明，对手最多可以在其接管的用户配置文件数量上线性增加分歧/极化。此外，我们在合成网络和现实世界（Reddit 和 Twitter）数据集上针对对手的几种自然算法进行了详细的实证研究。这些表明，即使是简单的、不复杂的启发式方法，例如针对中间派，也可以有效地破坏网络，导致分歧/两极分化的大量增加。因此，通过对手的视角研究网络中断问题凸显了问题的严重性。我们还证明，对手最多可以在其接管的用户配置文件数量上线性增加分歧/极化。此外，我们在合成网络和现实世界（Reddit 和 Twitter）数据集上针对对手的几种自然算法进行了详细的实证研究。这些表明，即使是简单的、不复杂的启发式方法，例如针对中间派，也可以有效地破坏网络，导致分歧/两极分化的大量增加。因此，通过对手的视角研究网络中断问题凸显了问题的严重性。我们还证明，对手最多可以在其接管的用户配置文件数量上线性增加分歧/极化。此外，我们在合成网络和现实世界（Reddit 和 Twitter）数据集上针对对手的几种自然算法进行了详细的实证研究。这些表明，即使是简单的、不复杂的启发式方法，例如针对中间派，也可以有效地破坏网络，导致分歧/两极分化的大量增加。因此，通过对手的视角研究网络中断问题凸显了问题的严重性。我们在合成网络和现实世界（Reddit 和 Twitter）数据集上针对对手的几种自然算法进行了详细的实证研究。这些表明，即使是简单的、不复杂的启发式方法，例如针对中间派，也可以有效地破坏网络，导致分歧/两极分化的大量增加。因此，通过对手的视角研究网络中断问题凸显了问题的严重性。我们在合成网络和现实世界（Reddit 和 Twitter）数据集上针对对手的几种自然算法进行了详细的实证研究。这些表明，即使是简单的、不复杂的启发式方法，例如针对中间派，也可以有效地破坏网络，导致分歧/两极分化的大量增加。因此，通过对手的视角研究网络中断问题凸显了问题的严重性。