Cyberbullying and cyberaggression are increasingly worrisome phenomena affecting people across all demographics. More than half of young social media users worldwide have been exposed to such prolonged and/or coordinated digital harassment. Victims can experience a wide range of emotions, with negative consequences such as embarrassment, depression, isolation from other community members, which embed the risk to lead to even more critical consequences, such as suicide attempts. In this work, we take the first concrete steps to understand the characteristics of abusive behavior in Twitter, one of today’s largest social media platforms. We analyze 1.2 million users and 2.1 million tweets, comparing users participating in discussions around seemingly normal topics like the NBA, to those more likely to be hate-related, such as the Gamergate controversy, or the gender pay inequality at the BBC station. We also explore specific manifestations of abusive behavior, i.e., cyberbullying and cyberaggression, in one of the hate-related communities (Gamergate). We present a robust methodology to distinguish bullies and aggressors from normal Twitter users by considering text, user, and network-based attributes. Using various state-of-the-art machine-learning algorithms, we classify these accounts with over 90% accuracy and AUC. Finally, we discuss the current status of Twitter user accounts marked as abusive by our methodology and study the performance of potential mechanisms that can be used by Twitter to suspend users in the future.

中文翻译：

---

检测社交媒体中的网络欺凌和网络攻击

网络欺凌和网络攻击是越来越令人担忧的现象，影响着所有人群。全球超过一半的年轻社交媒体用户曾遭受过这种长期和/或协调的数字骚扰。受害者可能会经历各种各样的情绪，带来诸如尴尬、抑郁、与其他社区成员隔离等负面后果，这些都包含导致更严重后果的风险，例如自杀未遂。在这项工作中，我们采取了第一个具体步骤来了解 Twitter（当今最大的社交媒体平台之一）中虐待行为的特征。我们分析了 120 万用户和 210 万条推文，将参与围绕 NBA 等看似正常话题的讨论的用户与更有可能与仇恨相关的用户进行比较，例如 Gamergate 争议，或 BBC 台的性别薪酬不平等。我们还探讨了在仇恨相关社区之一（Gamergate）中虐待行为的具体表现，即网络欺凌和网络攻击。我们提出了一种强大的方法，通过考虑文本、用户和基于网络的属性来区分欺凌者和攻击者与普通 Twitter 用户。使用各种最先进的机器学习算法，我们以超过 90% 的准确率和 AUC 对这些账户进行分类。最后，我们讨论了被我们的方法标记为滥用的 Twitter 用户帐户的当前状态，并研究了 Twitter 未来可用于暂停用户的潜在机制的性能。网络欺凌和网络攻击，在与仇恨相关的社区之一 (Gamergate)。我们提出了一种强大的方法，通过考虑文本、用户和基于网络的属性来区分欺凌者和攻击者与普通 Twitter 用户。使用各种最先进的机器学习算法，我们以超过 90% 的准确率和 AUC 对这些账户进行分类。最后，我们讨论了被我们的方法标记为滥用的 Twitter 用户帐户的当前状态，并研究了 Twitter 未来可用于暂停用户的潜在机制的性能。网络欺凌和网络攻击，在与仇恨相关的社区之一 (Gamergate)。我们提出了一种强大的方法，通过考虑文本、用户和基于网络的属性来区分欺凌者和攻击者与普通 Twitter 用户。使用各种最先进的机器学习算法，我们以超过 90% 的准确率和 AUC 对这些账户进行分类。最后，我们讨论了被我们的方法标记为滥用的 Twitter 用户帐户的当前状态，并研究了 Twitter 未来可用于暂停用户的潜在机制的性能。我们以超过 90% 的准确率和 AUC 对这些账户进行分类。最后，我们讨论了被我们的方法标记为滥用的 Twitter 用户帐户的当前状态，并研究了 Twitter 未来可用于暂停用户的潜在机制的性能。我们以超过 90% 的准确率和 AUC 对这些账户进行分类。最后，我们讨论了被我们的方法标记为滥用的 Twitter 用户帐户的当前状态，并研究了 Twitter 未来可用于暂停用户的潜在机制的性能。