根据发表在《科学报告》杂志上的新研究显示，恶意的COVID-19在线内容，包括种族主义内容、虚假信息和错误信息，通过绕过社交媒体平台审核工作在网上蓬勃发展和传播。乔治华盛顿大学的研究人的员通过绘制六大社交媒体平台的在线仇恨集群图，展示了恶意内容如何利用平台之间的路径，强调了社交媒体公司需要重新思考和调整其内容审核政策。
在乔治华盛顿大学物理学教授尼尔-约翰逊的领导下，研究小组着手了解尽管有大量的审核工作，恶意内容如何以及为什么在网上如此兴盛，以及如何能够阻止它。该团队使用机器学习和网络数据科学的组合，调查在线仇恨社区如何将COVID-19磨练成一种武器，并利用当前事件吸引新的追随者。
研究人员首先绘制了仇恨群组如何相互连接以在社交媒体平台上传播他们的内容。该团队专注于六个平台，包括Facebook、VKontakte、Instagram、Gab、Telegram和4Chan，从一个特定的仇恨集群开始，向外寻找与原始集群有紧密联系的第二个集群。他们发现最强的连接是VKontakte进入Telegram（40.83%的跨平台连接），Telegram进入4Chan（11.09%），以及Gab进入4Chan（10.90%）。
研究人员随后将注意力转向识别与COVID-19有关的恶意内容。他们发现，在大流行的早期阶段，COVID-19讨论的连贯性迅速增加，仇恨集群形成叙事，并围绕COVID-19的主题和错误信息进行凝聚。研究人员发现，为了颠覆社交媒体平台的控制努力，发送仇恨信息的团体使用了几种适应策略，以便在其他平台上重新组合，重新进入一个平台。例如，群组经常改变他们的名字，以避免被算法发现。
由于独立的社交媒体平台数量在不断增加，这些产生仇恨的群组非常有可能通过新的链接加强和扩大他们的相互联系，并可能利用美国和其他西方国家管辖范围以外的新平台，让全球所有社交媒体平台合作解决这个问题的机会非常渺茫。然而，科学家的数学分析确定了平台可以作为一个团体使用的策略，以有效减缓或阻止在线仇恨内容传播。