特朗普和世界各地的其他强人未能意识到危险的言论——可能引发群体暴力的言论,这只是社交媒体公司未能有效利用其巨大私人权力的一个例子。在这篇文章中,苏珊·贝内施(Susan Benesch)认为,尽管国际人权法是为政府而不是私人公司制定的,但如果得到充分解释,它有可能成为社交媒体公司监管仇恨言论的指南,并让外部人士追究这些公司的责任。

社交媒体技术的发展和普及对人类交流、获取信息以及个人与他人分享、说服和动员他人的策略产生了巨大的影响。然而,这个新的数字生态系统将扮演主要的平衡角色的承诺是短暂的。它现在还是一个向数百万用户推送党派和虚假内容的强大空间,也是传播仇恨言论、分裂问题甚至暴力的最新工具。社交媒体对社会的有害影响在美国、欧洲、撒哈拉以南非洲和其他地方最近的竞选活动和其他高风险政治进程中变得最为明显,因为国内外行为者都利用这些论坛影响国内舆论,并进一步分化社区。大型科技公司因为没有采取更积极的行动来限制虚假或极端主义内容在其平台上的传播而受到密切关注,许多政府正在努力或抵制实施有效的监管。一些人受到言论自由的限制,而另一些人只是受益于信息障碍.
联合国及其行动也未能幸免于虚假信息的影响,因为虚假信息不仅使联合国的预防议程更加复杂,而且还挑战《宪章》的核心价值。联合国秘书长古特雷斯在日内瓦举行的联合国人权理事会第40届常会开幕式上发表讲话,称虚假信息和仇恨言论是对民主价值观、社会稳定与和平的全球威胁和威胁。他断言,“每打破一个规范,人类的支柱就会被削弱。”2019年6月,他提出了一项打击仇恨言论的行动计划,旨在加强预防工作和发展反叙事,同时也使该系统能够更有效地应对联合国会员国发生的仇恨言论。推进这些目标需要与研究团体合作,以便更好地了解这些技术对预防工作的影响,帮助为应对政策提供信息,并制定新的研究和政策议程。
虚假信息和仇恨言论正在引发紧迫而复杂的地缘政治问题,所有政府、政策制定者和联合国等政府间组织将难以帮助形成和有效应对这些问题。虚假信息和错误信息的挑战正在改变社会如何应对民主进程,以及暴力如何以及何时发生。因此,国际政策制定者需要加深对虚假信息、错误信息和仇恨言论及其对选举、暴力和预防冲突的影响的理解。作为国家和民间社会之间的对话者,联合国依靠其独特的合法性、道德权威和技能,但虚假信息运动的目标往往正是规范、机构和联合国等多边机构帮助维持的社会凝聚力。
本系列关于“虚假信息、民主和预防冲突”的文章是基于SSRC召集的“虚假信息、民主进程和预防冲突”研究研讨会上的报告预防冲突与和平论坛和MediaWell虚假信息研究地图计划该中心的和平、安全与联合国学术网络.来自世界各地的学者和研究人员审查了关于信息失调以及虚假信息、选举、仇恨言论和基于身份的暴力之间的联系的新研究的框架、发现和辩论。研讨会还探讨了虚假信息影响联合国预防议程的方式,以及联合国系统如何更好地识别、跟踪和应对联合国参与的虚假信息的负面影响。
尽管仇恨言论、暴力和虚假信息的威胁——这些威胁往往通过社交媒体和其他技术被放大——是全球现象,但它们在地理、政治和技术上的实施也是独特的。这一论文系列和为其提供信息的讲习班的贡献不大,不足以回应日益增长的需要,即在全球框架内和具体到当地情况下对这些问题进行更多的审查。这些文章反映了亚洲、非洲、欧洲和美国的地缘政治现实,并以比较的视角对当前状况进行了分析,并对未来的步骤提出了建议。
附加资源和背景信息:
预防冲突与和平论坛
MediaWell现场研究评论和论文
这个系列是由塔蒂阿娜Carayannis预防冲突与和平论坛(CPPF)项目主任;杰森Rhody《媒体与民主》项目联合主任;和迈克米勒她是“媒体与民主”项目的联合主任。
特朗普和世界各地的其他强人未能意识到危险的言论——可能引发群体暴力的言论,这只是社交媒体公司未能有效利用其巨大私人权力的一个例子。在这篇文章中,苏珊·贝内施(Susan Benesch)认为,尽管国际人权法是为政府而不是私人公司制定的,但如果得到充分解释,它有可能成为社交媒体公司监管仇恨言论的指南,并让外部人士追究这些公司的责任。
今年7月,美国总统唐纳德·特朗普(Donald Trump)在推特(Twitter)上发布了一条现已臭名昭著的帖子:“所以有趣的“进步”民主党众议院女议员,他最初来自国家的政府是一个完整的和完全的灾难,最糟糕,最腐败和无能在世界任何地方(如果他们甚至有一个正常运转的政府),现在大声和恶意告诉美国人民,美国是地球上最伟大、最强大的国家,我们的政府将如何运作,”他在推特上写道。“为什么他们不回去帮助修复他们的家乡,那些破败不堪、犯罪猖獗的地方呢?”然后回来告诉我们该怎么做。”
在西方民主国家就社交媒体监管展开辩论之际,乔纳森•科珀斯•昂(Jonathan Corpus Ong)概述了他们可以从东南亚经验中汲取的宝贵经验。该地区的政府将监管武装起来,劫持了对虚假信息的道德恐慌,以巩固对数字环境的控制。他认为,世界面临的挑战是建立一种更精确的责任语言,以解决这个多维问题。
对一个基于人工智能的平台解决仇恨言论的努力进行短暂的探索,揭示了它的承诺,但也揭示了语言和语境的巨大内在挑战。Sahana Udupa驳斥了人工智能审核的“魔棒”愿景,他呼吁开发者和关键社区之间的合作方式。
仇恨言论不是在真空中产生的,它的兴起反映了不断变化的政治环境。如果我们认真对待打击仇恨言论及其暴力和破坏稳定的后果,我们需要确定其最早的表现形式。Babak Bahador提供了一种仇恨言论强度量表,这种策略使我们能够超越目前主导仇恨言论研究的二元方法。这个概念可以被操作化,以便在仇恨言论导致现实伤害之前更好地识别和理解它的演变。
信息混乱的根源是多方面的,但史蒂文·利文斯顿和兰斯·贝内特认为,对技术的关注和批评不成比例。虽然社交媒体平台应该为错误和虚假信息的传播分担责任,但作者认为,信息紊乱的一个更重要的首要来源可能是对“权威机构”的持续攻击,从历史上看,这些措施在培养一种共享现实的感觉,并减轻虚假信息的威胁方面发挥了作用。
Eleonore Pauwels认识到,在缺乏足够的监管和监督的情况下,我们分享的最亲密的数据可能被用来破坏民主进程,伤害公民,因此,Eleonore Pauwels就联合国成员国,特别是非洲各国,如何可能会防止导致信息混乱和选举中断的日益增多的数据收集和操纵形式。
虚假信息对民主体制造成的日益严重的威胁是一个全球现象。然而,正如Idayat Hassan和Jamie Hitchen在尼日利亚的案例研究中所揭示的那样,虚假信息在当地的影响,不仅受到在线互动的影响,也受到线下惯例和机构的影响。