未来，平台的自我约束与相关部门的直接监管，又该如何产生合力？

　　文/樊朔

　　编辑/郭丽琴

　　2014年，销声匿迹多年的美国白宫前实习生莱温斯基重回公众视野。莱温斯基曾于1998年卷入与时任美国总统克林顿的性丑闻，并最终导致对方被国会弹劾。

　　通过演讲和撰写署名文章，莱温斯基称自己很可能是遭受全球性网络欺凌的第一人。丑闻中的她，曾被贴上了“妓女”“荡妇”“蠢女人”等标签。莱温斯基认为，在事件发生后，社交媒体兴起带来的病毒性传播中，自己“受到的屈辱更具有毁灭性”。 

　　如今，更多比莱温斯基无辜的人正遭遇着类似的痛苦。

　　在国际上，联合国儿童基金会将利用数字技术进行的欺凌行为定义为“网络欺凌” （Cyberbullying），也即通过社交媒体、即时通讯平台、游戏平台等，以恐吓、激怒或羞辱他人为目的的重复行为。

　　在中国，人们将这类网络欺凌称之为“网络暴力”（下称“网暴”）。虽然法律法规尚未对网暴的概念、外延进行明确的界定，但一般认为网暴是社会暴力在网络世界的延伸，具有诽谤性、诬蔑性、侵犯名誉、损害权益和煽动性等特点。

　　中国政法大学传播法中心副主任朱巍告诉财经E法，与互联网早期相比，现阶段的网暴往往与通过线上和线下的组织，进行“有文案、有矩阵、有同质化内容”的传播。个别案例中，甚至会出现“长达多年，对一个人或企业进行污名化”。

　　近年来，随着“杭州女子取快递被造谣案”“刘学州网暴自杀案”等引发公众高度关注的事件，网暴已成为不容忽视的互联网生态问题，平台治理的重要性也日益凸显。

　　财经E法通过走访网暴受害者、律师、社交平台审核员，乃至参与建章立制的学者，试图解析网暴难以禁绝的真正原因。并基于此，探讨面向未来的解决之道。

　　在调查中，财经E法发现，网暴者面临的维权困境是一个涉及平台技术升级、平台盈利模式规制，以及法律法规突破的综合性难题，需各方合力，才能真正破局。

　　谁是网络施暴者？

　　2022年8月17日，一起与网暴有关的诉讼在北京互联网法院开庭，抖音运营方北京微播视界科技有限公司成为被告。

　　案件的原告方张婷是一名拥有千万粉丝的抖音博主，在一次意外走红后，她经历了一场长达一年多的网暴。2020年底，张婷开始在抖音分享自己走出农村，通过勤工俭学、助学贷款完成学业并最终获得博士学位的故事。此后的一个月内，她的账号粉丝量从200万渐渐增长到1000万。

　　与此同时，抖音平台的一些自媒体账号开始质疑张婷学历造假、其走红背后有资本运作。其中，某账号使用直播和短视频等形式，对张婷进行了一年半的质疑。2021年初，在得知张婷入职西安的一所高校后，前述账号的运营者又以“辱骂网友”“疫情诈捐”等事由向陕西省教育厅、教工委等部门信访举报。为此，张婷向信访部门提交了接近30封书面情况说明。

　　2021年8月，张婷被北京大学国际医院确诊为焦虑状态、失眠、抑郁状态。同月20日，张婷以被诽谤为由向前述账号的居住地——北京市通州区的警方报案，警方认为符合立案标准，并于同年10月17日出具了立案告知书。

　　张婷只是众多网暴受害者之一。不同之处是，她发现了平台在其中扮演的重要角色。

　　此后，张婷向平台方发起诉讼，请求判令抖音披露前述账号的真实身份信息，并立即删除该账号及其关联账号发布的侵权信息。

　　“抖音已经完整披露了侵权者的身份信息。”张婷告诉财经E法，她随后撤销了对抖音的诉讼，同时对侵权账号提起诉讼，目前法院已经立案。

　　张婷的代理律师周兆成介绍，在网暴诉讼中，由于个人极难在网络世界获取他人的身份信息，起诉平台是最合法、最直接、最快速获取侵权者基本身份信息的途径。

　　周兆成认为，网络服务提供者对侵权行为承担通知侵权网络用户、采取删除、屏蔽、断开链接等必要措施的法律责任，其在一定程度上需要与侵权网络用户共同承担侵权责任。作为大数据收集汇纳的网络平台，其有义务向权利人及时披露侵权网络用户的真实身份信息。

　　2022年8月23日，中央网信办副主任、国家网信办副主任盛荣华在国务院新闻发布会上通报了 “清朗·网络暴力专项治理行动”成果。此次专项整治行动当中，重点网站平台累计拦截涉攻击谩骂、造谣诋毁等信息6541万余条，处置违法违规的账号7.8万个。

　　这场始于今年4月的专项行动，聚焦网暴易发多发、且社会影响力大的18家网络平台（包括新浪微博、抖音、百度贴吧、知乎等），要求这些网站平台通过建立完善监测识别、实时保护、干预处置、溯源追责、宣传曝光等措施开展全链条治理。

　　受害者的举证困境

　　获取侵权人的身份信息仅是诉讼维权的第一步。由于网暴规模庞大、受害者举证成本高，当事人和律师往往面临着多重困境，鲜少有受害者主动通过法律途径维护自身权益。

　　在中国裁判文书网以“网络暴力”为关键词，检索并翻阅了53份相关判决书后，财经E法发现，从2013年到2022年，仅有17份判决书是直面网暴问题的案件。

　　目前，网络发言大多为匿名，网暴往往呈现出多对一的特点。北京京师（合肥）律师事务所主任朱政告诉财经E法，面对网暴时，受害者仅凭自身的力量难以完整收集和固定证据。此外，受害者的举证成本较高，需要花费大量时间、金钱用于收集证据，而最终在案件判决时却难以获得足额赔偿，“这是一个现实困境”朱政说。

　　“杭州女子取快递被造谣案”就是一个典型案例。

　　2020年7月，杭州谷女士到小区快递点取快递时，被附近便利店店主郎某某偷拍。随后，郎某某与何某某编造“富婆出轨快递小哥”的对话内容发至微信群。之后，上述偷拍的视频、捏造的微信聊天记录截图被他人合并转发，并相继扩散到多个微信群、微信公众号等网络平台。此事在网络不断发酵，谷女士因此被辱骂，遭公司劝退，被诊断为抑郁状态，她直言经历了“社会性死亡”。

　　2020年10月26日，谷女士向杭州市余杭区人民法院提起刑事自诉，以郎某某、何某某捏造事实，通过网络诽谤自诉人谷某某且情节严重为由，要求以诽谤罪追究两人的刑事责任。

　　由于中国法律尚未对网暴做出明确界定，一般属于民事案件范畴，而与网暴相关的诽谤罪、侮辱罪最严重可作刑事自诉案件。

　　该案代理律师郑晶晶直言，此类案件立案门槛较高，无法在被告人缺席的情况下判决。“如果立案时出现被告人‘下落不明’的情况，法院可能会说服自诉人撤回起诉，如果自诉人不撤回，法院可以裁定不予受理。”郑晶晶说。

　　幸运的是，此案最终经检察机关的推动，从“刑事自诉”转为“公诉”，并于2022年2月入选了最高人民检察院第三十四批指导性案例。

　　郑晶晶告诉财经E法，能转为公诉是因为案件本身的特殊性。谷女士通过聊天记录、照片拍摄角度定位到了嫌疑人，谷女士在与他们对质时，对方也承认了造谣的事实。之后，谷女士立刻报警，杭州市余杭区警方对两名嫌疑人进行了行政处罚，他们的身份信息、侵权行为都通过行政处罚被固定，因此对诉讼帮助很大。

　　2021年4月30日，杭州市余杭区人民法院作出判决：两名被告人皆被认定构成诽谤罪，分别被判处有期徒刑一年，缓期两年执行。

　　这一案件也凸显了这类诉讼取证难、证据难以固定等问题。浙江省人民检察院检察长贾宇亦曾在接受媒体采访时表示，因为大量证据存在于网络中，依靠个人力量取证维权十分困难。贾宇透露，在“杭州女子取快递被造谣案”中，检察机关用了近1个月时间进行取证，最后形成18本案卷、76张光盘。

　　张婷则告诉财经E法，为准备诉讼，她只对被告以及其的两个追随者展开取证。最终形成五大本证据，公证花费接近10万元。

　　郑晶晶表示，“杭州女子取快递被造谣事件”一开始是在微信群中传播发酵的，在这一情形下，一旦被群主踢出群或本身就不在传播的微信群中，受害人将很难取证。此外，根据最高人民法院《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》，同一诽谤信息实际被点击、浏览次数达到5000次以上，或者被转发次数达到500次以上的，才能被认定为刑法第二百四十六条第一款规定的捏造事实诽谤他人“情节严重”，达到刑事立案标准。在微信群中，视频及文字消息的转发次数与浏览次数难以判定。

　　当时，郑晶晶采用了转载谣言公众号文章的阅读量、点击量以作为证据。后来，郑晶晶接到一些只在微信群中传播谣言的案子，“我只能通过民事侵权诉讼来追究对方的侵权责任，因为很难找到达到刑事立案标准的证据。”郑晶晶说。

　　2022年春节前夕，寻亲无果的河北未成年男孩刘学州遭受网暴后，在海南三亚自杀身亡。

　　周兆成也是“刘学州网暴自杀案”的代理律师。据他回忆，在刘学州死亡当日，很多曾网暴刘学州的自媒体账号删除了相关视频，企图销毁证据，这对律师取证造成了不小的障碍。所以，“我们还是希望能够与警方等司法机关沟通，希望司法机关可以强势介入。”周兆成说。

　　朱政认为，想要从根本上解决网暴案件举证难的问题，一方面要制度先行，必须进一步制定与完善针对网暴的相关司法解释和举证规定，为受害者收集证据提供明确指引，避免受害者盲目取证或无效取证。还需从法律或者司法解释的层面上明确，受害人的取证成本应由施暴者承担。另一方面，要充分利用平台“一键取证”“区块链存证”等技术，降低取证和存证的成本，为受害者维权保驾护航。

　　平台的“一键取证”功能无疑为当事人取证提供了便利，但“一键取证”的技术落地效果，以及在实践中的法律效力仍有待验证。

　　相对于已经成熟的电子证据公证、区块链存证技术，“一键取证”功能尚属于新鲜事物，“其取证的效力如何？是否具备可信的时间戳？是否易于保存？是否可以直接被用于司法案件并被司法机关采信等？这些均还有待于在司法实践中进一步考察和完善。”朱政说。

　　B站在2022年7月曾经上线“一键取证”功能。但财经E法在B站客户端并未看见相关的入口， B站客服在接受咨询时表示，如果有“一键取证”的需要，用户可以直接向客服留言。但对于“一键取证”所采用的技术，B站客服未做清晰的解释，只是表示站内所有信息都有记录，侵权信息被删除也不影响工作人员回查核实。

　　某社交媒体平台的风控安全运营人员沈河告诉财经E法，他所在的平台仍在开发“一键取证”功能，希望能解决网民取证麻烦，以及取证时可能再次受到伤害的问题，但目前这一功能尚未上线。

　　据郑晶晶介绍，网暴取证并非只是截图那么简单。证据需要满足真实性、合法性、关联性的要求，内容发布者一旦删除了原文或者对内容进行了修改，先前截图的证据效力就会存疑。

　　因此，郑晶晶基于自己的办案经验建议，网暴受害者在取证时最好通过公证处或第三方存证平台进行证据存证保全。除了传统的公证，目前大部分互联网存证平台也都可以帮助受害人固定证据。“例如，杭州互联网法院的电子证据平台采用了区块链技术存证，这一存证技术的效力在实践中几乎获得了所有互联网法院的认可。”郑晶晶说：“其它法院也可能参考类似的做法。”

　　平台做了哪些努力？

　　2022年以来，多个网络平台陆续推出了网暴治理措施，但这些措施背后的技术和运作流程是什么？又能在多大程度上解决网暴问题？

　　北京观韬中茂（上海）律师事务所合伙人、深圳市大数据研究与应用协会法律专家吴丹君对财经E法介绍，法律对平台提出网暴言论等违法违规信息管理要求，并赋予一定的治理权利。例如，《移动互联网应用程序信息服务管理规定》规定，平台可采取警示、限制功能、暂停更新、关闭账号等处置措施对用户通过平台发布违法违规信息的行为进行处理。

　　从财经E法对遭遇网暴的当事人和平台风控人员的采访来看，平台确实在完善相关的治理措施。

　　张婷回忆，在2020年底那场有关她学历的争论中，她在评论和私信中收到了不少诽谤、辱骂信息。当时抖音对关闭评论、私信等功能的提示尚未完善，她也没有想到关闭评论、私信等。但2021年7月，前述账号质疑张婷“亲日”时，张婷的抖音后台再一次收到了大量的侮辱、诽谤性的言论。此时，抖音已经自动弹出通知，提醒张婷可以关闭私信和评论。

　　财经E法梳理发现，2022年3月以来，微博、抖音、B站陆续上线了“一键防护”“一键防暴”“一键取证”等新功能；快手、百度贴吧、知乎、小红书等平台均可以自主设置私信、评论权限。必要时，用户可以及时关闭私信、评论，尽量避免网暴的伤害。

　　朱巍认为，仅靠事后救济并非良策，平台方应当在网暴发酵初期就做好预警，在事件中期迅速切断网暴传播链路。

　　事实上，一些平台已在探索事先发现网络安全风险的机制。

　　据沈河介绍，他所在平台会通过技术手段采集视频中的原始语料，并利用自动化模型将语料库进行分类和数据模型的提取。基于提取出的语料特征，安全团队对语料进行过滤和上报，并录入风险数据库。这些数据的主体是靠自动化召回获得，但一些团队重点关注的数据则是由人工召回而来：包括人工举报、用户反馈、安全团队自发掘等方式。

　　发现风险后，专项小组会按照内部审核规则对数据进行研判，并根据不同的风险划分优先等级、类型等，此时并不会对所有的网暴风险进行封禁处理、单篇文章屏蔽或社交关系屏蔽。

　　沈河举例说，如果某个事件被标注为高风险，其中的某位发言用户是个大V，发的内容有可能被网暴，且他的粉丝里有20%是有网暴倾向的用户，平台就会判定他是一个高风险的网暴对象。平台会对大V本身做一些适当的社交关系屏蔽，比如关闭评论等，并对其中20%有网暴倾向的用户做人群分割，不向他们展示相关的内容。“这个策略可以由平台去下发，也可以交由被网暴者主动触发我们的‘一键防暴’功能。”沈河说。

　　平台治理仍有局限

　　但是，现有的平台治理也有一定的局限性。

　　针对网暴事件的事前预警，沈河告诉财经E法，平台会针对用户已经发布的内容（包括作者创造的内容、普通社交关系上发布的评论）进行自动数据召回和风险发现，之后再通过人工对数据回捞发现的风险进行校对。由于可能会影响用户体验，“我们不能直接对机器的召回风险直接执行封禁等策略，所以事前发现并不是一个我们真正能够闭环解决网暴问题的手段。”他说。

　　在网暴事件中期，平台会设置“一键防暴”等主动拦截手段，也会在模型侧加高边审核（高级编辑和审核人员）作为事中的干预手段。“唯一的缺点是这一干预手段会直接阻断可能被网暴账号的社交关系，即网暴言论的舆论场，也不能防止在本平台外的第三方（平台）进行的一些网暴。”沈河说。

　　平台对网暴信息的审核方式为机器预测初筛，配合人工复核，但仍难以避免错漏。

　　沈河举例说，假如100条文章或评论，平台会先用自动化模型过一遍，筛出疑似网暴或有网暴风险的50条，再进行人工审核。“目前的人审复核主要是给信息打个标签。”

　　财经E法在沈河展示的人工审核记录中看到，疑似网暴的信息被审核员打上“网暴潜在名单”“负评针对内容，与作者无关”等标签，随后给出了“建议扣分至封禁”“禁言”等处置后续。

　　抖音前审核员小乐告诉财经E法，他曾工作过的审核部门有相应的网暴防自杀培训与审核机制。小乐表示，他工作中遇到较多的是言语暴力。审核员会依据相关的敏感词库，例如“国骂”，辱骂主播或观众且“造成了人身攻击”“危险性发言”“过激性话语”等，打上标签并上报。

　　但是，判定言语暴力或者侮辱的标准存在模糊地带，小乐处理的时候也经常犯难。“因为有的人习惯把一些话语当成口头禅，并没有主观侮辱的意向。”小乐说。

　　据媒体此前报道，字节跳动 2017 年起大量招募内容审核员，至2021年已有超过2万人，多数是正式员工。

　　小乐称，人工审核如何在在准确率和效率之间做好平衡，是一大挑战。审核员需要在审核系统中查看视频是否有违规点，并对此打标提交。小乐回忆，他需要在几分钟内浏览多条视频，他所在小组的审核员每天要审核至少300条1分钟-5分钟时长不等的视频。其它有些小组一天的任务是处理1000条时长在30分钟以上的视频。如果遇到节假日、舆情爆发，内容递增就要分时段加班处理。与此同时，后台也在检测审核员的效率，太低就会被警告。

　　据小乐介绍，审核员每日的一般工作时长为9小时，在岗时间由上级提前一个月排班，确保24小时都有人在。几乎每一个审核员都会轮到通宵班，加班则是常态。据小乐观察，她身边相熟的审核员有不少已经离职或计划离职，“离职率高，平台也在不断地招聘”。

　　吴丹君认为，在人工审核能力不足和机器审核算法模型不够完善的情况下，可能遗漏部分网暴言论，亦可能误伤部分正常言论。因此，平台需定期对对审核员进行培训，以提高其业务能力，也需定期审核、评估、验证算法机制机理、模型、数据和应用结果等，以完善机器审核算法模型。

　　探索更有效的治理模式

　　如何放大流量带来的商业收益，同时规避网暴带来的法律风险，是平台治理的挑战。

　　朱巍表示，网暴形式多样，比如用捏造虚假事实、移花接木、断章取义的方式引起舆情、引导舆论，进而引发网暴。在话题讨论中，网友也常形成对立的两派。“有对立就会有流量、有话题、甚至上热搜，就为平台带来了收益。”朱巍说。

　　中国传媒大学教授、人类命运共同体研究院副院长王四新也认为，网暴事件对平台的流量有直接影响，按照狭义的市场回报率来讲，流量越大，平台的收益越大。但网暴事件大肆发生，也会带来法律和监管风险。“因此平台需要在两者间保持平衡。”

　　沈河告诉财经E法，监管部门十分关注他所在平台的动向。一旦平台被发现有违规行为，最严重的情况下，会导致App被下架，违规成本很高。所以，“我们一般不会为了热度放松对网暴的治理。”他透露，有些娱乐属性的内容平台可能会选择冒一些风险。

　　对那些平台未能及时处理的问题，朱巍提到，中央网信办（国家互联网信息办公室）违法和不良信息举报中心设立的12377免费举报电话、举报网站、举报邮箱也是一种有效的救济途径。“但目前由于举报数量过多，12377也在超负荷运转，无法满足所有的举报需求。”朱巍透露。

　　张婷告诉财经E法，最初她向抖音举报时，平台仅对被举报账号封禁一个月。直到她通过12377邮箱举报违规行为，被举报账号才被永久封号。

　　什么才是对网暴更有效的监管模式？未来，平台的自我约束与相关部门的直接监管，又该如何产生合力？

　　北京师范大学互联网发展研究院院长助理吴沈括告诉财经E法，可参考美国和欧盟的网暴治理思路，美国的治理思路以加大侵权处罚为特点，强调对侵害者的处罚力度，以及平台的安全保护义务。欧盟侧重的则是对于特定信息内容、言论类型的约束，最具代表性的是2018年前后提出的反虚假消息行为守则，以及有关仇恨言论的相关法律法规。其中，反虚假消息行为守则强调的是“平台的自我约束”。

　　吴沈括认为，在全球范围内，针对特定网络言论内容的治理范围正在扩大，对平台责任的要求、对相关主体的处罚力度也在提升。目前，中国的网暴治理以《网络安全法》作为顶层设计，在技术要素、组织管理和在线内容三个层面建构规则内容，强调的是一种新的综合治理思路。在这个过程中，也吸收了国际的实践和经验，例如，技术阻断平台的保护义务和多层次的权利保障渠道。

　　中国社会科学院大学互联网法治研究中心执行主任刘晓春建议，未来的治理思路可以从对内容施暴者的防范，向受害者自力救济功能的提供上转换。通过一些声誉机制和信息披露机制，例如IP地址公开等措施，对网民进行引导。通过对网民的教育以及技术角度的功能设置上为网民赋能，提供及时的自我保护方式。

　　多位受访对象提到，中国现行法规对于网暴并无明确规制，那么，是否应该出台针对网暴的专门规定？对此，各方观点不一。

　　“只靠平台治理是不够的。”朱巍认为，每个人都拥有表达权，但在在网络空间匿名化的环境下，群体行为往往不理性，缺少道德和法律的约束。治理网暴的根本在于法要责众，区分情况追究参与者的责任。在立法层面，应当制定针对网暴的专项治理规定。

　　王四新则认为，对网暴立法并不现实。在他看来，网暴是一个细碎的问题，其产生的社会效果也难以量化。郑晶晶也提到，网暴是一个综合性概念，包含了多种不同的行为。“网暴更像是各种行为的汇总，很难进行法律上的定义。”

　　例如，在民事侵权行为中，网暴通常涉及“名誉权纠纷”“隐私权纠纷”“网络侵权责任纠纷”，程度较为严重的会涉及到刑事犯罪中的诽谤罪、侮辱罪、寻衅滋事罪等；涉及行政处罚的行为，《治安管理处罚法》《网络安全法》也有相关规定。

　　从实务角度，郑晶晶认为，网暴治理中亟待解决的现实问题，是在法律救济中更加明确从“刑事自诉”转“公诉”的衔接机制和操作细则。

　　“国家应当通过司法解释等进一步明确自诉转公诉的衔接规定，对法律实践进行明确指引。”郑晶晶建议。