文|豹变 赵若慈

编辑|刘杨

「核心提示」

10亿用户共享的网络空间内，暴力藏匿于各个角落。在这个人人皆可发声的时代，居于网络舆论场中心的社交平台，在防网暴方面做到了哪一步？为什么把施暴者关进“小黑屋”依然无法根除网暴？

三年前，25岁的B站UP主“卡夫卡松饼君”因肺癌离世，许多网友在她的微博下留言悼念，其中一条充满恶意的热评十分刺眼，只有短短五个字——“开香槟庆祝”。

松饼君生前经历了多次网暴，她的最后一条微博写道：“很多事情都是没轮到自己头上，所以能在旁边为虎作伥，叫嚷熏天。”

黄韩也有类似的感受。去年她从公司裸辞之后，在B站发布的第一条视频有5万多播放量。然而，随之而来的还有评论区和弹幕的质疑和攻击。黄韩对《豹变》表示，一条让她感到不舒服的评论，有200多人点赞。

2022年11月，中央网信办印发《关于切实加强网络暴力治理的通知》，要求网站平台建立网暴预警、保护、防扩散等治理机制。今年3月6日，抖音、快手、微博、小红书、B站、豆瓣、知乎等平台，集中发布了防网暴指南。

尽管各个平台一直在完善机制、整治网暴，但从结果来看，网暴事件依旧层出不穷。寻亲被生母拉黑的刘学州、晒和爷爷合照的“粉发女孩”郑灵华、开拖拉机自驾到西藏的旅行博主管管，都在遭遇大规模的网络攻击后离世。

据中国互联网络信息中心统计，截至2022年12月，我国网民规模达10.67亿，普及率达75.6%。

在这个人人皆可发声的时代，居于网络舆论场中心的社交平台，在防网暴方面做到了哪一步？在不断整治后，为什么网暴依旧反复出现？面对网络暴力，平台为何无法“保你平安”？

01 “微博上拉黑了800多个人”

“产品早期引入的都是和平台契合度较高的用户，所以氛围会更纯净，随着用户增长，必然会面临多元化带来的问题。”字节商业化部门的一位员工告诉《豹变》。

所谓的“多元化带来的问题”，就是由于不同圈层的人汇聚在一起，评论越来越难控制。

豆瓣官方运营账号会定期发送关于网暴治理的公告，3月13日发布的公告显示，一万多条信息被删除，大多是网暴内容，还有一些账号被阶段性禁言以及永久封号。

小满是微博的老用户，由于追星积累了一批粉丝。她告诉《豹变》：“最初玩微博的时候，大家一起交流，氛围很友好。这两年明显感受到‘没素质’的人很多，我已经拉黑了800多人。”

除了用户手动拉黑，现阶段，平台对于用户的保护做到了什么程度？

首先是举报和投诉功能。《豹变》测试了微博、B站、抖音、小红书、快手、豆瓣、知乎等主流社区APP，评论区都可以“举报”或“投诉”，并且都需要用户选择违规类型，测试结果如下图。

平台也提供了“一键防网暴”功能，用户可以选择在一段时间内屏蔽陌生人私信、评论，达到防止网暴的目的。

各个平台“一键防网暴”的持续时间不太一样，微博、知乎、小红书最多可设置7天，豆瓣最多14天，抖音最多30天，快手没有时长限制。

不过，平台的“一键防网暴”入口比较隐蔽，用户很难“一键”防护。比如，抖音进入“我”页面后，点击右上角“三道杠”图标，选择“更多功能”，找到抖音小安，进入界面后才能设置“一键防护”。

那么，在用户发布内容之前，平台是否有机会阻止网暴内容的出现？

2019 年，社交平台 Instagram 推出了一个防网暴的功能，通过AI检测用户发布的内容，如果内容在发布前被判定为带有攻击性，会对用户进行警告，提醒其三思而后行。

不过，这些看似完善的防网暴机制，发挥的作用并不大。2020年的一次网络暴力全球调查显示，骚扰攻击在Instagram上的比例依旧高达23%

“粉发女孩”郑灵华经历了网暴、照片视频被营销号盗用、污名化之后，生前一直没有停止维权，她还在社交平台上记录了自己的维权过程。在第一次维权记录中，她表示自己向抖音官方人工电联+邮件举报投诉，但是“抖音只有到达亿万粉丝才能禁止他人下载原创作品”。

在后续的维权记录中，她也提到，“抖音和百家号始终举报投诉无果”。

据了解，目前大部分平台主要有系统审核和人工审核两种方式。在抖音审核岗工作的苏珍告诉《豹变》：“系统的核查比例大约80%，比如触发了一些关键词，机器就可以识别出来，剩下一部分系统不能确定的，就交给人工复审。”

李敏曾经在今日头条负责审核优质内容，她表示，文章内容的审核大部分都是走系统审核，但触碰到一些关键词，以及账号量级比较大的时候，会进入到人工审核流程。

“实际上审核本身就是一个机械的工作，很多事情都慢慢交给算法、AI，并且会逐渐优化取代人工。”李敏告诉《豹变》，大概在2022年初，她这个岗位就被AI取代了。

然而，对于人工智能目前的发展水平而言，判断“网暴内容”的准确性还不够高。

苏珍表示：“一些拟声词、新生的侮辱性言论的代替词语、字母缩写等内容，人工智能还不能辨识。再就是‘阴阳怪气’的发言，系统根本听不懂。” 

曾经在网易直播CCtalk工作过的阿哲表示，即使是在审核岗位实习，上岗之前也要培训好几天。“会有专门的人讲PPT，通过案例说明哪些要做违禁处罚，以及如何根据违规程度来判定处罚的程度，还有价值观和道德观的培训。”

苏珍还记得，在面试时她被问到“对某个新闻事件怎么看”，入职前做了心理素质测试、人格测试、压力测试，经过入职培训，通过考试才能上岗。

正如阿哲所说：“说到底还是要根据审核员本人的判断。”

02 管理“小黑屋”的人，也身处小黑屋

“没违规的一举报一个准，违规的反而不管。”“我评论没一个脏字结果被举报，别人脏话连篇问候全家我举报没一个成功的，审核人员在干什么？”在某平台的官方帖子下面，时常可以看到类似的用户评论。

从用户角度来看，社区氛围似乎取决于“审核员”是否有所作为，事实果真如此吗？

在上海闵行区银山路科技园的字节大楼里，和其他部门敞亮高级的工区不同，审核部门的工区总是灯光昏暗，员工们面无表情地盯着一块块电脑屏幕。

审核员的工作，看似拥有“一键拉黑”的权利，但这些管理小黑屋的人，自己也身处于小黑屋之中。

《哈佛商业评论》的一篇文章中提到，审核员就像在扮演民俗中的“食罪者”角色：这种历史仪式的要旨是穷人在精神上承担死者的罪孽，往往通过吃掉摆放在尸体上的面包来换取金钱。

据苏珍介绍，大厂审核员主要分为三种：正式员工、外包员工和兼职。苏珍是字节的正式员工，在审核岗每个月能拿到1万到1万2左右的工资，但是除去一个月四五千的房租，剩下的钱仅够生活。

外包员工一般在三四线城市，据她了解，工资大约是四五千块钱，兼职员工则多劳多得。

“刚入职的时候，一切都聊得很好，工作时间也都很正常。但正式工作两周左右，就会排班次。我们是三班倒，白班朝九晚五，晚班从下午三点到凌晨两点，大夜班从十二点钟到早上七点。每个人每天都有KPI，我当时是一天审核200条视频，外加几千到一万条评论。”

长时间坐着加上熬夜，让苏珍的身体状况很差。她告诉《豹变》：“入职几个月就胖了十多斤，脸上疯狂长痘，每天处于压抑当中，经常半夜就会哭醒。”

这种痛苦更多来源于审核工作对于精神的摧残。苏珍表示：“大概做三天，就能明显感受到生理和心理的强烈不适。每天看的全都是极其负能量的东西，那些色情、暴力、血腥的视频要看，评论里无缘无故辱骂、攻击他人的言语都要审。”

“最让我觉得痛苦的是，过去二十几年，我们生活在一个相对安全、善良的现实环境里，干了审核员之后，我发现，网络上竟然会有那么多的恶意。现在我会觉得坏人就藏在身边，很多人可能生活中是善良的，他会去照顾小孩、捐款，但是不耽误他在网络上辱骂他人。”

苏珍表示，网暴的比例在视频里大概能占到百分之十几，在评论里非常多，大概占到百分之六七十。

她说：“干过审核员之后，完全可以理解那些因为网暴而自杀的受害者们的心态，因为这些谩骂绝对超出了一个人可以承受的极限，甚至网友看到的都是审核之后放出来的一小部分。那些没放出来的污言秽语可能是大家看到的几十倍，并且这是一个持续性的攻击。”

另外，除了工作本身，在每天接收负能量的同时，苏珍还需要完成周报。“心理状态都这么差了，周报里却不能抱怨，只能写自己有多热爱这份工作。每天工作内容都一样，却还要写工作计划。”

苏珍表示，这种工作状态下精力确实是不够的，她也承认有时候免不了会消极怠工，这也是用户抱怨“审核人员不管用”的部分原因。

另外，除了这些精神和心理上的巨大压力，由于审核岗位工资低、没什么晋升空间，这个岗位的平均生命周期只有三到六个月。“很像小作坊里流水线上的女工，没有任何未来。”苏珍感叹道。

然而，随着网民数量的增长以及各个平台对于活跃用户的增长需求，需要的审核员也越来越多。苏珍表示，越来越多的审核工作都被外包出去，因为这样能给公司省下一大笔资金。

但这似乎形成了一种恶性循环，审核人员的心理、生理状况由于大量的消极内容受到影响，导致消极怠工、人员流动大，而更多的用户加入让互联网环境更为复杂，审核需求量更大，但外包出去审核人员的待遇却又在下降。

在这种情况下，“把施暴者关进小黑屋就能阻止网暴”似乎成了一个伪命题。

苏珍认为，以几万个审核员的力量去审核上亿网民发出的内容是有限的。从平台角度来看，不仅要加大处罚力度、提高评论门槛，完善防护功能，人工智能需要继续学习，而审核人员的现状也需要被看到。

03 为什么平台阻止不了网暴？

中国政法大学教授罗翔老师曾在文章中提到“群体极化”现象，这也是互联网时代网暴滋生的深层原因：

“网络世界中，我们的情绪极容易就被极端意见挑动，也越来越倾向对他者进行非黑即白的评判；而这种情绪和判断，又会像利刃一样刺向身处舆论漩涡的个人。”

豆瓣用户王然告诉《豹变》，自己曾在豆瓣上写过一篇有关性别议题的影评，没想到引来很多用户在评论区对骂。“由于观点不同，两个用户能在评论区对骂50多条。有的用户在评论区发几百字来反对你的观点，有人甚至没看完文章就直接侮辱你。”

2021年8月，《科学进展》杂志发布了耶鲁大学的一项研究，研究人员通过对推特用户的长期跟踪，发现社交媒体的激励机制正在促进愤怒的表达。

这就是所谓的“引流”，即通过各种方法吸引流量，而最直接的方法就是发布能够引发讨论的内容，平台的算法会根据浏览量、点赞量、评论量等数据进一步“推荐”该内容。

正如王然表示，尽管她文章下面评论区和转发里的不友好言论非常多，但这也是她所有文章里热度最高的一篇，有600多条评论，将近2000个点赞和300多收藏，并且热度持续了好几周，甚至一年之后还有人留言。

2020年，导演毕志飞也曾在微博晒出截图，“大量三观不正、努力拉开话题转移注意力的留言”给他的微博带来2.1亿阅读量，广告收益约3万元。

实际上，当前的社交、视频、信息平台都是以广告收入作为主要的商业模式，日活跃用户、月活跃用户是各个平台进一步商业化的基础。所以，对平台而言，流量与用户都是获取利益的工具，这导致平台上的内容大多以流量为导向。

也就是说，社交平台上的情绪与争议，归根到底都是流量与利益。

根据上文审核工作人员提到的网暴内容比例，如果对有网暴行为的账号完全禁言，那么平台的用户留存可想而知。

另一方面，在网友们已经习惯了随意表达的网络环境后，过度限制发言必然会引起不满。

最典型的例子是豆瓣，王然最近发现，自己备受争议的那条影评下面的不友好言论已经消失了，评论里的很多账号被注销，一些评论内容也看不到了。

由于审核时间过长，另一位豆瓣用户小木最近每发布一条动态，都会记录下审核的时间，短则两小时，长则一两天。还有用户表示，自己的豆瓣账号因为违规，到现在评论功能都是被折叠的。

然而，大部分平台并不会因为某个账号“犯一次错”就将其永久关进小黑屋。

《豹变》发现，各平台只是确定了“违规会处罚”，但如何处罚并没有详细说明，通常使用的表述是“将视情况对违规内容或账号采取以下处置”，以及“如果违反公约，平台有权对用户的账号进行封禁、禁言处罚或暂停账号部分或全部服务”。

也有平台使用了信用分的方式来管理用户，比如微博、知乎。

根据微博社区公约的细则，用户初始信用分为120分，可以通过在线答题等方式加分。在扣分方面，发生网暴行为，一般扣3到5分，信用历史分低于0分，用户账号会被禁言。计算下来，一个信用分满分的微博账号，发生大约40次网暴行为才会被封号。

苏珍也告诉《豹变》：“一个抖音账号发布违规信息会给两次机会，第三次一般会把这个账号封禁7到15天，如果这种情况出现两次以上，也就是到第三次的时候，就会触发危险警报，这时候大概率会封号。”这是否意味着，一个抖音账号或许可以拥有9次违规的“机会”。

从平台角度看，如何平衡商业利益和用户体验一直是个难题，但保证用户安全却是最基本的问题。也许，面对网暴，稍显“无能为力”的平台，仍然需要承担起更多的责任。

（应受访者要求，文中人物均为化名）