一些見不得光的惡意將一個(gè) 16 歲的少年逼上了絕路。

Carson Bride 在自殺前搜索的最后一個(gè)詞條是「 如何顯示 Yolo 用戶名」。

Yolo 是一個(gè)匿名社交應(yīng)用，因?yàn)樗脑O(shè)置，使用者永遠(yuǎn)無法知道背后發(fā)送消息的人是誰。可以說這是一個(gè)完全不受拘束的神秘空間。而當(dāng)它背后充斥著惡意的時(shí)候，鋪天蓋地的信息也會(huì)讓你有一種不被世界所容的錯(cuò)覺。

Yolo 是一個(gè)匿名應(yīng)用

Carson 在連續(xù)數(shù)月收到來自 Yolo 的匿名負(fù)面信息后選擇結(jié)束自己的生命。他的母親并沒有通過媒體向各個(gè)平臺(tái)施壓，要求他們公示對(duì)兒子進(jìn)行長期辱罵、逼迫之人的名單，而是起訴了兒子使用的社交平臺(tái) Snap、Yolo、LMK。在她看來，這些公司沒有遵守自己的服務(wù)條款和政策，違反了消費(fèi)者保護(hù)法，且助長了欺凌行為。

這就是故事的結(jié)局，一個(gè)母親因?yàn)閮鹤拥淖詺⑵鹪V了網(wǎng)暴者借之宣泄惡意的平臺(tái)，而非平臺(tái)背后的人。

這次，平臺(tái)不再隱身

陽 光照在海面，我也歸于大海。 從這里結(jié)束自己的一生，也帶走了這個(gè)世界上最美的風(fēng)景。

尋親男孩劉學(xué)州最后在微博訴說了自己被生父母出賣、養(yǎng)父母身亡、遭受校園欺凌猥褻以及被網(wǎng)暴的一生；確診新冠病毒的周女士個(gè)人信息在網(wǎng)絡(luò)被瘋傳，不少人通過公眾平臺(tái)嘲諷她「千里送毒」；江歌的母親在維權(quán)過程中遭到了部分網(wǎng)友的辱罵，她 5 年起訴了 10 名網(wǎng)友。

網(wǎng)絡(luò)暴力已經(jīng)不是個(gè)別問題. 圖片來自：comminit

以往發(fā)生網(wǎng)暴事件，總有人出現(xiàn)呼吁真善美，讓每個(gè)人規(guī)范自己的行為不要成為「壓倒駱駝的最后一根稻草」。個(gè)體的行為在網(wǎng)暴事件中被反復(fù)的提及，平臺(tái)固然會(huì)受到批評(píng)，但被指責(zé)的更多是通過平臺(tái)隱藏自己的人。

只是越來越多人在拿起法律武器反擊時(shí)不僅針對(duì)背后的施暴者，也開始要求平臺(tái)能發(fā)揮更大的作用。Carson 的母親并不是孤例，隱藏在平臺(tái)背后的人固然可恨，但沒有及時(shí)保護(hù)用戶、制止暴行的平臺(tái)同樣不能獨(dú)善其身。

一位法學(xué)從業(yè)者表示，面對(duì)網(wǎng)絡(luò)暴力，平臺(tái)和自然人都需要承擔(dān)應(yīng)有的責(zé)任。《刑法》就規(guī)定，網(wǎng)絡(luò)暴力行為涉嫌誹謗罪和侮辱罪，可處以 3 年以下有期徒刑、拘役、管制或者剝奪政治權(quán)利。只是落在一個(gè)個(gè)具體的案例中，網(wǎng)暴行為導(dǎo)致的「情節(jié)嚴(yán)重」的情況都較難確定。

圖片來自：rsearch blog

平臺(tái)也有《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》做出了限制，不得制作發(fā)布侮辱或誹謗他人，侵害他人名譽(yù)、隱私和其他合法權(quán)益的內(nèi)容；應(yīng)當(dāng)采取措施防范、抵制制作展現(xiàn)血腥、驚悚、殘忍等致人身心不適的內(nèi)容。

如果只是談到網(wǎng)絡(luò)暴力的提前預(yù)防和保護(hù)，那從平臺(tái)和用戶的角度來說，針對(duì)平臺(tái)去做產(chǎn)品的優(yōu)化升級(jí)也要比限制用戶來得更容易。畢竟用戶千千萬，而平臺(tái)就只有那幾個(gè)。所以不管是政策的要求還是平臺(tái)自己的迭代，我們都能看到越來越多平臺(tái)在主動(dòng)做出改變。

各顯身手，制網(wǎng)暴

中國互聯(lián)網(wǎng)平臺(tái)對(duì)網(wǎng)暴越發(fā)關(guān)注是從今年開始的。

2022 年 1 月開展的清朗行動(dòng)中列出了重點(diǎn)整治的五個(gè)方面，其中首先被提及的就是「網(wǎng)絡(luò)暴力、散播謠言等問題」。在這個(gè)行動(dòng)后，越來越多平臺(tái)上線了有著不同命名的防網(wǎng)暴功能或模式。

網(wǎng)暴來自屏幕背后看不見的手. 圖片來自：Mingyongcheng

反應(yīng)最快的是微博，1 月 24 日，微博在回應(yīng)劉學(xué)州事件時(shí)就表示平臺(tái)擬上線一鍵開啟「防暴模式」，用戶可以在隱私設(shè)置里對(duì)評(píng)論博文和私信的人加以限制；還可以開啟「評(píng)論防火墻」，由系統(tǒng)自動(dòng)屏蔽人身攻擊和惡意騷擾的內(nèi)容。

微博在 3 月 11 日就正式上線了這一模式，相較于其他平臺(tái)，微博這一模式最大的不同在于「將綜合考慮評(píng)論、私信等各個(gè)場景的不同行為特征，提前發(fā)現(xiàn)潛在被攻擊用戶，做好前置環(huán)節(jié)的預(yù)警提示，引導(dǎo)高風(fēng)險(xiǎn)用戶主動(dòng)開啟一鍵防護(hù)功能，進(jìn)一步減少和預(yù)防用戶遭受言論攻擊的情況。」

微博一月底曾預(yù)告「防暴模式」

平臺(tái)：微博 功能名稱：一鍵防護(hù) 上線日期：3 月 11 日 防護(hù)日期：7 天 主要功能：7 天內(nèi)不接收未關(guān)注人的私信，未關(guān)注人將無法評(píng)論你的微博，未關(guān)注人轉(zhuǎn)發(fā)你微博的記錄將不會(huì)展示在轉(zhuǎn)發(fā)列表中 打開方式：「我」-「隱私設(shè)置」-「一鍵防護(hù)」；引導(dǎo)高風(fēng)險(xiǎn)用戶主動(dòng)開啟

一鍵防護(hù)開啟界面

和微博為用戶構(gòu)建防護(hù)墻不同，抖音還會(huì)主動(dòng)出擊，向那些內(nèi)容發(fā)布者示警。用戶在評(píng)論區(qū)發(fā)布的違規(guī)/低質(zhì)評(píng)論會(huì)被模型匹配校驗(yàn)，收到評(píng)論彈窗「該評(píng)論可能對(duì)他人造成負(fù)面影響」，引導(dǎo)用戶重新編輯。若用戶選擇繼續(xù)發(fā)布，則評(píng)論也會(huì)不公開可見，進(jìn)入審核環(huán)節(jié)內(nèi)合規(guī)才能放出。

抖音將自己稱為首個(gè)上線「評(píng)論發(fā)文警示」的平臺(tái)

平臺(tái)：抖音 功能名稱：發(fā)文警示 上線日期：2 月 23 日 防護(hù)日期：持續(xù) 主要功能：系統(tǒng)模型判定已發(fā)送的評(píng)論存在問題，則會(huì)推送彈窗提醒，建議發(fā)送者重新編輯，去除不當(dāng)言論；若發(fā)送者堅(jiān)持發(fā)送，則該條評(píng)論不會(huì)在評(píng)論區(qū)出現(xiàn) 打開方式：平臺(tái)模型自動(dòng)校驗(yàn)

抖音的「評(píng)論發(fā)文警示」功能

緊接著的是豆瓣，它對(duì)于用戶在平臺(tái)過往內(nèi)容的保護(hù)更為詳盡。不僅用戶無法回復(fù)內(nèi)容、收藏內(nèi)容，你未關(guān)注的人也無法查看你的個(gè)人主頁，無法查看往期內(nèi)容，能夠有效隔絕潛在的「挖墳」行為。

平臺(tái)：豆瓣 功能名稱：應(yīng)急防護(hù)模式 上線日期：3 月 25 日 防護(hù)日期：3 天、7 天、14 天 主要功能：隔離窺視（僅關(guān)注者可查看個(gè)人主頁內(nèi)容）；預(yù)防騷擾（陌生人未經(jīng)同意無法私信，非友善評(píng)論自動(dòng)隱藏）；控制傳播（僅關(guān)注人可回復(fù)內(nèi)容，可禁止該內(nèi)容的轉(zhuǎn)發(fā)收藏） 打開方式：「設(shè)置」-「隱私設(shè)置」-「應(yīng)急防護(hù)模式」

應(yīng)急防護(hù)模式可選擇防護(hù)持續(xù)時(shí)間

這是目前已經(jīng)上線了防治網(wǎng)暴整合方案的平臺(tái)。其中很多功能可能是原本應(yīng)用就已有的功能，例如不同平臺(tái)均可設(shè)置禁止關(guān)注 X 天內(nèi)用戶評(píng)論、限制轉(zhuǎn)發(fā)等等。

知乎就有強(qiáng)制關(guān)閉評(píng)論、強(qiáng)制開啟評(píng)論預(yù)審等功能，系統(tǒng) + 人工雙重安全評(píng)估的模式在一定程度上可以過濾一些攻擊性內(nèi)容；B 站也有私信智能攔截、私信垃圾箱、防騷擾模式幫用戶隔絕不良信息；小紅書、快手等平臺(tái)也能對(duì)互動(dòng)、關(guān)系進(jìn)行更多的限制和選擇。

但平臺(tái)能夠提供一個(gè)完整的解決方案依舊是不同的。

B 站這樣的非社交平臺(tái)也有私信智能攔截的功能

讓用戶打開應(yīng)急的方案

豆瓣對(duì)愛范兒表示，他們?cè)谠O(shè)計(jì)「應(yīng)急防護(hù)模式」的功能時(shí)，是對(duì)用戶遭受網(wǎng)暴、隱私威脅一般路徑的觀察來進(jìn)行規(guī)劃的。

常見的網(wǎng)絡(luò)暴力包括言語攻擊、人身侮辱、人肉搜索、傳播謠言等，那豆瓣就選擇通過保護(hù)受害者的個(gè)人歷史和隱私（隔絕窺視）、減少直接的言論攻擊（預(yù)防騷擾）、降低二次傳播的幾率（控制傳播）這幾方面去重點(diǎn)防護(hù)，切斷慣常網(wǎng)暴者對(duì)受害者信息收集和信息轟炸的鏈路。

豆瓣

打開這個(gè)模式，意味著他人無法查看你過去在社交網(wǎng)絡(luò)留下的只言片語，也沒辦法根據(jù)你過去的互聯(lián)網(wǎng)歷史編造、再創(chuàng)作出侮辱性的內(nèi)容。同時(shí)，那些最為惡毒的言語攻擊也無法展現(xiàn)在你面前，私信、評(píng)論、轉(zhuǎn)發(fā)的道路被堵住了，沒人可以隔著屏幕給你的心扎上一刀。

人人都在說互聯(lián)網(wǎng)的互聯(lián)互通，但每一個(gè)平臺(tái)的防網(wǎng)暴模式反而構(gòu)建了一間難得的安全屋。用戶在短時(shí)間內(nèi)看到的內(nèi)容都是經(jīng)過處理審核的，惡語無法傷人，只能在屏幕后宣泄自己的惡意，而這些惡意也會(huì)受到懲罰。

已經(jīng)有了越來越多的受害者通過訴訟維護(hù)了自己的合法權(quán)益，讓網(wǎng)暴者賠償、道歉。但訴訟的高成本和一句脫口而出的惡意似乎并不相抵，并非所有的受害者都愿意花時(shí)間精力去做這件事。平臺(tái)在這個(gè)階段也能發(fā)揮作用，不管是禁言處罰用戶，還是給用戶進(jìn)行警告，平臺(tái)干預(yù)的成本是更低的。

被造謠出軌的受害者就選擇通過訴訟維護(hù)自身權(quán)益

微博在上線「一鍵防護(hù)」模式外，就透露了平臺(tái)正在開發(fā)建設(shè)行為監(jiān)測模型的消息。有了模型的加持，平臺(tái)可以通過分析用戶不友善評(píng)論、舉報(bào)數(shù)量頻次等數(shù)據(jù)，準(zhǔn)確識(shí)別網(wǎng)暴苗頭，從機(jī)制上、源頭上來解決問題。

在清理違規(guī)信息的同時(shí)，我們也會(huì)依據(jù)不同行為性質(zhì)，采取階梯式處置：針對(duì)參與網(wǎng)絡(luò)暴力的賬號(hào)，采取批量禁言、限制功能等處置，對(duì)首發(fā)、多發(fā)、煽動(dòng)發(fā)布網(wǎng)暴信息的賬號(hào)，采取永久禁言等措施，對(duì)涉嫌違法犯罪的，移交有關(guān)部門依法追究法律責(zé)任。

微博

只是功能跟上了，宣傳也得跟上。一位曾經(jīng)因?yàn)橐粭l內(nèi)容問題而收到網(wǎng)友私信辱罵的人表示，她認(rèn)為這個(gè)功能管用，但也質(zhì)疑用戶會(huì)不會(huì)主動(dòng)打開它。

「其實(shí)專門私信罵我的就三個(gè)，但我都受不了，忍不住去看有沒有支持的言論，看到其他人也在說我有問題就很 emo，那幾天都很不爽。」提及自身經(jīng)歷，這位曾經(jīng)接受過負(fù)面信息沖擊的用戶也提出了自己的質(zhì)疑：「所以我覺得還有一個(gè)很重要的問題是，他們（用戶）能不能知道這個(gè)功能，愿不愿意不看其他人的評(píng)論，打開這個(gè)功能？」

在防網(wǎng)暴模式上線沒多久的今天，功能普及率和用戶主動(dòng)打開的意愿都屬于未知。在這種時(shí)候，像微博、抖音這樣可以主動(dòng)出擊的平臺(tái)也能發(fā)揮自己的作用，前者引導(dǎo)用戶打開這一功能，后者主動(dòng)為用戶在評(píng)論區(qū)構(gòu)建一堵安全墻，讓惡語無法攻破。微博就對(duì)愛范兒表示：

我們也正在開發(fā)完善系統(tǒng)自動(dòng)提醒機(jī)制，對(duì)高風(fēng)險(xiǎn)用戶做出主動(dòng)提醒，引導(dǎo)用戶開啟，進(jìn)一步減少和預(yù)防用戶遭受言論攻擊的情況。

圖片來自：Omidyar Network

從為用戶提供隱私設(shè)置的選擇，到為防治網(wǎng)暴建立一套系統(tǒng)的升級(jí)方案，再通過宣傳引導(dǎo)用戶使用這一功能、了解這一功能，平臺(tái)的變化經(jīng)過了很多年。但這依舊可能是開始，而非結(jié)束，每一個(gè)平臺(tái)在運(yùn)營過程中也在收集用戶的反饋，等待下一次的升級(jí)和迭代。

豆瓣也對(duì)愛范兒表示：

這幾個(gè)方向其實(shí)是對(duì)目前防護(hù)模式策略的一個(gè)概括，但并不是對(duì)于網(wǎng)絡(luò)暴力治理措施的窮盡。

本文來自微信公眾號(hào) “愛范兒”（ID：ifanr），作者：冷思真，36氪經(jīng)授權(quán)發(fā)布。