網暴背後，平台的算法與流量推手

近幾年，因不堪網暴自殺的案例已發生多起，如「武漢小學生母親被網暴墜亡案」「粉色頭髮女孩被網暴自殺案」「上海女子打賞騎手200元被網暴自殺案」等，這些因網暴產生的悲劇事件引發社會討論的同時，如何整治網暴，維護公眾合法權益成為亟須解決的問題。

網暴，現在已成為一個社會問題，而其成因有著多方面的因素。有專家認為，各網絡平台依靠海量用戶、巨大流量來實現收益，這也成為網暴產生的重要原因。當一個事件引起熱議，非理性、情緒化的評論會招來人們的關注，而這條評論流量越高，越會被平台的算法機制所推薦、置頂，從而引發更多的流量和注意力，形成一個惡性循環。

近年來，我國多部門就網暴問題多次發佈通知、徵求意見稿等，伴隨立法、司法和執法的完善，治理網暴的平台責任不斷加重。

而對相關平台方來說，在既要「大流量」又要「正能量」的要求下，治理網暴，依然會有諸多困難和不足。

一些平台成為網暴集散地

2022年7月，中國傳媒大學人類命運共同體研究院發佈的《網絡暴力現象治理報告》(以下簡稱《報告》)提到，一些以用戶生產內容為核心的社交網絡平台具備開放性強、交互強的特點，成為網絡暴力新的集散地，「如果社交媒體、網絡社區、信息平台和新聞的留言互動性和話題性較強，就很容易引發不同觀點的爭論並形成衝突」。

某社交網絡平台負責人曾表示，在互聯網平台，發佈評論、私信是公眾對社會熱點事件和事件人物表達意見最主要的方式和場景。但同時，因發佈成本較低、傳播效率較高，也容易產生騷擾、侮辱謾罵甚至誹謗造謠等網暴行為。在該互聯網平台，日常被舉報並處理的評論中，「謾罵，人身攻擊」佔比32.79%。

另外，網暴一旦爆發，還極易在多個平台流轉，有些網暴行為還從對當事人的口誅筆伐蔓延至其周邊「人」或「物」。比如，在唐山打人事件中，疑似犯罪嫌疑人的子女和朋友，甚至相關的服裝品牌，均遭遇「聲討」和「嘲諷」。

吉林大學法學院助理研究員朱笑延長期研究網絡犯罪領域。近年來多起大型網暴事件引起朱笑延的學術敏感。他表示，一系列的事件都共同導向了相同的結果，說明社交媒體平台上的交往互動機制可能存在一些畸形的、需要矯正的地方。

朱笑延說，根據他的研究發現，網絡暴力信息的大面積擴散並非網絡空間的偶然現象，而是在一定程度上受到平台流量化機制的隱性推動。在流量至上的商業變現模式下，社交媒體平台的評論區通常會將一些點讚、回覆數量較高的言論優先呈現，但是這些數據反映比較好的評論，多是一些具有爭議性或是情緒化很強的言論。

而網民在瀏覽這類帖子時，會優先看到這些極端化言論，「而且一旦看到偏激的言論都能得到大量認同點讚，網民們的情緒或多或少會受影響。」朱笑延說。

朱笑延舉例，在「上海女子打賞騎手200元被網暴案」中，平台將「善良這麼廉價嗎」「雙十一快遞買了100多個，結果給人家200元」等獲得上百條點讚的情緒化評論置頂宣傳，並持續獲得點讚、評論、轉發的傳播效果，而為女子聲援的評論內容和理性發言逐漸沉底。

朱笑延認為，拿近期的「胖貓事件」來說，可以側面看到社交媒體平台的討論機制對這場網暴輿情的潛在影響。在事件起初，「胖貓」姐姐劉某帶著網暴譚某的主觀目的，在抖音等平台購買流量擴散傳播提升熱度，引發網民群體關注。平台流量化的內容加工機制，客觀上助推了網暴輿情熱度的快速上漲。而平台連接性極強的客觀屬性，又使群體性、極端性的輿論審判變得「十分便利」。據警情通報顯示，在網暴輿情熱度上漲後，網民又通過各類平台對譚某進行人肉搜索、人身威脅、私信辱罵。這些具有網絡暴力性質的極端化言論，已經明顯超出了圍繞胖貓自殺事件正常的討論範疇和意見交鋒。

另一個流量聚集地是熱搜。今年兩會期間，全國政協委員、遼寧省檢察院副檢察長賈海洋提到，一些不當的熱搜榜話題存在擠佔公共資源、擾亂網絡公共秩序等問題。上述《報告》也提到，微博「熱搜」將當日公眾關注的話題頂上榜首，引發更大範圍的關注、轉發和討論。當某一群體或者個人想要發起網暴時，就會想方設法登上熱搜榜，引起關注和論戰。

朱笑延說，除了被流量裹挾，平台本身具備的靶向化機制、內容生產機制也成為網暴產生的條件。

為了提升用戶黏性、放大流量收益，平台對於用戶偏好或關注的話題較為敏感，並通過算法機制向用戶精準推送類似的內容，這導致用戶陷入「只看到自己想看到的」信息繭房中。

朱笑延說，長期接觸平台的同質化推薦，會使用戶降低對陌生話題、不同群體的包容與認同。當看到與自身價值立場、情感寄託不符的內容時，就容易產生語言暴力傾向。

比如「男女對立」這一話題在不同平台就有不同的立場。在以男性用戶為主的某社交網絡平台，該平台對「出軌女」「高彩禮」「女拳」等話題的持續打造，雖然能夠博得男性用戶的情感認同，但也容易激發男性用戶對女性群體的偏見和歧視，從而在兩性話題中滋生「厭女」的性別語言暴力。而在女性用戶佔比高的某社交網絡平台上，對「鳳凰男」、「渣男」等標籤話題的持續運營同樣能吸引大量女性用戶討論。但也容易降低女性用戶對涉男性新聞的容忍閾值，造成「恐男」的情緒漸漸蔓延。

另外，很多平台落實了對用戶後台實名製的要求，但它本質上「營造了讓大家放心大膽發表言論的生態。」朱笑延表示，而在一些實名製落實不健全的平台中，用戶會註冊小號，小號的隱匿性會讓用戶在發言時明確割裂或淡忘自身的社會責任感和相應的法律責任，更容易產生偏激性或情緒化發言。

國家對平台的治理和監管

2023年9月，中國人民大學民商事法律科學研究中心執行主任、教授石佳友接受第一財經日報採訪時提到，他一直認為平台治理是網暴問題的「牛鼻子」。「從這個意義上來說，沒有平台就沒有網絡暴力，網暴監管和執法應聚焦平台的不作為，以及利用算法、借網絡暴力事件實施惡意營銷炒作的行為。」

近年來，為防治網暴，中央網信辦、兩高一部等相關部門出台多個指導意見和徵求意見稿。伴隨立法、司法和執法的完善，治理網暴的平台責任不斷加重。

2022年4月和11月，中央網信辦先後部署開展「清朗·網絡暴力專項治理行動」、印發《關於切實加強網絡暴力治理的通知》，該通知明確互聯網平台對於網絡暴力的治理需從健全網暴預警預防機制、強化網暴當事人保護、嚴防網暴信息傳播擴散、依法從嚴處置處罰四方面入手。

2023年6月，最高人民法院、最高人民檢察院、公安部三部門起草了《關於依法懲治網絡暴力違法犯罪的指導意見(徵求意見稿)》。其中明確，對網絡平台「不作為」而導致網絡暴力行為損害社會公共利益的，人民檢察院可以依法向人民法院提起公益訴訟。

2023年7月初，國家互聯網信息辦公室發佈《網絡暴力信息治理規定(徵求意見稿)》(下稱「徵求意見稿」)，其中明確提出「對網絡信息服務提供者，因處置不及時造成公民生命健康安全等嚴重後果的，處十萬元以上二十萬元以下罰款，可責令暫停信息更新」。

徵求意見稿還明確網絡平台有事前預防網暴的義務。其中表明，網絡信息服務提供者應當建立健全網絡暴力信息預警模型，綜合考慮事件類別、針對主體、參與人數、信息內容、發佈頻次、環節場景、舉報投訴等維度，及時發現預警網絡暴力風險。

朱笑延說，意見稿從事前預警、事中處置、被害人保護三個層面為社交媒體平台搭建了網暴全方位的治理框架。此外，網信辦還接連發佈了《關於加強自媒體管理的通知》和《關於進一步加強網絡侵權信息舉報工作的指導意見》，這兩個文件同樣提到平台對於自媒體發佈信息內容的管控以及對於網暴受害者被侵權後的舉報響應。「這說明我國法律法規對網暴中平台治理的責任和義務，呈現內容逐步細化，主體責任逐步強化的基本走向。」

朱笑延表示，隨著我國近些年關於網絡空間立法以及網絡信息內容治理的不斷成熟，國家對平台的治理和監管也是一個逐步深化的過程。

平台治理的難點

遏製網絡暴力，既要個體約束自我，也要網絡平台加強監管引導，守住道德底線，劃定法律紅線。記者瞭解到，目前各社交網絡平台針對網暴都進行了打擊和干預處置。

新浪微博相關負責人表示，微博響應中央網信辦的「清朗・網絡戾氣整治」專項行動，每週新浪微博「微博管理員」都會公佈突出問題的治理情況，還會公佈一些典型處置案例。

2023年10月，微博管理員發文稱，在「4歲女童海灘走失」事件中，有少部分用戶對當事人親屬發佈人身攻擊、侮辱謾罵等不利於搜救工作開展的極端言論。站方共清理人身攻擊、網絡暴力等違規內容1258條，對175個違規帳號予以階段性禁言處置。

微博相關負責人表示，現在微博對網暴的治理已經常態化持續進行，後續會一直加強管理。在微博社區處理中心的舉報處理大廳中，關於人身攻擊的舉報一直在更新，舉報信息經過微博判定構成「發佈人身攻擊信息」的行為，會對被舉報帳號進行處理。目前已受理人身攻擊舉報269萬起，完成判定265萬起。

小紅書相關負責人表示，2023年中旬，小紅書自研的防網暴工具小紅盾上線，為用戶提供了事前預警及事中防護的保護措施。

該負責人介紹，在網暴發生初期，用戶多次舉報被攻擊、被辱罵，以及用戶遭受大量不友善評論時，平台會主動發私信引導他們使用小紅盾，啟動一鍵防護等功能。開啟後只會接收到關注的人的評論、彈幕、@消息、私信，陌生人不能搜索到用戶，「阻止不友善的內容繼續產生。」

該負責人介紹，網暴發生中期，用戶可以將被網暴的線索上報，小紅盾支持批量投訴不友善的內容和用戶，經過平台人工核實確有網暴發生後，會對施暴用戶進行處理。這樣的功能可以降低網暴受害者投訴的難度。「我們希望小紅盾這一工具可以讓用戶意識到，被網暴後不要躲起來，要用這些手段去幫助自己。」

抖音相關負責人介紹，從2017年開始，抖音開始專人關注和處理平台上出現的侮辱謾罵現象。2022年6月，抖音上線了屏蔽和舉報不當評論、私信臨時對話、一鍵防暴等新功能。加上之前的發文警示、正向引導、粉絲管理等，2022年以來，抖音已經上線了12項治理網暴的功能。

針對有不當言論的用戶，抖音會通過站內信、彈窗、智能語音呼叫等形式提醒其理性發言。過去一年，抖音共對85.8萬個賬戶進行了此項提醒。另外，針對被網暴風險非常高的用戶，平台今年還新增了人工外呼的流程，一共外呼了891個帳號。

雖然付出了大量努力，但一些受訪的社交網絡平台人士也坦承，治理網暴，依然會有諸多困難和不足。首先，在不同場景、人際關係、個人主觀感受下，「網暴」與「非網暴」往往難以明確區分。其次，對不同程度的網暴言行，處罰措施也各不相同。比如詛咒、攻擊、曝光、嘲諷和挑釁的嚴重程度怎樣區分，對帳號進行無限期封禁，還是短期禁言，或者只是刪除評論，都需要按照語言暴力程度詳細評估。

還有些網暴內容利用諧音、縮寫發佈帶有挑釁、譏諷意味的言論或者p圖，介於批評與網暴之間的內容，機器均難以識別。

網暴發生時，網暴信息快速且大量的聚集，平台幹預的速度難有量化標準。比如用戶收到惡評，平台如果對他進行保護，是該在第一條還是在第1000條，還是在第500條?很難去製定一個明確的數字標準。而且網暴場景很多發生在私信交流上，平台不能幹涉用戶隱私，只能提供工具給用戶。

因此，平台處理快速聚集的網暴時，難以兼顧「快速」與「精準」，一些難以避免的錯審、漏審也容易引發公眾不滿。

「除此之外，不同用戶對不同處置結果的反應也不同，覺得平台處置或輕或重」，某社交網絡平台負責人表示。重大事件中，不斷反轉且難辨真偽的新信息，也會增加治理難度。這位負責人透露，唐山事件中，各平台先後出現了200多個「嫌疑人」的帳號信息，「可嫌疑人一共只有9名」，這位負責人表示，「平台難以甄別這些帳號的真偽，這大大增加了平台的處理難度。

另外，當重大事件發生時，短期易出現海量網暴評論。唐山打人事件發生12個小時內，某平台收到評論接近300萬條。假設機器初步審核200萬條，剩下100萬條評論需要400名審核員連續高強度不間斷工作12小時才能完成，這也無形中增加了審核的難度。

中國傳媒大學教授王四新曾分析目前治理網暴的難點。他表示，目前行業內缺乏相關法律法規，立法層面尚存在一定空白;標準上存在缺失，行業處置標準不統一，各平台尺度不同，處置缺乏一定依據常被投訴;當需要網絡執法機構和當地執法機構協同執法時，協同策略還不完善;網暴治理過程中同時涉及公開數據和私有數據，平台不能主動監測和分析用戶私人信息。

專家學者呼籲立法，壓實平台責任

「平台應該是網絡暴力發現和治理的前沿‘哨兵’，是網絡暴力的發現者和治理措施的執行者。」中國政法大學數據法治研究院教授張淩寒此前在接受民主與法製時報採訪時表示。她提到，網絡暴力的認定仍需有明確的法律規範予以指引，平台可依法從嚴處置處罰網暴相關帳號，嚴處借網暴惡意營銷炒作等行為。

張淩寒認為，現有的法律法規應及時予以明確認定規則，或者在這方面給予平台足夠的信任。而對過於追逐流量、網暴信息紮堆、防範機制不健全、舉報受理處置不及時以及造成惡劣後果的網站平台，應依法予以問責。

中國政法大學傳播法研究中心副主任朱巍提到，很多網暴都是從平台熱搜、熱榜而來的。他建議，對於熱搜、熱榜，平台應該有更嚴格的審核機制，既有算法機制的調控，同時又有人工審核把關。「不要什麼內容有流量都可以上熱搜。」

朱笑延說，平台是依靠流量、內容討論來獲得運營收益，很難去說「流量為王」運營方式是錯的，但是流量至上的輿論環境往往存在一定的網暴風險。他建議，用流量獲利的同時，平台需要搭建能夠引導事件縱深討論、多元討論的網絡空間。比如深度打撈淹沒在極端化輿情言論中的理性言論。

更重要的是，平台應該提升內容生產質量，在鼓勵用戶進行積極創作的同時，引導用戶進行更縱深、更高質量的內容生產。《網絡暴力現象治理報告》提到，社交媒體中大V擁有幾十萬上百萬粉絲，影響力巨大，有的大V在網絡暴力事件的演化過程中起到推波助瀾的作用。自媒體公眾號為找話題、蹭熱點、搶流量往往促成原話題裂變，使事情一波未平一波又起。

朱笑延稱，因此，平台應當重視網絡暴力事件討論中意見領袖的巨大影響力，對於引導、助推網民群體發佈網絡暴力信息的意見領袖，平台應當及時對接限制發言、降低信用評級等治理措施。2023年8月，北京市互聯網法院發佈典型案例時提到，意見領袖應該比普通用戶更加註意自己的言論可能產生的潛在影響。這意味著要求意見領袖應承擔更多的社會責任，在發佈言論時盡到更多的注意義務。

全國人大代表、台盟浙江省委會專職副主委陶駿曾在2023年兩會提出為網暴專門立法的建議。他說，由於我國目前對網絡暴力的概念定義與性質沒有相關法律界定，依法打擊網絡暴力法律依據欠缺;另一方面，由於網絡暴力行為發生在網絡上，網絡平台大多並未實行實名製，實際操作中存在對違法行為和違法主體認定難、取證難、維權成本高、維權週期長等難點。

針對此類問題，他建議應該在《反網絡暴力法》中明確網絡暴力類型與判斷標準，網絡暴力的內容和形式，以及特別明確網站平台的法律責任，壓實平台的審查、監管義務與責任。

今年全國兩會，全國人大代表、江蘇鹽城建湖縣天和生態農業合作社理事長、高作鎮陳甲村黨總支書記魯曼提出建議，希望推動製定《反網暴法》。魯曼指出，當前我國沒有專門針對網絡暴力的專項法律，針對網絡暴力的規定散見於民法典、刑法、治安管理處罰法、網絡安全法等法律規範中，應考慮對其進行歸納總結，出台專項立法，進一步明確網絡暴力違法行為的民事責任、治安處罰及刑事責任，並提高全社會反網絡暴力的法律意識和維權觀念。

朱巍也支持為反網暴立法。「現在網絡暴力已經不是個別現象，幾乎每天都在發生，包括飯圈亂象、人肉搜索。應該有一個更高位階的法律，清楚規範、劃分施暴者和平台的責任。」

參考文獻：

《走向媒介正義：網絡暴力信息治理的平台角色與法治實現》

《網絡暴力的基本形態、成因剖析及綜合施治——以「女子給跑腿小哥打賞200元被網暴跳樓事件」為例》

新京報記者 祖遲

編輯 胡傑 校對 趙琳