上海推出平台算法治理合規指引：不得「靜默推薦」，算法應用向上向善
2024年11月以來，落實中央網信辦等四部門聯合部署要求，上海市委網信辦會同市通管局、市公安局、市市場監管局推進開展「清朗浦江·網絡平台算法典型問題治理」專項行動。為鞏固專項治理成果，加強業務合規指導，近期上海市委網信辦會同上海互聯網應急中心編寫了《上海屬地網絡平台算法治理合規指引（試行）》（下稱《指引》），並於2025年4月1日起正式實施。
《指引》共七章，分為十七條細則，在興趣管理、推薦內容、加強特殊群體權益保護等方面均作出引導提示。
《指引》圍繞個性化推薦、熱搜榜單、調度決策等算法場景，對「信息繭房」、違規操縱熱搜榜單、騎手「困在」算法里、大數據「殺熟」等社會關注度高的算法典型問題，對屬地網絡平台提出16條合規要求，強調要堅持算法導向正確、公平公正、公開透明、自主可控、責任落實原則，促進算法應用向上向善，保障用戶合法權益。
興趣管理自主化、推薦內容清朗化
在個性化推薦場景方面，《指引》著重強調，要保障用戶的自主選擇權和體驗。《指引》提出，用戶應能便捷關閉個性化推薦，關閉後平台不得靜默開啟或頻繁打擾。同時，平台需提供完善的興趣標籤管理，註冊時不得強製用戶選擇標籤，並且要不斷完善「不感興趣」等負反饋功能，細化多維度反饋選項。
澎湃新聞瞭解到，近日，在網信部門指導下，小紅書、嗶哩嗶哩上新「一鍵破繭」功能，通過圖表向用戶直觀展示目前瀏覽內容的「信息繭房」程度，同時支持用戶自主調節個性化推薦的內容偏好。
《指引》明確要求平台推薦內容清朗化。要積極利用算法技術，推動平台內容生態治理。不一味以用戶偏好為導向，要在算法推薦中引入「帳號信用分」「作品質量分」等類似正向指標，提高內容合規指標比重。從算法分發源頭，加大優質內容、作者的流量傾斜，完善違規信息特徵庫，抑制不良信息出現頻率。
同時，《指引》提出，使用消費者信息時要做減法。不得以個性化推薦為名過度收集超出算法本身功能必要範圍的用戶個人信息，如設備價格、收入水平等；商品或服務定價不得使用不合理的與用戶特徵相關因素，包括年齡、性別、瀏覽記錄、消費水平、設備類型等。優惠促銷活動要明確說明優惠規則，如適用範圍、參與條件、用戶身份限制等，不得包含歧視性條件，如購買能力等。
算法應用向上向善，加強特殊群體權益保護
《指引》要求，網絡平台提供算法相關服務，要堅持算法導向正確、公平公正、公開透明、自主可控、責任落實原則，促進算法應用向上向善，保障用戶合法權益。
澎湃新聞注意到，在特殊群體權益保護方面，《指引》要求健全涉未成年人內容審核機制，完善未成年人模式，不得向未成年人用戶推送侵害其身心健康的網絡信息，不得設置誘導未成年人用戶沉迷、過度消費等的算法模型。持續優化面向老年人的算法推薦服務，減少向老年人推送保健產品、老年人用品和金融產品等營銷信息，不推送不實新聞、反科學、封建迷信等容易引發恐慌情緒的內容。
同時，《指引》還載明，要對生成合成內容進行顯著標識，提升生成合成信息檢測識別能力，及時發現處理違法違規生成合成信息。要在生成合成類內容的用戶發佈流程中，通過必選項等方式顯著要求用戶選擇標識。要建立完善兼顧用戶體驗和安全可靠的模型評價體系，不能過度依賴用戶互動反饋和停留時長等業務標準。模型訓練數據覆蓋類別要全面、價值觀要對齊。
此外，要健全算法透明公示機制，主要算法「應備盡備」。備案算法要在其對外提供服務的網站、應用程序的顯著位置標明其備案編號及公示鏈接，要求在首頁操作4步內可達。要建立算法溝通機制，線上要設置便捷的公眾投訴舉報入口，包括服務熱線、舉報郵箱等。
針對同質化推送營造「信息繭房」、違規操縱干預榜單炒作熱點、利用算法實施大數據「殺熟」等典型問題，2024年11月，中央網信辦、工信部、公安部、國家市場監督管理總局啟動「清朗·網絡平台算法典型問題治理」專項行動。
2024年底，為指導平台進一步定位問題、落實整改措施，上海市委網信辦聯合相關部門召開算法治理合規指導會。針對相關問題，上海市委網信辦要求網站平台落實算法治理主體責任，結合專項行動重點任務舉一反三自查整改，進一步引導算法應用公平公正、透明可釋，充分保障網民合法權益。此後，屬地網站平台積極行動，加強算法功能迭代升級，推出多項創新舉措，進一步保障網民合法權益。
2025年初，在上海市委網信辦指導下，小紅書、得物、喜馬拉雅、嗶哩嗶哩、拚多多等多家網站平台陸續發佈「清朗浦江·網絡平台算法典型問題治理」專項行動治理公告，並公佈網民投訴舉報反饋渠道，表態主動接受社會監督，將根據網民反映的問題調整優化算法應用，促進算法應用向上向善。
蘭州大學信息科學與工程學院副教授劉忻在接受媒體採訪時表示，算法作為一種工具，其使用方向決定善惡，作為一系列代碼的集合，它在某些領域屬於核心資產，查看算法模型對執法者來說需要一定門檻，這是目前規範算法的薄弱環節之一。從技術角度看，需盡快完善大數據算法模型製定依據和檢測辦法；從管理角度看，需加強監管機制，明晰市場準入制度，讓大數據走出技術「暗房」。
此次上海發佈網絡平台算法治理合規指引，有望進一步淨化網絡空間，提升用戶體驗，促進互聯網行業的健康發展。
