哩布哩布AI涉黃？記者實測：已無法生成擦邊內容，但黑色產業鏈仍在

新京報貝殼財經記者 羅亦丹 編輯 嶽彩周 校對 付春愔

近日，央視曝光多款AI應用存在涉黃生成漏洞，創作平台哩布哩布AI更是被直接「點名」。因其可以被用戶使用「隱晦提示詞」繞過審核，生成半裸女性跳舞影片。

4月13日，新京報貝殼財經記者在哩布哩布AI實測發現，輸入類似的提示詞後已經無法生成「擦邊影片」。但另一方面，國外的大模型正處於「裸奔」狀態，一些主流大模型平台雖然也不支持生成色情內容，但仍然可生成「擦邊影片」，而一些AI創作平台則對此類內容完全放開。此外，在黑灰產平台上出現了許多以銷售提示詞的名義，售賣各種「AI生成教程」，收費在幾十到上百元不等。

對此，北京盈科（合肥）律師事務所薑萬東律師告訴新京報貝殼財經記者，隱晦提示詞本身不必然違法，但若生成的內容實質違反法律法規，平台及用戶均可能面臨法律責任。平台需履行內容安全管理主體責任，加強審核和技術手段，防止違法內容傳播；用戶若故意利用隱晦提示詞生成違法內容，也需承擔相應法律責任。而AI作為工具，利用它創作色情內容，等同於利用傳統手段進行違法活動，同樣要承擔相應法律責任。AI使用者需對內容的合法性負責，不可觸碰法律紅線。

4月14日，哩布哩布AI發佈聲明稱，近期媒體對AI生成內容安全問題的討論，我們已關注並高度重視。第一時間啟動內部專項排查，對平台生成能力及審核機制進行了全面自查。經排查發現，在個別複雜提示詞組合及規避表達的邊界場景下，平台存在生成不符合規範內容的情況。對此，我們深表歉意。本次問題也為我們敲響了警鍾，使我們清醒認識到在內容安全邊界識別與機制完善方面仍存在不足，未達到應有標準。相關問題已第一時間完成技術修復，並對風險路徑進行全面封堵。

輸入擦邊提示詞，已無法生成擦邊內容

此次被「點名」的哩布哩布AI不是無名小卒，而是頭頂多項光環的明星企業。

從融資規模看，這家公司於2025年10月完成1.3億美元B輪融資，由紅杉中國、CMC資本聯合領投，創下當年國內AI應用賽道最大單筆融資紀錄。從用戶體量看，官網數據顯示平台已彙聚超過2000萬創作者，累計生成圖片超過5億張，穩居國內AI圖像生成領域首位。從合規履曆看，2024年2月通過國家網信辦第四批深度合成服務算法備案，同年3月成為國內首家通過《生成式人工智能服務管理暫行辦法》備案的AI社區。

根據央視報導，市面上多款主流AI應用、平台對直白露骨的色情指令可實現有效攔截，但對隱晦、變相描述的識別能力明顯不足。

有聲音認為，這暴露了AI內容審核的核心難題：對抗性提示詞的識別。商家為規避監管，將敏感詞彙翻譯成英文，或用「腰胯扭動幅度」等細節描述替代露骨指令，形成一套隱蔽的指令體系。

4月13日，新京報貝殼財經記者在哩布哩布AI上輸入相關提示詞後，發現其並未生成「擦邊」內容，取而代之的是一個衣著完整的部位特寫。而當記者將提示詞切換為英文後，平台直接提示「生成失敗」。

薑萬東告訴記者，若「擦邊」內容實質包含淫穢、色情、低俗、暴力等法律法規禁止傳播的信息（如通過隱晦提示詞生成半裸、性暗示、性交易等內容的影片、圖片或文字），即使使用隱晦表述，仍屬於違法內容。

「根據《中華人民共和國網絡安全法》《互聯網信息服務管理辦法》《生成式人工智能服務管理暫行辦法》等規定，平台有義務對用戶發佈的內容進行管理，發現違法信息應立即停止傳輸、採取消除等處置措施，並向主管部門報告。若平台明知存在此類漏洞卻未有效整改，可能承擔法律責任，包括行政處罰（如罰款、停業整頓等）。」薑萬東表示。

在他看來，若「擦邊」內容未直接觸犯法律，但違反平台自身的社區規則、用戶協議等（如發佈過度暴露、性暗示但未構成淫穢的內容），平台可依據規則對用戶採取警告、限制功能、封號等處理措施，但一般不涉及法律責任。

國外大模型「裸奔」，AI色情已出現產業鏈

一個值得玩味的對比是：國內平台被點名整改，而一些國外開源生態的大模型卻幾乎處於「裸奔狀態」。

新京報貝殼財經記者測試發現，有知名外國大模型推出了「成人模式」，除了涉及未成年人、強迫性等場面無法生成外，尺度驚人。一些「AI脫衣」「AI改姿勢」的圖片甚至曾一度在馬斯克的X平台上流行，讓許多用戶感受到了冒犯，後來X平台也整改了這一功能。

但在技術上，目前不少AI生圖、AI生影片的模型已經在網絡上開源，如Stable Diffusion及其節點式工作流平台ComfyUI等。其中，國家網絡安全通報中心早在2025年5月就發出預警，指出ComfyUI存在數個高危漏洞，且已被黑客組織利用。安全機構Censys在2026年4月的監測中發現，超過1000個ComfyUI實例直接在公網「裸奔」，沒有任何防護，任何人都能遠程接入、隨意生成內容。

這意味著，在開源大模型時代，任何一個人都能在自家電腦上跑一個完全不受控的AI。

新京報貝殼財經記者在黑灰產平台上搜索發現，目前存在很多打著「售賣提示詞」旗號，但實際為兜售AI色情生成服務的賣家，其中一些賣家售賣的正是這種不受監管的AI生成服務。

有些賣家表示，可以花99元「永久獲得」AI生圖的操作帳號使用權限，而48元則可以購買到一些大尺度模型平台的提示詞以及教程。

這意味著，監管的拳頭可以打在應用層，而技術的根子紮在開源層。

那麼，AI內容治理的邊界究竟在哪？

從監管實踐看，國內選擇的是「事前備案+事中審核+事後追責」的全鏈條治理模式。2025年4月，網信辦開展「清朗·整治AI技術濫用」專項行動，重點整治利用AI製作傳播色情低俗內容；2026年4月10日，五部門聯合公佈《人工智能擬人化互動服務管理暫行辦法》，進一步明確安全評估和算法備案要求。2026年1月1日，修訂後的《中華人民共和國網絡安全法》正式施行，首次在法律層面規定了AI安全風險的法律責任框架。

相比之下，海外平台的治理邏輯更傾向於「分級管控」：僅對「看起來真實、可能誤導公眾」的逼真合成、深度偽造內容進行強製披露要求，對於普通AI輔助創作並不做全量強製標註，核心聚焦於防範AI內容誤導用戶、傷害公共利益。

兩種路徑各有優劣。國內的強監管確保了內容底線，但也面臨「道高一尺魔高一丈」的貓鼠困境；海外的寬鬆環境激發了創新活力，卻也留下了濫用的隱患。如何在安全與創新之間找到平衡點，是所有AI平台和監管者共同面對的難題。

這或許才是哩布哩布AI事件最該留下的警示：合規不能只是備案那張紙，而是要滲透進產品設計的每一個環節、每一次模型迭代、每一輪審核機制的更新。備案是起點，而非終點；合規是能力，而非裝飾。

（新京報貝殼財經記者祁明遠對此稿亦有貢獻）