馬上評｜誰來斬斷AI造黃產業鏈

【馬上評｜#誰來斬斷AI造黃產業鏈#】#AI造黃產業鏈的又一次警醒# 近日，總台記者按照消費者舉報的線索，在多個互聯網平台上進行檢索，發現不少平台上有人在公開兜售「利用AI技術製作色情擦邊影片」的教程，號稱僅憑一張圖片，甚至幾句話就可自行「手搓」「讓自己滿意的大尺度影片」。有的教程帖子還赫然寫著「AI擦邊賽道日入5位數」等標題。

報導中呈現的內容及其細節讓人震驚，但是隨著技術的狂飆，出現這樣的AI「造黃」產業鏈，又似乎不難預料。從批量生產謠言，到批量生產論文，再到批量生產黃色影片，AI打開的潘多拉魔盒，還在憑藉其強大的「生產力」持續張開血盆大口。

AI「造黃」產業的危害是不言而喻的。除了直觀的「傳播淫穢色情」，還有一個潛在的風險點是，隨便用一張圖就可以生成色情影片，那麼這張圖有沒有可能是現實中真人的照片？別忘了，就在最近，相關AI短劇中的人物形象還因為和現實中的明星藝人撞臉而遭受爭議，乃至引發維權官司。

此外，由於未成年人很容易接觸到社交平台和相關AI應用，其對未成年人身心健康的影響，也不容忽視。

據報導，眾多社交平台上，一些博主還發佈售賣各類AI生成擦邊影片的「提示詞」的帖子，堪稱「一條龍服務」。這樣的黑色生意，輕而易舉便在某些平台上開展，問題又回到了平台的治理責任上。至少，在基本的關鍵詞檢測、辨別、屏蔽上，平台不應該讓自身成為「漏魚之網」。

整體來看，AI「造黃」產業鏈具有低門檻、批量生產、快速傳播等特徵，且形成了製作教程、提示詞、軟件、引流變現的完整黑色鏈條。對此，相關平台和監管部門必須及時介入，迅速斬斷「造黃」產業鏈。

這不只是一個法律問題，更是一個技術倫理問題。這兩年，AI打開的新世界讓人應接不暇，出現的一些新場景、新應用可以說是泥沙俱下。此前就有一種觀點認為，一項新技術的誕生，往往首先就被用於下三濫的地方，這句話或許太過絕對，卻是一個十分現實的提醒。

一方面，出現問題就要立即開展針對性的治理；另一方面，完善和更新法律法規的腳步也要隨之跟上。

4月10日，《人工智能擬人化互動服務管理暫行辦法》正式公佈，其第八條規定，提供擬人化互動服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，並明確不得從事「傳播淫穢、色情、賭博、暴力或者教唆犯罪」「向未成年人用戶生成可能引發未成年人模仿不安全行為、產生極端情緒、誘導未成年人不良嗜好等可能影響未成年人身心健康的內容」等活動。

虛擬世界從來不是憑空製造的，虛擬往往取材於現實，又深刻影響著現實。AI仍將持續挑戰更多的行業、領域，也會帶來不少讓人詫異、擔憂的問題。和AI共成長，積極、健康地共成長，註定是我們這代人要解決的課題。

AI「造黃」產業鏈又一次警醒：技術本無善惡，但使用者必須守住法律底線，使用範圍和程度必須有標準、有規範。唯有如此，才能讓AI造福社會。