他們正在用AI，瘋狂給互聯網「下毒」

本文來自微信公眾號：極客公園 （ID：geekpark），作者：Moonshot，編輯：靖宇，題圖來源：AI生成

先上一張圖，這是一組 AI 生成影片的封面，如果你看到這些圖片就已經感到不適，再細想一下，這要是你隨手下滑，自動播放的短影片呢？

上圖的每一張封面，可能都是一條這類影片。10秒左右，前幾秒是平淡無奇的日常，畫風突變後，AI生成出一幅極其詭異的景象，最終停留在讓人不寒而慄的一幀。

該影片Instagram上觀看量達到3.62億，收穫349萬讚。

這種傳播量意味著它作為爆火內容，會跳出算法隨機推送給用戶，如果你不小心刷到了，好奇心讓你多看了一會兒，而後又過於震驚，以至於沒有快速劃走，那算法會把你推向AI生成影片的深淵。

那裡是一個人類利用AI生成出的恐怖穀，將給你造成極大的精神汙染，毀掉你的上網體驗。

精神汙染的「AI深淵」

發佈這條「蜘蛛長頸鹿人」的短影片博主的主頁里，全是類似影片，這也讓他在建號2個月時間里，收穫了12萬的關注者，和上萬美金的平台收入。

想像一下，有成千上萬的類似賬戶每天產出數十條這類影片，再投放到各大短影片平台里。

這類影片都有著「AI生成，十秒左右，畫風突變，精神汙染」的共性，這些人只要調教好對AGI影片模型的提示詞和參數，可能在你被嚇到之前，他們就誕生了一條新「作品」。

而這類影片和其他AI短影片不同之處在於：在畫面上極度詭譎和獵奇。它已經跳出了AI和現實擦邊的恐怖穀，而是在普通的生活場景里，突然讓人畸變，長出異常的肢體，變成不可名狀的怪物。

不同於人類導演精心編排的恐怖片，AI生成的影片是一種「無意的恐怖」，比刻意製造的恐怖更令人不安，因為它沒有任何軌跡可以預判。

在看這些內容時，它超出了人類的理性認知，我們會不自覺地感到「這個東西不應該存在」。

而這類影片的本質就是觸發你深層的不適和驚悚感，瞬間讓你大腦短路，甚至不敢點擊屏幕把影片劃走。

在404 Media報導這種亂象的文章里，作者Jason Koebler把這種用AI生成內容，去賭算法推薦的方法比喻成「暴力破解」。

這些影片製作者的目的並不針對個人，而是為了操縱平台算法。利用AI，他們可以批量生成並投放內容，不斷試探流量機制，總有一條能鑽進流量的縫隙，一旦某條影片被推爆，更多同類影片就會接連湧入，形成惡性循環。

哪怕平台快速出手，把這類獵奇影片限流。但這些人換一批提示詞，又可以開始新一輪「流量賭博」。因為AI生產內容太快了，遠遠快過人類創作和平台的算法變化，無論平台怎麼調整，都會面臨政策趕不上對策的窘境。

人類創作者需要研究平台算法、策劃選題、拍攝製作，耗時耗力耗錢製作出一條優質影片。AI分秒鍾生產數十條垃圾影片，發到平台上不火也沒關係，馬上再上傳幾十條。

人類用質量換流量，AI只需要用數量。

就像一位密碼學家正在絞盡腦汁研究密碼算法時，AI已經把00000到99999的10萬種可能性都試過了，總有一個對的，這就是最簡單的「暴力破解」。

與此同時，由於AI生成內容的氾濫，讓真正由人類創作的內容越來越難以被發現。低質量、假信息佔據了用戶的信息流，不管是創作生態還是平台內容，都往劣幣驅逐良幣的方向滑落。

至此，影片製作者獲得了流量，每一個刷到影片的用戶受到精神汙染，整個內容平台被這些獵奇、低質的AI生成內容所侵蝕。

只有這些毫無底線利用AI的人贏了。然而流量帶來的快錢，正在驅使越來越多的人加入這個行當。

流量和財富密碼

Jason Koebler每天都會收到一個17歲的YouTuber Daniel Bitton的營銷郵件。

點開這名YouTuber的主頁，他有11.7萬訂閱者，最火的一條影片《我複製黏貼一個YouTube頻道，讓我每個月賺到10萬美元》有74萬播放量。這條影片的主旨就是：僱人作內容太貴了，我們決定用AI複製爆火影片。

於是他隨便修改一下爆火科普影片的腳本，再加一些爭議性話題比如《亞洲人為什麼眼睛小》，配上AI製作的驚悚動畫，大量投放到各大短影片平台，不火就馬上調整選題，加入更多爭議要素。

而Bitton營銷郵件就是賣他這套「成功公式」，他在郵件里寫道「花時間製作高質量的YouTube影片在經濟上沒有意義，其他人花5～6個小時製作一個「完美」的影片，我們不到半小時就能做出8～10條短影片。」或是「YouTube短影片的算法已經壞了，現在正是用AI短影片來利用這個漏洞最佳時機。」

Bitton的引路人是Mustafa，去年Mustafa就靠同樣的玩法賺到百萬美金。如今他已經「產業升級」，靠出售AI工具和營銷服務賺錢，他的付費社區共有80000名會員，40美元/月的會費。這還只是學習Mustafa理論的價格，實操工具又是另一個費用。

具體到這條產業鏈上，他們出售的AI工具有AI影片文案模版，AI語音和自動剪輯，TikTok帳號批量管理，他們甚至開發出了繞過TikTok版權檢測的工具，可以自動抓取YouTube片段轉製成短影片。

以最受社區推崇的Crayo.ai為例，該平台號稱「一次製作出無限短影片」，提供了各類專門迎合TikTok算法的內容模板，比如「無真人出鏡內容」、「Reddit故事改編」以及「科普解說短影片」。

從內容抓取到配音剪輯，再到一次性大量上傳，Crayo.ai可以讓AI短影片生產流程全自動化，10秒鍾就能做出來一條1分鐘的短影片，基礎套餐只需要19美元（約140元），每月提供20條AI短影片。

而Mustafa在社區里直言「在TikTok上起號最簡單和最常見的方法，就是從著名內容創作者和熱門長影片里抄內容，重新剪輯後上傳。」

算法和數據思維的挑戰

抄襲其他創作者，獵奇影片恐嚇用戶，無限投放AI製造的垃圾內容……這些亂象難道平台方就坐視不管嗎？

TikTok暫未有明顯動作，但Meta不僅放任這些內容氾濫，還在助長這一現象。

去年，馬克·朱克伯格在投資者會議里就提到「AI幫助人們創作，能讓用戶刷短影片的體驗更好……我們將增加一個全新的內容類別：AI製作。」

Meta甚至調高了用戶信息流里AI內容的比重，同時把AI製作工具賣給廣告商，他們推出的Advantage+服務能讓廣告商一次性生成50條廣告，再投放到平台里去賭算法推薦。

朱克伯格秉持著「AI生成內容是趨勢，用戶終將會習慣」的立場也不奇怪。根據Meta去年的數據顯示，AI內容大量注入平台後，用戶在Facebook留存時間增加了8%，Instagram增加了6%。

對Meta來說，只要AI能帶來更多流量和廣告收入，AI垃圾內容的氾濫就不是問題，反而是內容平台緊隨AI趨勢的進化，如果用戶對AI生成的內容不滿，那是他們跟不上時代，不是平台的問題。平台的首要目標是有源源不斷的影片上傳帶來流量，有流量就有廣告商，從而創造營收。

的確如此，文章開頭那條影片帶來了3.62億的播放量，哪怕評論區有大量用戶評論表達了厭惡、反感、不適，但就像互聯網的流量定律：負面內容越極端，評論和轉發就越多，算法就越愛它。

扭曲畸形的嬰兒、擬人化的畸變動物、深度偽造的名人影像、披著科普外衣的陰謀論……這些原本只會在特定圈子內流傳的獵奇內容，如今被AI工具批量複製，投放到大眾化的社交平台。

就像開頭影片下方點讚破千的評論所寫：某人的奶奶肯定會覺得這影片是真的。

這讓未來的社交媒體，可能不再是人與人之間的交流平台，而是一個賭場，AI垃圾製造者在賭平台算法，用戶在賭下一條影片，不會給自己造成精神汙染，平台在賭自己能在流量和內容崩壞之間找到盈利的平衡。

而如果事情走向極端，這可能會導向一個AI生成內容主導，人類創作淪為邊緣，真假信息難以辨別，用戶被垃圾內容「Mindfxxk」的互聯網時代。

現在不少平台已經要求創作者，在AI生成內容上標明「AI製造」的標籤，但或許人們需要一個更細分、更周詳地對於AI生成內容的規範，來保護「不明真相」的用戶。

至少，對於因為寫下稿件，而被這些AI噩夢折磨了一週的我來說，就非常需要一個「一鍵屏蔽AI內容」的按鈕。而讀這篇稿件的你，也同樣需要。

文章參考：https://www.404media.co/ai-slop-is-a-brute-force-attack-on-the-algorithms-that-control-reality/?ref=daily-stories-newsletter

https://www.404media.co/inside-the-world-of-tiktok-spammers-and-the-ai-tools-that-enable-them/