AI 生成的假影片氾濫，非營利組織要求 OpenAI 將 Sora 2 撤回

IT之家 11 月 12 日消息，OpenAI 旗下 Sora 2 人工智能影片生成平台引發爭議，越來越多的倡導組織、學者與專家正拉響警報：允許用戶僅憑一段文本提示詞即可生成任意 AI 影片，已導致非自願圖像氾濫、高度逼真的深度偽造（deepfake）內容激增。

儘管 OpenAI 已對涉及公眾人物的 AI 生成內容加強管控，例如禁止生成米高・積遜、馬田・路德・金博士及費特・羅渣斯先生（「羅渣斯先生」）從事離奇行為的影片，但此類措施往往是在相關名人遺產管理方及演員工會強烈抗議之後才被迫出台。

非營利組織「公共公民」（Public Citizen）本週二致信 OpenAI 及其首席執行官山姆・奧爾特曼（Sam Altman），要求其立即將 Sora 2 從公眾市場撤回。信中指出，Sora 2 倉促上線以搶在競爭對手之前發佈，反映出「OpenAI 一貫且危險的行為模式：急於將一款要麼本身不安全、要麼缺乏必要防護措施的產品推向市場」。信件進一步強調，Sora 2 展現出對產品安全性的「肆意漠視」，亦侵犯了公眾對其自身肖像的權利，並威脅民主制度的穩定。該組織亦將此信同步提交至美國國會。

「我們最擔憂的是其對民主制度的潛在威脅。」「公共公民」科技政策倡導者 J.B. 布蘭奇（J.B. Branch）在採訪中表示，「我認為我們正步入一個人們無法再真正信任所見影像的世界。政治領域已開始出現一種策略：最先發佈的圖像或影片，往往就是公眾最終記住的內容。」

作為上述信函的執筆人，布蘭奇還指出，此類技術更廣泛地侵蝕著個人隱私權，且對網絡上的弱勢群體造成尤為嚴重的不成比例影響。

儘管 OpenAI 已禁止生成裸露內容，但布蘭奇指出，「女性正以其他形式遭受線上騷擾」，例如某些帶有特定戀物癖傾向的小眾內容仍能繞過應用審核機制傳播。新聞媒體 404 Media 上週五報導稱，大量由 Sora 生成的「女性遭扼頸」影片正在線上激增。

IT之家注意到，一個多月前，OpenAI 在 iPhone 上推出了其新的 Sora 應用。上週，該應用在美國、加拿大以及包括日本和南韓在內的幾個亞洲國家的安卓手機上上線。

迄今最為強烈的抵製聲浪主要來自荷李活及其他娛樂產業相關方，包括日本漫畫（Manga）行業。OpenAI 在 Sora 上線數日後即宣佈首批重大調整，稱「過度審核（overmoderation）確實令用戶極為沮喪」，但強調在「全球社會仍在適應這項新技術之際」，採取審慎保守立場至關重要。

此後，OpenAI 於 10 月 16 日公開宣佈與馬田・路德・金博士家族達成協議，禁止生成對其民權領袖形象的「不敬描繪」，同時加緊完善技術防護措施；10 月 20 日，又與《絕命毒師》主演白賴仁・克蘭斯頓（Bryan Cranston）、美國演員工會 — 美國電視與廣播藝術家聯合會（SAG-AFTRA）及多家經紀公司達成類似協議。

「如果你名氣大，那還好說。」布蘭奇評論道，「但這恰恰凸顯了 OpenAI 一貫的行事模式：他們只願回應極少數群體的憤怒抗議；慣於先發佈、後道歉。然而，許多問題本可在產品發佈前通過設計層面的審慎決策加以規避。」

OpenAI 旗艦產品 ChatGPT 亦曾面臨類似批評。上週，七起新訴訟在加利福尼亞州法院提起，指控該聊天機器人在用戶並無既往精神健康問題的情況下，誘導其產生自殺傾向與有害妄想。這些訴訟由「社交媒體受害者法律中心」（Social Media Victims Law Center）與「科技正義法律項目」（Tech Justice Law Project）代表六名成年人與一名青少年提起，指控 OpenAI 明知故犯，於去年倉促發佈 GPT-4o 模型，無視內部警告 —— 該模型存在危險的諂媚傾向與心理操縱性。四名受害者因此自殺身亡。

儘管「公共公民」並未參與上述訴訟，布蘭奇表示，他認為 Sora 的倉促發佈與此存在相似之處。

他指出：「不顧一切地猛踩油門，毫不在意可能造成的危害。其中很多後果其實是可以預見的。但他們寧願推出產品，讓人們下載，讓人們對其上癮，也不願做正確的事 —— 事先對這些產品進行壓力測試，並關注普通用戶的困境。」

上週，OpenAI 還就日本動漫與遊戲產業的抗議作出回應。該國代表性行業協會致信 OpenAI，成員包括宮崎駿創立的吉卜力工作室（Studio Ghibli），以及萬代南夢宮（Bandai Namco）、史克威爾艾紐約人（Square Enix）等知名遊戲開發商。OpenAI 在聲明中表示：「許多動漫愛好者渴望與心儀角色互動」，但公司亦已設置防護機制，防止在未獲版權方授權的情況下生成知名角色形象。

「我們正與各大工作室及版權方直接溝通，認真聽取反饋，並持續觀察用戶（包括高度重視文化與創意產業的日本市場）如何使用 Sora 2。」OpenAI 在針對該行業協會信函的聲明中如是表示。

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。