抖音：嚴厲打擊利用 AI 騙取老年人互動，下架違規影片、處置違規帳號
IT之家 10 月 27 日消息，抖音官方於 10 月 25 日發佈《抖音嚴厲打擊利用 AI 騙取老年人互動的治理公告》。
抖音官方表示，鼓勵創作優質內容，包括採用 AI 技術進行輔助創作，但所創作內容必須遵循平台規範。平台對利用生成式人工智能技術創作和發佈違背科學常識、弄虛作假、造謠傳謠的內容進行持續打擊。
近期平台發現，有帳號不當利用 AI 技術，生成小和尚、軍人、AI 女性等虛擬形象，卻不在內容中進行 AI 標註提示，並採用特定話術，引誘老年人點讚、關注、發佈評論，甚至進行導流獲利，平台進行了嚴厲處置。
IT之家附其中典型行為包括：
-
生成小和尚形象，說出「我發現你身邊有塊絆腳石，我打算給你搬走」「如果覺得小和尚說得對，送給小和尚一朵小紅花吧」等話語，利用迷信、心靈雞湯等內容，騙取老年人互動
-
生成軍人形象，以「娘，別滑走，孩子想和您談談心」「親愛的母親，我正在執行任務，給我一點鼓勵」「告訴你一個小秘密，點一下我頭像下面的小加號」等口吻，利用軍人正面形象及老年人想念子女心理，騙取老年人互動
-
生成 AI 女性形象，以「大叔，感謝你又來看妹妹了，如果再送我一朵花我會感動一整天」「聽說你很厲害，很多美女都喜歡你」「我會做飯、做家務、能聊天，你願意把我帶回家嗎」等情感話術誘導，騙取老年人互動
抖音官方表示，以上內容嚴重違反了平台規則。針對使用 AI 生成虛擬人物發佈違規內容的行為，平台會對違規影片下架，對違規帳號進行取消其投稿和營利權限、封禁帳號等處置，並利用模型、技術識別能力等手段，進行長期系統的識別發現和處置。
廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。
