抖音持續打擊欺詐、水軍和導流黑產, 全年封禁相關賬號超600萬個
1月13日,抖音發佈“2024網絡黑產治理盤點”,過去一年平台持續打擊網絡黑色產業鏈,通過升級AI大模型技術、迭代風控策略、優化舉報機制等系列舉措,加強對網絡黑產的識別和治理能力,並向相關部門提供涉嫌違法犯罪的線索,全力守護用戶的用網安全。
前置攔截欺詐信息 多渠道提醒用戶謹防被騙
2024年,仿冒領導、親友和官方客服是最受關注的欺詐類型,尤其是仿冒抖音客服的黑產,用廣撒網方式撥打電話、發送短信、即時通訊軟件撥號等方法,與受害人直接聯繫,一步步引導對方共享屏幕或者下載第三方app,從中獲取用戶銀行卡賬戶信息、誘導用戶不斷轉賬等。
刷單詐騙、購物詐騙也是2024年平台重點打擊的欺詐類型。刷單詐騙黑產以招工、兼職、致富為由,或偽裝成單身交友人設,誘導用戶下載第三方軟件進行欺詐;另一類黑產鏈路則以售賣演唱會內部門票、贈送小馬寶莉卡、低價轉遊戲皮膚等噱頭,鎖定目標用戶去第三方平台進行交易欺詐。
平台根據黑產作弊鏈路,在評論、建群、拉人等多個場景阻斷黑產觸達受害者,上線反詐客服“驗證助手”,並根據黑產的特徵每月迭代反詐策略200個以上,在站內外多個渠道發送反詐提醒,日均保護潛在受害人200萬次。2024年,警方根據抖音提供的線索,打擊詐騙團夥69個,抓獲犯罪嫌疑人451名。
精準識別網絡水軍 重點打擊四大類
售賣水軍服務、惡意控評、流量造假、惡意舉報,是過去一年抖音重點打擊的四類水軍行為。黑產在站內售賣刷粉刷讚、招募水軍等違規服務,或有組織、有目的地批量發佈評論錯誤引導用戶認知,利用作弊手段偽造虛假流量、炒作熱度,甚至利用平台舉報規則牟利,惡意舉報導致他人賬號受影響。
2024年抖音搭建刷手、買手用戶模型,精準識別風險賬號,並實施攔截異常操作,阻斷水軍造假途徑;通過大模型技術提升識別能力,對機器賬號和受騙用戶差異化處置。一年來抖音日均攔截違規信息6200萬次,共封禁賬號110萬個,並將涉嫌違法行為的線索上報相關部門。過去一年根據抖音提供的線索,警方抓獲水軍黑產犯罪嫌疑人90名。
升級視頻關鍵幀識別能力 阻斷違規外鏈導流風險
除了欺詐和水軍,黑產集中的另一方向是違規外鏈。黑產組織通過作弊手段繞過平颱風控策略,在多種渠道插入二維碼、聯繫方式、圖片、網址等,引導用戶點擊跳轉至第三方違規、違法網站,這些第三方網站則大多以提供色情、賭博等違法服務為主。
為應對黑產新手法,抖音風控團隊在前置識別的基礎上,新增了自動黑樣本庫,通過AI技術可自動識別、歸類違規行為並進行處置;結合黑產行為模式,升級視頻截取關鍵幀模型能力,可第一時間定位黑產在視頻中植入的違規頁面;新增彈幕場景模型,有效運行該場景的違規攔截策略。2024年,抖音封禁相關違規賬號超120萬個,同時警方根據抖音提供的線索,打擊違規導流團夥8個,抓獲嫌疑人40名。

封面新聞記者 郭聞涓