如何識別深度偽造?瑞萊推出全球首個可實時檢測合成內容的產品

新京報貝殼財經訊(記者 白金蕾)當前,人工智能的可控性和安全性已成為重要的發展議題,其中AI詐騙等AI技術惡用、濫用行為已成為全球範圍內最為嚴峻的挑戰之一。6月21日,瑞萊智慧(簡稱:RealAI)推出了全球首個可實時檢測AI合成內容產品RealBelieve,中文名「尊嘟假嘟」。

與國內外AI合成檢測產品依賴被動上傳不同,該產品面向終端用戶,能夠主動實時檢測防護,可接入影片流鑒別人臉真偽,也可在用戶瀏覽網頁內容時提供AI合成內容的可能性提示,現已啟動內測招募。

根據公開報導數據整理,近年來,我國AI詐騙案件數量及涉案金額均呈現指數級增長。2023年,我國被公開報導的AI詐騙案涉案金額已達數千萬人民幣。而2024年初,某全球頂尖工程諮詢公司香港分部職員遭遇AI詐騙,僅此一案就已導致該公司受損2億港幣。

國內AI詐騙案件呈現上升趨勢。圖|受訪者供圖國內AI詐騙案件呈現上升趨勢。圖|受訪者供圖

RealAI此次發佈的尊嘟假嘟RealBelieve可以為終端用戶提供文本、圖片、影片和音頻多種模態的文件上傳檢測服務,還可以通過瀏覽器插件的形式實時提示用戶所瀏覽網頁的疑似AI合成內容,變被動為主動。

針對AI詐騙這一AI濫用風險日益加劇的態勢,尊嘟假嘟RealBelieve還可為用戶提供影片通話AI合成實時監測防護。在影片通話時,產品會及時給用戶發出預警內容,提示影片對方的人臉是否存在AI合成的風險。實時的風險提示可以幫助用戶及時調整聊天方式,減少不必要的損失。

編輯 方靜怡 校對 吳興發