Sora來襲AI換臉門檻降低，網絡安全公司何以應對新風險？

近期，香港警方披露了一起AI（人工智能）「多人換臉」詐騙案，涉案金額高達2億港元。一家跨國公司香港分部的職員，受邀參加總部首席財務官發起的多人影片會議，並按照要求轉賬多次，將2億港元轉賬到5個銀行賬戶內，其後向總部查詢方知受騙。警方調查得知，這起案件所謂的影片會議中，只有受害者一人為「真人」，其餘全部是經過AI換臉後的詐騙人員。

文生影片模型Sora的橫空出世進一步推動人工智能技術快速發展，其是否會讓AI換臉詐騙的門檻變得越來越低？

《證券日報》記者就此採訪中國網絡空間安全協會人工智能安全治理專委會專家、天融信科技集團副總裁薛智慧，他表示：「隨著Sora生成影片的質量和逼真度提高，確實可能進一步催生AI換臉等詐騙行為。社會各界需要提高警覺，採取有效措施來識別和防範這類詐騙行為，包括發展更先進的檢測工具和技術、加強對公眾的網絡安全教育以及通過法律和倫理規範來限制和監管這類技術的使用。」

記者瞭解到，天融信、深信服、佳緣科技、啟明星辰、安恒信息、三六零、綠盟科技、奇安信等多家A股上市公司，均在網絡安全方面加碼佈局。

拆解AI換臉詐騙原理

據瞭解，AI換臉技術能夠將一個人的面部替換成另一個人的面部，堪稱現代網絡「易容術」。這一技術可能被不法分子利用，進行詐騙、誹謗或其他惡意活動。

薛智慧向《證券日報》記者拆解了AI換臉詐騙的原理，他表示：「AI換臉詐騙可概括為兩大部分。第一部分是畫面處理，先利用深度學習算法精準地識別影片中的人臉圖像，提取出如眼睛、鼻子、嘴巴等關鍵面部特徵，再基於這些特徵，實現影片中人臉與目標人臉的對齊，隨後將目標人臉覆蓋、融合到影片中的人臉上，達到換臉效果，最後借助原始輸入影片的背景或者利用其他技術虛構的渲染背景，得到最終的輸出畫面；第二部分是聲音處理，借助AI換聲，來模擬目標人物的聲音，用於詐騙的影片、直播等。」

「面對肉眼越來越難以分辨真假的偽造影片，在技術層面，可以運用人工智能對抗技術、數字水印技術、身份認證等技術來應對。」薛智慧表示，「具體來看，可以通過不斷改進和提升的人工智能對抗技術來檢測和識別虛假的、構造的圖像、音影片、文本等內容，也可以應用數字水印技術，將數字水印嵌入到採集的圖像、音影片數據中，這樣系統在播放時就能通過水印技術來驗證數據的真實性。在一些需要身份驗證、轉賬彙款等特殊場景，可以採用多因子認證，比如生物特徵、二次密碼等技術，用以檢測和識別虛假偽造的信息。」

記者瞭解到，針對AI換臉等，天融信等多家上市公司深入研究其原理，以推動自身技術、產品及服務的升級，更好地應對新技術可能帶來的網絡安全隱患。

網絡安全受關注

Sora對於網絡安全行業的發展是把「雙刃劍」。科方得智庫研究負責人張新原向《證券日報》記者表示：「一方面，Sora的誕生可能催生新的安全漏洞和攻擊手段，給網絡安全行業帶來新的挑戰。同時，影片生成技術處理的數據往往涉及個人隱私，如果處理不當或遭受攻擊，可能導致嚴重的隱私泄露事件。這些都將令網絡安全防護成本增加。另一方面，Sora帶來網絡安全需求，將推動行業的發展和創新。」

與此同時，人工智能技術在網絡安全領域的應用也越來越廣泛。記者瞭解到，深信服、奇安信、安恒信息、天融信等10餘家公司已經發佈「人工智能+網絡安全」產品，今年這些產品有望進一步鋪開。其中，天融信推出了融入AI技術的防火牆、天問大模型等多款創新型產品。深信服則發佈國內首個企業級安全GPT雲端大模型技術應用——深信服安全GPT，這款自主開發的大模型可以自動分析用戶安全現狀，生成處置建議，同時可以實現對話式智能交互，提高用戶體驗，降低對運營人員的專業要求。

北京社科院副研究員王鵬在接受《證券日報》記者採訪時表示：「根據相關數據顯示，我國網絡安全市場規模已連續多年保持高速增長。產業鏈方面，我國已形成了包括硬件設備、軟件產品、安全服務、安全集成等在內的完整產業鏈。技術方面，我國網絡安全產業在防火牆、入侵檢測、病毒防護等傳統安全領域已具備較強實力，同時在雲計算、大數據、物聯網等新興技術領域的安全防護能力也在不斷提升。未來要繼續推動網絡安全產業的創新發展。」