齊向東委員：AI帶來的安全問題，只能用AI來解決

人工智能是近些年全國兩會上代表委員們熱議的高頻詞。繼ChatGPT後，人工智能大模型Sora日前問世，進一步刷新了公眾對人工智能大模型成長速度的認知，也加劇了我們對於網絡和數據安全隱患的擔憂。

今年的全國兩會上，關於人工智能高速成長過程中的網絡安全問題，探討持續受到關注。為此，澎湃新聞記者在會議期間專訪了全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東。

他認為，Sora是一個比ChatGPT更加強大的人工智能大模型。當前，利用人工智能技術進行網絡攻擊的事件已經不在少數。Sora的出現進一步加深了網絡和數據安全威脅，未來利用人工智能發動網絡攻擊的活動會更頻繁，「深偽」詐騙、換臉變聲等引發的網絡犯罪會更猖獗。

「AI帶來的安全問題，只能用AI來解決。」齊向東表示，只有對新科技產生的新場景進行有效的安全防護，科技推廣應用才能進行下去，否則科技應用會死於誕生初期。

人工智能不會取代網絡安全專家

澎湃新聞：您曾經提到，現如今我們已經進入數智時代，您認為人工智能技術會帶來哪些新的安全威脅？

齊向東：AI加劇安全威脅，如數據泄露、欺詐攻擊、社會治理安全等。以 ChatGPT 、Sora為代表的生成式 AI 技術可以快速生成釣魚郵件、編寫惡意軟件與代碼，導致攻擊數量爆髮式增長，AI 欺詐事件頻繁發生。數據顯示，ChatGPT 等生成式 AI 導致網絡釣魚郵件攻擊增長135%。生成式AI還帶來了數據非法獲取、數據泄露及惡意濫用等數據安全問題，如 ChatGPT 在對話交互過程中能獲取用戶數據或輸出訓練數據，可能涉及到個人隱私數據、業務數據等敏感信息，加劇數據泄露風險。此外，不法分子可以通過「深度偽造」技術換臉變聲、偽造影片，「眼見未必為實」將成為常態，網絡詐騙大增，甚至引發社會認知混亂。

在AI惡意利用方面，人工智能大幅降低了網絡攻擊門檻，不懂代碼、不懂技術的普通人也能成為黑客，將擴大網絡攻擊數量，專業化的黑客組織可以利用人工智能工具對網絡攻擊進行改造和升級，比如，利用AI大模型製作惡意軟件、生成用於規避殺毒軟件檢測的代碼等等，網絡攻擊能力將出現躍升；在針對 AI 算法攻擊方面，機器視覺攻擊、數據源汙染等攻擊頻發，攻擊者通過對抗樣本、數據投毒、模型竊取等多種方式對 AI 算法進行攻擊，使其產生錯誤的判斷，同時由於算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測和防範。

AI也會加劇軍事威脅，AI武器化趨勢顯現。一方面，人工智能可被用在「機器人殺手」等致命性自主武器（LAW）上，通過自主識別攻擊目標、遠程自動化操作等，隱藏攻擊者來源、建立對抗優勢；另一方面，人工智能可以將網絡、決策者和操作者相連接，讓軍事行動針對性更強、目標更明確、打擊範圍更廣，越來越多的國家開始探索人工智能在軍事領域的應用。數據顯示，2024財年，美國國防部計劃增加與AI相關的網絡安全投資，總額約2457億美元，其中674億美元用於網絡IT和電子戰能力。

澎湃新聞：面對這樣的威脅和隱患，應如何解決呢？

齊向東：AI帶來的安全問題，只能用AI來解決。我們要大力推進AI+安全的科技創新能力，鼓勵各個行業的龍頭公司和網絡安全公司合作，把AI安全技術融入到數字化場景當中，進行有效的安全防護。鼓勵企業和高校把最新的AI科研成果和網絡安全攻防技術相融合。借助AI能力，加速網絡安全技術創新、安全防護體系創新，這樣就能比AI技術跑得更快。只有對新科技產生的新場景進行有效的安全防護，科技推廣應用才能進行下去，否則科技應用會死於誕生初期。

澎湃新聞：人工智能在網絡安全領域的應用會取代網絡安全專家嗎？

齊向東：不會，但它能讓網絡安全專家擁有更大的能力，在網絡安全領域掀起一場生產力革命。網絡攻擊就好比偷東西，攻擊者會特意製造群眾性事件，產生海量告警。由於政企機構往往配備的人手不足，很容易忽略這些告警，即使有心處理，也會陷入「無力應付」的狀態，導致網絡攻擊根本來不及研判，黑客就趁虛而入，帶來破壞性後果。人工智能作為新一輪科技革命的核心技術，在提高效率、解放安全生產力方面有很強大的作用，可以很有效地應對這種飽和攻擊。

人工智能本質上是輔助人的，很多人的工作質量和數量都會有較大的提升，拒絕人工智能的幫助可能使自己落後。一位安全專家一年可以處理12萬條告警，我們創新推出的Q-GPT安全機器人，把告警處理的效率提高到人工的70倍，使安全運營結構發生重大變化。安全機器人可以全天候進行自動分析研判，在短短幾分鐘內從海量威脅告警中快速甄選出真實有效、亟需處置的告警，並自動生成處置建議，幫助安全專家平均節省80%的「盯屏」時間，跳出告警疲勞的困境。讓他們把節省下來的時間用來做與業務相關的高價值任務，指揮機器人處理更多複雜的安全事件。總之在Q-GPT安全機器人的幫助下，安全運營生產效率大大提升，告警處理能力數倍增長，能發現解決更多安全問題，形成網絡安全新質生產力。 

一句話，我們不能盲目陷入技術決定論。人工智能和網絡安全專家將是協同合作的關係，它能幫助專家從日常繁重的工作中解放出來，做更有價值、更有難度的安全工作。

當前面臨三大網絡安全新挑戰

澎湃新聞：新一輪科技革命和產業變革推動網絡安全上升到了一個前所未有的高度，當前我們面臨哪些網絡安全新挑戰？

齊向東：隨著網絡空間和現實結合得越來越緊密，數實融合進程不斷深入，我們面臨三大網絡安全新挑戰。一是攻擊者假冒身份的挑戰。數智時代，數據流轉過程複雜，安全邊界模糊，導致訪問者的身份難以辨認、行為難以管控，黑客能披著合法的外衣做壞事，竊取重要的隱私信息。這些數據一旦落入不法分子手裡，就成了實施精準詐騙的的重要武器。一些不法分子還利用新技術，通過惡意剪輯、換臉變聲、搭建虛假「鏡頭環境」等手段，冒用身份混淆視聽，進行網絡詐騙，讓受害人防不勝防。

二是軟件後門和漏洞層出不窮的挑戰。軟件規模越來越大，代碼越來越多。奇安信代碼安全實驗室對1589個軟件項目的源代碼進行了分析，顯示程序員每敲1千行原始代碼，會出現大約11個缺陷，其中包括0.85個高危缺陷。另外，越來越多的複雜的數字化系統，都是通過招投標的方式向第三方採購的，第三方的軟件供應商是否在軟件里預留了後門，客戶不知道，也沒有能力監測。

三是「內鬼」猖獗的挑戰。內鬼主要是「三員」，包括管理員、技術員和操作員。他們有較高的數據訪問權限，很容易獲取企業內部資料和財產。一方面有可能主動泄露商業機密，或將數據倒賣給黑灰產團夥獲利；另一方面，也很可能被黑客遠程控制，成為網絡攻擊盜取數據的作案工具。

澎湃新聞：網絡安全領域是否存在「卡脖子」的痛點難點？

齊向東：網絡安全領域解決卡脖子難題的關鍵，是實現關鍵核心技術的引領問題。網絡防護的核心是感知預判、發現攻擊、阻斷攻擊、迫使犯罪中止。隨著網絡攻防對抗不斷升級，網絡攻擊方法不斷創新，越來越隱秘難測，需要威脅發現和態勢感知技術。只有以更快的速度創新，才能跑贏網絡罪犯。

網絡攻擊源於漏洞，漏洞是防護系統的天敵，漏洞也是威脅情報的核心內容。目前，主流IT軟、硬件多數都是外國廠家的。廠家是最容易發現和收集目標系統的漏洞情報的，這方面美西方國家有優勢。

在核心軟硬件方面，網絡安全產品還要依賴高端芯片和核心軟件。這些產品的斷供會影響高性能網絡安全產品的出貨。

防範勒索攻擊仍是未來的艱巨任務

澎湃新聞：我國的網絡安全目前處於什麼發展階段？

齊向東：目前，我國網絡安全產業處於高速增長的初級階段，需求旺盛不會收縮，但供給側依舊面臨著挑戰。

一方面，我國網絡安全行業發展動力有待增強。網安企業要加大創新投入，從賣產品靠價格取勝的打法，轉向賣服務靠「零事故」取勝，用技術創新引領市場需求擴大，提高行業增長質量。

另一方面，我國政府部門和企事業單位網絡安全預算和發達國家比仍有差距。美國2024財年預算顯示，民用聯邦機構的網絡安全預算佔IT預算比例約為16.4%，我國的佔比還在3%左右，差距巨大，需填平補齊。

澎湃新聞：您對2024年的網絡和數據安全趨勢有何判斷？

齊向東：我預測，2024年網絡安全將呈現五大趨勢。

國家級關鍵信息基礎設施防護體系標準升級，要重點防範敵對國家網絡軍隊和情報機構的攻擊。繼俄烏衝突後，巴以軍事衝突再次敲響「網絡戰」的警鍾。針對關鍵信息基礎設施的APT攻擊、DDos攻擊、數據擦除等網絡攻擊，造成的影響廣泛而巨大，波及範圍遠超直接戰區。未來，維持和發展低烈度國家背景的網絡攻擊，將成為許多國家實現地緣政治目標的首選。

防範以「求財」為目的的勒索攻擊，依然是未來的艱巨任務。2023年，全球勒索軟件攻擊頻率自第二季度起大幅攀升。一旦遭遇勒索，企業不得不在停工停產造成的經濟損失和贖金損失當中做出二選一的選擇，這是一筆「經濟賬」，其中大部分會選擇繳納贖金。在巨大的經濟利益誘惑下，勒索攻擊的形勢將會持續增長。

雲平台漏洞和後門造成事故頻發，客戶、雲平台、安全公司「三方制衡」的機制成為趨勢。確保雲平台不出事，不能單靠技術，還要靠機制。雲平台對客戶來說是黑盒產品，事故產生原因有兩方面。一方面是漏洞後門被攻擊，另一方面是雲平台質量不佳。甲方可以通過安全公司查證事故是由安全事故導致的，還是需要提升雲平台的質量。

「零信任」體系應對複雜網絡攻擊的作用，得到充分驗證。現在，攻擊者越來越多地利用零日漏洞，瞄準邊緣設備和虛擬化軟件逃避檢測。「內鬼」的作祟，也讓傳統安全防護手段屢屢失效。通過實時憑證驗證強化身份安全，採用微隔離手段的零信任技術，可以進行更全面的實時安全防護，真正應對好複雜的網絡攻擊，亟需在更多行業、更大範圍推廣。

與此同時，攻防雙方將在AI利用方面展開競賽。生成式人工智能降低了網絡攻擊門檻，使網絡攻擊出現倍增，未來可能會出現利用人工智能增強網絡犯罪的趨勢。同時，它也能提升安全運營的效率，增強網絡安全響應能力，從而改善網絡安全防禦的效果。這將推動攻防雙方的對抗與博弈持續演進。