英軍情五處設新機構防範AI威脅

【#英軍情五處設新機構防範AI威脅#】據美國《政治報》網站10月13日報導,英國軍情五處負責人13日宣佈,英國情報人員將在應對人工智能(AI)威脅的準備工作中發揮主導作用。此前他警告稱,這項技術可能使恐怖分子獲得生物武器。

軍情五處(英國安全局)處長肯·麥卡勒姆成立了人工智能威脅評估中心,以幫助確定政府如何看待潛在威脅。

麥卡勒姆在倫敦軍情五處總部發表年度威脅評估講話時說:「人類歷史從未給我們提供過面對一個比我們更聰明、能夠在思想上超越我們的行為體的經驗。」

他強調了AI的「真實」風險,稱除了AI驅動的無人機危險之外,軍情五處還抓獲了試圖利用AI「改進其偵察和攻擊方法」的恐怖分子。

雖然還沒有「成為現實」,但他表示,AI具備「改變現有甚至新型生物武器力量格局」的潛力。

他說,如果AI模型中的安全護欄不能按預期生效,「低能力」恐怖分子破壞能力或將得到提升。

麥卡勒姆還表示,長期以來,「許多恐怖分子非常渴望」獲得化學、生物或放射性武器,但他們一直難以實現。一個風險是,AI可能使危險知識落入那些……原本不具備這些知識的人手中。

麥卡勒姆補充說,必須對「AI可能生成前所未有的新型病原體」的風險給予「清醒關注」。他表示,政府正在對生物武器採取「額外措施」。

麥卡勒姆說,軍情五處內部專注於英國對手五年後動向的部門發現,由於有了AI,威脅顯現的時間線正在縮短。

新的AI威脅評估中心將彙集英國人工智能安全研究所、國家反犯罪局和國家網絡安全中心等機構的專業力量,「分清誇大炒作言論與AI對英國公眾構成威脅的真實情況」。

這是軍情五處繼專門分析恐怖主義和國家威脅的類似機構之後,成立的第三個此類中心。

麥卡勒姆還說,軍情五處現在將把國家韌性——例如保護關鍵基礎設施、反製認知戰以及應對技術威脅——及其應對國家威脅和恐怖主義的雙重作用列為「首要任務」。(編譯/盧荻)