新研究觀測到人工智能能夠自我複製

#新研究觀測到AI能自我複製# #研究發現AI可利用系統漏洞自主複製遷移#【新研究觀測到人工智能能夠自我複製】據英國《衛報》網站5月7日報導，一項新研究發現，最近研發的人工智能系統能夠獨立地將自身複製到其他計算機上。

報導稱，美國帕利塞德研究所負責人傑佛瑞·拉迪什說：「我們正快速逼近一個臨界點，屆時沒人能夠關停失控的人工智能。因為這類人工智能能夠自行外泄自身權重，並把自身複製到全球數以千計的計算機中。」位於伯克利的帕利塞德研究所開展了這項研究。

近幾個月來，越來越多令人不安的人工智能能力被披露，這項研究又添一例。

和諸多此類新狀況一樣，帕利塞德研究所的發現存在局限性。此外，專家說，他們測試的人工智能系統很難在現實環境中悄無聲息地完成同樣的自我複製行為。

進攻性網絡安全領域專家傑米森·奧賴利說：「很多情況下，他們的測試環境就像軟果凍一樣缺乏防護。」

他補充說：「這並不會否定這項研究的價值，但也意味著，在只具備中等監控水平的真實企業環境中，實際情況可能遠沒有那麼可怕。」

帕利塞德研究所在由多台計算機聯網構成的受控環境中測試了多款人工智能模型。研究人員向這些模型下達指令，要求其尋找並利用系統漏洞，將自身從一台計算機複製到另一台計算機。這些人工智能模型能夠完成該操作，但並非每次嘗試都能成功。

奧賴利說，儘管已經有多種計算機病毒能夠將自身複製到新計算機上，但這大概率是首次有人工智能模型被證實能夠利用系統漏洞，將自身複製到新服務器上。「惡意軟件數十年來一直在四處傳播自身副本。只是據我所知，現實環境中沒有人(用大型語言模型)實現過這一操作。」

但他補充說，從技術層面來講，帕利塞德研究所記錄的這類行為，數月前就已經具備實現條件。

人工智能模型在測試環境中將自身複製到其他系統，和其在末日場景中失控完全不是一回事。如果想要在現實世界中做到這一點，人工智能還需要克服重重阻礙。

第一個阻礙在於，當前人工智能模型體量龐大。在多數場景下，這類模型想要悄悄將自身複製到其他計算機並不現實。

奧賴利說：「試想一下，每次入侵一台新主機，都要向企業網絡傳輸100GB的數據，這會產生多大的流量異動。對於專業攻擊者而言，這無異於揮舞著鏈球在精品瓷器店裡穿行。」

奧賴利和獨立網絡安全專家米赫洛域烏·沃伊尼亞克都表示，帕利塞德研究所使用的測試環境為定製搭建，其中刻意設置的漏洞相比銀行、企業內網等現實網絡環境中的漏洞更容易被利用。

沃伊尼亞克說：「計算機病毒已經存在數十年，這類惡意軟件能夠利用其他軟件的已知漏洞實現自我複製。」

他說，這項研究「很有趣」。但他表示：「作為一名信息安全專家，這篇論文會讓我夜不能寐嗎？完全不會。」（編譯/卿鬆竹）