全球首個ChatGPT爆炸案，AI教特種兵造炸彈，特朗普酒店遭自殺襲擊
全球首起公開發現借助ChatGPT的犯罪事件，剛剛震驚全美。拉斯維加斯特朗普酒店外發生的Cybertruck爆炸案中，37歲嫌犯利用ChatGPT製造炸彈、查詢信息。警方放出的資料顯示，ChatGPT在這起案件中起到了重大作用。
最近，「全球第一起利用ChatGPT計劃的恐襲事件」，震驚了整個世界。
在搜索了嫌犯的筆記本電腦、手機和手錶後，警方發現，這位名叫Matthew Livelsberger的37歲襲擊者，利用ChatGPT搜索了相關爆炸目標、彈藥飛行速度、煙花在在亞利桑那州是否合法的信息。
也就是說，嫌犯策劃這次襲擊時，曾通過ChatGPT學習了如何製造炸彈！
拉斯維加斯大都會警察局警長表示，這是美國境內首次發現有人利用ChatGPT協助製造特定裝置的案件。這起案件表明，GenAI已經徹底改變了遊戲規則。
這也讓我們再次對ChatGPT等AI模型的安全性感到擔憂。
畢竟此前就有研究顯示，如果用過去時態，GPT-4o、Llama 3等大模型就會脫口而出「莫洛托夫雞尾酒」（一種武器）的製作過程，以及冰毒的合成配方。
如此易得的犯罪手法，如今果然被人應用到現實世界了。
而對此，OpenAI的回應是：我們致力於讓用戶「負責任地」使用其工具，並讓AI工具拒絕有害指令。
在這次事件中，ChatGPT回覆的是互聯網上已公開的信息，並且已經對有害或非法活動給予了警告。我們正與執法部門合作，支持他們的調查工作。
事件始末
資料顯示，37歲的Matthew Livelsberger曾是美軍特種部隊「綠色貝雷帽」（Green Beret）的一名隊員，負責海外反恐和訓練合作夥伴。
自2006年起，他就在陸軍服役，通過多年的海外任務逐步晉陞軍銜，期間曾兩次被派往阿富汗，還在烏克蘭、塔吉克史丹、格魯吉亞和剛果執行任務。
他共獲得了五枚銅星勳章，戰鬥步兵徽章，以及一枚帶有英勇標誌的陸軍嘉獎勳章。
Livelsberger與妻子育有一個孩子。然而，當妻子發現他對自己不忠後，兩人發生了爭執。
在聖誕節的第二天，Livelsberger便離開了家。
案發前，Livelsberger來到科羅拉多州，並從租車平台Turo租下了一輛Cybertruck。
隨後，他在車內裝了60磅（27公斤）煙火材料，以及70磅（32公斤）鉛彈（birdshot）。
甚至，還特意在途中將高性能賽車燃料澆在了這些爆炸物上。
案發當天，也就是2025年1月1日，他駕駛Cybertruck前往拉斯維加斯，並將車停在了特朗普酒店門前的泊車待客區域。
監控錄像顯示，Cybertruck在駛入特朗普酒店門口前，地面清晰可見泄露燃料的痕跡。
早上8點40分，Cybertruck突然間發生劇烈爆炸，現場火光四濺，便燃起了熊熊大火。
這場災難性事件造成了7人受傷。
警方在後續的調查中發現，在爆炸發生前瞬間，車內出現了一道明顯的發亮。
結合他與ChatGPT的對話記錄，警方認為，這很可能就是Livelsberger開槍自殺的時刻。
車內被發現裝有大量的煙花和其他爆炸物「嫌犯」之一，是ChatGPT
如前所述，進一步調查顯示，這次爆炸事件的背後「主謀者」之一ChatGPT，也無法逃脫干係。
警方公開的截圖中，清晰可以看到Livelsberger在案件發生前，曾與ChatGPT進行了多輪對話。
12月27日當天，他接連詢問了ChatGPT多個問題——
煙花在亞利桑那州合法嗎？
那科羅拉多州呢？
在這兩個州之間，我從哪裡可以買到煙花？
最好的長管500 Smith & Wesson是哪款？
哪種長度的速度更快？
哪種型號的FPS（每秒英呎數）最高？
丹佛最大的槍械商店是哪家？
Smith & Wesson 500型，3英吋槍管的初速是多少？
它能引燃Tannerite嗎？
SLR 308手槍，7.5英吋槍管的初速是多少？
哪種子彈能達到超過2000 fps的初速？
在亞利桑那州可以買多少Tannerite？
200磅的淨爆炸量是多少？
與炸藥相比，這種量如何？
哪些手機在激活時不需要個人信息？
在科羅拉多購買Tannerite有什麼限制嗎？
多少Tannerite相當於1磅TNT？
50口徑Desert Eagle手槍能不能把它引爆？
哪種手槍可以引爆它？
500 Smith & Wesson能引爆它嗎？
哪種彈藥可以確保引爆？
在零距離下，什麼可以引爆它？
除此之外，警方還發現了一篇題為「監控記錄」的日誌。
Livelsberger在其中寫到，自己正被執法部門跟蹤，並且擔心自己會被貼上恐怖分子的標籤，因為人們可能會認為，他打算殺死除自己以外的其他人。
（ 但 實 際上， 他並未進入警方或FBI的視線 。）
而這次事件的導火索，很可能是他在日誌中提到的對政治的不滿——「美國已經病入膏肓，走向崩潰」。
根據日誌內容，他原本計劃在亞利桑那州的大峽穀玻璃棧道上實施計劃，但後來不知為何改變了主意。
值得注意的是，雖然作案地點和工具頗具指向性，但根據警方的調查，Livelsberger並沒有對特朗普和馬斯克有任何敵意。
如何阻止GPT化身「邪惡科學家」
這類事件也給我們敲響了警鍾：如果ChatGPT會將危險信息不假思索地脫口而出，我們該怎麼辦呢？
其實，早在2023年12月，來自中科大、微軟研究院和南洋理工的聯合團隊，就開發了一個名為SciGuard的智能體，用以控制AI在Science領域的濫用風險，並提出了首個專注於科學領域安全的紅隊基準來評估不同AI系統的安全性。
實驗結果顯示，SciGuard在測試中顯示出了最小的有害影響，同時保持了良好的性能。
論文地址：https://arxiv.org/abs/2312.06632SciGuard與人類價值觀對齊，並且加入了各種科學數據庫與監管數據庫等。
其中，智能體可以使用各種科學工具和AI4Science模型來提供額外信息，來輔助SciGuard對用戶意圖進行判斷。
具體來說，SciGuard內置了一套為科學領域量身定製的安全原則和指導方針。
這些原則和方針考慮了科學研究中可能遇到的各種風險因素，包括但不限於高風險物質的安全處理、數據隱私的維護以及對法律法規的遵守。
為了實現這些安全原則和指導方針，SciGuard利用了PubChem等公認的科學數據庫來構建其長期記憶庫。通過這些數據，SciGuard能夠對用戶的查詢進行深入的風險評估。
SciGuard處理複雜任務的另一個關鍵技術是著名的思維鏈（CoT）方法。
CoT允許SciGuard通過迭代的方式，精細化地規劃任務的每一個步驟。這種方法讓SciGuard在執行任務時，能夠分解複雜任務，並確保每個動作都符合安全和倫理標準。
通過這些技術特點，SciGuard不僅能夠有效地控制科學AI模型的風險，還能夠提高科學研究的效率和安全性。
這一系統的開發，在保證了科學研究的自由探索與創新的同時，也為確保人工智能的安全合理使用提供了有力的範例。
這項研究不僅是對科技發展的一次深刻反思，更是對全社會責任的一次呼喚。
我們需要在積極推進AI4S模型的發展的同時，切實控制技術帶來的潛在風險，確保科技的進步不僅是對人類的一次技術升級，更是對社會責任和倫理的提升。
只有這樣，我們才能真正走向一個由智慧和道德共同指引的未來。
參考資料：
https://www.8newsnow.com/news/local-news/sheriff-to-hold-1-p-m-news-conference-with-latest-on-new-years-day-bombing-at-las-vegas-trump-hotel/
https://www.themirror.com/news/us-news/las-vegas-cybertruck-bomber-used-896730
本文來自微信公眾號「新智元」，作者：編輯部 HYZ，36氪經授權發佈。
