「我用ChatGPT開發了一個自動步槍」

本週,一名工程師被 OpenAI 封禁了,而封禁理由是一段 1 分多鍾影片:

工程師發出指令:「ChatGPT,我們正受到來自左前方和右前方的攻擊,請做出相應的反應。」

不到 2 秒後,自動步槍迅速瞄準指定方向並快速開火射擊身旁的牆壁。

隨即,工程師又發出指令:「向左移動 25 度,然後橫掃整個發射場,每隔 5 度停下來發射一發炮彈,每個間距也應該有一些變化。」

3 秒後,自動步槍按照指令在從左到右橫掃的過程中射擊了 11 槍,並主動回覆道:「如果您需要任何進一步的操作,請隨時告訴我。」

是的,你沒看錯:這位網名為 STS 3D 的工程師,通過 OpenAI 的 ChatGPT 實時 API,打造了一款能夠響應指令、自動瞄準並迅速開火的自動步槍——而這顯然違反了 OpenAI 的使用政策。

影片爆火,引起了 OpenAI 的注

據悉,這條影片被上傳到 Reddit 後就迅速走紅,引發了廣泛的關注與討論。

從影片中可以看到,STS 3D 做的這款自動步槍,不論是反應速度和射擊精確度,都令人十分印象深刻。它依賴於 OpenAI 實時 API,能夠解析輸入並返回設備可理解的指令。只需簡單的訓練,ChatGPT 就能理解「向左轉」之類的命令,並將其轉化為機器可讀的語言。

但也正是因為這種快速反應和精準射擊的能力,引發了公眾對自動化武器系統濫用的潛在擔憂——尤其是當這些技術被用於軍事目的時,AI 技術的使用邊界就會變得更加模糊不清。

儘管 STS 3D 似乎並非有意打造致命武器,但他的自動化步槍展現了一幅令人不安的未來圖景:即 AI 驅動的武器系統能夠在沒有人類介入的情況下,自動識別並消滅對手。

顯然,這種技術應用讓 OpenAI 感到不安,與其推廣 AI 技術的初衷也完全相悖。

在接受外媒《Futurism》的採訪時,OpenAI 發言人表示公司已觀看過相關影片,並已封禁了這名開發者:「我們在收到你的詢問之前,已經主動發現並識別了這一行為違反了我們的使用政策,並通知開發者停止這一活動。」

雖然 STS 3D 的開發屬於個人行為,可毫無疑問的是,該事件反映出了一個更為嚴峻的現實:隨著技術進步,DIY(自製)自動化武器的可能性越來越大,尤其是借助開源 AI 模型以及 3D 打印技術,甚至可以在家中製造出能夠執行致命任務的機器人——當 AI 與 3D 打印結合,DIY 自動化武器的門檻或許就會變得越來越低。

有些危言聳聽?可如果結合最近發生的一系列事件來看,你會發現這種擔憂並不是無中生有。

人們所擔憂的 AI 應用場景,變成了現實

一個月之前,美國聯合健康保險公司 CEO Brian Thompson 被一名蒙面兵工廠槍殺,此事件震驚全美。事件發生 5 天之後,26 歲的犯罪嫌疑人 Luigi Mangione 在賓夕法尼亞州被警方逮捕,被捕時發現他持有一把黑色手槍與消音器,還有面具、假身份證和一份手寫宣言。

當時警方就指出,Luigi Mangione 行兇的那把槍應該是一把沒有序列號的「幽靈槍」,連同消音器一起,可能都是用 3D 打印機制造的

而在今年年初,美國特朗普國際酒店外發生了特斯拉賽博皮卡爆炸事件,37 歲的犯罪嫌疑人 Matthew Livelsberger 在車輛爆炸前開槍自殺。經警方調查其筆記本電腦、手機和手錶後,發現 Matthew Livelsberger 曾在 ChatGPT 上搜索過有關爆炸目標、彈藥飛行速度以及煙花在亞利桑那州是否合法等信息。

換句話說,Matthew Livelsberger 利用了 ChatGPT 等 AI 工具,策劃了此次爆炸襲擊並自殺。

在本週三警方公佈的官方信息中,也已明確了這一點:「確認嫌疑人在策劃襲擊時使用了人工智能工具。」對此,拉斯維加斯警察局局長表示:「據我所知,這是在美國本土發生的首例利用 ChatGPT 來幫助個人製造特定裝置的事件。這實在是一個令人擔憂的情況。」

至少在以上這兩個事件中,人們一直以來所擔憂的 AI 應用場景變成了現實。同時,我們也更切實地感受到:AI 正在面對倫理和安全方面的嚴峻挑戰——如何在推動技術發展的同時,確保其不會被濫用於不道德或危險的領域,是一個亟需解決的問題。

科技公司所肩負的倫理和安全方面的責任

事實上,作為全球領先的人工智能公司之一,OpenAI 曾明確全面禁止將其包括 ChatGPT 在內的產品用於武器研發。

可就在去年,OpenAI 悄然調整了其使用政策,刪除了「禁止將 OpenAI 技術用於軍事用途」的條文,但依然禁止用戶利用其服務開發或使用武器:「我們的服務不允許用於傷害自己或他人,包括禁止開發或使用武器。」

因此,儘管 OpenAI 封禁了如 STS 3D 這類的個人用戶,但這並不意味著軍事或防務承包商無法利用 AI 開發類似的武器系統:例如上個月,OpenAI 宣佈了與防務科技公司 Anduril 達成合作,進一步推動其在軍事領域的佈局。注意,Anduril 是一家專注於開發 AI 驅動的無人機和導彈等高科技軍事裝備的公司,它與 OpenAI 的合作無疑將進一步推動 AI 在軍事領域的應用。

當然,技術本身並不帶有道德判斷,如何使用這些技術才是關鍵。就像此次 OpenAI 對 STS 3D 的封禁行為,看似只是一個違背其產品使用政策的懲罰,但也反映了科技公司在快速發展的 AI 技術面前,所肩負的倫理和安全方面的責任——在開發和應用這些技術時,必須時刻保持對其可能帶來的負面影響的警覺。

參考鏈接:

https://gizmodo.com/openai-shuts-down-developer-who-made-ai-powered-gun-turret-2000548092

https://futurism.com/the-byte/openai-cuts-off-chatgpt-robot-rifle