美國啟動「曼哈頓計劃2.0」，AI進入奧本海默時刻？60億砸向無人機，已有800個AI項目

【導讀】曼哈頓計劃2.0來了？截止目前，美國軍方已經擁有800多個活躍的AI項目，僅在24年就為AI申請了18億美元的資金。在未來五年內，美國還將撥款60億美元，用於無人協作戰鬥機的研發。現在，AI似乎已經進入了奧本海默時刻。

人工智能，已經進入奧本海默時刻。

現在，AI武器不斷被用於軍事用途，相關行業正在蓬勃發展。

價值數十億美元的AI軍備競賽，已經吸引了矽谷巨頭和世界各地的國家。

世界各地日益加劇的衝突，既是AI戰爭的加速器，也是試驗場。各國軍隊都對AI有著極大的興趣，而且，這一領域目前還缺乏監管。

而美國軍方，已經擁有了800多個活躍的AI項目，僅在2024年，就已經在預算中為AI申請了價值18億美元的資金。 

在世界各地軍隊和政府中紮根的AI，很可能在根本上改變社會，改變技術，改變戰爭。 

無人機廣告成真

在近距離的城市戰鬥中，一隊士兵正在遭受火箭彈的攻擊。 

其中一人通過無線電撥打電話，不久後，配備炸藥的一隊小型自主無人機飛來。 

這些自殺式無人機飛進建築物中開始掃瞄敵人，找到目標後，就會根據命令引爆。 

以上這個畫面，來自武器公司Elbit的廣告，來宣傳AI無人機能怎樣「最大限度地提高殺傷力和戰鬥節奏」。 

現在，Elbit開發的技術，已經越來越多地進入現實世界。 

新美國安全智庫中心執行副總裁兼研究主任Paul Scharre表示：「隨著時間的推移，我們可能會看到人類將更多判斷力讓給機器。」 

「如果我們在15或20年後回過頭來看，會意識到我們已經越過了一個非常重要的門檻。」 

美國斥資10億美元，用於「複製者計劃」

雖然AI發展是近幾年才迎來投資的激增，但戰爭中自主武器系統的發展，最早可以追溯到幾十年前。 

當然，這些進展很少出現在公眾討論中，而是少數學者、軍事戰略家研究的課題。 

但是現在，公眾對AI的關注度不斷提高。武器是否真正「自主」，也成為熱議的話題。 

在專家和研究人員看來，我們可以把「自主」理解為一個範圍，而非簡單的二元概念。 

但他們普遍認為，如今機器能夠比以往任何時候在沒有人類輸入的情況下，做出更多的決策。 

而且，大量的資金也在瘋狂湧入公司和政府機構，它們承諾：AI可以讓戰爭變得更智能、更便宜，也更快。 

五角大樓計劃，到2025年斥資10億美元用於其「複製者計劃」。這項計劃的目標是開發大量無人駕駛作戰無人機，利用AI來尋找威脅。 

在未來五年內，美國空軍計劃撥款約60億美元用於無人協作戰鬥機的研發，從而建立一支由1000架可自主飛行的AI戰鬥機組成的機隊。 

近年來，美國國防部還籌集了數億美元，來資助名為Project Maven的秘密人工智能計劃，這項計劃重點在自動目標識別和監視等技術。 

科技公司紛紛簽訂巨額合約

同時，軍事上對AI和自主性日益增強的需求，幫科技公司和軍火商們紛紛贏得了巨額訂單。 

Anduril是一家開發自主攻擊無人機、無人戰鬥機和水下航行器的公司，正在籌集全新一輪風投，預計估值125億美元。 

Anduril的創辦者Palmer Luckey是一名31歲的億萬富翁，他今年已經和五角大樓簽訂了一份合約，用於建立無人駕駛戰機項目。 

矽谷億萬富翁Peter Thiel，也創立了一家技術和監控公司Palantir。它已經參加了美國陸軍「第一輛人工智能定義的汽車」等AI項目。 

5月，五角大樓宣佈授予Palantir一份價值4.8億美元的合約，用於幫助識別敵方目標的AI技術。 

目前，Palantir的技術已經在幾次軍事行動中使用。 

Anduril和Palantir，分別以《指環王》中的聖劍和魔法石命名，而這兩家公司，只是國際AI戰爭淘金熱的一小部分。 

Helsing憑藉AI防禦軟件籌集了近5億美元的資金，並在本月估值達到了54億美元。 

同時，Elbit Systems在3月的一份財務文件中披露，公司已於2023年簽訂了7.6億美元的彈藥合約。並且，在過去一年里，收入達到了60億美元。 

與過去幾年相比，大型科技公司也更願意接受國防工業及其對AI的使用了。 

在2018年，Google員工曾抗議該公司參與軍方的Project Maven，認為這違反了倫理和道德責任。當時迫於壓力，Google斷絕了和該項目的合作。 

然而此後，Google又和某國政府達成了一項價值12億美元的協議，為其提供雲計算服務和AI功能。 

今年，因為一些員工抗議軍事合約，Google解僱了數十名員工。而CEO劈柴直言不諱地告訴員工：「這是一門生意」。 

2022年，亞馬遜同樣發生了類似的員工抗議，同樣地，公司並沒有改變政策。 

雙重黑箱

研究人員警告說，隨著大量資金流入國防技術領域，許多公司和技術的運營透明度和問責度極低。 

一旦產品意外失效，結果就是致命的，但這些軍火商通常對此並不負責。 

而且，美國國家安全機構的保密傾向也意味著，公司和政府沒有義務公開這些系統如何運作的細節。 

當政府採用了秘密、專有的AI技術，將其置於國家安全的隱秘世界中時，就會形成維珍尼亞大學法學教授Ashley Deeks所稱的「雙重黑箱」。 

這種情況下，公眾很難知道這些系統是否正確或符合道德地運作。而且，通常來說會留有很大的錯誤空間。 

美國安全智庫中心的Scharre表示：「我在商業領域見過很多關於AI的炒作，『AI』這個詞在到處被濫用。一旦你深入瞭解，就會發現它可能並不像廣告宣傳的那樣複雜。」 

人在回路

雖然公司和國家軍隊不願透露他們系統的具體運作細節，但他們確實參與了很多辯論，關於AI系統的道德責任和監管。 

比如，外交官和軍火商普遍認為，決策過程中應該始終有「人類參與」，而不是完全交由機器控制。 

然而，對於如何實施人類監督，各方卻鮮有共識。 

「每個人都能認同這個概念，但同時每個人又對它在實際中的意義有不同看法，」里士滿大學的法律教授兼自主戰爭專家、DARPA的首位訪問學者Rebecca Crootof說。 

「在實際的指導技術設計決策方面，這個概念並不是那麼有用。」 

此外，人類心理和問責製的複雜性，給「人在回路」的高層討論帶來了更多麻煩。 

研究人員經常引用的一個例子就是自動駕駛汽車，在必要時，人類必須重新控制車輛，來實現「人類參與」。 

但是，如果自動駕駛汽車犯了錯，或者使得人類做出錯誤決策，把責任歸咎於駕駛員公平嗎？ 

再具體一點，如果自動駕駛汽車在撞車的前幾秒鍾，將控制權交給了人類，這種情況下誰該負責？ 

美國安全智庫中心的Scharre指出了一件有趣的事：我們有時會讓人類坐在駕駛艙上，這樣出事時我們就可以找到人擔責了，這就是所謂的「道德緩衝區」。 

如何監管，眾說紛紜

在今年四月底於維也納舉行的一次會議上，來自143個國家的國際組織和外交官齊聚一堂，討論在戰爭中使用人工智能和自主武器的監管問題。 

多年來，聯合國安理會都未就此達成任何全面性條約。 

相比全面禁掉自主武器，奧地利外長Alexander Schallenberg的呼籲要溫和得多——「至少我們該做出最深遠、最重要的決定——誰生誰死仍然掌握在人類手中，而不是機器手中」。 

關於「禁止特定類型的自主武器系統」，國際紅十字會和停止殺手機器人組織已經呼吁了十來年了。 

阻止殺手機器人組織的經理Catherine Connolly表示：「我們看到大量資金投入自主武器和AI瞄準系統等技術，這讓人非常擔憂。」 

如今，情況愈發緊迫。 

軍備控制倡導者們也承認，留給爭取監管的時間不多了。 

某組織危機、衝突和軍備部門的副主任Mary Wareham表示，「我們曾經呼籲對全自主武器系統進行預防性禁止，而現在，我們已經不再使用『預防性』這個詞，因為我們離自主武器已經非常近了。」 

而對於增強監管的呼聲，遭到了美國等國家以及軍火商的反對。 

Anduril的創始人Luckey模糊地承諾在公司的技術中保持「人類參與」，但公開反對對自主武器的監管和禁令。 

Palantir的CEO Alex Karp則多次提到，我們已經到達了奧本海默時刻。 

專家表示，這種缺乏監管的問題不僅僅是自主武器獨有的現象，而是國際法律體系普遍面臨的難題。 

但很多人擔心，一旦這些技術被開發出來並整合到軍隊中，它們就會長期存在，並且更加難以監管。 

「武器一旦被用於軍事中，就更難放棄，因為他們已經依賴它。」美國安全智庫中心的Scharre說。「這已經不僅僅是金融投資了。」 

如果自主武器和AI的發展像其他軍事技術一樣，它們的使用也很可能會逐漸滲透到國內執法和邊境巡邏機構中，從而進一步鞏固這種技術。 

「很多時候，戰爭中使用的技術最終會回到國內。」 Connolly說。 

參考資料： 

https://www.theguardian.com/technology/article/2024/jul/14/ais-oppenheimer-moment-autonomous-weapons-enter-the-battlefield 

本文來自微信公眾號「新智元」（ID:AI_era），編輯：Aeneas 好睏 ，36氪經授權發佈。