微軟AI CEO穆斯塔法：當技術浪潮洶湧，人類該如何自救？

隨著人工智能、生命技術和量子技術的崛起，我們已經悄然置身於一個前所未有的時代變革之中。

未來已來，新興科技浪潮洶湧澎湃，普通人將如何在新興科技的浪潮中立足？穆斯塔法·列文讓我們不僅要關注科技發展，更要思考人類如何適應和控制這些強大的力量。

DeepMind聯合創始人、微軟人工智能CEO穆斯塔法·舒里文尼在新書《浪潮將至：技術、權力與未來的衝擊》中為我們描繪了一個既充滿機遇，又潛藏危機的未來世界。這是一次對人類命運的深刻探討，也是每一個關心未來的人不可錯過的必讀之作。

穆斯塔法·舒里文尼認為，未來10年將被這一波強大、快速擴散的新技術所定義。我們既要積極擁抱這些技術，又需製定周密的遏製策略和安全措施，以保證新技術的健康發展。

他和米高·巴斯卡爾（Michael Bhaskar）一起，在《浪潮將至》這本書里，他們把前沿科技比喻成即將到來的技術浪潮，並類比國際政治領域的「遏製」，創造性地提出了科技領域的「遏製問題」——如何在享受技術帶來的巨大利益的同時，保持對強大技術的約束和控制。

難能可貴的是，作者探索出了一系列「遏製浪潮」的步驟，既展示了強大技術創造的巨大繁榮，又引領我們直面技術的重大威脅，為我們提供了一套切實可行的應對策略。

「從我們當前的情況來看，試圖遏製這場浪潮（即對其進行控制、限制或阻止）似乎是不可能的。本書探討了其背後的原因，以及這一趨勢若無法改變，將對人類意味著什麼。這些問題的含義最終將影響每一個生活在當下的人，以及我們所有的子孫後代。」

技術的軍事性：浪潮下的軍備競賽

技術已成為全球最重要的戰略資產。與其說技術是外交政策的工具，不如說它是外交政策的驅動力。21 世紀的大國競爭，本質上是一場關於技術優勢的較量，誰能掌控即將到來的技術浪潮，誰就能在這場競賽中佔據先機。

目前，幾乎每個國家都已製定出詳細的人工智能戰略。

俄羅斯總統普京認為，領導人工智能技術者將成為「未來世界的統治者」。

法國總統馬克龍表示：「我們將傾盡全力構建歐洲的元宇宙。」在馬克龍以及其他許多人看來，歐洲的國家安全、繁榮與聲望等所有一切，都取決於其能否成為除中美之外的「第三極」力量。

從生物科學和人工智能（英國的強項）到機器人技術（德國、日本和南韓等國的專長），再到網絡安全（以色列在此領域尤為出色），各國在技術領域各有千秋。

面對即將到來的技術浪潮，每個國家都在特定的技術領域啟動了重要的研發項目。

在全球大國的新秩序中，印度已經明顯崛起為繼美國、中國和歐盟之後的第四大支柱力量。印度人口結構年輕，國民富有創業精神，城市化進程持續深化，國際化水平穩步提升，科技發展水平也日新月異。

預計到 2030 年，印度將超越英國、德國和日本等國家，從而成為全球第三大經濟體；到 2050 年，其經濟總值預計將達到 30 萬億美元。

印度政府正努力將印度的科技夢想轉化為現實。通過實施「自立印度」計劃，印度政府正致力於確保這個世界上人口最多的國家掌握能夠與美國和中國相抗衡的核心技術體系。

在該計劃的推動下，印度已開始積極與其他國家進行合作，例如與日本在人工智能和機器人技術域建立了合作關係，與以色列在無人機領域展開了合作。印度的技術浪潮已在湧動。

在技術領域，軍備競賽已不再是新奇的說法，也不再是「自我實現預言」。這個預言已然成為現實，正在我們眼前上演。

技術的政治性：浪潮下的秩序變革

歷史上的每一次技術浪潮都帶來了深遠的政治影響，預計未來仍會如此。

最近的一次技術浪潮以大型計算機、台式計算機、電腦軟件、互聯網和智能手機的出現為標誌，為社會帶來了難以估量的利益。

技術已經逐漸侵蝕了民族國家原本穩固的主權邊界，它開啟了人口、信息、思想、經驗、商品、資本和財富的全球化流動，並不斷推動這一趨勢。

正如我們所觀察到的，技術在地緣政治戰略中佔據著舉足輕重的地位，它幾乎滲入了人類生活的方方面面。在新的技術浪潮到來之前，技術已經是世界發展的重要驅動力，但它也導致了全球民族國家體系的穩定性日益下降。

簡言之，技術與政治秩序之間緊密相連。新技術的出現往往會帶來重大的政治影響。正如大炮和印刷術曾經顛覆了社會格局一樣，我們也應該相信人工智能、機器人技術和合成生物學等能夠引發同樣的變革。

未來趨勢將主要沿著兩個方向發展，並可能產生一系列中間結果。

一方面，某些自由民主國家的內部社會結構會繼續削弱，最終演變為「殭屍政府」。

另一方面，若不經思考地全盤接受即將到來的技術浪潮的某些要素，可能會導致國家控制力過度擴張，進而催生出比歷史上最極端的極權政府還要強大的超級權力體。

技術的風險：急劇增加的不確定性

一戰和二戰分別導致全球約 1% 和 3% 的人口死亡。隨著原子彈的出現，人類現在擁有了足以多次毀滅地球上所有生命的致命力量。過去需要數年甚至數十年才可能發生的災難性事件，現在只需按下按鈕，便可在幾分鐘內發生。

隨著新的技術浪潮逼近，我們又朝著潛在的災難邁出了一大步。風險的上限顯著提升，同時，那些企圖釋放災難性力量的人所擁有的途徑也大幅增加。

技術的初衷是提升人們的生活水平，確保其益處遠超其成本和負面影響。然而，當前我們所面臨的嚴峻抉擇卻表明，這一初衷已被徹底顛覆。

我們已經看到，在新的技術浪潮下，不法分子有可能造成嚴重破壞，引發大規模的不穩定。請想像一下，當任何一個具備一定能力的實驗室或黑客都能合成複雜的 DNA 鏈時，我們離災難性事件還有多遠？

最終，隨著史上最具影響力的技術滲入我們生活的方方面面，極端情況的發生概率也將大幅提升。一定會出現一些問題，其嚴峻程度和擴散速度都將與技術所蘊含的巨大能力相當。新技術浪潮的 4 個特徵預示著，如果不在各個層面採取強有力的遏製措施，那麼像人為策劃的流行病這樣的災難性後果將比以往任何時候都更可能發生。

毫無疑問，技術風險給我們帶來了諸多新的不確定的趨勢。不過，所有趨勢都表明風險正在急劇增加。這種推測是基於科學和技術進步不斷疊加的效應。

技術的停滯：日益顯現的持續性危機

即便在動盪不安的時期，我們也相信 21 世紀的供應鏈堅如磐石，足以應對各種挑戰。

然而，沒有什麼是永恒的。歷史上社會崩潰的案例俯拾皆是：從古美索不達米亞文明到古羅馬雲明，從瑪雅文明到復活節島文明，我們反復注意到文明難以持久，似乎文明的不可持續性是其宿命。文明的崩潰並非個例，而是一種常態。

一項針對 60 個文明的研究揭示，這些文明的平均存續時間大約為 400 年，之後便分崩離析。沒有新技術的支持，它們就會在能源供應、糧食生產和社會結構方面遭遇發展瓶頸，這些因素最終將引發其崩潰。

數百年來，技術的持續發展似乎使社會得以掙脫歷史規律的桎梏。然而，認為歷史的動態演變已經停滯不前是一種誤解。21世紀的文明固然與瑪雅文明大相逕庭，但龐大且渴望權力的上層建築、眾多的人口、能源供應以及文明發展的硬性限制依然存在；它們所帶來的影響只是被暫時抑制了。

在未來一個世紀，全球人口將呈現下降趨勢，而在某些國家，這一降幅將會尤為顯著。隨著勞動年齡人口比例的變化，勞動力將減少，這將使得經濟難以維持當前的發展水平。換言之，如果沒有新技術的支持，我們將無法保持現有的生活水平。

資源壓力同樣是一個無法迴避的問題。想一想，清潔能源領域的材料採購，乃至其他各種材料採購，都具有極高的複雜性和不穩定性。

預計到 2030 年，鋰、鈷和石墨的需求將增長 500%。目前，電池是清潔能源技術的核心應用之一，然而電池技術因受存儲容量限制，尚不能滿足許多應用場景中幾分鐘甚至幾秒鍾的能源消耗需求。為了替代迅速減少的化石能源儲備或彌補整個材料供應鏈的不足，我們迫切需要尋找解決方案。這意味著我們必須在材料科學等領域實現新的科學技術突破。

請注意：停滯不前本身就是災難。

即使存在可能性，試圖阻止即將到來的技術浪潮的想法也並不受歡迎。維持現有生活水平已然離不開技術，更不用說提高生活水平了。同時，防止社會崩潰也需要技術的支持。對技術說「不」的代價可能關乎人類的生死存亡。然而，無論我們以何種態度面對技術，其都伴隨著重大風險和潛在負面效應。

這就是我們面臨的巨大困境。

穿越浪潮：邁向遏製的 10 個關鍵步驟

因此，我們迫切需要一個清晰明確的目標，一個能將技術領域的各種努力凝聚在一起的旗幟。無論是面對新興的通用人工智能技術，還是新奇的生物形態，我們的目標必須一致：技術遏製。

1. 安全：技術安全的阿波羅計劃

從物理上控制技術很重要。

最嚴格的控制模式仍然是物理層面的控制，這適用於服務器、微生物、無人機、機器人以及算法等各類技術元素。

物理隔離僅僅是調整技術安全架構以迎接新技術浪潮挑戰的方式之一。充分利用現有手段是技術遏製的重要的第一步。例如，核能由於切爾諾比利核事故和福島核事故等眾所周知的災難而名聲不佳。

在人工智能領域，技術安全措施還包括沙盒和安全模擬，這些措施用於構建可驗證安全性的氣隙環境，以便在先進的人工智能系統被實際應用之前對其進行嚴格的測試。

我們還應在開發和生產過程中建立切實有效的技術約束。

我們要為這些想法的實現提供必要的智力和物質支持，並認識到雖然技術設計不是所有的答案，但它是答案中不可或缺的一部分。

2. 審計：知識就是力量，力量就是控制

審計聽起來很無聊。這也許是必要的，卻極其乏味。

然而，它對技術控制來說至關重要。為技術創建安全的物理或虛擬隔離容器（就像我們在前文中討論的工作）是基礎。

信任源自透明度。我們絕對需要在各個層面驗證系統的安全性、完整性和未受損狀態。

外部審查的重要性不言而喻。

在技術層面，精準監督機制仍有待進一步發展。

3. 技術命門：爭取時間

在技術「超級進化」的時代，爭取時間尤為寶貴。我們需要爭取時間以製定更為周密的遏製策略，建立額外的安全措施，測試技術的緊急關閉機制，構建更為完善的防禦技術，鞏固民族國家的基礎，實施更有效的監管，或推動重要法案的通過，以及組建高效的國際聯盟。

4. 開發者：批評者也應參與開發工作

技術發展的驅動力固然不可阻擋，但技術製造者並不能因此逃避對其創造物的責任。相反，我們每一個人，都肩負著明確的責任。沒有人是被迫進行基因改造實驗或構建大語言模型的。技術不可避免的擴散與發展趨勢並非一張免罪符，也不是一張允許技術構建者隨意打造、任由結果發生的通行證。其更像是一則沉重的警示，提醒我們必須謹慎行事，否則後果將不堪設想。

5. 企業：利潤 + 使命

利潤驅動著即將到來的技術浪潮。要想保障安全，就必須正視並應對這一現實。對於像人工智能和合成生物學這樣的飛速發展的技術，我們必須探索新的、負責任且包容的商業模式，既要確保安全，又要追求利潤。我們應該有能力創立更加擅長控制技術的公司。

6. 政府：生存、改革、監管

我們已經看到，技術問題確實需要技術上的解決方案，但僅僅依賴技術是不夠的。國家的繁榮同樣重要。我們必須全力支持那些旨在強化自由民主的國家，使之能夠抵禦各種壓力。國家仍然掌控著眾多文明基本要素，比如法律、貨幣供應、稅收、軍事等。這將對它們接下來要完成的任務大有裨益。它們需要創建並維護具有韌性的社會系統、福利網絡、安全架構和治理機制，以應對嚴峻挑戰。

7. 聯盟：是時候製定條約了

國家不願輕易放棄權力，正如公司不想錯過任何利潤。然而，過往的一些禁令為我們提供了寶貴的經驗，它們就像是激烈技術競爭環境中的一線希望。每個禁令背後都有其獨特的條件和挑戰，它們既推動了禁令的出台，也妨礙了其順利實施。但關鍵在於，這些禁令都是世界各國團結一致、相互妥協以應對重大挑戰的典範，為我們應對即將到來的技術浪潮提供了重要的線索和框架。一個政府要全面禁止合成生物學或人工智能應用，顯然是不可能的，最多隻能實現部分、脆弱的控制。但如果是一個強大且充滿動力的國際聯盟呢？那或許能夠取得一定的成功。

8. 文化：正確地接受失敗

前沿技術領域的每個人都必鬚髮自內心地認可它。提出和完善倫理、安全方面的倡議和政策固然重要，但更為關鍵的是，執行者必須真正相信這些倡議和政策的重要性。

遏製技術風險不僅要依靠特定的政策、清單或倡議，還需要培育一種自我批判的文化。這種文化應積極踐行安全理念，並歡迎監管人員深入實驗室，與技術人員共同學習、互相監督。要想有這樣的文化，每個人就都要積極投入、承擔責任，並保持熱愛。

9. 運動：公眾的力量

在技術即將徹底改變全球和我們這個物種的未來之際，強調全人類的「我們」顯得尤為重要。如果宏大的「我們」概念未能產生實際效果，那麼這將迫切要求我們構建一個真正有意義的共同體。歷史告訴我們，變革往往源於人們的有意識的奮鬥。來自公眾的壓力推動了新規範的產生。諸如廢除奴隸製、爭取婦女選舉權、爭取公民權利等偉大的道德成就，都是人們通過不懈努力、建立廣泛的聯盟並基於一個宏大的訴求實現的。氣候問題受到重視，不僅僅是因為人們注意到極端天氣的出現日益頻繁，更是因為基層活動家、科學家以及作家、名人、企業高管和政治家在共同努力，他們呼籲有意義的變革，並付諸行動，因為他們想做正確的事情。

10. 狹窄小道：唯有穿越

第 10 步著重於整體協調，確保前述每個要素都能與其他要素和諧並存，共同發力。遏製是一個措施之間相互強化、形成良性循環的過程。從這個角度來看，遏製並非單一建議所產生的結果，而是這些建議相互交織、共同作用所產生的綜合效應，是社會在學習管理和減輕「技術人」風險的過程中自然產生的結果。

遏製不是終點，而是一條狹窄且永無止境的道路。

那麼，我們能否成功遏製即將到來的技術浪潮呢？

展望未來，技術將引領人類走向無數可能的方向，釋放巨大的潛能，並具備改變世界的力量。然而，在這些潛在的發展方向中，許多似乎都難以得到有效遏製。因此，從此刻起，我們必須始終小心地行走在狹窄小道上，謹記稍有不慎就會跌入深淵。