兩年倒數！Anthropic CEO萬字長文預言：「強大AI」26年降臨，智力擊敗諾獎得主

【新智元導讀】剛剛，Anthropic CEO Dario Amodei發表長文，展望AGI對世界的影響。他大膽預言：「強大的AI」將在26年降臨，AI將把一個世紀的科研進展壓縮到了5-10年。

就在2024盧保物理學獎和化學獎都頒給了AI之際，Anthropic CEO Dario Amodei也發表一篇展望AGI對世界影響的長文。 

這篇文章題為「Machines of Loving Grace」，副標題為「AI能如何改變世界，創造更美好的未來？」。 

他在裡面提出：AI將把一個世紀的科研進展壓縮到了5-10年。 

擁有強大AI的世界，會是什麼樣子

作為Anthropic的CEO，Dario Amodei經常會思考和討論強大AI的風險，並且研究如何降低這些風險。 

Amodei表示，很多人會因此覺得自己是個悲觀主義者，但完全不是這麼回事。 

他之所以關注AI風險，是因為他認為，這是我們與光明未來之間的唯一障礙。 

在他看來，大多數人低估了AI可能帶來巨大潛力，同時也低估了AI風險可能有多糟糕。 

而在這篇長文中，Amodei試圖描繪出積極前景的樣貌——如果一切順利，擁有強大AI的世界會是什麼樣。 

他對此有足夠的自信：即使大多數細節最終是錯誤的，也能把握住未來發展的大方向。 

為什麼要著重討論風險

Amodei也強調，之所以要著重討論風險，是出於以下原因： 

1. 最大化影響力

AI技術的好處由強大的市場力量驅動，因此不可避免。而風險雖然並非註定發生，人類的行動卻可以極大改變它們出現的可能性。 

2. 避免給人宣傳的印象

不要讓人覺得自己在做宣傳，或者轉移人們對AI缺點的注意力。 

3. 避免自吹自擂

Amodei對很多圈內公眾人物討論AGI的方式感到反感，彷彿他們是引領眾生走向救贖的先知一樣。 

「把公司看作是能夠單方面塑造世界的力量是很危險的，同樣，用類似宗教的方式來看待實際的技術目標也是相當危險的。」 

4. 避免貼上科幻的標籤

有些激進群體會以過於「科幻」的腔調討論AI，比如意識上傳、探索太空、賽博朋克。這種腔調不知不覺中帶來了一大堆文化偏見，以及一些無法明確的假設。 

結果就是，這些討論常常看起來像是某個小眾群體的一廂情願，反而讓大多數人望而卻步。 

但Amodei也認為，討論一個擁有先進AI的美好世界是什麼樣子，十分重要。 

以下是他認為最具前景的五個類別：

1. 生命科學與生理健康

2. 神經科學與心理健康

3. 經濟與貧困

4. 和平與治理

5. 工作與意義 

Amodei在生物學和神經科學兩個領域都有專業經驗，對經濟發展也有一定瞭解。通常，他的預測都是相當中場的。 

Amodei認為，如果能召集一群各領域專家創作一個更全面、更有洞察力的版本，會很有價值。 

而自己的嘗試，可以被視為一個起點。 

基本假設與分析框架

Amodei界定了先進AI的含義：觸發5-10年發展期的技術閾值。 

他不喜歡使用AGI這個術語，因此使用「強大的AI」（powerful AI）這個說法。 

Amodei認為，強大的AI最早可能在2026年問世。 

通用人工智能（AGI）是一個不夠精確的術語，它已經積累了太多科幻元素和過度炒作。相比之下，我更喜歡用「強大的人工智能」或「專家級科學和工程」這樣的說法 

所謂「強大的AI」是指一個AI模型在形式上可能類似於當今的大語言模型，儘管它可能基於不同的架構，可能涉及多個交互模型，並可能採用不同的訓練方法。 

具體來說，它將具有以下特性—— 

– 就單純的智力水平而言，它在大多數相關領域——如生物學、編程、數學、工程、寫作等方面都超越了盧保獎級別的獲得者。這意味著它能夠證明尚未解決的數學定理，創作出極高水平的小說，從零開始編寫複雜的代碼庫。 

– 具備了所有可供人類進行虛擬工作的交互方式，包括文本、音頻、影片、鼠標和鍵盤控制以及互聯網訪問。它可以利用這些交互方式進行任何行動、通信或遠程操作。執行時的技能，也都超越了世界上最頂尖的人類專家。 

– 它不僅被動地回答問題，還可以接受需要數小時、數天甚至數週才能完成的任務，然後像一個聰明的員工一樣獨立完成任務，必要時會主動尋求澄清。 

– 它沒有實體形態，但可以通過計算機控制現有的物理工具、機器人或實驗室設備；理論上，它甚至可以為自己設計、使用機器人或設備。 

– 用於訓練模型的計算資源可以重新配置，以運行數百萬個模型實例（這與預計到2027年左右的大規模計算集群能力相匹配）。該模型能以人類速度的10到100倍來吸收信息和生成行動。然而，它可能會受到所交互的物理世界或軟件響應時間的限制。 

– 這數百萬個副本中的每一個，都可以獨立地執行不相關的任務，或者在需要時像人類團隊協作一樣工作。甚至可以對不同的分組進行微調，使其特別擅長某些特定任務。 

我們可以將其概括為「數據中心裡的天才國家」。 

顯然，這樣一個實體能夠非常快速地解決極難的問題，但要確定具體有多快並非易事。 

Amodei認為，兩種「極端」立場都是錯誤的。 

首先，你可能會認為世界會在幾秒或幾天內瞬間改變（所謂「奇點」），因為強大的智能會不斷自我完善，幾乎立即解決所有可能的科學、工程和操作任務。 

這種觀點的問題在於，存在真實的物理和實際限制，例如在構建硬件或生物實驗上。智能可能非常強大，但它並不是神奇魔法。 

其次，如果你認為技術進步已經飽和，或者受到現實世界數據或社會因素的限制，超人類智能幾乎不會帶來任何改變，這也同樣不可信。 

在數百個科學和社會問題上，一群真正聰明的人會大大加快進展（假設的天才國家就能做到）。 

Amodei看來，真相可能是這兩種極端情況的混合，因任務和領域而異，細節非常微妙。 

他認為，就像經濟學家經常討論「生產要素」，在AI時代，我們也應該討論智能的邊際回報，弄清與智能互補的其他因素，以及智能水平很高時，哪些因素會成為限制因素。 

「在這項任務中，更聰明能帶來多大幫助，在什麼時間尺度上？」這是概念化一個強大AI世界的正確方式。 

Amodei猜測，限制智能或與智能互補的因素包括： 

– 外部世界的速度

智能體需要在世界中互動操作才能完成任務並學習。但世界的運轉速度是有限的。 

細胞和動物以固定速度運行，因此對它們的實驗需要一定的時間，可能不可縮減的。硬件、材料科學、任何涉及與人交流的事物，甚至現有的軟件基礎設施也是如此。 

此外，在科學領域，通常需要進行多次連續實驗，每次實驗都從前一次實驗中學習或在其基礎上進行。 

所有這些意味著，完成一個重大項目——例如開發癌症治療方法——的速度可能有一個不可縮減的最小值，即使智能繼續提高，這個最小值也無法進一步縮短。 

– 對數據的需求

在缺乏原始數據的情況下，即使智能更高也無濟於事。當今的粒子物理學家非常聰明，已經開發了一系列理論，但由於粒子加速器數據有限，他們缺乏選擇這些理論的數據。 

如果擁有強大的智能，他們是否會做得更好？（除了加快更大加速器的建造速度） 

– 內在複雜性

有些事物本質上是不可預測或混沌的，即使是最強大的AI，也無法比今天的人類或計算機更好地預測或理清它們。 

例如，即使非常強大的AI，在一般情況下也只能比今天的人類和計算機在混沌系統（如三體問題）中稍微多預測一點點。 

– 來自人類的約束

許多事情如果不違法、不傷害人類或不擾亂社會就無法完成。一個對齊的AI不會想做這些事情。 

許多人類社會結構是低效甚至有害的，但如果要同時尊重臨床試驗的法律要求、人們改變習慣的意願或政府行為等約束，就很難改變這些結構。 

核能、超音速飛行，甚至電梯，都在技術上運作良好，但影響被法規或錯誤的恐懼大大減弱。 

– 物理定律

有些物理定律似乎是不可打破的。不可能以超光速旅行。布丁無法恢復到未攪拌狀態。 

芯片每平方釐米只能容納這麼多晶體管，否則就會不可靠。計算需要每擦除一位所需的最小能量，這限制了世界上計算的密度。 

進一步的區別，是基於時間尺度。 

短期內的嚴格限制，在長期內可能更容易被智能改變。 

例如，智能可能被用來開發新的實驗範式，使我們能夠在體外獲得以前只能通過活體動物實驗獲得的知識，或者用來建造收集新數據所需的工具（例如更大的粒子加速器），或者（在倫理限度內）找到突破人為限制的方法。 

因此，我們可以設想這樣一個場景：智能最初受到其他生產要素的嚴重製約，但隨著時間的推移，智能本身越來越多地繞過這些要素，即使它們永遠不會完全消失。 

關鍵問題是這一切發生的速度有多快，以及按什麼順序發生。 

生命科學與生理健康

在科學進步的諸多領域中，生物學可能是最有潛力直接且明確改善人類生活質量的領域。 

在過去的一個世紀里，一些最古老的人類疾病（如天花）終被戰勝，但還有更多疾病仍然存在。 

除了治癒疾病，生命科學原則上可以通過延長健康的人類壽命、增加對我們自身生物過程的控制和自由度。 

並且，它能解決我們目前認為是人類生存條件不可改變的日常問題，來提升人類健康的基本水平。 

直接將智能應用於生物學的主要挑戰是——數據、物理世界的速度和內在複雜性（事實上，這三者都是相互關聯的）。 

在涉及臨床試驗的後期階段，人類約束也在發揮作用。 

接下來，讓我們逐一分析這些因素。 

對細胞、動物甚至化學過程的實驗，均受到物理世界速度的限制： 

許多生物學實驗方案涉及培養細菌或其他細胞，或者僅僅是等待化學反應發生，這有時可能需要幾天甚至幾週的時間，而且沒有明顯的方法可以加快速度。 

更別提動物實驗，可能需要幾個月（或更長時間），人類實驗通常需要幾年（對於長期結果研究甚至可能需要幾十年）。 

與此相關的是，數據質量往往存在問題：總是缺乏清晰、明確的數據。 

這些數據能夠將感興趣的生物效應，與其他成千上萬個干擾因素隔離開來，或者能在給定過程中進行因果乾預，或者直接測量某些效應（而不是以某種間接或不精確的方式推斷其後果）。 

即使是大規模的、定量的分子數據，也存在噪聲並且遺漏了很多信息。 

比如這些蛋白質在哪些類型的細胞中？在細胞的哪個部分？在細胞週期的哪個階段？ 

造成這些數據問題的部分原因是，生物系統的內在複雜性。 

一張人類新陳代謝生物化學圖表中，若想分離出複雜系統的任何部分影響非常困難，更不用說以精確、可預測方式干預這一系統。 

此外，除了在人體上進行實驗所需的固有時間外，實際的臨床試驗還涉及大量程序和監管要求。 

鑒於這些困難，許多生物學家長期以來一直對AI和更廣泛的「大數據」在生物學中的價值持懷疑態度。 

從歷史上看，在過去30年里，將自己的技能應用於生物學的數學家、計算機科學家和物理學家取得了巨大的成功，但並沒有產生最初期望的那種真正變革性的影響。 

AlphaFold（背後創造者因此獲得盧保獎）和AlphaProteo等，這樣的重大革命性突破，減弱了一些懷疑。 

但仍存在一種看法，認為AI只在有限的情況下有用（並將繼續如此）。 

一個常見的說法是，「AI可以更好地分析你的數據，但它不能產生更多的數據或改善數據的質量。Garbage in, garbage out」。 

Amodei認為，這種悲觀的觀點是以錯誤的方式看待AI。 

我們應該將其視為一個AI生物學家，能夠執行生物學家所做的所有任務。 

包括現實世界中，設計和進行實驗， 併發明新的生物學方法或測量技術等。 

正是通過加速整個研究過程，AI才能真正推動生物學的快速發展。 

更確切地說，生物學進步很大一部分來自真正極少數的發現。 

而這發現通常與廣泛的測量工具或技術有關，它們允許對生物系統進行精確但通用或可編程的干預。 

每年可能大約有1項這樣的重大發現，但它們共同推動了生物學超過50%的進展。 

這些發現之所以如此強大，正是因為它們突破了內在複雜性和數據限制，直接增加了我們對生物過程的理解和控制能力。 

每十年僅僅誕生幾個關鍵發現，就能推動了我們對生物學的基本科學理解，還推動了許多最強大的醫療治療方法的發展。 

這裏有一些例子： 

– CRISPR：一種允許對生物中的任何基因進行實時編輯的技術（用任意其他序列替換任意基因序列）。 

– 各種用於精確觀察正在發生的事情的顯微鏡技術：先進的光學顯微鏡（包括各種螢光技術、特殊光學等）、電子顯微鏡、原子力顯微鏡等。 

– 基因組測序和合成，在過去幾十年里。成本已經下降了幾個數量級。 

– 光遺傳學，允許通過照射光線激發神經元。 

– mRNA疫苗，原則上允許我們設計針對任何東西的疫苗，然後快速適應。 

– 細胞療法，如CAR-T，允許將免疫細胞從體內取出並「重新編程」，以攻擊任何東西。 

– 理論突破，如疾病的病原體理論或認識到免疫系統與癌症之間的聯繫。 

以上列舉的這些所有技術，是因為他想提出一個關鍵的主張—— 

如果有更多有才華、創造力的研究人員，這些技術的發現速度可能會提高10倍或更多。 

為什麼Amodei這麼認為？ 

因為當我們試圖確定「智力回報」時，應該養成提出某些問題的習慣，而這些問題的答案就是原因。 

首先，這些發現通常是由極少數研究人員做出的，往往是同一批人反復做出，這表明是技能而非隨機搜索（後者可能表明冗長的實驗是限制因素）。 

其次，它們往往「本可以」比實際早幾年被發現：例如，CRISPR是細菌免疫系統中自然存在的一個組成部分，自80年代就已為人所知，但人們花了25年才意識到它可以被重新用於一般的基因編輯。 

第三，成功的項目往往是小規模的，或最初人們認為不太有前途的後續想法，而不是大規模資金支持的努力。這表明推動發現的不僅僅是大規模的資源集中，而是創新能力。 

最後，儘管這些發現中有一些具有「順序依賴性」，這再次可能造成實驗延遲。不過，許多也許是大多數，都是獨立的，意味著可以同時並行進行多項工作。 

這些事實都在表明，如果科學家更聰明，更善於在人類擁有的大量生物學知識之間建立聯繫，就有數百個這樣的發現等待被做出。 

AlphaFold/AlphaProteo在解決重要問題方面比人類更有效取得成功。 

儘管經過了數十年精心設計的物理建模，為我們提供了一個概念驗證（儘管是在狹窄領域使用一個狹窄工具），應該為我們指明前進的方向。 

因此，Amodei猜測強大的AI至少可以將這些發現的速度提高10倍，讓我們在5-10年內獲得未來50-100年的生物學進展。 

為什麼不是100倍？ 

也許這是可能的，但在這裏，順序依賴性和實驗時間都變得重要。 

另一種說法是，Amodei認為存在一個不可避免的恒定延遲：實驗和硬件設計有一定的「延遲」，需要進行最少次數的迭代，以學習那些無法通過邏輯推導出的東西。 

但在此基礎上，可能實現大規模並行。 

從更積極的角度來看，AI加持的生物科學可能會通過開發更好的細胞實驗模型（甚至是模擬），減少臨床試驗中迭代的需求。 

這在開發抗衰老過程的藥物方面尤其重要，因為衰老過程持續數十年，我們需要更快的迭代循環。 

綜上所述，Amodei的基本預測是，AI生物學和醫學將使人類生物學家在未來50-100年內可能取得的進展，壓縮到5-10年內完成。 

Amodei將這稱為「壓縮的21世紀」。 

儘管預測強大的AI在幾年內能做什麼，本質上仍然困難且具有推測性，但思考「人類在未來100年內獨立能做什麼？」，這個問題卻有一定的現實基礎。 

以下列出了我們可能期待的內容： 

（這並非基於任何嚴格的方法論，幾乎肯定會在細節上被證明是錯誤的，但它試圖傳達我們應該期待的總體變革程度） 

– 可靠地預防和治療幾乎所有自然傳染病

– 消除大多數癌症

– 對遺傳疾病有效預防和治療

– 預防阿爾茲海默症

– 改善對大多數疾病治療

– 「生物自由」

– 人類壽命翻倍 

一旦人類壽命達到150歲，我們可能就能達到「逃逸速度」（指延長壽命的速度超過衰老的速度），為目前活著的大多數人爭取足夠的時間，使他們能夠想活多久就活多久，儘管當然不能保證這在生物學上是可能的。 

如果所有這些在7-12年內實現（這將符合激進的人工智能發展進程），世界將會有多麼不同。 

毫無疑問，這將是人類的一次巨大勝利，一次性消除了困擾人類數千年的大多數災難。 

神經科學與心理健康

上一節主要關注的是身體疾病和生物學，沒有涉及神經科學或心理健康。 

但是，神經科學是生物學的一個分支學科，心理健康與身體健康同樣重要。事實上，心理健康對人類福祉的影響甚至比身體健康更直接。 

數億人由於成癮、抑鬱、精神分裂症、低功能自閉症、創傷後應激障礙、精神病態或智力障礙等問題而生活質量極低；更多的數十億人正在與更輕微的日常問題作鬥爭。 

與一般的生物學領域一樣，在AI的發展下，我們可能不僅能解決問題，還能提高人類生活體驗的基本水平。 

Amodei在以上為生物學製定的基本框架同樣適用於神經科學，也就是說，這個領域同樣是被少數的與測量或精準干預工具有關的發現而推動的，比如最近的光遺傳學、CLARITY、膨脹顯微鏡等等。 

此外，許多通用的細胞生物學方法也可以直接應用於神經科學，這些進展的速度同樣會被人工智能加速。 

出於同樣的原因，「未來5-10年內完成100年的進展」，也同樣適用於神經科學。 

與生物學一樣，20世紀以來，神經科學的進展也是飛快且巨大的。 

例如，已經實現腦機接口的我們，事實上直到20世紀50年代才真正理解神經元如何以及為什麼會放電。 

因此，我們有理由期待，人工智能加速的神經科學將在幾年內產生快速進展。 

我們應該在這個基本圖景中添加一點，那就是過去幾年中學到的，或正在學習到的，一些關於人工智能本身的知識，可能會幫助推進神經科學，即使神經科學研究仍然只由人類來進行。 

首先，「可解釋性」是一個明顯的例子。 

儘管表面上，生物神經元和人工神經元以完全不同的方式運作，但「簡單單元組成的的分佈式、訓練過的網絡如何協同工作以執行重要計算」，這個基本問題是相同的。 

舉例來說，AI系統可解釋性研究人員發現的一種計算機制，最近在小鼠大腦中被重新發現。 

論文地址：https://www.biorxiv.org/content/10.1101/2023.03.15.532836v1 

相比真實神經網絡，對人工神經網絡進行實驗要容易得多，因此AI可解釋性很可能成為提高我們對神經科學理解的工具。 

此外，強大的人工智能本身可能比人類更能開發和應用這個工具。 

除了可解釋性之外，我們從AI那裡學到的關於智能系統如何訓練的知識，很可能在神經科學領域引發一場革命。 

Amodei本人在從事神經科學研究時發現，曾經很多人關注的關於「學習」的問題，現在看來是錯誤的，因為那時還沒有「擴展假說」（scaling hypothesis），或Rich Sutton提出的「the bitter lesson」這樣的概念。 

大量數據加上簡單的目標函數就可以驅動極其複雜行為，這個想法使得理解目標函數和架構偏差（architectural biases）變得更有意思，同時也讓「湧現」過程的複雜計算細節（emergent computation）變得不那麼有趣。 

Amodei表示，近年來自己並沒有密切關注這個領域，但能隱約感覺到，計算神經科學家們仍然沒有完全吸收這個教訓。 

他自己對擴展假說的態度一直：「啊哈，原來如此——這在高層次上解釋了智能是如何運作的，以及為什麼能如此容易地進化。」 

然而，這似乎並不是大多數神經科學家的觀點。部分原因是擴展假說作為「智能的秘密」，甚至在AI領域內也沒有被完全接受。 

神經科學家應該嘗試將這一基本洞見與人腦的特點（生物物理限制、進化歷史、拓撲結構、運動和感覺輸入/輸出的細節）結合起來，以試圖解決神經科學的一些關鍵難題。 

有些人可能正在這樣做，但還不夠；除了人類科學家，AI也將更有效地利用這個視角來加速進展。 

AI的四條加速路徑

Amodei預計，AI將通過四條不同的路徑加速神經科學進展，希望這些路徑能夠共同作用，以治癒精神疾病並改善大腦功能： 

– 傳統的分子生物學、化學和遺傳學

AI可能通過相同的機制加速這一進程。有許多藥物可以調節神經遞質，以改變大腦功能、影響警覺性或感知、改變情緒等，而AI可以幫助我們發明更多這樣的藥物。AI可能還會加速對精神疾病遺傳基礎的研究。 

– 精細神經測量和干預

這是能夠測量大量單個神經元或神經元回路的活動，並進行干預以改變它們行為的能力。光遺傳學和神經探針是能夠在活體生物中進行測量和干預的技術，一些非常先進的方法（如分子計時器）也已被提出，並且在原則上似乎可行。 

– 先進的計算神經科學

如上所述，現代AI的具體見解和整體思路都可能應用於系統神經科學的問題，包括揭示精神病或情緒障礙等複雜精神疾病的真正原因。 

– 行為干預

精神病學和心理學在20世紀已經發展出了廣泛的行為干預技術；可以推斷，AI也可以加速這些技術的發展，包括開發新方法和幫助患者堅持現有方法。 

更廣泛地說，「AI教練」的概念似乎非常有前景，它可以幫助你成為最好的自己，研究你的互動，幫助你學會更有效地行事。 

AI+神經科學的「烏托邦」未來

Amodei認為，這四條進展路徑會共同作用。即使沒有AI的參與，也有望在未來100年內實現大多數精神疾病的治癒或預防——因此，在AI加速的5-10年內可能會完成。 

具體來說，他猜測可能會發生以下情況： 

– 大多數精神疾病可能可以被治癒

像PTSD、抑鬱症、精神分裂症、成癮等疾病可以通過上述四個方向的某種組合得到解釋和有效治療。 

答案可能是「生化上出了問題」和「神經網絡在高層次上出了問題」的某種組合。 

也就是說，這是一個系統神經科學的問題。測量和干預的工具，尤其是在活體人類中使用的工具，似乎可能導致快速迭代和進展。 

– 非常「結構性」的情況可能更難處理，但並非不可能

一些證據表明，反社會人格障礙與明顯的神經解剖學差異有關——該類患者的某些腦區域可能只是更小或發育不良。某些智力障礙可能也是如此。 

重構大腦聽起來很睏難，但這似乎也是一項對智力回報很高的任務。也許有某種方法可以誘導成年大腦回到早期或更具可塑性的狀態，從而重塑它。 

Amodei的直覺是，對AI對此的作用持樂觀態度。 

– 有效地通過基因預防精神疾病似乎是可能的

大多數精神疾病部分是可遺傳的，全基因組關聯研究（GWAS）開始在識別相關因素方面取得進展，這些因素通常數量眾多。 

可能可以通過胚胎篩選預防大多數這些疾病。一個區別是，精神疾病更可能是多基因的。 

無論如何，AI加速的神經科學或許會幫我們弄清這些事情。 

當然，對複雜特徵進行胚胎篩選會引發一些社會問題，並且會有爭議，但Amodei猜測大多數人會支持對嚴重或致殘的精神疾病進行篩選。 

– 不被認為是臨床疾病的日常問題也能解決

大多數人都有一些日常心理問題，達不到臨床疾病的程度。有些人容易發怒，有些人難以集中注意力或經常昏昏欲睡，有些人膽小或焦慮，或適應不了變化反應。 

已經存在一些藥物可以幫助提高警覺性或注意力，但還有可能性。可能還存在許多藥物尚未被發現，或者可能有創新的干預方式，如靶向光刺激或磁場。 

考慮到人類在20世紀開發了多少調節認知功能和情緒狀態的藥物，Amodei對「壓縮的21世紀」非常樂觀，屆時每個人都可以讓自己的大腦表現更好，擁有更充實的日常體驗。 

– 人類的日常體驗可以變得更加豐富多彩

許多人都曾有過頓悟、靈感迸發、充滿同情、獲得成就感、超越自我、感受愛與美，或是達到冥想般平靜的非凡經歷。 

這些體驗的性質和頻率在不同人之間以及同一個人在不同時間有很大差異，有時也可以通過各種藥物觸發。 

這就表明，可能體驗的空間是非常廣闊的，人們生活中可以有更大比例由這些非凡時刻組成。可能還可以全面提高各種認知功能。 

這也許是神經科學版本的「生物自由」或「延長壽命」。 

在科幻小說描述AI時，經常出現一個討論的話題——「意識上傳」。 

這個概念指的是捕捉人腦的模式和動態，並將其實例化為軟件。Amodei認為上傳在理論上幾乎肯定是可能的。 

但在實踐中，即使有強大的AI，它也面臨著重大的技術和社會挑戰，這可能使它超出了所討論的5-10年的時間範圍。 

總的來說，AI加速的神經科學很可能會大大改善大多數精神疾病的治療，甚至治癒疾病，並顯著擴展「認知和心理自由」以及人類的認知和情感能力。 

這種進步將與前一節描述的一樣具有顛覆性。 

總結

通過上述各種主題，Amodei試圖描繪出一個既有可能在AI一切順利的情況下實現，又比當今世界更美好的願景。 

Amodei不知道這個世界是否現實，即使是現實的，也離不開許多勇敢和專注的人付出巨大努力和奮鬥。 

每個人（包括AI公司）都需要盡自己的一份力量，既要防範風險，又要充分實現利益。 

但這又是一個值得為之奮鬥的世界。 

如果這一切真的在5-10年內發生——大多數疾病被擊敗，生物和認知自由的增長，每個看到這一切的人都會為之感到驚訝。 

從某種意義上說，這裏描繪的願景是極其激進的： 

這不是幾乎任何人都期望在未來十年發生的事，很可能會被許多人視為荒謬的幻想。 

甚至，有些人可能不認為這是可取的； 

但同時，它又有一種顯而易見的特質——彷彿是註定的——好像許多不同的嘗試去設想一個美好的世界必然會大致引向這裏。 

儘管如此，這仍是一件具有超凡的美的事物。我們有機會在使其成為現實的過程中扮演一個小角色。 

參考資料： 

https://darioamodei.com/machines-of-loving-grace 

本文來自微信公眾號「新智元」，作者：新智元，36氪經授權發佈。