擔心成為「AI界奧本海默」，DeepMind、Anthropic CEO同框，26年AGI降臨？
Hassabis和Dario近日罕見同框，接受《經濟學人》的深度訪談。兩人對AGI時間表的預測產生分歧——2026年還是更遠？還探討了AI安全的緊迫性，以及他們是否擔憂成為「AI界的奧本海默」。
當今世界，誰最有可能成為「AI時代的奧本海默」？
DeepMind的創始人Hassabis與Anthropic的創始人Dario無疑是熱門人選。
近日，這兩位AI巨頭罕見地坐到了一起，在《經濟學人》的訪談中，直面AGI（通用人工智能）帶來的種種爭議與挑戰。
想像一下，幾年後，你身邊出現一個比愛恩斯坦還聰明的AI，能設計出圍棋這樣精妙遊戲的規則，甚至推導出全新的科學理論。
這不是科幻，而是Hassabis和Dario正在努力的方向。Dario大膽預測AGI 2026年到來，Hassabis卻謹慎表示可能還要再等等。
他們一致認同的是：AI的威力遠超以往任何技術，而我們是否準備好了迎接這場變革。
AGI時間表
Dario首先明確說明了什麼是他認為的AGI。
「當我們擁有一種AI模型能夠做到人類能做的所有事情時，比如像坐在旁邊的這位盧保獎得主（Hassabis）那樣，在多個領域都能做得很好，可以執行任何一個人類能遠距離完成的任務，這些任務可能需要幾分鐘、幾小時、幾天或幾個月的時間。」Dario說。
「我的猜測是在2026年或者2027年能夠實現這一點。」
隨後，Dario問Hassabis是否同意他的看法。
Hassabis則認為AGI的出現可能會更遠一點，只有50%的機會在5年內出現。他定義AGI的方式是，「一個能夠展示所有人類認知能力的系統。」
「我認為我們現在還沒有這樣的系統，能夠像愛恩斯坦那樣利用當時可獲得的信息發明廣義相對論。我給出的另一個例子是，你能創造出如圍棋一樣的遊戲嗎？不只是下出第37步這樣的一手妙棋或構建一個可以擊敗世界冠軍的AlphaGo，你能否真正設計出一種同樣美麗的遊戲？所以我認為要達到那種能力還需要一點時間。」Hassabis說。
AI的發展與平衡
隨後，主持人問，在未來幾年很快達到AGI的同時，各國政府需要如何意識到所面臨的利害關係？
「我認為人們還沒有充分理解這一點。」Hassabis說。
Hassabis認為，雖然AI在短期內被過度炒作，但仍然低估了AI在未來中長期帶來的變革程度。他認為一旦這一點得到更多理解，那麼就會有更多的基礎來推動國際間的合作。
Hassabis說，「我們不能單打獨鬥，需要一些全球性的規範。我過去曾多次談到過類似CERN（歐洲核子研究組織）的AGI研究合作模式，基本上是一個國際研究合作，專注於我們在構建第一個AGI時所需邁出的最後幾步。」
Dario形容AI是「世界上突然出現了一個新國家，擁有1000萬比當今世上任何人類都要聰明的人。」
「你知道，你會問他們的意圖是什麼？」他說，「特別是如果他們能夠自主行動的話。」
Hassabis表示。AI的開發與監管平衡點需要在中間位置。「我認為我們應該擁抱AI帶來的巨大機遇。我特別熱衷於科學和醫學領域。我認為它將徹底改變這些領域。」他說。
但他同時也強調需要意識到存在的風險。一個是是惡意人士將這項通用技術用於不法目的，另一個是來自AGI系統自身失控，或者沒有正確的價值觀和目標的風險。
AI界的奧本海默
接下來，主持人問了一個比較刺激的問題，「因為你們親自領導著可能處於這一領域前沿的公司。所以你們做出的個人決定將塑造這項技術。你有沒有擔心會像羅伯特·奧本海默那樣？」
對於這個問題，Hassabis表示一直都在擔心這種情景的發生，「看，我一直在擔心那樣的場景。這就是為什麼我睡得不多。」
Hassabis說領導這項技術的人身上肩負著巨大的責任。他認為社會需要考慮什麼樣的治理機構是必要的，理想情況下，會像聯合國一樣。
他說，有些人可能認為我們在杞人憂天，或者認為我們是在鼓吹放慢腳步之類的。「但我從沒見過有哪個領域會出現這樣的情況：就是帶頭的研究者們自己也在提出警告。我們現在面對的東西實在是顛覆性極強，威力巨大，而且是前所未有的。」
Hassabis覺得AI它並不是「又一項新技術」那麼簡單。他注意到，仍然有人在談「這是非常重要的技術，但也只是又一個技術而已」。
「可我覺得它完全不同於以往任何技術。我感覺並不是所有人都真正明白這一點。」，Hassabis表示。
Dario的想法和Hassabis完全一致。他說，「我做的幾乎每一個決定都像是在刀刃上保持平衡。」
「我認為我們還是得找到一種方式來建立一個更加穩健的治理結構，不能讓這個技術只掌握在少數人手中。」Dario說。
Dario說早在2023年，他們就做了一些關於AI系統能否生成在Google或教科書中找不到的、可用於製造生物武器的信息的工作。
他們的結論是可以。Dario表示，AI剛剛開始能夠做到這一點。目前還不太危險，但是每個模型都比之前的更好。
Dario表示，AI模型的風險最好在實驗室觀察到，如果這種風險在現實中觀察到將是一個非常糟糕的結果。
智能體與未來
最後，主持人用了一個更積極的話題來結束。
「能不能各自舉出一件事，就是你們認為在未來一年里，我們會看到的一個跡象，顯示我們正在往你們所期望的方向前進，以及這件事將帶來什麼正面的影響？」
Hassabis首先說我們會看到更多智能體的出現，這些系統可以在某種程度上自主完成任務，達成一些目標，在現實世界里行動。
他認為這會催生一整類全新的實用系統，比如助理型系統，為人節約時間，提高生產力。
Hassabis認為這些智能體系統會變得更廣泛地應用於日常生活，而不再只是局限在某些小眾領域。再往後看，他則希望看到AI系統真正具有創造發明能力，「不僅僅是去解決某個數學猜想，而是能夠自己提出一個非常有趣的新猜想，或者提出一套新的理論。」
Dario表示會關注在AI寫代碼，以及AI是否能用來做AI研究這一層面。
他說假如到了今年年底，我們能「構建更強AI系統的整體生產率提高50%，甚至翻一倍，那就證明我之前所說的2026或2027年左右實現AGI的時間表還是比較可信的。」
「要是比這個速度慢很多，那我就會傾向於相信Demis的設想更有可能——雖然他的時間表依然非常激進，但相比之下還是要稍微長一點。」
參考資料：
本文來自微信公眾號「新智元」，作者：犀牛，36氪經授權發佈。
