Hinton發2024末日預警：10年內人類滅絕！奧特曼預言18個月ASI降臨

編輯：Aeneas 桃子

【新智元導讀】2024年終，AI大佬們紛紛發出預測。奧特曼表示，ASI將很快到來，18個月後，我們或許就將見證奇蹟。LeCun表示，AGI兩年內不會到來。但Hinton則認為，AI很可能在10年內，就會讓人類滅絕！

2024年，註定是AI歷史上濃墨重彩的一年。

站在2024年的尾聲，各位大佬也給出了自己對於未來的預測。

OpenAI CEO奧特曼看來，我們即將迎接超級智能的到來，而且很快了！2026年夏天，我們或許就會見證奇蹟的出現。

Meta首席AI科學家、圖靈三巨頭之一的LeCun，跟奧特曼對此意見不同，他強調，AGI在未來兩年內不會發生。

獲得今年諾獎的人工智能教父Hinton則堅信，AI的進步會很快，但已經到了一個可怕的地步——

10年內，AI可能會導致人類的滅亡！

奧特曼：ASI即將到來，想像18個月後

在聖誕節前夕，外媒記者Bari Weiss採訪了OpenAI CEO奧特曼。

在他看來，超級人工智能ASI，已經離我們很近了！

奧特曼讓我們想像一下，18個月後，2026年夏天即將到來時，AI會是什麼樣子？

ASI會如何出現？

奧特曼強調，我們必須關注科學進步的速度，它不會改變人類深層的基本驅動力，但我們生存的世界將會發生很大的變化。

在他看來，有AI幫我們幹活，人類就可以從工作的繁重負擔中解放出來，盡情娛樂和遊戲了！

人類天生渴望創造並對彼此有所幫助。人工智能將使我們前所未有地放大自身能力。作為一個社會，我們將回到一個不斷擴張的世界，處於一種正和博弈。

奧特曼認為，我們今天從事的許多工作，在幾百年前的人們眼中可能顯得微不足道，甚至是浪費時間。

但沒有人會回頭懷唸過去，渴望自己成為一名點燈人。

如果一個點燈人能夠看到今天的世界，他會覺得眼前的繁榮完全超乎想像。

而如果我們能夠快進到一百年後的未來，那時圍繞人類的繁榮，同樣會讓我們難以想像。

當被問到，如何衡量我們世界中AI的總體影響時，奧特曼回答說，這些AI產品被人們快速採用，吸引更廣泛的受眾的過程，已經令人印象深刻。

我從未見過，一項技術能如此迅速地被大規模使用。

那麼，奧特曼本人是怎樣使用AI的呢？

他表示，自己早已將預設搜索改成了ChatGPT。

他經常用ChatGPT從網絡上獲取實時信息，而不是依賴過去那種傳統的超鏈接流程——如今看來，那種方式簡直像蝸牛爬行一樣緩慢。

所以這種方式仍然被稱為「搜索」嗎？奧特曼說，自己仍稱之為搜索，不過年青人們會這樣描述：我剛剛「聊」出了這個信息。

Hinton：AI可能會在10年內讓人類滅絕

今年剛獲得盧保物理學獎、77歲高齡的Hinton同樣認為，AI技術的發展速度比自己預期的要快很多。

這讓他感到恐懼，並且發出警告：AI可能會在10年內，讓人類滅絕。

作為深度學習之父，Hinton對自己在創造這項技術中所扮演的角色表示遺憾。

AI的迅疾發展已經如同一次全新的工業革命，但不同的是，這次，機器可能會掌控一切。

因此，政府務必加強對AI公司的監管。

此前，Hinton曾預測，AI有10%的可能性，會在30年內導致人類的滅亡。

而最近，他的說法又提前了。

在BBC廣播4台的《今日》節目中，主持人問Hinton他的看法是否有所改變。

Hinton再次強調說沒有。甚至他表示，AI讓人類滅絕的時間可能是10到20年，因為，我們從未遇到過比我們更聰明的事物。

「你知道多少例子，是由不聰明的一方控制更聰明的一方？少之又少」。

人類是3歲孩童，AI是成年人

1972年，Hinton在愛丁堡大學首次開始研究神經網絡。當時少有研究者相信，神經網絡可以通過分析數據來學習技能。

在20世紀80年代，他發明了可以自主查找數據屬性、識別圖片中特定元素的方法，奠定了現代人工智能的基礎。

2012年，Hinton和兩名學生Ilya Sutskever和Alex Krishevsky建立了一個神經網絡，可以分析數千張照片，並自學識別花、狗和汽車等常見物體。

但現在，AI技術的發展已經遠比他預期的快得多。導致的後果就是，人類如今只是3歲孩童，但AI卻已經長成了成年人。

Hinton表示，這就像工業革命一樣。

在工業革命中，人類的體力不重要了，因為機器更強大——如果你想挖一條溝，用機器就可以了。

如今的AI，已經在取代人類智能。最前沿的不再是普通的人類智能，而是機器。

狄更斯式的變化

「現在我們擁有的東西正在取代人類的智能。普通的人類智能將不再是前沿，而是機器將成為前沿。」

Hinton預測，AI將極大地改變普通人的生活，就像查爾斯·狄更斯所記載的工業革命一樣。

而AI將如何走向，很大程度上取決於我們的政治制度會如同利用這項技術。

而Hinton擔心的是，儘管AI會帶來生產力的大幅提高，但所有好處都會流向富人，很多人會因為失業而變得更加貧窮，最終這對社會就是不利的。

在工業革命中，機器沒有機會僅僅因為自己更強大而取代人類，因為我們有智能，所以事情仍在掌控之中。

但現在，情況已經不同了，AI很可能會掌握一切。

而對領域內其他知識淵博的專家對AI未來的樂觀看法，Hinton表示，希望他們是正確的。

政府必須監管

然而，Hinton補充道：我擔心，這隻看不見的手無法保證我們的安全。如果僅僅依靠大公司追逐利潤的動力，並不足以確保他們安全地開發這些技術。

唯一能迫使這些大公司在安全方面進行更多研究的，就是政府監管。

Hinton呼籲，政府必須在這方面擔起責任。

「後悔有兩種。有時候，你會因為做了一些你知道不應該做的事情而感到內疚、後悔；還有一種，是你在同樣情況下還會做一樣的選擇，但最終結果可能並不好。」

「我的後悔屬於第二種。在同樣的情況下，我會再次做同樣的事情，但我擔心這樣做的後果，就是比我們更智能的系統最終會佔據控制權。」

畢竟此前，我們從未經歷過擁有比我們更聰明的東西，是什麼感覺。

納迪拉維杜華：OpenAI已成為巨頭

在與知名投資人Bill Gurley和Brad Gerstner深度對話中，納迪拉維杜華分享了自己對OpenAI獨到的見解。

他表示，「從某種意義上，OpenAI就是這個時代的Google、微軟或Meta」。

這番話暗示著，OpenAI可能會像這些科技巨頭定義了此前幾代計算技術一樣，塑造了AI領域的格局。

顯而易見的是，微軟與OpenAI的早期合作，為其在AI競賽中帶來的巨大的優勢。

納迪拉維杜華稱，「我們基本上獲得了兩年的領跑期，不過這樣領先優勢可能不會再出現了」。

這種戰略合作已經開始顯現成效，包括Shopify、Stripe和Spotify等大型雲客戶，已經從AWS或Google轉戰微軟陣營。

而OpenAI本身，也早已成為了微軟雲服務的重要客戶。

AI無限複製，取代人類在即

o3發佈之後，Quora聯創Adam D’Angelo曾表示，「令人瘋狂的是，o3的測試結果已經公開了，但市場仍然沒有將AGI的可能性計入定價之中」。

對此，馬斯克回應道，「市場聲稱會向前看，但實際上只是關注過去。AI最終會讓金錢變得毫無意義」。

馬斯克的這句話在全網掀起了巨大風暴。AGI時代，金錢真的不再重要了嗎？

最近，AI圈大佬Rudolf發表了一篇文章對此做出了回應：

預設情況下，AGI之後，資本比以往任何時候都重要。

文章中，他提出了幾個重要的觀點：AI取代人類勞動力，將從根本上改變生產關係，同時現有的權力結構將更加穩固。

許多人對這個帖子的理解出現了偏差：

(a) 將「資本」僅理解為「金錢」，而不包括工廠和數據中心等實物資本

(b) 主要關注人與人之間的差距，而不是更廣泛的社會問題，如人類的整體地位、社會變革的可能性和人類能動性

業內著名AI諮詢師Luke Hornof總結道，「當能替代人類勞動的AI出現後，擁有資本的人將獲得永久性優勢。

這是因為資金將能更有效地購買成果，由於AI可以被複製，且不像人類具有複雜的偏好，這將導致權力進一步集中在資本持有者手中。

同時，人類勞動力將失去其價值和影響力，削弱人們影響國家的能力和實現卓越成就的可能性」。

一起來看看這篇文章具體講了什麼。

首先，需要明確兩個概念：勞動，是指人類為創造價值而付出的體力和腦力努力；資本，是指人類建造的用於生產商品和服務的東西，比如工廠、數據中心、軟件等等。

作者表示，文中提到的「資本」（capital）用來指資本貨物存量，以及用來購買資本品的貨幣。另外，提到的「資金」（money），專指金錢本身。

AI的核心經濟效應在於，它使「資本」成為越來越普遍的勞動力替代品。

後果就是，支付人類勞動時間的需求將大幅減少，因為運行軟件的數據中心直接可以替代人類的腦力勞動！

而這個數據中心的規模，仍在不斷擴大。馬斯克的20萬塊超算已經在緊鑼密鼓建設中了。

xAI研究員Guodong Zhang表示，自己在半年前參觀時還是空的，再看現在，簡直太酷了！

足見，世界數據中心規模只會越來越大，不斷推向取代人類勞動力的極限。

重金招募頂尖人才

隨著AI逐漸取代人類，如何僱傭最合適人才的深層問題，就迎刃而解了。

對於企業來說，可能無法去判斷AI的才能。即便是一些領先的AI評估生態系統，也可能難以正確評判。

但真正的區別在於，AI可以被複製。

目前，大量資金往往追逐，少數取得突破性成果的明星研究員。他們的才能得到了資本市場的認可，最重要的是，他們的能力是不可被複製的。

但如果頂尖研究員是AI，將從根本上改變了遊戲規則。

這意味著，未來每個人，或者至少是那些有足夠資金購買GPU的人，都能獲得這個AI明星研究員。

這就是為什麼，一旦我們擁有能替代勞動力的AI，金錢就能更容易找到頂尖人才的主要原因。

當然，人才的價格也會大幅下降，因為AI比同等水平的人類勞動力更便宜。再加上AI可以被複製，市場的競爭會更加激烈。

另外，將資金轉化為人才的最後一個重大瓶頸是：許多頂尖人才都有複雜的個人偏好。

頂尖藝術家對自己的藝術願景有著真誠的執著；頂尖數學家對優雅和美有著深深的熱愛。

相比之下，AI的存在就是為了能夠被輕易地收買（至少在其安全訓練的範圍內）。

從2024年這個時間點回望，AI發展軌跡確實遠超所有人的想像。

這一刻，也許是我們駐足思考的最佳時機：當AI真正超越人類，我們該何去何從？

參考資料：

https://www.telegraph.co.uk/news/2024/12/27/godfather-of-ai-says-it-could-drive-humans-extinct-10-years/

https://x.com/kimmonismus/status/1873462709091443113

https://the-decoder.com/microsoft-ceo-satya-nadella-sees-openai-as-the-google-microsoft-or-meta-of-this-era/

https://x.com/jam3scampbell/status/1873229165388050627