奧特曼年終總結,明確AGI如何實現,2025奔向超級智能

白小交 發自 凹非寺

量子位 | 公眾號 QbitAI

剛剛,奧特曼發佈了自己的年終總結。

有過去創業經歷的回溯:

這些年是我迄今為止人生中最有價值、最有趣、最好、最有意思、最累、最有壓力的幾年,尤其是最近兩年,也是段最不愉快的時光。

他回顧一年多以前毫無徵兆被炒魷魚的經歷,當時他在酒店房間影片電話突然被通知解僱,「就像是一場夢境破滅了」。整個事件,在他看來,屬於是他們團隊(包括他自己)治理的一大失敗

但即便如此,在這兩年里,他們從零構建了OpenAI,相當於經歷了普通公司的10年。

也有對新一年的展望:2025年,第一批AI Agent將加入勞動力大軍;而將時間維度拉長,他們的目標已經轉向真正意義的超級智能。

一時間,吸引了無數網民的關注。

奧特曼年終總結

ChatGPT 的兩週歲生日才過去一個多月,現在我們已經過渡到了可以進行複雜推理的下一個模型範式。新的一年讓人充滿反思的情緒,我想和大家分享一些個人的想法,談談到目前為止的進展,以及我一路走來學到的一些東西。

隨著 AGI 的腳步越來越近,現在是回顧公司發展的重要時刻。我們需要瞭解的東西還有很多,我們不知道的東西還有很多,而且現在還為時尚早。但是,我們比剛開始的時候知道得要多得多。

將近九年前,我們創辦了 OpenAI,因為我們相信 AGI 是可能的,它可能成為人類歷史上最具影響力的技術。我們想知道如何構建它,並讓它廣泛受益;我們很高興能在歷史上留下自己的印記。我們的雄心壯誌非同尋常,我們也堅信這項工作可能會以同樣非同尋常的方式造福社會。

當時,很少有人關心我們,即使有人關心,也多半是因為他們認為我們沒有成功的可能。

2022 年,OpenAI 還是一個安靜的研究實驗室,正在研究一個暫時稱為 「與 GPT-3.5 聊天 」的東西(我們的研究能力比命名能力強多了)。我們一直在觀察人們使用我們 API 的遊樂場功能,知道開發人員非常喜歡與模型聊天。我們認為,圍繞這種體驗製作一個演示會向人們展示未來的一些重要東西,並幫助我們把模型做得更好、更安全。

最終,我們很仁慈地將其命名為 ChatGPT,並於 2022 年 11 月 30 日推出。

我們一直都知道,抽像地說,在某個時刻,我們會遇到一個臨界點,人工智能革命將會拉開序幕。但我們不知道那一刻會是什麼時候。出乎我們意料的是,結果就是這樣。

ChatGPT 的推出拉開了我們公司、我們行業乃至整個世界前所未有的增長曲線。我們終於看到了我們一直希望從人工智能中獲得的巨大收益,而且我們可以預見,不久的將來還會有更多。

過去兩年,重新構建OpenAI

這並不容易。道路並不平坦,正確的選擇也不明顯

在過去的兩年里,我們必須圍繞這項新技術建立整個公司,幾乎是從零開始。除了親身實踐,我們沒有辦法對員工進行這方面的培訓,而當技術類別完全陌生時,根本沒有人能告訴你具體應該怎麼做。

在幾乎沒有培訓的情況下以如此快的速度建立公司是一個混亂的過程。往往是前進兩步,後退一步(有時是前進一步,後退兩步)。錯誤會在前進的過程中得到糾正,但在從事原創性工作時,實際上沒有任何手冊或路標。在未知水域中高速前進是一種不可思議的體驗,但對所有參與者來說也是巨大的壓力。衝突和誤解比比皆是。

這些年是我迄今為止人生中最有價值、最有趣、最好、最有意思、最累、最有壓力,尤其是最後兩年最不愉快的時光。壓倒一切的感覺是感激;我知道,有一天我退休了,在我們的牧場看著植物生長,有點無聊,回想起來,我能從事我從小就夢想的工作是多麼酷。在任何一個週五,當下午 1 點之前有 7 件事情出錯時,我都會努力記住這一點。

一年多以前,在一個特殊的星期五,那天發生的主要事情是我在一次影片通話中突然被炒了魷魚,然後就在我們掛斷電話後,董事會發表了一篇關於此事的博文。我當時在拉斯維加斯的一家酒店房間里。在某種程度上,這種感覺幾乎無法解釋,就像一場出錯的夢。

在毫無徵兆的情況下被當眾解僱,這開啟了瘋狂的幾個小時,以及相當瘋狂的幾天。我們都無法得到令人滿意的答案,不知道發生了什麼,也不知道為什麼會這樣。

在我看來,整個事件是善意的人們(包括我自己)治理的一大失敗。回首往事,我當然希望自己當時的做法有所不同,我也願意相信,與一年前相比,今天的我是一個更好、更有思想的領導者。

我還認識到,在管理一系列複雜的挑戰時,擁有一個觀點多元、經驗豐富的董事會非常重要。良好的治理需要大量的信任和信譽。我很感激這麼多人齊心協力,為 OpenAI 建立了一個更強大的治理體系,使我們能夠履行使命,確保 AGI 造福全人類。

我最大的感觸是,我有太多需要感謝的東西,也有太多需要感謝的人:感謝在OpenAI工作並選擇花時間和精力去追逐這個夢想的每一個人,感謝幫助我們度過危機時刻的朋友們,感謝支持我們並委託我們幫助他們取得成功的合作夥伴和客戶,感謝我生命中那些讓我看到他們是多麼關心我的人。

我們都以一種更加團結和積極的方式重新投入到工作中,我為我們此後的專注感到非常自豪。我們完成了有史以來最好的研究。我們的每週活躍用戶從約 1 億人增加到 3 億多人。最重要的是,我們不斷向世界推出人們真正喜愛的技術,解決實際問題。

2025年,第一批AI Agent將加入勞動力大軍

九年前,我們真的不知道自己最終會變成什麼樣子;即使是現在,我們也只是略知一二。人工智能的發展經歷了許多曲折,我們期待未來會有更多曲折。

其中一些曲折讓人欣喜,一些曲折讓人艱辛。看著源源不斷的研究奇蹟出現,很多反對者變成了真正的信徒,這很有趣。我們也看到一些同事分道揚鑣,成為競爭對手。團隊往往會隨著規模的擴大而更替,而 OpenAI 的規模擴大得非常快。我認為這其中有些是不可避免的—初創公司通常會在每一個新的主要規模級別上出現大量人員流動,而在OpenAI,每隔幾個月就會有數量級的人員流動。過去的兩年就像是普通公司的十年。當任何一家公司發展壯大得如此之快時,利益自然會產生分歧。而當任何一家公司在重要行業處於領先地位時,很多人都會以各種理由攻擊它,尤其是當他們試圖與它競爭時。

我們的願景不會改變,但我們的策略會繼續發展。例如,當我們開始創業時,我們根本不知道我們需要建立一家產品公司;我們以為我們只需要做好研究工作。我們也不知道會需要如此瘋狂的資金。現在,我們必須去建立一些幾年前我們還不瞭解的新事物,未來還會有我們現在幾乎無法想像的新事物。

我們為迄今為止的研究和部署記錄感到自豪,並致力於繼續推進我們在安全和利益共享方面的思考。我們始終認為,確保人工智能系統安全的最佳方式是迭代式地逐步將其推向世界,讓社會有時間適應該技術並與之共同發展,同時吸取經驗教訓,不斷提高該技術的安全性。我們相信,在安全和調整研究方面成為世界領先企業,並通過實際應用的反饋來指導研究工作,是非常重要的。

我們現在確信,我們知道如何按照我們傳統的理解來建造 AGI。我們相信,在 2025 年,我們可能會看到第一批人工智能代理 「加入勞動力大軍」,並實質性地改變公司的產出。我們仍然相信,反復將優秀的工具交到人們手中,會帶來偉大的、廣泛分佈的成果。

我們開始將目標轉向更遠的地方,轉向真正意義上的超級智能。我們熱愛我們現有的產品,但我們在這裏是為了輝煌的未來。有了超級智能,我們可以做任何其他事情。超級智能工具可以大大加快科學發現和創新的速度,遠遠超出我們自己的能力,進而大大增加財富和繁榮。

這聽起來就像科幻小說,甚至說起來都有點瘋狂。沒關係,我們曾經經歷過,我們也願意再次經歷。我們堅信,在未來幾年里,每個人都會看到我們所看到的一切,我們必須謹慎行事,同時最大限度地擴大受益面和賦權,這一點非常重要。鑒於我們工作的可能性,OpenAI 不可能是一家普通的公司。

能夠在這項工作中發揮作用是多麼幸運和謙卑。