剛剛，OpenAI 奧特曼更新博客：明確AGI如何實現
山姆・奧特曼開始反思了。
2025 年到來還不到 1 周時間，在剛剛接受了彭博社專訪之後不久，這位著名卻又備受爭議的 CEO 又發佈了一篇題為「反思」的博客文章；其中回顧了 ChatGPT 的發展歷程，並尤其強調了 OpenAI 創立以來他們面臨的各種「衝突和誤解」。
他表示，之前的解僱事件是善良的人進行治理的一個巨大失敗（a big failure of governance by well-meaning people）。他還表示，現在他們已經知道如何構建 AGI 了。
反思
一個多月前，ChatGPT 剛剛過了 2 歲生日，而現在我們已經進入了下一個能實現複雜推理的模型範式。新年的到來總會讓人忍不住反思，我也想要分享一些個人的想法，涉及到迄今為止的發展情況以及我一路上學到的東西。
隨著我們離 AGI 越來越近，感覺是時候審視一番我們公司的發展情況了。需要理解的東西還有很多，未知也還有很多，目前仍是早期階段。但我們現在知道的東西已經遠遠超過一開始的時候了。
大概九年前，我們創立了 OpenAI，因為我們相信 AGI 可能實現，而且這會成為人類歷史上最具影響力的技術。我們想弄清楚如何構建它並使其廣泛造福世界；我們激動地想要在歷史上留下我們的印記。我們誌向遠大，我們也相信這項工作可能會以同樣非凡的方式造福社會。
那時候，很少有人關注我們，就算關注，也主要是因為他們認為我們沒有機會成功。
2022 年，OpenAI 還是一個安靜的研究實驗室，正在研究一個暫時被稱為「與 GPT-3.5 聊天」的東西。（相比於起名，我們更擅長研究。）我們一直在觀察人們使用我們 API 的 playground 功能，並且知道開發者真的很喜歡與模型交談。我們想著可以圍繞這種體驗構建一個演示，向人們展示一些關於未來的重要信息，並幫助我們使我們的模型變得更好、更安全。
最後，我們為其起名 ChatGPT，並在 2022 年 11 月 30 日發佈了它。
一直以來我們都隱約明白，我們會在某個時候到達某個臨界點，AI 革命將就此開始。但我們不知道那究竟會是何時。令我們驚訝的是，ChatGPT 就是那個臨界點。
ChatGPT 啟動了一條我們前所未見的增長曲線 —— 不管是在我們公司，還是這個行業，或者整個世界。我們終於看到了我們一直希望從 AI 獲得的巨大好處，而且我們可以看到很快將會到來的遠遠更多好處。
這並不容易。道路並不平坦，也沒有顯而易見的正確選擇。
在過去的兩年里，我們不得不圍繞這項新技術幾乎從頭開始建立一家公司。我們沒有培訓人們為此做好準備的辦法，只能親自上手去做，而且這是一個全新的技術類別，根本沒有人能告訴你應該怎麼做。
培訓如此之少，又必須以非常快的速度構建一家公司，於是一切都變得混亂不堪。我們經常出現前進兩步又倒退一步的情況（有時候甚至前進一步倒退兩步）。我們會在前進路上糾正錯誤，但對於這種沒有先例的工作，我們實際上沒有任何手冊或指南。在未知的水域快速航行是一種令人難以置信的體驗，但對所有玩家來說也是一種巨大的壓力。衝突和誤解如影隨形。
這些年是我迄今為止人生中度過的回報最多、最有趣、最美好、最緊張，尤其是過去兩年最不愉快的時光。我心中充滿了感激。我知道自己有一天會退休，「在我們的牧場看著植物生長」，會有點無聊，也會感慨自己能做從小就夢想的工作是多麼酷。我試著在任何一個週五記住這一點，即使到下午 1 點就會有七件事變得很糟糕。
一年多前的一個週五（2023 年 11 月 18 日），最不順心的事就是我在影片通話中被突然解僱。然後剛掛斷電話，董事會就發佈了一篇關於此事的官宣文章。當時我在拉斯維加斯的一間酒店房間里，那種感覺幾乎無法解釋，就像一場夢境出錯了。
毫無徵兆地在公眾面前被解僱，這開啟了幾個小時的瘋狂，以及此後相當瘋狂的幾天。最奇怪的是「戰爭迷霧」（誰主導了此次事件）。我們當中沒有人能得到關於「發生了什麼」或「為什麼發生」的滿意答案。
在我看來，整個事件是包括我在內的善良的人治理的巨大失敗。回首往事，我當然希望自己能做些不同的事情，而且我相信自己今天比一年前是一個更好、更有思想的領導者。
我還學習到，在管理一系列複雜挑戰時，擁有多元化觀點和豐富經驗的董事會的重要性。良好的治理需要很大的信任和可信度。我很欣賞這麼多人共同努力為 OpenAI 建立更強大的治理體系，這使我們能夠追求「確保 AGI 造福全人類」的使命。
我最大的收穫是：我要感謝很多人。感謝在 OpenAI 工作並花費時間和精力追求夢想的每一個人，感謝幫助我們度過危機時刻的朋友，感謝支持並信任我們幫助他們取得成功的合作夥伴和客戶，感謝我生命中向我展示他們有多關心我的人。
我們都以更加團結和積極的方式重新投入工作，我為我們從那時起的專注感到非常自豪。我們所做的研究無疑是有史以來最好的研究。OpenAI 的周活躍用戶從大約 1 億增長到 3 億多。最重要的是，我們繼續將人們真正喜歡的技術推向世界，並解決實際問題。
九年前，我們真的不知道自己最終會變成什麼樣子；即使是現在，我們也只是略知一二。人工智能的發展經歷了許多轉折，我們期待未來會有更多轉折。
其中一些轉折讓人欣喜，一些轉折讓人心酸。看著源源不斷的研究奇蹟出現，很多反對者變成了真正的信徒，這很有趣。我們也看到一些同事分道揚鑣，成為競爭對手。團隊往往會隨著規模的擴大而更替，而 OpenAI 的規模擴大得非常快。我認為這其中有些是不可避免的：初創公司通常會在每一個新的主要規模級別上出現大量人員流動，而在 OpenAI，每隔幾個月就會有數量級的人員流動。過去的兩年就像是普通公司的十年。當任何一家公司發展壯大得如此之快時，利益自然會產生分歧。而當任何一家公司在重要行業處於領先地位時，很多人都會出於各種原因攻擊它，尤其是試圖與其競爭時。
我們的願景不會改變，但我們的策略會不斷髮展。例如，當我們開始創業時，我們根本不知道我們必須建立一家產品公司；我們以為我們只是要做偉大的研究。我們也不知道會需要如此瘋狂的資金。現在，我們必須去建立一些幾年前我們還不瞭解的新事物，未來還會有我們現在幾乎無法想像的新事物。
我們為迄今為止的研究和部署記錄感到自豪，並致力於繼續推進我們在安全和利益共享方面的思考。我們始終認為，確保人工智能系統安全的最佳方式是迭代式地逐步將其推向世界，讓社會有時間適應該技術並與之共同發展，從經驗中吸取教訓，不斷提高該技術的安全性。我們相信，在安全和調整研究方面成為世界領先企業，並通過實際應用的反饋來指導研究工作，是非常重要的。
我們現在確信，我們已經知道如何構建我們傳統上理解的 AGI 了。我們相信，在 2025 年，我們可能會看到第一批 AI Agent「加入勞動力大軍」，並實質性地改變公司的產出。我們仍然相信，不斷地將優秀的工具交到人們手中，會帶來偉大的、影響廣泛的成果。
我們開始把目標轉向更遠的地方，轉向真正意義上的超級智能。我們熱愛我們現有的產品，但我們在這裏是為了輝煌的未來。有了超級智能，我們可以做任何其他事情。超級智能工具可以大大加快科學發現和創新的速度，遠遠超出我們自己的能力，進而大大增加財富和繁榮。
這聽起來就像科幻小說，甚至說起來都有點瘋狂。沒關係，我們曾經經歷過，也願意再次經歷。我們堅信，在未來幾年里，每個人都會看到我們所看到的一切，我們必須謹慎行事，同時最大限度地擴大受益面和賦權，這一點非常重要。鑒於我們工作的可能性，OpenAI 不可能是一家普通的公司。
能夠在這項工作中發揮作用，我感到非常幸運和謙卑。
在那幾天里，有很多人為幫助 OpenAI 和我個人做了大量令人難以置信的工作，但有兩個人脫穎而出。
Ron Conway（註：矽谷著名天使投資人）和 Brian Chesky（註：Airbnb 聯合創始人兼首席執行官）的工作遠遠超出了我的職責範圍，我甚至不知道該如何形容。當然，Ron 的能力和堅韌不拔的精神我早有耳聞，在過去的幾年里，我花了很多時間和 Brian 在一起，獲得了大量的幫助和建議。
但是，沒有什麼能比得上與人們一起在散兵坑裡看看他們到底能做些什麼。我有理由相信，如果沒有他們的幫助，OpenAI 早就分崩離析了。他們夜以繼日地工作了好幾天，直到事情完成。
雖然他們的工作辛苦得令人難以置信，但他們始終保持冷靜，有著清晰的戰略思維和很好的建議。他們阻止了我犯的幾個錯誤，自己卻沒有犯任何錯誤。他們利用自己廣闊的人際關係網為我提供一切所需的服務，並能在許多複雜的情況下遊刃有餘。我相信他們還做了很多我不知道的事情。
不過，我最難忘的還是他們的關懷、同情和支持。
我以為我知道支持一位創始人和一家公司是什麼樣子，在某種意義上，我確實知道。但我以前從未見過，甚至從未聽說過這些人所做的任何事情，現在我更充分地理解了他們擁有傳奇地位的原因。他們與眾不同，都完全配得上自己真正獨特的聲譽，但他們在移山填海、助人為樂方面的非凡能力，以及在需要時堅定不移的承諾，卻又是相似的。有他們兩位在，科技行業會更好。
像他們這樣的人還有很多。這是我們這個行業的一個了不起的特殊之處，他們為這個行業的發展做出的貢獻遠比人們意識到的要多得多。我期待著將這種精神發揚光大。
就我個人而言，我要特別感謝 Ollie 在那個週末以及一直以來對我的支持。他在各方面都非常出色，沒有人可以找到比他更好的 partner。
博客鏈接：https://blog.samaltman.com/reflections
