OpenAI CEO 炮轟馬斯克是惡霸，2025 年 ChatGPT 最受期待的新功能也來了 | 附萬字專訪實錄
當 ChatGPT 的日活躍用戶突破 1.2 億，每天處理超過 10 億次查詢時，AI 已不再是一個高高在上的科技概念，而是深刻改變著人們的日常生活。
在這場席捲全球的技術浪潮中，OpenAI CEO Sam Altman 無疑是最重要的領軍人物之一。
昨天，Altman 化身產品經理，在線發起了 2025 年的產品意見徵集：
what would you like openai to build/fix in 2025? 你希望 OpenAI 在 2025 年能打造或改進什麼？
我們整理了網民的一些高讚回答，看看你更喜歡哪一項功能？
同樣在去年的 12 月份，Altman 也發起了類似的意見徵集貼，2024 年即將過去，回顧 OpenAI 過去一年的產品，你覺得完成度如何？
而在近日，《自由新聞》記者 Bari Weiss 更是對 Altman 進行了一次深度專訪。
「如果你回想我們在 2023 年 4 月時為之興奮的 AI 技術，相比我們現在擁有的技術，那時的技術簡直是原始的。」Altman 說。
在他看來，AI 不僅是一項革命性技術，更可能像晶體管一樣，成為推動人類社會進步的基礎性力量。
然而，OpenAI 的狂飆突進也帶來了一系列挑戰。
今年以來，馬斯克多次提起訴訟，試圖阻止 OpenAI 推進其商業化進程。對此，Altman 並未否認馬斯克前期對 OpenAI 的幫助，但也對他的行為嗤之以鼻。
他是一個偉大的企業家，但也是一個惡霸。
與此同時，除了非營利組織到商業化的轉型所引發的爭議，在 AI 安全和監管問題，中美技術競爭日趨激烈等關鍵議題上，Altman 也提供了關於他的視角和思考。
省流不看版如下：
AI 在近 18 個月內發展迅速，從 2023 年 4 月到 2024 年 12 月進步顯著，ChatGPT 的搜索功能整合讓 Altman 使用量翻倍，逐漸取代傳統搜索引擎。Altman 預測「超級智能」將在未來幾年出現，可能顯著加快全球科技進步速度。
開發模型需要巨額資金支持（或超過 1000 億美元），對此，Altman 承認早期對營利模式的擔憂有些「天真」。他強調非營利部門將繼續存在，商業化不影響公司使命。
馬斯克多次起訴 OpenAI，質疑其商業化轉型，Altman 表示最初推動營利轉型的實際是馬斯克，認為爭議實質是關於 AI 控制權的競爭。
Altman 支持適度監管，但反對過度監管抑制競爭，建議監管重點關注最前沿的 AI 技術，而非所有 AI 項目。他並不認同將 AI 與核武器完全類比，認為使用場景和影響很不同。
對於中美 AI 競爭，Altman 承認存在 AI 軍備競賽，但主張通過領先和合作實現和平，強調美國需要加強國內 AI 基礎設施建設和供應鏈，呼籲在競爭中保持清醒，避免過度對抗。
Altman 認為完全中立的 AI 系統是不可能的，強調用戶自由選擇和系統預設設置的重要性，並主張在模型規格中保持透明度，公開說明任何修改。
全文共 1.8 萬個字，由 APPSO 編譯，enjoy it~
附上原影片地址：
我 chat 了一下，AI 是如何在 18個月內進入我們的生活？
Bari Weiss：Sam Altman，非常感謝你能來參加這個節目，真的感謝。
Sam Altman：謝謝。
Bari Weiss：我們上次交談是在 2023 年 4 月，我知道從那以後你接受了無數次採訪，但那次談話似乎已經是很久以前的事了。
當時 ChatGPT 剛剛發佈，人們才剛開始從抽像的層面試圖理解這項技術是什麼，以及它可能會如何改變他們的日常生活。
而現在，坐在這裏，已經是 2024 年 12 月了，ChatGPT 已經成了家喻戶曉的名字，OpenAI 也是如此。
當然，你的一些競爭對手也一樣，比如 Perplexity、Gemini 和 Claude。普通美國人每天都在使用這些工具，從數學輔導到調試代碼，再到撰寫文稿，它們在這些方面表現非常出色。
告訴我，ChatGPT 以及更廣義上的 AI 技術自我們上次交談以來的一年半時間里發生了怎樣的變化？它是否達到了你今天的預期，還是已經超出了？
Sam Altman：我認為這裏有兩個不同的方面需要討論。
一個是技術本身的變化，這一點確實變得好了太多。
如果你回想我們在 2023 年 4 月時為之興奮的 AI 技術，相比我們現在擁有的技術，那時的技術簡直是原始的。
現在的技術能力令我感到非常震撼。但更令人震驚的是，在接下來的一年里，這種技術改進的速度。
如果我們在 18 個月後再回來討論它能做什麼，我認為從 2023 年 4 月到 2024 年 12 月的技術差距，可能會像我們向前再看 20 個月的變化一樣大，甚至更大。
另一個發生的事情是，這項技術已經真正融入了社會。
回到那個時候，它仍然是一個新奇的東西，許多人聽說過它，但現在，人們確實大量使用它，不管是在工作還是個人生活中。
我從未見過一項技術以這樣的速度被廣泛採用——不僅僅是人們隨便嘗試一下，而是他們真正開始像你提到的那樣，在各個方面都使用它。所以，這種採用曲線比我想像的要快得多。我本來預計技術會發展得很快，但這種社會接受的速度還是超出了我的預期。
Bari Weiss：你在日常生活中是如何使用你幫助創造的這個工具的？就像我認識的很多人在用它的方式一樣，比如 Tyler Cowan 和很多熱衷於技術的早期用戶，幾乎可以說它已經取代了他們的 Google。
對他們來說，ChatGPT 就像是一個更深入、更強大的 Google。這是它的工作方式嗎？
Sam Altman：我用它來完成各種事情。但最新的一點是，幾個月前我們發佈了搜索整合功能，現在 ChatGPT 可以在互聯網上搜索實時信息。
在我們發佈過的所有功能中，這個功能讓我一下子把使用量翻了一倍。從那以後，我或許還用過 Google 做什麼事情，但我已經記不清是什麼了。
而且我已經把 ChatGPT 設置為 Chrome 中的預設搜索引擎，從那之後，我再也沒有回頭看過傳統的搜索方式。
對於一個如此深深嵌入我行為模式中的東西，這種改變的程度讓我印象深刻。現在，當我回想起過去的搜索方式時，我覺得，那種方式就像是「哦，天啊，那是個前 iPhone 時代」的感覺。這種行為上的轉變，給我的感受就是這樣的。
這也是過去幾個月讓我最感到驚訝的變化——現在我所有的搜索都在 ChatGPT 里完成了。
Bari Weiss：你怎麼稱呼它？你會叫它「搜索」嗎，還是有一個像「Google」那樣的動詞？
Sam Altman：一個動詞？我還是叫它「搜索」。不過，我聽說其他人，比如有些人會說「我用 chat 查了一下」或者「我 chat 了一下」。
Bari Weiss：「我 chat 了一下」？
Sam Altman：對，尤其是年青人，他們似乎只把它稱為「chat」，但我還是說「搜索」。
Bari Weiss：Sam，就在幾個月前的 9 月，你在自己的網站上發表了一篇宣言，預測超級智能的出現會在未來幾年，或者正如你令人印象深刻的說法，是在未來幾千天內。
給我們解釋一下什麼是超級智能。告訴我們如何知道它真的來了，以及它將在未來幾十年如何改變人們的生活。
Sam Altman：我用來構建自己思維框架的一種方式是觀察科學進步的速度。
如果全球科學進步的速度突然變為三倍，甚至是十倍，比如那些我們原本預計需要 10 年才能實現的發現或技術進步，每年都能實現，然後一代接著一代地累積下去。
對我來說，這種狀態會讓我覺得超級智能已經到來了。我認為，這在很多方面會改變社會和經濟的運行方式。
但它不會改變的東西，我認為很多 AI 評論員對此有誤解，那就是它不會改變人類深層次的基本驅動力。
所以從這個意義上來說，我們已經經歷了許多次技術革命，而那些我們傾向於關心的事情，以及驅動我們所有人的動力，大多數情況下幾乎沒有改變，或者完全沒有改變。但我們所生存的世界將會發生巨大變化。
馬斯克是一個傳奇的企業家，但他顯然也是一個惡霸
Bari Weiss：好的，Sam，我們今天想和你進行這次對話的一個原因，不僅僅是因為我們想聽你談 AI 如何改變我們的生活和工作方式，還因為你目前正與 OpenAI 的原始聯合創始人埃隆·馬斯克陷入一場非常公開的爭鬥。
我想可以這樣說，大多數聽眾可能只是模糊地知道埃隆·馬斯克和你之間的衝突，與他旗下的某家公司有關，或者他的許多公司之一。
他們肯定沒有在關注那些錯綜複雜的訴訟細節或整體衝突。我想儘量以最公正的方式為你總結一下，然後你告訴我是否有哪裡說錯了，或者我是否超出了限度。
OpenAI 於 2015 年成立，並以非營利組織的形式起步。在同年 12 月的一篇博客文章中，你們向世界介紹了 OpenAI，你是這樣寫的：
「OpenAI 是一家非營利的人工智能研究公司。我們的目標是以最有可能造福全人類的方式推進數字智能的發展，而不受產生經濟回報的需求所限制。由於我們的研究沒有財務義務，我們可以更好地專注於對人類的積極影響。」 這成為了 OpenAI 品牌的核心理念之一。
到了 2019 年，OpenAI 轉變為所謂的混合模式，也就是擁有一個盈利部門的模式。當年，微軟對其進行了 10 億美元的投資。
從那以後，微軟向 OpenAI 投入了大約 130 億美元，或者可能是更高的數字。而埃隆從一開始就是 OpenAI 的聯合創始人之一，但隨著時間的推移，他與公司的關係惡化，因為他不同意我剛才描述的這種轉變，即從非營利模式轉向混合模式。最終，他離開了公司，並辭去了董事會職務。
今年，埃隆迄今為止已經多次起訴你和 OpenAI。他還接受了許多採訪，並在社交媒體上發佈了無數條推文或「X」動態，內容都圍繞這一衝突。
他所有的訴訟都聲稱，你們在推進 AI 的過程中，將利潤置於公眾利益之上，從而違反了某種合約。而在上個月，也就是最近的進展中，埃隆要求加州的一位地區法官阻止 OpenAI 轉換為這種盈利性結構。
好了，這信息量有點大。我總結得對嗎？有沒有什麼關鍵的點被遺漏了，或者哪裡有誤？
Sam Altman：你的總結是對的，不過，實際上最初最想讓 OpenAI 轉變為盈利性機構的正是埃隆。
他曾經提出過許多方案，比如讓 OpenAI 成為特斯拉的一部分，或者創建一個全新的盈利機構，他將完全控制。所以除了這一點以外，你的總結基本上是正確的。我對此有很多想法和看法，但作為事實陳述，你的總結基本正確。
Bari Weiss：請用一個高度概括的視角總結一下埃隆·馬斯克與他的各種盟友（包括 Meta 在內）之間，以及你們之間的根本衝突是什麼？這種分歧到底是什麼？
Sam Altman：我無法進入埃隆的腦海，所以這隻是一些推測。埃隆確實在 OpenAI 的早期階段做了很多貢獻。
儘管如此，我對此非常感激，並且我認為他是一個傳奇的企業家，但他顯然也是一個惡霸，並且顯然喜歡與人爭鬥。目前是和我，之前是貝佐斯、蓋茨、朱克伯格以及很多其他人。我認為從根本上來說，這和 OpenAI 做得非常好有關，而埃隆非常在意做得非常好。
埃隆現在創立並運營了一家非常直接的競爭對手公司，這家公司試圖做與 OpenAI 完全相同的事情。從結構上來看，我聽說他的公司是一個公共利益公司（PBC），而且埃隆擁有多數股權和控制權，這似乎是他會做的合理的事情。
我認為媒體在這一點上有很多錯誤報導。即使我們考慮了一些轉換或發展想法，也並不意味著非營利機構會消失。
非營利機構不會因為某些發展計劃就停止成為非營利機構。我們公開討論過，也許我們會將目前的 LLC 演變成 PBC，但無論我們做什麼，都會加強非營利機構的作用。
非營利機構將繼續存在，我們也會繼續努力實現相同的目標，也就是你之前提到的：開發這項不可思議的技術，以我們認為對人類最有益的方式開發，並將其推廣到全世界。
我們會繼續這樣做，我對我們迄今為止的表現感到非常自豪。正如你之前提到的，人們使用並喜歡 ChatGPT。ChatGPT 有一個不可思議的免費版本，我們在這上面虧了錢，它也沒有廣告支持或其他商業模式。
我們只是想把 AI 放在用戶手中。我們希望通過技術的部署，讓人們與之共同進化、理解它，並經歷目前全球在應對 AI 的過程中所經歷的一切。最終，世界將面對 AGI（通用人工智能）的思考。
我們正在做的一切都是朝著這個方向推進的。我相信，如果埃聽不掌控 OpenAI，他會為我們所做的一切感到高興。
他離開公司時認為我們會失敗，並且他不想參與到一個他無法完全控制的 OpenAI 中。但我認為這些爭議有點像無關緊要的鬧劇。
對我們來說，正確的做法是繼續進行出色的研究，持續推出人們喜愛的產品，最重要的是，堅持追求「讓 AGI 造福人類」的使命，並將其推向世界。
Bari Weiss：對於剛剛接觸這個話題的人來說，為什麼 OpenAI 轉換為盈利性公司，或者以你們一直在討論的方式進行轉換，對 OpenAI 的成長至關重要呢？為什麼這是不可或缺的？
Sam Altman：當我們創立OpenAI時，我們覺得很難回想起2015年的情況有多麼不同。當時還沒有語言模型和聊天機器人，ChatGPT更是遙不可及。
我們當時在進行研究，發表論文，研究可以玩電子遊戲和控制機器人手的人工智能之類的東西。我們本來以為能籌到 10 億美元，但最終沒有成功。
我們當時覺得，靠這 10 億美元可以在我們試圖實現的目標上取得實質性的進展。
然而，隨著我們不斷深入學習並進入大規模語言模型的世界，我們意識到這不僅僅需要 10 億美元，甚至不止 100 億美元，而是可能需要超過 1000 億美元的投入。
而作為一家非營利機構，我們根本無法做到這一點。所以，這是轉型的根本原因。
關注 AI 第一新媒體，率先獲取 AI 前沿資訊和洞察
Bari Weiss：那麼，換句話說，也許可以這樣理解：獲得計算能力的支持對於創造這項技術來說是絕對必要的。
Sam Altman：沒錯，而且其他所有從事AI的努力也已經意識到了這一點，並以某種方式設立了能夠接觸資本市場的機制。
Bari Weiss：最近你對埃隆說了很多不同的話。在一次採訪中，Andrew Ross Sorkin 問到你對這場衝突的感受時，你的回答是「感到難過」。你還說你認為埃隆的公司很棒。
然後他問你，是否認為埃隆會利用他新獲得的政治影響力來懲罰你、懲罰 OpenAI 或懲罰他的競爭對手。你在採訪中表示，你認為他會做正確的事。這與你剛剛告訴我的話——埃隆是個欺淩者——怎麼協調呢？欺淩者通常不會做正確的事吧？
Sam Altman：我覺得這兩件事是完全可以並存的。我認為有些人在Twitter上真的可能表現得很糟糕，但這並不意味著他們會濫用一個國家的體系——特別是在他們現在處於一個極具影響力的政治角色時。這對我來說是完全不同的事情。
Bari Weiss：到目前為止，這場爭鬥——對於那些長期在線、時刻刷Twitter的人來說——主要通過推文、隱晦的推文進行，我們都在Twitter上實時關注這場衝突的進展。而 OpenAI 基本上處於一種回應模式，有時甚至是完全忽視的狀態。我覺得這是可以這樣描述的。
這種狀態在幾天前發生了改變，你們在 OpenAI 的網站上發表了一篇非常非常長的備忘錄。它像是一篇博客文章，推薦大家去閱讀一下。這篇文章幾乎完全是一條時間線，從 2015 年開始回顧，展示了你們的觀點，通過電子郵件、短信截圖及其解釋，證明埃隆早在那時就對 OpenAI 成為一家盈利性機構持開放態度。我讀了整整29頁內容。如果有人不想讀，可以去讓 ChatGPT 總結一下。ChatGPT 告訴我，這是它的總結：
「這篇文章詳細描述了埃隆·馬斯克與 OpenAI 領導層，尤其是 Sam Altman 之間的分歧，源於馬斯克對 OpenAI 從非盈利模式轉向混合盈利模式的不滿。這場爭端很重要，因為它突出了 AI 應該如何開發和控制的更廣泛倫理難題——是否應該優先考慮公眾利益還是公司利潤，尤其是在強大的 AI 技術對社會和經濟的影響日益增長的情況下。」
我覺得這個總結挺不錯的，你怎麼看？
Sam Altman：不，但關於你的總體觀點，你是對的，我們確實沒有在Twitter上來回爭吵。這次發佈聲明的原因是我們必須提交法律文件，並希望提供一些背景說明。我們以前也曾因類似情況發佈過一次聲明，那也是因為我們不得不提交法律文件。我已經記不清埃隆起訴了我們多少次了，我想大概有 4 次吧。
他撤回了、修改了，然後又申請臨時禁令等等。我們的任務是以造福人類的方式構建 AGI，並找到安全且廣泛分發它的方法。我們的任務不是與埃隆在Twitter上打嘴仗，但如果我們必須對法律文件做出回應，我們會這樣做，有時也會提供背景說明。我想我們只做過兩次這樣的事情。
Bari Weiss：在 OpenAI 早期階段，它的品牌形象——至少在我看來——是透明和非營利性，這些是它反復強調的內容。你說過，你不能持有任何股份，你拿的薪金也很低，因為你說，「我不想有利益衝突。我想始終以最符合人類利益的事情為動力。」
2015 年 12 月 OpenAI 剛成立後的第二天，你在接受《名利場》的採訪時將其描述為一家「致力於拯救世界免於反烏托邦未來的非營利公司」。
你還說過，試圖讓 OpenAI 成為一家盈利性公司將導致「與世界整體利益不一致的激勵機制」，這是次優的選擇。我想問一下，你是否仍然同意這個觀點，還是只是因為開發這些模型需要數百億資金而不得不適應現實？
Sam Altman：兩點。首先，我覺得自己當時有點錯了。雖然我對這一點始終有擔憂，但我對我們以及其他 AI 實驗室在這方面的表現感到印象深刻。儘管它們有各種市場或經濟激勵機制，但它們確實非常專注於開發安全的模型。
我認為這其中有很多因素。一方面，我們在技術發展的方向上有些幸運；但另一方面，如果你以一種對人類有害的方式部署這些模型，我相信你很快就會失去運營許可。這一點是顯而易見的。
當然，也有一些微妙的錯誤可能會發生，比如我認為社交媒體就是一個例子，當時可能沒有明顯的危害，但隨著規模的擴大出現了一些突發性的屬性。
你可以想像類似的事情可能發生。但激勵機制問題比我當時想像的要好一些。我願意坦率地承認，10 年前我對世界的運行方式有些天真，而現在我對此感到更有信心。
Bari Weiss：天真？怎麼說？
Sam Altman：來自社會的壓力——尤其是對大公司的壓力，以及研究人員推動他們的公司做正確事情的力量——即便是在巨大的利潤動機面前，表現都還算不錯。
但有一件事我當時就不覺得天真，現在依然如此，那就是：這種事情竟然發生在少數幾傢俬營公司手中，這讓我依然覺得非常不可思議。
對我而言，這感覺就像我們這個時代的曼哈頓計劃或阿波羅計劃。而這些計劃不是由私營公司完成的，我認為這反而是一個功能良好的社會的標誌。
Bari Weiss：你認為我們需要一個曼哈頓計劃嗎？
Sam Altman：我認為公司會做正確的事情，一切會順利進行。而且在當前的世界里，我認為政府主導的努力根本行不通。老實說，即使它真的成功了，我也不覺得那是件好事。我只是希望我們生活在一個讓我覺得那才是應該的方式並正在發生的世界里。
Bari Weiss：Meta 現在顯然站在了埃隆一邊。幾天前，Meta 要求加州檢察長阻止 OpenAI 轉變為營利性機構。他們在信中這樣寫道：「OpenAI 的行為可能會對矽谷產生巨大的影響。如果 OpenAI 的新商業模式被認可，那麼非營利投資者將能夠獲得與傳統方式投資盈利性公司相同的利潤，同時還能夠享受政府提供的稅收減免。」
這呼應了馬斯克去年說的話，他當時表示：「我很睏惑，一個我捐贈過的非營利機構怎麼會變成一個市值巨大的盈利性機構。換句話說，如果這是合法的，為什麼大家不都這麼做？」
Sam Altman：我不知道 Meta 為什麼要發那封信，但我知道他們知道事實並非如此。我知道在這些領域，沒有人會因為非營利組織的捐贈而直接獲益於某種盈利性股權。當然，他們也知道這一點。
你可以想像 Meta 發這封信有很多其他的原因。比如，他們可能想討好埃隆；他們可能覺得這樣做有助於他們與我們競爭；或者他們可能因為認為我們對開源持反對態度而對我們感到不滿——儘管我不認為這是準確的，也不是我所感受到的原因。我不知道，你可以去問問他們真正的原因是什麼。
Bari Weiss：對於普通人來說，聽到這些可能會困惑：一個非營利組織如何變成一個盈利性機構？答案是什麼？
Sam Altman：非營利組織仍然是非營利組織。我相信 OpenAI 的非營利組織正在走上一條軌跡，我希望如果我們做得好，它將成為史上最大、最有影響力的非營利組織。
非營利組織不會變成其他任何東西。就像其他許多事情一樣，我們的生態系統中可以有一個盈利性的業務存在，但這並不意味著非營利組織會轉變。非營利組織不會消失，也不會停止從事非營利性的事情。
誰是從 OpenAI 中獲利最多的人
Bari Weiss：最終，Sam，誰將從 OpenAI 的成功中獲利最多？
Sam Altman：所有人。我告訴你，我希望每個人都可以用他們的比喻來描述這場技術革命最像什麼。有人說這是工業革命，有人說這是電力革命，也有人說它像互聯網。但我希望它像晶體管。
我們發現了一項新的重要的基礎性物理規律，或者你願意叫什麼都行。
我們進行了大量研究，其他人也進行了研究，而它將滲透到經濟、產品以及一切事物的各個方面。
今天你我正在使用許多含有晶體管的設備，才讓這次播客成為可能。計算機里有一些，你的馬克風裡有一些，你我之間所有的互聯網設備里都有很多，但我們並不會坐在這裏去思考晶體管的存在。
而晶體管公司也不會坐在這裏賺取所有的財富。這一令人驚歎的科學發現已經滲透到我們生活的方方面面，每個人都從中賺到了錢。這就是我希望 AI 能夠成為的樣子，我認為這也是最好的類比之一。
Bari Weiss：你有沒有股份？或者你在這個新的盈利封頂公司中有什麼樣的權益？
Sam Altman：目前我們還沒有成立一個新實體。我們顯然考慮過成立一個新實體，或者可能將我們現有的 LLC 轉變為一個更準確的實體。
我通過一個早期 YC 基金持有少量股份。我過去通過紅杉資本基金持有一些股份，但那部分後來更容易出售，也沒有繼續保留。
所以我持有的股份非常少，對我來說幾乎沒有意義。我未來是否會有股份，目前沒有任何計劃或承諾。如果我得到了什麼，也不會像外界那些荒謬的傳聞那樣，傳聞的數字是不可能發生的。
Bari Weiss：你知道為什麼人們對這個問題如此關注。
Sam Altman：正如我之前多次說過的，如果我能回到過去，我會選擇持有股份。我現在更能理解當初我的擔憂為何是錯位的。我也明白現在去持有股份會顯得有些奇怪，畢竟之前沒有。
但另一方面，我真希望不用再回答這個問題，成為一家正常的公司，我管理它，有一些股權投資者，不需要擔心我在其中是否有利益衝突。
整個關於「沒有任何股份」的懷疑氣氛，是我對 OpenAI 結構中最遺憾的決定之一。但我理解為什麼人們對它如此執著，這也很合理。
Bari Weiss：如果你能回到過去，你會從一開始就怎麼做？讓我們把時間倒回到 2015 年。
Sam Altman：如果當時有一個預言家能告訴我，在 2015 年 11 月之前：
第一，你將需要超過 1000 億美元；
第二，儘管今天你完全不知道如何將其產品化，而且你認為自己是一個研究實驗室，但最終你會變成一家能夠產品化並形成商業模式的公司，這樣你才能向投資者解釋他們為什麼不僅僅是在資助一個研究實驗室；
第三，參與這個領域的人們的激勵機制將更自然地受到控制，因為它不會像我和許多人當時認為的那樣，是一個遙遙領先於所有人的單一努力，而是更像晶體管那樣逐步滲透到各個領域，並因此形成更好的平衡動態。
如果一個預言家提前告訴我這三點內容，我會說：「很好，讓我們成為一家公共利益公司（PBC）。」
Bari Weiss：埃隆在推動 OpenAI 起步時有多關鍵？如果預言家也告訴你後來你們之間會發生這場衝突，而他是你曾經視為親密朋友的人，你會說，「沒關係，我可以自己完成」嗎？
Sam Altman：不會，他真的幫了很大的忙。我對此非常感激。
Bari Weiss：我第一次看到埃隆·馬斯克是在一個會議的舞台上，當時你在採訪他。你們之間的互動非常棒，看起來像是非常好的朋友。
他對你說了一些非常嚴厲的話，比如把你比作《權力的遊戲》里的小指頭（Littlefinger），最具殺傷力的一句話是：「我不信任他，我不希望世界上最強大的 AI 被一個不值得信任的人掌控。」他為什麼這麼說？
Sam Altman：我想是因為他希望世界上最強大的 AI 由他來掌控。另外，我見過埃隆對許多人、包括我的很多朋友發起攻擊。每個人都會有被他抨擊過，但這些看起來都是他一貫的行為方式。
Bari Weiss：我試圖站在一個前朋友、前合作夥伴的角度，想像他說出那種話。我覺得你對這件事似乎相對冷靜。
Sam Altman：不，我對此當然很難過。我最近和一個我認為關係很親近的人聊到這件事時，我說：「埃隆沒有朋友，埃聽不做同伴，埃聽不交朋友。」
這讓我覺得很遺憾，因為我確實把他當作朋友。但我也不知道，我能以一種相對冷靜的方式看待這件事。我記得他曾經說過 OpenAI 成功的可能性是零，說「你們這些人是笨蛋」，然後撤資並表示他會自己幹。
在那之後，有些時刻讓我覺得他似乎想要和解，並找到一種合作的方式。但我也記得有些時候，他只是在Twitter上做自己的事。如果這些攻擊只是針對我一個人，我覺得會更加痛苦。但你知道，他在Twitter上的行為，大家都看得見。
所以我可以用一種相對不帶個人感情的方式看待這些，把它當作關於埃隆的問題，而不是關於我的問題。但這仍然讓我難受。我想，我花了很長時間才習慣這種感覺吧。
Bari Weiss：最近在 OpenAI 網站上發表的那篇博客文章提到，埃隆應該「在市場上競爭，而不是在法庭上競爭」。
當然，從一個憤世嫉俗的角度來看，正如你在這次談話中暗示的那樣，埃隆現在擁有一家與 OpenAI 競爭的公司 xAI，他起訴你們並不是因為他真的關心AI安全或者其他什麼問題，而只是想參與競爭。對此你怎麼看？憤世嫉俗的觀點是真的嗎？這真的是一場為了爭奪市場主導地位的競爭嗎？
Sam Altman：你應該去問他。我希望你能邀請他來節目。
AI 不可能完全中立，支持有限度的監管
Bari Weiss：好吧。你不僅被認為是世界上最重要的 AI CEO 和 AI 開發者之一，還被廣泛認為是 AI 監管的積極倡導者。
這裏的一個憤世嫉俗的觀點是，就像你可以質疑埃隆的動機一樣，也可以認為你推動 AI 監管的方式是為了抑制競爭，從而使你的公司受益。顯然，你以前聽過這樣的論點。
Sam Altman：我認為過多的監管顯然會對社會產生巨大的負面影響。目前在許多地方，我們的監管已經過多了。我是說，埃隆和其他大多數大型 AI 項目的負責人也都在積極呼籲 AI 監管。
當你登上一架飛機時，你會覺得飛行的安全性非常高。當你在美國吃食物時，你不會太多考慮食品安全的問題。一些監管顯然是好事。當然，我可以想像一些 AI 監管的版本可能會帶來真正的問題，並對小型項目造成不利影響。
我認為那會是一個真正的錯誤。但針對最強大的系統進行一些安全保護措施，這種措施應該隻影響那些站在技術前沿的公司，比如 OpenAI 以及少數其他公司。我不認為我們目前的這些系統已經達到巨大的安全隱患級別，但我也不認為我們離那個程度還非常遙遠。
Bari Weiss：一些初創公司提出的論點，比如一家叫 Hugging Face 的 AI 初創公司（這個名字真有意思），還有一家叫 Stability AI 的公司的創始人。
他們基本上在說，Sam 和其他大型公司，比如 OpenAI、Google 和蘋果，正在試圖通過政府的監管為自己建立護城河，並通過監管俘獲來抑制競爭。
你對此怎麼看？這就像大科技公司和小科技公司之間的爭論。這個問題可以用多種方式來詮釋。對於那些說「我們想參與競爭，但像 Sam 這樣的人的監管主張會傷害我們而有利於他們」的人，你有什麼想說的嗎？
Sam Altman：如果他們的意思是說，「我們落後於OpenAI，所以這不重要」，而我們呼籲的僅僅是針對前沿技術的監管，比如那些全新且未經測試的東西，而對於其他方面，比如想發佈什麼開源模型都可以，我覺得他們這樣辯解是不合理的。
我不知道。我很好奇你是怎麼想的。如果我們成功了，開發出了一個超級智能，一個可能比整個人類加起來還要聰明、更有能力的計算機程序，你認為對此應該有任何監管嗎？還是說他們會說「完全不需要」？
Bari Weiss：我當然認為，首先，我甚至不太明白當我們談論超級智能時到底在談什麼。你對它的含義和影響有著我完全不具備的理解，這是第一點。
第二點，如果這項技術真的像你、埃隆以及其他很多與它接觸更近的人所說的那樣強大，那麼我當然認為它應該以某種方式受到監管。至於如何監管、何時監管，顯然是一個非常重要的問題。
Sam Altman：如何監管以及何時監管確實非常重要。我同意這一點，我也可以很容易想像到這件事可能會出問題。
Bari Weiss：最近，馬克·安達臣在這個節目中談到他對拜登政府在 AI 技術方面所做努力的看法。他在節目中講了一個他親身經歷的故事。
他說，拜登政府試圖完全控制 AI，他們的目標是讓政府對 AI 的監管非常嚴格。用他的話說，這樣最終只會有兩到三家大公司能夠與政府合作，而他們這樣做的目的是為了保護這些公司免受競爭。這是真的嗎？你知道他提到的是否與 OpenAI 有關，OpenAI 是不是其中之一？
Sam Altman：我不知道他提到的具體內容。我也要非常明確地說，我認為任何減少 AI 競爭的監管都是非常糟糕的事情。
Bari Weiss：所以，OpenAI 並不是那些公司之一？
Sam Altman：不是，我其實不知道他說的是什麼，但我們肯定不是。
Bari Weiss：據我所知，你從未與拜登政府和其他 AI 公司一起出現在某個會議室里？
Sam Altman：我甚至不認為拜登政府有足夠的能力做到這一點。我是說，我們確實和他們一起開過會，但從來沒有其他公司參與，也從來沒有出現什麼陰謀論之類的，比如「我們只允許少數幾家公司能開發 AI」這種事情，從來沒有發生過。
Bari Weiss：你對拜登政府在 AI 和科技領域的總體態度怎麼看？你剛才提到你覺得他們沒有足夠的能力。
Sam Altman：我覺得 Gina Raimondo 很棒，我和她的每次對話都讓我覺得她很明白其中的關鍵。不過總體來說，我認為這個政府的效率並不高。我認為他們應該優先考慮的事情——也是我希望下一屆政府能夠優先考慮的事情——是建立美國國內的大規模AI基礎設施，以及在美國國內建立供應鏈等類似的事情。
Bari Weiss：當馬克來節目時，我請他試著為拜登政府的立場辯護，或者為AI應該受到嚴格監管的觀點辯護。他基本上把這個問題類比為曼哈頓計劃和原子彈的研發，當時政府認為有必要確保這一新科學和創新首先保持機密化。
你覺得這個類比恰當嗎？如果你同意這個類比，並且認為 AI 的力量與核武器相當，那是否意味著這應該是聯邦政府的項目，而不是 OpenAI、Gemini 和 Claude 的項目？
Sam Altman：我覺得所有的類比都有難點，因為它們在某些方面成立，但在其他方面又不成立。比如，你可以指出一些與核時代類似的事情。
你可以談到，比如濃縮鈾需要巨大的資源和能量，而另一方面，生產這些模型也需要大量的資源和能量。所以你可以找到一些類似的地方。但使用這些模型和使用核武器是完全不同的事情，其政治影響也完全不同。
我認為，如果要為那些說「這就像核武器」的人辯護，我覺得他們的意思是：這項技術極其昂貴，同時具有深遠的地緣政治後果。我們不知道這些後果具體是什麼，也不知道該如何看待它們。但正因為我們不確切知道這些後果是什麼，難道我們不應該有一個讓政府決定的原則嗎？
我可以想像，在歷史上其他時期的其他政府中，我們會非常歡迎這種結果。但我認為，讓當前的美國政府負責以比我們的競爭對手更快更好的方式開發 AGI，可能不會有好的結果。我認為，美國的國家能力的衰退並不是一個新觀察，但卻是一個令人悲哀的現象。
Bari Weiss：在核時代的開端，我們國家有些人幾乎像首席科學官一樣發揮作用，對吧？我想到的是像萬尼瓦爾·布殊這樣的人，他幫助啟動了曼哈頓計劃，創立了國家科學基金會，並在核能初期那些非常關鍵的幾年中指導了美國的政策。現在有沒有這樣的人存在，不管他們是不是在華盛頓？
如果我們想要有一個這樣的人，他們理解這項技術，沒有任何經濟利益，並能夠與總統無論是拜登、特朗普還是他們之後的領導人討論，不僅僅是 AI 開發的問題，還有與中國的競爭問題，現在美國有沒有這樣的人？或者說，這個人可能是你？
Sam Altman：我覺得這種意願正在稍微恢復一點，但很長一段時間里，美國公眾對科學和技術未來發展的熱情已經消失了。如果讓我選擇一個時間點，我認為這種熱情是在核武器出現時消失的。
其實，在原子彈投放後，有幾十年的「低迷期」，直到一代人更迭，那些經歷過核彈時代的人變老並掌握權力後，我認為美國從未再像過去那樣，完全擁抱科學和技術推動世界進步的興奮感和信念。
你讀到那些關於過去人們所做事情的故事，會發現他們對科學技術是多麼敬畏，人們相信科學技術的進步會更廣泛地讓世界變得更好。但這種信念現在似乎缺失了，我不認為這是因為我們缺少能夠推動這一信念的個人，而是因為政府不想要，公眾也不想要。
Bari Weiss：不僅僅是政治氛圍的變化，你怎麼看我們自 11 月 5 日以來經歷的這種文化氛圍的變化？如果你在 8 周前跟我說這些，我會覺得 Sam 可能是對的。但現在感覺像是一個不同的國家。
Sam Altman：確實有巨大的文化氛圍變化，我認為在很多方面都有非常積極的動能。但我不確定這種變化是否包括「我們重新認為科學非常重要，科學會拯救我們，解決我們所有問題」的觀點。你覺得有這種變化嗎？還是說這是唯一一個我沒感覺到的領域？
Bari Weiss：我只是覺得現在的趨勢更傾向於「增長是好事，技術進步是好事，虛無主義顯得過時了，正在失去人們的青睞」。我感覺到這種變化正在發生，而且是以一種戲劇性的方式發生的。也許這是因為我花了很多時間在 X 平台上，這種趨勢似乎在那裡醞釀，然後從線上蔓延到了現實世界。所以，如果你去哥倫比亞大學找一個普通的博士生聊聊，我覺得他們可能不會有和我一樣的感受，因為每個人的體驗都太不同了。
Sam Altman：我之前提到「分裂化」（balkanized），我覺得即使是在現場，這種情況也有所好轉。我非常同意你提到的那種總體上對增長和成功、讓國家和經濟表現良好的興趣的轉變。
我也部分同意我之前提到的觀點，即我認為即使是對科學的興趣，也比它曾經的最低谷要好一些了。但當你談到那些被視為國家科學大使的人，以及那些人們真正願意傾聽和感到興奮的科學倡導者時，我還是不太確定是否真的存在這種角色。我覺得這種興奮更多是關於商業，而不是科學。
Bari Weiss：嗯，有一家公司讓我感到興奮，或許這麼說有些爭議，但我確實覺得它的創始人是這個國家最有趣的人之一，那就是 Palmer Luckey 和他的公司 Anduril Industries。
而 OpenAI 最近達成了一項協議，共同開發具有軍事應用的AI。此前，OpenAI 曾明確禁止將其技術用於武器化。
當然，現在的前提是你們專注於防禦系統，比如可以防禦無人機群攻擊的系統，這或許與目前紐澤西正在發生的事情有關。我想談談這個話題。是什麼讓你在根本上改變了主意，決定將公司的技術整合到甚至是防禦性武器系統中？
Sam Altman：我們建立了一套原則，並批準了符合這些原則的一些用例。但我認為，如果美國的領先努力不能幫助保衛美國及其盟友免受對手的威脅，我們將處於一個非常糟糕的境地。因此，我們需要找到應對這一挑戰的辦法。
Bari Weiss：一年半前，當我們聊天時，部分討論內容是關於我們是否正在進行與中國的 AI 軍備競賽。而現在，很明顯，我們確實深陷與中國的 AI 軍備競賽中。即使是那些擔心 AI 力量的人也會覺得，如果只能在我們和中國之間選擇，那必須是我們獲勝。
Sam，你一定經常思考這個問題，能否為我們描繪一下，如果中國贏得 AI 軍備競賽，會發生什麼？對美國來說會怎樣？對世界來說又會怎樣？
Sam Altman：那就是中國想要的東西。
Bari Weiss：你認為這種可能性是真實存在的嗎？
Sam Altman：是的，我的意思是，我們會拚盡全力確保這種情況不會發生。
Bari Weiss：我們怎麼知道他們是否在贏得這場競賽？
Sam Altman：這就是困難的地方，對吧？我們知道他們公開發佈的內容，但不知道他們未公開的內容。我們有很多信號來源，也有情報系統。但就我個人立場而言，我們必須盡力合作。
軍備競賽對所有參與者來說都是不利的。這是歷史上我們一次又一次學到的教訓，但如果有需要，我們也必須能夠贏得這場競賽。
我希望這能成為促進世界和平的一個偉大契機，我相信如果有一個時機能讓全人類團結起來，這似乎是一個很好的候選機會。我希望我們能達到那個目標。但我們不能對此抱有天真的想法。
Bari Weiss：特朗普總統經常談論通過實力實現和平。那麼，Sam Altman 和 OpenAI 的「通過實力實現和平」版本是否意味著我們必須在 AI 領域擊敗對手，遙遙領先，從而讓中國無從選擇？
Sam Altman：不是擊敗對手，而是需要領先，並且我們需要儘可能地願意合作。我認為這在某種程度上類似於「通過實力實現和平」。也就是說，如果有一場軍備競賽，我們會贏，但我們並不希望有這場競賽。
Bari Weiss：意思是，如果有軍備競賽，我們希望贏，但我們根本不希望有這場競賽，對嗎？
Sam Altman：但我們會贏。這甚至不只是這樣。更像是，如果有任何可能以合作方式完成這件事的路徑，我們就應該這樣做，但我們無法控制其他實體的行為。
Bari Weiss：你是說合作嗎？
Sam Altman：是的，我們與中國合作。實際上，我可以直接說，我認為我們經常在戰略利益所在的領域與那些我們並不和睦的人合作。而我認為，這正是關乎全世界利益的一個領域，當然也是我們公司使命所決定的領域。如果真正的合作是可能的，我們就應該這樣做。
Bari Weiss：那我們現在在 AI 領域與中國進行合作嗎？
Sam Altman：你知道的可能比我還多？我本來想說，你可能確實比我瞭解更多。這將是新一屆政府面臨的一個重大問題，但這不會在公司層面上解決，而是會發生在兩國總統的層面上。
Bari Weiss：如果特朗普明天給你打電話說：「嘿，Sam，我想讓你擔任 AI 或 AI 監管的負責人，你可以在這個職位上做任何你想做的事情。」你首先會做什麼？這個職位最重要的事情是什麼？
Sam Altman：美國的基礎設施和供應鏈。
Bari Weiss：對那些不知道這是什麼意思的人稍微解釋一下。
Sam Altman：在美國國內生產芯片，建立足夠的能源供應來運行數據中心，改變現有的條件，在這裏建設數據中心，但關鍵是要能夠建立極其昂貴且複雜的供應鏈，以及極其昂貴的基礎設施，這一切都要在美國完成。
Bari Weiss：AI 中的偏見和審查是一個巨大的話題，也是我們在《自由新聞》中經常思考的議題。最明顯的例子之一就是幾天來人們熱議的，並且大家都在嘲笑的事情——Gemini 生成了那些「黑人佐治·華盛頓」和「跨性別」的圖像。
雖然這很搞笑，但某種程度上這也是一個非常嚴肅的問題，因為這似乎只是這個問題的一個極端、誇張且顯而易見的例子，而這個問題實際上是一個更深層次的系統性問題：這些技術中內嵌的偏見，不僅來源於編程這些技術的人，還來源於它們從互聯網上抓取的信息。
和我們聊聊你們在 ChatGPT 上是如何看待這個問題的吧，因為顯然最接近現實的系統最終才會勝出。如果 ChatGPT告訴我佐治·華盛頓是跨性別者，我肯定不會再依賴它。你怎麼看待偏見這個問題？你們是如何解決的？
Sam Altman：我認為有兩件事很重要。第一是用戶在讓系統按照他們想要的方式運行時的靈活性。我認為我們應該設定非常寬泛的界限。
比如，有些事情顯然是不允許的，比如你不希望一個系統告訴你如何製造核武器。好吧，這點我們都能達成共識。但如果你希望系統變得具有攻擊性，並且你明確要求它這樣做，我認為對齊的一部分就是在社會廣泛認可的界限內完成用戶的要求。
第二件非常重要的事情是系統的預設設置。如果你不做任何個性化調整（大多數用戶不會這麼做），而是隨便問一個有爭議的問題，那麼系統應該如何回應？
我們在這兩方面都投入了大量工作。我們還嘗試寫出模型應該如何表現的規範。我們稱之為模型規格（model spec），這樣你就可以判斷出它是否是一個漏洞，還是你不同意我們的一些立場。
Bari Weiss：是否有可能構建一個像 ChatGPT 這樣的東西，或者其他我們甚至還無法想像的技術，這些技術完全沒有政治觀點？這難道不是不可避免的嗎？
Sam Altman：我認為，不管你試圖讓這個東西多麼中立，它要麼變得毫無用處，因為它會直接回答「我不能回答，因為任何問題都有政治背景」；要麼它會表現出某種觀點。這也是為什麼我們認為可以做的是寫下我們對預設設置的意圖，人們可以就此展開辯論。
如果存在漏洞，我們可以查找漏洞。如果我們對預設設置的定義有問題，我們可以改變定義並重新訓練系統。但確實，我認為沒有任何系統能夠被所有人認為是完全無偏的。這也是個性化為什麼如此重要的另一個原因。
Bari Weiss：你認為AI或者ChatGPT有責任去對抗有害的思想嗎？讓我舉一個例子來說明我的意思。
比如說，如果你知道通過以一種極其微小的方式施加影響，你可能能夠促成一個世界，那裡種族主義、厭女症會減少，甚至可能會對人們來說是不可見的，因為他們根本不知道。
在某種程度上，就像我們剛才討論的，這可能會成為我們所有信息的控制層。你是如何看待這個問題的？
Sam Altman：實際上，最近我在作為一個原則性問題思考一件事。OpenAI 完全沒有採納這一點，但這隻是一個想法，我認為它觸及到了你剛才提到的問題。
假設我們發現了一些新東西，比如，如果 ChatGPT 總是以蘇格拉底式的方法回應，或者其他方式，用戶的學習效果會顯著提高。
但假設用戶的偏好並不是想要蘇格拉底式的回答，而是直接要求系統回答他們的問題。那麼，在這種情況下，我們應該如何決定預設的行為？
我最近越來越多地在思考一個想法：如果我們總是非常明確地說明我們對模型規格的任何修改會怎麼樣？這樣你就不會像一些平台，比如Twitter那樣，把一些東西隱藏在算法背後，用一些奇怪的方法來施加影響。
我們會始終告訴你模型的預期行為是什麼，如果我們對其進行了更改，我們會解釋原因。
但如果我們確實發現了像你剛才提到的那樣的情況，或者像我剛才舉例提到的情況，我們說，好吧，當用戶在進行教育用途時，我們將使用蘇格拉底式的方法，因為這確實似乎帶來了可衡量的效果。那麼我們可以說清楚為什麼我們這麼做，並且公開對此進行討論。
也許我們會改變預設設置。如果你有其他看法並說服了我們，任何人當然都可以在他們的用戶偏好中更改預設設置，因為 AI 就像一個工具，應該做用戶想要的事情。
但我認為，錯誤的做法是我們更改了預設設置卻沒有在模型規範中反映這一點，也沒有告知用戶我們進行了更改。比如說，Twitter算法的「黑箱」讓我感覺並不好。
Bari Weiss：Sam，你曾向特朗普的就職典禮捐贈了 100 萬美元，這引起了一些關注，因為過去你稱他是種族主義者和陰謀論者等等。多年來，你一直是民主黨候選人和事業的慷慨捐助者。
但現在你說特朗普將引領我們進入 AI 時代，你很期待支持他確保美國保持領先的努力。這是心態的轉變、政治立場的演變，還是你內心發生了某種「氛圍轉變」？到底發生了什麼？
Sam Altman：這可能是以上所有的原因。此外我也希望，因為他是我們的總統，我希望他能在任何方面取得成功。如果我們能夠支持他在這方面的努力，那也是我們想做的。
Bari Weiss：你的「氛圍轉變」是什麼？我們知道矽谷和整個文化中都在發生一種「氛圍轉變」。過去幾年里，你自己發生了怎樣的變化？
Sam Altman：我覺得發生了很多變化，其中之一是，在過去大約 10 到 12 年里，我看著事情變得偏離了正軌。
在某些方面情況是好的，但在如何看待增長和經濟成功的重要性以及對國家和整個世界更廣泛的正確目標的關註上，我認為確實偏離了方向。
而我會說，這種「氛圍轉變」是一種希望，希望在我們正面臨技術歷史上最重要的時刻之一時，能夠推動「氛圍轉變」回到我深信不疑的方向，那就是增長是唯一正確的前進之路。
Bari Weiss：你認為 OpenAI 的增長，以及 AI 更廣泛的增長是一種愛國義務嗎？
Sam Altman：是的。我實際上寫過類似的東西。有人剛剛把它發回給我，我大概在 10 多年前寫過一篇文章，好像是我第一篇博客文章，內容是關於增長是民主運轉良好的核心要素。
我認為世界對這一點有了嚴重的誤解，我很高興看到它被重新看到。
