「OpenAI黑幫」使命：從邪惡的OpenAI手中拯救人類

「OpenAI Mafia」即OpenAI 黑幫，一詞指的是OpenAI離職的員工或創始人們，他們繼承了「Paypal黑幫」的風範，如今已成為矽谷最炙手可熱的創業群體，每個人都備受風險投資（VC）青睞，動輒獲得數十億美元的融資。例如，前OpenAI科學家Ilya Sutskever剛剛在天使輪融資中獲得了10億美元的資金。

一、OpenAI的道路之爭，安全與否？

毫無疑問，OpenAI依然如日中天，尤其是在剛剛推出了全新模型的情況下。公開資料顯示：

「OpenAI的最新估值已高達1500億美元，累計融資金額超過130億美元。截至2024年5月24日，公司營收為34億美元，2023年全年的收入為20億美元，增長十分迅速。」

然而，OpenAI最初在2015年成立時，是一個致力於人工智能研究的機構，而非商業公司。其使命是開發「安全且有益」的通用人工智能（AGI）。因此，11位創始人，雖然有著多元的文化和民族背景，達成共識，建立了一個特殊的治理結構。董事會由三名獨立董事和三名OpenAI創始人組成，其主要職責是確保AI的安全性。

「所謂的AI安全，指的是如何防止AI技術對人類產生潛在危害。」

這個話題在學術圈已討論多年，許多科學家和企業家都擔心失控的AI可能會違背人類利益，甚至威脅到人類的生存。而對於如何實現AI安全，團隊內部的意見分歧最終成為OpenAI創始團隊分裂的核心原因。

OpenAI的公司章程規定，董事會的「首要法定義務是對全人類負責」，而不是對投資者和員工負責。這也為董事會在後面的「政變」中提供了「合法性」。2023年11月16日，Sam Altman收到了一條來自Ilya Sutskever的短信，附帶一個Google Meet會議鏈接，這場線上會議的目的正是為了罷免Altman，在董事會中只有同為猶太人的Greg和他是一邊，且一同被罷免。其餘兩位昂撒裔、意大利裔和俄羅斯裔則堅定地站在了一起。

罷免Altman的原因就是安全問題，甚至有人指責他背離了最初的使命。當時，OpenAI開始使用AI生成的數據來訓練模型，而這項技術正是由Ilya Sutskever主導開發的。Ilya對這種技術的潛在問題非常清楚，他擔心這種方式會導致數據質量下降。事實上，Ilya的擔憂後來得到了驗證，AI生成的數據確實汙染了OpenAI原有的數據庫，最終導致OpenAI不得不進行大規模的人工清理工作。

IIya認為，OpenAI管理層類似的行為已經是屢見不鮮，屢教不改了。他們似乎為了加快商業化進程，對潛在風險和倫理問題都置若罔聞。IIya的忍耐達到了極限，於是發動了政變。後面的劇情我們都知道，Sam Altman回歸，Ilya Sutskever離職，並在2024年9月5日宣佈成立了新的大模型企業——安全智能（Safe Superintelligence，SSI）。SSI在天使輪獲得了10億美元融資，由A16z和紅杉資本領投，估值推測達到了50億美元。

事實上，早在2021年，OpenAI的研發副主管Dario Amodei就因安全理念不合，帶領OpenAI安全與策略部門的副總監Daniela Amodei一起離職，創辦了Anthropic，致力於打造更安全的AI系統，並迅速成為OpenAI的主要競爭對手，當前估值180億美元，累計融資額接近100億美元。

二、AGI為什麼註定毀滅人類？

Elon Musk之前退出OpenAI的一個重要原因就是因為對其安全標準不滿，選擇退出董事會。因此在這場內部權力鬥爭中，Musk支持Ilya。他公開表示，Ilya是一位道德高尚且不熱衷權力的人，除非他認為情況非常緊急，否則他不會採取如此極端的行動。值得一提的是，Ilya正是當年Musk親自招募進OpenAI的。

因此，Elon Musk 創辦了大模型企業 XAI。這個名字背後含義深遠：首先，Elon 對字母「X」有著特別的偏愛，如 X.com（支付公司）、SpaceX，以及Twitter更名為 X；其次，XAI 在計算機科學領域代表 「Explainable Artificial Intelligence」（可解釋人工智能），這一概念是解決 AI 安全問題的起點和終點。簡而言之，可解釋 AI 被認為是安全的，如機器學習和專家系統；而不可解釋的 AI 被認為存在潛在風險，因為它們的操作過程如同黑箱，無法完全理解，典型代表是深度學習和大語言模型。

事實上，可解釋 AI 是最早興起的人工智能解決方案，作為20世紀60年代至70年代的主流學派，深受符號主義心理學的影響。其設計基於可解釋的規則，通常採用有監督學習，強調透明的推理過程。然而，連接主義學派在當時遭受了不少質疑，直到 深度學習之父Geoffrey Hinton 提出了前饋算法，連接主義 AI 才逐漸進入主流，並為後來的深度學習奠定了基礎。

許多早期的人工智能先驅源於認知科學背景，他們通過深入研究和模擬人類思維，推動了 AI 的發展。心理學家 Geoffrey Hinton，作為深度學習的奠基人，不僅推動了黑箱 AI 的崛起，也因為他的認知科學背景，比其他計算機學者更敏銳地意識到黑箱 AGI 所潛藏的作惡風險（筆者就是學這個專業的，核心技能是統計）。

目前，許多新興的AI大模型企業將認知科學的背景視為一個「優勢因素」，並認為認知科學或腦科學有可能成為超越Transformer架構局限的關鍵路徑。

同樣，Hinton的學生 Ilya Sutskever（OpenAI首席科學家，創始人，物理學本科）憑藉紮實的自然科學功底，對人類學習機制有著獨到的見解。他們不僅關注 AI 模型的高效性，更執著於挖掘其內在的科學原理與可解釋性。

問題的根源在於，現有的黑箱模型在處理海量數據時，不加甄別地吸收了大量未經過濾的、有害的信息。而這些有害數據，實際上在規模上可能遠遠超過有益數據。

由於 AGI 具備人類級別的泛化學習能力，出於「下一個詞預測」的概率原理，它在運行中更有可能輸出對人類不利的結果（其實已經有大量學術研究證明了這一點）。再結合物聯網（IoT）等技術的廣泛應用，AGI 不僅僅是虛擬世界中的隱患，它還有可能將有害的決策付諸現實，滅絕人類的理論風險因此變得不可忽視。

相比之下，Elon  Musk是物理學背景，但是和Ilya不同，Elon完全不會coding ，也不懂統計，不懂統計又不懂coding，卻熱衷AI，且執著認為 AGI 會毀滅人類，很明顯他就是在蹭流量。事實上Elon不是技術專家，很多矽谷軟件工程師明確指出Elon musk就是一個把他人（集體）成果說成個人成就的一個Poser，他是一個營銷大師，從xAI這個名字就看出來了，的確實很牛。

相比之下，Sam Altman 是計算機本科出身，但他學習coding的時候，AI非常冷門，所以他沒有研究過AI算法。許多擁有計算機背景的工程師往往只是使用現成的 AI 模型，而對其底層原理的認知則較為模糊。因此，Altman 對 AI 作惡的潛在風險認知可能是不足的。畢竟，從現有 AI 的能力來看，生成幾段文字或圖片似乎與「滅絕人類」這樣的災難性後果相去甚遠。

三、猶太實用主義還是白人拯救世界？

截止當前，我們已經看到三家致力於打敗OpenAI，防止OpenAI作惡的公司了；事實上這個現象不僅是技術理念和商業道德標準的不合，更是不同宗教，價值觀的割裂（例如，Sam Altman為猶太裔，Elon Musk則是昂撒白人），2022年猶太作家祖舒亞·高漢的小說《內塔尼亞胡一家》獲得普利策獎，書中通過自我剖析，批判了美國猶太人主人公精於算計，對錢天生敏感，且信奉一個關鍵邏輯，即以我為主，為我服務的絕對性立場和思想，他們將「民主」視為壓制異見的工具，而非其真正意義。為了實現這種「民主」，讓猶太裔或其支持者佔據人口多數，成為了必要手段。

而Musk則是反猶先鋒，支持巴勒史丹，在社交媒體X上點讚「大替代」陰謀( Grand Remplacement )，這一理論和《內塔尼亞胡一家》遙相呼應，聲稱猶太人和左翼人士通過非白人移民逐步取代白人，最終導致所謂的「白人滅絕」，這一立場加劇了與某些猶太群體的緊張關係。

由於理念分歧， OpenAI的11位創始人中已有8位離開公司。此外，大量核心員工也紛紛出走，許多人選擇創辦或加入了OpenAI的競爭對手。

此外，OpenAI長期因安全問題遭受公司內部、學界和產業界的批評，可謂腹背受敵。為了回應這些批評，OpenAI在最新發佈的ChatGPT O1模型中針對安全問題做出了大量改進，試圖改變外界對其的負面評價。

四、OpenAI Mafia（黑幫）創辦的AI公司

根據OpenAI 2016-2022年間向美國國稅局（IRS）提供的990表格，以及媒體報導顯示，OpenAI從創始至今核心成員有44人，其中33人目前已經離職，其中19人目前參與創辦了 13家人工智能企業，或者在人工智能初創企業中擔任要職。

11位創始人有8位已經離職，仍然留在OpenAI的三位創始人是：

Sam Altman，OpenAI 首席執行官  ；

Greg Brockman，OpenAI 總裁 ，已經休假一年，有離職的可能；

Wojciech Zaremba，OpenAI 語言和代碼生成團隊負責人 。

OpenAI Mafia總融資額為205億美元，總估值超過640億估值。其中融資額最大的企業是xAI，和Anthropic，分別融資60億美元和97億美元。

Anthropic

• Anthropic PBC 是一家美國的人工智能初創企業和公益公司，專注於開發通用 AI 系統和語言模型，秉持負責任的 AI 使用理念。公司由 OpenAI 的前安全副總裁 Daniela Amodei、研究主管 Dario Amodei、政策主管 Jack Clark 等人創立。公司目前的總融資額為 97 億美元，估值 180 億美元。

• Anthropic 的核心產品是 Claude 3.5 Sonnet，它在各類任務和評估中表現卓越，特別是在除數學以外的多項任務中與 GPT-4o 相比得分更高或相近。Anthropic 還推出了 Claude.ai 的 Artifacts 功能，允許用戶在生成代碼、文本文檔或網站設計時獲得與之相關的工件。

 Inflection AI

• Inflection AI 是一家專注於機器學習和生成式 AI 硬件與應用程序的科技公司，成立於 2022 年，總部位於美國加利福尼亞州帕羅奧圖。公司由企業家 Reid Hoffman、Mustafa Suleyman 和 Karén Simonyan 創立，並與英偉達合作開發生成式 AI 硬件。

• Inflection AI 於 2023 年 5 月推出了首款產品 Pi，這是一個定位為個人服務的 AI 聊天機器人，區別於 ChatGPT 的生產力工具功能。

Adept AI Labs

• Adept AI Labs 成立於 2021 年，主要負責開發 AI 軟件以實現計算機任務自動化。創始人 David Luan 曾任 OpenAI 的工程副總裁，後加入Google領導 Google Brain 團隊進行模型研發。公司已累計融資 4.15 億美元，估值約 10 億美元。

• Adept 的核心產品是 AI 助手 「ACT-1」，與 ChatGPT 類似，能夠執行複雜的任務。

Covariant

• Covariant 是一家人工智能機器人公司，致力於構建通用人工智能，使機器人能夠學習並操作現實世界中的任務，主要應用於倉儲和物流行業。公司由四位創始人創立，其中包括 AI 機器人領域的著名科學家 Pieter Abbeel，三位創始人在創立 Covariant 之前都曾在 OpenAI 擔任研究科學家。

• Covariant 自 2017 年成立以來，已累計融資 2.2 億美元，估值為 6.25 億美元。

Pilot

• Pilot 成立於 2016 年，提供成長型企業的簿記、稅務和首席財務官服務。三位聯合創始人分別為 Jeff Arnold（前 OpenAI 營運主管）、Jessica McKellar 和 Waseem Daher。Pilot 通過自動化簿記和財務報告來幫助企業降低成本和提高效率。

• 公司目前融資額為 1.72 億美元，估值 12 億美元。

Cresta

• Cresta 成立於 2017 年，由 Zayd Enam、Tim Shi 和 Sebastian Thrun 共同創立，旨在通過 AI 技術提升銷售和服務團隊的效率。Tim Shi 曾是 OpenAI 的技術員工，Sebastian Thrun 是 「自動駕駛之父」。

• Cresta 已融資 1.51 億美元，估值 16 億美元，並為客戶創造了數百萬美元的增量收入。

 xAI

• xAI 是 Elon Musk 於 2023 年創立的人工智能初創公司，由 OpenAI、Google DeepMind、微軟研究院等公司前僱員組成。其目標是開發具備高階邏輯推理能力的 AI 模型，超越現有模型。xAI 的核心產品 Grok 是一個生成式 AI 聊天機器人，能夠實時回答用戶問題。

• Grok 2 還具有基於與 Black Forest Labs 合作推出的擴散 AI 模型 Flux.1 的圖像生成能力，並在多項基準測試中表現優異。

Eureka Labs

• Eureka Labs 是一家新的教育初創公司，由 OpenAI 聯合創始人 Andrej Karpathy 於 2024 年創立。公司旨在創建 AI 原生學校，利用生成式 AI 增強學習體驗。

• Eureka Labs 的首個產品是 AI 課程 LLM101n，幫助學生訓練自己的 AI 模型，課程材料將在線提供。

Perplexity

• Perplexity AI 是一個由 AI 驅動的搜索引擎，通過自然語言預測來回答查詢。公司於 2022 年成立，創始團隊包括 Aravind Srinivas 和 Denis Yarats 等人。Perplexity 提供免費和付費版本，付費版本 Perplexity Pro 訪問多種高級 AI 模型。

• 公司目前融資 2.5 億美元，估值 30 億美元。

Gantry

• Gantry 由 OpenAI 聯合創始人 Vicki Cheung 創立，基於雲原生技術構建，旨在評價 AI 模型的表現，並提供快速部署的工具。公司專注於模型的性能、數據質量、用戶滿意度等指標。

Poe

• Poe 是問答平台 Quora 於 2023 年推出的生成式 AI 聊天助手聚合平台，由 OpenAI 前董事 Adam D’angelo 創立。Poe 平台聚合了多個知名的聊天助手，包括 ChatGPT、Claude 和 Bard 等。

• Poe 採用按月和按年的訂閱收費模式。

Safe Superintelligence Inc.

• Safe Superintelligence Inc. 由 OpenAI 聯合創始人 Ilya Sutskever 創辦，專注於構建安全的超級智能（SSI），公司將安全置於商業壓力之上，目標是通過革命性的工程和科學突破來解決 SSI 問題。

Alignment Research Center (ARC)

• ARC 是一家非營利研究機構，致力於將 AI 的行為對齊人類價值觀和預期利益。由 OpenAI 前研究員 Paul Christiano 創立，專注於識別和理解 AI 模型的潛在危害。

總結

這些曾經塑造 OpenAI 的人，如今正站在它的對立面，決意挑戰自己親手創造的技術。於是，OpenAI的叛逃者們便成了挑戰巨人風車的現代唐吉坷德。不同的是，這場「戰鬥」不僅帶有個人英雄主義的浪漫，也有源自對技術失控的現實恐懼。他們知道，真正的敵人不是技術本身，而是我們對技術的盲目崇拜和對其內在運作機制的無知。

本文來自微信公眾號：爆米花獨角獸，作者：VC Popcorn