深度｜Sam Altman 對話密西根大學投資人：o1 是第一個真正通用的複雜推理模型，離實現 Agent 已經不遠了

10月25日 08:57 新浪網 news-china-auto-hilite

不久前，OpenAI CEO Sam Altman 與密西根大學投資總監 Daniel Feder 展開一場對話，不僅分享了個人在科技創新領域的深厚經驗，也展現了他對未來技術、教育和社會變革的獨到見解。

Altman 強調，AI 將深刻改變人類生活的方方面面，尤其是在科學進步和教育方面。未來的學生將獲得比今天任何人都更好的教育，AI 將為個性化學習提供強大支持。

對於廣大年青人來講，韌性、適應性和快速學習能力將是未來職業成功的關鍵。這些技能是可以通過實踐培養的，也是年輕一代天然具備的優勢。

儘管擔心未來數據資源的枯竭，Altman 表示樂觀，認為算法進步將使 AI 模型變得更高效，未來不必擔憂數據不足的問題。

以下為這次對話的主要內容，enjoy～

▍o1 與 Agent 系統

Daniel Feder

我原本打算在最後進行一個快速問答環節，但我現在就要問你一個問題：你最喜歡的水果是什麼？

Sam Altman

其實我不太喜歡草莓。我們之前推出了草莓，然後我們推出了 o1，我們稱之為草莓，這兩年我們都非常興奮。

或者說，當我們完成 GPT-4 時，我們最興奮的一件事就是，我們能不能用我們創造的這個東西，並在其基礎上教模型進行推理？

我們認為，如果我們能做到這一點，將會是一個非常重大的進步。在某種意義上，下一個最重要、最顯而易見的缺失環節是什麼？所以我們開始著手研究這個問題。

OpenAI 的許多團隊以不同的方式在研究這個想法。我們嘗試了一些方法，有些成功了，大多數沒有成功。但我們投入了越來越多的精力在那些成功的事情上。

今天我們推出的模型是我認為的第一個，我會說，儘管還處於非常早期階段，但它是第一個真正通用的複雜推理模型。

我們有一個想法是有五個 AI 的層級，而我們在過去幾年一直處於第一級，也就是這些基於聊天的模型。

而第二級則與推理有關，我認為這是我們第一次到達這個階段。從這裏開始它將快速提升，但即便是這個模型，已經相當不錯了。

Daniel Feder

那麼這是否意味著我們走上了 AGI 或超人智能的道路？這將我們帶到了哪裡？

Sam Altman

我認為我們確實在這條路上。我們很早就踏上了這條路。這是朝著這條路的下一步。

但是你知道，我認為這是一條長期的指數曲線，而我們非常幸運能親身經歷和見證。這是一個令人激動的時代。

我們都很疲憊和精疲力竭，但這種範式轉變並不會經常發生。你知道，GPT-4 是其中一個，而今天又是一個。這真的很特別。

Daniel Feder

我很好奇的是，當 GPT-2 推出時，它迅速走紅。我覺得它的傳播速度有點讓你意外。

Sam Altman

你知道，直到發生之前你永遠不知道什麼會走紅以及為什麼會走紅。那是 ChatGPT 的時刻，而不是 GPT-3 的時刻。

它的發佈是基於 GPT 3.5，但為什麼不是 GPT-3 或 GPT-4 那種傳播速度有點難以預測。我們知道它會發生，但我們確實對它發生的具體時間感到意外。

Daniel Feder

所以我只是試圖把一些點連起來，看看我們現在發佈的這個東西進展如何。你知道這是一件大事，或者你相信它是一件大事。

但是回顧過去，我聽過很多人提到，怎麼可能你們不知道 GPT-2 是件大事？它簡直是魔法。所以，當你專注於某些指標和開發時，是否有某些東西讓你忽略了它的影響呢？

Sam Altman

當我們發佈 GPT-3 時，技術界對此感興趣，但大部分世界卻不怎麼關注。我對此有點睏惑，因為我覺得它應該引起更多的注意。

而當我們在 2022 年 11 月 30 日推出 ChatGPT 時，它基於 GPT-3.5，而我們在 2022 年 8 月 2 日已經完成了 GPT-4 的訓練。

我們在內部使用了好幾個月，我們覺得 GPT-4 非常好，而 GPT-3.5 對我們來說已經是非常過時的東西了。因此，我認為我們對它相比 GPT-3 的提升程度判斷失誤了，尤其是對那些還沒有用過 GPT-4 的人來說。

所以這可能是為什麼我們感到驚訝的原因。不過，你知道，預測什麼東西會火起來確實很難。你可以說為什麼人們對 GPT-3 沒有更興奮呢？

Daniel Feder

那麼回到「草莓」這個話題，你覺得有哪些特別值得注意或在你看來最重要的地方呢？

Sam Altman

如果你看看 AI 和電子郵件的競賽，它得到了 93% 的正確率。我們今年為好玩參加了一次，我從高中以來都沒做過這個測試了。很難做到 93% 的正確率。

所以，我覺得可以指出一些類似的指標，比如幫助編程的實用性將會讓人驚歎。我認為許多不同領域的研究人員能夠用它來增強他們的研究。此外，一如既往，人們還會發現我們從未想到的使用方式。

Daniel Feder

關於當前的最先進技術，你認為能做到什麼？

Sam Altman

這非常不同。我們給它編號，因為它還是一個非常早期的東西。我們曾經想過，也許我們可以稱它為 GPT-5，儘管這並不完全合適。

但這是一個新的範式，它是一種使用模型的不同方式，擅長不同的東西。它在解決困難問題上需要很長時間，這很煩人，但我們會改善它。它能夠做 GPT 系列做不到的事情。

當然，它在很多方面也有困難，因此需要一些時間來適應。但是當你站在後台，看著人們在網上說的內容，真的是很棒。

看到那些沒有每天盯著這個一年的人第一次用它，然後感歎，「哇，這個東西寫出了如此複雜的代碼」或者「它幫助我解決了我卡住的難題」，這非常令人驚訝。

所以我認為接下來幾週我們會看到很多人適應和開始使用它，但我認為這些模型在某些方面如此令人印象深刻，以至於我們忽略了它們在推理方面的不足。而現在它們可以了，這真的是一個階段性的變化。

Daniel Feder

是的，我想深入一點。現在我們看到的一些方法，比如遞歸自我改進或開放式 AI 或 Agent AI，都在試圖達到這樣的輸出。那麼這個模型是否超越了這些方法，或者它們之間的關係是怎樣的？

Sam Altman

我認為這確實開始啟用 Agent 系統了。阻礙 Agent 系統的一件事就是缺乏一個有足夠推理能力和足夠健壯的系統，可以進行長週期任務並擁有足夠的信心或嚴謹性。

我認為我們離自我改進循環還很遠，當我們接近這一點時，需要非常小心。但我確實認為 Agent 的願景現在已經近在咫尺了。當然，這不會是下個月的事情，但我覺得它已經在掌控之中。

Daniel Feder

這對強化學習和人類輸入意味著什麼？你知道，RHLF 一直是一個重要的工具。

Sam Altman

o1 的核心其實就是強化學習。這是它的秘密。我們過去也做過小規模的版本。RLHF 是一個很好的例子，但你知道，這就是強化學習語言模型的夢想，它真的奏效了。

▍AGI 與人類的過去和未來

Daniel Feder

或許我們可以回顧一下，AGI 對你來說意味著什麼？

Sam Altman

你知道，無論是兩年後還是五年後，或者未來某個時間。我覺得這個術語基本上已經失去了意義，因為每個人對它的理解差異太大了。

比如，有些人稱 GPT-4 為 AGI，我覺得它絕對不是。有些人談論一個模糊的東西，我不確定那是什麼，但他們認為它會在未來的某個時間到來，總是說未來幾年。

還有些人認為它是那種真正能夠遞歸自我改進的超級智能。我希望能禁用這個詞，因為它已經承載了太多不同的含義。

我們喜歡這個層級框架的原因之一是，它至少能讓你就一些里程碑達成一致，並用更嚴謹的方式討論問題。

我想，如果你回到過去，甚至不用很久，回到五年前，向他們展示 o1，他們會非常驚訝。

大多數人會說，「AI 在 2024 年絕不可能做到這一點。」我認為如果你快進五年，看到 2029 年我們將擁有的技術，大多數人會說「絕不可能，這不可能繼續這樣發展下去。」

我認為重要的不是 AGI 的定義或爭論它何時到來，而是我們正處在這條指數曲線上。從 2019 年到未來很長時間內，每一年都會展現令人驚歎的進步。

Daniel Feder

好吧，我不會再叫它 AGI，今天暫時稱它為 AGI 吧，然後我會停下來。但你知道，跟隨你的思路，曾經你可能認為會有某個事件，不管那是什麼。

而現在，你把它描述為一個朝著某種事物的進化過程。我們現在被定義為通過推理能力和採取步驟等功能來實現目標。

是否仍有可能會有一個事件發生？我一直困惑的是這個抽像的概念。LLM 是基於語言的，而語言本身是對現實世界的抽像。

AGI 的一種理解可能是，如果你能做到這些「魔法」，而不依賴於抽像，而是直接在抽像上工作。這是否意味著某種事件的發生？

Sam Altman

是的，我認為確實會有一些里程碑式的事件，但我覺得它會感覺更加連續，某種程度上符合指數增長的定義。我覺得它會是連續的。

因為當系統能夠比整個 OpenAI 團隊做得更好時，那應該是一種不連續的變化。但無論你用對數尺度還是指數尺度，這些都非常奇怪。

Daniel Feder

我真的很想知道你對技術發展及其在社會中的角色有什麼看法？樂觀主義對你意味著什麼？

Sam Altman

我不知道我們怎麼能坐在這個時刻而不感到樂觀。我認為我們正經歷人類歷史上最激動人心的技術革命之一。人類在不久的將來會實現的，或者已經能夠實現的事情，真的讓人驚歎。

我覺得，今天的世界與昨天相比是如此不同。人們會創造出讓我們驚訝的東西。你們所有人都會創造出讓我們驚訝的東西。

人類歷史的故事就是我們創造了更好的工具，然後人們用它們做了更了不起的事情。他們自己又用這些工具添加了一層「腳手架」，而我們只是沿著這條可能性的曲線不斷前進。

這些平台的轉變偶爾會出現一次，像是一種間斷平衡，而這將是一個大大的句號。而現在這種開放的環境，這種為彼此創造更好事物的可能性真的非常巨大。

教育、醫療、科學，所有這些領域都會加速發展，它們會以極其迅速和劇烈的方式提供更好的服務。所以我真的不知道此刻怎麼可能不感到樂觀。

現在感覺就像是一個無限可能的時代。我認為，至少在科技行業，近些年有種停滯的感覺。而現在，我覺得這是類似於電力或晶體管發明這樣的重大事件。。

▍20 歲創業者正是闖的年紀

Daniel Feder

為今天做準備時，我回看了一些你以前的影片和採訪。去年你和 Stripe 的聯合創始人 Patrick Collinson 做過一次採訪。

你當時表達了一種沮喪，說現在真的缺乏偉大且有影響力的 20 歲創業者。你認為現在的突破是否意味著我們將看到 20 多歲的超級創業者？

Sam Altman

我覺得是的。我認為年青人在這樣的行業大地震中，特別是在科技行業，具有相對最大的優勢。

而且，看著這些人，感覺有點奇怪，看著有些人比我更擅長使用 ChatGPT，畢竟我本應該很擅長。但當我去拜訪大學時，確實發現 20 歲的學生比我更擅長使用 ChatGPT。我認為這會成為巨大的優勢。

這應該是一個 20 歲創業者「復仇」的時代，過去的十年里，他們的機會少了許多。是的，我這麼認為。我只是覺得有點遺憾。

我自己是 20 歲的創業者，我對那段經歷感到非常感激，過程非常有趣。但我認為在過去的一段時間里，科技行業有些僵化，現在我認為情況會回轉。

Daniel Feder

回到這個話題，吸引人們從事高度雄心勃勃的項目，鼓勵或促成這些項目是怎麼運作的？你曾經領導 Y Combinator，這是全球最頂尖的創業加速器之一，而這些真正偉大的想法和變革性的技術並不會按計劃到來。

你是怎麼看待的？無論是在大學還是公司，如何為這些傑出的人才提供機會，讓他們能夠在沒有時間線的限制下去做這些偉大的事情？

Sam Altman

首先，我認為人們應該做他們想做的事情。如果你想做一些能在週末完成的事情，而且讓你感到快樂和滿足，那很好，沒問題。

但如果你想從事一個真正長期的項目，我認為你至少應該能夠做到這一點。而在過去的十年里，在矽谷這類事情變得更加困難，籌資也更加困難。我認為這終於在發生變化。

我的建議是，做困難的事情比做簡單的事情更容易。在創業或研究項目中，最重要的是你能否聚集足夠多真正有才華的人，讓他們興奮並全力以赴朝同一個方向努力。

如果你正在嘗試創造 AGI，這是一個有趣的使命。如果你在嘗試做核聚變，這也是一個有趣的使命。如果你在做第 2000 個相同的想法，那就沒那麼吸引人了。

所以我認為儘管追求真正雄心勃勃的目標可能需要稍微多一些初始能量，但無論如何，創業都會非常艱難和痛苦，因此你不妨追求一個人們願意長期加入並共同努力的目標。

Daniel Feder

這可能很孤獨，對吧？因為正如你所說，那些最值得做的事情往往看起來像是壞主意。

Sam Altman

你必須要忍受別人不理解你。是的，你必須這樣做。不過它並沒有傳統意義上的孤獨。至少對我們來說不是孤獨的，因為 OpenAI 的每個人都在一起工作。

從 2016 年到 2020 年，基本上沒有 OpenAI 之外的人關心我們在做什麼。我們偶爾發佈一些小型的研究項目，但不是什麼大事。

從 2020 年到 2022 年底，科技行業里有些人開始關心，但不算太多。直到 2022 年底，我們發佈了 ChatGPT，突然之間每個人都關心了。

但在前四年里，沒有人關心的時候，我們內部的感覺是我們是正常的，而外界的人似乎是瘋了。但我們非常確信我們知道一些非常重要的事情，感覺很奇怪，為什麼別人不明白或不關心，但我們並沒有因此感到孤獨。

事實上，這種感覺非常激動，因為我們就像是在一場發現的冒險中。我記得那時我覺得很奇怪，其他人似乎沒有意識到，但我們完全不為此感到困擾。我們會說，「嗯，我們顯然是對的。」

▍關於安全與監管

Daniel Feder

這讓我想起 1968 年 Elvis Presley 的一句歌詞，雖然我不記得當時的歌，但歌詞是「少一些談論，多一些行動。」不過，拋開哲學層面的安全討論，有一點我聽說過 OpenAI 以及其他項目做的事情與監管或治理相關。

你曾提到，研究機構可能做得太少，私人企業可能做得太多，而政府可能一開始做得太少，然後做得太多。但它們都是並行存在的。你是如何思考這個問題的？

Sam Altman

我認為我們在安全方面做了很好的技術工作，但還有很多工作要做，而且這方面的形勢在不斷演變。

你知道，隨著我們在 AI Agent 的世界中思考安全問題，它不僅僅是一個技術問題。你允許你的自動化 Agent 在互聯網上操作，擁有你的密碼和所有訪問權限時，你需要信任這個系統。

安全問題已經不能與技術開發分離了，它會成為我們如何部署這些系統的限制條件。儘管這不是傳統意義上人們理解的 AI 安全問題，但它類似於系統工程中的安全系統設計。

到目前為止，我對這個領域的發展方向總體上是滿意的。我認為比我能預想的中位數情況要好得多。但隨著這些系統變得非常強大，安全問題變得非常複雜和具有挑戰性。

Daniel Feder

是的，關於監管的詞彙經常出現。我不知道我們應該如何看待它，是監管還是治理？

Sam Altman

我認為監管是良好政策的一部分。我們需要的是良好政策，一個行業應該做合理的事情，監管機構應該做合理的事情，用戶也應該以合理的方式使用這些系統。顯然會需要監管，但也會需要一系列其他措施。

Daniel Feder

不過，信任問題是一個巨大的挑戰。如果沒有首先獲得信任，無論是對 Sam Altman、OpenAI 還是其他地方來說，任何事情都很難進行。你是如何看待在擴展過程中建立信任的？

Sam Altman

我們很高興看到的一點是，用戶已經非常迅速地適應了技術。雖然 AI 仍然存在幻覺和常識性錯誤的問題，但比以前少了很多。

當我們首次發佈模型時，我們擔心用戶會完全不信任它，或者過度信任它，這都會帶來問題。但出乎我們意料的是，用戶很快就掌握了如何使用這項技術，理解了它的局限性，知道什麼時候該使用它，什麼時候不該使用，什麼時候該驗證。

Daniel Feder

我想回到關於信任的問題，因為這與「黑箱」內部的內容有關。無論是「草莓」還是一小時模型、兩小時模型、三小時模型等，這些進步都是為了用更少的數據做更多的事情。

然而，缺少的東西是低語境語言，比如我的家人講匈牙利語，但匈牙利語的內容並不多。庫爾德語、幾百年的文學作品也並未被納入這些語言模型。這重要嗎？不重要嗎？你怎麼看？

Sam Altman

這確實是一個問題。我們想儘可能多地將這些內容納入模型中。我們與很多合作夥伴合作，幫助我們將低資源語言或尚未數字化的數據引入這些模型中。我們非常願意做更多的工作，並樂於將人們希望的所有內容都加入進去。

Daniel Feder

這是否也涉及到與安全性相關的可解釋性？還是這是一個獨立的問題？

Sam Altman

我認為這是與可解釋性角度分開的，但這對我們來說也非常重要。我認為「草莓」範式以及這些可以查看的思維鏈是可解釋性工作的新且令人興奮的方向。

Daniel Feder

我想把馬克風交給一些學生，但在此之前，我還有幾個快速問答問題。我想你已經回答了其中一個。第一個問題是關於摩亞定律的明天版本，你知道我們往往高估了技術在短期內的影響，低估了它在長期內的影響。我們現在低估了哪些長期影響？

Sam Altman

我認為我們低估了這些技術將無處不在，融入一切。你們這一代是最後一代在成長過程中不會期望每個產品和服務都非常智能的。

在某種認知能力方面，技術將比你更聰明，而這會改變我們如何使用電腦、如何與周圍世界互動，以及這種智能如何無處不在，並在我們做的每件事上提供極大的幫助。我覺得我們還沒有完全意識到這一點。

▍智能和能源是兩種基礎資源之一

Daniel Feder

現在我們有一個馬克風正在傳遞，我想大約有十幾個學生會被邀請提問。

觀眾

謝謝你。首先感謝你今天來到這裏，也感謝你幫助我能夠來到這裏。我想問一個問題，因為我聽了一期關於全球能源狀態的播客。

為了給大家提供一些背景信息，目前美國的能源生產大約為 1 太瓦，成本可能是每千瓦時 17 到 25 美分。我想，到 2050 年，我們應該將其提高到 2 太瓦，成本大概相似。

而中國、法國和其他很多國家的能源生產效率遠超我們。所以我想聽聽你對這種能源差異對企業的影響，既包括單位經濟效益，也包括更廣泛的安全層面。

你認為這種能源差異能通過硬件改進來彌補多少？通過優化硬件的軟件又能彌補多少？

Sam Altman

我認為，能源是未來的兩種基礎資源之一，另一種是智能。我們應該擁有比現在更多的能源，並且應儘可能降低能源的價格。

我認為核聚變技術會成功，成為地球上最便宜的能源。如果核聚變不成功，我仍然認為太陽能加儲能的成本可以變得非常低，並且我們可以大量使用這種能源。

我認為，如果我們國家不在清潔、安全、可靠的廉價能源上進行大量投資，那將是非常危險的。

如果你研究能源的歷史，你會看到能源成本下降帶來的巨大生活質量提升。而我們在這方面的進展並不多，我希望有更多進展。

特別是在一個 AI 世界里，要運行 AI 系統並完成所有它能想到的新任務，我們需要大量的能源。如果美國致力於一個戰略，決定在豐富的智能和豐富的能源上引領世界，那將是一件非常好的事情。

我認為未來十年在這個領域會有很大的進展。政府可以在其中發揮巨大領導作用。

還有很多事情需要做，比如電網非常糟糕，許可流程在美國非常複雜，正如你提到的，其他地方能更快建設能源，但我們應該大量推動這一進展。

觀眾

你好，我叫 Eric，來自信息學院，我是一名攻讀醫療與 AI 的博士生。我的問題是，作為 OpenAI 的 CEO，你最具挑戰性的時刻是什麼？你是如何應對的？

Sam Altman

我可能不會給出你預期的答案。最具挑戰性的時刻並不是一個單一的時刻，而是在我們不知道下一步該做什麼的時候。

在我們推出產品之前，我們一直在進行研究，但並不清楚應該專注於什麼。我們試圖選擇一些隨機的事情，但我們就像是在森林里摸索。

最早的時候，人們會變得失去動力，人們會為一些很瑣碎的事情爭執，那時感覺就像，「我們在這裏做什麼？也許我們太樂觀了。」危機是可以應對的，會有很多危機。

你知道，每天結束時，我經常感到驚訝，一天內竟然有這麼多問題發生。但是當一切都不順利、沒有進展、沒有明確方向時，人們會變得迷茫和失去動力。

你得讓大家保持合理的樂觀，並專注於某件事。這在最初非常具有挑戰性，但當我們終於找到了方向後，一切都變得更好了。

觀眾

晚上好，我叫 Ashita，來自信息學院。我想問的是，未來二十年內 AI 對教育系統的影響，尤其是在個性化學習和教育普及方面會是什麼樣的？

Sam Altman

這是我最感興趣的幾個領域之一。我最感興趣的是 AI 將如何推動科學進步，而排名第二的就是 AI 在教育領域的潛力。

我們經常聽到來自學生和老師的令人驚喜的故事，他們已經用 AI 改變了他們的學習方式。

隨著模型的不斷改進，隨著人們在此基礎上構建更多服務，我認為它已經在改變人們的學習方式，也在改變人們獲取和使用信息的方式。

我的希望是，現在開始上學的學生將會比今天畢業的學生獲得更好的教育。我真的認為這是一個如此深遠的變革，看到人們已經用它做的事情，令人驚歎。

觀眾

你好，Sam。我叫 Matt，是工程學院的計算機科學學生。我想知道，OpenAI 在產品巨大流行之後採用了哪些風險管理技術？

Sam Altman

一個重要的部分是建立一個非常出色的監控系統。我們在發佈前進行各種測試，比如紅隊測試和安全系統的構建，這是我們計劃的一部分。

但我們有很多人在全球範圍內使用我們的產品，進行各種各樣的操作，建立一個優秀的監控系統是我在產品發佈時低估的需求。現在我們已經變得更加擅長了，這對我們幫助很大。

所以，嚴格的發佈前測試以及持續的仔細監控是關鍵。OpenAI 的一個奇怪之處在於，我們必須在一年內建立整個公司——一家大型公司。

在 ChatGPT 發佈前，我們還是一個小小的研究實驗室，而一年後，我們已經是一家大型科技公司了。

這個轉變過程非常痛苦，但我們學會了在多快的時間內建立起新功能。這讓我們團隊感到鼓舞。

觀眾

你好，我叫 Acute，是一名攻讀計算機視覺的碩士生。我今天的問題是，如何在關鍵領域如醫療或法律環境中應對 AI 的「幻覺」問題？你們是否在 LLM 管道的某個特定階段重點研究這個問題？

Sam Altman

首先，我想指出，過去幾年里，這個問題已經有了顯著的改善。2022 年離現在的時間不算長，但從 AI 進步的角度來看，那已經是很久之前的事了。

當時 GPT-3 是全球最好的模型，但它其實很差，成本高，速度慢，而且有很多「幻覺」問題。而如今，隨著 o1 的發佈，儘管「幻覺」問題仍然存在，但它已經不再妨礙大多數使用場景為用戶帶來巨大價值。

當然，在某些領域，依賴 AI 還是會很危險，因為「幻覺」問題仍然存在，但這種情況會不斷改善。此外，正如我們之前討論的，人們對工具的使用具有良好的判斷力，他們能夠理解工具的局限性，知道什麼時候該用，什麼時候不該用。

所以在未來幾個月和幾年里，我們會繼續改進這個問題，但它已經不再是我們聽到的最主要問題之一了。

觀眾

你好，Sam。我叫 Catherine Lin，是路斯商學院的 MBA 學生。我的問題是，作為一名 MBA 學生，我想成為 AI 領域的產品經理。

我應該專注於發展哪些關鍵技能或經驗，才能有效地在先進 AI 技術與市場之間架起橋樑？謝謝。

Sam Altman

我認為對任何類似的事情來說，答案就是去實踐。我堅信，如果你想在某個領域變得優秀，你需要通過實踐去變得優秀。

我認為這是一條非常被低估的生活建議。你知道，有時候人們想做某件事情，就會去先學習相關的技能，以便以後運用到這件事上。

但實際上，你應該盡快去做那件事，並從中學習。這也是我對你要做的事情的建議。謝謝。

觀眾

你好，很高興見到你。我叫 Julia Cassab，是密歇根大學信息學院的大四學生。我今天的問題是：你是否認為現在的計算機和信息科學專業的學生應該對他們未來職業的安全性感到不安？因為他們辛苦學習的技能在未來可能會變得過時。

Sam Altman

有點吧，但不完全是。如果你認為五年後的程序員工作在每分鐘的層面上與今天的程序員工作類似，那麼可能會有不太好的預期。

但如果你認為世界對軟件的需求幾乎是無限的，且作為其中的一部分，未來會有一個非常重要的角色去定義它應該是什麼、以及如何在一個比今天更高的編程層面上工作，那麼我認為這類工作的需求會非常大，但它確實會非常不同。

我還記得聽說，當更高級的編程語言出現時，很多「元老級」的程序員都認為「工作會沒了，因為新東西太簡單了，每個人都能做。」

但事情並沒有完全這樣發展，這次也不會完全如此。不過，程序員的能力和期望會大不相同，這份工作將與今天編寫代碼的意義完全不同。

我認為未來重要的技能是韌性、適應能力和快速學習的能力，而這些技能是可以通過實踐學習的。如果你能掌握這些技能——這是年青人自然佔優的地方——那麼我認為你會很好地應對。如果不能，那可能會有些波折。不過，通過練習，這些技能是可以提升的。

觀眾

你好，我叫 Amy，是工程學院的計算機科學學生。我想知道，既然 OpenAI 模型是通過從互聯網等海量數據中進行訓練的，當所有可能的數據源都被耗盡時，你們計劃如何獲取訓練數據？

Sam Altman

人類在相對較少的訓練數據下學到了大量知識。所以我毫不懷疑我們會找到更多高效利用數據的方法。以前我對此非常擔心，但現在不再擔心了。我認為我們會跨越數據的瓶頸，算法的進步會解決這個問題。

觀眾

你好，我叫 Jack May，是路斯商學院的 MBA 學生。我的問題是：關於 AI，哪些倫理或監管困境讓你個人最為困擾？而你認為哪些問題是媒體或公眾誤解的？

Sam Altman

最讓我擔憂的問題是，我相信社會可以適應幾乎任何程度的變化，只要給它足夠的時間。但我們和其他人正在向世界推出的工具，如果事情按我們預期的發展，將要求社會以更快的速度適應。這種變化的速度及其倫理影響讓我最為困擾。

而我們該如何應對這個問題還很不明確。儘管我認為有些事情是可以做的，但能否有社會意願去推動這些變化，或者這些變化是否真的有益，這些都非常不明確。

因此，如果我們這麼快地經歷社會的重構，我們該如何幫助人們適應並在其中繁榮？媒體關注過多的問題是什麼？我覺得媒體對 AI 的報導相當糟糕。我希望不再在新聞中看到「終結者」式的機器人，還有其他許多問題。

✦ 最新行業活動 ✦

🚀 GENAI SUMMIT SILICON VALLEY 2024

📅 日期：2024年11月1日至3日

📍 地點：聖克拉拉會議中心

🔗 主辦：GPTDAO

超 100 個專題討論，500多家參展初創企業，150+ 重量級演講嘉賓，包括來自 Google、Microsoft、Meta 等科技巨頭的高層管理者，以及 Glean、Interdimensional、Forethought、Weights & Biases、Mistral AI、Typeface AI 等AI領域領軍公司的創始人、CEO、CTO。他們將從技術創新到商業應用，為您帶來全方位、深度解析當前 AI 前沿洞察。