追逐AGI!微軟AI副總裁、Phi小模型領導者Bubeck將加入OpenAI

機器之心報導

編輯:杜偉

微軟 10 年「老兵」選擇離開。

微軟的頂級 AI 人才也在流失,還流向了近來離職潮不斷的 OpenAI。

今日,據外媒 The Information 的消息,微軟人工智能副總裁和傑出科學家 Sebastien Bubeck 將從微軟離職,加入 OpenAI。

根據領英資料顯示,Sebastien Bubeck 在 2014 年 7 月加入微軟,曆任研究員、高級研究員、首席研究員、合作夥伴研究經理、GenAI 研究副總裁到如今的 AI 副總裁兼傑出科學家。

據瞭解,微軟髮言人在一份聲明中表示,「Sebastien Bubeck 已決定離開微軟, 繼續致力於 AGI 的開發。我們感謝 Bubeck 對微軟做出的貢獻,並期待通過他在 OpenAI 的工作保持合作關係。」

在微軟,Sebastien Bubeck 領導開發了 Phi-3 在內的 Phi 系列小模型(SLM),其中 Phi-3 mini 是一個擁有 38 億參數的語言模型,經過 3.3 萬億 token 的訓練,其整體性能在學術基準和內部測試上成績優異。Phi-3 mini 可以在優化後部署在手機上,它的性能能夠與 Mixtral 8x7B 和 GPT-3.5 等模型相媲美。

論文地址:https://arxiv.org/abs/2404.14219

目前還不清楚 Sebastien Bubeck 會在 OpenAI 擔任什麼職務。

Sebastien Bubeck 介紹

2010 年,Sebastien Bubeck 在法國裡爾大學取得了數學博士學位。

畢業以後,Sebastien Bubeck 曾先後擔任西班牙龐培法布拉大學的博士後研究員、加州大學伯克利分校的訪問科學家,還在普林斯頓大學做了近 3 年的助理教授。最後在 2014 年 7 月加入微軟。

在其前 15 年的職業生涯中,Sebastien Bubeck 主要從事凸優化、在線算法和機器學習中的對抗穩健性研究,並憑藉這些領域的工作獲得了多項最佳論文獎,包括 STOC 2023、NeurIPS 2018 和 2021 最佳論文、與 MSR 實習生合作獲得 ALT 2018 和 2023 最佳學生論文、以及 COLT 2016 最佳論文和 COLT 2009 最佳學生論文。

在 Google Scholar 中,Sebastien Bubeck 的論文引用數已經超過了 23000,其中有 4 篇論文的引用數超過了 1000。

目前,Sebastien Bubeck 更專注於理解智能如何在大語言模型中出現,以及如何借此來提高 LLM 的智能,並可能朝著構建 AGI 的方向發展。這種方法被稱為「AGI 的物理學」, 試圖從不同的尺度(參數、神經元、神經元組、層、數據課程等)來揭示系統各個部分如何組合在一起以創造出大語言模型驚人且意想不到的行為。

2023 年,Sebastien Bubeck 的一作論文《Sparks of artificial general intelligence: Early experiments with gpt-4》爆火刷屏。

該論文對 GPT-4 進行了全面評測,認為「鑒於 GPT-4 能力的廣度和深度,我們相信它應該被合理視作一個通用人工智能(AGI)系統的早期(但仍不完整)版本。」論文的主要目標是對 GPT-4 的能力和局限性進行探索,並相信 GPT-4 的智能標誌著計算機科學及其他領域的真正範式轉變。」

論文地址:https://arxiv.org/pdf/2303.12712

如今,Sebastien Bubeck 選擇加入 OpenAI,我們可以期待他在 AGI 方向上產出更多的成果。

參考鏈接:https://www.theinformation.com/briefings/microsoft-ai-researcher-sebastien-bubeck-to-join-openai