深度｜李飛飛：我不知道什麼是 AGI

轉載自 | Z Potentials

編輯 | TechCrun

你對人工通用智能（AGI）感到困惑嗎？這就是 OpenAI 執著於最終以「造福全人類」的方式創造的東西。你可能想認真對待他們，因為他們剛籌集了 66 億美元以更接近這個目標。

但如果你仍然在想究竟什麼是 AGI，你並不孤單。

在週四的 Credo AI 負責任的人工智能領導峰會上，世界著名研究員常被稱為「人工智能教母」的李飛飛表示，她也不知道什麼是 AGI。在其他時刻，李飛飛討論了她在現代人工智能誕生中的角色，社會應該如何保護自己免受先進人工智能模型的影響，以及她為什麼認為她的新獨角獸初創公司 World Labs將改變一切。

但當被問及她對「人工智能奇點」的看法時，李和我們其他人一樣感到困惑。

「我來自人工智能學術界，接受過更嚴格和基於證據的方法的教育，所以我並不太清楚這些詞的意思，」李在舊金山一個擠滿人的房間里說，旁邊是一扇俯瞰金門大橋的大窗戶。「坦率地說，我甚至不知道 AGI 是什麼意思。人們說你見到它就知道，我想我還沒有見過。事實上，我並不花太多時間思考這些詞，因為我認為還有很多更重要的事情要做……」

如果有人知道什麼是 AGI，那可能是李飛飛。2006 年，她創建了 ImageNet，這是世界上第一個大型 AI 訓練和基準數據集，對催化我們當前的 AI 熱潮至關重要。從 2017 年到 2018 年，她擔任Google雲的 AI/ML 首席科學家。今天，李飛飛領導史丹福人本中心 AI 研究所（HAI），她的初創公司 World Labs 正在構建「大型世界模型」。（如果你問我，這個術語幾乎和 AGI 一樣令人困惑。）

OpenAI 首席執行官奧特曼在去年的 The New Yorker 採訪中嘗試定義 AGI。奧特曼將 AGI 描述為「你可以僱傭的同事的中等人類的等價物。」（equivalent of a median human that you could hire as a coworker.）

與此同時，OpenAI 的章程將 AGI 定義為「在大多數經濟價值工作中超越人類的高度自主系統。」（ 「highly autonomous systems that outperform humans at most economically valuable work.」）

顯然，這些定義對於一家價值 1570 億美元的公司來說並不夠好。因此，OpenAI 創建了 五個級別，用於內部評估其向 AGI 的進展。第一個級別是聊天機器人（如 ChatGPT），然後是推理者（顯然，OpenAI o1 是這個級別），代理（這 supposedly 是下一個），創新者（可以幫助發明事物的 AI），最後一個級別是組織級（可以完成整個組織工作的 AI）。

仍然感到困惑嗎？我也是，李也是。此外，這聽起來遠遠超過一個普通人類同事能做到的。

李在談話早些時候提到，自小她就對智能的概念充滿了好奇。這使她在人工智能尚未盈利之前就開始研究這一領域。在 2000 年代初，李表示她和其他幾個人正在悄悄為這個領域奠定基礎。

「在 2012 年，我的 ImageNet 與 AlexNet 和 GPU 結合——許多人稱之為現代人工智能的誕生。它是由三個關鍵因素驅動的：大數據、神經網絡和現代 GPU 計算。一旦那個時刻到來，我認為整個人工智能領域以及我們的世界都再也不同了。」

當被問及加利福尼亞州有爭議的人工智能法案 SB 1047 時，李謹慎地發言，以避免重提州長紐森剛剛通過上週否決該法案而平息的爭議。（我們最近與 SB 1047 的作者進行了交談，他更願意重新與李展開辯論。）

「你們中的一些人可能知道我對這項被否決的法案 [SB 1047] 表達過我的擔憂，但現在我正在深思熟慮，並充滿期待地展望未來，」李說。「我感到非常受寵若驚，或者說很榮幸，紐森州長邀請我參與後 SB 1047 的下一步。」

加利福尼亞州的州長最近邀請李以及其他人工智能專家組成一個工作組，幫助該州製定人工智能部署的保護措施。李表示，她將在這個角色中採用基於證據的方法，並將盡力倡導學術研究和資金支持。然而，她也希望確保加利福尼亞州不會懲罰技術人員。

「我們需要真正關注對人類和我們社區的潛在影響，而不是將責任歸咎於技術本身……如果一輛車被故意或無意地濫用並傷害了一個人，我們懲罰汽車工程師——比如福特或通用汽車——是沒有意義的。僅僅懲罰汽車工程師並不會讓汽車更安全。我們需要做的是繼續創新以實現更安全的措施，同時改善監管框架——無論是安全帶還是限速——人工智能也是如此。」

這是我聽過的針對 SB 1047 的更好論點之一，該法案將懲罰因危險 AI 模型而受到影響的科技公司。

儘管李正在為加利福尼亞州提供人工智能監管建議，但她也在舊金山經營她的初創公司 World Labs。這是李第一次創辦初創公司，她是少數幾位領導前沿人工智能實驗室的女性之一。

「我們離一個非常多樣化的人工智能生態系統還很遠，」李說。「我確實相信，多樣化的人類智能將導致多樣化的人工智能，並將為我們帶來更好的技術。」

在接下來的幾年里，她很高興能將「空間智能」更接近現實。李說，人類語言是今天大型語言模型的基礎，可能花費了百萬年的時間來發展，而視覺和感知則可能花費了 5.4 億年的時間。這意味著創建大型世界模型是一項更複雜的任務。

「這不僅僅是讓計算機看見，而是真正讓計算機理解整個三維世界，我稱之為空間智能，」李說。「我們不僅僅是為了命名事物而看……我們真正是為了做事、導航世界、相互互動而看，縮小看與做之間的差距需要空間知識。作為一名技術專家，我對此感到非常興奮。」

本文翻譯自：TechCrunch，https://techcrunch.com/2024/10/03/even-the-godmother-of-ai-has-no-idea-what-agi-is/