傑佛瑞·辛頓:「圖靈諾獎雙得主」、「AI教父」,至高榮譽加身,果然沒人比他更合適

香港時間2024年10月8日傍晚,瑞典皇家科學院宣佈,將2024年盧保物理學獎授予約翰·J·霍普菲爾德(John J. Hopfield)和傑佛瑞·E·辛頓(Geoffrey E. Hinton),表彰他們在使用人工神經網絡進行機器學習的基礎性發現和發明。

傑佛瑞·辛頓是誰?

他是英國皇家學會院士,加拿大皇家學會院士,美國國家科學院外籍院士,多倫多大學名譽教授。

辛頓不僅是深度學習的奠基人,還帶領人類進入了一個智能機器的時代。他的研究改變了人類對神經網絡和人工智能的理解。

他的故事也堪稱傳奇,從小木匠到「圖靈獎」得主,再到盧保獎得主;從學術困境到AI傳奇,最初被視為「逆潮流」的先驅,如今他是AI領域無可爭議的巨擘。

最初的夢想:小木匠

傑佛瑞·辛頓(Geoffrey Hinton),1947年12月6日出生於英國溫布頓,祖父佐治·布爾(George Boole)是布爾代數的創立者,這個數學系統是現代計算機科學的基礎之一。可以說,科學基因早已在辛頓的血脈中流淌。然而,辛頓並非一開始就註定要在計算機領域大展拳腳。

傑佛瑞·辛頓自幼對人類大腦的運作機制充滿了濃厚的興趣,希望揭開其中的奧秘。出於種種原因,18歲的Hinton進入劍橋大學國王學院攻讀物理和化學,但只讀了一個月就退學了。

一年之後,他又重新申請了國王學院的建築學,結果又退學了,這次他只堅持了一天。之後又轉向了物理和生理學,後來又轉到了哲學,花1年修完了2年的課程,結果和自己的導師吵了起來。

最後,他轉向了心理學,並於1970年,從劍橋大學獲得了實驗心理學的學士學位。然而,對本科階段學習的種種不滿和失望,使得他做出了一個令人意想不到的決定——成為一名木匠。

在木匠工作中,辛頓一邊製作書架、木門,一邊思考著大腦運行的奧秘。他認為這種生活方式能讓他更好地探索自己的興趣。然而,經過一年多的木工生涯,他逐漸意識到,這段經歷並不能真正幫助他理解大腦的運作。他渴望更深入的研究,遂下定決心重返學術殿堂,投身於科研領域。

開啟學術探究之路

出於一直對大腦運作方式及如何產生智慧充滿興趣,同時他也覺得人工智能領域很有發展前景,辛頓就跑去研究人工神經網絡了。

當時 AI 正處於理論階段,學術屆分為統計學派和辛頓研究的神經網絡派。絕大多數科研者都支持統計學派,認為神經網絡學派沒有前途。神經網絡這個科研方向並沒有多少人關注,也得不到其他人的認可,那時候並沒有現在強大的 GPU 等算力資源,也沒有充足的科研經費,只有辛頓的滿腔熱血。

辛頓在劍橋大學獲得了實驗心理學學位,初期他的研究興趣在於大腦如何處理信息。大腦是一個複雜的神經網絡,辛頓認為,或許可以通過模仿大腦的結構,來創造一種人工的「智能」。這是一種大膽的想法,當時並未得到廣泛認可。

在愛丁堡大學攻讀博士學位時,辛頓遇到了改變他一生的導師——祖斯迪斯·朗格特·希堅斯(Christopher Longuet-Higgins)。在希堅斯的引導下,辛頓開始深入研究神經網絡,這一領域當時仍處於起步階段。他常常熬夜在實驗室中工作,試圖解開大腦如何處理信息的奧秘。正是在這個過程中,他對神經網絡產生了濃厚的興趣,並決心在這一領域開闢新的天地。

1978年他在愛丁堡大學獲得了人工智能方向的博士學位,開始了他與神經網絡的不懈探索。這時他已經 31 歲了。為了找到一個支持他研究神經網絡的棲身之處,也避免研究被用於軍事項目,辛頓來到了加拿大高級研究所(CIFAR),就是CIFAR10/CIFAR100數據集中的那個CIFAR,最後落腳在加拿大的多倫多大學。

逆流而行的信仰

在20世紀70至80年代,神經網絡幾乎被學術界拋棄。當時,更多的科學家和工程師關注的是基於規則的專家系統,而神經網絡被認為過於複雜且不實用。即便如此,辛頓對自己的想法卻始終堅定不移。

1970年代末,辛頓曾在加州大學聖迪亞高分校工作,但他逐漸意識到美國的研究氣氛並不適合自己。他移居加拿大,加入了多倫多大學,並在這裏一待就是數十年。多倫多成為了他的創新實驗室,遠離學術界的主流觀點,辛頓得以安心深入研究神經網絡。

真正的轉折點出現在1986年,當時辛頓與大衛·魯梅爾赫特(David Rumelhart)和朗奴·威廉斯(Ronald J. Williams)共同提出了反向傳播算法。這項算法解決了神經網絡的關鍵問題——如何有效訓練多層網絡,使其能夠自動調整權重來優化性能。

反向傳播的提出重新燃起了對神經網絡的興趣,並為後來的深度學習打下了基礎。然而,即使在這項突破性發明之後,神經網絡在學術界仍未徹底回歸主流。

甚至在21世紀初期,辛頓還被一些學術機構、AI與計算機科學領域的圈子拒之門外。參加學術會議時,辛頓常坐在房間的最角落里,在大牛雲集的會議上完全被忽視。

好在辛頓在加拿大多倫多大學,有穩定的職位和還算充裕的支持神經網絡的研究經費,使他能在這個冷門領域里堅持耕耘。更為重要的是,隨著時間的推移,一些深度學習的信徒們被辛頓所吸引。

他培養了不少學生,學生又有學生,加上博士後及合作者,研究神經網絡深度學習的人才濟濟群星閃爍,儘管寒冬期間工作機會少,資金仍然稀缺。但研究者們興趣盎然,他們憑藉自身的信念,排除嘈雜的干擾而自得其樂。

深度學習的複興

辛頓是個充滿理想主義的人,哪怕在最孤獨的時刻,他也從未放棄自己對「讓機器像人一樣學習」的信念。隨著計算能力的提升和數據量的增加,他終於等到了一個可以驗證其理論的機會。

進入21世紀後計算機硬件的能力發展迅速,數據以驚人的速度開始積累,神經網絡的訓練開始變得可行。

2006年辛頓在Science上發表文章揭開了深度學習的序幕。他率先將反向傳播用於多層神經網絡,發明了玻爾茲曼機,提出逐層初始化預訓練方法和膠囊神經網絡。這一工作被認為是深度學習時代的開端。辛頓利用他的網絡模型在手寫數字識別等任務上取得了優異的表現,這讓學術界重新審視神經網絡的潛力。

2009年辛頓的2位學生使用神經網絡贏下了一個語音識別比賽。2012年,是辛頓職業生涯中的一個轉折點。他與學生亞曆克斯·克里澤夫斯基(Alex Krizhevsky)和伊爾亞·蘇茨克維(Ilya Sutskever)共同開發的AlexNet參加了ImageNet大規模視覺識別挑戰賽。

在比賽中,他們以驚人的準確率贏得了冠軍,準確率高出第二名十多個百分點。這一成就讓全世界都為之震驚,深度學習技術迅速成為各大科技公司的研究重點。

在領獎台上,辛頓激動地發表演講,他說:「這不僅是我們團隊的勝利,更是整個神經網絡研究領域的一次複興。」這一刻,他不僅收穫了榮譽,更讓全世界看到了人工智能的無限可能。

全球的科技巨頭都開始爭相投資深度學習。Google、Facebook、微軟等公司紛紛投入巨資進行神經網絡和深度學習的研究。

創造工業界的奇蹟

隨著深度學習技術的發展,辛頓逐漸成為全球人工智能領域的重要人物。2013年,他創辦的公司DNNresearch被Google收購,辛頓也隨之加入Google。在這裏,他繼續進行深度學習研究,並帶領團隊開發了一系列突破性的技術。辛頓常常在會議上分享他的研究成果,與來自不同領域的科學家進行深入討論。

在Google工作期間,辛頓提出了「膠囊網絡」(Capsule Networks)的概念,旨在解決卷積神經網絡的不足。卷積網絡擅長處理二維圖像,但對於更複雜的三維物體理解力不足,尤其在處理不同角度或視角的物體時,往往容易混淆。辛頓的膠囊網絡模型試圖通過模擬人類大腦的方式,提升神經網絡在空間層次理解上的能力,進一步推動了機器視覺的發展。

2018年,辛頓與楊立昆(Yann LeCun)和祖舒亞·本希奧(Geoffrey Hinton)共同獲得圖靈獎,這一榮譽被譽為計算機科學界的「盧保獎」。在領獎時,他謙遜地說:「這份榮譽屬於所有為人工智能奮鬥的人們。」他的言辭展現了他對團隊合作和科學精神的重視,也讓更多人關注到人工智能的發展。

直到2023年,為了更自由地探討這些問題,辛頓選擇從Google離職。他希望能夠引發更多關於AI倫理與社會責任的討論,並推動相關政策的製定。在一次採訪中,他坦言:「我希望未來的人們能以負責任的方式使用AI,而不是讓它成為我們生活中的威脅。」

辛頓的理論不僅在工業界產生了深遠的影響,也在人工智能的博弈領域掀起了一場革命。2016年,基於深度學習的圍棋程序AlphaGo戰勝了世界圍棋冠軍李世石。雖然辛頓本人並未直接參與AlphaGo的開發,但其神經網絡和深度學習的研究為AlphaGo打下了堅實的基礎。

AlphaGo的勝利讓全世界認識到了深度學習的力量,也讓辛頓幾十年來的堅持和努力得到了更廣泛的認可。他不再只是學術界的「孤膽英雄」,而是成為了全球AI領域的領軍人物。

AI世界的傳火者

辛頓長久地堅持在這個冷門的領域耕耘,讓他最終迎來了AI的春天,不但為人工智能領域帶來了革命性的突破,辛頓(Hinton)的研究不僅帶來了技術上的飛躍,也培養了一大批優秀的AI人才。包括:

1. 同獲2018年圖靈獎的Yann LeCun是辛頓的博士後,擔任Facebook人工智能研究院總監。

2. Brendan Frey是辛頓的博士,DeepGenomics公司創始人和CEO。

3. Radford Neal是辛頓的博士,R語言的pqR解釋器作者。

4. Ilya Sutskever是辛頓的博士,DNNresearch的聯合創始人,目前任OpenAI 的研究總監。

5. Alex Krizhevsky是辛頓的博士,AlexNet網絡模型的第一作者。

在多倫多大學,辛頓培養了一代又一代的AI研究人員,他的實驗室成為全球頂尖AI人才的搖籃。這些學生不僅繼承了辛頓的學術精神,還帶著他的理念走向世界,在不同的領域推動著人工智能的進步。

榮譽加身不忘疾呼

2024年,辛頓因其在神經網絡和人工智能領域的開創性貢獻,獲得了盧保物理學獎。這一殊榮是對他一生工作的肯定,也是對神經網絡與人工智能研究領域的歷史性認可。

辛頓通過物理學的方式理解人工智能,他運用物理的理論和工具來分析人工神經網絡的結構和行為,找到了訓練這些網絡的方法,徹底改變了機器學習的未來。

儘管辛頓已經在人工智能領域取得了巨大成功,但他對未來仍充滿警惕。他反復提醒人們,AI的崛起帶來的不僅是技術進步,還有諸多潛在風險。他曾公開表達過對超級智能失控的擔憂,強調AI的發展必須伴隨著倫理和法律框架的構建,以防止技術濫用。

辛頓認為,未來的AI不僅要追求更高的效率,還要更加「可解釋」,即AI的決策過程需要透明,能夠被人類理解和審查。這種觀點也引發了全球科技界和學術界對AI「黑箱問題」的廣泛討論。

傑佛瑞·辛頓的10大語錄:

1、「深度學習的潛力是無限的,只要我們願意去挖掘。」

——Hinton在談及深度學習的未來時,強調了這項技術的廣泛應用潛力。

2、「人工智能就像電一樣,將滲透到每個角落。」

——他常將AI的影響比作歷史上重大技術革新,尤其是工業革命。

3、「深度學習是讓機器從數據中學習的方式,而不是手動編碼它們的行為。」

——解釋了深度學習的本質及其區別於傳統編程的方式。

4、「我從未預料到人工智能的發展會如此迅速。」

——他在談論AI技術的飛速進步時曾表達過這種驚歎。

5、「在某些領域,機器已經超越了人類能力。」

——探討AI技術在特定任務上超過人類的能力,尤其是圖像和語音識別領域。

6、「我們必須對AI的潛力保持警惕,尤其是它的負面影響。」

——近年來,Hinton對AI發展速度及其潛在威脅提出了警告。

7、「人工智能可能在智力上超過人類,而不僅僅是在體力上。」

——他強調AI在智能領域可能帶來的變革,而非像工業革命那樣僅是物理層面的突破。

8、「我希望AI能幫助我們解決重大社會問題,而不是創造新的問題。」

——表達了對AI積極應用的期待,同時警惕其潛在的社會風險。

9、「我堅信,學習的本質就是從數據中發現模式,而這正是深度學習的核心。」

——他對深度學習的基本原理進行了簡潔而有力的描述。

10、「AI的未來充滿希望,但我們也需要承擔起它帶來的責任。」

——強調了在AI飛速發展過程中,責任倫理和道德的重要性。

傑佛瑞·辛頓的故事是一段充滿堅持、創新與突破的歷程。他從一個不被看好的領域起步,逆流而行,最終改變了整個科技世界。他不僅是一個科學家,更是一個夢想家,一個從未放棄信仰的人。他用畢生的精力證明了一個簡單的信念:機器可以像人類一樣學習,甚至在某些方面超越人類。

辛頓的傳奇故事不僅屬於過去,它還在繼續書寫。他對人工智能的願景和信仰,將繼續影響未來幾代科學家、工程師和決策者,推動我們走向一個更加智能化的世界。

本文來自微信公眾號「後浪進化星球」,作者:我是Mark,36氪經授權發佈。