辛頓獲得盧保物理學獎，計算主義者的勝利

2024 年盧保物理學獎頒發給了約翰·霍普菲爾德（John J. Hopfield）與傑佛瑞·辛頓（Geoffrey Hinton）。

今天專門聊聊深度學習之父，傑佛瑞辛頓，這個人太有意思了。

我們先科普一個概念，什麼是計算主義？

人類的大腦裡面有 800 億到1000 億個神經元，，然後每個神經元和其他神經元的連接，平均有 1000 多個。那麼計算主義者就認為，如果我可以製造出很多的神經元，然後又讓每一個神經元去和其他的神經元去連接，那麼就應該可以模擬大腦，像人類的大腦一樣聰明。

如果能夠製造這麼一個東西，裡邊有很多的數字神經元，然後有連接。只要足夠多，剩下的事情就是計算了。你問他問題，他就像人一樣回答。 

計算主義者認為，大腦沒有什麼神秘的，就是神經元和連接數量足夠多而已。這就是計算主義者的信仰。

辛頓和他的弟子們，就是奉行這個信仰，堅持了很多年，最後真的做出來了，那就是名滿天下的ChatGPT。

辛頓是 1947 年生人，前半輩子一直過的不好不壞。

他從小就對人類大腦感興趣，他問了自己一個問題，人為什麼會思考？人是如何思考的？人為什麼比其他動物聰明？

他學過心理學，學過數學，但是他發現這心理學就是個精神按摩，不能解決他的問題。

所以辛頓對神經網絡特別感興趣，他覺得這個東西就是人類大腦的秘密。只不過當時計算機的硬件配置很低，內存、 CPU都不夠用，內存按多少k計算，也沒有GPU這種東西，所以他就只能在理論上發展。

他剛開始在英國從事學術研究，像他這種新奇的神經網絡理論，在科研圈、在學術圈都沒有市場。他為了找工作，就從英國跑到美國。

美國誰先資助他的呢？軍方資助，讓他去搞研究，然後看看這個神經網絡的學術成果能不能應用到美國軍方。 

但是辛頓又是一個強烈的和平主義者，最後他又跑到加拿大。

因為加拿大是個相對而言比較和平主義的國家，學術氛圍也非常寬鬆，搞研究也沒有那麼嚴格的KPI指標要求，像國內高校的成果轉化率之類的。

他到了加拿大之後，在 2012年的時候，參加由史丹福李飛飛舉辦的圖像識別大賽，就是給很多貓的照片讓機器學習，然後去識別新照片里的貓。這個大賽中，辛頓團隊採用反向傳播的神經網絡，然後基於當時已經有的 GPU，一戰成名。

之後就是一路高光了，獲得圖靈獎，加入Google，後來又離開Google。

現在獲得盧保物理學獎，作為一個計算機領域的人工智能專家，卻獲得物理學獎，他本人也說沒想到。

辛頓是當之無愧的深度學習開山鼻祖，他的堅持是計算主義者的第一個重大勝利。

還有另外一個關鍵人物，伊爾亞·蘇茨克維（Ilya Sutskever），他是辛頓的學生，2012年參加圖像識別大賽的團隊里就有他。

伊爾亞是 OpenAI 的前首席科學家，在去年 11 月的宮鬥之後，道不同不相為謀，上個月最終還是離開OpenAI，自己創業去了。

在 2017 年，有一篇論文橫空出世， Google 的《Attention is all you need》。伊爾亞看到這篇論文後，他敏感地認識到了這個 Transformer 架構的價值。 

然後就不惜餘力的在 OpenAI 的內部，不斷推動擴大這個模型，從 GPT 1、 GPT 2、 GPT 3，一直到現在的GPT 4。

伊爾亞堅信，人和猩猩的區別在於，人類腦容量比猩猩大很多，人類的額葉非常厚，所以人類比猩猩聰明。伊利亞一直認為人類的智力來源於更寬的網絡，更深的網絡。

用伊利亞自己的原話說，只要這個網絡足夠寬，只要這個網絡足夠深，那麼這個網絡就會足夠的聰明，而且會湧現出很多新的能力，就像人一樣。

人類也不是天生會說話的，大概在十幾萬年前，才有的口頭語言，人類的文字也就一萬年。它們的出現都是這種湧現，當這個腦容量多到一定程度時就會這樣。

時代發展到這裏，GPU等計算硬件資源到位了，移動互聯網普及帶來的數據到位了，微軟的資金也到位了，OpenAI的科學家團隊在解決了各種工程問題之後，ChatGPT問世了。

這是計算主義者的第二個重大勝利。

人工智能的大門就是這樣打開的，人類進入新世界。

向辛頓、伊爾亞、以及其他沒有提到的貢獻者致敬。

正式推薦一個副業賺錢項目，AI代寫。

這個副業有兩種定位：一是純寫手，需要精通AI寫作能力；二是流量運營+寫手，除了AI寫作能力之外，還需要掌握主流流量平台的運營技巧。

我認為這是今年最可靠的副業項目，入門門檻很低，適合的人群很廣，同時收入天花板很高，月收幾千到幾萬都有可能做到。

如果你暫時處於職業空檔期，或者有心發展第二曲線，可以聊聊。