陶哲軒:o3-mini糾正了我一個數學錯誤,十分鐘解決原本一小時才能完成的題目
白交 發自 凹非寺
量子位 | 公眾號 QbitAI
大模型持續震驚科學家!
以往一小時才能完成的代碼,現在十分鐘就能實現「生成、測試到得出結果」。
「大模型推廣大神」陶哲軒又來分享他的親測體驗了。
這一次o3-mini一眼識破並且糾正了他的一個錯誤,然後在它的幫助下快速完成了一道數學題的解答。

而在另一邊,CMU數學教授、美國奧數國家隊前掌舵人羅博深發現,GPT-o1在卡內基梅隆大學數學本科考試中獲得滿分,而且每道題的解題時間不超過一分鐘。

關鍵是,他專門設計的是全新的非標準問題,這些問題都是開卷的。
而普通學生的成績分佈be like:

陶哲軒:o3-mini糾正了我的錯誤
事情是這樣的。
他在MathOverflow上遇到了這樣一道題,由於答案不是封閉形式的,所以他想近似地模擬他。

首先,他要求o3-mini-high提供一些代碼。結果在思考一分12秒之後,首先聲明他試圖計算的數量是無限的,但其實事實並非如此。此處o3-mini犯了個小錯誤。

不過它仍然提供了數值代碼,確實粗略地近似了陶哲軒想要的數量(精確到小數點後一位)。

那時它意識到應該使用馬爾可夫鏈理論來獲得更精確的答案,於是先向 o3-mini-high詢問理論公式,然後編寫代碼來計算結果。
有趣的是,它能夠糾正提示中的一個基本錯誤:把min寫成了max。

並且給了完美的代碼,然後陶哲軒在此基礎上對這一問題給出更精確的數值答案。

對此,陶哲軒的評價是:
總的來說,o3提供了相當不錯的幫助;它犯了一個錯誤,我糾正了它,但我也犯了一個錯誤,它糾正了它。
而且以前我自己可能需要花一個小時的時間才能完成的代碼,在大約十分鐘內就生成、測試、修改並報告出來了。
重建圖論中一個標準(專家級)結果的證明,o3-mini是完全可以hold住的。
大模型持續震驚數學家
而在另一邊,羅博深也被o1的數學能力震驚到了。
他日常給本科生設計了五道數學題,分別涉及差分方程、線性代數、組合數學、數論、斐波那契數列性質等內容。
結果每道題均在一分鐘內解決,甚至部分思考時間僅在20秒以內。


而在班級上考滿分的人當中,最快的人只用了30分鐘。

最後,他額外算了算這背後的成本。
已知GPT-o1每百萬字的輸出成本僅為60美元,這意味著每個問題的解決成本約為5美分。
對於大多數人無法在1小時內完成的工作來說,總共花費約25美分。
對此,他忍不住驚呼:Oh my goodness.讓我覺得已經接近「能夠從事中等非程序性技術工作」的臨界點。
值得一提的是,前兩天其實還是GPT-4發佈的兩週年。兩年之間,大模型的數學能力已經有了質的變化——各種數學難題都輕鬆拿下。
比如挑戰最難本科數學考試,o1 Pro只需36分鐘16秒交卷。
最新的o3系列,在最難數學測試的EpochAI Frontier Math(包含最新未公開前沿題目)中,比之前SOTA從2分提升到25分。
人類專業數學家解決其中一道題目也要花費數小時到數天,現在o3只需要思考幾分鐘了。

眼看著數學難題一一被挑戰讓數學家們驚呆,大模型下一個可能被攻克的領域會是哪一個呢?
你有沒有遇到過類似被大模型能力驚呆的經歷?歡迎在評論區與我們分享。
參考鏈接:
[1]https://mathstodon.xyz/@tao/114173696303072269
[2]https://chatgpt.com/share/67d71204-3510-800e-8bca-11bfbf53fc3d
[3]https://mathoverflow.net/questions/486790/maximum-minimum-difference-between-fk1-and-average-of-f0-dots-f2k1/489533#489533
[4]https://x.com/PoShenLoh/status/1900721180887203879