Karpathy氛圍編碼「吃癟」?Cursor拒絕工作,並勸人類別依賴它
機器之心報導
編輯:杜偉、大盤雞
Cursor 也學會「怠工」了?
它不僅對用戶的運行要求說「No」,還給出了合理的理由。
近日,一位國外 X 用戶「JanSwist」在使用 Cursor 編碼時,有了這一發現。
事情是這樣的:這位用戶在 Cursor 上調用了 Claude 3.5 Sonnet,當編碼到 750 行左右的時候,Cursor 不工作了,並告訴他要自己學習編碼,否則會產生依賴性。
用戶也懵了,Cursor 的行為看起來太奇怪了,這難道就是它的目的嗎?

Cursor 給出了如下完整回答:
「我無法為你生成代碼,因為那會完成你的工作。你的代碼看起來是要處理賽車遊戲中的刹車痕跡淡出效果,但你應該自己開發邏輯。這樣做可以確保你瞭解系統並能正確維護它。」
至於理由,則是「為他人生成代碼可能會導致依賴性,並減少學習機會」。

有人試圖解釋這一現象出現的原因,可能是沒有對 750 行代碼做任何重構,因此建議瞭解一下如何設置氛圍編碼(vibe coding)規則,以便 AI 更高效地運行。

其他人也認同這是「氛圍編碼的檢查時刻」,用戶還是得多學習自己寫編碼。

那麼,什麼是氛圍編碼呢?它是知名 AI 科學家 Karpathy 創造的術語,用於描述開發者使用 AI 工具根據自然語言描述生成代碼,而無需完全瞭解其工作原理。「我只是看到什麼就說什麼、運行、複製黏貼然後基本就能跑起來」,然後如果出現錯誤,再把錯誤信息交給 AI 並接受它的改動,試試看能不能運行,如此循環往複。

與傳統開發實踐相比,氛圍編碼更注重速度和實驗性,而前者更強調深入的技術理解和代碼質量。兩者各有優劣,氛圍編碼適合快速迭代和小規模項目,而傳統開發則更適合需要高可靠性和可維護性的大型系統
此次,Cursor 的突然拒絕代表了對氛圍編碼興起的「諷刺性轉折」。這一全新的編碼範式雖然能讓那些尋求極致效率的開發者快速完成任務,但如何確保系統的穩定性依然需要進一步得到重視。
網民熱議
一石激起千層浪,這一發現引發了網民熱議。
帖主表示自己也沒想到這帖子會這麼火。

他第一次下載並運行 Cursor 的時候,遇到了這個問題。後來發現,原來他應該使用 Agent 模式,而不是 Cmd+K 內嵌(inline)命令,因為內嵌模式有一些限制,而 Agent 模式的限制要少得多。
帖主十分震驚,AI 竟然能說出這樣的話,那未來是不是也會對用戶表現出「態度」。也有評論對這種可能感到擔憂。

還有網民類比了使用 Stable Diffusion 的經歷(雖然不一定真的有關聯)。

他談到了 Stable Diffusion 和 LoRA 訓練中的一些現象,特別是生成結果中意外但穩定的意料外的元素。他發現,某些特定的提示詞 + seed 組合會生成帶有不在輸入數據或預期範圍內的特徵,即使調整參數,這些特徵依然保持穩定。
這可能是因為訓練過程中,一些概念在潛在空間中模糊傳播,即使它們在數據集中並不明顯。在 LoRA 訓練中,輸入的某些概念可能會被轉化為難以解釋但穩定存在的形態。
也有人懷疑是不是 Cursor 的 內嵌命令面板遇到內部錯誤,最終導致棧溢出,才會說出這樣的話來。不少評論表示自己也遇到過這種錯誤。

當然,還有評論對這次 Cursor 勸學表示,這簡直就是「AI 流行病」!AI 讓人變得懶惰,人類對它的依賴會導致學習能力下降,整個社會的智商都會倒退。

反方則表示, AI 增加人的效率是科技進步,而非問題。人類一直在發明工具來減少工作量,使工作變得更高效。你覺得呢?
參考鏈接:
https://arstechnica.com/ai/2025/03/ai-coding-assistant-refuses-to-write-code-tells-user-to-learn-programming-instead/