科技

Claude創始人：AI全面超越人類，只剩2-3年

01月22日 17:20 新浪網 tech-auto-hilite

基爾西發自凹非寺

量子位 | 公眾號 QbitAI

我有信心，未來2-3年內各領域將出現比人類強的AI系統。

在最新的對話訪談當中，Claude廠家Anthropic的CEO Dario Amodei談論了他對於AI未來的看法。

他認為，AI確有可能在短期內替代部分人類的工作，但讓AI與人類形成互補才是對生產力最有益的方式。

對於當下的年青人，Amodei也給出了他的建議，鼓勵其學會使用AI工具並培養批判思維能力。

同時，對於Claude近期的一些更新，Amodei也進行了劇透。

「AGI更像營銷術語」

註：本文內容結合華爾街時報Joanna Stern和CNBC「Squawk Box」欄目對Amodei的採訪整理而成。

OpenAI的o1發佈以來，推理模型就成為了炙手可熱的新產品，也有不少人都認為o1開啟了大模型的新範式。

但Amodei對此卻有著不同的看法，他認為推理模型和「測試時計算」不是全新的範式，而是規模化強化學習的結果。

一直以來大家都在談論推理模型和測試時計算，好像有普通模型和推理模型，有完全不同的工作方式。

這不是我們的觀點。我們認為這更像是一個連續的譜系，模型有思考和反思自己的思考的能力，最後得出一個結果。

但我認為我們將看到的變化是，我們將看到更大規模地使用強化學習，讓模型更多地思考和反思。

所以推理或測試時計算，並不是一種全新的方法，更像是一種emergent property（湧現特性），是在更大規模上以結果為導向的方式訓練模型的結果。

而對於大模型競爭的關鍵，Amodei強調了模型差異化的重要性，還順帶給自家的Claude打了波廣告，表示Claude的賣點是具有獨特的性格特徵。

關於Claude，我們聽到的反饋是人們非常喜歡它的性格。

人們喜歡與Claude互動，會向Claude尋求關係建議，尋求解決問題的幫助，這種場景比在其他模型中要多得多。

不僅是模型有個性，對於包括隔壁OpenAI在內的廠商特別喜歡提及的AGI，Amodei的看法同樣與眾不同。

對我來說，AGI 從來都不是一個定義明確的術語，我一直認為它是一個營銷術語。

但你知道，我的想法是，在某個時候，我們將獲得在幾乎所有任務上都比幾乎所有人類都更好的人工智能系統。

「未來2-3年AI將超越人類」

當然，對於AI未來的發展，Amodei的看法還是非常樂觀的。

他認為，未來2-3年內，各個領域都將出現比人類強的AI系統。

並且他還認為，這樣的進展速度，與大眾感知是一致的。

我剛進入AI領域幾年時的觀點是，我們將擁有在幾乎所有方面都比幾乎所有人類更強的模型。

我猜測這會在2020年代的某個時候發生，可能是2020年代中期，但我又總是說，我不知道、我不確定。我們可能是錯的。

直到大約三到六個月前，我依然認為還有相當大的不確定性，到現在也是，但那種不確定性大大減少了。

我有信心在未來兩三年內，我們確實會看到這樣的模型——它們是人類的助手，但在幾乎所有方面都會逐漸變得比我們更強。

但超越是否意味著替代呢？Amodei認為，短期內但真正提高生產力，靠的是將AI作為人的互補，而非替代。

大約一年前，經濟學家Eric Bernyolfssin做了一項有趣的研究，他說，一般AI公司在部署產品時，傾向於以替代模式進行。

但是當這些公司思考得更多時，他們往往會找到以互補模式部署AI的方法，這樣做生產力的提高會更大。

因此，我們也可以從產品的角度來思考如何設計我們的產品，以實現互補而不是替代。

但從長遠來看，Amodei認為一旦AI在幾乎所有領域超越人類，經濟組織形式、人的自我價值等很多基本假設都將受到挑戰。