Google前 CEO 施密特:若 AI 開始自我改進,我們應「認真考慮」暫停它

IT之家 12 月 23 日消息,當前 AGI(IT之家註:通用人工智能)的熱度一直有增無減。OpenAI CEO 阿爾特曼認為,AGI 將會在現有硬件的支持下比預期更早實現;而前Google CEO 艾力・施密特則表示,一旦 AI 開始自我改進,我們應考慮暫停其進一步發展。

在本月 17 日接受美國電視網 ABC 新聞採訪時,施密特表示:「最終你可能會告訴計算機,‘學會一切,做到一切。’當系統能夠自我改進時,我們必須認真考慮是否要拔掉它的電源。這將是極其艱難的,如何保持平衡將非常具有挑戰性。」

施密特預測,AI 將從特定任務助手逐漸發展為能夠獨立決策的複雜系統。當 AI 發展到這種程度時,人類就應介入並考慮關閉系統,施密特指出。人類還需要確保 AI 無法反製關閉系統的努力。「從理論上講,我們最好有個人能‘掌控電源’,就像比喻中所說的那樣。」

馬斯克在 10 月表示,AI「最有可能是偉大的」,但也有 10% 到 20% 的機率可能走向壞的一面。他強調,AI「變壞」的可能性並非零。

儘管如此,施密特也對 AI 的積極潛力持樂觀態度。他表示:「重要的是,這種強大的智能意味著每個人都將擁有一個像博學者一樣的助手,隨時都在口袋里。除了筆記和寫作助手,每個人還會有像愛恩斯坦和達芬奇這樣的智慧人物為自己提供建議。這將適用於全球每一個人。」

廣告聲明:文內含有的對外跳轉鏈接(包括不限於超鏈接、二維碼、口令等形式),用於傳遞更多信息,節省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。