微軟AI CEO舒里文尼：當前AI的最大挑戰在於如何打造值得信任的技術｜鈦媒體AGI

2024年盧保獎的各個獎項已經全部揭曉，其中，盧保物理學獎與化學獎雙雙花落AI領域。

​很顯然，AI技術及其應用成為今年諾獎最大的亮點。

近期，微軟AI新任「掌門人」、CEO穆斯塔法·舒里文尼（Mustafa Suleyman）接受Wired對話，聊聊AI發展、倫理問題以及未來的技術前景。

舒里文尼認為，人與AI 信任體驗的構建是當前最大挑戰。

「我一直相信AI具備提供支持的潛力。情感支持實際上是我19歲時參與的第一個項目，那時我啟動了一項電話諮詢服務。這正是這個技術時代的美妙之處——與一個真正瞭解你的AI夥伴互動。它會指導你、鼓勵你、支持你、教導你。我認為這將不再讓人感覺像是在跟一台計算機互動。」舒里文尼表示。

談及AI技術帶來的生產力，舒里文尼指出，第一階段是AI處理與用戶相同的信息——看到用戶所見、聽到用戶所聽、閱讀用戶閱讀的文本；第二階段是AI具備長期、持續的記憶，隨著時間的推移建立起共同理解；第三階段是AI通過發送指令和採取行動與第三方互動——比如購買東西、預訂東西、規劃日程。我們正在研發實驗模式中的這兩個功能。

微軟全球資深副總裁、微軟 AI 亞太區總裁張祺博士認為，諾獎對AI相關成果及科學家的高度認可，不但有力地推動了AI技術的進一步發展和跨學科研究的深化，也預示著AI將以更快的速度推動人類社會的經濟增長和高質量發展。AI的發展速度驚人，這在人類歷史上尚屬首次——機器學會了運用我們的語言。舒里文尼先生對如何最大限度利用技術滿足用戶需求給出了一個清晰的路線圖。他探討了人工智能的發展、倫理問題以及未來的技術前景。這正是本次舒里文尼先生交流帶來的啟示。

舒里文尼曾強調，AI是自地球生命誕生以來最新的創造浪潮，而且我們正處於有史以來速度最快、影響最深遠的浪潮之中。「為了駕馭這股浪潮，將人類的能動性置於其中心，並減輕可能產生的不可避免的意外後果，我們應該開始將它們視為一種新形態的數字物種。」

以下是穆斯塔法·舒里文尼與WIRED的資深作者Will Knight近期的深度訪談：

主持人: Copilot的願景是什麼？ 

舒里文尼: 我們正處於一個驚人的轉型點。AI夥伴現在能夠看到我們所見，聽到我們所聽，並使用我們溝通的同一種語言。這種新的設計理念關注的是持久性、關係和情感。我們正在打造一種體驗，是關於與夥伴進行持久、持續互動。

主持人: 你從Inflection AI加入微軟，該公司專注於構建支持性和同理心的AI。聽起來你在新的僱主這裏也保持了這種理念。 

舒里文尼: 我一直相信AI具備提供支持的潛力。情感支持實際上是我19歲時參與的第一個項目，那時我啟動了一項電話諮詢服務。這正是這個技術時代的美妙之處——與一個真正瞭解你的AI夥伴互動。它會指導你、鼓勵你、支持你、教導你。我認為這將不再讓人感覺像是在跟一台計算機互動。

主持人: Copilot Vision是什麼？這個「labs」功能將讓Pro用戶嘗試到什麼？ 

舒里文尼: Copilot Vision讓你能夠說「那邊的東西是什麼（在你的屏幕上）？」或「等一下，那是什麼？你覺得那個怎麼樣？」在你坐在電腦前時，會有很多這樣的小瞬間。這個AI夥伴可以看到你所見，並實時與你討論你正在看的內容，這是非常了不起的。它在某種程度上改變了你在數字生活中的體驗，因為你不必再費力鍵入內容。

主持人: 這聽起來像是Recall，那項有爭議的、現在需要選擇的Windows功能，用於記錄用戶屏幕上的內容。 

舒里文尼: 保護用戶的隱私是至關重要的。目前我們不會用Copilot Vision保存任何內容，因此一旦會話結束後關閉瀏覽器，所有內容都會消失，完全刪除。但我在思考是否以及如何在未來引入這一功能，因為很多人確實希望有這樣的體驗。如果你可以說，「我前幾天在網上看到的那張圖片是什麼？那個表情包是什麼？」我想我們總有一天得研究這個問題。不過目前，Copilot Vision工具是這樣的。我們需要隨著時間進行實驗，看看如何在這方面做更有意義的事情。

主持人: 你們還推出了Think Deeper，這將使Copilot能夠處理更複雜的問題。這是基於OpenAI的o1模型，也就是Strawberry，對嗎？ 

舒里文尼: 是的，類似於Strawberry。我們對OpenAI的模型進行了調整，為了更符合消費者的需求，我們讓它以一種更符合AI夥伴主題的方式運行。

主持人: 有什麼區別？ 

穆斯塔法·舒里文尼: OpenAI的模型更專注於純數學和科學問題的解決。我們試圖讓它專注於並列比較和消費者分析等內容。當你在解決一個難題時卡住了，想要推理時，它可以真正列出一個並列比較，或者進行大規模分析。

主持人: 微軟的人們已經在使用這個新版本的Copilot了嗎？ 

舒里文尼: 是的，大家都在使用。我們幾天前剛在公司內部全面上線。所以每個人都在使用，並且提供大量反饋。我們的反饋渠道非常繁忙，這很有趣。

主持人: 人們會記得Clippy，微軟最後一個Windows AI助手。那裡的員工有看到相似之處嗎？ 

舒里文尼: 我前幾天見到了比爾·蓋茨，他說，你知道嗎，你給整個AI的命名搞錯了？應該叫Clippy。這確實顯示了蓋茨這樣的人的賽前分析性。他們不僅能預見未來兩年，還能預見未來二十年。

主持人: 新功能是否是朝著所謂的AI夥伴邁進了一步，AI夥伴可以在電腦上幫你處理有用的瑣事嗎？ 

舒里文尼: 是的，絕對是。

第一階段是AI處理與用戶相同的信息——看到用戶所見、聽到用戶所聽、閱讀用戶閱讀的文本。第二階段是AI具備長期、持續的記憶，隨著時間的推移建立起共同理解。第三階段是AI通過發送指令和採取行動與第三方互動——比如購買東西、預訂東西、規劃日程。我們正在研發實驗模式中的這兩個功能。

主持人: 你們有一個可以為你去購買東西的Windows人工智能代理嗎？ 

舒里文尼: 還有一段路要走，但沒錯，我們已經完成了閉環，實現了交易。這項技術的問題是，你可以讓它在50%、60%的情況下運行，但要達到90%的可靠性還需要付出很多努力。我已經看到了一些令人驚豔的演示，它可以獨立完成購買等操作。但我也見過一些出狀況的時候，技術不知所措，無法正確應對。

主持人: 能多告訴我一點所謂「出狀況」的事嗎？它是否用蓋茨的信用卡去買了輛蘭博基尼？

舒里文尼: 如果它用的是蓋茨的信用卡，那就好笑了。但不，如我所說我們還在一步步摸索。這項技術仍然處於實驗室階段。還有很長的路要走，但我想進展可以按季度來計算，而不是按年。

主持人: 在實現你所描述的人工智能未來的過程中，你面臨的最大挑戰是什麼？

舒里文尼: 這裏的關鍵在於如何打造一種值得信任的技術，因為這將是一種非常親密和個人化的體驗。我們必須做好安全和隱私的部分。我認為真正的挑戰在於如何設計對話，使AI夥伴能夠明確地表達邊界，能夠說出「這是我不準備參與的事情」。

如果我們能做到這一點，那就是建立信任體驗的基礎，然後我們就可以進一步推動更複雜的方面，例如讓它代表你購買東西、代表你談判、代表你簽訂合約，或者為你規劃一個週六下午涉及三四個不同站點的行程。你會說：「我相信你，Copilot，你能搞掂，對嗎？」這正是我們努力的方向。

（本文正選於鈦媒體App，作者｜林誌佳，編輯｜胡潤峰）