美國三院院士米高·佐敦：人工智能系統設計缺乏激勵機制

新京報貝殼財經訊（記者羅亦丹）「ChatGPT，你確定你剛生成的是對的嗎？」9月5日，在2024 Inclusion·外灘大會開幕主論壇上，機器學習泰鬥、美國「三院院士」米高·佐敦再次談到人工智能的不確定性。他表示，當前的人工智能系統很難表達它真正學到哪些知識，也沒有能力表達它有多確定。相較之下，人類在面對不確定性時表現出色，尤其是集體協作共同應對時。

「缺乏對集體性、不確定性和激勵機制的關注，是當前對人工智能的討論中缺失的三個方面。」米高·佐敦認為，人工智能落地產業，需要形成互相協作的集體；要構建人工智能的協作系統，必須要引入經濟學的「激勵」視角。

因此，他建議不僅單獨設備要具備一定智能，人工智能更要通過協同體現在整體系統層面。他表示，僅僅將人類的智慧融入超級智能計算機中是不夠的，現代信息技術在醫療、交通、金融科技和商業領域的應用，需要集體性、去中心化的智能系統。

米高·佐敦進一步探討了不確定性與集體性的關係。他指出，人類在集體協作時能夠更好地應對不確定性，但如何讓當前的AI系統也具備類似的集體協作能力，仍是一個未解的關鍵問題。他認為，微觀經濟學視角是當前AI研究的一個缺失。

「激勵機制」是市場經濟和集體智能的關鍵因素，「AI擁有海量的數據，但有些不能生成價值，通過設計激勵機制才能驅動AI智能體貢獻和協作。」米高·佐敦提出了「三層數據市場（Three-Layer Data Markets）」模型，其中用戶、平台和數據買家通過「出讓數據」、「購買數據」、「提供服務」形成了閉環。他強調，數據購買者也就是企業可以結合「數據和服務」建立與用戶的激勵機制，從而為他們帶來真正的價值。

對此，米高·佐敦援引了統計契約理論，這是一種結合了統計學和經濟學的新型理論。在契約理論中，代理人擁有私有信息，而委託人通過激勵機制形成了數據和服務相互促進的市場，維持了供需雙方的利益平衡。

例如航空公司分「商務艙」和「經濟艙」，航空公司作為委託人能夠根據代理人的不同支付意願提供不同的價格，而不需要代理人透露其個人信息。由於過去十年間，全球範圍內對數據隱私的監管不斷增加，他也建議「我們可以通過非一致的隱私要求進一步提高用戶效用，對低成本平台施加更高的要求。」

米高·佐敦教授是機器學習領域的先驅，通過在機器學習、概率學、統計學以及圖模型這四者間建立聯繫，為機器學習奠定了數學與計算基礎。他曾獲得IEEE約翰·馮·諾依曼獎章、國際人工智能聯合會議卓越研究獎和2022年第一屆世界頂尖科學家協會獎。

編輯 丁爽

校對 王心