“機器學習泰鬥”邁克爾·喬丹：人工智能系統設計缺乏激勵機制

新浪科技訊 9月5日上午消息，2024 Inclusion·外灘大會期間，機器學習泰鬥、美國“三院院士”邁克爾·喬丹在開幕主論壇上的演講中指出，人工智能落地產業，需要形成互相協作的集體；要構建人工智能的協作系統，必須要引入經濟學的“激勵”視角。

他指出，當前的人工智能系統很難表達它真正學到哪些知識，也沒有能力表達它有多確定。相較之下，人類在面對不確定性時表現出色，尤其是集體協作共同應對時。

因此，邁克爾·喬丹建議不僅單獨設備要具備一定智能，人工智能更要通過協同體現在整體系統層面。他指出，僅僅將人類的智慧融入超級智能計算機中是不夠的，現代信息技術在醫療、交通、金融科技和商業領域的應用，需要集體性、去中心化的智能系統。

邁克爾·喬丹進一步探討了不確定性與集體性的關係。他指出，人類在集體協作時能夠更好地應對不確定性，但如何讓當前的AI系統也具備類似的集體協作能力，仍是一個未解的關鍵問題。他認為，微觀經濟學視角是當前AI研究的一個缺失。

“激勵機制”是市場經濟和集體智能的關鍵因素，“AI擁有海量的數據，但有些不能生成價值，通過設計激勵機制才能驅動AI智能體貢獻和協作。”邁克爾·喬丹提出了“三層數據市場（Three-Layer Data Markets）”模型，其中用戶、平台和數據買家通過“出讓數據”、“購買數據”、“提供服務”形成了閉環。他強調，數據購買者也就是企業可以結合“數據和服務”建立與用戶的激勵機制，從而為他們帶來真正的價值。

對此，邁克爾·喬丹援引了統計契約理論，這是一種結合了統計學和經濟學的新型理論。在契約理論中，代理人擁有私有信息，而委託人通過激勵機制形成了數據和服務相互促進的市場，維持了供需雙方的利益平衡。

例如航空公司分“商務艙”和“經濟艙”，航空公司作為委託人能夠根據代理人的不同支付意願提供不同的價格，而不需要代理人透露其個人信息。由於過去十年間，全球範圍內對數據隱私的監管不斷增加，他也建議“我們可以通過非一致的隱私要求進一步提高用戶效用，對低成本平台施加更高的要求。”

人工智能系統建立在過去人類300年的推理理念、算法理念和經濟理念基礎之上，需要以人類福祉為目標。邁克爾·喬丹提醒道，“但人工智能正被置於那些未經深思熟慮的、樸素的舊式願景之中，它的興起和發展受到扭曲。”（羅寧）