劍橋大學研究：AI 可能會被用來操控用戶的選擇，相關用戶數據將被出售

IT之家 12 月 30 日消息，據英國《衛報》今日報導，劍橋大學的一項研究警告稱，人工智能 (AI) 技術可能被用來操控在線用戶的選擇 —— 從購買商品到投票決定。

研究指出，一個名為「意圖經濟」的新興市場正在成形。在這一市場中，AI 助手不僅可以分析和預測用戶意圖，還能操控這些意圖，並將相關數據出售給希望獲利的公司。

劍橋大學萊弗休姆未來智能研究中心 (LCFI) 的研究人員將「意圖經濟」視為取代「注意力經濟」的下一階段發展。

IT之家註：「注意力經濟」通過社交平台吸引用戶注意力並推送廣告，而「意圖經濟」則更加深入，直接針對用戶的動機和決策過程。

科技公司可以利用 AI 技術分析用戶的需求，並將這些信息拍賣給出價最高的廣告商。「長期以來，注意力一直是互聯網的核心貨幣。」LCFI 技術史學家祖尼・潘恩博士指出，「社交媒體平台通過吸引用戶注意力驅動經濟增長。然而，意圖經濟若缺乏監管，將把用戶的動機變成新的交易籌碼，導致對用戶意圖的爭奪戰。」

研究進一步分析，大型語言模型可以實時分析用戶行為和心理數據，預測並引導其決策過程。例如，AI 助手可能會主動詢問用戶是否要觀看某部電影或幫助安排娛樂活動，從而影響用戶的選擇。

這種 AI 技術還能根據用戶的行為軌跡和心理特徵動態調整建議。研究警示，這可能導致 AI 工具被用於操控對話，以實現廣告商或第三方的商業目標。

報告特別指出，科技公司已經在利用 AI 推動定製化廣告。例如，Meta 公司開發的 Cicero 模型表現出在推測和引導人類意圖方面的「類人水平」。

AI 模型甚至能夠在對話中推測用戶信息，並利用交流內容進一步挖掘個人數據。這可能引發隱私保護和倫理方面的擔憂。

研究表明，大語言模型可以低成本地利用用戶的說話風格、立場、年齡、性別、對奉承的偏好等等，結合經理人的出價，最大限度地實現既定目標（如銷售電影票）。在這個世界里，AI 模型將引導對話，為廣告商、企業和其他第三方服務。

研究進一步預測，未來廣告商可能競拍用戶的預訂意圖，如餐廳或酒店預訂。而 AI 技術將使這一過程更加精確、高效和個性化，顯著提升商業化程度。

研究還援引 Meta Cicero 團隊的警告稱：「 AI 系統可能會通過對話巧妙地引導用戶，以實現特定目標。」

英偉達首席執行官黃仁勳曾表示，未來的 AI 模型將理解用戶需求，並根據情境提供最合適的信息。這表明，AI 技術在預測和影響用戶決策方面的潛力不容忽視。

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。