社論丨AI手機是打開了潘多拉的魔盒嗎？

【社論丨#AI手機是打開了潘多拉的魔盒嗎#？】#AI手機顛覆人和工具間的主奴關係#豆包AI手機一上市，就成為市場關注的焦點，也引發了不小的爭議。人們驚奇地發現：這款手機擁有幫人點外賣、訂機票、比價購物，甚至回覆消息、操作小程序遊戲的能力。只需向手機輸入一段類似「幫我訂一份附近三公里內的最便宜的拿鐵咖啡」的命令，手機就能幫助用戶完成訂單。

一方面，AI手機讓人感覺未來已來；另一方面，在口令驅動之下的手機界面自動跳轉，一氣嗬成完成比價、點單、支付任務，讓人產生深深的隱憂。這款手機通過系統級權限實現跨應用自動比價、下單等功能，將AI應用的倫理邊界、隱私保護、安全風險、法律責任等爭議推上了風口浪尖。

12月5日，豆包手機助手發佈說明稱，會對AI操作手機的能力做一些規範化調整，包括：限制刷分、刷激勵的使用場景；限制金融類應用；限制部分遊戲類使用場景。而且一再強調：豆包手機助手不會代替用戶進行相關授權和敏感操作。

所有人都很清楚，目前人工智能正在處於大爆發的前夜，顛覆性的使用效果即將來到。如何馴服人工智能，是一個嚴肅的、迫切的現實話題。

首先，從倫理上說，AI助手正從信息查詢工具進化為系統級操作者，「不可控性」可能引發系統性風險。

「認知卸載」將人類的決策負擔轉移至算法，導致「代理衰退」——人類因過度依賴AI而逐漸喪失獨立思考、判斷與選擇的能力，在顛覆人和工具之間的「主奴關係」。我在手機點到的「最便宜的拿鐵咖啡」，到底是我內心想要的咖啡，還是算法希望我看到、點到的那一杯咖啡？

其次，從隱私保護上說，AI手機實現跨應用操作，誰來監督？

AI的「後台靜默操作」降低了用戶對數據流轉的感知，也引發了擔憂。微信作為國民級應用，已經對這款手機實施了「被動下線」。雖然，豆包方面明確，會限制金融類等的敏感操作，但是，人們還是擔心AI會不會違背人們的意志，造成嚴重的風險。目前，《個人信息保護法》等法律，只是粗線條地規定了「收集個人信息最小夠用」原則、「知情-同意」機制，但可能在新興的AI應用之下變得不堪一擊。

第三，在法律責任上說，AI手機的操作到底由誰來負責？手機到底是用戶的代理人，還是AI要對第三方負責？

AI手機替用戶完成的交易，是不是代表其真實意思的表達？如果有侵權、買賣糾紛，比如，AI手機在社交平台上發佈了侮辱性的內容，誰來承擔民事責任？AI手機「誤操作」，一下子點了100杯咖啡，誰來承擔損失？企業當然希望堅持「授權即免責」的邏輯，但是，用戶顯然不願意處於AI操控的風險之下。面對方興未艾的AI應用，法律如何定分止爭？能不能對AI代理提供者採用「過錯推定原則」？

這裏不是針對具體哪一款AI手機提出質疑，而是針對「在座的每一位」，針對每一位雄心勃勃的AI服務商。當然，不能對AI手機一棍子打死，因為這就是未來的方向，但是，技術創新與用戶權益之間要尋找平衡，構建「合理、透明、可問責」的倫理框架，讓機器服務於人，而不是打開潘多拉的魔盒。