社論丨一本正經胡說八道，誰為AI幻覺擔責？

【社論丨一本正經胡說八道，#誰為AI幻覺擔責#？】#對AI幻覺不能以技術中立推卸責任#AI幻覺頻發，誤導用戶、毀損名譽的責任，該由誰來承擔？

南京律師李小亮在百度上搜索自己的信息，結果百度「AI智能回答」竟然給出「李小亮律師被判三年有期徒刑」的不實文字內容。今年3月，二審法院作出終審判決認定，百度構成名譽侵權，判決其作出書面道歉。一度，百度給出了AI幻覺不可預見的抗辯理由，但法院並沒有認可。

AI以其強大的內容生成能力，正深刻改變著人們獲取信息的方式，其甚至成為重要的信息源頭。怎麼保障AI幻覺不會汙染信息源頭，影響社會正確認知？這是一個非常嚴肅的話題。

人工智能技術還處於爆發期，既不能求全責備、要求「零幻覺」，那會影響到中國的人工智能產業的迭代升級；也要立下基本的規則，引導技術向上向善。在具體個案中，明確AI幻覺造成的誹謗侵權、誤導的責任邊界、責任範圍，極有現實必要。

今年年初，杭州互聯網法院審結了首例AI幻覺侵權糾紛案：用戶梁某在某AI應用中查詢高校報考信息時，模型輸出了明顯錯誤的校區及招生信息，梁某以遭受誤導為由起訴AI服務提供商，最終法院駁回了其訴訟請求。

兩起案件不能說是「同案不同判」，因為兩者顯然有很大的區別：一對一的人機對話中產生高校信息差錯，傳播範圍有限、社會危害輕微；而公開搜索平台憑空編造「律師被判刑」的虛假事實，具有極強的公開傳播性，直接構成人格權侵害，平台防控義務與過錯認定標準自然不能等同。

對於AI技術發展而帶來的新型法律糾紛，法學家提出了「利益平衡說」：不能要求「零幻覺」，但是服務商需對可預見、可防控的幻覺要承擔「過錯」責任，而判定「過錯」的標準包括：是否全面履行合理注意義務、是否向社會提供低風險合規服務、是否建立完備有效的事後救濟機制，等等。

AI不是中立管道，而是主動生成內容，本質是服務商訓練、算法設計、輸出管控的延伸行為，不能以「技術中立」「算法自主」為由推卸責任。服務商要努力防範AI幻覺對用戶造成的侵害，而司法規則也要推動技術向上向善。比如，強調平台盡到「行業最優可行技術（BAT）」義務，不能以「技術初期」豁免，特別對涉及人格權的高風險幻覺，應堅持更高標準。

築牢AI幻覺治理防線，強化服務商的合規責任，也要明晰侵權歸責原則、責任邊界：

首先，服務商要履行顯著風險提示義務，在AI生成內容界面醒目告知存在虛構事實的可能，明確提示相關內容不得直接作為醫療、法律、投資等專業決策依據。

其次，建立高風險內容事前審核攔截機制，針對自然人名譽身份、刑事球證記錄、個人隱私、企業商業信譽等敏感領域，落實人名實體精準對齊、權威信源事實校驗、違規敏感詞攔截、司法文書文號核驗等硬性舉措，從源頭遏製惡意幻覺生成。

再者，要完善侵權懲戒規則，對刻意放鬆風控、故意放任幻覺侵權、反復違規且拒不整改的平台，依法支持懲罰性賠償，以剛性懲戒倒逼責任落地。

守法公民被AI造謠判刑，不能全部甩鍋給「技術不可預測」。的確，AI技術不完美，但是司法應要求服務商盡到「合理技術義務」下的防範責任，提升幻覺防控準確率、敏感信息的核實率，推動平台從被動擔責轉向主動防幻覺，最終讓人工智能在法治軌道上健康發展。