史丹福學者承認其法庭文件因使用 ChatGPT 出錯，但稱不影響文件實質內容

IT之家 12 月 5 日消息，史丹福大學社會媒體實驗室創始人、錯誤信息專家（misinformation expert）傑夫・漢考克（Jeff Hancock）承認，他在一份法庭文件中使用了人工智能工具 ChatGPT 來幫助整理引用文獻，但出現了所謂的「幻覺」（hallucinations）。批評者指出，這已經嚴重影響了該文件的可信度。

據IT之家瞭解，漢考克向法庭提交了這份宣誓證詞，以支持明尼蘇達州的「使用深度偽造技術影響選舉」法案。該法案目前正在聯邦法院受到挑戰。挑戰者包括保守派 YouTuber 祖斯迪斯・科夫（Christopher Khols）和明尼蘇達州眾議員瑪麗・科蘭森（Mary Franson），他們的律師發現，漢考克的宣誓證詞中似乎包含不存在的引文，因此認為該文件「不可靠」，並要求在審議中將其排除在外。

漢考克隨後承認使用了 ChatGPT，但否認用它來撰寫任何內容。他表示，自己撰寫並審查了宣誓證詞的內容，並堅信其中的每一項主張都得到了該領域最新學術研究的支持，並反映了他作為專家對人工智能技術對虛假信息及其社會影響的看法。

對於引用文獻出現錯誤的問題，漢考克解釋說，他使用了 Google Scholar 和 GPT-4 來識別可能與宣誓證詞相關的文章，以便將自己已知的知識與新的學術研究相結合。他表示，他使用 GPT-4 創建了引文列表，並沒有意識到該工具生成了兩個錯誤的引文，即所謂的「幻覺」，並為另一個引文添加了錯誤的作者。

漢考克表示：「我無意誤導法院或律師。我對由此造成的任何混亂表示誠摯歉意。儘管如此，我仍然堅定地支持宣誓書證詞的所有實質性觀點。」

此次事件凸顯了在使用 AI 輔助工作時，人工審核和驗證的重要性。

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。