美國加州兩家律所使用 AI 生成虛假材料，遭法官重罰 3.1 萬美元

IT之家 5 月 14 日消息，據外媒 The Verge 今日報導，美國加州一名法官米高・威爾納嚴厲批評了兩家律師事務所在未披露使用 AI 的情況下提交文件的行為。此前，他收到一份補充文件，其中包含了「大量虛假、不準確且具有誤導性」的法律引用。

根據上週提交的一項裁定，米高・威爾納法官對涉事律師事務所處以 31000 美元（IT之家註：現彙率約合 22.3 萬元人民幣）罰款，並表示：「沒有任何合格的律師應該將研究和寫作外包給 AI」。

威爾納法官在裁決中寫道：「我閱讀了他們的文件，被其中引用的權威材料所吸引，便查找了相關判決，結果發現這些材料根本不存在。這個發現非常可怕，幾乎讓我犯下更嚴重的錯誤，直接將這些虛假的材料納入司法命令。」

文件中提到，起訴 State Farm 的民事訴訟的原告代理律師使用 AI 生成了一份補充文件的大綱。然而，這份大綱在發送到另一家律師事務所 K&L Gates 時，包含了由 AI 生成的虛假研究內容，而 K&L Gates 則將這些內容添加到了文件中。

威爾納法官表示：「在提交文件之前，顯然沒有任何律師或工作人員對這些研究內容進行核對。」

當威爾納法官審查這份文件時，他發現至少有兩個引用的法律資料根本不存在。在向 K&L Gates 要求進一步澄清後，後者重新提交了文件，威爾納法官表示，新的文件中包含了比最初的兩個錯誤更多的虛假引用。

隨後，威爾納法官發佈了一個命令，要求律師提供宣誓聲明，確認使用了 AI。負責創建大綱的律師承認使用了Google的 Gemini，以及 Westlaw Precision 中的 AI 法律研究工具 CoCounsel。

威爾納法官總結道：「最初未披露使用 AI 生成文件初稿的行為是徹頭徹尾的錯誤。將這些未經驗證的材料發給其他律師，且不揭示其 AI 來源，實際上更將這些專業人士置於極大的風險之中。」

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。