隨著人工智能在法律行業的應用迅速普及，全球多國司法部門正采取措施打擊用AI生成的錯誤法律文書。美國路易斯安那州一法院日前下達處罰通知，要求一名使用AI生成錯誤文書的律師繳納1000美元罰款，因為其文書援引了錯誤信息。密西西比州一法院的法官對原告和被告雙方律師進行重罰，因雙方提交的文書中部分案例系AI生成。法官認定案件雙方共4名律師存在嚴重失職行為，對其合計處以8000美元罰款，并取消其中兩名律師未來兩年在該轄區內的執業資格。

據美國《科學》雜志定義，“AI幻覺”指大語言模型在生成內容時編造看似合理可信的虛假信息，原因可能為大模型設計問題或用戶指令表述不清。隨著法律界廣泛使用AI輔助工作，AI生成的錯誤法律文書正沖擊全球多國司法體系。自2023年起，法國律師達米安·夏洛廷開始在全球35個國家和地區的司法部門收集“AI幻覺”案例。在他整理的1600多起案例中，美國以1116起居首位，加拿大、澳大利亞和英國緊隨其后，西班牙、以色列、南非等國也有相關案例。這些案例涉及捏造判例、虛構法官意見、引用不存在的法律依據以及錯誤法律建議等問題，不僅浪費司法資源，也增加了訴訟成本。

更多國家正收緊對AI法律文書的管控。英國和澳大利亞會對提交AI生成文書的律師處以罰款、行業制裁等處罰。德國因谷歌公司旗下AI大模型虛構兩家企業的商譽信息而對其進行處罰。多國司法部門強調，律師等法律工作者在用AI輔助工作后，必須對提交的文件進行查驗。