据路透社的一篇报道，新墨西哥州最高法院正在惩处一名律师，因为他在为当事人谋杀罪定罪提出的上诉中，写入了 AI 捏造的证人和虚假的警方证词。在周三的一份文件中，法院对 Stephen Aarons 罚款 5,000 美元，并以其未能“核实其 AI 生成的诉状中的事实陈述和法律依据”为由认定其藐视法庭。
文件称，该诉状“包含来自完全虚构的证人的虚假证词”，以及关于枪手衣着和外貌的“虚假证词”。在 8 月的一次听证会上，Aarons 承认使用了 ChatGPT，并以为它能生成一份“无懈可击的庭审摘要”。大法官 C. Shannon Bacon 质问他怎么会不知道 AI 带来的风险。据路透社报道，Bacon 大法官说：“律师先生，你看新闻吗？你听广播吗？你有没有读过任何关于世界上正在发生什么的内容？因为律师依赖 AI 幻觉的问题，每天都是头版头条。”
随着在工作中使用 AI 工具的律师人数不断增加，法院发现由 AI 捏造（即“幻觉”）出的引用的案例也越来越多。去年，一名法官痛斥两家律所提交的诉状含有“大量虚假、不准确且具有误导性的法律引文和引述”，而MyPillow 的 Mike Lindell 的律师也因在诉状中放入 AI 生成的错误引述和虚假引用而被罚款。
“我深感懊悔，但希望纪律委员会能考虑到这是一个诚实的错误，”Aarons 在给路透社的声明中说。