据路透社的一篇报道，新墨西哥州最高法院正在惩罚一名律师，因为他在为其当事人的谋杀定罪进行上诉时，加入了由人工智能捏造的证人和虚假的警方证词。在周三提交的一份文件中，法院对斯蒂芬·阿伦斯（Stephen Aarons）处以 5,000 美元罚款，并裁定其藐视法庭，理由是他未能“核实其 AI 生成的法律文书中事实主张和法律依据”。
该文件称，这份法律文书“包含完全捏造的证人提供的虚假证词”，以及关于枪手衣着和外貌的“虚假证词”。在 8 月的一次听证会上，大法官 C·香农·培根（C. Shannon Bacon）质疑阿伦斯为何没有意识到 AI 带来的风险；阿伦斯在听证会上承认使用了 ChatGPT，并以为它会生成一份关于审判的“无懈可击的摘要”。据路透社报道，培根大法官说：“律师，你看新闻吗？你听广播吗？你读任何关于世界上正在发生的事情的内容吗？”“因为律师依赖 AI 幻觉的问题，每天都是头条新闻。”
随着在工作中使用 AI 工具的律师人数不断增加，法院发现由 AI 捏造——或幻觉产生——的引用的案例也在增多。去年，一名法官严厉批评两家律师事务所提交了一份法律文书，其中包含“大量虚假、不准确且具有误导性的法律引用和引文”，而MyPillow 的迈克·林德尔（Mike Lindell）的律师也因在法律文书中加入 AI 生成的错误引述和虚假 AI 引用而被罚款。
阿伦斯在给路透社的一份声明中说：“我很懊悔，但希望纪律委员会能考虑到这是一个无心之失。”