错漏百出的法庭文件引发参议院司法委员会的质询，并推动联邦法院系统呼吁制定使用 AI 的新规。
两位联邦法官承认起草文件时使用了 AI
本月，新泽西州和密西西比州的两名联邦法官承认，他们的办公室在起草法庭文件时使用了人工智能（AI）。这些文件包含虚假引文、虚构的诉讼当事人，受到了参议院司法委员会主席的严厉谴责。
“这种事情在联邦法院闻所未闻，” 爱荷华州共和党籍参议员查克·格拉斯利周一在参议院发言时说。
委员会于周四宣布，这两位法官，包括密西西比州南区联邦法官亨利·T·温盖特、以及新泽西州联邦法官朱利安·泽维尔·尼尔斯，承认他们的办公室在今年夏天准备这些问题文件时使用了 AI 。根据法官们回复参议院质询的信件，他们将错误分别归咎于一名法律书记员和一名法学院实习生。
这两份有问题的法庭文件都已被正式记录在案，但由于被告提醒法官文件存在错误，它们只得被紧急撤回。然而，在参议院委员会联系他们之前，两位法官都没有对错误的出现给出解释。
AI 在美国司法系统中的应用日益普遍
生成式人工智能在美国司法系统中的应用越来越普遍。温盖特和尼尔斯法官也加入了此前因使用 AI 制作出充满错误的法律文件而受到批评的律师和诉讼当事人的行列。
法律界团体仍在努力适应 AI 的快速发展。为联邦法院系统提供支持的美国法院行政办公室已于七月发布临时指南，建议用户在涉及司法职能时，“考虑是否应公开披露 AI 的使用情况” 。该办公室还成立了一个工作组，将针对联邦法院如何使用 AI 发布更多指导意见。
格拉斯利参议员周一表示，联邦法院需要制定在诉讼中使用 AI 的规则。他呼吁：“我号召美国所有法官认真对待这个问题，并正式制定措施，防止在他们的办公室不当使用人工智能。”
温盖特和尼尔斯在信中表示，在收到错误提醒后，他们已经采取了纠正措施，并将实施额外的复核流程，以确保法庭文件在提交前没有问题。尼尔斯法官说，他已在他的办公室制定了一项书面政策，明确禁止在法律研究或起草法庭文件时使用生成式 AI 。
温盖特法官没有立即回复置评请求。尼尔斯法官的办公室则拒绝置评。
温盖特法官的裁决
由罗纳德·里根总统于 1985 年任命的温盖特法官正在审理一起案件。该案由杰克逊教师联合会和其他倡导团体对密西西比州教育委员会及其他州机构提起诉讼。诉讼内容是质疑一项州法律，该法律禁止公立学校教授 “跨性别意识形态” 以及关于种族、性别和性取向等话题的 “多元化培训” 。
七月二十日，温盖特法官批准了一项临时限制令，要求该州暂停执行该禁令的部分内容。两天后，密西西比州的律师在一份要求澄清的动议中指出，温盖特的命令存在大量错误。
根据密西西比州律师的回应，该命令点名了包括一个大学女生联谊会、一位密西西比州家长、学生和政府官员在内的数名原告和被告，而他们并非此案的当事方。律师们指出，该命令描述了原告起诉书中并未包含的指控，并错误地称该法案已被阻止，甚至引用了并不存在的个人声明来支持限制令。
当晚，温盖特法官办公室发布了一份修正后的限制令，并通知各方忽略之前的版本。该案仍在审理中；温盖特法官已于八月份批准了一项初步禁令，但密西西比州律师已对此提出上诉。
尼尔斯法官的裁决
由乔·拜登总统于 2021 年任命的尼尔斯法官在一宗联邦证券集体诉讼中发表了一份存在错误的意见。该案起诉了制药公司 CorMedix ，指控其在一款医疗产品上误导投资者。
六月三十日，尼尔斯法官驳回了 CorMedix 要求撤销诉讼的动议。大约一个月后，CorMedix 的律师致信称，尼尔斯的意见中含有伪造的案例和不存在的引文（来自他引用来支持裁决的真实案例）。这份意见错误地陈述了某些案件的判决结果，以及撤销动议是否已被允许上诉。信中还提到，意见中将虚假引文归咎于 CorMedix 公司。
信中说，尼尔斯的这份意见还被作为 “补充判例” 提交给了另一起集体诉讼以支持原告，而该案的被告也指出了其文件中的问题。
尼尔斯法官表示，该意见是错误录入的，并已将其从法院卷宗中删除。该案仍在审理中。
错误原因：AI 的 “幻觉” 与缺乏透明度
两位法官命令中的错误与 AI“幻觉” 造成的错误非常相似——即生成式 AI 在分析书面内容时，通过预测接下来可能出现的词语来生成文本，但会言之凿凿地编造事实和虚假引证。观察人士很快就推测这些错误正是源于使用了 AI 。
起初，面对律师和诉讼当事人的质疑，两位法官都没有承认错误与 AI 有关。格拉斯利参议员周一在讲话中称，他们 “缺乏透明度的行为令人震惊” 。
参议院司法委员会表示，他们已在十月初致信尼尔斯和温盖特，询问这些错误。两位法官在回复中都表示，错误可归因于 AI，但这些文件只是草稿，是在未经审查的情况下被错误地公开发布了。
温盖特在信中写道，他办公室里的一名法律书记员使用了 Perplexity AI 工具作为 “基础起草助理”，用于整合法庭卷宗中公开的信息。尼尔斯写道，他办公室的一名法学院实习生使用了 ChatGPT 来进行法律研究。
温盖特写道：“我的案件量非常繁忙，并努力通过公正透明地伸张正义来维护公众信任。鉴于我对自已和我的工作人员都要求最高标准的行为，我预计将来不会再发生这种错误。”
尼尔斯写道：“虽然我在 CorMedix 案中的经历非常不幸且无法预料，但我希望它至少能为美国法院行政办公室工作组正在进行的工作提供信息，并最终为所有联邦法院带来有意义的新政策。”