当英国税务部门指控奥马尔·拉菲克（Omar Rafique）故意少缴其餐厅的税款时，他选择在法庭上回击。然而，他不仅未能提交正确的文件，而且他的文件中充满了由 AI 聊天机器人生成的虚假判例。尽管法官同情地指出，AI“可能为自行辩护的诉讼人创造一个更公平的环境”，但她在 5 月 6 日将案件驳回。
拉菲克并非唯一一个选择使用 AI 而不是昂贵律师的人——专业人士将这一趋势称为“随想式律师”（vibe lawyering）。在英格兰和威尔士，郡法院民事案件中双方都有律师的比例从 2022 年（ChatGPT 发布之年）的 51%下降到去年的 42%。根据麻省理工学院的 Anand Shah 和南加州大学的 Joshua Levy 的研究，美国联邦民事法院中，2025 年有 17%的人自行辩护，而此前多年这一比例一直稳定在 11%。他们还发现，今年有 18%的投诉可能包含 AI 生成的文本。法律科技平台 Courtready 报告称，今年到目前为止，加拿大法院在 79 项裁决中发现了不存在的案件，而 2024 年全年只有 7 项。大多数虚假引用是由自行辩护的人做出的。
除了编造案例，AI 聊天机器人还经常鼓励人们进行诉讼，敦促他们不要和解，并夸大他们获胜的机会。英国就业律师 Antony Sendall 表示，聊天机器人使诉讼人更有勇气提出歧视索赔。“原本只是几句话的不满，现在变成了 10 到 12 页的文件，”他抱怨道。 Shah 和 Levy 发现，在美国自行辩护的诉讼人案件中，前 180 天提交的文件数量比 AI 时代之前高出 158%。洛杉矶商业律师 Robert Freund 表示，他的客户收到由对方当事人（没有律师）使用 AI 撰写的信件和文件。
依赖 AI 可能会有昂贵的代价。 6 月 2 日，一名学生被要求向渥太华大学支付 1 万美元（约合 7000 美元），部分原因是她不当使用 AI 准备法律挑战，以反对她被从博士项目中除名。甚至律师也因 AI 幻觉而犯错。 4 月，纽约顶级律所 Sullivan & Cromwell 向法院道歉，承认 AI 幻觉导致了错误。 6 月 8 日，密西西比州一起合同纠纷的双方律师因引用虚构案例而被罚款。
一些人认为，AI 实验室应对模型的发明负责。 3 月，保险公司 Nippon Life 在芝加哥联邦法院起诉 OpenAI，指控 ChatGPT 使一名前雇员提出了该公司称毫无根据的歧视索赔。 Nippon 要求 1000 万美元的惩罚性赔偿；OpenAI 坚称 ChatGPT“不是律师”。
如果谨慎使用，AI 可以带来好处。 5 月 14 日，在伦敦，人力资源顾问 Tamires Camal Taquidir 在使用 Garfield AI 后，从一家酒店业公司追回了 7000 英镑（约合 9300 美元）的费用。 Garfield AI 自称是第一家获得监管机构批准的 AI 驱动律师事务所。 Garfield 的平台完成了大部分文书工作。但律师 Dominic Li 在法庭上为案件进行了辩护。目前，人类律师尚未失业。
原文链接：点击阅读
