AI编造案例激增7倍至1667起，美国律师再因“AI幻觉”遭重罚

一名此前已因滥用人工智能而两次受罚的律师，再次因在针对娱乐公司Roc Nation的法庭文件中包含AI编造的引文而遭到联邦法官的谴责。

越来越多的律师因使用人工智能起草法庭文件而不核查内容，面临严厉处罚。截至2026年年中，法院已记录1667起律师提交AI生成的虚假法律引文案件。

AI幻觉让律师被罚款

根据研究员Damien Charlotin跟踪的全球数据库，律师在多达1667起法庭事务中滥用了人工智能。这种滥用行为集中在向官方法庭文件中添加AI生成的虚假引文。此类事件的发生频率较一年前记录的230起增长了约7倍。

近日，美国地方法官Jennifer Willis发布命令，指出律师Tyrone Blackburn在提交的文件中包含引文，但这些引文并未出现在他所引用的案例中，显示其存在“持续的行为模式”。Willis写道，Blackburn的行为“严重违反了其道德和职业义务”。Blackburn此前已在去年12月因引用AI幻觉生成的不存在案例而在新泽西联邦法院被制裁；宾夕法尼亚联邦法官曾因涉嫌编造引文对其罚款5000美元。

律师在Roc Nation案中引用AI幻觉

在最新案件中，Blackburn代表说唱歌手Fat Joe的合作表演者Terrance Dixon提起诉讼。Dixon声称Fat Joe及其管理公司Roc Nation存在与雇佣相关的不当行为，要求赔偿工资损失及其他损失。Roc Nation和Fat Joe否认了这些指控。

Roc Nation上月请求法院制裁Blackburn，称其主张毫无根据，并敦促法院驳回Blackburn的反对文件，理由是提交时间过晚且包含看似AI幻觉的引文。Blackburn试图坚持立场，声称他引用的每项法院判决都是真实的，只是部分内容进行了意译。Willis法官表示，Blackburn的解释“厚颜无耻地淡化”了他的行为。Blackburn称将回应法院命令，但仍坚持否认。

另一事件：密西西比州律师被取消出庭资格

在另一起事件中，密西西比州北区联邦高级地区法官Sharion Aycock在一起合同案中取消了全部四名律师的出庭资格，原因是发现双方律师均提交了幻觉生成的引文。该纠纷本身案值较小：律师Tom Withers就未付律师费对Aberdeen市提出了单一违约索赔。Withers本人仅名义上代理自己，未受制裁。但他的两名律师和代表市政府的两名律师则没那么幸运。Kathryn Williams承认使用了AI研究工具，Kathleen Wilson承认使用生成式AI起草答辩状，两人均未在提交前核实结果。Wilson辩称自己不知道AI可能编造案例，也不理解什么是幻觉案例。Aycock称这一辩护“不充分且难以置信”。她不仅取消了庭审，还对每位律师罚款1000至3500美元，并禁止Williams和Wilson未来两年在该法院出庭。

AI幻觉还出现在哪里？

华尔街历史最悠久的律所之一Sullivan & Cromwell于2026年4月向纽约联邦法院表示，在Prince Group案中，一份包含幻觉错误的文件被提交。该所重组部门联席主管Andrew Dietderich致信法官Martin Glenn，就一系列错误致歉，包括错误引用美国破产法和错误援引案例。该所表示其AI政策未被遵守，且文件提交前二次审查未能发现错误引文。对手律所Boies Schiller Flexner发现了这些问题。

Sullivan & Cromwell代理的清算人正追讨Prince Group资产。该集团由华裔商人陈志控制。美国检察官去年指控陈志犯有电汇欺诈和洗钱罪，涉及被描述为柬埔寨强迫劳动诈骗窝点。此外，检方还要求没收据称来自该集团活动的近90亿美元比特币。陈志在柬埔寨被捕并被引渡至中国。

AI法律工具为何频频出错？

对两大法律研究平台Lexis+ AI和Thomson Reuters AI工具的测试显示，错误信息出现率超过17%，某些测试中高达34%。2026年2月，美国州法院国家中心警告称，AI幻觉正成为司法体系的日益严重的威胁。

尽管律师未被禁止使用AI，但他们有道德义务确保所有提交文件内容准确。美国律师协会于2025年6月警告称，未核实AI输出结果可能违反律师提供称职代理的责任，但这些制裁案例表明，许多律师并未认真对待这一警告。