Claude AI 生成假法庭引文，律师道歉承认犯下错误

在涉及特朗普政府大規模聯邦裁員的聯邦法院訴訟中，律師 Jason Grieves 於 5 月 16 日提交聲明，承认向法庭提交的动议文件中包含虛假引文，这些引文是他使用 Anthropic 企业 AI 平台 Claude Console 協助起草动议后生成的。



## 已確认的事件时序：Grieves 聲明的完整过程

5 月 6 日上午（已確认）： 因时间緊迫，Grieves 使用 Claude Console 創建动议初稿，並將初稿发送給一位助理律師，同时明確作出口头指示：「这份初稿是由人工智能生成的，需要她仔細核查引文。」



5 月 6 日下午（已確认）： 助理律師告知 Grieves 她已審查並核实了每一條引文。助理发现两个案例引用不正確，並找到另一个替換案例；然而，虛假引文仍出现在最終提交的文件中。



Grieves 在聲明中確认两点责任：「確保引文準確无誤完全是我的责任，我对此负全部责任」；「引用的案例可能總體上支持了我們的立场，但允許納入虛假引文是不可原諒的错誤。」



## Claude Console 的已確认定位

Claude Console（原 Anthropic Developer Console）於 2023 年 3 月推出，是 Anthropic 的企业 AI 平台，供企业和專业人士与 Claude AI 模型互动，用途包括起草文件、摘要、編碼和研究。Grieves 在聲明中將其描述为「企业級、數據隔离的人工智能平台」，区別於面向消费者的 Claude.ai。



## AI 幻覺进入法庭的確认先例背景

2026 年 4 月，Sullivan & Cromwell 律師事務所的律師已因向法庭提交 AI 生成的虛假法律引文而受到正式處罰。Grieves 案涉及的特朗普政府大規模聯邦裁員訴訟，範圍包括 FEMA 人員削減及擬议的公務員保護改革，法院对后续處理決定尚未公布。



## 常见问題

#### Grieves 如何解釋虛假引文出现的责任歸屬？
依據 Grieves 的聲明，他明確向助理律師口头说明草稿是 AI 生成的並要求核查，助理確认已審查但仍有虛假引文通过。Grieves 明確表示自己作为主管合夥人和訴狀簽署人承擔全部责任，不推卸至助理或 AI 工具本身。



#### Claude Console 与一般 Claude AI 使用有何不同？
Claude Console（Anthropic Developer Console）是企业版 AI 平台，採用數據隔离设计，面向企业和專业用戶；与消费者版 Claude.ai 在數據處理和合規架構上有所不同。Grieves 特別強调使用的是「企业級、數據隔离的人工智能平台」，但这並不能防止 AI 幻覺（生成错誤引文）的发生。



#### 法庭如何處理 AI 生成虛假引文的情況？
2026 年 4 月 Sullivan & Cromwell 案中，律師已因類似问題受到正式處罰。Grieves 案中，律師已向法庭正式道歉；法庭对后续的具體處理結果目前尚未公布。