美国司法部用 AI 检测工具 Pangram 质疑辩护律师
The Department of Justice Is Using AI Detector Pangram Against Defense Attorneys
404 Media 查阅法庭文件发现,美国司法部律师使用 AI 写作检测服务 Pangram 检测对方提交的法律文书,并在得州北区联邦法院的一起选民欺诈案中指控辩护方搞“defense by ChatGPT”、提交“AI slop”。

根据 404 Media 查阅的法庭文件,司法部的律师正在使用 AI 写作检测服务 Pangram 来主张对方律师使用 AI 撰写法律论据,并在其中一起案件中告诉法庭,对方律师是在“用 ChatGPT 进行辩护”,并提交了“AI 垃圾”文件。
过去几年里,我们记录了许多律师因引用不存在、由 AI 编造的案例而被法官发现使用 AI 的情况。过去一个月这起法庭案件的文件显示,律师们——包括为政府工作的律师——正试图抓住对方使用 AI 的把柄,然后在向法庭提交的论据中引用对手的 AI 使用情况。
“这起案件已经变成了用 ChatGPT 进行辩护,”政府律师在案件文件中写道,该案核心围绕一起备受关注的选民欺诈案。“本案中的动议实践相当于对一个试图从事法律工作的机器人生成的文件撰写回复。地方法规不可能设想辩护方可以使用孩子们所说的‘AI 垃圾’来提出多项无意义的动议,浪费司法资源,无助于正义事业。”
被告是 Khalwinder Bhengura,一名印度男子,于 2022 年持移民签证进入美国,并于 2024 年在德克萨斯州非法——据其律师称显然是意外地——登记投票,此前他在驾照申请中虚假陈述自己是美国公民。Bhengura 于 9 月因就其公民身份撒谎、非法登记投票以及在 2024 年大选中非法投票的指控被捕,并于 10 月被裁定三项罪名中的两项成立。他的家人和律师辩称,整件事是一场误会,70 岁且英语不好的 Bhengura 并不知道自己在犯罪,也不明白自己在做什么。
Bhengura 已被关押数月,即将被驱逐出境。他现在不仅被特朗普政府树立为选民欺诈的典型,还卷入了一场 AI 律师争议之中。
Bhengura 的案件是特朗普政府找到几十起零散的选民欺诈案件(这种情况极其罕见)并大张旗鼓地公开逮捕行动的案例之一。除了案件的政治影响外,司法部提交的文件显示,律师们现在正试图抓住对方使用 AI 的把柄,并将部分向法官提出的论据集中在对方用 AI 生成的文件浪费法庭时间这一观点上。
该案在德克萨斯州北区联邦法院审理,该法院最近实施了一项规定,要求律师在提交文件中披露生成式 AI 的使用情况。在一些文件中,Bhengura 的律师写道“本简报的部分内容是在生成式人工智能工具的协助下准备的”。政府律师将几份文件通过 AI 写作检测服务 Pangram 进行了检测,并将结果作为证据附在其一项论据中。
Pangram 对这些文件的结果好坏参半(也就是说,它并未显示这些简报是 100% 由 AI 起草的),但政府律师写道,他们觉得自己不应该必须对部分由 AI 生成的文件作出实质性回应。
司法部律师写道,美国“一直在努力节省回应被告毫无根据的动议所投入的精力,因为被告似乎几乎完全在使用 AI 来生成这些动议”。
他们补充道:“正如法院从对 Bhengura 动议结果的粗略审查中可以看到,这些文件中大多数非 AI 生成的文本由除辩护律师以外的第三方陈述组成,包括记录中的证据或文件中的陈述,或判例法引文。换言之,这些文件中几乎没有任何实质性内容似乎是由辩护团队中的人类起草的。”


该案法官 Mark Pittman 斥责了辩护律师对 AI 的使用,并写道:“本法院对律师反复提交的文件感到不安,这些文件通过提出表面上具有说服力但实质上毫无根据、明显由人工智能生成的论点,微妙地曲解了法律。被告并非自行诉讼的当事人;他有三名在册律师,合计拥有数十年的执业经验。令人痛心的是,人工智能的出现如此迅速地削弱了律师为其当事人妥善辩护的能力。”
Bhengura 的两名律师 Nicole Knox 和 Mario Herrera 告诉 404 Media,事情并没有那么简单,并表示由于一次医疗紧急情况,以及为了赶在选举前满足法院紧迫的提交截止日期,他们觉得不得不使用 AI。Herrera 说,Knox“在我们与检察官一起在美国检察官办公室准备案件时遭遇了医疗紧急情况[…]因此,我在首席律师住院的情况下,用四天时间准备了一场联邦陪审团审判。”
他说:“在这个有限的时间范围内,我尽我所能代表我的当事人。我使用了所有可用的法律工具,并且在此过程中没有违反任何规则或法律。”
Herrera 补充道:“政府的‘证据’由 Pangram 的输出组成,这是一款 AI 检测软件。AI 检测软件根据文档内容识别写作风格中的模式。它无法确定文档是谁写的、是如何写的,也无法确定文档中适用的法律是否正确。美国检察官办公室没有指出任何虚假引文。‘由 ChatGPT 辩护’是政府在一份法院文件中就一名面临监禁和驱逐出境的 70 岁永久居民的辩护所贴的标签。这不是事实陈述。而写下这句话的律师在 Knox 女士倒下时就在现场。他们清楚地知道为什么四天后我会和一名新的共同律师独自站在那个法庭上。他们没有任何理由发表他们所说的那些话。”
Pangram 首席执行官 Max Spero 告诉 404 Media,据他所知,律师事务所已开始使用他公司的软件,但他见过的大多数用例都是律所在内部使用该工具,检查其初级律师和律师助理是否在使用 AI 起草法律简报。
Herrera 表示,Bhengura 面临的三项指控中有一项被判无罪,这一事实证明“Bhengura 先生得到了他应得的辩护”。
“律师们几十年来一直在使用模板、表格和起草软件。这不过是那些工具的一个更新版本。法官所抨击的那些论点是我写的。文件中的部分内容是在AI辅助下写成的,但随后由我审阅和编辑。所有最终工作成果都是我的,我对我每一份文件的论点和逻辑负责,”他补充道。“正是那一周使用AI,让我能够同时处理多项任务,并在四天内完成如此多的工作。”
Knox补充道:“AI绝不可能想出我们的论点,”并表示新的AI披露规则使得“如果你通过使用AI获得了一句话或一个短语,那么你必须披露它。我们没有什么可隐瞒的。”
“Bhengura先生70岁,是这个国家的合法永久居民,说旁遮普语,英语能力有限。对于陪审团判定他无罪的那一项指控,我们的辩护是,他从未在知情的情况下声称自己是美国公民,”Herrera说。“自判决以来他一直被拘留,除了因被判有罪的罪行而将获得的任何刑罚外,他还面临被驱逐出这个国家。他理应得到本案所有相关人员比迄今为止所给予的更多的同情和人性关怀。”
司法部未回应置评请求。
来源:404 Media · 404media.co