在一位指定律师打开原始出处、确认其内容与草稿所述一致之前,把 AI 工具给出的每一条引注都视为未经核实。把这一点写成书面规则,优先使用附带出处链接的工具,培训团队,并在提交任何文书之前记录每条引注由谁核查。本文不构成法律意见。
要点速览
- 虚假引注来自未经核查的草稿,而不是某一个粗心的人;解决办法是一条人人遵守的核查规则。
- 多个司法辖区的法院已对提交不存在判例引注的律师予以制裁或移交处理。
- 即使是专业的法律检索工具,也会给出错误或依据不当的答案,所以付费工具不能替代核查。
- 签字的合伙人或资深律师要为初级律师的检索结果负责,无论是否借助了 AI。
- 真正有用的培训简短、务实,围绕你们自己的检索任务展开,而不是一门通用的 AI 课程。
虚假引注是怎么混进文书的?
情形大家都熟悉。一位压力很大的初级律师让聊天机器人找判例依据,拿到一份整齐的清单,有案名、法院和引文,就把它粘贴进草稿。因为看起来很真,没有人去打开这些判例。资深律师审阅的是论证,而不是脚注。直到对方或法官去查这些判例,却怎么也找不到。
在纽约联邦法院审理的 Mata v. Avianca 一案中,一名律师用 ChatGPT 做检索,提交了根本不存在的判例(CNBC,2023 年 5 月)。这并不是最后一起。
#法院如何应对 AI 生成的引注?
在英格兰,高等法院的 Ayinde 判决处理了含有虚构判例依据的陈词,并表明虚假引注很可能至少导致被移交监管机构处理以及被判承担浪费的诉讼费用(Linklaters,2025 年 6 月)。
在本地区,迪拜国际金融中心(DIFC)法院关于大语言模型的指引要求当事方尽早声明 AI 生成的内容,并核实其准确性(DIFC 法院,2023 年 12 月)。请查阅你们出庭的每家法院的规则。
付费的法律检索工具就不会产生幻觉吗?
更安全,但并非万无一失。斯坦福大学的一项研究发现,主流法律检索工具在超过六分之一的基准查询中仍给出错误或依据不当的答案;依据不当是指所引出处并不支持相应表述(Stanford HAI,2024 年 5 月)。引用一个真实存在、却并不支持该论点的判例,比编造的判例更难发现。
引注核查规则应该写些什么?
- 任何判例依据在被人从原始出处或官方判例汇编中打开查看之前,都不得写入草稿。
- 核查人确认判例存在、引注正确、引文与原文一字不差,且该判例支持所提出的论点。
- 在案卷中,每条判例依据旁都记录核查人的姓名。
- 不得用公共聊天机器人检索客户事务,也绝不能把客户事实粘贴进去。
- 签字律师在提交前确认已完成核查,并遵守法院关于 AI 使用的披露规则。
这不需要任何新软件。案卷中的一份共享清单,加上文书签发流程中的一行确认,就足以起步。
什么样的培训才能真正防止这种情况?
泛泛的 AI 认知课程做不到。有效的是围绕你们自己的检索任务,进行简短的上手练习:让工具找判例依据,再从它的答案里找出错误。人们会记住自己亲手抓到的那个假判例。培训应涵盖核查规则、适用于你们团队的法院规则,以及什么内容不能粘贴进哪个工具。
只有 39% 的 AI 用户表示公司为他们提供过 AI 培训(微软与领英《工作趋势指数》,2024 年 5 月)。在法律团队里,这个缺口会体现在脚注上。
#Stennir 在其中扮演什么角色?
Stennir 的 AI 培训 以 AI 操作员培训计划(AI Operator Program)的形式,为法律团队开设按岗位划分的培训班,用阿拉伯语和英语,在你们真实的检索和起草工作上练习,由一线实践者授课,培训前后衡量使用情况,并在结束时提交采用报告。AI 咨询 则负责制定配套的治理规则:哪些工具获准用于哪些任务、由谁核查、记录哪些内容。
如果检索辅助值得搭建,AI 落地实施 可以搭建一个只从你们订阅的数据源中返回判例依据、并为每条附上链接的工具。另见 如何培训已经在用 ChatGPT 处理公司数据的员工。
We are
Stennir 培训法律团队在自己的工作中核查 AI 产出,并制定由谁核查什么的规则。
We aren't
Stennir 不是法律检索服务商,不替你们核查引注,也不提供法律意见。
管理合伙人或总法律顾问接下来该做什么?
把核查规则写成一页纸,并在文书签发流程中加入一行引注核查确认。然后培训负责起草的人。在 面向合规团队的 AI 中了解合规和法律团队如何使用 AI,做免费的就绪度评估 或 预约一次 30 分钟的通话。
常见问题
我们应该禁止用 AI 工具做法律检索吗?
禁令通常会把使用推向个人账号,而那里你们看不到。更好的规则是:列明获准使用的工具,禁止把客户事实输入公共聊天机器人,并要求每条判例依据都由指定人员打开核查。这样既保留了 AI 起草的速度,又消除了引注未经核查的根源。
初级律师起草的虚假引注由谁负责?
签署文书的律师负责,视你们所在辖区的执业规则,督导人员也可能要承担责任。法院既审视起草者的行为,也审视资深律师的行为。正因如此,核查应纳入签发流程,并记录核查人姓名。
Stennir 能用阿拉伯语开展这项培训吗?
能。Stennir 用阿拉伯语和英语开展 AI 操作员培训计划,围绕你们团队自己的检索和起草任务,并在适用时加入基于阿拉伯语法律文献的练习。其他语言可按需提供。培训前后都会衡量使用情况,采用报告提交给培训的发起人。
即使有了核查规则,还可能出什么问题?
有人可能不打开出处就打勾,或者只核实判例存在,却没核实它是否支持论点。对已提交的文书抽样复查、为每条判例依据记录核查人姓名,并且不仅针对编造的引注、也针对依据不当的引注开展培训,就能补上大部分缺口。
