2026年10月7日
David Autor,技术与社会访问学者;Tanya Rodchenko,人工智能与经济负责人
在一项与执业专利律师开展的为期三个月的随机对照试验中,我们发现,虽然日常使用人工智能全面提升了工作质量,但其对在职学习的影响取决于资历:使用人工智能达90天的资深律师展现出比未使用者更强的判断力,而初级律师则平均没有技能提升,他们的得分分化为更多的高分和更多的低分。
判断力是资深专业人士区别于初级同行的关键所在。培养判断力需要在工作中投入数千小时的学习,通常是通过对相对常规工作的枯燥但具有塑造性的投入,且往往是在经验丰富的员工指导下进行。但人工智能已经在改变在职学习的运作方式。一方面,放射学、商业问题解决、求职者写作和法律教育领域的实证研究表明,当人工智能工具被审慎地嵌入培训流程时,经验较少的员工能够提升其独立工作表现。
另一方面,近期针对软件工程师、管理咨询顾问、高中生和临床医生的实验表明,虽然人工智能充当了临时外骨骼,能提升即时产出,但一旦移除该工具,这些收益往往无法持续。要理解人工智能如何侵蚀或增强专业能力,需要三个很少同时具备的要素:(1) 在普通专业工作中持续数月而非数小时地使用人工智能,(2) 在人工智能不可用时对无辅助判断力进行可信评估,以及 (3) 由领域专家进行盲评。
在《人工智能辅助是增强还是侵蚀专业能力?来自专利撰写三个月实地实验的证据》一文中——该文由美国国家经济研究局发布——我们描述了一项实地实验,用以捕捉在知识产权法这一高度专业密集的行业中,因使用人工智能而产生的短期生产力和长期技能建设两方面的变化。在我们的实验中,我们对当时尚未发布的Google Labs人工智能专利撰写辅助工具(现已成为Gemini Notebook的一部分)的使用权限进行了随机分配,对象是11家与谷歌有常规、非排他性业务往来的知识产权律所的133名律师。每家律所三分之二的律师(“处理”组)获得了该工具的提前使用权限,其余律师(“对照”组)则接受了一些关于如何使用人工智能的培训,但在三个月研究期结束前被禁止使用该工具。
在为期 10 天的人工智能辅助之后,我们向所有参与的律师发送了一份关于一项假设发明的发明人材料包,并要求他们起草一项专利。我们在 90 天后也做了同样的事情,但使用了另一组模拟的发明人材料。我们在这两个时间段都观察到了起草任务中预期的 AI 性能提升。在第 10 天,使用 AI 工具使起草得分(由独立法律专家根据包含五个不同质量方面的李克特量表的评分标准进行评分)提高了 0.34 个标准差,相当于在对照组得分中百分位排名上升了 10 个点;到第 90 天,这一提升增加到 0.38 个标准差,意味着百分位排名上升了 11 个点。这些改进在所有质量维度上都表现出显著的一致性。值得注意的是,更好的表现来自于低分频率的降低和高分频率的提高,而优秀分数的频率没有变化。正式地说,被分配使用 AI 的律师的得分从底部移动到了中下和中等等级,但卓越分数的数量没有明显变化。这种模式在初级律师中尤为明显,他们质量的提升也伴随着显著的时间节省(例如,在 10 天任务中,比对照组平均速度 124 分钟快了 18 分钟)。
但专利律师不仅仅起草专利;他们还相互审查彼此的工作,以发现可能导致专利在法庭上无法执行的关键错误(有时称为“专利亵渎”)——例如,过度主张发明的新颖性或范围。因此,我们在 90 天时增加了另一项任务,要求受试者对一项包含许多实质性及风格错误的现有假设专利进行红线标注(手动标记和纠正)。这项测试任务反映了更资深律师通常使用的专业判断,而他们往往没有依赖 AI 的奢侈。关键的是,虽然治疗组律师被鼓励在起草任务中使用未发布的 AI 工具或任何其他 AI 工具,但没有人被允许在红线标注任务中使用 AI,这使得他们在这项任务上的得分成为衡量他们技能发展程度的指标。对于所有任务,无论是起草还是红线标注,我们都与第三方专利专业人士合作,从五个质量维度对提交的作品进行评分:(1)可执行性,(2)准确性,(3)策略性模糊(权利要求的战术性范围界定),(4)完整性,以及(5)清晰度。
AI 使用对专利起草和红线标注质量的估计影响。结果报告了所有律师(黑色方块)、经验少于 7 年的初级律师(蓝色三角形)和经验 7 年以上的资深律师(橙色菱形)。所有估计都考虑了律师事务所之间的差异,并调整了每位律师收到评分数量的微小变化。
当 AI 助手在为期 90 天的红线批注任务中被移除后,水平化效应消失了。获得 AI 工具访问权限的律师在这项无辅助任务中的表现比对照组高出 0.32 个标准差(相当于百分位排名上升 9 个点),但这一效应完全由资深律师驱动,他们比对照组高出 0.45 个标准差(上升 13 个点),而初级律师则没有表现出明显进步。相反,初级律师的得分出现了分化:极低分更多,中等分更少,良好分更多,优秀分没有增加。
这些结果对学习意味着什么?获得 AI 工具访问权限的资深律师显然在过去三个月的使用中,从该工具中收获了对其专业判断力的显著价值。但初级律师层面的情况更为复杂。一些得分有所提高,暗示 AI 具有跨越式学习的潜力。另一些得分则分散到了分布的低端,表明在某些场景下 AI 可以帮助初级律师交付合格的工作,但他们更高的机器辅助表现并未转化为更快地掌握使资深专业人士具有独特价值的专业知识。
按经验划分的所有律师、经验不足 7 年的初级律师和经验 7 年以上的资深律师中,处理组(橙色)和对照组(蓝色)受试者的平均红线批注得分分布。观测值为在所有质量维度上平均后的个人评分。
考察定性编辑模式,可以为了解不同经验水平的专业人士如何与生成式 AI 工具互动提供一些洞见。在处理组和对照组中,初级律师的提交都遵循僵化的形式主义:初级律师从上到下按顺序工作,常常在到达主要专利权利要求之前,就把时间耗尽在低风险的引言部分的文字编辑上。初级律师还专注于表面层面的同义词替换,而非商业范围的改进。即使初级律师发现了严重缺陷,他们也常常留下描述性评论来诊断缺陷,而不是执行红线批注来修复它。由于这种“只诊断不执行”的姿态在未获辅助的对照组初级律师中同样常见,它代表了一种初级律师的基线缺陷,而三个月依赖 AI 执行改写并未弥补这一缺陷。
相比之下,资深律师从 AI 接触中持续受益。接受处理的资深律师在红线批注上花费的时间比初级律师更长,他们绕过低风险的散文,从头重建权利要求,删除可能无意中缩小法律权利或限制保护范围的语言,并将许多编辑与明确的法律原则配对。在后续访谈中,资深律师描述他们将 AI 输出视为“逻辑审计员”,而非成品。这削弱了对现有文本的依恋,迫使他们阐明结构性编辑的原因和方式,从而激活并磨砺了他们的基础专业知识。
提升绩效与构建持久的专业判断力是不同的目标。对于初级专业人士而言,这两者尤其可能相互冲突。基础专业知识可能是缺失的一环,它能让 AI 辅助的重复性工作在职业生涯中转化为成熟的专业判断力。即使模型能力不断进步,这种判断力很可能依然重要:律师在与法官、客户和同事的互动中仍将运用他们的判断力。他们无法在所有场合都依赖 AI 工具来协助自己。这个 AI 时代的一个关键挑战是,确保那些旨在当下产出更好工作的工具,不会阻碍初级专业人士成为我们未来所需的专家。
研究专业人士的工作环境对研究者来说是一项挑战。我们的实验仅包含有限的专利律师样本,这反映了该领域顶级专业人士高昂的小时费率。我们只对他们进行了三个月的观察,与培养持久专业知识所需的数年时间相比,这个窗口很小。此外,过去一年中模型能力和基线 AI 熟悉度(以及 AI 赋能产品在法律领域的渗透)的快速进步,如果我们现在重新进行试验,可能会影响我们的结果。这些局限性为进一步研究提供了机会,我们希望在未来几个月内开展其中一些研究。尽管如此,我们工作中的一个明确结论是:理解 AI 辅助对专业技能的影响,需要将使用工具的效果与无辅助用户表现的效果分开进行测试。
衷心感谢共同作者 Josh Martin、Zanna Iscenko、Scott Strand、David Pearl 和 Melissa Ferere;感谢 James Manyika、Ruth Porat、Kent Walker、Josh Woodward、Anu Madgavkar、Daniel Rock 和 Fabien Curto Millet 的指导与支持;感谢 Google Labs 的 Tom Shane、Mauricio Carneiro、Johnny Jacobs、Victor Lavrenko、Yinghao Sun、Samuel Yang、Daniel Nishi、Eric Wang、Kevin Li、Hao Zheng 和 Franz Och 与我们合作开展实验;感谢 Kiera Russell 提供产品访问和受信任测试者支持;感谢 Steve Gong 和 Taylor Montgomery 提供法律指导和招聘支持;感谢我们的传播、营销和研究博客合作伙伴,包括 Kerry McHugh、Zoe Ortiz、Emily Short、Joseph Mack、Esmeralda Cardenas 和 Leanne Trujillo 推动发布。
