被处罚的律师阿米尔・穆斯塔法维(Amir Mostafavi)承认,在 2023 年 7 月提交上诉文件前,他并未审阅 AI 生成的内容。他表示,自己仅是借助 ChatGPT 优化文书表达,未曾意识到该工具会凭空捏造案件引文。穆斯塔法维辩称,完全摒弃人工智能对律师而言并不现实,AI 如今已成为不可或缺的资源,其作用堪比当年从实体法律图书馆向在线数据库的转型,但他同时警告:“只要 AI 系统仍会生成错误信息,法律从业者就必须谨慎使用。在此期间,我们注定会看到一些受害者、遭受一些损失、经历一些破坏。”
此次对穆斯塔法维的罚款被认为是针对律师滥用 AI 行为所开出的最高罚单之一。今年早些时候,加州一联邦地区法院法官曾裁定两家律师事务所赔偿超过 3.1 万美元(现汇率约合 22.1 万元人民币),原因是其提交的研究材料依赖了 AI 生成的错误信息。该法官明确表示自己感到被误导,并强调必须建立强有力的惩戒机制,以遏制类似事件再次发生。
专家预测,随着生成式 AI 在法律行业的广泛应用,律师引用虚构判例的案例数量将持续上升。一项追踪统计显示,美国已记录此类事件逾 600 起,其中约 52 起发生在加州。这一上升趋势凸显出法律从业者亟需接受教育并保持警惕,特别是在识别和验证 AI 生成信息方面的能力培养。
法律观察人士强调,加强对 AI 技术的认知至关重要,因为许多律师尚未充分意识到 AI“幻觉”(hallucination,即编造虚假信息)的风险。有观点建议,对误用 AI 的律师应实施强制性培训课程,作为预防未来失误的补救措施。此外,已有担忧指出,虚假判例不仅出现在律师的文件中,甚至可能被法官在其判决书中引用,表明问题的影响范围可能远超执业律师群体。