近日，英格兰和威尔士的警方接到一项重要指令：立即停止在法庭陈述中使用人工智能生成的文本。这一决定由皇家检察署（CPS）联合警方高层共同发布，旨在防止AI技术对司法公正性造成潜在威胁。

事件背景

随着ChatGPT等生成式AI工具的普及，一些警员开始尝试利用这些技术辅助撰写案件陈述、证据摘要乃至法律文件。然而，这种"省时省力"的做法很快引发了司法界的高度警觉。据悉，已有数起案件中出现AI生成内容包含事实性错误或逻辑矛盾，甚至有案例显示AI捏造了根本不存在的证人证言。

皇家检察署负责人在声明中指出："法庭陈述必须严格基于事实、证据和警员的个人判断。任何未经审查的自动化文本生成都可能引入不可控的错误，从而影响案件的公正审理。"

核心担忧：AI的"幻觉"风险

专家分析认为，生成式AI存在所谓的"幻觉"问题，即AI可能生成看似合理但完全虚构的信息。在法庭语境下，这种风险尤为致命。举例来说，AI可能会将A案件的细节错误地移植到B案件的陈述中，或者在不了解英国法律具体条文的情况下，生成与现行法律相悖的分析。

一位不愿透露姓名的资深警官向记者透露："我们已经发现有些陈述中的措辞非常'AI化'，句子结构完美但缺乏具体案件特有的细节。如果让这种材料进入法庭，辩护律师很容易就会抓住漏洞，导致整个案件被质疑。"

法律界反应

这一禁令得到了法律界的广泛支持。英国律师协会表示，AI工具或许在处理行政文书方面有应用空间，但绝不能直接用于生成呈堂证供。"每份法庭陈述都代表着警方的专业判断和对真相的承诺。AI可以成为辅助工具，但不能替代人类的专业责任。"

不过，也有观点认为完全禁止可能矫枉过正。数字权利倡导组织"开放权利团体"指出，AI技术在分析大量数据、识别模式方面有其优势，如果能建立严格的审核机制，或许可以有限度地用于案件前期工作。

对未来司法的影响

此次禁令无疑为AI进入司法系统设下了一道重要屏障。业内人士预测，未来可能会有更详细的指导方针出台，明确界定AI在司法流程中的角色和边界。

英格兰和威尔士警方联合会表示，将在后续推出专门针对AI使用的培训课程，帮助警员理解何时以及如何使用这些工具。同时，CPS也在研究如何利用AI进行非关键性工作，如案件文档自动分类、时间线自动生成等，以提升效率而不影响司法公正。

这一事件也引发了对全球司法体系的反思。AI技术的急速发展带来了前所未有的机遇，但也伴随着独特的制度性风险。如何在拥抱科技和提高效率的同时，坚守司法系统的信任基石，是各国司法机构都需要面对的挑战。

目前，英国其他地区如苏格兰和北爱尔兰也在密切关注这一发展，不排除未来也会采取类似措施。

结语

司法公正的核心在于对事实的忠诚和对正义的追求。AI是强大的工具，但当它触及法律文书的底线时，人类的判断和责任依然不可替代。英格兰和威尔士的决定，既是对技术风险的未雨绸缪，也是对司法本质的清醒认识。