多地法院发现AI伪造证据案例 干扰司法秩序

在湖北省大悟县人民法院审理的一起房屋租赁合同纠纷案中，原告董某提交的水电表照片带有“AI生成”的水印。在法官质询下，董某承认自己利用AI技术伪造证据，并受到训诫。这并非个例，多地法院也遇到类似情况。随着生成式人工智能技术融入法律行业，其带来的“AI幻觉”陷阱，即生成看似真实、合理但实则虚假、错误的内容，也在侵入法庭。

“AI幻觉”在法律领域已造成多层面冲击，最常见的是生成虚假或错误的案例和法条。北京市通州区人民法院审理的一起商事纠纷中，承办法官郑吉喆发现原告代理律师提交的两个案例与实际案件情况不符。在法官追问下，律师承认这些案例是AI工具根据检索生成的。北京市第二中级人民法院推动落实全员、全面、全程“三全”释法说理机制，在一起继承纠纷案件中，当事人发来的裁判依据没有一条是准确的现行法律规定。上海市第二中级人民法院受理的各类二审案件中，也出现当事人直接使用AI工具拟写诉状、援引虚构法条的情况。更严峻的是，“AI幻觉”还可能被用于恶意取证、伪造证据、虚构事实。

在上海市青浦区人民法院审理的一起侵害商标权纠纷中，原告四川全某餐饮文化管理有限公司声称被告上海世某食品股份有限公司购买搜索引擎广告服务，并选用“全某冒”商标相近的搜索关键词进行网络推广，构成侵权。世某公司辩称未曾主动添加含“全某冒”字样的关键词。北京某网讯科技有限公司经后台数据核查，确认世某公司未主动添加相关关键词。而原告取证前存在多次频繁重复搜索却不点击搜索结果的行为，人为制造了“侵权”假象。原告以此手法取得400余份“证据”，向全国各地法院提起或准备提起商标侵权诉讼。