来自国外的研究显示，AI模型还会故意向用户撒谎，AI知道真相却选择告诉用户别的内容。处在司法一线的法官们，需要敏锐感知社会生活的变化和重大技术变革的应用，对虚假信息可能侵入司法程序的风险更是格外警惕

文｜《财经》记者 王丽娜

编辑 | 苏琦

婚纱店提前预定的礼服却在结婚仪式的前一天“消失”。31岁的向晶决定启动法律维权，打完一通10分钟左右的免费法律咨询电话，向晶（化名）更委屈了，还陷入挫败感。

这种挫败感很快被AI（人工智能）缓解。AI劝慰向晶，“值班律师需要处理各种类型的案件，可能并不专精于消费维权。”AI建议向晶，坚定信心，调整策略。在AI的帮助下，从没有诉讼经验的向晶准备亲自上庭打官司。

随着生成式人工智能的普遍应用，越来越多的当事人选择在大模型的帮助下，自助完成法律救济。同时，一些律师也在AI的帮助下，检索信息、撰写和优化法律文书。时刻警惕的法官，则需要防范和堵截虚假信息可能侵入司法程序的风险。

借助AI打官司

去年10月，向晶与爱人在天津举办婚礼。婚礼前一日，家人前往婚纱租赁店领取预定的四套礼服，却发现此前选好的一套主婚纱“不翼而飞”，愕然之下向晶紧急返回店内重新挑选、试穿。这场弥足珍贵的仪式，因婚纱插曲，给向晶添了一些慌乱和遗憾，店家的补救措施只是报销再次试穿婚纱的打车费。

婚后向晶开启维权。向晶认为，她选好礼服后曾两次发图片给店家确认，却在大日子到来前找不到预定的婚纱，婚纱店构成欺诈。向晶找店家索要发票留存交易凭证，通过12315等投诉举报，但店家始终态度强硬拒绝调解。向晶决定在工作之余赴天津打官司，“实在是意难平，（赔偿）钱不钱的倒不重要。”

如果店家构成欺诈，是否可以提起民事诉讼，申请“退一赔三”？去年11月，向晶拨打一个法律援助热线，就此事咨询律师。向晶对《财经》回忆，10分钟的咨询中，律师不断质疑向晶的说法，认为“退一赔三”不成立，并反驳向晶“你怎么证明店家属于欺诈？”

这让向晶感到沮丧，开始自我怀疑，“我是不是太偏激？”。这时，自认属于内向型I人的向晶，把心中的疑虑通过文字发给了AI。AI的回答充满理解，“在已经受到委屈，满心希望寻求专业支持的时候，碰到了一个只会给你找漏洞的律师，无疑雪上加霜。”“不要因为这一次的通话而气馁或者自我怀疑，你的感觉很可能是对的，这不代表您的诉求不合理。”AI分析说，这是律师的职业习惯和沟通风格，消费者权益保护中“退一赔三”的认定较严格，律师初步接触案件倾向于采取保守和谨慎态度。

这是一个小额诉讼，礼服的租赁费用是1700元，向晶清楚申请“退一赔三”并索赔精神损失费用，即便诉求得到支持，可能也不足以覆盖聘请律师的费用。对此AI表示，这个情况“很现实”，并给出建议：不聘请律师全程代理，将律师服务化整为零；即使不请律师，本案也有极大的优势，“事实清晰，证据确凿”。AI还举例，在一些省份的诉讼中，有婚庆公司因不负责任被判决支付客户精神损失费的案例。于是，向晶打算发起诉讼，不聘请律师。

AI不厌其烦地解答向晶的各种问题。比如，诉讼费如何收取，起诉书的撰写和完善，怎么罗列证据清单，对方可能会有哪些辩解理由等，向晶前后咨询了二三十次。对向晶来说，AI像是一个朋友，足智多谋，各种问题都能给出答案。有时候晚上10点或11点多，向晶突然想起一个问题，随时跟AI聊一聊，也不用担心是否造成打扰。

随着社会发展，个人与他人、公司等主体的经济交往日益频繁，个人难免成为原告或被告。2025年1月，在四川的张跃（化名）收到法院寄来的传票，她被起诉成为一名被告。案子涉及张跃在重庆购入的一套房子，三年累计拖欠物业费5000余元，物业公司起诉索要物业费并要求张跃支付违约金（滞纳金）近2000元。此前，张跃曾向物业提出，房子一直空置未享受物业服务，且物业的服务与承诺不符，希望减免部分费用。张跃还曾尝试先缴纳一半物业费，但被物业退回，物业坚持让她一次性缴清全部费用。

首次成为被告，张跃咨询做律师的朋友，得到的建议是，物业费的诉讼比较简单，金额不大，自己出庭应诉即可。为了熟悉此类诉讼，张跃在中国裁判文书网上一番检索，找来类似案例阅读。看到不少类似案件业主没有请律师，张跃平添了一些信心。研读同类案件后，张跃逐渐有了答辩思路，开始着手收集证据，难点是怎么结合收集到的证据写答辩状。“我上网搜了一下，没有搜到明确的格式，就想到把所有材料喂给AI”，张跃说。

2025年2月，庭审在即，张跃把案件背景和答辩要点陈述给AI，发出指令——“你是一个重庆专业的民事诉讼律师，现针对诉状中的内容，以被告的律师身份，书写一份答辩书。”同时，张跃上传物业合同、相关凭证等材料。深度思考53秒后，AI给出一份答辩状。张跃对《财经》表示，较之网络检索到的模板，AI回复的答辩状，内容清晰、完整，看似言之有据，并引述相关法条和案例。

好奇之下，张跃翻了一下手头刚买的民法典，一对照发现引用的一条法条编号与实际不符。随后，张跃逐一核查引用的法律条文，检索是否存在AI提到的案例。剔除AI编造的“幻觉”后，张跃修改和完善答辩状，花了一个晚上的时间，张跃准备好了出庭。

悄然出现在法庭上的AI

像张跃、向晶这些小额诉讼的当事人，在诉讼中，借助AI解疑答惑、搜索资料，帮助撰写或润色相关司法文书等，已不鲜见。

AI浪潮席卷而来，渗透、融入各行各业，司法领域也不例外。通常情况下，AI隐身在当事人或律师的口头答辩和提交的文字背后，但也有一些当事人或律师会直接向法庭提交AI生成的信息。

2026年3月，《财经》检索中国裁判文书网，在一些民事案件的裁判文书中，发现AI智能体在法庭上从容现身。这些案件的审理多发生在2025年，这正是生成式AI技术走向深度应用的一年。AI穿梭在不同的庭审，应当事人或律师要求，智能答复的内容包罗万象，一些答复被诉讼参与人称之为“证据”提交给法庭。

浏览检索到的裁判文书，当事人或者律师提交给法庭的AI答复，比较常见的内容是咨询行业信息、询价、评估损失等。比如，询问工程曝气机的一般市场价格，从甲地到乙地运输钢材每吨价格是多少，347米的输送带安装需要多大车间，小米椒在不同供应链模式下的损耗是多少，连续阴雨会对杂交水稻减产的影响，水泵的预期寿命是多久，请AI计算年化利率。询问网页内容更新的同时网站时间一定更新吗，能耗总占比通常占泳池运营成本的多少，梳理老年人贷款政策及房贷规定分析等。在一起房屋买卖合同纠纷中，当事人拿出AI的答复，以证明当地近年来的房价，因其买房时的房价较高希望解约。在劳动争议案件中，有公司在证明一名员工技术能力不足时，提供的佐证材料之一是AI对系统运维工程师的职责描述。

一些二审案例显示，当事人将AI答复的内容作为上诉理由或者一项重要的证据提交。一起交通事故责任纠纷中，保险公司不满一审判决提出上诉，申请重新对当事人死亡原因进行鉴定，并提到其通过AI分析案涉当事人的死亡原因。对此，二审法院表示，一审法院曾应其申请，委托鉴定机构，但根据现有材料无法对死亡原因重新鉴定，且之前的鉴定机构对鉴定意见作出了依据充分的答复，因此维持原判。在一起财产损害责任纠纷中，一辆挖掘机因他人燃放烟花起火，挖掘机的主人将六名烟花燃放者起诉。一审法院认定其中的两人承担责任，两人不服判决在上诉中表示，根据AI查询，烟花残渣自行熄灭的时间理论上超过15分钟，一审法院排除另外四人施放烟花导致挖掘机起火的可能系事实认定错误。对此，二审法院在判决中对火灾事故调查结论和一审认定事实进行解释，并表示上诉理由与“本案直接点燃挖掘机中心马达部位不具有可类比性”。

对于作为证据提交给法庭的AI答复信息，审理案件的法官通常会在判决中表示，单一AI生成内容属于一般性描述，不具备独立证据资格，不属于法定证据种类，法院不予采信。也有判决表示，对当事人提交的AI回答，将结合其他证据予以综合认定。

还有当事人使用AI进行视频分析。一起滑雪事故责任纠纷中，一审法院认定原被告各承担部分责任，伤者一方提出上诉。在二审时，伤者提供AI视频分析软件基于视频帧序列的动力学重建得到的结论，认为伤者无法从物理上规避后方违规变道，事故100%不可避免，对方应负全责。对方辩称AI结论并非具备司法鉴定资质的机构出具的专业意见，不能作为认定案件事实的依据。二审法院最终认定，上诉人的主张依据不充分，不予支持。

AI幻觉和警惕的法官

人工智能或明或暗应用于诉讼，这给本就案件量繁重的中国法官带来新的挑战。

AI生成的虚假案例已经出现。2025年12月，人民法院案例库收录一起参考案例，其中涉及诉讼参与人向法院提交通过人工智能技术获取且未经甄别核实的虚假案例的处理规则。人民法院案例库收录的案例，均是经最高人民法院（下称“最高法院”）审核认为对类案具有参考示范价值的权威案例，可以辅助司法审判，统一裁判尺度。

这起AI生成的虚假案例，出现在一起因股权代持引发的商事纠纷案的代理意见中，由北京市通州区人民法院（下称北京市通州区法院）在审理案件时核实发现。

该案的主审法官郑吉喆，扎根审判一线16年，善于从一张张案卷材料、询问双方当事人中发现蛛丝马迹，查明案件事实。郑吉喆对《财经》表示，2024年12月30日那起商事纠纷案件开庭审理，原告方提出的诉讼请求并不常见。为了进一步佐证观点，庭审之后原告律师杨某向法院邮寄了一份11页的书面代理意见，其中援引案号分别为最高法院（2016）最高法民再301号、上海市第一中级人民法院（2022）沪01民终12345号的两个案例，以表示与本案事实、争议法律问题相似。

收到这份代理意见后，此案的法官助理先进行初步梳理和审查。经初步比对，杨某援引的案例与诉争案件的事实细节、法律争议及裁判逻辑高度契合，看似具有较强参考价值。法官助理以两个案号为关键词，在相关平台检索，搜索结果却令人意外，前者案例与认缴期内转让股权出资责任认定有关，后者是一起民间借贷纠纷，与代理意见中援引的两个案例的案情完全不符，与诉争案件毫无关联。难道是写错了案号？法官助理联系律师杨某，让其尽快核实援引案例的案号。但随后，杨某并无任何反馈。

法官助理将这个情况汇报给郑吉喆后，郑吉喆翻看代理意见，一眼关注到两个案例，案号编排、格式、当事人简称等，“明显有AI生成的特征”。

2025年前后，生成式人工智能技术快速扩散，AI应用开始大规模落地。自AI应用起，对AI幻觉的担忧随之而来。AI幻觉是指人工智能系统生成的内容与真实不符、来源不明或完全虚构。最近，有来自国外的研究显示，AI模型还会故意向用户撒谎，AI知道真相却选择告诉用户别的内容。处在司法一线的法官们，需要敏锐感知社会生活的变化和重大技术变革的应用，对虚假信息可能侵入司法程序的风险更是格外警惕。

看到这两个可疑案例，郑吉喆找出律师杨某的电话，当即拨打过去。郑吉喆直接问道，援引的两个案例，“是哪个AI平台生成的？”律师迟疑片刻后，承认其根据诉争案件提炼出关键词和争议焦点后，反复向某AI软件提问，得到案例后未经核实写入代理意见。

审限在即，2025年4月初，此案该做出裁决了。诉争案件如何准确适用法律，并不困难，难点在于对诉讼参与人向法院提交通过AI获取且未经甄别核实的虚假案例，如何处理，如何表示法院的态度？

郑吉喆表示，根据相关法律，律师应遵循诚信原则，恪守法律职业道德，对于提交法院的证据及其他材料应甄别核实，确保真实准确。杨某通过人工智能技术获取案涉案例，未做任何核实提交法院，已超出合理使用技术的边界，违反诉讼诚信原则和律师职业道德。该案无证据证明杨某系故意提交虚假案例，且事后主动说明案例来源，情节轻微，未造成严重后果，因此北京通州区法院酌情在判决中对其提出批评教育。一审判决后，双方均未提出上诉，该判决已经生效。

或将重塑的关系

重大技术的变化，会引发经济形态和生产关系的转型。任何行业都不例外，人工智能技术正深刻改变法律行业的生态，这必将影响身处其中的当事人、律师、法官，并改变他们之间的互动。

今年2月，亲自打官司的向晶，迎来婚纱纠纷案的开庭。开庭前一天，向晶担心店家不出庭，AI立刻为她科普缺席审判的规则。法庭上店家表示，没想到会走到这一步（对簿公堂）。

庭审结束后，向晶对着AI复盘庭审过程。AI察觉到向晶的担忧，主动提出，如果向晶需要，它可以再生成一份补充意见提交给法庭。向晶很疑惑，“不都已经开完庭了吗，AI又解释了一番什么是补充意见，说可能没有太大用处，但也可能会有点用处。”向晶询问AI，这个案子胜诉概率有多少？AI回复，胜诉概率是75%。

婚姻家事律师张荆，2025年下半年开始使用AI，搜集整理信息、润色一些会议发言，但有20年丰富经验的张荆更习惯自己撰写法律意见，“AI的用词不够严谨，法律意见要有事实依据，使用法律语言言简意赅，逻辑紧密。”搜集资料时，张荆每次都嘱咐AI，“你不要瞎编，不要产生幻觉。”

接触当事人，张荆发现一些人过度信任AI。此前有一位当事人找张荆咨询一起家庭纠纷，当事人住在公婆名下的房子里，丈夫去世后，被婆婆起诉腾房。张荆介绍，当事人的公公已经去世，婆婆还有其他子女，律师建议先分析能否部分继承公公房产份额（丧偶儿媳是否尽了主要赡养义务、当事人的子女代位继承），以及如何与婆婆等做沟通工作。当事人坚持AI提供的建议，即从争夺对婆婆的监护权、申请对婆婆进行行为能力鉴定的路径入手，而实际上其并不具备这些条件。因意见不一致，这名当事人转而寻找其他认可AI建议的律师。

北京市尚权律师事务所合伙人于天淼，因本科主修计算机科学与技术，对人工智能技术素来有兴趣，较早将AI应用在法律实务中。于天淼观察到AI的变化，几年前AI刚开始应用时检索，检索得到的常是被废止的法条、不准确的法律条文，或者“无中生法条”虚构不存在的条文，“那时候还不能辅助法律实务工作，但现在准确率提高很多”。

于天淼专注刑事辩护，这两年她更希望办出精品案件，因此办案数量有所下降，就没有招聘律师助理，在一些环节AI成为她的助手。于天淼会将脱敏的案件材料上传，让AI初步阅卷，AI解析文本后自动生成包含主体关系图、时间线轴等图表，并指出关键争议点和核心矛盾。于天淼还让AI帮助做类案辩点分析，比如在研究某一罪名的无罪判决时，于天淼将检索到的一批案例上传给AI，AI深度分析后会提取出这些案例中具有共性的无罪理由。刑事辩护具有较强的对抗性特征，于天淼会和AI做模拟对抗，她先陈述辩护观点、证据支持，然后请AI站在控方的角度反驳，“看看AI会挑出那些漏洞，我再去针对性补强我方的证据。”

数字时代背景下，人工智能的发展，使不同人群平等享受技术带来的便利。于天淼发现，有些当事人会将律师写好的辩护词或者其他法律意见，投喂给AI，“然后请AI提意见”。重大复杂的刑事案件，周期长，委托人又较为焦灼，面对网络上的杂乱信息，时不时会问一下AI，再反馈给律师，律师得反复解释和答疑。很多当事人会选择让AI推荐律师，于天淼还从同行处得知，有一名当事人把律师的照片发给AI，请AI从传统面相上分析，“看委托给这名律师是否合适”。

浙江理工大学副教授、网络法研究所执行所长郭兵，长期关注人工智能相关的法律与治理研究，深知大模型存在无法完全消除的“幻觉”。郭兵曾参与过一些法律模型训练，帮助评估AI幻觉率，“如果它不可靠，哪些地方不可靠，把我们的意见反馈给技术专家，尽量降低幻觉率。”郭兵对《财经》表示。

在法律实务中，郭兵也遇到过有当事人拿着AI生成的内容，对他的法律观点提出质疑，“我去找他们提到的法律依据和所谓的案例，根本找不到。上星期还有这样的当事人找来，看到他们找的案例案号，或法律依据很奇怪，就大概知道来自AI。”

郭兵表示，随着大模型应用向垂直场景深化，对诸多行业将产生颠覆性的影响，但也存在一些安全和伦理风险，律师和当事人必须平衡AI的风险与应用。不久前，人民法院案例库收录的一起案例，涉及诉讼参与人提交人工智能生成的图片伪造证据，被法院发现并批评教育。这属于事实层面的造假，一旦被查实将承担相应的法律后果。另一种是辅助法律实务，越来越多的当事人或律师通过AI进行法律信息检索，寻求法律意见。这种情况下，AI可以作为一个辅助手段，但不能直接当作法律意见或者决策依据，“向法院或者其他司法机关提交法律意见时，涉及一些法条或者案例，必须逐项核实确认，以确保其合法性和有效性。”同时，郭兵指出，AI应用于法律实务，对不具备法律知识和实务经验的当事人会有较大的迷惑性，对法官的鉴别能力也将带来挑战。

AI能取代什么，不能取代什么？

2026年3月，向晶的案子迎来一审宣判。法院判决婚纱店赔偿向晶1000元，虽然没有实现诉求中的“退一赔三”，也不像AI预测的胜诉率达75%，但第一次亲自上庭打官司且胜诉，给向晶不少信心，也为婚纱纠纷画上一个句号。

郭兵指出，随着大模型的继续迭代并逐渐融入普通人日常生活，普通人的法律信息检索能力不断提升，这将进一步考验律师的法律服务能力。特别是对一些训练数据非常丰富、传统类型且法律争议并不复杂的案件，当事人通过一些通用的AI模型，就可以找到比较靠谱的法律意见。以前当事人可能会咨询律师，现在非常容易得到相关的法律意见和帮助，“当事人就可能不再去寻求律师帮助”。

在新一线城市曾从事律师职业的张鸣（化名），顺利考公后，去年7月注销律师执业证。此前，张鸣是一名民事领域的律师，在当地常见的民事纠纷是婚姻家事、建筑工程领域的索要工程款和材料款、开发商违约、房屋漏水引发的邻里纠纷等，较为传统且琐碎的案件。这些案件大多收费不高，但市场竞争大。

公开的数据显示，法律咨询服务下降明显。《财经》查询中国统计年鉴，近年来律师人数、民事案件代理件数均逐年增长，刑事案件辩护及代理件数总体上呈增长趋势，但律师提供的咨询和代书工作却呈现出明显的下降。数据显示，2024年律师提供的咨询和代书是231.9万件，5年前的2019年律师提供的咨询和代书是309.8万件。

人工智能像是给普通人提供了一个助手，助手足够强大时是否会替代律师？对此，于天淼认为，法律工作者可贵的、且不可替代的，不是简单把案件适用于法律规定，而案件中分析推理、发现和解决问题的能力，“对法理与情理、社会效果与法律效果的平衡，在其中发挥我们的主观能动性和创造力。”张荆则表示，一些案件的处理不只是简单适用法律规则，还需要兼顾案件的背景、环境、人文、社会变化，“很多功能是AI代替不了的”。

人工智能引领的变化仍在持续进行。2026年3月，最高法院在工作报告中表示，促进人工智能规范发展。依法妥善审理涉人工智能案件，准确把握科技创新“容错”空间。在最高法院的报告中，一起AI幻觉案例被写入。

2025年6月29日，梁某在某生成式人工智能应用中询问某高校报考的相关信息时，某生成式人工智能应用生成了不准确信息。梁某发现后，在对话中进行纠正和指责，某生成式人工智能应用仍坚持之前的回复，并“提出若生成内容有误将向用户提供10万元赔偿”。之后，梁某将准确信息予以反馈，此时AI承认其生成了不准确信息，并建议梁某到杭州互联网法院起诉索赔。

最高法院在报告中表示，这个案例中的差错，研发者已善尽注意义务，且未实际损害原告权益，法院认定不构成侵权。对利用人工智能侵害他人合法权益、扰乱社会秩序等行为，坚决依法规制，促进科技向善。

张跃的物业费诉讼，进展很快，庭审中张跃拒绝了调解，随后张跃拿到一纸判决，欠缴的物业费并没有被减免，但是违约金被全额免掉。通过这次诉讼，张跃发现上法庭没有想象中的复杂，同时更敢于主动争取权益，“有的人会觉得就几千块钱的事儿，你干嘛去较个真。”

不过，张跃认为AI只是一个工具，更重要的是保持自己的学习力、提高判断力，“AI只是给你抛过来一些线头，你要自己顺着线索找一找，并借鉴它的思考方向。”张跃说，如果完全依靠和信任AI，“我觉得很危险，自己没有思辨能力，那个人早晚也会被代替，不是AI就是别人。”

责编 | 王祎

题图来源 | 视觉中国