转自：证券日报

    ■吴晓璐

    近日，上海警方侦破一起利用人工智能技术编造、传播网络谣言损害企业权益案，抓获8名犯罪嫌疑人。据悉，该团伙利用AI“洗稿”，杜撰涉霸王茶姬的不实文章，以此博流量、涨粉丝进而获取广告收益。

    近年来，AI大模型技术不断突破，便利了人们的生活和工作。但AI大模型生动真实的模仿能力，也让其成为资本市场虚假“小作文”的推手。造谣者利用AI生成谣言主要有两种方式，一是利用AI软件生成不实图文、研报等，在网上进行传播；二是通过“语料污染”，让AI“说谎”，如DeepSeek爆火后，造谣者通过批量发布虚假信息，污染AI大模型的训练数据，再利用AI问答截图上网传播，形成“谣言—AI回答—更多谣言”的虚假信息闭环传播。

    从造谣目的来看，有的是利用谣言博取流量，有的则可能涉嫌操纵市场。无论出于何种目的，这些谣言不仅会误导投资者决策判断，扰乱资本市场秩序，引发信任危机，还可能影响企业经营，损害企业利益和声誉。比如，在上述案例中，受不实信息影响，霸王茶姬部分区域门店单日营业额同比下降超20%。

    因此，多措并举加强对AI谣言的治理，对于减少市场异常波动、保护中小投资者利益、维护市场公开和公平的环境具有重要意义。

    首先，完善法治体系。从政策层面来看，近年来，针对AI谣言的治理体系逐步完善。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》先后发布，强化对AI生成内容的标识；今年3月份，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》，进一步规范人工智能生成合成内容标识，这标志着我国在规制AI生成内容方面迈出了重要一步。

    与此同时，加快推动人工智能立法，明确AI谣言相关主体的责任刻不容缓。通过立法明确各方责任边界，将提高威慑力，也是后续打击相关责任方、追究其民事责任和刑事责任的重要保障。

    其次，持续加大打击力度。在打击AI谣言方面，各地公安机关已发布多起对编造谣言、影响金融秩序相关主体处罚的典型案例。4月份，中央网信办印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动，除了强化AI技术源头治理外，还将聚焦利用AI技术制作发布谣言等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。

    资本市场方面，在公安、网信等部门的大力支持下，中国证监会通过监测、甄别、处置、警示、投教等全链条联动，严厉打击编造、传播股市谣言的行为。特别是针对股市虚假“小作文”，已制定专项整治工作方案。

    未来，监管部门需进一步挖掘AI谣言背后的利益链，查清谣言背后是否涉及操纵市场等违法违规行为，彻底斩断“造谣—传播—牟利”的利益链。

    再次，强化技术反制。一方面，要严格语料筛选，通过建立权威信源“白名单”、剔除虚假信源、交叉验证等方式，从源头抓取可靠信源，降低“语料污染”引起的AI谣言概率。另一方面，利用AI技术对虚假内容进行识别并及时处理。比如，今年年初，腾讯发布“朱雀”AI大模型检测系统，助力识别和打击网络中的虚假信息。

    最后，投资者应提高对信息的辨别能力，避免成为谣言的受害者和传播者，发现谣言后应及时举报。

    资本市场对信息极为敏感，加强对AI谣言的治理成为监管部门的一道“必答题”。可以看到，我国正在逐步建立AI治理体系，强化对利用AI技术造谣的惩治。未来，期待法律规制、监管效能、技术防控、社会共治多维联动，有效遏制AI谣言对资本市场的影响，护航市场平稳健康发展。