陈兵

广州天河警方近日通报的一起案件引发社会广泛关注：36岁男子李某为炫耀个人技术，利用AI工具生成以某汽车品牌展台为背景的虚假低俗视频，在社交平台发布后引发大量传播，造成不良社会影响。目前，李某已被依法处以行政拘留10日的处罚。

近年来，利用AI编造虚假事故新闻、仿冒名人声音营销、伪造不雅视频等乱象时有发生。这些行为产生的原因，一方面源于AI技术的低门槛性，虚假视频、图片的制作输入指令即可完成，制作成本极低；另一方面则是存在利益驱动下的侥幸心理，部分网民为博取流量、炫耀技术或恶意竞争，不惜触碰法律红线，误以为AI生成难以溯源便可逍遥法外。

网络空间绝非法外之地。我国民法典、网络安全法为规制网络空间行为确立了法律规定。《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》为打击AI造谣提供了更明确的依据，让个别网民的技术炫耀失去了隐身外衣，也为警方快速溯源提供了技术支撑。

AI技术的发展是不可逆转的趋势，但其必须在法治轨道上运行。遏制AI造谣乱象，需要构建“源头防控、过程监管、末端追责”的全链条治理体系。

在源头治理上，AI工具提供者应履行主体责任。严格落实《人工智能生成合成内容标识办法》，在产品设计中设置强制标识功能，对生成内容进行技术溯源，同时建立用户真实身份认证机制，防止工具被滥用。网民作为网络空间的参与者，应提升媒介素养，不造谣、不信谣、不传谣，发现AI虚假信息应及时向平台举报或向警方报案。

在过程监管中，网络平台需扛起审核责任，不能成为AI虚假信息传播的“帮凶”。根据相关法律规定，平台负有内容审核、算法管理和用户投诉处理的法定义务。平台应加大技术投入，利用AI识别技术对平台内容进行实时巡查，优化算法模型，提高对AI虚假内容的识别精准度；严格落实标识核验要求，对未标识或疑似AI生成的内容加注风险提示并限制扩散；完善侵权举报机制，及时处理相关投诉，对侵权账号采取封号、禁言等措施。

在末端追责方面，司法机关应保持高压态势，对利用AI造谣行为依法严惩，形成有效震慑，让违法者付出相应代价。同时，还可加强典型案例宣传，通过公布案例、解读法律等方式引导网民守法自律，文明理性上网。

清朗的网络生态需要全社会共同守护。AI技术本身没有善恶之分，关键在于使用者的行为边界和治理者的监管效能。让法治成为AI技术的“导航仪”与“防火墙”，通过坚持依法治网、技术赋能、全民参与，遏制AI滥用带来的网络乱象，才能让AI技术真正服务于社会进步和人民生活。

（作者单位：北京市密云区人民检察院）