来源：红网 作者：肖扬

潮新闻8月17日发布一篇《“数字泔水”治理调查》。打开手机，看到一则突发火灾视频，实际却是AI生成的虚假新闻；号称“亲测好评”的消费攻略，可能是AI炮制的虚假“种草笔记”。一批质量低下、追求强感官刺激的AI内容正以前所未有的速度蔓延网络。假新闻、假种草、假视频，每一条都在稀释真实信息的浓度。

AI让造假的门槛降到了几乎为零。过去，制造一条假新闻需要人力、时间、渠道，门槛相当高。现在，一个人、一台电脑、一个AI工具，几分钟就能生成一段以假乱真的视频。今年4月底，中央网信办部署开展“清朗·整治AI应用乱象”专项行动，重点整治利用AI技术生成“数字泔水”等问题。用户的分辨能力赶不上技术的迭代速度，真与假的边界开始模糊。这不是技术恐慌，而是对信息生态的冷静审视。

“数字泔水”正在形成“劣币驱逐良币”的恶性循环。AI生成的内容量大、速度快、成本低，在平台的流量算法面前具有天然优势。真正有价值的原创内容需要时间打磨，但算法更青睐“更新频率”和“互动数据”。“数字泔水”大量充斥网络空间后，容易加剧公众认知偏差、削弱个人思考能力。优质内容生产者可能因为竞争不过AI而放弃创作，真实的声音可能因为缺乏“算法推荐”而被彻底边缘化。当“真实”无法被有效识别，它在平台上的传播效率就被AI制造的“虚假”所击败。

治理“数字泔水”不能只靠删帖。删帖是打地鼠，打掉一个冒出十个，永远追不上AI生成的速度。必须从源头管控AI生成内容的标识和传播。《人工智能生成合成内容标识办法》及配套强制性标准已要求对AI生成内容进行标识。平台需要真正落实这一要求，让用户能够识别“这是AI生成的”。监管部门需要建立AI生成内容的追溯体系，让每一条虚假内容都有源可查。有学者提出，允许适当的“泔水”流通，鼓励用户进行再加工，在二次加工中增加文化含量，未尝不是变废为宝的尝试。但“变废为宝”的前提是必须建立“治水”的能力，否则只会让泔水淹得更快。

AI技术的价值在于赋能，而不是制造虚假。当AI被用于批量生产假新闻、假种草，技术就变成了毒药。如果不能区分真实和虚假，技术的进步就失去了意义。治理“数字泔水”，本质上是在守护真实本身。