瞭望 | 强化内容标识为AI合成划界_知识

瞭望 | 强化内容标识为AI合成划界

创始人

2025-11-18 12:16:40

文 | 刘淏煜

让“院士”代言护肤产品，让“演员”直播带货，用奥运冠军声音卖土鸡蛋……近期，利用AI换脸、语音合成等技术生成虚假内容谋取私利或虚构突发事件、编造公共政策、捏造社会民生谣言的热点事件多发。

AI合成乱象侵犯了相关人士的肖像权、声音权，还可能误导公众、损害消费者权益，甚至影响到社会信任乃至公共秩序。维护安全、清朗的网络空间，应明确使用AI技术的底线与红线。

内容标识，是遏制AI合成乱象的第一道“防火墙”。9月1日起施行的《人工智能生成合成内容标识办法》聚焦人工智能“生成合成内容标识”关键点，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，既为公众提供辨识真伪的标准，逐步形成“以标识为准”的意识，更为后续追责提供证据，从源头压缩恶意行为的生存空间。

尽管制度设计已明确各方主体责任与义务，实践中仍有不法分子通过“镜像翻转”“画中画遮挡”等技术手段规避和隐藏标识。可见，净化AI合成生态，破解AI造假困境，还需多方协同共治。

一方面，技术服务提供商和内容发布平台应严守标识规定，加大技术投入、强化内容审核，优化用户举报和维权通道，健全追溯、下架以及追责机制。另一方面，需持续完善相关规定，实现从内容生成到公共传播的全链条治理，以源头严防、过程严管、违规严惩，有效消除侵权造假的土壤。

技术发展唯有持续向善，方能持续向上。始终以规则护航发展，才能让AI真正成为推动社会进步的力量。■

上一篇：速递｜日本AI独角兽Sakana AI，以26.5亿美元估值完成1.35亿美元B轮融资

下一篇：刘煜辉：CDS警报拉响 AI风火轮还能持续多久？

瞭望 | 强化内容标识为AI合成划界

相关内容

热门资讯