“邓超”在直播间卖保健品？“全红婵”带货土蜂蜜？“张馨予”在卖减肥药？当你震惊于又一波明星开始代言土味广告时却发现，这些广告大多跟本尊无关，而是滥用AI换脸的商业欺诈。

如此魔幻现实的一幕幕提醒我们：技术“狂飙”的背后，是法律、技术与社会认知的集体追赶。

治理AI换脸乱象

“法”的不断追赶与完善 

近日，孙俪、邓超工作室联合发表声明，谴责近期网络上出现的大量利用AI技术伪造两人形象和声音的虚假广告行为，误导消费者并损害自身权益。这种现象并非个例，去年底，网上出现一段复旦大学附属华山医院感染科主任张文宏推销某保健品的视频，经核实，视频中的“张文宏”并非张文宏医生本人，而是利用AI技术合成。

人工智能生成内容（AIGC）是便利工具，也是一把双刃剑。在人工智能生成内容蓬勃发展的同时，我们不得不面对深度伪造、虚假信息生成、数据篡改等行为带来的新挑战。

北京互联网法院去年审理全市首例“AI换脸”软件侵权案，为同类案件审理提供了重要参考。中央网信办发布2025年“清朗”系列专项行动显示：在整治AI技术滥用乱象方面，突出AI技术管理和信息内容管理，强化生成合成内容标识，打击借AI技术生成发布虚假信息等问题，规范AI类应用网络生态。今年9月即将施行的《人工智能生成合成内容标识办法》要求AI服务提供者对生成内容添加标识，本质上是将技术风险转化为可追溯的法律责任。

“用魔法打败魔法”

成为破局思路之一

当眼见未必为实，耳听未必为真之时，我们也可以“用魔法打败魔法”，通过科技手段鉴定视频和图片的真实性。目前，已有科研团队开源AI模型及人脸甄别技术，在被动监测领域持续优化；也有科研团队通过可扩展通用对抗性水印，为主动防御开辟新路径，该水印嵌入素材后，能在被AI加工时触发“引信”破坏生成内容，极大扩展了主动防御的范围。

短视频平台也在积极运用技术手段强化监测。依托AI检测模型，平台能对视频人脸进行低阶像素、纹理特征等多方位、多层次分析；通过要求用户在视频中完成特定动作，如挥手、转脸等，观察面部是否出现抖动、扭曲等异常；借助多模态信息检测，综合分析音频频谱特征、人物动作与音频的同步性等，避免单一维度判断的局限；同时，平台还可通过大数据分析监测，对某些短时间内播放量异常增长且用户举报频繁的短视频，触发重点检测机制。

给技术戴上“紧箍咒”

更要人人“守门”

抵制AI技术滥用，需多方联动。当明星遇上AI换脸，越来越多人拿起法律武器反击，平台方也肩负着不可推卸的审核责任，制度建设更是划定真实与虚拟边界的关键所在。

毕竟，AI的初衷是让生活更美好。治理AI造假，公众认知的提升同样不可或缺。未来AI与人类生活、工作的结合将更加紧密，我们除了擦亮双眼，提高警惕，也应“众人拾柴”，及时举报，以实际行动为AI造假产业链“断电”，让技术真正“向善而生”。

撰稿：黄星、洪云菊

编辑：张力伟

主编：杨洋

制作：南京广电融媒新闻中心

部分图片来源：央视新闻客户端、@邓超工作室、@小俪同事说

【责任编辑：潘容】