转自：扬子晚报

“我忙于巡演整天掉头发，老公陪我去上海看中医，中医推荐了一款含何首乌的洗发水……”这是韩国当下顶流明星IU（李智恩）的最新短视频？然而细看账号信息，不难发现都是AI合成的虚假信息，极易让人误导。 近日，小红书专门发布关于整治AI技术滥用的公告。

IU台词突现“何首乌”，张凌赫茯苓膏卖不完？

扬子晚报/紫牛新闻记者在短视频平台上看到，明明是韩国明星IU（李智恩）的一段综艺访谈节目，突然她就说起了“老公陪我去上海看中医，中医推荐了一款含何首乌的洗发水……”另一端取自热播剧《爱你》男主张凌赫的台词，也是说着说着就从中医说到养生，从养生说到了某品牌茯苓膏，还打出字幕“健康运动+养生饮食+XX膏”。此外，在某短视频平台，输入“癌症预防”“孩子长高秘诀”等关键词，便能刷出大量标签为“医生讲解”“专家建议”的视频。

明星IU经常推销洗发水？

扬子晚报/紫牛新闻记者咨询了某公司视频工作室AI生成技术专家马斌，他表示，通过技术检测与比对，不难发现其中不少画面均由AI生成，所用形象是从真实公众人物面部提取建模后合成，有的甚至直接模拟套用了知名医生、演员的声音与面孔，进行“深度伪造”，有的地方可谓“丝滑嫁接”，半真半假。值得警惕的是，这类视频掺杂了一定比例的真实科普信息，如引用部分官方数据或医学术语，听起来貌似很有科学依据，让普通观众在短时间内难辨真假。

AI专家认为是“信息污染”，律师表示“涉嫌违法”

“这是一种非常危险的信息污染行为。”马斌指出，AI合成技术本身具有中立属性，但一旦被用于牟利造假，就可能严重侵害公众知情权和平台公信力。“虚假的医学建议、错误的营养常识，可能直接影响用户健康判断，后果不容小觑。”

记者在采访中发现，这类视频背后往往关联着引流、带货甚至非法推广保健品等商业链条。有的账号先通过“名医讲解”积累流量，再引导用户点击私信或跳转至第三方平台，实现变现目的。还有部分视频直接捆绑商品，利用AI合成的“专家”口吻推荐所谓“包治百病”的偏方和产品。

张凌赫卖茯苓膏？

多位业内人士表示，当前平台对于AI伪造内容的识别和处置手段仍存在滞后，一些视频虽涉嫌虚假宣传，却因合成技术高超，未能第一时间被识别下架。

对此，上海中联（南京）律师事务所王云霞主任接受扬子晚报/紫牛新闻记者采访时表示，随着人工智能技术的发展，生成式人工智能技术（AIGC）在内容创作领域得到了广泛应用，为创作者提供了更多的便利。但AIGC也带来了一些挑战和风险，如识别难度、虚假信息、侵权问题等。今年3月，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》，该办法规定人工智能生成合成内容标识包括显式标识和隐式标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识，不得通过不正当标识手段损害他人合法权益。

王云霞指出，若视频平台充斥着大量AIGC制造的不实信息，势必会影响平台自身的形象和名誉，造成多方面有形无形损失；而制造不实消息的发布者将会因侵犯他人名誉权、虚假宣传、未规范标识等违法行为被追究相关法律责任。希望通过平台、用户的共同努力，推动AIGC技术在互联网行业中的正向传导，发挥更大的正向价值和作用。

小红书发布治理公告，对13个违规账号禁言处置

记者注意到，就在两天前，小红书“薯管家”发布了关于整治AI技术滥用的治理公告。公告称，为维护清朗网络空间，营造积极健康、文明和谐的社区环境，小红书积极响应中央网信办、上海市委网信办关于“清朗·整治AI技术滥用”专项行动的要求，重点聚焦利用AI批量生产虚假内容涨粉、利用AI起号引流带货、售卖AI起号课程、售卖AI账号等违规行为开展专项整治工作，切实履行平台责任，深入清理违规问题。本阶段具体治理情况如下：

针对“利用AI生成低俗猎奇视频”“AI生成虚拟外国幼儿教育专家教授育儿内容”“AI视频账号售卖教程”“AI账号秘籍传授”“引导规避平台AI标注”“转让、销售AI虚拟账号”等各类违规内容加强排查清理力度，共清理违规内容265条，对@IU干跨境等13个违规用户予以禁言处置。同时严厉打击转让、售卖、出租网络账号行为，加强AI生成内容监测甄别。

后续，小红书将持续加大对各类涉AI生成相关违规行为的打击力度，不断升级完善平台内AI领域相关的内容治理能力，包括AI识别能力建设。欢迎小红薯们积极参与平台共治，在合理合法使用AI创作的同时积极对AI生成内容进行标注声明（在“自主声明”勾选“笔记含AI合成内容”），让我们共同打造清朗、有序、健康的网络生态环境。

据记者采访了解到，目前，已有部分短视频平台开始尝试引入AI内容标识机制，对上传视频进行溯源与分类管理。然而，在AI技术门槛逐渐降低、合成内容日益逼真的当下，仅靠技术手段远远不够。记者注意到有网友留言表示，建议有关社交媒体平台设置AI专区，加以区分，规范管理。

“公众也要提高媒介素养。”业内人士提醒，在面对貌似“专业”的短视频时，切忌盲目相信，应学会从官方权威渠道获取科普信息。同时，也呼吁教育、医疗等专业机构加强正向引导，避免伪科普变成流量骗局的外衣。      

扬子晚报/紫牛新闻记者 范晓林 朱君贤

校对 盛媛媛