本文自南都

采写 | 南都N视频记者 林诗妍

2月12日，南都N视频记者从“网信中国”获悉，近期，部分网络账号发布AI生成合成信息时，不添加AI标识，存在利用虚假不实内容欺骗误导公众的问题。网信部门依法依约处置账号13421个，清理违法违规信息54.3万余条。

网信中国：有账号发布AI生成合成信息时，不添加AI标识，欺骗误导公众

在“网信中国”披露的部分典型案例中，“澄馫”“玲子爱狗狗”“空空说电影”等账号，发布狗在高铁站救下婴儿、狗拆炸弹救人、鳄鱼伤人等视频时，未添加AI生成标识，借虚构感人故事、猎奇事件恶意博取流量。相关账号已被依法依约处置。

此外，“浮萍9419”“乘风已归来”“东东情感”等账号，以AI换脸、声音克隆等方式，假冒运动员、演员、主持人、企业家等公众人物，发布不实言论，借此吸粉引流，或未经授权，售卖AI生成的公众人物“送祝福”“拜年”等视频，从中不当牟利。相关账号已被依法依约处置。

利用虚假视频扰乱公共秩序的账号也被依法处置。例如，“巷子里的鱼”“禾粟”“朵姐正能量”“小猪猪”等账号，发布AI生成的虚假火灾现场图片、视频，恶意编造、炒作火灾事故，混淆视听，扰乱公共秩序。相关账号已被依法依约处置。

除此之外，借AI魔改剧情的账号同样被依法处置。“真难我知道”“小奥特曼大智慧”“清崽影视”等账号，借AI魔改未成年人喜爱的动画角色，制作刀切小马宝莉头部、奥特曼怀孕等视频，传播低俗惊悚、血腥暴力内容，宣扬不良价值观，侵扰未成年人身心健康。相关账号已被依法依约处置。

在社交平台售卖去AI标识的账号也受到下架处理。“浪淘达人”“南坤的店”等账号，发布“豆包图片去水印神器”等内容，分享去除AI标识教程、软件。“浙江智意AI”“鼎建祥旗舰店”等店铺，售卖去AI标识教程、软件及服务。相关账号已被依法依约处置，违规商品已下架。

“网信中国”发文称，下一步，网信部门将对无AI标识的虚假不实信息保持高压严管态势，发现即处置，严厉打击违规行为。同时，也呼吁广大网络内容创作者按照相关规定主动添加AI标识，避免误导公众。

小红书：AI生成合成内容如未标识，将限制推荐

2月12日，小红书薯管家发布公告，呼吁站内用户对AI生成合成内容进行主动标识。以下为公告全文：

近期，平台收到多例利用AI生成合成技术仿冒公众人物形象、制作虚假视频的用户举报。此类未经本人授权制造的内容，即侵害了公众人物的合法权益，也因部分内容未主动做AI生成/合成标识，有损社区用户的信任。

为此，我们呼吁用户在发布由AI生成合成的图文或视频内容时，主动添加AI生成合成标识，便于用户甄别。标明AI创作手段不仅不会减损作品价值，反而能让交流更透明。

对于借由AI生产虚假仿冒信息、魔改经典、宣扬不良价值观的内容，发布教唆去除AI标识的教程，平台将予以严厉打击。