日前,北京市消费者协会(以下简称“北京消协”)联合京东(09618.HK)、美团(03690.HK)、拼多多(PDD.O)、唯品会(VIPS.N)、抖音、快手(01024.HK)、小红书、微信直播等8家头部电商平台,共同签署全国首份《促进AI技术规范应用承诺书》。
该举旨在应对AI合成技术在直播带货领域的滥用风险,通过行业自律机制划定技术应用“红线”,为快速扩张的电商直播市场注入合规性保障。
北京消协历时3个月专项调查,锁定当前AI合成技术应用中侵害消费者权益的三大突出问题:消费者知情权保障不足,“真假难辨”困扰普遍存在;合成技术滥用滋生消费风险,“虚假营销”问题凸显;平台审核机制存在短板,“风险防控”能力待提升。
据3162份有效回收问卷调查数据显示,近九成消费者呼吁对AI生成内容进行显著标识,超三成消费者因AI数字人“缺乏真实情感”而担忧决策被误导。
此外,AI换脸仿冒名人带货等事件频发,例如演员温峥嵘近期遭遇的直播间形象盗用案,凸显了技术滥用的迫切风险。调查显示,10个AI数字人直播样本中半数未标注生成属性,六成存在未提示交易风险等问题,反映出平台审核机制存在短板。
承诺书以“标识透明、审核严格、责任可溯”为核心,提出六大具体措施。
具体而言,一方面,要求平台对AI生成内容进行显著标识,严禁仿冒名人带货,并通过技术监测与人工复核阻断违规内容传播;另一方面,通过提供标识工具、打击标识造假、加强培训等方式引导商家主动合规。这些措施直击当前AI电商生态的痛点,例如虚拟场景误导消费、数字人互动缺失等问题,为消费者知情权与选择权提供制度保障。