□ 胡立彪
近日,北京市消费者协会推动京东、美团、拼多多等8家电商平台签订《促进AI技术规范应用承诺书》,从技术标识、内容审核、责任追溯等环节建立企业自律规范。其中明确,商家和内容创作者在利用AI技术生成合成数字人主播、虚拟场景时,在显著位置清晰标注“AI生成”或“拟真场景”等提示内容;鼓励使用平台提供的统一 AI内容标识功能主动声明,严禁利用AI合成换脸技术仿冒名人明星带货。
近年来,AI数字人直播、虚拟场景带货等新技术应用快速普及。艾媒咨询数据显示,近几年我国AI数字人市场呈快速增长的势头,年复合增长率超60%,预计到2026年,我国数字人市场规模将超过480亿元。中国互联网协会发布的一份关于中国数字人发展的报告显示,预计到2025年,我国数字人核心市场规模将超过400亿元,带动产业市场规模将超过6000亿元。
AI数字人技术无疑为直播电商注入了新活力。数字人可以24小时不间断直播,大幅降低人力成本;能够同时处理海量用户咨询,提高服务效率;还能根据大数据分析,精准调整话术和推荐策略。然而,伴随“永不疲倦的销售员”而来的,是一系列亟待规范的新问题。
当前AI数字人直播带货领域最突出的问题,是“规矩”缺失。部分数字人主播“故意”模糊虚拟身份,让消费者误以为是真人推荐;有的在推荐商品时夸大功效,进行虚假宣传;更有甚者,利用算法针对特定人群实施价格歧视。这些问题不仅侵害消费者合法权益,也扰乱市场秩序,损害直播电商行业的公信力。
给数字人带货立规矩,首先要明确“身份透明”原则。消费者有权知道正在向他们推荐商品的是真人还是虚拟形象。这不仅是对消费者知情权的尊重,也是商业诚信的基本要求。数字人应当在直播画面中明确标示其AI身份,就像食品包装上必须注明成分一样,这应当成为行业的强制性规范。
规矩的核心在于保证内容的真实性。AI数字人能够通过深度学习生成极具说服力的话术,但这种技术优势不应成为虚假宣传的工具。监管部门需要制定专门针对AI生成内容的广告规范,明确数字人直播中宣传信息的真实性标准。同时,平台方应当建立AI直播内容审核机制,对数字人主播进行“上岗培训”和实时监督。
消费者权益保护机制也需与时俱进。当数字人主播出现误导性宣传时,消费者维权面临新的挑战:责任主体是谁?是开发数字人的技术公司,使用数字人的品牌方,还是直播平台运营商?现有法律框架需要进一步细化,明确各方责任边界,确保消费者在合法权益受损时能够找到明确的追责对象。
更为复杂的是算法伦理问题。AI数字人能够根据用户数据实时调整销售策略,这种个性化服务与价格歧视之间往往只有一线之隔。规矩应当限制数字人利用消费者数据实施不公平交易行为,防止“大数据杀熟”在直播场景中以更隐蔽的方式出现。2024年8月,欧盟实施《人工智能法案》,对AI系统按风险等级进行分类管理。这一思路值得借鉴。
当然,讲规矩不是要扼杀创新。相反,明确的规则框架能够为AI数字人直播的健康发展提供保障。技术公司可以在合规前提下探索更智能的虚拟主播,品牌方能够更安心地采用这一新兴渠道,消费者也能在透明、公平的环境中享受技术带来的购物便利。
放眼未来,随着元宇宙概念的发展和虚拟现实技术的成熟,数字人直播可能会进一步演进为沉浸式购物体验。越是如此,越需要提前建立规矩,引导技术向善。这需要技术开发者、平台运营者、品牌商家、监管部门和消费者共同参与,形成多方共治的格局。
在AI技术深刻改变各行各业的今天,AI数字人直播带货的规范问题具有典型意义。它不仅关乎一个新兴商业模式的发展,更关乎我们如何在技术快速演进中维护商业伦理、保护消费者合法权益、促进健康的市场环境。讲规矩,不是给技术套上枷锁,而是为创新铺设可持续的轨道。
在网络空间,AI数字人主播们将继续它们不知疲倦的直播。而我们作为技术的使用者和规范的制定者,有责任确保这些虚拟形象在追求商业效率的同时,不会逾越诚信的边界。只有这样,技术才能真正服务于人,创新才能在秩序中绽放持久光彩。