转自：法制日报

□ 马树娟

近期，筑梦岛App等AI（人工智能）聊天软件因虚拟角色互动生成低俗擦边等违规内容，危害未成年人身心健康，被网信部门约谈整改。相关新闻再次提醒我们，在享受AI技术带来便利的同时，也要警惕其在未成年人保护方面可能产生的负面影响。

当前，AI技术迅猛发展，已广泛应用于教育、娱乐等诸多领域，其中不少应用直接面向未成年人。由于未成年人身心发育尚不成熟，辨别能力和自我保护意识相对较弱，而AI聊天软件中的虚拟角色往往具有较强的互动性与拟人化特征，更容易对未成年人产生潜移默化的影响。特别是部分AI聊天软件中虚拟角色生成的内容，可能隐含扭曲的价值观和不良的行为暗示。若未成年人长期接触这些内容，不仅会影响心理健康，甚至可能导致行为出现偏差。这一问题亟须引起全社会高度关注。

为加强未成年人网络保护，2020年修订的未成年人保护法增设“网络保护”专章，全面强化了对未成年人网络权益的保护；《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》等相关法规规章，进一步细化了网络服务提供者的责任与义务。作为AI聊天软件的开发运营者，不能仅追求技术层面的创新，还应将未成年人保护理念融入产品设计的各个环节，包括建立健全AI生成内容审核机制，及时拦截清理涉及暴力、色情等不良信息，从而切实履行未成年人网络保护义务。

严格的执法监督对于督促平台落实法律义务至关重要。此次网信部门对涉事平台进行约谈并责令整改，既是督促其规范经营，也是在警示行业严守法律底线。值得关注的是，中央网信办于今年4月启动了“清朗·整治AI技术滥用”专项行动，整治重点就包括利用AI制作发布色情低俗内容等问题，体现了相关部门与时俱进加强监管的鲜明态度。

科技发展是把“双刃剑”。在AI时代，唯有相关各方以高度的责任感和使命感守住法律底线，才能推动AI技术应用向善向好，为未成年人营造清朗健康的网络环境。这既是技术伦理的基本要求，更是社会文明进步的重要体现。