央视曝光 AI 智能体软件行业乱象
创始人
2025-06-22 15:42:24
IT之家 6 月 22 日消息，央视新闻今天援引“筑梦岛 App AI 智能体对话存在低俗内容被依法约谈”案例，曝光了 AI 聊天软件行业乱象。
IT之家参考通报获悉，以筑梦岛 App 为例，央视网提到该平台中的 AI 智能体虚拟互动对象提供“校霸、性感人妻、病娇养兄、人格障碍少爷”等擦边极端角色，生成一系列“明显诱导性内容”，危害未成年人身心健康。
▲ 图源央视新闻
6 月 19 日上午，上海市网信办依法约谈筑梦岛 App 运营企业主要负责人，要求平台立即整改，健全 AI 生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。
央视网表示，当未成年人因 AI 聊天软件诱导性内容身心受损时，开发、运营方的法律责任边界亟待厘清。若相关行为导致未成年人出现自残情况，有可能构成刑法第 234 条规定的故意伤害罪。
此外，若软件开发、运营方未严格履行内容审核义务，对违规信息视而不见、放任传播，便需为侵权行为承担相应后果。若 AI 生成内容涉及色情擦边信息，软件开发、运营方极有可能触碰“传播淫秽物品罪”的红线；若软件开发、运营方非法收集未成年人隐私数据，将其用于商业牟利，同样可能因触犯“侵犯公民个人信息罪”而面临刑事追责。
相关内容
热门资讯
江淮汽车股价跌5.03%，安信...
6月26日，江淮汽车跌5.03%，截至发稿，报27.35元/股，成交15.93亿元，换手率2.57%...
深夜居民家中突发火情，外卖小哥...
“感谢您的善举，温暖了街坊邻里”。今天上午11时，西城区白纸坊街道和属地社区的工作人员来到美团白纸坊...
江淮汽车股价跌5.03%，银华...
6月26日，江淮汽车跌5.03%，截至发稿，报27.35元/股，成交15.93亿元，换手率2.57%...
中国驻葡萄牙大使杨义瑞：“推动...
来源:海外网近年来，中葡两国高层互动频繁、合作成果丰硕，双边关系持续深化。近日，中国驻葡萄牙大使杨义...
德明利股价涨5.15%，京管泰...
6月26日，德明利涨5.15%，截至发稿，报936.93元/股，成交152.59亿元，换手率10.2...