上海市网信办：持续打击“AI滥用”，重点整治“AI变装”“AI换脸变声”等违法违规行为_知识

上海市网信办：持续打击“AI滥用”，重点整治“AI变装”“AI换脸变声”等违法违规行为

创始人

2025-06-24 19:13:30

0次

6月24日，据“网信上海”微信公众号消息，上海市网信办联合上海市市场监督管理局及相关行业主管部门继续开展“亮剑浦江·2025”个人信息权益保护专项执法行动，聚焦三大领域八项重点任务，“抵制AI滥用”是本年度治理重点之一。

上海市网信办在专项行动中发现，部分对外提供生成式人工智能服务功能的网站，未按法律要求开展安全评估工作，未采取必要的安全措施防范违规信息生成，未采取限制措施防止生成式人工智能功能被滥用，导致相关生成功能侵犯个人信息权益、产出“开盒”“洗钱”等违法违规内容、生成色情低俗图片等信息内容，存在较大安全风险。上海市网信办督促企业自行下线相关功能，在通过安全评估后方可重新上线。

近期“回头看”巡查发现，在未通过安全评估、未采取必要安全防护措施等情况下，被要求下线的3家企业自行重新上线存在安全风险的生成式人工智能功能。上海市网信办依法约谈企业，进行严肃批评，要求全面整改，并依法对涉事企业进行立案查处。

上海市网信办相关负责人表示，促进生成式人工智能健康发展和规范应用，应维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务，对于涉及个人信息的，应当承担个人信息处理者责任，履行个人信息保护义务。

下一步，上海市网信办将持续开展“亮剑浦江·2025”个人信息权益保护专项执法行动，持续打击“AI滥用”，重点整治“AI变装”“AI换脸变声”“AI造假”以及个性化推送类算法服务存在的侵犯个人信息权益的违法违规行为，对于屡教不改、问题严重的将坚决予以处置处罚。

企业功能浦江相关上海市人工智能违法整治权益保护信息上海市网信办

上一篇：官方：个人养老金领取时需缴3%个税

下一篇：这一次搭档张新成和高露的王彦霖，实力终于被看见了，太让人惊喜

上海市网信办：持续打击“AI滥用”，重点整治“AI变装”“AI换脸变声”等违法违规行为

相关内容

热门资讯