转自：法制日报

截至2024年底，累计处置低质AI内容超93万条，禁言、封禁相关账号超2.9万个，用户关于低质AI内容的负反馈量级从28条/天降至2条/天……近期，今日头条发布的《2024今日头条治理年度报告》（以下简称“《报告》”），公布了这样一组数据。

近年来，AIGC（人工智能生成内容）创作正在经历快速发展与迭代，随之而产生的部分低质内容成为了广大互联网用户的困扰。利用AI技术，一个普通用户可以在短时间内“创作”出海量真假难辨的雷同、低质内容；一些虚假的消息，通过AI生成的图片、视频等，足以“以假乱真”；甚至还有网络用户利用AI编造地方暴力犯罪案件或虚假社会民生问题……如此种种，不仅严重危害着健康和谐的网络生态，甚至会将负面情绪延伸至现实社会。

《报告》介绍说，2024年，今日头条加强AI识别的模型训练，增强机器识别能力，完成低质 AI 模型并持续迭代，命中模型的内容将会自动进行处置，减少或禁止分发；同时收严对 AI 生成内容的人工审核力度，前置发现并控制低质 AI 内容的传播。

此外，今日头条还上线“AI 创作”标签，平台识别到创作者使用 AI 工具辅助创作时会打上标签，希望帮助用户在浏览过程中提高信息的透明，并且通过发布违规治理公告等方式，倡导创作者合理使用 AI 工具进行辅助创作，对违规内容和账号从严处罚；对滥用 AI 生成的低质内容及时处置。

今日头条开展低质AI内容治理，是营造平台内良好生态的重要举措。一方面，对同质化、低质化AI生成内容的治理，可以更好激励平台内创作者产出优质内容；另一方面，虚假内容被打击清理、优质内容被突出呈现，可以让用户对平台更加信任和依赖；此外，平台对低质AI内容进行治理的过程对用户来说也是一场持久性和大规模的公益教育活动。

在平台自治领域，今日头条对低质AI内容的强效能治理同样意义重大。该平台是全网综合影响力前十的综合资讯类APP，其发展历史长、用户年龄层偏大，用户对AI的鉴别能力整体偏弱，更容易受到虚假信息的引导，是平台自治的薄弱环节。其探索出的治理经验和模式，可以更好助力广大互联网平台用户更好拥抱AIGC时代。

不过需要强调的是，AIGC时代的内容治理，应该是一项综合性、系统性工程，不能仅靠平台自治，而需要政府、平台和社会三方形成有机协作体系，通过明确权责边界、建立协同机制、整合技术资源，构建动态平衡的治理生态。

具体来看，在平台主体责任充分履行的前提下，相关部门可以建立辟谣平台和预警机制，并且设立举报奖励机制，鼓励大众主动参与AI内容治理。同时，国家相关部门和平台之间还可以建立数据共享和风险共治机制。

立法、司法机关或政府相关职能部门等也应及时探索出台相关法律法规、办法或意见等，实现国家相关部门、平台、行业协会、社会公众等一道实现治理规则与AI内容生态的协同进化，最终形成具有韧性、包容性和前瞻性的治理共同体。

未来已来，将至已至。各方还应通力合作，加深广大网络用户对AI的学习和认知，以增强大众对AI生成内容的鉴别和认识能力，更好面对和解决AIGC时代不断涌现的新问题。