开展体系化人工智能大模型安全防护 筑牢安全底线
转自：劳动午报
本报讯（记者 宗晓畅）“政府工作报告提出‘更好统筹发展和安全，坚持在发展中逐步化解风险，努力实现高质量发展和高水平安全的良性互动’，此举为人工智能迅速发展背景下的网络安全建设工作提供了指引。”全国政协委员、全国工商联副主席、奇安信集团董事长齐向东建议，开展体系化的人工智能大模型安全防护，筑牢安全底线。
齐向东委员分析，积极构建高可靠性人工智能安全体系，着力为用户提供有效的安全防护，既要用人工智能去驱动安全，又要做好人工智能自身安全。目前，人工智能发展面临着大模型自身的安全问题。开发风险、数据风险、应用风险和基础环境风险比较突出。针对这些安全问题，要从技术保障、制度保障、成果应用三方面入手，系统提升安全能力，确保人工智能安全发展。
为此，齐向东委员建议，首先，建立适配大模型的纵深防御体系，筑牢人工智能的安全根基。二是制定大模型安全强制合规要求，夯实人工智能安全发展的制度保障。要明确大模型安全的组织架构，界定安全主体责任，对基础安全、数据安全、应用系统开发安全、运行安全等方面提出清晰的技术保障要求。同时，做好大模型运行安全监测和内容风控，定期开展安全评估测试，完善应急响应机制，一旦发现异常行为或潜在的安全事件，第一时间进行处置，将安全威胁消除在萌芽状态。三是要推动“AI+安全”创新成果落地，走好提升安全能力的必经之路。随着人工智能应用的进一步铺开，要鼓励更多产业用上、用好“AI+安全”创新成果，提高千行百业的网络安全防护效能。
齐向东委员还提到，网络安全是伴生技术，不会约束数字化发展。在AI高速迭代的背景下，企业应实现安全与创新的动态平衡。要做到关注安全防护体系的构建，拥抱先进的安全防护手段，用好“AI+安全”创新成果，提高安全防护效率。
上一篇：“关税侠”特朗普引爆美股熊市？
下一篇：乌称袭击俄两座炼油厂