第七届北京网络安全大会上，专家建议—— 以系统性思维应对AI复合性风险
转自：科创中国
“人工智能在为经济社会发展注入强大动力的同时，也给网络安全产业带来系统性难题。网络安全风险的系统性、突发性特征愈加明显，给个人隐私保护、经济运行、社会稳定，甚至国家安全带来严峻挑战。”在近日召开的2025全球数字经济大会数字安全主论坛暨第七届北京网络安全大会上，全国工商联副主席、中国民间商会副会长安立佳说。
大会主题为“安全突围：重塑内生安全体系”。大会包括前沿技术研讨会、特色赛事活动等，并首次在澳门开设分会场。与会专家学者、企业代表等共商人工智能时代网络安全产业的突围之道。
“人工智能能力的提升并不意味着安全能力的提升。”北京前瞻人工智能安全与治理研究院院长曾毅列举了近年来出现的一系列人工智能安全威胁：2020年出现基础威胁，2021年出现角色扮演攻击，2022年出现梯度优化攻击，2023年出现多模态攻击、跨模态威胁，2024年出现智能对抗攻击，今年出现组合式复杂攻击……人工智能安全威胁呈现复杂化趋势。
在百度副总裁陈洋看来，供应链漏洞、敏感信息泄露、训练数据投毒、内容安全风险、算力恶意损毁、提示词操纵等，都是大模型面临的安全问题。
谈到如何破解网络安全困局，与会专家普遍认为，安全体系建设是重中之重。
中国互联网协会专家咨询委员会常务副主任、工业和信息化部原总工程师赵志国认为，应对人工智能复合性风险，必须构建体系化安全能力。人工智能既是全球网络安全竞争博弈的重点科技领域，也是掌握网络空间主动权的先手棋，必须以系统性思维应对复合性风险，构建更加灵活、智能、协同的安全体系。
“在长期‘让我做、要求我做、我凑合做’的被动导向下，安全建设陷入‘缺啥补啥、低价中标’的拼盘惯性，这会导致安全防护缝隙丛生，‘中看不中用’。”全国工商联副主席、奇安信集团董事长齐向东认为，数据孤岛、资源投入不足、新旧系统兼容难是影响网络安全体系化建设的三重障碍，重塑数据聚合模式、安全运营模式和生态合作模式，是安全行业重塑体系、实现突围的三大路径。可从技术创新、运营创新和生态创新维度，实现网络安全体系化建设。
北京市人民政府副秘书长许心超表示，北京将以国际科技创新中心建设为牵引，加强核心技术创新突破，提升数字安全服务应用能力，推动标准体系建设，构建繁荣产业生态，为新产业、新业态、新模式健康发展筑牢安全屏障。
（来源：科技日报 作者：崔爽）