奇安信董事长齐向东首倡“小数据安全观”:政务大模型需破解训练与应用双环节风险
创始人
2025-04-10 18:26:53

4月10日,由国家数据局联合中央网信办、工业和信息化部、人力资源和社会保障部等多个部委及机构共同发起的2025年“数据要素X”大赛在雄安新区启动。全国政协委员、全国工商联副主席、奇安信集团董事长齐向东出席活动并表示,大数据时代要解决好小数据安全问题,小数据安全是稳妥有序推进政务大模型应用的关键。

“过去提到数据通常指大数据,规模很大,但碎片化且质量参差不齐,很难最大程度挖掘数据价值;而在打造政务大模型等人工智能垂直应用场景时,原来分散在各处的大数据经过标注、清洗和学习后,变成了高价值、集中化的小数据。这些高价值的小数据集中用于投喂政企机构的人工智能大模型,数据重要性显著提高,小数据拥有者需要对数据安全高度重视。可以说,安全成为稳妥有序推进政务大模型应用的关键。”齐向东分析说。

齐向东建议,在模型训练阶段,对数据的访问,标注和清洗等过程,要严格做好访问控制、人员权限管控和行为审计,尤其要关注外包人员,并利用终端可信数据空间能力,确保数据不落地,防范内鬼盗取数据。

比如,在大模型应用运行阶段,可采用奇安信大模型应用安全盾解决方案,从整体上保障大模型应用系统安全。一方面要关注大模型带来的新的安全风险,比如提示词注入,模型输出内容,以及向量数据库的安全防护。另一方面要重视终端、网络、数据和应用的安全,构建起内生的纵深防御体系。

会上,由河北省数政局与奇安信集团联合打造的“河北省公共数据要素流通全生命周期动态安全防护体系”正式发布。

为应对数据安全风险,河北省数政局与奇安信集团共同规划设计了“监管+制度+技术”的安全防护体系。

在制度建设方面,构建公共数据分类分级、授权运营合规审查等机制;在技术建设上,利用访问控制、脱敏加密等技术保障数据安全。该体系全方位保障数据全生命周期安全,既能守护河北省公共数据安全,也将为全国提供参考范例,助力数字经济安全发展。

(文章来源:证券时报·e公司)

相关内容

热门资讯

苏州一AI创新药企业获华兰股份... 近日, AI创新药企业科迈生物科技(苏州)有限公司(下称“科迈生物”)宣布完成一笔“种子+”轮融资,...
AI会客厅 | 全国政协委员周... 2026年是“十五五”开局之年。站在新的历史起点上,如何推动文化产业与人工智能等技术深度融合,培育数...
Quill Meetings开... 网络会议越来越多地被自动记录笔记的机器人加入,它们在云端进行观察。但是否有更好的选择? Quill ...
阶跃星辰进一步开源Step 3... 中证报中证网讯(记者 王辉)3月4日,大模型创业公司阶跃星辰继开源Step 3.5 Flash模型后...
中国经济高质量发展成效如何?代... 央视网消息(焦点访谈):随着全国政协十四届四次会议第一场新闻发布会在人民大会堂一楼新闻发布厅召开,今...