开源AI成全球安全隐患,研究人员警告
创始人
2026-02-04 07:19:07

安全简报 如果说AI本身已经引发足够多的安全担忧,现在研究人员又发现,开源AI部署可能比商业供应商的产品带来更大的问题。

SentinelLABS的威胁研究人员与Censys的互联网测绘专家合作,调查了暴露在互联网上的Ollama部署情况,他们发现了一个遍布全球的高度同质化开源AI部署网络,这些系统正等待着某个零日漏洞的到来。

研究发现,130个国家的175,108个独立Ollama主机暴露在公共互联网上,其中绝大多数实例运行的是Llama、Qwen2和Gemma2模型,且大多依赖相同的压缩选择和打包机制。研究人员表示,这表明开源AI部署已经形成了一种易于被利用的单一文化。

两家机构在报告中指出:"特定量化模型在处理Token时的漏洞可能会同时影响大部分暴露的生态系统,而不是表现为孤立事件。"

更糟糕的是,许多暴露的Ollama实例通过API端点启用了工具调用功能、视觉功能,以及缺乏安全防护的未审查提示模板。SentinelLABS和Censys警告说,由于这些系统不是由大型AI公司管理,这些暴露点很可能没有人跟踪,这意味着被利用后可能不会被发现。

两家机构认为,最大的风险包括:由于缺乏集中监督导致的资源劫持;由于缺乏防护措施和暴露的API端点导致的特权操作远程执行;以及通过受害者基础设施引导恶意流量进行身份伪装。

研究人员指出,关键教训是要开始像对待其他关键基础设施一样对待AI,无论是否开源。

SentinelLABS和Censys总结道:"大语言模型越来越多地部署到边缘,将指令转化为行动。因此,必须像对待其他外部可访问基础设施一样,对它们实施身份验证、监控和网络控制。"

美国财政部泄密事件后终止咨询公司合同

美国财政部已与咨询公司博思艾伦汉密尔顿(Booz Allen Hamilton)终止合作,原因是该公司一名员工窃取并泄露了特朗普总统和其他美国知名人士的机密纳税申报表,财政部称该公司不适合处理敏感纳税人数据。

截至上周,博思艾伦与财政部共有31份独立合同,年度总额达480万美元。财政部长斯科特·贝森特表示,该公司被终止合作是因为"未能实施充分的保障措施来保护敏感数据,包括通过与国税局合同可以访问的机密纳税人信息"。

财政部表示,博思艾伦前员工查尔斯·利特尔约翰的行为是其决定的关键因素。利特尔约翰承认泄露了超过40万美国公民的税务信息,他在2018年至2020年间窃取并泄露了税务记录,其中最引人注目的是唐纳德·特朗普和埃隆·马斯克的记录。

韩国政府系统模拟攻击全部被攻破

2024年末,韩国官员对几个面向公众的系统进行了模拟网络攻击,以评估其弹性。结果并不令人鼓舞。

这次模拟攻击的结果最近才公开,研究人员针对韩国政府使用的123个公共系统中的7个进行了攻击,结果每一个都被成功攻破。

这些系统不仅可被攻破,其中一个系统允许黑客查询几乎整个韩国人口的居民登记号码,另一个系统在访问后20分钟内泄露了1000万人的信息。第三个系统以未加密格式保存关键信息,使渗透测试人员获得管理员权限并窃取了13万人的登记号码。

负责这次模拟网络攻击的审计检查委员会没有披露受雇黑客如何攻破系统的具体细节,以免鼓励任何人尝试入侵,也没有分享测试的具体公共系统名称。

据报道,修复措施已经部署,希望有人费心检查了其他116个系统,以确保它们也不是安全隐患。

网络安全专家因渗透测试被捕后获赔60万美元

2019年被逮捕并被指控入室盗窃的两名网络安全专家不仅撤销了指控,还在对雇用他们进行评估的县提起的错误逮捕诉讼中赢得了60万美元赔偿。

加里·德梅尔库里奥和贾斯汀·温恩于2019年在试图访问爱荷华州达拉斯县法院时触发了物理警报而被捕,他们当时正在对该县系统进行渗透测试。

温恩在其律师发布的和解新闻稿中表示:"(逮捕)向全国安全专业人员传递了一个令人不寒而栗的信息,即帮助政府识别真实漏洞可能导致逮捕、起诉和公开耻辱。这削弱了公共安全,而不是增强了它。"

两人在事件发生后继续从事网络安全工作,目前在德梅尔库里奥创立的一家对抗模拟和真实世界安全测试公司共事。

朝鲜网络威胁组织分化为三个专业团队

如果应对一个危险的朝鲜网络威胁还不够糟糕,现在最活跃的组织之一已经分裂成三个独立但协调的实体,专门从事不同形式的数字犯罪。

Crowdstrike上周报告称,Labyrinth Chollima已经衍生出Golden Chollima和Pressure Chollima,该公司表示这表明朝鲜的网络犯罪正在演变为更加专业化的形式,旨在同时追求多个目标。

据Crowdstrike称,Golden Chollima针对美国、欧洲和韩国等经济发达地区的加密货币和金融科技公司,试图不断从脆弱目标进行小额盗窃。

Pressure Chollima虽然仍专注于金融和加密目标,但已成为发生高调盗窃事件的地方,Crowdstrike称其已成为朝鲜"技术最先进的对手"之一。

与此同时,原来的Labyrinth Chollima组织已将重点完全转移到恶意软件驱动的间谍活动,针对美国和其他地区国防和制造业的知名公司。

Crowdstrike警告说:"加密货币、金融科技、国防和物流行业的组织应该对朝鲜的社会工程攻击保持高度警惕,特别是以就业为主题的诱饵和通过消息平台传递的被植入木马的合法软件。"

Q&A

Q1:开源AI部署面临哪些安全风险?

A:研究发现,全球130个国家的超过17.5万个Ollama主机暴露在公网上,大多运行相同模型且缺乏安全防护。主要风险包括:资源被劫持、特权操作被远程执行、恶意流量身份伪装等。由于缺乏大型AI公司的集中管理,这些漏洞可能被利用后也不会被发现。

Q2:韩国政府系统模拟网络攻击的结果如何?

A:2024年末,韩国审计检查委员会对7个政府公共系统进行模拟攻击测试,结果全部被攻破。其中一个系统可被查询几乎全部韩国人口的居民登记号码,另一个在20分钟内泄露1000万人信息,第三个因未加密导致13万人登记号码被窃取。目前修复措施已部署。

Q3:朝鲜Labyrinth Chollima网络组织发生了什么变化?

A:Crowdstrike报告显示,Labyrinth Chollima已分化为三个专业团队:Golden Chollima专注对发达地区的小额加密货币盗窃;Pressure Chollima负责高调金融盗窃行动;原组织则转向针对国防和制造业的恶意软件间谍活动。这标志着朝鲜网络犯罪向更专业化、多目标同时运作的方向演进。

相关内容

热门资讯

海油发展招标:安全环保公司蒸发... 2月3日消息,天眼查数据显示,中海油能源发展股份有限公司发布海油发展安全环保公司碧海环保处理厂蒸发结...
滨州学院排名 最新或2023(... 所在地区:山东,滨州学校网站:www.bztc.edu.cn建校时间:1958 年每年学费:3400...
揭秘清朝为什么那么招黑 清朝到... 清朝为什么这么招黑,这是很多读者都比较关心的问题,接下来就和各位读者一起来了解,给大家一个参考。中国...
青帮既然是黑社会 为什么清朝会... 还不知道:青帮既然是黑社会为何清朝会不管呢的读者,下面趣历史小编就为大家带来详细介绍,接着往下看吧~...
揭秘:商纣王的“酒... 揭秘:商纣王的“酒池肉林”真的存在吗?下面趣历史小编为大家详细介绍一下相关内容。我们知道商朝灭亡的起...