美AI公司报告：有人曾试图利用其AI模型制造致命病原体_热点

创始人

2026-09-13 20:11:05

据英国《卫报》网站9月10日报道，Anthropic公司10日发布的一份报告显示，曾有犯罪分子、国家支持的组织、间谍软件供应商和科学家试图利用该公司强大的人工智能（AI）模型设计导弹与炸弹，并制造致命病原体。

Anthropic公司在这份长达154页的报告中写道：“我们在这里分享的案例并非通常的滥用，而是迄今我们识别出的最值得注意和最新的威胁活动样本。”

该公司特别详述五起科研人员将其AI模型用于生物学研究的案例。报告称，在这些案例中，研究人员绕过该公司为拦截“未开放服务地区”用户设置的安全防护，并设法掩盖其研究工作的真实目的。

报告写道：“生物学滥用是前沿AI模型最严重的风险之一。如果缺乏适当的防护措施，此类能力可能造成灾难性的后果。”

据悉，此类研究既可用于研发疫苗，也可能用于制造生物武器。

另据美国《纽约时报》网站9月11日报道，Anthropic公司表示，今年已多次阻止科学家利用其领先的AI模型开展研究的企图，这些研究可能有助于开发生物武器。

在一份描述其AI模型被滥用的报告中，Anthropic公司表示无法确定这些研究是出于合法还是邪恶目的，因为有效的生物学研究也可能有助于设计危险病原体。面对这种不确定性，Anthropic公司表示选择谨慎行事，因为漏掉恶意活动的后果可能很严重。

报道称，生物学滥用作为AI带来的生存风险受到的关注较少，部分原因是过去的案例通常只出现在研究环境中，而非现实世界。