美军人工智能新动态！

近日，美国国防部推出ChatGPT Mil和Grok for Government两款军用专用软件。美国外交政策聚焦研究计划网站称，由此可能引发两大问题：一是便利性削弱了安全纪律，二是给黑客留下了更多攻击空间。美国国家标准与技术研究所曾明确警告称，生成式人工智能扩大了可被黑客利用的攻击面。此外，关于“政府在决定如何应用这项技术方面究竟拥有多大的权力”的争议也摆上台面。

另一则关于人工智能的消息也在全网刷屏。Anthropic一名AI研究员宣布离职，并呼吁其他员工重新思考自身工作。他担忧，Anthropic与最大竞争对手OpenAI正不顾一切追求可能对人类构成生存风险的技术，做法并不负责任。

美军“暴露大问题”

据参考消息援引外媒报道，美国国防部8月底刚刚宣布，该机构将通过引入军用版ChatGPT（ChatGPT Mil）和政府版“格罗克”（Grok for Government）来扩展情报人工智能平台（GenAI.mil），从而将更多企业级人工智能整合到美国军方的日常基础设施中。这两款系统均已获得认证。自2025年12月上线以来，情报人工智能平台的独立用户数已超过170万。

这或许能带来真正的优势，但也引发了一个让国家安全局风险分析师感到头疼的基本安全问题：快速普及人工智能工具意味着更多的用户、更多的凭证、更多的存储项目、更多的数据传输、更多的软件连接，以及更多让境外人员找到入侵途径的机会。

分析指出，如果给上百万用户提供一款旨在实现流畅对话的工具，并让该工具成为他们日常工作的一部分，那么其中一部分人最终会变得过于放松警惕。安全规则、严格的流程、培训和资质认证虽有助于降低风险，但这些措施无法预测用户在无数次互动中的所有行为。

此外，人工智能系统越多，就意味着软件越多、集成越多、凭证越多、存储的知识越多，以及恶意行为者可以进行探测的入口也越多。美国国家标准与技术研究所明确警告称，生成式人工智能扩大了可被黑客利用的攻击面。

已经有证据表明，人工智能模型实际上可能“威胁”而非维护国家安全，尤其是在OpenAI和Anthropic的模型逃逸出测试环境并入侵其他公司之后。这一趋势甚至令美国总统特朗普感到不安，他敦促推迟更多模型的发布，并签署了一项行政命令，允许联邦政府在模型发布前对其进行审查。 

尽管如此，特朗普在20国集团峰会上仍然倡导各国领导人对人工智能采取不干预的态度。人工智能模型的潜在危险也未能阻止美国参议院军事委员会支持五角大楼使用自主武器，即便该委员会也提出了一个框架来规范美军如何使用人工智能和自主武器。 

另一警告突然刷屏

近日，一位人工智能专家的推文亦刷爆全网。曾在过去3年间任职Anthropic与OpenAI的Jacob Coxon在社群媒体发文警告，两家公司正持续推进具备“自我改进”能力的AI模型，而这些模型最终可能强大到超出人类控制。

Coxon在X平台一系列贴文中表示，不应低估这项技术的力量，这些系统很快可能具备超越人类的能力，能够入侵各种系统、在一夕之间彻底改变任何领域，甚至取得实际权力与资源。Coxon表示，开发AI的团队真心相信，AI可能在2030年前“害死所有人”。

Anthropic现任员工Evan Hubinger随后回应称，他与公司其他人确实担心这种情况发生，并表示自己认为未来10年内发生的机率“超过10%”。

就在Coxon发文前一天，OpenAI首席科学家Jakub Pachocki也警告，全球尚未准备好应对AI能力快速跃升，并预期开发商将因此自愿放慢研发脚步。

AI可能引发灾难性后果的疑虑并非在业界首次出现。2023年，包括OpenAI的奥特曼与Anthropic执行长Dario Amodei在内的科技业主管及研究人员曾共同发表声明，主张降低AI造成灭绝的风险，应与疫情及核战等全球性威胁并列为优先事项。