研究：AI公司安全防护措施远未达标_热点

创始人

2025-12-04 08:01:54

　　根据未来生命研究所（Future of Life Institute）周三发布的新版人工智能（AI）安全指数，Anthropic、OpenAI、xAI 和 Meta 等主要人工智能公司的安全实践 “远低于远低于全球新兴标准”。

　　该研究所称，由独立专家小组进行的安全评估发现，虽然这些公司都在竞相开发超级智能，但没有一家公司制定了控制此类先进系统的完善战略。在多起与AI聊天机器人相关的自杀和自残事件曝光之后，公众愈发担心具备推理和逻辑思维能力、甚至比人类更聪明的系统对社会的影响。这项研究正是在这种背景下发布的。

　　麻省理工学院教授、未来生命研究所主席Max Tegmark表示：“尽管近期因AI驱动的黑客攻击以及AI导致人们出现精神错乱和自残行为引发强烈关注，美国AI公司受到的监管力度仍不及餐馆，而且还在继续游说反对有约束力的安全标准。”