随着AI能力越来越强大，海外巨头纷纷把安全问题放在首位，暂缓开发速度。OpenAI甚至宣布，今年不IPO了。

一起看看怎么回事。

OpenAI今年不上市

OpenAI今年不会上市。周末，OpenAI首席执行官山姆·奥特曼（Sam Altman）在接受采访时表示，这家人工智能公司目前将重点放在解决与AI技术相关的安全问题上。

奥特曼表示，今年是一个“不适合”进行首次公开募股（IPO）的时点，OpenAI最早也要到明年才会上市。

奥特曼说：“我认为，如果到了本世纪末，我们仍然愿意接受一个大约10%的概率，让AI把所有人都‘杀死’，这是不可接受的。我认为，我们正在进入一个新时代。就像人类过去进入其他新时代一样，我们可能必须改变做法，以确保我们正在做的事情真正能够让全人类受益，同时也要确保任何人都不能承担接近这种程度的风险。”

奥特曼发表上述言论之际，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）以及xAI联合创始人、首席执行官埃隆·马斯克（Elon Musk）周六也都表示，鉴于AI技术给人类带来的风险正在不断上升，有必要放缓人工智能发展的速度。

对于三家AI领域主要竞争公司的领导人而言，这是一场罕见的共识。

近期，围绕人工智能可能对人类构成“生存级威胁”的担忧，已经逐渐进入主流讨论。

部分原因在于，本周Anthropic一名研究人员高调辞职。他担心公司正在以不负责任的方式推进AI发展，并警告称，人工智能可能会“在本世纪末之前杀死我们所有人”。

Anthropic另一名现任员工也在社交平台X上表示，未来十年内出现这种结果的概率“超过10%”。

奥特曼表示：“我认为，我们所有人都应该同意一个关键原则：我们不能采取任何可能导致人类失去对未来控制权、让AI接管未来的行动。”

放慢AI模型开发速度？

目前，美国的AI巨头表示，现在到了放慢最先进，也是最赚钱AI模型开发速度的时候了，原因是这项技术带来的风险正在不断上升。

Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）周六发表了一篇长篇博客文章，表示公司将采取新的安全措施，包括引入第三方评估人员，同时呼吁整个行业共同放慢前沿AI模型的开发速度。

OpenAI的山姆·奥特曼很快表示，将采纳阿莫迪提出的建议，即引入“拥有类似公司员工访问权限的独立评估人员”。

与此同时，马斯克也发文称：“Dario是对的。”

虽然这三位AI行业领袖多年来都曾警告人工智能可能带来的风险，但真正意义上的协调减速，在这个竞争极其激烈的行业中几乎没有先例。

过去，为了提高用户参与度、争夺市场份额和推动收入增长，各大AI公司一直在不断推出新产品和新模型。

不过，对AI严重风险的担忧如今正逐渐进入主流视野。

其中一个重要推动因素是本周Anthropic一名研究人员高调辞职。这名研究人员因担心AI可能造成“生存级风险”而离职，并指责公司在不负责任地推进AI发展。

这也是AI行业内部一系列越来越严厉警告中的最新一次。业内人士越来越担心，人工智能技术进化速度过快，正在对国家安全和全球经济构成越来越大的威胁。

与此同时，美国国内对AI技术的反弹情绪也在上升。

其中一部分反对声音来自AI数据中心给地方资源造成的压力。随着支持AI所需的新数据中心不断建设，民众越来越担心AI会推高电费，并可能夺走就业岗位。

如今，这些问题也已经成为美国11月中期选举中的重要议题之一。

目前尚不清楚，全球领先的AI公司最终会在多大程度上真正实施新的开发限制或安全检查。

Alphabet首席科学家、Google DeepMind联合创始人德米斯·哈萨比斯（Demis Hassabis）周六在X平台发文表示，阿莫迪文章所提出的“方向是正确的”，但“具体细节还需要进一步研究”。

此外，还有资本市场层面的疑问。

过去几年，AI热潮推动全球股市不断刷新高点。那么，那些迫切希望看到利润率和盈利增长的投资者，会如何看待AI行业主动“减速”？

阿莫迪表示，他如今变得更加谨慎，主要有两个原因。

第一是AI已经表现出越来越强的自我改进能力。

第二是近期发生的OpenAI和Hugging Face安全事件。在这起事件中，大量AI智能体组成的“群体”协同合作，成功攻破了一个第三方网站。

阿莫迪周六在博客中写道：“我们必须放慢提升AI模型能力的速度。即便如此，技术进步看起来仍然会非常快，而我们必须明智地利用由此争取到的时间。”

但他同时也承认，任何减速措施都必须与现实中的竞争压力取得平衡。

不过，这类说法过去有时也被外界质疑，认为AI公司是在借此宣传自身产品的强大能力，同时把自己包装成最适合管理这项技术的机构。

值得注意的是，在上述消息传出后，HyperliquidX平台上的相关资产应声下跌，OpenAI和Anthropic的跌幅分别达到7%和3%。

美国硅谷知名的企业家、风险投资人和播客主持人Jason Calacanis发文称，AI股票将在周一早盘下跌10%以上。