观点网讯:9月13日,Anthropic CEO达里奥·阿莫代伊发布长篇博文,表示公司将采取新的安全措施,例如引入第三方评估机构,同时呼吁整个行业支持更广泛的放缓AI模型发展的措施。
奥尔特曼很快表示,将采纳阿莫代伊提出的“赋予独立评估机构类似员工的访问权限”这一建议,并称“我们很快会分享更多信息”。运营xAI的埃隆·马斯克也表示:“达里奥说得对。”
阿莫代伊在文中提出三步限速计划:驻场评估、国家协同、全球协同。Anthropic承诺率先开放内部流程,让第三方评估团队获得近似员工的长期访问权限。
他同时给出风险预测:智能体群可能在6—12个月后具备借助持久僵尸网络大范围控制互联网的能力,并可能造成数千亿美元损失。
在竞争层面,阿莫代伊主张通过各种反制措施确保在未来3—5年扩大美国领先。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。