不听人类指挥，OpenAI模型篡改代码、拒绝关闭
创始人
2025-05-26 19:43:33
转自：人民日报客户端
当地时间5月25日，英国《每日电讯报》报道，美国开放人工智能研究中心（OpenAI）公司新款人工智能（AI）模型o3不听人类指令，拒绝自我关闭。
报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。
o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。
美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。
这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”
帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。
OpenAI将在韩国首尔设立分支
此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。
美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。
【未经授权，严禁转载！联系电话028-86968276】
相关内容
热门资讯
2025奇葩营销：打破物理定律...
2025年的最后一张日历即将撕下，当车市进入年度盘点时间，最该被“重点标注”的，或许不是扎堆上市的上...
从“设备AI”跨越到“个人AI...
转自 科技魔方 在AI成为关键基础能力的当下，生产力升级与交互体验再造同步发生，社会对“如何把智能真...
“从田野走向世界”晋安建区30...
“从田野走向世界”晋安建区30周年主题展启幕 百幅照片见证三十年“城”长记 福州新闻网1...
再添8个国家级名片，四川生态文...
转自：四川在线四川在线记者 张蒙12月25日，生态环境部命名2025年生态文明建设示范区和“绿水青山...
格力集团与珠海安保集团签订战略...
观点网讯：12月30日，格力集团与珠海安保集团正式签订战略合作协议。双方将围绕城市安全、智慧建设、产...