图灵奖得主约书亚・本吉奥：超级智能体与人类竞争或带来灾难性后果，甚至导致人类灭绝_热点

创始人

2025-07-26 15:30:25

0次

　　2025世界人工智能大会（WAIC 2025）于7月26-28日在上海举办。图灵奖得主约书亚・本吉奥表示，人工智能的规划推理能力有望在10年内达到人类水平。

　　他提醒，若缺乏坚实防护措施，强大的人工智能系统可能放大现有风险，如虚假信息、网络攻击和生物威胁等。更令人担忧的是，人类可能失去对自我保护型智能体的控制，这些智能体认知能力或将很快超越人类。即便风险很小，超级智能与人类竞争也可能带来灾难性后果，甚至导致人类灭绝。

　　他强调，只要科学界仍有相当比例认为这种情况可能发生，就必须保持最高警惕。目前尚无科学验证方法确保人工智能可信且始终遵从人类意图。更糟糕的是，欺骗和自我保护行为在最强模型中似乎更加明显。