转自：中国科学报

7月26~28日，2025世界人工智能大会（WAIC）在上海举办。期间，香港科技大学校董会主席沈向洋和前Google首席执行官埃里克·施密特围绕“人工智能全球合作展望”，展开了一场“炉边对话”，回顾了中国人工智能（AI）领域的发展历程，并探讨了AI安全、中美合作等议题。

 施密特认为，过去两年，中国的AI技术已经取得了举世瞩目的成就。在发展过程中，开源和技术合作将是推动AI健康发展的关键，同时也不可忽视技术滥用的风险。施密特对中美携手应对这一时代变革充满期待，强调只有通过开放对话，才能真正引领AI走向一个更加负责任和可持续的未来。

?

以下为对话内容（有所删减）：

沈向洋：

你这次来中国去了不少的公司参观，你觉得目前中国的AI发展如何？

埃里克·施密特：

中国人的工作态度非常出色，给我留下了深刻的印象。两年多前，我与基辛格博士（美国前国务卿亨利·基辛格）一起来到中国。当时我感觉中国还没有完全认识到AI的潜力和力量。

但在过去的两年里，我们已经看到了中国AI模型的巨大进步，中国同行在这个领域取得了显著的成绩，尤其是DeepSeek、Mini Max、Kimi等大模型的出现和发展。

我们也看到中美之间存在非常显著的区别。美国的大多数领先模型，尤其是语言模型，并不是开源的，也不开放权重。而中国则采取了开放权重的方式，这已经成为当前AI发展中的一个重要特点。

沈向洋：

刚才你提到了基辛格博士，在四年前的WAIC系列会议上，关于AI对人类影响这个话题，他提到了一些非常深刻的想法。你和基辛格、克雷格·蒙迪合作完成了《人工智能时代与人类价值》，这本书具体讲了哪些内容？

?

埃里克·施密特：

基辛格博士在最后15年的研究中，认为AI将会成为社会非常大的一个挑战。

作为哲学家和社会学家，基辛格博士对技术方面的理解相对有限，但他对AI的发展有很深刻的思考和见解。关于AI在社会层面的影响，他特别担心AI快速发展对人类文明和尊严会造成影响，以及国家竞争等问题。他提供了一个关键的建议，就是要通过合作防止AI带来的负面影响、拥抱它带来的正面影响。

AI能够切实推动健康、工程、气候变化等领域科技水平的提升，帮助我们创造更好的社会。AI也影响到了我们每个人，帮助我们提高生产力。我们目前最大的担忧是，如果面对的是智能体而非人类，并且它比人类更聪明，该怎么办？

沈向洋：

你说的对。我现在有另一个问题，你认为中美之间应该如何增强互信，加强AI方面的合作？

埃里克·施密特：

事实上，整个行业普遍认为，这些问题是可以解决的，但需要迅速行动，因为科技发展的速度非常快。我相信只要投入足够多的力量、付出足够的努力，就能解决一切问题。

我认为，未来的协作是不可避免的。因为随着技术发展，将会出现超级智能系统，这些系统会有能力相互协作和协调。

过去，基辛格博士推动了一系列项目，其中重点在于共享深度见解、风险研判与测试数据，避免任何一方因意外而产生误判。我们需要让中国和西方的研究人员互相交流、合作探讨，在价值观方面达成一致性，在AI发展的浪潮中共同守护人类尊严与主体地位。

沈向洋：

没错，我们之间首先要进行对话交流，才能更好地理解对方的价值观。AI非常强大，我们需要如何防止其扩散？你如何看待开源和闭源之间的平衡？

埃里克·施密特：

我更倾向于支持开源。开源技术虽然有一些潜在风险，但我们可以通过设定限制措施进行管理，并根据需要调整。闭源公司则通常会受到政府监管，不容易出现开源相关的风险问题。

开源的扩散就像即时传播一样，如果你发明了一项技术，其他地方的人很快就能使用。我们可以与开源技术的倡导者合作，关键在于明确技术的“编辑者”，以及在哪些地方可以应用，在哪些地方需要设置“防护栏”。理想的场景是，我们能根据人类的价值观来训练和对齐这些模型。

目前，一些模型的安全性还需要提升。比如AI幻觉问题，我们也在努力避免这些问题，但尚未找到有效的制衡措施。更进一步说，很多人认为接下来的三年内，AI系统将会进行递归式的自我改进。因此我们必须非常小心，了解它们到底会学到了什么，因为它们可能会学习有害的内容。

沈向洋：

上次我和基辛格博士交流时，正值他第一本和您合著的的书上市，即《人工智能时代与人类未来》。几年后，他的第二本书《人工智能时代与人类价值》出版，这也基辛格博士和您的最后一本书。你曾是谷歌CEO，你的管理经验、行业经验，是不是也会体现在这本著作中？

?

埃里克·施密特：

基于克雷格·蒙迪（微软公司前首席研发策略长）和我的工作背景，可能我们更了解商业方面的情况。

我们在《人工智能时代与人类价值》一书的前面部分也讲到了，从古到今，世界上不乏多才多艺的人。我们相信，随着AI的发展，每个人都能够有一个多才多艺的工具来帮助自己，这对于企业、个人的工作和生活都带来非常大的影响。但总体来说，我们在治理以及相关讨论上面还没有做好准备。

我认为，作为最大以及最重要的经济体，美国和中国应该在这些问题上合作。我们的共同目标是一起让世界稳定和平，确保人类能够控制住这些工具。

沈向洋：

杰弗里·辛顿认为，这些国家没有办法技术合作，或者说他们只能在面对共同的威胁时才合作。你是否同意他的观点？

埃里克·施密特：

我是基辛格博士的学生，他的看法是，如果你坐下来，我们根据共同的目标进行谈判的话，就可以实现目标。他愿意和任何人坐下来谈。

在中国发展的历史长河中，从一穷二白到改革开放，再到后来实现巨大飞跃，现在上海等城市也能够生产先进的机器人，诸如此类，说明我们都有积极发展的价值观。

我是乐观主义者。我认为中国和美国可以一步步建立信任，中美之间曾经这样合作过，我们也可以再次合作。

沈向洋：

看来我们两个人对于未来的合作都很乐观。关于AI和技术的未来，你认为最令人振奋的是什么？

埃里克·施密特：现在许多国家和企业都在进行战略规划，比如OpenAI的ChatGPT、Claude、Gemini等产品都取得了许多突破，中国的DeepSeek和其他大模型也做得非常出色。

接下来的两年里，我们将会看到很多智能体的出现，这将对企业产生巨大的影响。我对此感到非常振奋，未来我们将有可能看到更多深度推理的应用和先进算法的提升。

需要注意的是，我们现在还不知道“红线”在哪里。我认为一个重要的点是，中国、美国以及其他国家需要达成一致。也就是说，我们必须在某些关键问题上进行对话。举个例子，如果有一天，AI开始自主决定获取武器、自我复制，或者不经由我们同意就开始学习所有事物，我们应通过对话探讨如何防止和控制这个过程，避免它失控，而不是立即停止它的发展。

我对未来五年感到非常振奋，我们将看到社会发生的深刻变化，且大部分变化会让社会变得更好。