蓝光

超清

高清

流畅

继续播放

当前非Wi-Fi网络，继续播放将产生流量费用

视频播放失败

建议打开央视新闻观看

本周，在上海举办的2025世界人工智能大会，在继续带给我们惊奇之外，还有一个大大的问号。

先看惊奇，大会从2018年创办，到现在已举办了8届。本届大会展览面积首次突破7万平方米，有800余家企业参展，又推出了百余款“全球首发”“中国首秀”的产品。而除了企业，参会的还有来自70多个国家和地区的1500余位顶尖专家，包括12位图灵奖、菲尔兹奖、诺贝尔奖获得者，80多位中外院士，以及200多位行业领军人物。

大家来上海，不仅仅是关注人工智能的突飞猛进，而更加关注越来越急迫的安全问题。本届大会一个极为重要的主题，也恰恰是如何在发展和安全之间寻求平衡，并进一步凝聚共识。多场论坛、多位专家都把目光聚焦在人工智能已经开始深入人类生活的当下，如何守卫好它的边界。

人工智能的发展有多快，先看看这两年的变化。去年，还是“百模大战”刚刚拉开大幕，今年，具备深度思考、自主规划与决策执行能力的人工智能体就已经开始进入激烈的竞争。

从年初DeepSeek推出开源模型成为全球焦点，短短一个月内，国内外企业就相继推出各具特色的智能体产品，并以前所未有的速度，在消费、出行、办公、医疗、教育等多元场景中“多点开花”。面对不断快速迭代的智能体产品，仅仅从消费角度，就可以感受到这场深刻的科技革命。

惊奇，似乎每一个人都在以惊奇的眼光注视着这场变革。作为全球人工智能领域规模最大、专业度最高、影响力最强的盛会，世界人工智能大会更是一下子亮相了3000余款前沿展品，其中100余款为“全球首发”或“中国首秀”。

从多模态大模型到智能硬件，创新不仅在消费端继续显现着吸引力，还在产业端释放出巨大潜能。例如，在当下火热的低空经济领域，国产EVTOL飞控系统，借助自主人工智能算法，已经开始出口海外。

此外，在基础算力不断取得突破的推动下，赋予消费品和工业品更多可能的智能体，也开始出现“随身化”的趋势，焦点转向如何在手机、电脑等终端设备上独立运行复杂任务，这意味着人工智能可以不再依赖远端服务器，而是能随时随地提供支持。

技术突破正推动中国人工智能产业，从基础层、技术层到应用层形成完整链条。在大模型、智能硬件及边缘计算等领域的持续投入，已经让我国在全球数据量和技术创新上占据了重要位置。

来自大会的数据，在全球已发布的3755个大模型中，中国的大模型数量达1509个，居全球之首。这个数字背后，不仅体现着技术实力，更得益于电子、原材料、消费品等行业纷纷引入人工智能“大脑”，工厂质检、商场客服、医院影像分析等等多领域，都在加速智能化转型。

中国政法大学数据法治研究院教授、联合国高级别人工智能咨询机构专家 张凌寒：今年提出“人工智能+”意味着在未来五到十年，我们将会把人工智能和各个应用场景、各个产业深度融合。中国的土壤在于我们有足够多的人口、应用场景、用户数据支撑人工智能产业发展。

技术创新的背后，离不开政策的支撑。连续两年，“人工智能+”行动正在不断取得进展。近日，国务院常务会议审议通过相关意见，强调大力推动人工智能规模化商业化应用，发挥我国产业链完备、市场巨大、场景丰富的优势。同时，强调提升安全水平，构建动态、多方协同的治理体系。发展与安全并重，这与本届世界人工智能大会关注的主题也高度契合。

随着人工智能的快速发展，安全治理显然已成世界各国的共识。在本届大会的多场论坛中，中国专家也可以借此与全球同行展开对话，共同探讨如何在技术迅猛迭代中，确保人工智能惠及全人类。

国际标准化组织主席 曹诚焕：标准的安全性和质量至关重要。但仅仅是安全使用AI并非问题的全貌，我们还要考虑到AI治理、AI公平性，以及AI在人文要素和技术要素之间的平衡。

在20世纪60年代，有一部具有划时代意义的科幻电影——《2001太空漫游》，直到现在，它的创作者依然让我们心生敬佩，因为在那时，就已经开始探讨人工智能的自主意识，以及它可能产生的风险问题。

而现在，人工智能开始真正进入我们的生活，在带来便利的同时，它所带来的风险和治理问题也已经不能再停留在想象阶段了。

本届上海世界人工智能大会，至少有10场论坛都在探讨人工智能治理问题，特别是在大会首日的主论坛上，首位上场演讲的杰弗里·辛顿，演讲主题就是数字智能是否会取代生物智能，这位图灵奖与诺贝尔物理学奖双料得主的科学家，把人与人工智能的关系，比喻为将老虎养做宠物，小的时候它可能很可爱，但如果不想被长大后的老虎杀掉，只有两种方法，一是训好它，二是摆脱它。

那么，当人工智能比人更聪明，科学家的担心会成为现实吗？虎崽长大的那一天，离我们还有多远？

走进上海世博展览馆的二层，这里几乎是人形机器人的世界，表演架子鼓、制作冰激凌、分拣搬运货物……

上一届世界人工智能大会，人们还在为首次集中亮相的18款人形机器人惊叹，仅仅一年，又一届世界人工智能大会展出的人形机器人已经超过150台，并且它们的大脑正在变得更“聪明”。

于是，在本届世界人工智能大会就出现了这样的场景：这一边，是观众无限的想象与惊奇；那一边，却是科学家们严肃的、对于人工智能安全的、日益紧迫的担忧。

今年77岁的杰弗里·辛顿，从1985年就开始进行语言模型的研究，被称为深度学习领域的奠基人。本届大会首日的主论坛，他的演讲就引起了舆论极大的关注。他在演讲中进一步指出，几乎所有专家都认为，我们将开发出比人类更智慧的人工智能。但是，我们人类早已习惯作为顶级智能体存在，导致很多人难以想象被更智慧的人工智能主宰世界会是如何？

2018年图灵奖得主 2024年诺贝尔物理学奖得主 杰弗里·辛顿：人工智能体会产生两个诉求：一是维持生存，即维持完成既定目标的基础运行能力；二是增强控制，即追求既定目标的完成质量。所以，我们必将面对兼具生存诉求和控制诉求的人工智能体。

人工智能会比人更聪明吗？它会脱离人类的掌控吗？这一天离我们还有多远？事实上，在过去两年，随着Chat GPT和Sora以及DeepSeek等大模型的出现，这些问题已经多次被提起。

在本届世界人工智能大会开幕前一天，还召开了一场人工智能国际安全对话，与会的二十余名国内外行业专家共同签署发布了《AI安全国际对话上海共识》。

共识明确提出：人工智能系统正迅接近并可能超越人类智能水平。这些未来的系统可能在操作者毫不知情的情况下，执行并非操作者所期望或预测的行动。这可能导致失控，而一旦失控，就有可能带来灾难性甚至是生存层面的风险。

国际标准化组织主席 曹诚焕：人工智能的迭代速度惊人之快。我们既不了解它的潜能，也不理解它的性能、成果、影响的产生机制。所以，我们有必要治理这项技术，我们需要让它的运作符合开发者的预期。

今年7月，OpenAI官宣发布迄今为止最强的AI智能体，据称这一新产品拥有自主思考与行动能力，能够完成包括在线购物、撰写研究报告、制作PPT在内的多步骤复杂任务。同样在7月，马斯克也发布了号称“全球最强大”的AI模型Grok4，称“它几乎比所有学科的研究生都更聪明”。

人工智能会不会变得比人更聪明，尽管在一些细节上仍有分歧，但是，目前其不断迭代发展的速度却不可小觑。

在《AI安全国际对话上海共识》中提到，与人工智能能力的快速发展相比，我们对人工智能安全研究的投入明显滞后，亟须采取进一步行动。而在主论坛演讲的最后，辛顿也呼吁，全球应该共同探讨如何训练AI向善。

中国政法大学数据法治研究院教授、联合国高级别人工智能咨询机构专家 张凌寒：人工智能的问题并不是一个国家能够应对的，所有的研究机构、国家、大的公司企业都没有办法去独自处理人工智能安全的问题，人工智能全球治理的合作也必须由多个国家来共同进行。

当下，世界对于人工智能发展的投入正如日中天，谁也不想掉队。那么，当发展成为一种必然，危险又该如何防范呢？

能不能首先为人工智能划下现在的、将来的安全红线，在《AI安全国际对话上海共识》中，也首次呼吁全球各国政府及研究人员要“确保高级人工智能系统的对齐与人类控制，保障人类福祉”。

与世博展览馆的热闹相比，世博中心的气氛就显得有些严肃，因为这里事关人工智能安全与治理的论坛，一场接一场。而会场之外，舆论自然也会极为关注，中国在人工智能治理方面所取得的进展。

来自世界知识产权组织的数据，2014年至2023年，中国生成式人工智能专利申请量超过3.8万件，居世界第一。

正是在2023年，我国开始要求所有生成式人工智能进行统一备案。党的二十届三中全会则明确提出，要建立人工智能安全监管制度，完善生成式人工智能发展和管理机制。今年4月，中央政治局会议也再次强调，要完善人工智能监管体制机制，牢牢掌握人工智能发展和治理主动权。可以看出，法治的不断完善，将成为持续扎牢监管与防范人工智能风险的防护栏。

中国政法大学数据法治研究院教授 联合国高级别人工智能咨询机构专家 张凌寒：国务院和全国人大立法计划中提到人工智能相关立法，使用的词汇和表述都是促进人工智能健康发展的立法。从这个词就可以看出来，我们的宗旨一定是统筹安全和发展。

来自相关部门的信息，目前，我国正在稳步推进综合性人工智能高位阶的立法。

张凌寒介绍，一直以来，我国的人工智能立法主要依靠的是部门规章和法律性文件，位阶相对较低。而高位阶立法能够有效解决传统法律和人工智能技术产业发展不相适应的地方，高位阶立法并不是为了回应人工智能时代带来的所有问题，我觉得最重要的目的是定方向和划底线。

回到会场，27日上午，在一场围绕全球人工智能治理前沿问题的主题论坛上，人工智能的法治建设正是与会专家讨论的重点。参会的就有来自欧盟《人工智能法》的起草专家。作为全球首部全面规范人工智能的高位阶法律，该法将人工智能系统风险分为四个等级，分别采取针对性监管方式，于去年8月生效。

交流、借鉴，人工智能领域高位阶的立法，也需要进一步形成国际共识。

人工智能治理，攸关人类命运，是各国都在面对的问题。专家警示，治理问题上存在“决堤”效应，也就是说，任何一个国家不重视人工智能的安全，都可能让整个人类面对人工智能的系统性风险。所以，搭建全球合作机制，已成为必然。

国际标准化组织主席 曹诚焕：放眼全球，几乎各国政府发布的人工智能治理方案都不尽相同，这种碎片化的局面风险巨大、危机四伏，所以这就是国际标准的作用所在。我们可以提供通用语言和共同平台，为人工智能治理奠定基础。

2023年，中国提出《全球人工智能治理倡议》，2024年，第78届联合国大会以协商一致的方式，通过了主要由中国提出的“加强人工智能能力建设国际合作”决议，这也是全球首个聚焦人工智能能力建设的共识性文件。

本届世界人工智能大会，中国也会同各方发布了《人工智能全球治理行动计划》，十三项内容，从“倡议”走向“行动”，更提出成立世界人工智能合作组织，这是中国给予世界人工智能治理问题的思考和方案。

面对一日千里的人工智能发展，如何保持警惕，加强国际合作，已经是一道同时摆放在所有国家面前的限时必答题，而答题时间似乎也很快就要到了，正如本届大会的主题“智能时代 同球共济”一样，此时此刻，也是大家必须携起手来共同作答的时刻。

编导丨张大鹏 石明阳 李昕璘