如今，人工智能已经无处不在。它可以帮助医生分析影像，可以辅助科学家探索未知，也正在走进制造、金融、教育等越来越多领域。

近期在上海举行的2026世界人工智能大会，来自全球多个国家和国际组织的代表共同探讨人工智能发展的未来。与此同时，人工智能带来的数据安全、算法治理、伦理风险等问题，也成为全球共同面对的新课题。如何推动人工智能创新发展？如何让AI更加安全、可靠、普惠？本期节目一起探讨AI发展的机遇与挑战。

AI进入现实世界，为何需要同步治理？

过去，大模型更多是“回答问题”，如今AI正在走进医疗、工业、科研等更多真实场景，从技术探索进入规模化应用阶段。为什么今天我们要更多地谈到全球治理？上海市人工智能行业协会秘书长钟俊浩用一个生动的比喻给出了回答：“把人工智能四个字换成交通，大家就理解了——制定规则是为了更高效、更协同地共同发展。”

上海交通大学上海高级金融学院实践教授胡捷进一步梳理了当前人工智能治理面临的三类风险：第一，大模型基于概率逻辑，训练素材和随机性可能导致可信度问题、价值观偏差；第二，AI在算力加持下能力被迅速放大，类似从普通炸弹到原子弹的质变；第三，人机协同后可能衍生出新的风险。“这三方面问题加在一起，使得安全问题提上了非常高的优先级。”

钟俊浩指出，人工智能技术迭代速度太快，过去是“先创新、后规范”，现在技术每往前走一步，治理手段就要马上跟进一步。更重要的是，AI通过具身智能进入物理世界，一旦产生问题，影响的可能不是个体，而是大群体乃至全球。“所以我们要早一点去把它预防好。”

AI治理和互联网治理，本质区别在哪？

胡捷认为，互联网时代治理的主体是人，现在不仅要治理人的问题，还要治理“智能体”的问题。更重要的是，AI造成的很多影响不可逆。“治理挑战需要重新梳理。”

以医疗领域为例，这种“不可逆”显得尤为突出。钟俊浩介绍，上海已形成一套机制：机器人手术的精度已高于人工，但背后的模型必须经过精准评测。使用中要分级分类管理——对病患危害度不高但普适性强的应用迅速推广，同时建立独立的监测体系，实现全过程可追溯。“万一发生问题，要知道在哪个环节出了问题。”

因地制宜、因行制宜，分类分级治理

胡捷提出，面对不同行业、不同场景，风险和责任界定应有所不同。随着技术进步，风险状况会发生变化，需要相应调整风控方案。“技术进步应用于不同场景，因地制宜、因行制宜，制定相应的风控方案和法律责任的区分，这是应有之义。”

人工智能的发展不只是一次技术革命，也在推动人类重新思考技术边界、建立新的信任。从实验室到产业，从中国实践到全球合作，人工智能正在走向新的阶段。而如何让AI更好地服务人类，也将成为未来共同面对的时代命题。

统筹：姚玉洁 汪奇文

编导：李海伟 王竹艾

作者：孙青 肖劲涛

演播室：吴天宇 顾至冉 王天昊 李微 管雨佳 肖雅 杨莉 高欣玥

拍摄：新华社上海分社申度解码工作室

联合录制：新华社上海分社 中国金融信息中心

新华社音视频部制作