近日,在由清华大学公共管理学院智能决策研究中心组织召开的“中心成立仪式暨‘智能决策与新型治理’研讨会”上,新华社中国财富研究院执行院长张庆源以智库建设中的智能辅助决策度为主线,从历史、工具与伦理三个维度,解析了从历史到智能时代间的智库战略建议中直接经验与学理化分析之比例变化,提出了“参考力”是区隔辅助决策度的首要量纲指标,深度探讨了可信语料和应用范围是决定智能决策的核心伦理所在。
很荣幸参加母院的活动。我主要从历史维度、工具维度和伦理维度三个方面谈几点观察和体会。
第一,历史维度。学院智能决策研究中心的成立,应该说站在了人工智能时代公共管理的前沿,周老师领衔的这个机构布局,不但是机构层面的设置和规划,更代表了一种治理理念上的一线探索。我们理解人类进入人工智能时代后的智能决策,要放在人类决策发展的历史进程中去观察。我认为,智能决策从内涵逻辑上来看,其实核心主线就是智库辅助决策。当然,这里的“智库”这两个字是广义的,它可能是一种信息产品,可能是一段政策建议,也可能是一个技术类的产品。但其本质就是对信息的深度加工和分析,并由此产生的政策辅助决策价值。
我是在新华社的智库部门工作,新华社有两类内参,一类是传统的信息类内参,比如说动态清样、参考清样,主要基于新闻采集,同时包含一定的政策建议,重点侧重于对实际情况的采集、第一时间上报,并提出相应的政策建议,如果说用一个指标去测度这种信息加工的程度,大概是70%的信息采集,30%的分析研究;而新华社于2015年底获批国家高端智库,包括我个人十多年来转型做智库类的内参产品,我觉得这个比例可能实现了反转,也就是说,基于高层次分析得出来的政策建议,以及基于学理框架所做的调研素材的结论分析,可能要占到70%以上。
也就是说,在政策建议的定量分析方面,需要有学理化的分析逻辑。智库报告不需要追求学术目标,但是需要追求学理化的分析目标。这也是我考入清华公管学院来学习的一个重要原因,就是要提升对调研素材进行加工分析的学理化水平,这需要智库研究人员和管理人员具备一个“智慧大脑”。反过来说,此前少有理论框架和学理分析,我们做的是什么?可能更多是基于心得、体会、经验而生成,相对来讲就没有那么“智能”。当然,从另外一个角度来讲,比如说高级领导的经验和艺术,那可能是另外一个层面的智能,这个不在我们讨论范围之内。
第二点,工具维度。既然智能决策是一个专业设计和输出的过程,它就应该有一个可量化的量度、量纲分析。这个量度指标,我姑且把它称为“参考力”,也就是决策成果的可参考水平。智能分析可以分几个层次,第一层次是智能决策辅助对工作流程进行智慧赋能,我们在工作中也接触很多,比如说钉钉、单位的OA等等;再延伸一下,基于标准化流程的应用,比如政务大厅的辅助办理,医院的自助机和智能回答,现在包括12345也通过AI智能分析进行派单,这是一类,可以算作流程类的智慧赋能。
再深一层,是结合我们自己的想法输入而进行的生成,那就是生成类AI。过去三四年,我们经历了通用大模型快速发展的阶段,现在正在经历向垂类模型演进的进程。鲁钰峰博士做的就是智库领域中的专业化探索,作为一个垂类模型,要真正实现智能决策,就绕不过决策问题的核心——在一定约束条件的前提下,确定决策变量取值,使得目标最优化的复杂过程。这是一种科学化的选择,甚至要融入决策艺术的元素,这就需要通过既有经验和智慧进行垂类训练。这个模型可以输出我们想要的决策参考,从而实现高层次的决策辅助,也就是我们现在讲的决策型AI。
我其实还注意到一种政策预测类的AI预测性模型,比如说对于美国国会决策的建模,实际上是通过数理和计算方法来理解和预测国会的立法行为,从宏观制度层面去解释国会决策的内在动力,进而对美国下一步的立法倾向作出相当程度的前瞻性分析。
决策系统作为工具存在,也可以分为广义和狭义两种,其实今天企业界各位负责人讲的各个领域的决策,都涉及决策模型的应用,这实际上属于广义上的智能决策。智能决策还有一个狭义的应用方向,就是党政机关的决策,去年10月份,中央网信办和国家发改委发布了《政务领域人工智能大模型部署应用指引》,其中对应用场景进行了详细分解,对于智能决策工具的使用,目前已经有了比较详细的方向界定。
第三点,是伦理维度。就是我们应该如何使用智能决策工具,或者说这个应当坚守什么样的伦理底线。最近新华社发了一个大模型产品,叫“新华语典”,是一个通用大模型,我们叫AI时政资讯智能体。它使用的语料是新华社建社95年以来积累的海量多语种、多媒体权威新闻报道。
这个模型主要解决三个问题:第一个是幻觉之困,AI经常会一本正经地胡说八道,也就是产生所谓的幻觉;第二个是信源之乱,信息真假难辨;第三个是立场之惑,信息库里的观点纷繁复杂,很难把握。基于这样的优势,这个模型对于辅助我们形成一条新闻稿件,以及帮助政府部门快速形成政策文件,都有非常强的专业赋能作用。因为这个语料库里的语料都是新华社发的权威稿件,其时间、表述、方向性都经过严格把关,校准信息具有高度准确性和便捷性,做到了溯源有依据,表述无偏差,立论有根基。
现在大模型大量使用互联网公开资料进行训练,所以我们现在在服务地方政府和上市公司的时候,发布的信息多在移动互联网端,比如新华社客户端、微信公众号。与此同时,我强调在我们发稿的时候一定要再加一条,就是在PC端发稿,因为现在的大模型所抓取的内容仍有相当一部分来自PC网页端。如果以后服务上市公司、拟上市公司,在引入战略投资者的过程中,投资者和相关机构会在网上搜索大量的权威信息作为尽调,我们之前发布的信息就起到了决定性作用,因为新华社发的都是权威信息。
这就涉及到一个可信语料的问题,我觉得这个又指向两个方向,一个是垂类模型应该在什么样的范围、使用什么样来源的数据,需要事先做好筛选;第二个是这个模型适合在什么样的范围内应用。我们需要坚守的是使用什么样的语料,这个过程中始终要由人作为主导,能够决定做谁的模型,需要有一个高层次的知识水平和科学决策框架。这种选择本身体现了我们的自主权,从而实现我们决策的科学化和高层次。
如果我们把这个问题聚焦在政府智慧决策方面,其实在西方和我们自己的历史上也有借鉴和启示。2019年3月,法国禁止大数据判案,禁止基于法官和书记官的身份进行数据分析、比较评估和预测,着眼点就是大数据分析在社会治理中的应用是否合理、合法。这里面我们追问的问题是:究竟是数据和案例优先,还是决策目标优先?如果决策目标追求公平正义,并在自由裁量的空间内实行柔性执法,那就需要特别注意:模型和算法它追求的是统计相关性,而非因果公平,这是我们特别要关注的。最后就可以回到“参考力”的问题上:如果是一个强依赖性的决策工具,而不仅仅是作为一种素材的参考,就应该对其中蕴含的伦理问题进行有效的、预防式的安排。