当地时间9月11日,陶哲轩、邓煜等25位菲尔兹奖得主发表联合声明《人工智能在数学中的严重错位》。
陶哲轩在其博客“What’s new”发布了声明全文,称该声明源于25位菲尔兹奖得主过去一周的讨论。
该声明称,过去几个月,大语言模型(LLM)的数学能力大幅提升,已经能够解决多个数学领域中重要未决问题。“然而,AI公司把解决数学问题作为(衡量模型能力的)基准,这对数学这门学科和数学共同体是有害的。”
该声明强调,AI公司的目标和数学共同体的目标“严重错位”。
声明指出,著名问题常充当“地标和灯塔”。“解决其中一个问题,通常是出现新洞见与有趣方法的明确标志;随后,数学家们会通过会谈、讨论、简化这一漫长而艰辛的过程来研究这些成果。在这一过程结束时,理想情况下会变成研究生甚至本科生能够学习的教材内容。其中一些数学思想在数十年或数百年后,才会成为被全体民众理解与使用的工具。”
声明称,数学这个职业最宝贵的资源是学生和思想。“我们有责任让它们成长、充分发挥潜力,直至它们能在数学世界中独立生存。”
“我们常常给学生一些问题,核心目的是培养技能,让他们在研究和其他方面的进步中处于有利地位。我们的思想则通过会谈、私下讨论和精心撰写的书面报告加以传播,并与其他人之前的思想相连接。这些过程总是需要时间,且以人际互动为基础。”
“解决问题只是实现概念理解和洞见这一首要目标的工具和代理指标,”声明称,“在AI世界里忘记这一点,可能让工具转而对首要目标不利。实际上,以越来越快的速度批量生产‘真/假’陈述,可能会摧毁沃土,而不是为新思想注入生命。”
声明称,这些解答被匆忙发布,没有时间完成规范的书面报告、提炼新方法与新思想、以及引用其他研究者此前的相关工作。“与所有的创意职业一样,这引发了严重的归属和抄袭问题。”
此外,声明指出,如果没有愿意负责其发展并将其整合进数学知识体系的数学家,AI产生的思想永远无法真正活起来,并且数学家之间至关重要的人类传承链条也可能随之丢失。
“我们正在目睹一种对智力劳动的普遍威胁:AI使用的结果与其最初目的之间出现错位。”声明还写道,在许多领域和活动中,多年的训练不仅是为了生产最终答案或产品,也是为了发展理解能力,以及提出新问题和新思想的能力。但AI系统建立在人类此前积累的大量知识之上,正在越来越有能力直接产生这些工作的结果,由此造成了目标之间的错位。
声明强调,AI为加强和加速真正数学研究与理解提供了潜力,数学将需要在若干方面适应这些变化。“然而,这些变化最终是有益于这一领域,还是产生破坏性影响,在很大程度上取决于掌握这项技术的人所做的决定。”
声明最后说,数学共同体、开发AI技术的公司以及整个社会必须尽快解决这些问题。
据《经济学人》报道,该声明是对AI在数学领域取得一系列突破的回应。9月8日,OpenAI宣布,已经解决了纳维-斯托克斯(Navier-Stokes)方程存在性与光滑性问题,这是克雷数学研究所于2000年选出的7个“千禧年大奖难题”之一。
该公司发布了一篇166页的论文详述这项成果,该成果系使用尚未向公众开放的内部模型完成。
报道指出,尽管篇幅很长,但这篇论文却几乎没有包含数学家分享新发现时通常会提供的那些解释。
本文系观察者网独家稿件,未经授权,不得转载。
上一篇:“糟透了”