AI模型未来如何进化_热点

AI模型未来如何进化

创始人

2025-02-25 11:47:21

彭茜

　　美国斯坦福大学等机构研究团队近日宣布，在基座大模型基础上，仅耗费数十美元就开发出相对成熟的推理模型。尽管其整体性能尚无法比肩美国开放人工智能研究中心（OpenAI）开发的o1、中国深度求索公司的DeepSeek-R1等，但此类尝试意味着企业可以较低成本研发出适合自身的AI应用，AI普惠性有望增强。

　　“预训练扩展”堪称“大力出奇迹”——训练数据越多、模型规模越大、投入算力越多，最终得到AI模型的能力就越强。目标是构建一个通用语言模型，以GPT早期模型为代表。而“训练后扩展”涉及强化学习和人类反馈等技术，是预训练模型的“进化”，优化其在特定领域的任务表现。

　　随着“预训练扩展”和“训练后扩展”边际收益逐渐递减，“测试时扩展”技术兴起。“测试时扩展”的核心在于将焦点从训练阶段转移到推理阶段，通过动态控制推理过程中的计算量（如思考步长、迭代次数）来优化结果。这一方法不仅降低了对预训练数据的依赖，还显著提升了模型潜力。

　　三者在资源分配和应用场景上各有千秋。预训练像是让AI模型去学校学习基础知识，而后训练则是让模型掌握特定工作技能，如医疗、法律等专业领域。“测试时扩展”则赋予了模型更强推理能力。

　　AI模型的迭代还存在类似摩尔定律的现象，即能力密度随时间呈指数级增强。2023年以来，大模型能力密度大约每100天翻一番，即每过100天，只需要一半算力和参数就能实现相同能力。未来应继续推进计算系统智能化，不断追求更高能力密度，以更低成本，实现大模型高效发展。

　　（本文摘编自《光明日报》2025年2月24日12版）

上一篇：安车检测：公司研发的新能源汽车检测设备及系统已具备量产条件随时可接受销售订单并投入大规模生产

下一篇：国产大模型应用加速落地

AI模型未来如何进化

相关内容

热门资讯