蚂蚁集团,AI重大突破!推出新款MoE大语言模型 可在使用国产GPU的低性能设备上完成高效训练
创始人
2025-03-24 22:14:18

国产AI模型,再次迎来突破。

近日,蚂蚁集团Ling团队发表了一篇技术成果论文。论文显示,蚂蚁集团推出了两款不同规模的MoE大语言模型——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),前者参数规模为168亿(激活参数27.5亿),Plus基座模型参数规模高达2900亿(激活参数288亿),两者性能均达到行业领先水平。

除了自研性能领先的大模型以外,该技术论文最大的突破在于提出了一系列创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE(混合专家)大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。

(来源:证券时报)

相关内容

热门资讯

近一年股价涨超300%!广生堂... 老牌药企广生堂(300436.SZ)的定增计划于2025年5月获深交所受理,2月10日,广生堂披露对...
省级领导同志联系企业工作推进会... 2月11日,省级领导同志联系企业工作推进会在沈阳召开。省委书记许昆林主持会议并讲话。他强调,要深入学...
京沪线上一条鱼的价格20年没涨... 转自:贝壳财经 【#京沪线上一条鱼的价格20年没涨##京...
江苏追认:周为号同志留党察看二... 据“清廉江苏”微信公众号2月11日消息,中国共产党江苏省第十四届纪律检查委员会第六次全体会议决议,于...
林剑:中方对日方对待侵略历史不... 转自:外交部发言人办公室 【林剑:#中方对日方对待侵略历...