盘古Pro MoE技术开发团队:开源模型并非基于其他厂商模型增量训练而来
创始人
2025-07-05 17:26:23
0

  7月5日下午消息,盘古Pro MoE技术开发团队今天发布声明,表示注意到近期开源社区及网络平台关于盘古大模型开源代码的讨论。盘古Pro MoE开源模型是基于昇腾硬件平台开发、训练的基础大模型,并非基于其他厂商模型增量训练而来,在架构设计、技术特性等方面做了关键创新,是全球首个面向昇腾硬件平台设计的同规格混合专家模型,创新性地提出了分组混合专家模型(MoGE)架构,有效解决了大规模分布式训练的负载均衡难题,提升训练效率。其他技术特性创新,请参考昇腾生态竞争力系列技术报告披露内容。

  声明称,盘古Pro MoE开源模型部分基础组件的代码实现参考了业界开源实践,涉及其他开源大模型的部分开源代码,严格遵循开源许可证的要求,在开源代码文件中清晰标注开源代码的版权声明。

相关内容

热门资讯

警方回应横店女演员拍戏身亡传闻 7月5日,娱乐博主@随便追追 在微博发布图文消息,图片中有一段语音转文字内容,显示“刚收到消息,横店...
揪心!贵州20岁女大学生丽江失... 7月5日,距离贵州20岁女大学生程霞在云南丽江玉龙纳西族自治县白沙镇玉湖村附近失联已经过去整整4天,...
滁州市公务员绩效工资怎么算,最... 市政府有关部门:市 人事局、市财政局、市教育局《关于滁州市市直义务教育学校绩效工资实施办法》已经市政...
北京发布10条文化线路深度游中... 中国青年报客户端讯(中青报·中青网记者 张敏)来北京怎么玩?7月4日,北京市东城区发布10条文化探访...
常德市桃源县政协原党组书记、主... 经常德市委批准,常德市纪委监委对桃源县政协原党组书记、主席董莉莉严重违纪违法问题进行了立案审查调查。...