榨干每一块 GPU！DeepSeek 开源第二天，送上降本增效神器
创始人
2025-02-25 15:50:35

今天 DeepSeek 带来了 DeepEP，一个专为混合专家系统（MoE）和专家并行（EP）定制的通信库。

它的设计灵感来自 DeepSeek-V3 论文里的群组限制门控算法（group-limited gating），这个算法能帮助大模型更高效地分配任务给不同的「专家」， 降本增效从未如此简单。

DeepEP 的 亮点颇多：

高效优化的全员协作通道

专为训练和推理预填充设计的高吞吐核心

专为推理解码设计的低延迟核心

原生支持FP8智能压缩传输

灵活调控GPU资源，实现边计算边传输

DeepEP 在 Mixture-of-Experts (MoE) 模型的通信技术上有所突破，特别是在 GPU 内核优化方面。它显著提升 MoE 模型的性能和效率，适用于大规模 AI 训练和推理。

DeepSeek 开源周，APPSO 将持续带来最新动态和解读，

上一篇："源神启动"？DeepSeek开源周连放大招！

下一篇：开源、免费、接入DeepSeek……百度闪电四连更，这次真急了？

相关内容

热门资讯

私生子如何上户口迁移最新改革政... 　　一、非婚生子女如何上户口? 　　我国《婚姻法》第二十五条规定：非婚生子女享有与婚生子女同等的权利...
户口迁移最新改革政策流程本可以... 　　户口本能取火车票吗 　　现在户口本已经可以购买火车票了。但是户口本能取火车票吗?相信大家有时也会...
户口迁移最新改革政策流程所在地... 　　户籍所在地填什么： 　　如果是社会考生<包括在职人员和待业人员>要填现在的户口所在地。户口迁移，...
迁户口迁移最新改革政策流程需要... 　　迁户口需要手续： 　　第一步：向迁入地派出所提出申请 　　第二步：迁入地派出所同意迁入 　　第三...
集体户口迁移最新改革政策流程领... 　　集体户口定义： 　　集体户口是"双重"管理的"户籍"。例如:"学生宿舍""工厂集体宿舍"等，是由...