DeepSeek开源周第二日:开源EP通信库
创始人
2025-02-25 11:20:53

DeepSeek官宣,今日开源DeepEP,第一个用于 MoE 模型训练和推理的开源 EP 通信库。特点有:高效、优化的全员沟通;节点内和节点间均支持 NVLink 和 RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生 FP8 调度支持;灵活的 GPU 资源控制,实现计算-通信重叠。

相关内容

热门资讯

志高机械:6月29日获融资买入... 6月29日,志高机械跌1.94%,成交额707.45万元。两融数据显示,当日志高机械获融资买入额48...
奥美森:6月29日获融资买入5... 6月29日,奥美森涨1.27%,成交额942.69万元。两融数据显示,当日奥美森获融资买入额53.5...
森麒麟:摩洛哥工厂未满产却要在... 投资者提问:董秘你好,本公司摩洛哥工厂还没满产 就要在欧洲快速建厂处于什么原因?董秘回答(森麒麟SZ...
南特科技:6月29日获融资买入... 6月29日,南特科技涨2.89%,成交额2748.04万元。两融数据显示,当日南特科技获融资买入额9...
美德乐:6月29日获融资买入6... 6月29日,美德乐跌1.83%,成交额2194.00万元。两融数据显示,当日美德乐获融资买入额68....