每经编辑 程鹏
2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。
特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生 FP8 调度支持;灵活的GPU资源控制,实现计算-通信重叠。
编辑|程鹏 盖源源
校对|段炼
封面图片来源:视觉中国(资料图 图文无关)
上一篇:云南3个人口小县推进警务机制改革:小局大所、局所一体化
下一篇:2024年深圳企业首次公开发行、再融资金额位居全国前列