DeepSeek开源周第二日:开源EP通信库
创始人
2025-02-25 11:20:53
0

DeepSeek官宣,今日开源DeepEP,第一个用于 MoE 模型训练和推理的开源 EP 通信库。特点有:高效、优化的全员沟通;节点内和节点间均支持 NVLink 和 RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生 FP8 调度支持;灵活的 GPU 资源控制,实现计算-通信重叠。

相关内容

热门资讯

AI科技改变生活!海尔麦浪套系...   炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会! 来源:环球网【环球网...
AI进化速递丨OpenAI推迟... AI进化速递丨OpenAI推迟开放式权重模型的发布 ①谷歌斥资24亿美元购买Windsurf资产并聘...
环青赛第七赛段 利库诺夫·皮特... 转自:中国体育报  7月12日,2025年“中国工商银行杯”第二十四届环大美青海国际公路自行车赛展开...
惠及全球!中国医疗装备出口19... 转自:北京日报客户端新华社上海7月12日电记者12日在此间举行的首届中国医学装备国际合作大会上获悉,...
台青走进阳明故居 感受“知行合... 中新社宁波7月12日电 (张斌 章是一)“我常常有‘拖延症’,这一次来到王阳明生活过的地方,才明白了...