华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署_知识

华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署

创始人

2025-02-06 17:19:19

IT之家 2 月 6 日消息，华为技术有限公司今日发文宣布，旗下 ModelEngine AI 平台全面支持DeepSeek 大模型 R1 & V3 和蒸馏系列模型的本地部署与优化。

据介绍，华为 ModelEngine 是大模型训练、推理和应用开发的 AI 平台，提供从数据预处理到模型训练、优化及部署的一站式服务。此次 ModelEngine 基于昇腾 AI 芯片，通过推理框架优化和 MoE 存算协同，提供动态换入换出和全局统一缓存，实现推理高并发和低时延，用户通过 ModelEngine 体验 DeepSeek 的推理能力。特性如下：

灵活部署：ModelEngine 全面支持 DeepSeek 系列模型 R1 & V3 671B 以及蒸馏系列模型，开发者可通过 ModelEngine 实现“一键部署”，省去硬件选型、兼容性验证和环境配置等繁琐步骤，大幅降低企业 AI 应用门槛。此外，ModelEngine 通过其高度的开放性和模块化设计，极大地缩短了 DeepSeek 的本地部署时间。

企业级稳定性：ModelEngine 提供负载均衡、模型安全接入、多用户配额管理等高阶特性，支持大规模生产环境下的稳定运行。某证券公司引入 DCS AI 全栈解决方案后，运维成本降低 42%。

另外，华为官方表示，DCS AI 全栈解决方案近期将上线 DeepSeek 体验环境。

IT之家注：ModelEngine 是华为 DCS（Data Center Stack）全栈的 AI 训推全流程工具链，业界首个采用 AI 流式编程框架，提供从数据处理、知识生成，到模型微调和部署，以及 RAG 应用开发、应用部署，为数据处理工程师、模型工程师、应用开发者提供开箱即用的全流程 AI 开发体验。

上一篇：卡普空开发游戏新动向 AI辅助创意设计

下一篇：DeepSeek“火出圈” 绩优基金提前布局AI产业链

华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署

相关内容

热门资讯