华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署_知识

华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署

创始人

2025-02-06 17:19:19

0次

IT之家 2 月 6 日消息，华为技术有限公司今日发文宣布，旗下 ModelEngine AI 平台全面支持DeepSeek 大模型 R1 & V3 和蒸馏系列模型的本地部署与优化。

据介绍，华为 ModelEngine 是大模型训练、推理和应用开发的 AI 平台，提供从数据预处理到模型训练、优化及部署的一站式服务。此次 ModelEngine 基于昇腾 AI 芯片，通过推理框架优化和 MoE 存算协同，提供动态换入换出和全局统一缓存，实现推理高并发和低时延，用户通过 ModelEngine 体验 DeepSeek 的推理能力。特性如下：

灵活部署：ModelEngine 全面支持 DeepSeek 系列模型 R1 & V3 671B 以及蒸馏系列模型，开发者可通过 ModelEngine 实现“一键部署”，省去硬件选型、兼容性验证和环境配置等繁琐步骤，大幅降低企业 AI 应用门槛。此外，ModelEngine 通过其高度的开放性和模块化设计，极大地缩短了 DeepSeek 的本地部署时间。

企业级稳定性：ModelEngine 提供负载均衡、模型安全接入、多用户配额管理等高阶特性，支持大规模生产环境下的稳定运行。某证券公司引入 DCS AI 全栈解决方案后，运维成本降低 42%。

另外，华为官方表示，DCS AI 全栈解决方案近期将上线 DeepSeek 体验环境。

IT之家注：ModelEngine 是华为 DCS（Data Center Stack）全栈的 AI 训推全流程工具链，业界首个采用 AI 流式编程框架，提供从数据处理、知识生成，到模型微调和部署，以及 RAG 应用开发、应用部署，为数据处理工程师、模型工程师、应用开发者提供开箱即用的全流程 AI 开发体验。

推理系列 DeepSeek 华为平台模型部署环境支持应用蒸馏开发者昇腾

上一篇：卡普空开发游戏新动向 AI辅助创意设计

下一篇：DeepSeek“火出圈” 绩优基金提前布局AI产业链

华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署

相关内容

热门资讯