智源开源FlagOS:首次实现DeepSeek-R1满血版多种芯片高效快速部署
创始人
2025-02-25 20:20:57

日前,记者从智源研究院获悉,基于面向大模型、支持多种AI芯片的开源统一软硬件技术栈FlagOS,智源研究院联合多个芯片厂商一同开发并开源了DeepSeek-R1多芯片版本,旨在推动大模型在不同芯片的适配应用,打破生态墙和算力束缚,构建多元芯片的统一技术栈和开源软硬件生态。

上证报中国证券网讯 日前,记者从智源研究院获悉,基于面向大模型、支持多种AI芯片的开源统一软硬件技术栈FlagOS,智源研究院联合多个芯片厂商一同开发并开源了DeepSeek-R1多芯片版本,旨在推动大模型在不同芯片的适配应用,打破生态墙和算力束缚,构建多元芯片的统一技术栈和开源软硬件生态。

智源研究院相关负责人表示,此次发布基于FlagOS的DeepSeek-R1多芯片版本,是业界首次通过统一开源软件栈实现DeepSeek-R1的多芯片开源版本,并同时给出了严谨的模型对齐结果,保证了开源可用、统一易用。

据了解,FlagOS是由智源牵头,与多个厂商共同打造的面向多元AI芯片的统一、开源的系统软件技术栈,包括支持多种AI芯片的高效并行训推框架FlagScale、支持多种AI芯片架构的高性能算子库FlagAttention和FlagGems,以及支持多种AI芯片的统一通信库FlagCX等关键技术。

据该负责人介绍,此次基于FlagOS研发的DeepSeek-R1多芯片版本,可一键启动FlagScale实现6700亿参数大模型跨芯片的并行推理,支持用户根据需求灵活选择算力组合,自动实现并行推理计算。

智源研究院表示,FlagOS旨在包括英伟达及多种AI芯片上,都能为用户提供统一、开源、开放的系统软件,支撑各种大模型在不同AI芯片上的高效易用,从而打破算力的束缚。(窦世平)

相关内容

热门资讯

最新或2023(历届)北京户口...   最新或2023(历届)北京户口新政策:   落户北京通道变窄   最近5年来,每年北京市政府工作...
大学生入学户口迁移最新改革政策...   大学生入学户口迁移   所要证明材料:大学生入学户口迁移,持入学通知书;   需要凭户口准迁证方...
为何手背经常瘀青?特朗普自称“... 新华社北京1月2日电 据美国《华尔街日报》1日报道,美国总统特朗普近日在接受该报采访时透露,自己手背...
如何办户口迁移最新改革政策流程...   一、办理户口迁移所需的证明材料   公民因各种原因需办理户口迁移手续的,应持居民户口簿、居民身份...
户口迁移最新改革政策流程申请书...   新生儿落户申请   xxx派出所:   本人叫xx(身份证号xxxx),性别:x,户口在xxxx...