智源开源FlagOS:首次实现DeepSeek-R1满血版多种芯片高效快速部署
创始人
2025-02-25 20:20:57
0

日前,记者从智源研究院获悉,基于面向大模型、支持多种AI芯片的开源统一软硬件技术栈FlagOS,智源研究院联合多个芯片厂商一同开发并开源了DeepSeek-R1多芯片版本,旨在推动大模型在不同芯片的适配应用,打破生态墙和算力束缚,构建多元芯片的统一技术栈和开源软硬件生态。

上证报中国证券网讯 日前,记者从智源研究院获悉,基于面向大模型、支持多种AI芯片的开源统一软硬件技术栈FlagOS,智源研究院联合多个芯片厂商一同开发并开源了DeepSeek-R1多芯片版本,旨在推动大模型在不同芯片的适配应用,打破生态墙和算力束缚,构建多元芯片的统一技术栈和开源软硬件生态。

智源研究院相关负责人表示,此次发布基于FlagOS的DeepSeek-R1多芯片版本,是业界首次通过统一开源软件栈实现DeepSeek-R1的多芯片开源版本,并同时给出了严谨的模型对齐结果,保证了开源可用、统一易用。

据了解,FlagOS是由智源牵头,与多个厂商共同打造的面向多元AI芯片的统一、开源的系统软件技术栈,包括支持多种AI芯片的高效并行训推框架FlagScale、支持多种AI芯片架构的高性能算子库FlagAttention和FlagGems,以及支持多种AI芯片的统一通信库FlagCX等关键技术。

据该负责人介绍,此次基于FlagOS研发的DeepSeek-R1多芯片版本,可一键启动FlagScale实现6700亿参数大模型跨芯片的并行推理,支持用户根据需求灵活选择算力组合,自动实现并行推理计算。

智源研究院表示,FlagOS旨在包括英伟达及多种AI芯片上,都能为用户提供统一、开源、开放的系统软件,支撑各种大模型在不同AI芯片上的高效易用,从而打破算力的束缚。(窦世平)

相关内容

热门资讯

分析师:贸易谈判的突然突破或破... 格隆汇7月12日|SPI Asset Management管理合伙人Stephen Innes表示,...
金粉世家,四小姐道之有钱有势,... 梨芽梨道之是金家兄弟姊妹中最有钱的,也是能安慰太太说点私密话的女儿。润之敏之梅丽没出嫁,照我们老家习...
最新或2023(历届)地球一小... 发展历程  2007年  “地球一小时”活动首次于2007年3月31日晚间8:30在澳大利亚悉尼市展...
最新或2023(历届)地球一小...  日常环保建议   1.“绿色”家居出行  “地球一小时”的目的不是为了节省电,而是为了使公众认识到...
蔡广研教授专访:聚焦肾脏病诊疗...   炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会! 转自:医学界国际经验...