云天励飞：推理芯片与加速卡已适配30+开源大模型
创始人
2025-02-13 20:16:04
0次
金融界2月13日消息，有投资者在互动平台向云天励飞提问：云天励飞的AI硬件是否支持SGLang、LMDeploy 和 TensorRT-LLM 等主流推理框架？
公司回答表示：公司的推理芯片和加速卡目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型，涵盖1.5B参数到70B参数量，预期能使大模型推理成本大幅度下降。
来源：金融界
相关内容
热门资讯
粤电力相关公司新增一项123....
（来源：快查一企业中标了）快查APP显示，粤电力相关公司广东省风力发电有限公司于2025年7月18日...
星城夜色里的流动剧场！长沙首趟...
长沙晚报掌上长沙7月18日讯（全媒体记者 贾凯清 实习生 余佳徐）成语接龙、现场猜词、即兴喜剧……7...
先到后撤，他们在抗洪中赓续荣光
转自：贵州日报 新华社记者 向定杰 周芷若 大口径水平救援钻机、大型全地形水陆两栖车...
【招商项目】昆明市嵩明职教新城...
01项目基本情况项目类型：用地类项目项目选址：位于嵩明职教新城军长片区核心区，嵩昆大道与长杨快速路交...
最新或2023（历届）关于三严...
三严三实自我剖析材料(1) 干部是党的各项工作的中流砥柱，建设优秀的干部队伍，关系人心向背，关系事...