云天励飞:推理芯片与加速卡已适配30+开源大模型
创始人
2025-02-13 20:16:04

金融界2月13日消息,有投资者在互动平台向云天励飞提问:云天励飞的AI硬件是否支持SGLang、LMDeploy 和 TensorRT-LLM 等主流推理框架?

公司回答表示:公司的推理芯片和加速卡目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型,涵盖1.5B参数到70B参数量,预期能使大模型推理成本大幅度下降。

来源:金融界

相关内容

热门资讯

余叔岩的余派是如何形成的?唱法... 余派的形成他与马连良、高庆奎并称为京剧第三代的"老生三杰"。他全面继承了祖父余三胜(第一代"老生三杰...
揭秘:余叔岩为什么不愿意收徒?... 余叔岩是余三胜之孙,曾用艺名小小余三胜火遍京津,后倒仓退出舞台,复出后用余叔岩一名,一直到43年去世...
她是余叔岩的关门弟子,还是杜月... 喜欢京剧的人,应该没有人不认识孟小冬,孟小冬的反串扮相,既好看又耐看,在老生这一领域是一个佼佼者。孟...
揭秘:最爱孟小冬的是梅兰芳还是... “伟大的艺术不代表伟大的人格”!这句话,用在京剧大师梅兰芳身上再合适不过了。艺术上,梅兰芳是一位集大...
沈从文狂恋“黑玫瑰... “我行过许多地方的桥,看过许多次的云,喝过许多种类的酒,却只爱过一个正当最好年龄的人。”在众多听后便...