【英伟达Vera CPU测试显示AI智能体编排性能提升,支持高并发推理】英伟达7月21日表示,AI云平台DeepInfra测试显示,Vera CPU相比其他CPU产品,在AI智能体工作负载下可实现最高2.2倍编排速度提升,并支持最高1.6倍更多智能体并发运行。DeepInfra表示,其平台...
创始人
2026-07-22 14:40:14

【英伟达Vera CPU测试显示AI智能体编排性能提升,支持高并发推理】英伟达7月21日表示,AI云平台DeepInfra测试显示,Vera CPU相比其他CPU产品,在AI智能体工作负载下可实现最高2.2倍编排速度提升,并支持最高1.6倍更多智能体并发运行。DeepInfra表示,其平台每周处理近5万亿Token,其中约30%来自智能体应用。英伟达称,随着AI智能体承担更多推理、规划和工具调用任务,CPU在模型调用过程中的调度效率将成为AI基础设施性能的重要因素。

相关内容

热门资讯

记者手记|时代大潮里的笃行与担... 来源:新华社记者手记|时代大潮里的笃行与担当新华社记者韩梁 朱瑞卿 伍岳9月的新德里草木葱郁,阳光热...
被骂 “君子之贼” 高若讷有点...     ◎宋慧敏    北宋景祐三年(1036年)一个春日,谏官高若讷接到一封信,写信人是刚刚入朝任...
烂缦胡同:烟火气里涌动青春创业...     近日,在“全国文化中心建设巡礼”主题采访活动中,北京青年报记者走进北京市西城区牛街街道烂缦胡...
科技赋能实体 金融护航出海     9月9日至13日,2026年中国国际服务贸易交易会(以下简称服贸会)在北京首钢园举办,今年的...
湖北大学最新或2023(历届)...   1、考生自最新或2023(历届)4月1日起可在湖北大学招生信息网(http://zsxx.hub...