炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!
(来源:IT之家)
IT之家 8 月 26 日消息,OpenAI 昨日(8 月 25 日)发布博文,展示其首款自研 Jalapeño 芯片,并表示无论是单用户 token 处理量,还是每千瓦吞吐量,都超过了目前市面上的顶尖推理处理器。
在官方博文中,OpenAI 使用半导体研究公司 SemiAnalysis 开发的公共基准测试工具 InferenceX,通过 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款模型测试。
测试显示对比市面上领先的 AI 系统(GB200 和 GB300),每瓦能够完成的 AI 吞吐量是对比系统的 1.5 至 1.9 倍,端到端延迟则约为对比系统的 28% 至 59%。
混合 Token 吞吐量与现有 AI 加速器的最快解码速度对比
3 款模型峰值单用户解码吞吐量
各平台最佳运行点的混合 Token 峰值吞吐量
OpenAI 表示,Jalapeno 在运行 GPT-OSS 120B 时,每千瓦的峰值吞吐量比 GB200 系统高出约 1.9 倍。
在 DeepSeek R1 上,它的每瓦性能比 GB300 高出约 1.7 倍;在 Kimi K2.5 上,它的每瓦性能比 GB300 高出约 1.5 倍。Jalapeno 的额定功率为 700 瓦,但在测试工作负载期间,其持续功耗保持在 550 瓦或以下。IT之家附上相关图片如下: