上证报中国证券网讯(记者 邓贞)近日,在“智能无界:AI重塑产业底座与全球化创新范式”圆桌对话中,中昊芯英首席市场官黄绪分享了自己的观察。他表示,智能体热潮正推动算力需求呈指数级增长,而随着AI行业迈入“词元时代”,真正的竞争差距已不再取决于消耗Token的总量,而在于每单位算力能够产出多少可执行、可验证、并能创造实际价值的智能成果。在他看来,AI芯片的竞争正从“谁拥有最强算力”转向“谁能构建更适合大模型及智能体公司研发与业务需求的专用计算体系,谁能提供最低的Token成本”。
据介绍,6月30日,公司发布的新一代TPU架构AI专用算力芯片“须臾®”,单芯片混合精度浮点算力达到896 TFLOPS,综合算力性能是上一代芯片“刹那®”的3倍;其8-bit推理算力可达1792 TOPS,并对Token生成、上下文缓存和批量并发推理进行了专属优化。该芯片已与多家国内领先大模型完成深度算子调优,实现芯模联动,百万Token推理成本仅为海外GPU的35%至50%。
下一篇:没有了