(来源:北京商报)
北京商报讯(记者 王天逸)8月28日,中科曙光发文称,在2026中国国际大数据产业博览会期间,公司发布新一代词元加速方案ParaCache。
据悉,该方案通过保存并复用大模型已经完成的计算结果,减少不同请求、不同计算节点之间的重复计算。测试显示,在约12万词元输入下,ParaCache可使模型开始回答前的等待时间最高降低98.5%;高并发场景下,系统每秒处理的词元量最高达到原来的27倍。
上一篇:中粮科技召开九届董事会2026年第6次临时会议 多项经营管理相关议案获审议通过
下一篇:皖新传媒续签8.18亿元义务教育免费教材采购合同 锁定2026秋至2027春供应服务