让AI听懂人类的“弦外之音”!阶跃星辰开源SOTA级端到端语音大模型
创始人
2025-09-01 12:44:33
0

新民晚报记者今天(1日)上午从大模型“六小虎”之一的阶跃星辰获悉,发布最强开源端到端语音大模型Step-Audio 2 mini,该模型在多个国际基准测试集上取得SOTA(State-of-The-Art,即当前最佳水平)成绩。目前,Step-Audio 2 mini已经可在GitHub、Hugging Face等平台下载并体验。

在技术层面,Step-Audio 2 mini采用了真正的端到端多模态架构,并将语音理解、音频推理与生成统一建模,不仅时延更低、输出更快,还能更加精准地理解副语言信息、非人声信号等语音要素,显著提升了语音人机交互的效率和智能上限。

据测评,这款模型在音频理解、语音识别、跨语种翻译、情感与副语言解析、等任务中表现突出,综合性能超越Qwen-Omni、Kimi-Audio在内的所有开源端到端语音模型,并在大部分任务上超越GPT-4o-audio。

随着语音交互成为人机主要交互方式,智能终端设备对语音模型的智商及情商水平提出了更高要求。Step-Audio 2 mini 首创了音频推理能力,能对情绪、语调、音乐等副语言和非语音信号进行精细理解、推理并自然回应,由此让AI听懂人类的“弦外之音”;同时,该模型率先支持语音原生的Tool Calling能力,可实现联网搜索等操作,有效解决模型幻觉问题,并让语音模型像文本模型一样具有更强大的知识储备和推理能力。

Step-Audio 2 mini模型架构图

在此之前,吉利发布了搭载阶跃星辰端到端语音大模型的吉利银河M9,这是行业内端到端语音大模型首次实现量产上车。据阶跃星辰相关人士介绍,自去年发布国内首个千亿参数端到端语音大模型Step-1o Audio 以来,该公司持续迭代模型性能,并跟吉利、鲸鱼机器人、TCL、Cyan青心意创等头部终端厂商达成深度合作,让语音大模型在生活场景中为消费者提供更加智能、便捷的互动体验。

今年以来,阶跃星辰已经开源了8款性能领先的多模态模型,覆盖语音、视频生成、图像编辑、3D、多模态推理等多个类别,为全球开源社区贡献多模态力量。

相关内容

热门资讯

最新或2023(历届)全国两会... 最新或2023(历届)3月3日至5日“两会”在北京胜利召开,举国关注,举世瞩目。全国各行各业的“两会...
费家与宁家的差距有多大,宁家就... 《生万物》的后劲有多大?在今年的这部国产剧《生万物》完美收官之后,里面的细节却也总是能够引起很多人的...
芈月为何要杀义渠王 难道他们多... 还不知道:芈月为何要杀义渠王读者,下面趣历史小编就为大家带来详细介绍,接着往下看吧~小编第一次了解芈...
最新或2023(历届)最新学习...  【第一篇:最新或2023(历届)最新学习两会精神心得体会】  作为一个当代的大学生党员不仅应该努力...
大学生关于两会学习心得体会最新...   【第一篇:大学生关于两会学习心得体会最新或2023(历届)】  今天,我们班全体党员级积极分子一...