高通万卫星:端侧部署智能体AI是挑战,也是机遇
创始人
2025-06-19 20:42:12
0

GSMA 2025 MWC上海昨日正式拉开帷幕,6月19日,在大会期间的AI终端峰会上,高通公司AI产品技术中国区负责人万卫星就高通对推动智能体AI在终端侧部署方面的看法与规划进行了阐述。

对于智能体AI终端侧部署方面有何规划,万卫星表示,智能体AI正在重塑终端消费者的交互界面,高通相信,AI将成为新的UI,并且高通已经开始了技术储备,目前端侧小模型的算力、性能和能效正在逐渐升级,AI已能支持跨边缘侧规模化部署的用应用。与此同时,高通正通过打造领先的异构计算技术,更高效的端到端、解决方案和强大的软件栈,为端侧智能体AI部署的全流程提供支持。

作为最早展示大模型可以完全在边缘运行的芯片平台厂商之一,高通非常重视生成式AI和智能体AI。万卫星提出,在硬件层面高通能提供集成定制化CPU、GPU、NPU和低功耗子系统的行业领先系统级芯片,既能保障终端侧高性能、高能效的 AI 推理,又能在兼顾电池续航与整体能效的同时,轻松应对复杂 AI 任务。

高通不仅拥有手机、汽车、PC等丰富的产品线,还拥有支持应用面向这些广泛产品线进行开发和扩展的软件和工具支持,这就为端侧模型的发展和规模化部署提供了广泛的生态支持,从而为更多行业带来高性能、经济实惠、快速响应和关注隐私的变革性AI体验。

具体来说,高通通过统一的高通AI软件栈帮助客户将端侧模型扩展至更多终端产品之上,并为开发者提供跨不同边缘终端领域的统一工具、框架和SDK,赋能开发者在边缘侧加速采用AI智能体和应用,使开发者可以更轻松适应不同的环境和情况。

万卫星表示,高通已经推出了高通AI规划器(Qualcomm AI Orchestrator)这一的端侧解决方案,它可以整合用户的个性化偏好、本地情境信息以及终端侧应用与服务功能,在终端侧引入智能体AI体验。举例来说,在AI规划器的支持下,用户可以要求AI智能体规划自己和家人一起用餐,智能体能整合用户以往的聊天信息及家人的兴趣爱好,自动分析出合适的餐厅,并自主调用用户常用的应用程序预订座位,然后在日历上预留时间,甚至规划好行车路线。

万卫星还强调,随着AI能力的升级,用户对隐私、安全以及个性化的要求越来越高,更全面的智能体AI需要依托高通强大的端侧AI处理能力、统一高效且灵活的AI软件栈,同时也离不开端到端的高通AI规划器等解决方案,以及各类传感器中枢提供的实质性辅助。这种面向未来的强大技术基础设施,使高通能够不断满足AI日新月异的需求。

展望未来,高通也将持续引领AI推理创新时代,利用AI从大规模训练向大规模推理转型的趋势,与客户、合作伙伴,包括整个生态系统共同推动智能体AI体验在端侧的发展,实现“AI是新的UI”的未来愿景。

(9996145)

相关内容

热门资讯

7月1日起 三岔湖站首开跨省动... 转自:成都日报锦观7月1日起 三岔湖站首开跨省动车 7月1日零时起,全国铁路将实行新的列车运行...
5月消费市场呈现平稳发展态势 本报北京6月19日电 (记者时斓娜)记者今天从商务部获悉,5月,消费市场总体呈现平稳发展态势,社会...
迪威尔拟投资3.06亿元建设深... 6月19日晚间,迪威尔(688377)发布公告称,公司拟投资建设“深海承压零部件产品精密制造项目”,...
【铭记历史 缅怀先烈】铁血将军... 青山环抱,草木葱茏。夏日的吉林省白山市靖宇县,美丽、宁静、祥和。在距县城西南方向6公里处的三道崴子,...
为有源头活水来 转自:成都日报锦观为有源头活水来——习近平同志在闽金融论述与实践启示 □新华社记者 福...