边缘人工智能处理器领域的芯片制造商Hailo近日宣布,其第二代具备生成式人工智能功能的人工智能加速器Hailo-10H现已正式投入商用。自即日起,全球客户可从Hailo官方网站下载相关软件,并订购Hailo-10H。此举标志着首款原生支持边缘生成式人工智能工作负载、开放市场采购的独立人工智能处理器正式问世,这一成果备受业界期待。
基于公司第一代人工智能加速器Hailo-8的成功经验,Hailo-10H在视觉人工智能任务中展现出行业领先性能,同时新增了生成式人工智能能力,并首次实现在设备端完全运行大型语言模型(LLMs)、视觉语言模型(VLMs)以及其他生成式人工智能模型,无需依赖云端连接。这一功能上的重大突破,凭借成本效益和能效优势,将强大的生成式人工智能引入边缘设备,使Hailo-10H成为个人电脑、汽车、电信、零售、安防等多个领域产品开发者的变革性解决方案。
Hailo联合创始人兼首席执行官Orr Danon表示:“随着Hailo-10H开启订购,我们向‘让人工智能触手可及’的使命又迈出了重要一步。这是首款将真正的生成式人工智能性能引入边缘的独立人工智能处理器,集高效性能、经济成本和强大的软件生态系统于一身。”
Hailo-10H与Hailo成熟且广泛应用的软件栈实现全面兼容,同时得到每月超1万活跃用户的全球开发者社区全力支持。借助这些优势,它使开发者能够在边缘设备上直接运行先进的视觉和生成式人工智能模型,实现超低延迟的实时响应效果。
借助本地数据处理的模式,个人身份信息始终留存于设备端,Hailo-10H能够提供强有力的数据隐私保护。与此同时,它通过削减云端带宽使用,降低对高成本云端人工智能服务订阅的依赖,大幅降低了整体系统成本。尤为关键的是,该人工智能可在无需云端连接的情况下独立运行,即便处于互联网接入受限或无互联网接入的环境中,也能确保持续可用。
Hailo-10H专为消费者、企业和汽车市场的边缘设备设计,其应用范畴涵盖媒体中心、家庭网关和汽车座舱系统等。该产品能够支持自然语言人机交互、视觉感知和多模态人工智能等高级应用,在典型边缘环境的功耗和成本限制条件下,实现无缝流畅运行。
在性能测试中,Hailo-10H在生成式工作负载方面表现出色。以多种拥有20亿参数的语言和视觉语言模型为例,其首次生成token(词元)的延迟低于1秒,且每秒能够生成超过10个token(词元)。在视频分析领域,Hailo-10H支持在实时4K视频流上运行先进的物体检测算法(如YOLOv11m)。所有这些功能均在仅2.5瓦的功耗条件下实现,这使其成为紧凑、高效人工智能系统的理想选择。此外,Hailo-10H已通过AEC-Q100 2级标准认证,适用于2026年起投入生产的汽车设计。
随着Hailo-10H正式开启订购,Hailo将持续引领边缘人工智能领域的发展,重新定义智能计算的未来,让智能计算触手可及。若您有意向将Hailo-10H集成至下一代产品中,敬请访问Hailo官网网站。
关于Hailo
专注于人工智能的芯片制造商Hailo正在开发能够在边缘设备上实现数据中心级性能的专用人工智能处理器。Hailo的处理器是对传统计算机架构进行重新思考的产物,使智能设备能够以最小的功耗、尺寸和成本执行复杂的深度学习任务,如实时目标检测和实时分割。这些处理器旨在适应多种智能机器和设备,影响包括汽车、安全、工业4.0和零售在内的各个领域。