Hailo

Hailo：专攻边缘 AI 的以色列 AI 芯片公司

Hailo 是一家专注于 Edge AI，也就是边缘人工智能芯片 的以色列半导体公司。

与 Nvidia、AMD 等主要瞄准大型数据中心的 AI 芯片企业不同，Hailo 从成立之初就选择了另一条路线：

把强大的 AI 推理能力放进摄像头、机器人、汽车、工业设备、个人电脑和其他边缘设备。

Hailo 的核心竞争力不是追求几百瓦甚至上千瓦的超级 AI 芯片，而是在只有几瓦功耗的条件下运行复杂神经网络。

目前公司的主要产品包括：

Hailo-8

Hailo-8L

Hailo-10H

以及面向智能摄像头的：

Hailo-15

其中 Hailo-10H 已经把 Hailo 从传统 Computer Vision 推理进一步带入：

Edge Generative AI，也就是边缘生成式 AI。

Hailo 成立于 2017 年

Hailo 成立于 2017 年，总部位于以色列 Tel Aviv。

公司的主要联合创始人包括：

Orr Danon

Avi Baum

Hadar Zeitlin

以及 Rami Feig。

目前：

Orr Danon 担任 CEO

Avi Baum 担任 CTO。

Hailo 的创立目标非常明确。

2017 年的时候，深度学习已经开始快速发展，但是复杂 AI 模型主要运行在大型数据中心。

原因很简单：

传统 AI 计算需要非常高的计算能力、大量内存和相当大的电力。

Hailo 因此提出一个问题：

能不能让小型设备自己运行先进 AI，而不必不断把数据传到云端？

这后来成为 Hailo 整个公司的核心战略：

AI on the Edge。

什么是 Edge AI？

传统云端 AI 的工作方式通常是：

设备采集数据，然后通过网络上传到数据中心，服务器运行 AI 模型，最后再把结果返回设备。

例如：

摄像头拍摄画面 → 上传服务器 → GPU 分析 → 返回检测结果。

这种架构虽然非常成熟，却存在几个明显问题：

网络延迟；

云计算费用；

网络带宽消耗；

隐私问题；

没有互联网时无法正常工作。

Edge AI 则把 AI 计算直接放在设备旁边。

例如：

摄像头自己识别人脸

机器人自己识别障碍物

汽车自己识别行人

工业设备自己检测缺陷

电脑本地运行语言模型。

数据不需要首先发送到远程数据中心。

这正是 Hailo 最主要的市场。

Hailo 最重要的产品：Hailo-8

Hailo 真正进入边缘 AI 市场的重要产品是：

Hailo-8 AI Accelerator。

Hailo-8 可以提供：

26 TOPS

的 AI 推理性能。

TOPS 是：

Trillion Operations Per Second

也就是每秒万亿次运算。

但 Hailo-8 真正重要的并不是 26 TOPS 这个数字，而是：

它能够在非常低的功耗下提供这样的推理性能。

这使 Hailo-8 很适合安装在传统 GPU 不适合进入的设备里，例如：

智能摄像头、机器人、无人机、工业计算机、零售设备和智能家居。

Hailo-8L：更加便宜的边缘 AI 芯片

Hailo 后来又推出：

Hailo-8L

它可以看成 Hailo-8 的轻量版。

Hailo-8L 提供：

13 TOPS

的 AI 推理性能。

性能只有 Hailo-8 的一半左右，但是：

成本更低、功耗更低，也更加适合大量嵌入式产品。

对于很多边缘 AI 任务来说，13 TOPS 已经足够运行：

物体检测、人脸识别、姿态识别、图像分割和其他 Computer Vision 模型。

Hailo-8L 后来因为一个非常重要的产品迅速进入大量普通开发者的视野：

Raspberry Pi。

Raspberry Pi 选择了 Hailo

2024 年，Raspberry Pi 宣布选择 Hailo，为 Raspberry Pi 5 提供 AI 加速能力。

最早推出的 Raspberry Pi AI Kit 使用：

Hailo-8L

提供：

13 TOPS

的 AI 推理能力。

随后 Raspberry Pi 又推出 AI HAT+，提供两个版本：

Hailo-8L：13 TOPS

Hailo-8：26 TOPS。

这项合作对于 Hailo 非常重要。

因为 Raspberry Pi 不仅是一台便宜的小电脑。

它拥有庞大的：

开发者、教育、机器人、工业控制和 Maker 社区。

因此很多开发者第一次接触真正独立的 AI Accelerator，不是通过 Nvidia，而是通过：

Raspberry Pi + Hailo。

Raspberry Pi 又把 Hailo-10H 带入生成式 AI

Hailo 与 Raspberry Pi 的合作还在继续升级。

Raspberry Pi 当前的 AI HAT+ 2 已经采用：

Hailo-10H。

它提供：

40 TOPS INT4

计算能力，并带有自己的：

8GB 内存。

这使 Raspberry Pi 不再只能够执行：

物体检测、图像分割和姿态识别。

它还可以运行：

LLM

和：

VLM

也就是大型语言模型和视觉语言模型。

Raspberry Pi 官方资料显示，AI HAT+ 2 可以运行大约 60 亿参数以内的 LLM 和 VLM。

这实际上标志着边缘 AI 的一个重要变化：

以前“小型 AI 芯片”主要代表 Computer Vision。

现在已经开始意味着：

本地生成式 AI。

Hailo-10H：Hailo 第二代 AI Accelerator

Hailo 当前最值得关注的芯片是：

Hailo-10H。

Hailo-10H 是公司的第二代 AI Accelerator 架构。

Hailo 在 2025 年 7 月宣布 Hailo-10H 正式商业供货。

与第一代 Hailo-8 最大的区别是：

Hailo-10H 不再只面向经典深度学习推理。

它从设计上开始支持：

LLM

VLM

生成式 AI

图像生成

以及传统 Computer Vision。

Hailo-10H 有多强？

Hailo-10H 的主要计算性能达到：

40 TOPS INT4

以及：

20 TOPS INT8。

但是更加值得注意的是它的功耗。

Hailo 官方给出的典型功耗只有大约：

2.5W。

这就是 Hailo 与数据中心 GPU 最大的区别。

Nvidia 数据中心 GPU 可以消耗几百瓦甚至超过 1000W。

Hailo-10H 则希望在：

几瓦

的功耗范围里运行 AI。

甚至可以在 2W 左右运行小型 LLM

Hailo 在 2025 年公布过 Hailo-10H 运行 Qwen2 1.5B 模型的测试。

在经过量化以后，系统可以在大约：

2.1W 平均功耗

下执行本地语言模型推理。

官方测试中，模型生成速度达到约：

9.45 tokens/s。

这一数字与大型服务器 GPU 没有可比性。

但是需要注意：

这是一个功耗只有几瓦的小型 Edge Accelerator。

因此 Hailo 真正追求的并不是：

最快的 LLM。

而是：

能不能把一个实用的 LLM 放进普通设备，而且基本不依赖云端。

为什么 Hailo 不直接复制 GPU？

Hailo 的技术路线并不是把传统 GPU 缩小。

公司从头重新设计了 AI Processor。

Hailo 把自己的核心架构称为一种：

Structure-Driven Dataflow Architecture

也就是根据神经网络本身结构组织数据流的架构。

传统 CPU 主要围绕：

Instruction Flow

运行。

GPU 主要依靠大量并行线程执行：

Kernel。

Hailo 则更加关注：

Neural Network Dataflow。

也就是说，它研究一个神经网络里的数据：

从哪里产生；

下一步进入哪里；

怎样尽量减少内存访问；

怎样避免不必要的数据移动。

然后让芯片结构围绕这些数据流进行优化。

Hailo 的秘密其实还是：减少数据移动

现代 AI 芯片面临的一个核心问题是：

移动数据比计算数据越来越昂贵。

如果计算核心每完成一个小操作，都必须不断从外部 DRAM：

读取数据；

进行计算；

再写回内存。

那么大量能源实际上没有消耗在乘法和加法上。

而是消耗在：

Moving Data。

这也是为什么 AI 芯片越来越重视：

片上 SRAM、数据流、缓存和内存带宽。

Hailo 的架构同样围绕这一问题展开。

它希望根据神经网络结构，让数据直接在计算资源之间高效移动，从而减少访问外部内存产生的能源消耗。

这也是 Hailo 能够在极低功耗下提供较高 TOPS 的重要原因。

Hailo-15：直接把 AI 放进摄像头

Hailo 的另一个重要产品系列是：

Hailo-15 AI Vision Processor。

Hailo-15 与 Hailo-8 有明显区别。

Hailo-8 更接近一个：

AI Accelerator。

它通常需要与另外一颗 CPU 或 SoC 配合使用。

Hailo-15 则更加接近一个完整的：

Vision Processor。

它把：

CPU、AI 加速、图像处理、视频处理

整合到一个 SoC 中。

因此设备制造商可以直接使用 Hailo-15 制造：

智能摄像头和视觉系统。

其中高端 Hailo-15H 可以提供最高约：

20 TOPS

的 AI 性能。

为什么智能摄像头特别适合 Hailo？

摄像头实际上是 Edge AI 最理想的应用之一。

传统监控系统的工作方式是：

几十甚至几百路视频全部传送到服务器，然后服务器 GPU 分析所有视频。

这会产生巨大的：

网络流量、服务器成本、存储成本和功耗。

如果摄像头自己拥有 AI Processor，就可以首先在摄像头内部判断：

有没有人？

有没有汽车？

是不是发生异常？

是否需要录像？

只有真正重要的信息才传送到服务器。

这样整个系统的计算模式就发生了变化。

Hailo-15 正是针对这一市场设计。

截至 2026 年，Hailo 仍然把 Security、Smart Camera、Connected Home、Automotive、Retail、Medical 和 Edge AIoT 作为重点市场。

Hailo 软件生态

芯片只是 AI 平台的一半。

另一半是：

Software。

Hailo 已经建立比较完整的 AI 软件工具链。

其中包括：

Hailo Dataflow Compiler

负责把已经训练好的神经网络转换和优化成 Hailo 芯片可以执行的格式。

HailoRT

是 Hailo 的 Runtime 软件层。

应用程序可以通过 HailoRT 控制 Hailo AI Accelerator。

另外还有：

Hailo Model Zoo

提供大量已经优化的模型。

以及：

TAPPAS

提供完整 AI 应用 Pipeline 示例。

Hailo 对开发者最大的意义

Hailo 有一个非常有意思的优势：

它已经不只是面向大型企业。

由于：

Raspberry Pi AI HAT+

以及大量 M.2 模块的出现，普通开发者也可以购买 Hailo 加速器。

这意味着今天开发者可以使用：

Linux + Raspberry Pi + Hailo

建立自己的：

实时物体识别系统；

机器人；

AI 摄像头；

边缘推理设备；

甚至本地小型 LLM。

对于 Edge AI 教育和开发者生态来说，这是非常重要的一步。

Hailo-8 Century：把多颗 Hailo 芯片组合起来

Hailo 虽然专注 Edge AI，但也可以把多颗芯片组合起来。

例如：

Hailo-8 Century PCIe Card

可以提供最高：

208 TOPS

的 AI 推理能力。

这种产品适合：

工业服务器、视频管理服务器以及需要同时处理大量摄像头的 Edge Server。

也就是说，Hailo 的产品覆盖范围已经从：

单颗小型 AI Accelerator

一直扩展到：

多芯片边缘服务器。

Hailo 的目标不是数据中心训练

这点非常重要。

如果用 Nvidia H100、B200 或其他大型 GPU 的标准评价 Hailo，很容易得出错误结论。

Hailo 并不是主要用来训练 GPT 级大型模型的芯片。

它真正瞄准的是：

Inference。

而且主要是：

Edge Inference。

简单来说：

Nvidia 更擅长：

大型数据中心训练和大型 AI 推理。

Hailo 则更希望进入：

摄像头、机器人、汽车、工业机器和个人计算设备。

二者虽然都叫“AI 芯片”，但实际上面对的市场非常不同。

Hailo 与 Nvidia Jetson 的竞争

真正与 Hailo 更直接竞争的 Nvidia 产品其实不是 H100。

而是：

Nvidia Jetson。

Jetson 同样面向：

Robotics、Edge AI、Computer Vision 和 Autonomous Machines。

但是两者设计思路仍然不同。

Jetson 是一个相对完整的计算平台：

ARM CPU + Nvidia GPU + CUDA。

Hailo 更强调：

专用 AI Accelerator。

因此设备制造商可以继续使用：

Intel、AMD、ARM、Raspberry Pi

等 CPU，然后通过：

PCIe、M.2 或 mPCIe

增加 Hailo NPU。

这种模块化结构使 Hailo 很容易进入已有硬件平台。

Hailo 与 Qualcomm 的区别

Qualcomm 在手机、汽车和边缘 AI 市场拥有非常强大的 NPU。

但 Qualcomm 的 AI Engine 通常是：

Snapdragon SoC 的一部分。

Hailo 则提供：

独立 AI Accelerator。

这意味着一家工业设备公司不需要把整个主处理器平台换成 Qualcomm。

它可以继续使用原来的 CPU，只增加一块 Hailo M.2 Accelerator。

因此 Hailo 的商业模式与传统 SoC 公司存在明显区别。

Hailo 与 Coral Edge TPU 的关系

Google 很早以前也推出过：

Edge TPU

和：

Coral。

它们同样希望让开发者在边缘设备执行 AI。

但 Edge AI 模型的发展速度非常快。

今天模型已经从传统：

MobileNet、SSD

快速发展到：

YOLO、Transformer、VLM 和 LLM。

Hailo 的产品更新路线也体现出这个变化：

Hailo-8：Computer Vision

↓

Hailo-10H：Generative AI

这也是公司目前最值得关注的转型。

Hailo 已经服务数百家客户

Hailo 在 2024 年融资时表示，公司已经拥有：

300 多家客户。

其中包括：

Dell Technologies、ABB、Schneider Electric 等企业。

公司的业务也已经扩展到：

美国、欧洲、日本、韩国、中国和台湾等市场。

这意味着 Hailo 已经不再只是一个实验室型 AI 芯片创业公司。

它的芯片已经真正进入商业设备。

Hailo 已融资超过 3.4 亿美元

Hailo 也获得了大量资本支持。

2024 年，公司宣布完成：

1.2 亿美元新一轮融资。

融资完成后，公司估值达到大约：

12 亿美元。

累计融资超过：

3.4 亿美元。

投资者包括：

OurCrowd、ABB Technology Ventures，以及多家汽车和产业资本机构。

Hailo 因此已经成为以色列最重要的 AI 半导体创业公司之一。

汽车市场也是 Hailo 的重要方向

Edge AI 与汽车天然非常接近。

汽车里面越来越多功能需要 AI，包括：

驾驶员监控；

行人检测；

车道检测；

停车辅助；

车内摄像头；

语音助手；

生成式 AI 交互。

这些应用有一个共同要求：

不能完全依靠云端。

汽车必须能够在没有网络的时候继续工作。

而且实时安全功能不可能等待云服务器响应。

因此：

低延迟、低功耗、本地推理

正好是 Hailo 的核心优势。

Hailo-10H 进一步把这一能力扩展到本地生成式 AI，使未来汽车可以在不连接云端的情况下运行部分 AI Assistant 功能。

隐私可能成为 Edge AI 越来越大的优势

Hailo 还有一个越来越重要的卖点：

Privacy。

例如一个家庭摄像头如果需要把所有视频上传云端才能进行 AI 分析，会产生明显隐私问题。

如果摄像头自己拥有 AI 芯片：

视频可以留在本地；

人脸识别可以在设备内部完成；

只有警报结果需要发送出去。

同样，在个人电脑上运行 LLM 时：

商业文件、邮件和私人内容

也不一定需要上传给第三方服务器。

因此 Edge AI 不只是：

降低延迟。

它同时也是：

Local AI + Privacy。

Hailo 把这一点作为 Hailo-10H 的重要优势之一。

Hailo 的竞争优势

Hailo 最大的优势首先是：

极高的能效。

它不是追求绝对最大的芯片，而是追求：

Performance per Watt。

第二个优势是：

体积小。

M.2 模块让 Hailo 可以非常容易地集成进已有设备。

第三个优势是：

产品已经商业化。

Hailo-8 并不是 PPT 芯片。

它已经进入 Raspberry Pi、工业系统、摄像头以及其他商业设备。

第四个优势是：

软硬件生态已经比较成熟。

HailoRT、Dataflow Compiler、Model Zoo 和开发者社区降低了使用门槛。

第五个优势是：

公司已经从 Vision AI 进入 Generative AI。

Hailo-10H 使它有机会进入下一轮：

On-Device AI

竞争。

Hailo 面临的最大挑战

Hailo 同样面对非常强大的竞争。

首先是：

Nvidia。

Nvidia 拥有 CUDA 和 Jetson 生态。

其次是：

Qualcomm。

Qualcomm 正在手机、PC 和汽车领域大规模推广自己的 NPU。

第三是：

Apple。

Apple Neural Engine 已经进入数以亿计设备。

第四是：

Intel 和 AMD。

AI PC 开始让 NPU 成为 CPU 平台的标准组成部分。

第五是：

大量 ARM SoC 厂商也开始内置自己的 NPU。

因此 Hailo 面临一个现实问题：

如果未来每颗 CPU 和 SoC 都自带 NPU，还有多少设备需要独立 AI Accelerator？

这会成为 Hailo 长期必须回答的问题。

但独立 AI Accelerator 仍然有市场

另一方面，独立 AI Accelerator 也有明显优势。

很多工业设备不会每两年更换 CPU。

一套机器可能运行：

5 年、10 年甚至更长。

如果企业想给现有设备增加 AI，重新设计整个主板非常昂贵。

最简单的方法可能就是：

增加一个 M.2 模块。

Hailo 正好适合这种升级模式。

例如：

旧工业 PC

Hailo M.2

就可能变成一个新的 AI Edge Computer。

这也是独立 NPU 仍然拥有重要市场的原因。

Hailo 为什么值得关注？

如果把全球 AI 芯片企业按照应用位置进行分类，大致可以看到几个不同方向：

Nvidia、AMD：

Data Center AI

Cerebras：

Wafer-Scale AI

Groq：

Ultra-Fast LLM Inference

SambaNova：

Dataflow AI Systems

Tenstorrent：

RISC-V + AI Accelerator

而 Hailo 最清楚的位置就是：

Edge AI。

它希望让 AI 从大型数据中心真正进入：

摄像头、汽车、机器人、工业设备、家用设备和个人电脑。

这是一块非常庞大的市场。

Hailo 可能代表 AI 芯片发展的下一阶段

过去十年的 AI 计算主要发生在：

Cloud。

大型 GPU 数据中心训练模型。

然后用户通过互联网调用这些模型。

但是 AI 的下一阶段很可能变成：

Cloud AI + Edge AI。

巨型模型仍然留在数据中心。

但是越来越多较小模型会进入：

PC、手机、汽车、摄像头和机器人。

未来很多 AI 系统可能采用：

云端大型模型负责复杂任务；

本地小型模型负责实时任务。

如果这个趋势继续发展，那么低功耗 Edge AI Processor 的重要性会越来越高。

而这正是 Hailo 从 2017 年就开始押注的方向。

总结

Hailo 是全球 Edge AI 芯片企业中非常值得关注的一家公司。

它没有参与“谁能制造最大 GPU”的军备竞赛。

而是选择了另外一个问题：

怎样用几瓦电力，把真正有用的 AI 放进普通设备？

从：

Hailo-8 的 26 TOPS

到：

Hailo-8L 的 13 TOPS

再到：

Hailo-10H 的 40 TOPS 和生成式 AI

以及：

Hailo-15 智能视觉处理器

公司的产品路线已经非常清晰。

尤其值得注意的是 Hailo 与 Raspberry Pi 的合作。

它使 Hailo 不再只是隐藏在工业设备内部的一颗芯片，而开始进入全球大量开发者和 Maker 手中。

当 Raspberry Pi 5 加上 Hailo-10H 已经能够本地运行 LLM 和 VLM 时，一个趋势已经越来越明显：

AI 正在从数据中心走向每一台设备。

如果未来 AI 真正进入数十亿摄像头、机器人、汽车、工业机器和个人计算机，那么市场需要的不可能全部是数百瓦的 GPU。

它同样需要大量：

便宜、小型、低功耗、高能效的 AI Processor。

这正是 Hailo 希望占据的位置。