树莓派刚刚甩出了一张新牌:售价 130 美元的 AI HAT+ 2。

这块扩展板搭载了 Hailo 10H 芯片,甚至自带 8GB 的 LPDDR4X 内存。官方的卖点很性感——它能独立运行本地大模型(LLM),把树莓派的 CPU 和内存彻底解放出来。

听起来,这是要把几十美元的微型电脑变成低功耗 AI 服务器?

但在资深极客 Jeff Geerling 的实测中,这块被寄予厚望的“AI 神卡”,却遭遇了一场尴尬的现实毒打。

理想很丰满,现实有点骨感

image

这本来应该是个“赢麻了”的故事。

Hailo 10H 芯片拥有 40 TOPS 的 INT8 算力,功耗却只有 3W。相比之下,树莓派自带的 CPU 功耗上限能冲到 10W。从纸面数据看,用专用的 NPU 跑 AI,理应比通用 CPU 更快、更省电。

而且,它自带 8GB 显存,这意味着你不需要占用树莓派本就珍贵的系统内存。

但现实是——它跑不过树莓派自带的 CPU。

Jeff Geerling 在一台 8GB 版本的树莓派 5 上进行了同台竞技。他让 Hailo 10H 的 NPU 和树莓派的 CPU 跑同样的模型,结果令人大跌眼镜:

image

除了在 Qwen2.5 Coder 1.5B 这个小模型上勉强咬住之外,树莓派的 CPU 在几乎所有测试中都碾压了这块昂贵的 AI 加速卡。

虽然 Hailo 在能效比上略有优势,但这更像是一种安慰奖。

image

原因很简单:性能释放太保守。

image

Hailo 为了维持 3W 的超低功耗,锁死了性能;而树莓派的 CPU 只要稍微“放纵”一下,功耗冲到 10W,就能把 NPU 甩在身后。

这就是所谓的“成也功耗,败也功耗”。

8GB 内存:捉襟见肘的尴尬

如果说性能还能用“低功耗”来洗地,那么内存配置就是实打实的硬伤。

AI HAT+ 2 自带了 8GB 内存,听起来不错?但别忘了,现在的树莓派 5 最高已经能配到 16GB 内存 了。

在 AI 领域,内存就是生命线。

大多数量化后的中型模型,动辄就要吃掉 10-12GB 的内存,还得留点空间给上下文。8GB 的配置,直接把这块卡挡在了“实用级”大模型的门外。

这时候,反转来了。

如果你真的想在树莓派上跑大模型,最好的方案竟然不是买这块 AI HAT,而是直接买顶配的树莓派。

Jeff Geerling 展示了一个疯狂的案例:ByteShape 成功把 Qwen3 30B A3B Instruct 这个 300 亿参数的模型,塞进了一台 16GB 内存的树莓派 5 里。

虽然通过压缩牺牲了一点点画质,但这台“小电脑”真的生成出了一个功能完备的待办事项应用——支持拖拽排序、支持打钩删除。

image

image

这就很尴尬了。

花 130 美元买个 AI HAT+ 2 只能跑跑玩具模型,不如直接把钱砸在 16GB 的树莓派本体上,直接用 CPU 跑 30B 模型。

这就是赤裸裸的“背刺”。

视觉处理:唯一的高光时刻?

当然,这块卡也不是一无是处。

如果你把目光从 LLM 移开,看向计算机视觉,Hailo 10H 还是展现出了应有的实力。

在测试中,它配合摄像头模块,能以 30fps 的流畅度实时识别键盘、显示器(虽然被误判为电视)、手机甚至藏在后面的鼠标。

image

这速度比树莓派 CPU 快了 10 倍。

但问题又来了:这并不是什么新功能。

两年前发布的 110 美元的旧款 AI HAT,或者 70 美元的 AI Camera,都能干这事儿。如果你只是为了做个自动识别猫狗的监控,没必要买这款新品。

AI HAT+ 2 最大的噱头其实是“混合模式”——一边处理视觉画面,一边跑 LLM 推理。

听起来很美?Jeff Geerling 试着跑了一下,直接崩了。

image

分段错误、设备未就绪……软件支持完全跟不上硬件的脚步。

硬件先行,软件还在穿鞋

这就是目前 AI 硬件市场的通病:先把硬件造出来,软件?以后再说。

树莓派 AI HAT+ 2 就像是一个拿着重剑的婴儿。硬件参数确实亮眼,40 TOPS 的算力、独立的 8GB 内存、3W 的超低功耗。

但在实际应用中,它陷入了一个尴尬的夹缝:

image

  • 跑大模型? 8GB 内存不够用,性能还不如直接上 16GB 树莓派。
  • 跑视觉识别? 旧款产品也能做,性价比更低。
  • 跑混合模式? 软件还没写好。

也许,正如 Jeff Geerling 所说,这块卡真正的归宿并不是极客的桌面,而是富士康那种自动收银机的流水线——专门用来检测商品包装是否收缩。

对于普通玩家来说,这更像是一个“寻找问题的解决方案”。

image

与其为了这 8GB 外挂内存和 NPU 花冤枉钱,不如老老实实买台 16GB 的树莓派,或者用旧款 HAT 解决视觉问题。

毕竟,在科技圈,“能跑”和“好用”之间,往往隔着一条马里亚纳海沟。