Pockot珀刻机

Pockot

研究笔记:本地 AI 必须经得起瓦时账本

研究笔记:本地 AI 必须经得起瓦时账本

问题

最简单的离网计算,也最容易被跳过:瓦时除以持续瓦数。Pockot 从这本账开始,因为如果一个有用的本地模型只能作为插墙演示运行,它并不有用。

来源支持的数据点

  • FAA 表示,普通客机携带场景下,备用锂离子电池与充电宝每块限制为 100 Wh。来源:FAA PackSafe
  • Apple 表示 M4 的 Neural Engine 最高达到每秒 38 万亿次运算。来源:Apple M4
  • Raspberry Pi 列出 AI HAT+ 加速器变体为 13 TOPS 与 26 TOPS。来源:Raspberry Pi AI HAT+ documentation

解读

100 Wh 参考值很实用,因为它是熟悉的便携边界。它不说明产品应该是什么,只是给测算器一个保守电池字段。持续系统功耗 10 W 时,100 Wh 在开销前是 10 小时。使用 1.2 的开销乘数后,同一包络约为 8.3 个建模小时。

“持续”这个词很重要。峰值 NPU 数字不包含整个系统。设备还要为 CPU、内存、存储、显示、传感器、电压转换、待机损失与热行为付账。Pockot 应尽可能记录实测墙插或电池功耗。

工具规则

测算器会把续航作为模型输出,并把每日能耗作为第二个输出。如果设备在计入开销后需要 12 W 持续功耗,那么一整天不是 100 Wh 问题;在当前模型中,它大约是 346 Wh 问题。