研究筆記：本地 AI 必須經得起瓦時帳本
2026 年 5 月發布
問題
最簡單的離網計算，也最容易被跳過：瓦時除以持續瓦數。Pockot 從這本帳開始，因為如果一個有用的本地模型只能作為插牆展示運行，它並不有用。
來源支持的資料點
- FAA 表示，普通客機攜帶場景下，備用鋰離子電池與行動電源每塊限制為 100 Wh。來源：FAA PackSafe。
- Apple 表示 M4 的 Neural Engine 最高達到每秒 38 萬億次運算。來源：Apple M4。
- Raspberry Pi 列出 AI HAT+ 加速器變體為 13 TOPS 與 26 TOPS。來源：Raspberry Pi AI HAT+ documentation。
解讀
100 Wh 參考值很實用，因為它是熟悉的便攜邊界。它不說明產品應該是什麼，只是給測算器一個保守電池欄位。持續系統功耗 10 W 時，100 Wh 在開銷前是 10 小時。使用 1.2 的開銷乘數後，同一包絡約為 8.3 個建模小時。
「持續」這個詞很重要。峰值 NPU 數字不包含整個系統。設備還要為 CPU、記憶體、儲存、顯示、感測器、電壓轉換、待機損失與熱行為付帳。Pockot 應盡可能記錄實測牆插或電池功耗。
工具規則
測算器會把續航作為模型輸出，並把每日能耗作為第二個輸出。如果設備在計入開銷後需要 12 W 持續功耗，那麼一整天不是 100 Wh 問題；在目前模型中，它大約是 346 Wh 問題。