研究筆記:TOPS 是起點,不是設備
2026 年 5 月發布
問題
口袋尺度 AI 硬體現在常用很大的 TOPS 數字行銷。Pockot 需要追蹤這些數字,但也要讓它們留在自己的位置。TOPS 不說明記憶體、模型品質、持續功耗、散熱、運行時間、軟體支援或離線有用性。
來源支持的資料點
- Apple 表示 M4 Neural Engine 可達到每秒 38 萬億次運算。來源:Apple M4。
- Qualcomm 列出 Snapdragon X Elite 集成 Hexagon NPU,AI 性能最高 45 TOPS。來源:Qualcomm Snapdragon X Elite。
- Raspberry Pi 文件列出 AI HAT+ 變體為 13 TOPS 與 26 TOPS,AI HAT+ 2 為 40 TOPS。來源:Raspberry Pi AI HAT+ documentation。
解讀
這些數字表明,有用的本地加速已經不再局限於工作站 GPU。筆電級和小板設備現在有公開 NPU 規格,足以支持嚴肅測量。但 Pockot 絕不應把 TOPS 當作答案。它只是輸入。
缺失欄位才是實際欄位:持續系統功耗、與模型共享的記憶體、量化格式、執行環境支援、特定模型的 tokens/s、外殼溫度與電池曲線。如果沒有棧的其餘部分,45 TOPS 筆電 NPU 與 26 TOPS HAT 不能直接比較。
工具規則
可行性測算器會讓 TOPS 保持可編輯,並與持續功耗和模型大小配對。v1 增加晶片配置是為了方便,不是能力主張。真實設備條目仍需要實測功耗與實測運行時間。