AI 晶片：GPU、TPU、NPU（AI Chips: GPU, TPU, NPU）是什麼？
AI 晶片是專門加速 AI 所需大量矩陣運算的處理器，常見有 GPU、TPU 與 NPU。GPU 靠數千個核心平行運算；TPU 是 Google 自行設計的特殊應用積體電路（ASIC），內含 128×128 脈動陣列；NPU 則多內建在電腦與手機中，以省電執行 AI 推論。
硬體GPUTPUNPU圖形處理器張量處理器神經處理器
一句話說明
專門加速 AI 運算的晶片，常見有 GPU、Google 的 TPU 與電腦手機裡的 NPU。
AI 晶片：GPU、TPU、NPU怎麼運作？
- AI 模型的核心工作是大量矩陣乘法與加法
- GPU 用數千個核心同時處理這些運算
- TPU 用專為矩陣運算設計的脈動陣列提升效率
- NPU 針對深度學習運算最佳化，在裝置上省電執行 AI
實際例子
- 資料中心用大量 GPU 訓練大型語言模型
- Google Cloud 提供 TPU 讓開發者訓練大型模型
- 筆電 NPU 在本機執行即時字幕與影像處理
常見誤解
誤解：NPU 可以取代 GPU 做所有 AI 工作
事實：NPU 主打省電的裝置端推論，大型模型訓練仍多仰賴 GPU 或 TPU
事實：NPU 主打省電的裝置端推論，大型模型訓練仍多仰賴 GPU 或 TPU
誤解：TPU 什麼工作都比 GPU 快
事實：Google 文件指出 TPU 不適合頻繁分支、高精度運算或自訂運算較多的工作
事實：Google 文件指出 TPU 不適合頻繁分支、高精度運算或自訂運算較多的工作
常見問題
GPU、TPU、NPU 三者最大的差別是什麼？
GPU 通用性高、生態系完整；TPU 是 Google 為矩陣運算特製的晶片，擅長大規模訓練；NPU 通常內建在筆電與手機，重點是低耗電地在本機執行 AI。
TOPS 是什麼意思？
TOPS 是每秒兆次運算（Trillion Operations Per Second），常用來表示 NPU 的 AI 運算能力，例如微軟 Copilot+ PC 要求 NPU 達 40 TOPS 以上。
延伸閱讀
相關名詞
參考來源
- Google Cloud：Introduction to Cloud TPU
- NVIDIA Blog：Why GPUs Are Great for AI
- Microsoft Learn：Copilot+ PCs developer guide（NPU）
查核日期：2026-09-26。API：/api/term?id=ai-chips