AI推論超車訓練：蘇姿丰預言，台灣硬體的新賽局

30 秒看重點

• 事件： AMD執行長預言AI推論算力今年將首次超越訓練算力需求。
• 意義： AI應用從大型模型訓練走向普及化，更貼近日常生活。
• 影響： CPU在AI運算時代角色吃重，為台灣硬體供應鏈帶來新機會。

AI推論超車訓練，影響有多大？

這項趨勢宣告著AI的「學習階段」正逐漸成熟，並將全面進入「實戰應用」階段。過去我們看到的大型AI模型，像是GPT系列或生成式AI繪圖工具，主要需要「AI訓練」，也就是透過餵養海量數據來「教導」AI學習、建立模型，這需要巨量的繪圖處理器（GPU）算力。然而，當這些模型訓練完成後，要將它們部署到各種產品和服務中，讓用戶真正「使用」AI功能時，就是「AI推論」（inference）算力發揮作用的時候了。這就像我們把學生教會了，現在要讓他們出社會工作、應用所學，提供實質的服務。隨著AI模型日益精進，應用場景也越來越廣泛，從智慧手機、智慧家電到自動駕駛、智慧工廠，這些邊緣AI應用對即時反應、低功耗推論的需求大幅增加。過去GPU獨佔鰲頭，但未來中央處理器（CPU）將在AI推論，特別是輕量級或邊緣AI應用中，扮演更為關鍵的角色，因為它們在通用計算、即時回應和成本效益上具備優勢。這將促使晶片設計更著重異質整合，讓不同類型的處理器各司其職，共同優化AI運算效能。

台灣怎麼看這件事？

對台灣科技產業來說，蘇姿丰的預言無疑是一劑強心針，更是一張未來台灣AI產業鏈的機會藍圖。首先，全球最重要的台積電AI晶片代工廠，除了持續滿足高階AI訓練晶片（如NVIDIA H100、AMD MI300系列）需求，也將迎來更多元的AI推論晶片訂單，包括CPU、NPU（神經網路處理器）及客製化晶片。台灣的IC設計大廠如聯發科，在邊緣AI運算領域耕耘已久，正好能抓住手機、物聯網裝置對推論算力的需求。此外，廣達、緯創、仁寶、英業達等PC及伺服器製造商，不只能繼續搶攻AI伺服器市場，也將在AI PC、邊緣運算裝置等新興市場扮演要角，因為這些裝置需要更強大的CPU來實現本地端AI功能。台灣的硬體優勢與半導體實力，讓這波「推論為王」的趨勢，成為台灣廠商深化國際影響力的絕佳機會。

編輯觀點

這項預言不只是數字上的消長，更是AI技術真正「落地」的里程碑。AI過去常給人遙不可及的印象，但當推論算力需求超越訓練，代表AI正從實驗室的「高塔」走入你我日常生活的「大街小巷」。對台灣而言，我們不能只看到GPU的「硬」實力，更要看到CPU在推論端所代表的「廣」應用。這促使台灣廠商必須更注重AI軟硬整合優勢，從晶片設計到系統整合，提供完整的AI解決方案，才能在全球AI新賽局中持續領先。

常見問題

AI訓練和AI推論有什麼不同？

AI訓練是教導AI模型學習知識和技能的過程，需要龐大資料與算力；AI推論則是將訓練好的模型應用於實際問題，進行判斷或生成內容，如人臉辨識或語音助理。

CPU在AI時代還重要嗎？

非常重要！尤其在AI推論階段，特別是邊緣AI應用，CPU因其通用性、成本效益及在低功耗場景的表現，將扮演更關鍵的角色，與GPU形成互補。

為什麼AMD執行長這麼說很重要？

作為全球半導體巨頭的執行長，蘇姿丰的發言代表著對市場趨勢的精準洞察，她的預測將直接影響晶片製造商、硬體廠商與軟體開發商的未來策略與投資方向。

對一般消費者有什麼影響？

這意味著更多AI功能將直接整合到你身邊的裝置，如手機、筆電、智慧家電，運作更快、更即時，且可能更隱私，因為許多AI處理不需上傳雲端。

台灣哪些產業會受惠？

台灣的半導體製造（台積電）、IC設計（聯發科）、PC與伺服器硬體製造（廣達、緯創、仁寶、英業達）等產業，都將因AI推論算力需求的增長而迎來新的成長動能。

名詞小教室

AI訓練 (AI Training)

把AI當成學生，用海量數據教它學會認圖、翻譯、下棋等技能，建構出聰明的「大腦」。

AI推論 (AI Inference)

AI學生畢業後，把它派出去工作，執行實際任務，例如手機人臉辨識、智慧音箱語音助理，應用它所學的知識。

GPU (繪圖處理器)

像一隊快速的工人，擅長處理大量重複性運算，是訓練大型AI模型最有效率的晶片，也是AI伺服器的心臟。

CPU (中央處理器)

像一個萬能的總管，擅長邏輯判斷、處理各種通用任務，在邊緣AI裝置中執行輕量級或即時推論非常適合。

邊緣AI (Edge AI)

讓AI直接在手機、智慧家電、車子等「邊緣」裝置上運行，不需將資料傳回雲端處理，達到即時反應與保護隱私的效果。

異質整合 (Heterogeneous Integration)

將不同種類的晶片或功能模組（如CPU、GPU、NPU）整合在一個封裝或系統中，讓它們各展所長，共同提升整體效能。