30 秒看重點
- 事件：Perplexity 執行長指出，AI 競賽已從「模型參數規模」轉向「單位功耗的 Token 價值」。
- 意義：算力與能源成本已成瓶頸，盲目追求大模型不再划算，高能效比才是生存關鍵。
- 影響：台灣作為半導體與伺服器硬體重鎮，將在這一波「綠色 AI」轉型中扮演核心角色。
AI 賽道下半場開打！未來贏家不在於誰的模型參數最大，而是誰能用最少電費創造最高價值的 Token。這項變革將重新定義台積電晶片與台灣伺服器供應鏈的戰略價值。
關鍵數據：AI 搜尋耗電量是傳統 Google 搜尋的 10 倍，降低單位功耗成本已成企業燃眉之急。
大模型拼不下去？AI 的「省電高效率」革命來了
過去兩年，全球科技巨頭瘋狂追求 GPT-4 等千億參數大模型，這場「大腦容量」的軍備競賽，如今正撞上能源與成本的物理牆。知名 AI 搜尋引擎 Perplexity 執行長近日指出，AI 賽道下半場的勝負手，在於「單位功耗最高 Token 價值」（Value per Token per Watt）。簡單來說，以前大家比的是馬力（參數大），現在油價高漲，大家比的是「一公升汽油能跑幾公里、載多少貨」的 CP 值。如果一個超大模型運算一次要花好幾度電，但回答的只是無關痛養的瑣事，那這顆「聰明的大腦」在商業上就是不及格的。這促使業界將目光從「把模型做大」轉向「在特定功耗下，如何榨出最具商業價值的精準輸出」。
- 2022-11：ChatGPT 橫空出世，全球展開「參數規模」的盲目軍備競賽。
- 近期：電力供應緊張與算力成本高昂，業界轉向追求「高能效比」與「垂直應用價值」。
台灣怎麼看這件事？
台灣在這場「能效革命」中，直接站穩了制高點。台積電憑藉 3 奈米、2 奈米等先進製程，是全球唯一能提供「超低功耗、超高運算」晶片的推手。此外，隨著 AI 晶片發熱量飆升，台灣的 AI 伺服器散熱技術（如液冷系統）與代工廠（如廣達、緯穎）也將迎來爆發，因為當「省電」成為硬指標準，台灣的硬體供應鏈就是全球 AI 巨頭的救命稻草。
編輯觀點
「拼腦容量」不如「拼腦袋的燃油效率」，這是 AI 步入理性商業化的必經之路。台灣軟體新創不需要去造大模型，而是應該思考如何利用低成本的開源模型，在特定垂直領域創造高價值的服務，這才是最聰明的借力打力戰術。
常見問題
- 什麼是「Token 價值」？
- Token 是 AI 處理文字的基本單位，其價值取決於輸出的品質與精準度，能解決高難度問題的 Token 價值較高。
- 為什麼 AI 搜尋比傳統搜尋更耗電？
- 傳統搜尋是關鍵字索引的比對，而 AI 搜尋需要讓大模型重新計算並生成答案，運算量極大。
- 這對台灣半導體產業有什麼好處？
- 客戶為了省電會更依賴台積電的先進製程，同時會帶動台灣散熱與綠能伺服器供應鏈的需求。
- 企業引進 AI 時應該如何評估？
- 不應盲目追求最新、最大的模型，應評估「每花一元電費/算力，能幫公司解決多少實際業務問題」。
- 未來大模型會消失嗎？
- 大模型不會消失，但會走向兩極化：少數巨頭維持超大模型研發，多數應用則轉向輕量化、高能效的專屬模型。 名詞小教室
- Token（記號）
- 大語言模型處理文字的最小單位，可以是一個字、一個詞或一個字元，就像是 AI 閱讀和寫作時的「字磚」。
- 單位功耗 Token 價值
- 用生活化比喻，就像是「一公升汽油能載多少貨物」，指 AI 每消耗一度電，能產出多少有商業價值的回答。