輝達重金押寶Together AI：低成本AI時代來臨，台灣準備好了嗎？

30 秒看重點

• 事件： 全球AI巨頭輝達投資開源AI新創Together AI，助其估值飆升至83億美元。
• 意義： AI市場正轉向低成本、可客製化的開源模型，打破巨型AI獨大局面。
• 影響： 台灣科技業迎來更多元AI硬體需求與新創機會，加速AI普及化。

AI巨頭為何押寶「低成本」模型？

AI巨頭為何押寶「低成本」模型？答案很簡單：市場需求導向。過去一年，大型語言模型（LLM）雖然掀起熱潮，但其高昂的訓練與營運成本，以及難以完全客製化的「通用性」限制，讓許多企業卻步。想像一下，訓練一個ChatGPT等級的模型，就像要蓋一座巨型發電廠，耗資數十億美元，且產出的電力是標準化的。對於一家只需要驅動特定工廠或社區的小型企業來說，投資一座巨型發電廠顯然不划算，他們更需要的是能彈性擴充、成本可控的『太陽能板』或『小型風力發電機』。

Together AI正扮演著「AI綠色能源供應商」的角色。這家公司致力於提供平台，讓企業能更輕鬆地存取、微調（Fine-tuning）並部署開源的生成式AI模型。這些模型可能不像GPT-4那麼龐大，但透過企業的自有數據進行微調，就能在特定任務上達到甚至超越通用模型的精準度，而且運算成本大幅降低。NVIDIA此舉，不僅是看好Together AI的技術實力，更是預見了AI市場的典範轉移。他們知道，隨著AI應用從研究階段走向大規模商業落地，企業會需要更多元、更具成本效益的AI解決方案。NVIDIA投資Together AI，等於是提前佈局，確保他們的GPU能在這個『AI去中心化』的新時代，持續扮演關鍵的運算核心，不論是訓練巨型模型，還是支援數以萬計的微調模型推論，都能穩佔市場。

台灣怎麼看這件事？

這股「低成本AI」浪潮對台灣意義重大。首先，台灣在全球半導體供應鏈中佔據主導地位，NVIDIA押注Together AI，意味著對GPU需求的多元化。未來不只高階H100/A100用於大型模型訓練，更多中階、甚至邊緣AI裝置所需的GPU與AI加速器，將會湧現龐大的推論（Inference）需求。這對台積電、聯發科等晶片設計與製造商來說，是拓展市場的新藍海。此外，台灣眾多中小企業若能導入這些客製化、低成本的開源AI模型，將大幅提升生產力與競爭力，例如智慧製造、精準醫療、零售服務等領域，都能找到對應的AI解決方案。對於台灣的AI新創團隊而言，這也降低了進入門檻，讓他們有機會在特定產業應用中，與國際大廠一較高下，形成更多元、活絡的AI生態系。

編輯觀點

AI的發展從來就不是單一路線，而NVIDIA投資Together AI，恰恰證明了這一點。這筆交易不僅是資本市場的遊戲，更是AI產業發展的風向球。它提醒我們，AI的未來不只屬於那些掌握龐大資源的巨頭，也屬於那些能夠提供高效、彈性、且成本可控解決方案的創新者。對台灣來說，這是一個轉型升級的絕佳機會，除了硬體製造優勢，更應積極培養AI應用開發與模型微調的軟實力，才能在這場AI變革中，找到屬於我們的利基點。

常見問題

為什麼企業會轉向低成本AI模型？

大型AI模型訓練與營運成本高昂且難以客製化。低成本模型經微調後，能更精準地解決特定問題，同時大幅降低運算費用，更符合企業實際需求。

Together AI主要提供什麼服務？

Together AI提供一個平台，讓開發者和企業能輕鬆存取、微調並部署各種開源的生成式AI模型，目標是降低AI應用的門檻和成本。

NVIDIA為何投資像Together AI這樣的開源AI公司？

NVIDIA此舉是戰略佈局，旨在支持更廣泛的AI生態系發展，確保其GPU在AI模型「去中心化」趨勢中，無論是大型訓練或大量推論需求，都能持續扮演核心角色。

開源AI模型和閉源AI模型有什麼不同？

開源模型其核心程式碼與權重參數公開透明，允許自由使用、修改與分發；閉源模型則為特定公司專有，不公開細節，使用者僅能透過API介面使用。

台灣企業如何從這波低成本AI趨勢中獲益？

台灣企業可利用開源AI模型進行客製化微調，以更低的成本和更高的靈活性部署AI應用，提升智慧製造、精準醫療、智慧零售等各產業的營運效率與競爭力。

名詞小教室

開源AI模型（Open-source AI Model）

就像是「AI界的免費食譜」，模型底層程式碼和關鍵參數都是公開的，任何人都可以免費使用、修改、學習，甚至在上面開發自己的應用。

模型微調（Fine-tuning）

想像你買了一本通用的烹飪書，微調就是根據你家人的口味或冰箱現有食材，對食譜進行小幅修改，讓菜餚更符合特定需求，同時保留食譜原有的精髓。