30 秒看重點
- 事件:陽明交大攜手群聯電子,首創「AI 算力共享平台」將 GPU 效能榨到極致。
- 意義:利用 SSD 快取技術突破硬體限制,免百萬台幣就能跑千億參數大模型。
- 影響:降低台灣學術界與中小企業研發門檻,翻轉高階 GPU 被科技巨頭壟斷的困境。
買不起昂貴的 NVIDIA H100 晶片也能做 AI 研發!陽明交大與群聯電子的「算力共享」合作,透過軟硬體客製化整合,證明了台灣能利用平價硬體與在地技術,突圍全球 AI 算力短缺的軍備競賽。
買不起天價晶片?「SSD 變記憶體」如何拯救台灣 AI 研發?
在生成式 AI 爆發的時代,算力就是國力,但動輒百萬台幣的 NVIDIA 高階 GPU 讓許多台灣學術單位與中小企業望洋興嘆。為了解決這個痛點,國立陽明交通大學與快閃記憶體控制晶片大廠群聯電子(Phison)強強聯手,打造出全台首創的「AI 算力共享平台」。這項合作的核心在於群聯獨家的「aiDAPTIV+」技術,它能將高速 SSD 虛擬化為 GPU 的顯示記憶體(VRAM)延伸空間。簡單來說,過去跑大語言模型就像在極窄的廚房(VRAM)裡做滿漢全席,廚房不夠大就根本做不出來;而群聯的技術就像是在廚房旁加蓋了一張超大「備料桌」(SSD),讓平價 GPU 也能分批處理千億參數的模型。陽明交大更進一步將此技術平台化,像「共享機車」一樣讓校內各科系隨租隨用,徹底解決研究設備閒置與預算不足的雙重難題。
- 2023-07 群聯電子正式發表 aiDAPTIV+ 技術,主打以平價 SSD 協同 GPU 進行大型模型運算。
- 2024-03 陽明交大與群聯展開深度技術對接,將此方案導入校內研究所,測試多學科算力分配。
- 近期 雙方正式展示「算力共享平台」成果,成功讓非資訊科系也能以低成本跑起專屬 AI 模型。
台灣怎麼看這件事?
這項本土技術的突破,無疑是台灣在面臨「輝達依賴症」時的一劑務實解藥。台灣擁有世界頂尖的半導體與儲存產業鏈,群聯與陽明交大的合作,證明了透過「軟體優化硬體」的軟硬整合實力,能繞過天價的晶片搶購潮。對於預算有限的台灣中小企業、IC 設計廠,甚至是醫療與法律等在地學術研究,這代表未來不必再向國外雲端巨頭租用昂貴的算力,利用現有的中低階硬體,就能在本地端安全地進行繁體中文與機密資料的模型微調,真正加速台灣 AI 產業的落地應用。
編輯觀點
算力不該是科技巨頭的專利,民主化的算力才是推動普惠 AI 的關鍵。群聯這次不賣晶片,而是賣「空間利用率」,精準切中了市場的痛點。當全球都在盲目追求更快的 GPU 時,這種「把舊車改裝發揮極致」的台灣水牛精神,才是地緣政治與預算限制下最務實的生存之道。這套模式一旦成功複製到全台大專院校與科學園區,將大幅釋放台灣學術界的創新能量。
常見問題
- 什麼是群聯的 aiDAPTIV+ 技術?
- 這是一項軟硬體整合技術,能將高速 SSD 虛擬化為 GPU 顯示記憶體的延伸,讓低階 GPU 也能處理需要超大記憶體的大型 AI 模型。
- 陽明交大的「算力共享」有何特別之處?
- 它打破了傳統研究室各自採購硬體的壁壘,透過平台化管理,將閒置的 GPU 算力動態分配給不同科系,將每顆晶片的效能榨到極致。
- 這項技術能幫企業省下多少預算?
- 相較於直接購買 NVIDIA H100 等天價運算卡,採用群聯 aiDAPTIV+ 方案預估可降低 70% 甚至是 80% 的初期硬體建置成本。
- 用 SSD 代替顯示記憶體,運算速度會不會很慢?
- 雖然速度確實慢於純顯示記憶體,但群聯透過獨家算法優化,能在可接受的時間內完成模型微調,非常適合預算有限的研發與教學階段。
- 這對一般台灣民眾有什麼切身關係?
- 這能降低台灣在地 AI 應用的開發門檻,未來會有更多貼近台灣在地用語、醫療習慣或法律規範的專屬 AI 系統誕生,讓生活更便利。
名詞小教室
- VRAM (顯示記憶體)
- 就像是 GPU 工作時的「書桌桌面」,桌面越大,能同時翻開參考的資料(模型參數)就越多,運算大型 AI 就不會卡關。
- 模型微調 (Fine-tuning)
- 就像是讓一個已經讀完大學(預訓練)的通用 AI,去研讀特定公司的內部考卷(專業數據),讓它變成該領域的專家。