【COMPUTEX 2026】全面打造專屬 AI 工廠!直擊「電力=算力=國力」新挑戰

作者 | 發布日期 2026 年 03 月 26 日 11:41 | 分類 AI 人工智慧 line share Linkedin share follow us in feedly line share
Loading...
【COMPUTEX 2026】全面打造專屬 AI 工廠!直擊「電力=算力=國力」新挑戰

在前有 2023 年 AutoGPT 等專案爆紅而帶動的 LLM-based 自動化代理熱潮,後有吳恩達(Andrew Ng)系統性地力推代理式 AI(Agentic AI),火熱的 GenAI 開始從純粹理解/回應提示的互動層面,全面蛻變成為能自主執行任務的系統。

為了因應自主決策 AI 時代的到來,訴求從算力、記憶體、互連技術、電力到散熱之整體協同設計的「AI 工廠」概念,成為打造新一代 AI 基礎設施的最佳指導方針,長年扮演重要角色的台廠也將在這股新興 AI 潮流中找到再創另一波高峰的新商機。

隨著 GenAI 的大行其道,不僅顛覆了資料中心的營運結構,讓運算主力從此集中在 AI 身上,並且帶動了 2025 年專屬 AI 資料中心(AIDC)的建置潮,其中包括微軟投資約 800 億美元打造 AI 資料中心,亞馬遜投資超過 200 億美元將賓州 Susquehanna 核電廠轉換為 AI 園區。據集邦科技統計,今年美國五大 CSP 雲端服務供應商在資本開支上會有超過 5 成的年增長幅度,AI 投資力道持續強勁。

從這些投資案中可以清楚看見,全球 AI 大戰的爭奪焦點不再只是演算法的優劣,而是電力的穩固與能源的掌握。例如微軟重啟三哩島核電廠第一機組,Google 與 Kairos Power 簽署美國首個企業小型模組化反應爐協議,Amazon 與 Energy Northwest 簽署開發部署最多 12 座小型模組化反應爐的協議。如今,全球正面臨「電力=算力=國力」之三位一體的新挑戰與考驗。

AI Server 成為 AI Infra 成長最大推手,液冷散熱登上主流

集邦科技分析師楊少幃表示,回顧 2023 年 AI 元年,全球資料中心電力容量為 84 GW,隨後於 2024 年與 2025 年分別增至 98 GW 與 120 GW。展望今年,預估將進一步攀升至 152 GW,YoY(年增率)上看 30%。由此可見,市場對 AI 算力基礎設施展現出逐年擴大的強勁需求。

值得關注的是,這波成長動能中幾乎全數來自 AI Server 的強勢貢獻。據集邦科技的分析預估,預計今年 AI Server 的電力容量將來到 55 GW,年成長率高達 74%,其佔全球整體伺服器電力容量的比重也因而過半(52%)。這標示著產業的關鍵分水嶺:AI Server 電力需求首度超越通用型伺服器,同時 AI 已從新興應用正式轉變為運算主力。也因為如此,今後全球的能源配置與硬體支出,將會持續且大幅度地向 AI 基礎設施傾斜。

集邦科技分析師邱珮雯表示,除了電力需求大增外,對於液冷散熱的需求也將隨著整體伺服器機櫃功耗密度的大幅提升而呈現明顯拉升之勢。集邦科技預估,今年在 AI 伺服器上將有超過 5 成的散熱採用液冷方案。

在全球大勢的影響下,台灣 AI 技術相關的用電需求也呈現逐年大幅攀升的趨勢。據經濟部統計,AI 用電量將從 2023 年的 0.24 GW 提升到 2028 年的 2.24 GW,約有高達 8 倍的增幅。據台綜院統計,全台目前共有 36 座資料中心,總負載約 60 MW,占台灣用電量 0.16%。國科會預估,2029 年全台民營與國營 AI 算力中心規模將達 450 MW。由此可見,在短短 3 年內,用電量將激增 6.5 倍。由此可見,台灣的 AI 發展也面臨了巨大電力是否充足的考驗。

當 AI 代理遇上 LLM,揭開 AI 自主決策新紀元

隨著歷史悠久的 AI 代理(AI Agent)遇上了 LLM 大型語言模型之後,AI 迎來了自主決策的新紀元。自 GenAI 發展到了 Agentic AI,AI 也從學會了說話,進一步練就了執行任務的本事。一時之間,Agentic AI 成為人們趨之若騖的 AI 新潮流。所謂 Agentic AI 指的是能夠自主設定目標、制定計畫、採取行動,並根據環境反饋調整策略來完成複雜任務的 AI 系統。換言之,它可說是基於 LLM 的新世代 AI Agent。

根據市調機構 Grand View Research 的報告指出,2025 年企業級 Agentic AI 的市場規模達 36.7 億美元,到了 2030 年更進一步達到 245 億美元,CAGR 年均複合成長率高達 46.2%。

另一家市調機構 Omdia 則認為,2025 年 Agentic AI 的市場規模約僅 15 億美元,但 2030 年將一舉突破至 418 億美元,其 2024-2029 年的 CAGR 達到驚人的 175%,幾乎是 GenAI 5 年 CAGR(90%)的兩倍,由此可見,Agentic AI 的增長速度顯著超越 GenAI。

NVIDIA 執行長黃仁勳在 GTC 2025 大會上強調,在 Agentic AI 和推理能力的推波助瀾下,AI 所需算力將比預期多了 100 倍,全球資料中心正在競相趕上這股爆炸性的算力需求新趨勢。

「雲端+邊緣」混合架構蔚為主流,能效優化成為重中之重

為了縮短延遲、強化隱私並實現即時決策,預計在未來幾年內,近 2/3 的運算將轉移到邊緣。亦即在手機、自駕車、本地端伺服器,或是搭載 NVIDIA Jetson 的邊緣 AI 電腦等資料生成和最需要的地方運行 AI 模型,而不是在較遠的資料中心。上述需求、因素與新興 Agentic AI 勢將帶動邊緣 AI(Edge AI)的飛躍發展。

集邦科技資深研究經理曾伯楷表示,2025 年全球邊緣 AI 市場約有 360 億美元規模,到了 2029 年擴展到 840 億美元,2025 至 2029 年的 CAGR 年均複合成長率是23.5%(詳細數據請見下表)。

▲ 2025-2029 年全球邊緣 AI 市場規模預估表。(資料來源:集邦科技。註:(E) 為集邦推估值 (Estimated),指該年度已接近完成或有初步統計;(F) 為未來預測值 (Forecasted),係基於長期趨勢之展望預測)

再就市調機構 Precedence Research 的研究數據指出,全球邊緣 AI 市場規模在 2025 年估值為 256.5 億美元,預計到 2034 年將達到約 1,430.6 億美元,CAGR 為 21.04%。

雖然邊緣 AI 會讓一定程度的運算轉移、下放至邊緣端,但楊少幃認為,該趨勢不會形成「邊緣成長、雲端萎縮」的替代關係,而是混合架構下的總量上升。原因在於,邊緣端確實會承接更多即時推理與低延遲決策任務,但模型訓練、模型迭代、跨域協同與長上下文推理等,仍高度依賴雲端資料中心。

換言之,今後「雲端+邊緣」的混合架構會成為 AI 發展主流,進而讓整體運算量級更加提升,能效優化成為重中之重,尤以資料中心端為然。但以往的製程提升已難以應付能耗挑戰,將焦點轉向更上層的優化配電架構(如高壓直流輸電),成為最小化功率轉換損耗、以及提升整體 PUE 電力使用效率的關鍵舉措。

「AI 工廠」熱全面來襲!引爆客製化 AIDC 建置潮

為了順應 Agentic AI 與邊緣 AI 的發展趨勢,同時因應電力、算力、能耗、散熱等挑戰,黃仁勳一而再而三地在 GTC、CES、COMPUTEX、Davos 等許多重要場合上不斷提出「AI工廠」的概念,該名詞因而成為 AI 界最熱門的詞彙,以及打造未來 AIDC 的參考架構。

根據 NVIDIA 官網上的定義,所謂 AI 工廠是「一款專用的運算基礎架構,能夠管理整個 AI 生命週期,從資料擷取、訓練、微調到大規模 AI 推論,藉此從資料中創造價值。其主要產品是智慧,並以 Token 傳輸量衡量,這些傳輸量會推動決策、自動化與全新 AI 解決方案。」

楊少幃指出,AI 工廠實質上就是下一代 AIDC 的代名詞。雖然 NVIDIA 提出了參考架構,但各大 CSP 莫不基於自身的業務戰略,積極發展客製化的 AIDC 設計,呈現出多元並進的技術風貌。

AI 工廠與傳統 AIDC 間的最大關鍵差異,莫過於特別強調整體性的通盤規劃與協同設計,其核心在於對算力、電力與交換三大子系統進行系統級的效率極大化,包括透過運算系統優化以追求每瓦功耗貢獻更高算力密度;藉由電力架構重塑以減少從電網到晶片每一層級功率轉換之損耗;以及透過光通訊以降低延遲的交換系統革新。

但如此效率提升並不會減緩算力與電力的需求,其總需求曲線仍將維持陡峭的上升趨勢。致力效率提升的目的,是為了在固定容量限制下,盡可能塞入更多算力以創造更大模型價值。

歐盟將打造 5 座 AI 超級工廠,AI 工廠正在全球與台灣遍地開花

不論各家的 AI 工廠定義是否不同,但打造次世代 AIDC 與 AI 工廠已然成為許多國家與企業的首要重大投資項目。首先就歐盟來說,2024 年 12 月《歐盟高效運算聯合承諾》(EuroHPC JU)先選定芬蘭、德國、西班牙等 7 國打造第一批 AI 工廠,接著在 2025 年 3 月再增加 6 個 AI 工廠(奧、法、波等國)。此外,2025 年 2 月,歐盟委員會透過「InvestAI」倡議承諾調動 200 億歐元,在歐盟建立最多 5 座的 AI 超級工廠(AI Gigafactories)。

在 NVIDIA 官方新聞稿中曾提到三項 AI 工廠投資案:美國藥廠禮來(Eli Lilly and Company)正在建置製藥界「最強」AI 工廠;美國梅約醫療中心(Mayo Clinic)已打造致力醫療研究、數位病理的 AI 工廠,以及 NVIDIA 與沙烏地阿拉伯 HUMAN 策略合作,預計在未來五年(自 2025 年算起)分階段打造 AI 工廠。其他知名的投資案還包括義大利電信公司宣布建置 NeXXt AI 工廠;戴爾公司與印度 IT 服務供應商 NxtGen 打造大型專用 AI 工廠。

自美中貿易戰開打,中東便成為美中 AI 大戰的必爭之地。美國總統川普(Donald Trump)在 2025 年 5 月中旬的中東之行,曾先後與沙烏地阿拉伯簽署 2,000 億美元的協議,與阿拉伯聯合大公國共同打造 AIDC。前者主要是沙國主權財富基金(Public Investment Fund)旗下新創公司 Humain 與 NVIDIA、AWS 及 AMD 簽署個別協議,分別打造 AI 工廠、AI 園區與 AI 基礎設施。後者提到的 AIDC,則由阿聯當地公司 G42 與美國幾家公司共同打造。

AI 獨角獸 Groq 在沙國達曼營運的一座 AI 資料中心,沙國在去年 2 月宣布資注 15 億美元進行擴建。另外,NVIDIA 並與沙國資料及 AI 管理局(SDAIA)共同打造主權 AI 工廠。

面對 AI 工廠的建置潮,台灣也不落人後。鴻海科技集團旗下子公司晶兆創新( Big Innovation Company )與 NVIDIA 合作建置搭載 10,000 顆 NVIDIA Blackwell GPU 的 AI 工廠。美國 GPU 雲端服務商 GMI Cloud 也宣布將挹注 5 億美元,與台哥大合作,將其桃園機房改造成 AI 工廠。

此外,去年 11 月,數位無限(INFINITIX)、希格諾科技(SignalPro)、美商超微(Supermicro)、茂綸(Macnica)、敦陽科技、合通企業等廠商共同攜手在南部科學園區周邊打造新一代「SiGTRON」AI 工廠,共同推動 Neocloud 智慧算力生態系。

台廠 AI 供應鏈總動員,致力轉型成為「AI Infra整合者」

在受到市場對 Agentic AI、邊緣 AI 等新興應用強勁需求,乃至 AIDC 與 AI 工廠建置潮的帶動下,台灣 AI 供應鏈商機正處於高速擴張與結構升級的階段。龐大的AI晶片需求,造成先進製程與先進封裝之供給跟不上的情況,對此,台積電及日月光莫不積極擴建先進製程/封裝新廠以全面擴大產能。此一需求也帶動了專用 AI 加速器 ASIC,整體潛在市場規模上看 500 億至 700 億美元,這也為聯發科在 2027 年帶來數十億美元的營收。

台灣 EMS/ODM 廠佔全球伺服器出貨量的比重早已突破 80%,AI 伺服器更超過 90%,突顯台廠在今後 AI 基建上扮演著舉足輕重的角色。如今隨著鴻海、廣達、緯創、緯穎、英業達、神達及技嘉等廠商在新一波 AI 熱潮中繳出亮麗成績單,其投資重點與交付能力已從「產線/組裝」升級到「整櫃交付、資料中心級整合」。此外,隨著邊緣 AI 的熱潮來襲,傳統工業電腦製造商正從影像/感測辨識,轉型成為能進行在地推論甚至工具調用/流程代理的邊緣 AI 系統,代表廠商包括研華、華碩、研揚、威強電與廣積科技。

AI 伺服器功耗密度上升,讓液冷成為今後 AIDC 與AI工廠主流散熱方案,台廠雙鴻、奇鋐已在液冷模組、冷板、快接頭等方面締造佳績。在電源與配電方面,包括台達電、光寶科技及康舒等台灣電源大廠,在展示更高功率、更高效率的AI 資料中心電源/散熱與微電網解決方案同時,更積極加入由 NVIDIA 800V 資料中心供電需求帶動的高壓供電體系。

AI 訓練/推論叢集需要更高頻寬、更低延遲的網路,智邦科技/Edgecore 等台灣網通公司紛紛推出自家高效能交換器組合方案,共同推動 AI 驅動的交換器升級潮。

AI 伺服器、加速卡、交換器把高階 PCB 與 AGF 載板推進「長週期」的景氣高峰,臻鼎-KY、金像電與健鼎,以及 ABF 三雄(欣興、南亞、景碩)成為這波產業熱潮的最強推手。

▲ 台灣 AI 生態鏈 Player 一覽表。(資料來源:科技新報整理)

在新一波 Agentic AI 與 AI 工廠熱潮的帶動下,台灣 AI 供應鏈不再只是單點爆發成長,而是從算力、封裝/載板、板級/機櫃、散熱/電源到網路互連等整個生態鏈的大飛升。這股熱潮帶來的強勁需求已從雲端/資料中心外溢到邊緣端,讓台灣從「硬體製造基地」向「AI 基礎設施整合者」邁進。

(首圖來源:shutterstock)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》