Tag Archives: AI 算力

記憶體牆困局 AI 算力競逐引爆全球記憶體超級循環

作者 |發布日期 2026 年 02 月 03 日 10:00 | 分類 半導體 , 記憶體

目前主流大型語言模型(LLM)深度學習 Transformer 架構,運算效能高度依賴記憶體存取。不只海量資料的訓練,權重參數與推論過程中的 KV 快取,都需在 token 生成階段反覆讀取。當處理器運算成長速度,明顯快於記憶體頻寬與資料傳輸能力時,使得大量時間並非花在運算本身,而是耗費在等待資料從記憶體載入。當系統效能受限於資料傳輸速度時,就形成典型的「記憶體牆」(Memory Wall)問題

繼續閱讀..

AI 算力大爆發背後的真代價:不是電,而是水

作者 |發布日期 2025 年 12 月 20 日 14:00 | 分類 AI 人工智慧 , 環境科學 , 能源科技

人工智慧(AI)席捲全球,算力競賽背後,一項長期被忽略的成本正悄然浮現,那就是「水」。從資料中心冷卻、電力生產,到半導體先進製程,AI與晶片產業對水資源的依賴,遠比外界想像更深。缺水不再只是環境議題,而是左右產業布局與競爭力的關鍵變數。也因此,台灣近期的企業併購案,以及水資源公司切入半導體用水,在在證明AI時代下,「水」已是不可或缺的戰略資源。

繼續閱讀..

貝恩:2030 年 AI 產業恐面臨 8,000 億美元資金缺口

作者 |發布日期 2025 年 09 月 23 日 16:45 | 分類 AI 人工智慧 , 雲端

根據美國管理諮詢公司貝恩(Bain & Company)9 月 23 日發布的第六版年度《全球科技報告》,若想滿足 2030 年的人工智慧(AI)運算需求,全球每年得有 2 兆美元的營收進帳,但即使把 AI 相關成本效益算進去,每年的資金缺口仍將高達 8,000 億美元。 繼續閱讀..

賣閒置算力!中國擬打造全國統一算力網絡,遇上 2 挑戰難解

作者 |發布日期 2025 年 07 月 25 日 12:43 | 分類 AI 人工智慧 , 中國觀察

隨著過去幾年中國快速擴張資料中心,導致算力供給過剩,許多機房閒置未用,當局正重新思考資料中心的發展方向。據《路透社》報導,中國目前正制定全國層級的計畫,藉由管控新增建設、優化現有資源,將各地資料中心整合為一個統一的算力網絡,將多餘的算力提供給有需要的企業或單位。 繼續閱讀..

從 AI 算力到電網崩潰?馬斯克警告:AI 爆發背後的電力危機,你準備好了嗎?

作者 |發布日期 2025 年 06 月 10 日 8:10 | 分類 AI 人工智慧 , 能源科技

隨著人工智慧(AI)技術的爆發式成長,特斯拉與 xAI 創辦人馬斯克近日發出嚴重警告:未來 AI 的發展不會因晶片短缺而放緩,而將因電力供應不足而受到限制。他指出,AI 產業在快速擴張過程,正面臨三大關鍵瓶頸:高效能晶片、資料中心冷卻能力及電力供應的穩定性。

繼續閱讀..

採用輝達頂級晶片,數發部打造 AI 算力計畫 7 月開跑

作者 |發布日期 2024 年 06 月 03 日 9:40 | 分類 AI 人工智慧 , 新創

數發部力拚台灣成為 AI 之島,今年斥資新台幣數千萬元購買輝達(NVIDIA)、超微(AMD)頂級算力晶片,建構「算力池」提供給產業運用,最快 7 月免費對外開放資服業者申請 AI 算力,包括基因排序、氣候變遷、長照行為偵測等模擬運算,可望讓創新點子「跑得更快」。 繼續閱讀..