Category Archives: GPU

稱霸 AI 推理性能,NVIDIA B200 晶片海放 AMD MI300X

作者 |發布日期 2024 年 09 月 02 日 16:26 | 分類 AI 人工智慧 , GPU , 伺服器

由產業人士和學術界組成的開放工程聯盟(MLCommons)自 2018 年推出 MLPerf 產業基準,是衡量機器學習性能、提高科技透明度的常見指標。隨著科技大廠針對 MLPerf Inference 4.1 提出測試資料,尤其 NVIDIA 下一代 Blackwell GPU 首次參與測試,讓業界看出各家晶片性能提升至什麼程度。

繼續閱讀..

搭載 NVIDIA GraceTM CPU、網路和基礎設施 Blackwell 系統,輝達點名來自這些台廠

作者 |發布日期 2024 年 08 月 30 日 12:00 | 分類 AI 人工智慧 , GPU , 伺服器

日前,GPU 大廠輝達公布 2024 年第二季財報,雖然成績依舊亮眼,營收年成長達到 122%、但是,在預估第三季營收將是近幾季以來首度營收年成長沒有翻倍,因此在財測不如市場預期的情況下,造成輝達的盤後股價一度大跌。然而,根據輝達執行長黃仁勳的說法,在修改 Blackwell 架構 AI 晶片以提高產量之後,預計第四季出貨價值數十億美元產品。還有,輝達也點名這幾家台系供應商,將提供搭載 NVIDIA GraceTM CPU、網路和基礎設施的 Blackwell 系統進行生產工作。

繼續閱讀..

MLPerf 測試結果公佈,輝達 B200 推理性能達 AMD MI300X 四倍

作者 |發布日期 2024 年 08 月 30 日 9:20 | 分類 AI 人工智慧 , GPU , 伺服器

輝達 (NVIDIA) 發表 Blackwell 架構 AI 晶片 B200 首個 Llama 2 70B 大模型 MLPerf Inference 4.1 測試結果,顯示 B200 性能較上代 Hopper H100 提升四倍,即性能提升 300%。AMD 也公佈八個 MI300X GPU 在相同測試成績,整合八個 H100 與輝達 DGX H100 相當的成績,這也顯示了 AI 晶片市場的競爭激烈。

繼續閱讀..

英特爾怎麼了?四個競爭危機與最後一線生機

作者 |發布日期 2024 年 08 月 27 日 8:00 | 分類 GPU , 伺服器 , 公司治理

「看著別人的國家燃燒,我感覺並不舒服。因我們的空中宮殿,將來也沒有不變成這樣的保證。」這是漫畫《五星物語》(FSS, The Five Star Stories)的「命運三女神:可羅索」篇,AKD 總司令羅格納遙望陷入烈焰的哈格達帝國首都時感慨。每當筆者聽聞世界級知名大企業傳出大規模裁員消息,以上橋段都是唯一心情寫照。 繼續閱讀..