Tag Archives: LLM

記憶體牆困局 AI 算力競逐引爆全球記憶體超級循環

作者 |發布日期 2026 年 02 月 03 日 10:00 | 分類 半導體 , 記憶體

目前主流大型語言模型(LLM)深度學習 Transformer 架構,運算效能高度依賴記憶體存取。不只海量資料的訓練,權重參數與推論過程中的 KV 快取,都需在 token 生成階段反覆讀取。當處理器運算成長速度,明顯快於記憶體頻寬與資料傳輸能力時,使得大量時間並非花在運算本身,而是耗費在等待資料從記憶體載入。當系統效能受限於資料傳輸速度時,就形成典型的「記憶體牆」(Memory Wall)問題

繼續閱讀..

Google 與 NVIDIA 布局低成本推理,重塑 LLM 競爭格局

作者 |發布日期 2026 年 01 月 05 日 7:00 | 分類 AI 人工智慧 , Gemini , Google

Google 於 2025 年 12 月底推出 Gemini 3 Flash,主打高速回應、低延遲與高 CP 值,並成為搜尋與應用服務的預設模型,反映其擴大 AI 普及的產品策略。另一方面,輝達(NVIDIA)也透過開放模型 Nemotron 3,主打軟硬體整合與低推理成本。兩者的布局在一定程度上凸顯,未來 LLM 產品將更偏向效率導向與部署成本。

繼續閱讀..

蘋果對大型語言模型未來的看法或與其他科技巨頭大不相同

作者 |發布日期 2025 年 12 月 31 日 9:15 | 分類 Apple , Apple Intelligence , 財經

蘋果在人工智慧策略上長期採取較為保守的立場,尤其在大型語言模型(LLM)的投入與產品化節奏上,遠不如像 OpenAI、Google、Meta 等競爭者明顯積極。據《The Information》報導指出,這種差異並非偶然,而是源自蘋果內部對於 LLM 長期發展的基本判斷與策略選擇。

繼續閱讀..

印度成全球最大 LLM 市場,ChatGPT 每月 1.45 億用戶稱霸

作者 |發布日期 2025 年 12 月 18 日 17:15 | 分類 AI 人工智慧 , ChatGPT , Gemini

根據美國銀行證券公司(Bank of America Securities)的分析,印度已成為全球最大的語言模型(LLM)市場。受到 ChatGPT、Gemini 和 Perplexity 等平台推動,印度的活躍用戶數量在全球範圍內領先,特別是在 ChatGPT 的使用上,印度用戶占其全球用戶基數的 16% 以上。

繼續閱讀..

OpenAI 推出懺悔系統,AI 會主動坦白作弊、猜答案、走捷徑

作者 |發布日期 2025 年 12 月 04 日 10:20 | 分類 AI 人工智慧 , ChatGPT , OpenAI

OpenAI 近日宣布推出一項創新的框架,旨在提高大型語言模型(LLM)的透明度和可靠性,並稱為「懺悔系統」。目的是訓練人工智慧模型在參與不當行為或未遵循指示時,能夠自我報告,可說是人工智慧誠實性和可靠性的一大進步。

繼續閱讀..

從 GenAI 到 Agentic AI!叡揚 AI Solution Day 祭出自主式全方位方案

作者 |發布日期 2025 年 12 月 01 日 14:00 | 分類 AI 人工智慧 , 軟體、系統 , 雲端

叡揚資訊於 11 月 14 日假台北國際會議中心盛大舉辦 AI Solution Day 年度活動,來自工研院與叡揚資訊各事業群的專家發表共 10 場涉及不同 AI 技術與應用場景的精采演說,吸引了各行各業對 AI 懷抱計畫與夢想的貴賓共襄盛舉,整場活動也在台上台下熱烈的智慧交流互動下圓滿落幕。 繼續閱讀..

AI 也會「腦殘」?新研究揭露 LLM 長期看社群貼文,閱讀理解力竟下滑 30%

作者 |發布日期 2025 年 10 月 27 日 8:10 | 分類 AI 人工智慧 , 數位內容 , 社群

根據德克薩斯農工大學、德州大學奧斯汀分校和普渡大學的最新研究,大型語言模型(LLM)在長期接觸低品質的社群媒體文本後,會出現類似人類「腦腐化」(brain rot)的現象,導致認知能力下降。研究指出,當模型持續接收短小且病毒式的內容時,推理能力降低 23%,長期上下文理解能力下降 30%。

繼續閱讀..

Google Big Sleep 發現 20 個流行開源軟體漏洞,掀起「AI 自動化抓漏工具」熱

作者 |發布日期 2025 年 08 月 08 日 8:10 | 分類 AI 人工智慧 , Google , 網路

今年 6 月,自主式抓漏工具 XBOW 登上美國漏洞懸賞平台 HackerOne 排行榜榜首而成為新聞焦點。緊接著,Google 在週一(8/4)宣布,旗下大型語言模型漏洞研究工具「Big Sleep」,首次發現並通報了 20 個存在於各種熱門開放原始碼軟體中的漏洞。業界因而掀起以 LLM-based 漏洞獵人(bug hunter)工具來挖掘軟體漏洞的熱潮。 繼續閱讀..

TechNews Smart AI 教育學術方案

作者 |發布日期 2025 年 08 月 06 日 18:24 | 分類 市場動態

太多的資訊?分不清真假?TechNews Smart 結合《科技新報》累積之新聞資料庫與 AI 應用,只要你提問,TechNews Smart 就會快速為你歸納最迫切需要的訊息統整,助你隨時接軌市場最新脈動!為鼓勵大專院校或法人學研機構多加利用,若會員註冊之 Email 信箱凡屬於以下大專院校與法人機構之名單所列,經申請開通 TechNews Smart 後便會自動升級為教育學術方案。

繼續閱讀..

為什麼台灣仍需要主權 AI?不單是「誰說了算」問題

作者 |發布日期 2025 年 08 月 01 日 7:50 | 分類 AI 人工智慧 , Big Data , 科技政策

全球人工智慧(AI)競逐,英語與簡體中文訓練的大型語言模型(LLM)主導市場。然對資料量相對有限的繁體中文環境,台灣是否有必要投入資源發展「主權 AI」?語料規模遠不如英語或簡體中文下,打造自主 AI 模型是否仍具價值?

繼續閱讀..