Gemini Nano 模型下放 Pixel 8,更多 Google 手機支援畫圈搜尋 |
| 作者 陳 冠榮|發布日期 2024 年 03 月 29 日 10:57 | 分類 AI 人工智慧 , Android 手機 , Google |
Tag Archives: AI
AI 模型學會思考,研究人員提出 Quiet-STaR 演算法 |
| 作者 陳 冠榮|發布日期 2024 年 03 月 28 日 16:35 | 分類 AI 人工智慧 , 會員專區 |
人類天生具有推理能力,能夠讀懂字裡行間之意,推斷未陳述的資訊,這對解決問題而言相當重要。來自史丹佛大學和 Notbad AI, Inc. 研究人員以「Quiet-STaR」教導 AI 模型,在回應提示之前進行思考,就像人類說話前大多會考慮要說些什麼一樣。
高效訓練 LLM,GaLore 登上 Hugging Face 整合 Transformers 程式庫 |
| 作者 陳 冠榮|發布日期 2024 年 03 月 22 日 12:31 | 分類 AI 人工智慧 , 會員專區 |
研究人員日前提出一種新的模型訓練策略 GaLore(Gradient Low-Rank Projection),在大型語言模型高效訓練方面向前邁出重要的一步,尤其可用消費級硬體,例如家用電腦的高階顯卡訓練數十億參數的模型,減少優化器狀態下的記憶體占用,為無法取得高階運算資源的研究人員開拓新視野。



