Tag Archives: 幻覺

Google Big Sleep 發現 20 個流行開源軟體漏洞，掀起「AI 自動化抓漏工具」熱

作者 Evan|發布日期 2025 年 08 月 08 日 8:10 |

分類 AI 人工智慧 , Google , 網路

今年 6 月，自主式抓漏工具 XBOW 登上美國漏洞懸賞平台 HackerOne 排行榜榜首而成為新聞焦點。緊接著，Google 在週一（8/4）宣布，旗下大型語言模型漏洞研究工具「Big Sleep」，首次發現並通報了 20 個存在於各種熱門開放原始碼軟體中的漏洞。業界因而掀起以 LLM-based 漏洞獵人（bug hunter）工具來挖掘軟體漏洞的熱潮。繼續閱讀..

AI 安全問題浮上檯面，未來模型應受法律約束

作者 TechNews 編輯台|發布日期 2025 年 06 月 30 日 13:30 |

分類 AI 人工智慧 , ChatGPT , OpenAI

在最近的壓力測試中，世界上最先進的人工智慧（AI）模型顯示出令人擔憂的新行為，包括撒謊、策劃和甚至威脅其開發者以達成目標，這些行為的出現引發了對 AI 安全性和道德的重大關注。繼續閱讀..

AI 聲勢有增無減，但 LinkedIn 執行長表示 AI 寫作並不如預期受歡迎

作者 Evan|發布日期 2025 年 06 月 24 日 8:00 |

分類 AI 人工智慧

如今從 LinkedIn 到 Gemini，再到 Apple Intelligence，幾乎所有主流 AI 產品都內建了寫作輔助工具。這些工具不僅能提出有用的寫作建議，還能用於撰寫電子郵件、文件，甚至履歷及報告。但 LinkedIn 執行長 Ryan Roslansky 卻在上週六（6/21）接受彭博（Bloomberg）的採訪中表示，這項功能並沒有他預期的那麼受歡迎。繼續閱讀..

基於 OpenAI Whisper 的醫療轉錄工具易有幻覺，甚至虛構醫療狀況

作者 Evan|發布日期 2024 年 10 月 31 日 8:00 |

分類 AI 人工智慧 , 醫療科技

當前 AI 臨床筆記（clinical note）或 AI 轉錄工具已經十分普遍而成熟，已經成為許多醫療院所及醫療人員用來自動記錄問診時醫病對話的重要工具。但 ABC News 在週六（10/26）的一篇報導中引述研究人員表示，以 OpenAI Whisper 成為背後技術的 AI 轉錄工具的表現並非總是穩定，有時還會產生「幻覺」（hallucination）並生成完全捏造的內容。繼續閱讀..