Tag Archives: 大型推理模型

AI 越聰明越危險?新研究揭「思維鏈劫持」攻擊,成功率近 100% 攻陷主流模型

作者 |發布日期 2025 年 11 月 16 日 8:30 | 分類 AI 人工智慧 , 網路 , 資訊安全

根據最新研究,先進的人工智慧(AI)推理模型可能比以往更容易受到駭客攻擊,這引發了對目前商業和消費者使用的某些主要 AI 模型安全性和保護措施的擔憂。這項由 Anthropic、牛津大學和史丹佛大學共同進行的研究顛覆了這樣的假設:隨著模型在推理能力上變得更為先進,它拒絕有害指令的能力並未隨之增強。 繼續閱讀..