提示詞注入與檔案刪除風險正重擊企業對 AI 代理（AI Agents）的信任。當 AI 從「對話」演進至「執行」任務，攻擊者僅需透過自然語言便能誘導模型誤刪資料或外洩機密，這種「難以根除」的系統性漏洞，讓 OpenAI 與微軟等巨頭也坦言防禦挑戰極大。這不僅拉高了資安合規成本，更使企業在關鍵業務部署上轉趨保守。未來導入信心將取決於「雙層防禦」架構的成熟度，即在模型之外建立即時監控機制，以應對防不勝防的指令中毒風險。
解鎖更多問題
科技新報粉絲團
加入好友
訂閱免費電子報