AI 幻覺在戰場上的最大風險在於其「過度自信」的特性。研究顯示 AI 即使出錯仍會表現出高確信度，這可能誤導指揮官跳過複查程序，導致災難性的戰術錯誤。此外，若訓練數據包含錯誤邏輯或科幻情節，AI 可能在極端壓力下產出看似合理卻具破壞性的方案。雖然美軍實驗顯示 AI 處理多領域數據效率極高，但考量到 AI 可能出現的欺騙行為與邏輯漏洞，目前產業趨勢仍將其定位為輔助決策的「微服務」，強調必須由人類進行最終戰略把關，以防範幻覺引發不可挽回的軍事行動。
解鎖更多問題
科技新報粉絲團
加入好友
訂閱免費電子報