微軟高層：AI 聊天機器人須學會求助，別編造答案

微軟公司（Microsoft）副總裁辛赫（Vik Singh）表示，生成式人工智慧（Generative AI）工具將為企業節省大量時間和金錢，但模型必須學會承認自身並非無所不能。

辛赫接受法新社訪問說道，現在真正缺少的是，會有模型舉手說「嘿，我不確定，我需要幫助」。

從去年以來，微軟、Google及其競爭對手一直迅速推出類似ChatGPT的生成式AI應用程式，這些應用程式可以依據要求生成各種內容，給予用戶一種無所不知的錯覺。

儘管取得了進展，生成式AI應用程式依然「產生幻覺」或編造答案。

這是微軟高層需要解決的重要問題，辛赫的企業客戶無法承受微軟AI系統出包的後果。

雲端軟體巨擘Salesforce執行長班紐夫（Marc Benioff）本週指出，他看到許多客戶對微軟人工智慧輔助工具Copilot的胡言亂語愈來愈感到沮喪。

辛赫堅稱，「真正聰明的人」正試圖尋找方法，讓聊天機器人承認「它不知道正確答案，並尋求幫助」。

（譯者：陳昱婷；首圖來源：pixabay）