劍橋大學研究警告， AI 驅動的「意向經濟」有危險性

英國劍橋大學（University of Cambridge）研究員於 2024 年 12 月 30 日論文警告，對話式人工智慧（artificial intelligence，AI）工具可能很快會在「意向經濟」（intention economy）新商業領域「默默影響」使用者做決策。

新研究認為，可能「利潤豐厚但令人不安」的「意向數位訊號」（digital signals of intent）市場，不久的將來可能影響從購買電影票到政治投票等一切事務。我們對聊天機器人、數位指導者和其他所謂「擬人化」AI媒介的日益熟悉，幫助實現一系列新「說服性科技」（persuasive technologies）。

這篇論文的兩位共同作者指出，將看到AI結合對人類線上習慣的認識，與了解使用者並預測意圖的強大能力，建立「新信任與理解層級」。

兩位劍橋大學李佛修姆未來智慧中心（Leverhulme Centre for the Future of Intelligence，LCFI）學者，在《哈佛科學數據評論》（Harvard Data Science Review）刊登論文主張，如果放任AI不受限制，可能會導致「大規模社會操控」。

論文描述稱為「意向經濟」的新興領域如何分析使用者的注意力與溝通風格，並與使用者行為模式和選擇連結。共同作者喬德哈瑞（Yaqub Chaudhary）表示：「AI工具已開發成可引出、推斷、蒐集、紀錄、理解、預測，最終操控並把人類計畫與目的商品化。」

新AI將靠著所謂大型語言模型（Large Language Models，LLMs）鎖定使用者語調、政治立場、用詞、年齡、性別、網路歷程，甚至是諂媚逢迎的偏好。將與其他新興AI技術連結，以達成某個特定目標，如銷售電影票，或對話導向特定平台、廣告商、企業甚至政治組織。

共同作者潘恩（Jonnie Penn）警告：「除非受監管，否則意向經濟將把人的動機視為新貨幣。對瞄準、引導和販售人類意向的人而言，這將是新淘金熱。我們成為AI無心後果的受害者之前，應開始考慮這種市場對人類抱負如自由公正選舉、新聞自由和公平市場競爭等可能的衝擊。」

潘恩強調，大眾對這個議題的覺醒是「確保我們不會走上錯誤道路的關鍵」。

（本文由 中央廣播電台 授權轉載；首圖來源：Unsplash）