McAfee 發表 Project Mockingbird 打擊 AI 生成語音詐騙

針對 AI 生成的 Deepfake 語音詐騙日益嚴重的問題，McAfee 最近在 CES 大會上發表了「Project Mockingbird」，希望可以打擊以偽造語音進行的詐騙和輿論操縱。

近年興起的 Deepfake 技術利用 AI 製作相當像真的模擬效果，將已有的畫面和聲音呈現至目標之上，這樣的技術往往被濫用於製作偽造名人色情影片，甚至詐騙案件之中，對方聽到熟悉的人的聲音就不疑有詐，掉進陷阱。

McAfee 2023 年 12 月的一項調查突顯了美國人對 Deepfake 技術的擔憂日益加劇，與去年相比，有 68%的人表示更加擔心，33% 的人報告遇到或知道 Deepfake 詐騙。調查中，對 Deepfake 可能使用的方式的主要擔憂包括影響選舉（52%）、網路欺凌（44%）、破壞公眾對媒體的信任（48%）、假冒公眾人物（49%）、創造假色情內容（37%）、扭曲歷史事實（43%）以及成為詐騙的受害者，從而讓網路罪犯獲取付款或個人資訊（16%）。

McAfee 技術總監 Steve Grobman 解釋，「Project Mockingbird」技術可用做檢測那些被改動過的影片，例如加入了假材料的知名新聞播報員的影片。其檢測結合了 AI 情境、行為和類別辨識模型技術，準確率超過 90%。Grobman 將其比做天氣預報，幫助用戶對他們網上看到的內容做出明智的決定。