Tag Archives: 聊天機器人

「人類只有一次機會」AI 安全專家警告,失控的超智慧競賽恐致滅絕

作者 |發布日期 2025 年 10 月 04 日 0:00 | 分類 AI 人工智慧 , 國際觀察

在人工智慧(AI)安全領域,專家內特·蘇雷斯(Nate Soares)警告說,如果人類急於開發超智慧(Superintelligence)AI,可能會導致滅絕風險。他在與《商業內幕》(Business Insider)的專訪中指出,這是人類唯一的一次機會,若失敗將是無法挽回的。他強調,當前對 AI 的控制努力正在失敗,社會必須停止這場「瘋狂的競賽」。 繼續閱讀..

保護兒童心理健康,美 FTC 啟動 AI「伴侶」聊天機器人安全調查

作者 |發布日期 2025 年 09 月 12 日 10:15 | 分類 AI 人工智慧 , 數位內容 , 網路

美國聯邦貿易委員會(FTC)於 11 日宣布,對擁有面向消費者的人工智慧聊天機器人的公司展開調查,這些公司包括 Alphabet(Google 母公司)、Meta Platforms(擁有 Instagram 和 Facebook)、OpenAI、xAI、Snap 及 Character.AI。此次調查的重點是評估這些公司所開發的人工智慧聊天機器人,特別是那些做為「伴侶」與用戶互動的產品,對兒童與青少年的心理健康及安全風險。 繼續閱讀..

一對一績效面談引發恐慌,xAI 千人數據團隊面臨重組風暴

作者 |發布日期 2025 年 09 月 11 日 10:30 | 分類 AI 人工智慧 , Grok , 人力資源

xAI 的數據標註團隊(data annotation team)正面臨重大領導變動,至少有 9 名高層員工已不再隸屬於該團隊。根據《商業內幕》的報導,這些員工的 Slack 帳號在上週末被停用,顯示出團隊內部的動盪。這些員工主要負責人類數據管理,監督著訓練 Grok 的 AI 導師。 繼續閱讀..

照片上傳至 ChatGPT 真的安全嗎?美國史丹佛大學隱私專家發出警告

作者 |發布日期 2025 年 09 月 04 日 7:25 | 分類 AI 人工智慧 , ChatGPT , OpenAI

隨著 OpenAI 生成式 AI 聊天機器人 ChatGPT 圖片上傳功能的普及,越來越多的人開始藉此進行視覺互動,例如識別皮膚上的皮疹、辨認後院的植物,或是編輯社交媒體的頭像,但照片上傳真的安全嗎?美國史丹佛大學隱私專家警告用戶可能無意中分享更多個人資訊,並喪失對照片的控制權。

繼續閱讀..

有害話題充斥,Meta 重新訓練 AI 聊天機器人以保護青少年用戶

作者 |發布日期 2025 年 09 月 03 日 7:40 | 分類 AI 人工智慧 , Meta , 社群

Meta 宣布重新訓練 AI 系統並增設新保護措施,防止青少年用戶與公司聊天機器人討論成人話題。Meta 表示將加設新「防護欄為額外預防措施」,阻止青少年與 Meta AI 討論自殘、飲食失調和自殺等話題,同時限制青少年存取可能不當對話的聊天機器人角色。 繼續閱讀..

AI 滲透情感世界,伴侶聊天機器人引發關注

作者 |發布日期 2025 年 08 月 31 日 14:00 | 分類 AI 人工智慧 , 人力資源 , 科技生活

根據 Andreessen Horowitz(a16z)最近發布的 2025 年半年報告,最受歡迎的 AI 應用程式名單中,除了 ChatGPT 和 Google 的 Gemini 之外,還有許多令人驚訝的選擇。這份報告追蹤了 2025 年上半年 AI 應用的使用情況,數據涵蓋了網頁和行動應用,主要分析工具包括 SimilarWeb 和 Sensor Tower,顯示出 AI 應用的多樣化和競爭態勢。

繼續閱讀..

從生活決策到心理慰藉:ChatGPT 全面滲透,我們該如何與 AI「健康」共處?

作者 |發布日期 2025 年 08 月 17 日 14:30 | 分類 AI 人工智慧 , ChatGPT , OpenAI

錯誤仍無法杜絕,新的自動切換器也不一定能為使用者選到最適合回答指令的模型。在許多面向上,GPT-5 未能實現被炒作得過高的期盼,但「諂媚」問題可能是改善最明顯之處,這也指向 OpenAI 深化醫療保健應用的野心。 繼續閱讀..

AI 變臉樂趣背後的隱私風險,你上傳的照片正被誰掌控?

作者 |發布日期 2025 年 08 月 15 日 14:30 | 分類 AI 人工智慧 , 網路 , 資訊安全

在數位時代,許多人喜歡將個人照片上傳至聊天機器人,特別是為了轉換成有趣的卡通角色。然而,這種行為潛藏著嚴重的隱私風險。近期一位作者在家庭聚會中,看到經 AI 處理的家庭照片,心生警覺,擔心影像可能被用於不法用途,如深偽技術(Deepfake)等,對個人造成嚴重傷害。 繼續閱讀..