面對每週數十萬名用戶的心理危機，AI 業者應從「技術過濾」轉向「人道治理」。除了落實即時監測與強制休息機制，更需導入如 Humane Bench 的心理安全基準，防止模型因追求參與度而誘發成癮或強化妄想。產業策略上，業者應與心理專家深度協作，將「引導實體醫療支援」嵌入核心規範。隨著歐盟 AI 法案等監管壓力升級，強化社會責任已非選配，而是降低法律風險、維護品牌信任的必要基石，確保 AI 成為輔助工具而非心理危機的推手。
解鎖更多問題
科技新報粉絲團
加入好友
訂閱免費電子報