網友產生川普被捕圖瘋傳，Midjourney 暫停其使用權限

美國前總統川普最近捲入官司，加上曾是具爭議性的政治人物，美國 Twitter 用戶用 AI 製作川普被捕圖，瀏覽人數達 220 萬，引起道德爭議。

美國 Twitter 用戶 Eliot Higgins，用生成式 AI 模型 Midjourney v5 做了幾張川普被捕圖，清楚可見川普被警察圍捕，試圖掙脫卻不成功場景。其他 Twitter 用戶以為圖是真的，有用戶認為至少要加浮水印才知真假。

Making pictures of Trump getting arrested while waiting for Trump’s arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

據 Midjourney 用戶守則及服務條款，禁止「圖片或用途不尊重、攻擊性或其他辱罵性圖像或文本」。22 日 Midjourney 暫時停止 Eliot Higgins 使用 Midjourney v5。最近社群平台陸續為 AI 產生內容制定規則，如 TikTok 要求用戶須加入「合成」、「假」等標籤。