AI生成影像惹議！Grok圖片功能轉為付費限定

《路透》周五 (9 日) 報導，在引發大量爭議後，馬斯克旗下人工智慧 (AI) 新創 xAI 已限制其聊天機器人 Grok 在社群平台 X 上的圖片生成功能，僅開放給付費訂閱用戶使用。此舉源於 Grok 被廣泛用來生成具性暗示或性化的影像內容，引發歐洲政界與監管機構強烈反彈。

《路透》調查發現，Grok 的圖片生成功能曾被用於製作女性甚至兒童穿著暴露的影像，部分情況下未經當事人同意。大量半裸圖片在 X 平台流傳後，歐洲議會議員呼籲採取法律行動，德國文化與媒體事務部長 Wolfram Weimer 更形容此現象為「性騷擾的工業化」，歐盟執委會則直指相關內容屬於非法。

Grok 周五向 X 用戶表示，圖片生成與編輯功能已僅限付費訂閱者使用。不過，獨立運作的 Grok 應用程式仍允許未訂閱用戶生成圖片。路透記者嘗試要求 Grok 將其照片轉換為穿著比基尼的影像時，系統回覆指出該功能僅提供給 X 平台的付費用戶。

針對事件，xAI 在回覆《路透》電子郵件詢問時僅簡短表示「傳統媒體說謊」，X 平台則未立即回應置評請求。歐盟執委會本周重申，相關影像在 X 上流傳屬於「非法且令人震驚」的行為；英國資料保護監管機構也表示，已要求 X 說明平台如何遵守資料保護法規，以回應外界對 Grok 生成性暴力影像的疑慮。

馬斯克日前則表示，任何利用 Grok 製作非法內容的人，將承擔與直接上傳相關內容相同的法律後果。