馬斯克Grok又出包！承認產生兒童不當圖片緊急修復

據《CNBC》周五 (2 日) 報導，馬斯克旗下 Grok 聊天機器人承認存在「安全措施缺失」，導致近期回應用戶提問時產生 AI 生成的兒童不當圖片，目前正緊急修復。

X 用戶近日舉報 Grok 工具生成未成年人露骨內容，包括兒童穿著暴露衣物的圖片。Grok 周五在 X 平台發文表示正「緊急修復」問題，並稱兒童性虐待材料「違法且被禁止」。

xAI 技術人員 Parsa Tajik 也承認這個問題，發文說：「謝謝舉報，團隊正在加強防護機制。」

自 2022 年 ChatGPT 上線後，AI 圖片生成平台大增，引發內容操控和網路安全擔憂，也讓製作真人深偽裸照的平台變多。

雖然其他聊天機器人也有類似問題，但 Grok 屢次因誤用惹爭議。5 月時，Grok 因主動評論南非「白人種族滅絕」被罵翻。兩個月後，Grok 又發表反猶太言論並讚美希特勒。

儘管問題不斷，xAI 還是持續拿到合作案。美國國防部上個月把 Grok 加進 AI 代理平台，這工具也是預測投注網站 Polymarket 和 Kalshi 的主要聊天機器人。