兒童安全

01-03美股雷達

馬斯克Grok又出包！承認產生兒童不當圖片緊急修復

據《CNBC》周五 (2 日) 報導，馬斯克旗下 Grok 聊天機器人承認存在「安全措施缺失」，導致近期回應用戶提問時產生 AI 生成的兒童不當圖片，目前正緊急修復。X 用戶近日舉報 Grok 工具生成未成年人露骨內容，包括兒童穿著暴露衣物的圖片。

10-18美股雷達

Meta 強化兒童安全 家長可封鎖特定 AI 角色並監督對話內容

Meta 周五 (17 日) 宣布推出新的家長控制功能，讓家長能監督並管理青少年與 AI 角色的互動，甚至可完全關閉一對一聊天，也能封鎖特定的 AI 角色，並了解孩子與這些角色討論的話題。Meta 目前仍在開發這些控制功能，該公司表示將於明年初開始推出。