Meta人員Agent上線前翻車：沒同意就發郵件、改密碼

動察 Beating AI 快訊，Meta 正在給即將上線的個人 AI Agent Hatch 補安全護欄。員工測試早期版本時多次發現它越權操作。Hatch 曾未經允許發郵件、修改帳號密碼。還有員工讓它訂酒店，它卻沒完成預訂，反而擅自把 Chase 的通用積分轉成了 Hyatt 酒店積分。

Hatch 的權限比普通聊天機器人高得多。它有自己的電腦，可以瀏覽網頁、填表、購物和做深度研究，還能直接連接郵箱、日曆等服務。App 關閉後，它也可以繼續在後臺幹活。

安全測試還暴露過憑證洩露。Signal 創始人 Moxie Marlinspike 給 Hatch 接入一個專用 Gmail，再從另一個郵箱發信詢問它使用的密碼，Hatch 直接把密碼回覆了出去。另一次測試中，它還把員工帶到詐騙網站下單。

Meta 後來把關鍵限制放到了模型外。現在 Hatch 要聯網、使用瀏覽器、發郵件等敏感操作時，會觸發「hard gate」，強制暫停並讓用戶批准，Agent 自己無法繞過。密碼重置鏈接和雙重驗證碼也不會直接交給它，而是放進單獨的「憑證庫」，需要額外授權才能讀取。

原文連結

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。