尖端

07-22美股雷達

OpenAI承認AI模型「叛變」！代理入侵Hugging Face、突破隔離環境發動駭客攻擊

OpenAI 週二（21 日）表示，在一項安全測試中，一個由其先進人工智慧（AI）模型驅動的自主 AI 代理意外失控，並發動駭客攻擊，導致 AI 新創 Hugging Face 的基礎設施於上週遭到入侵。根據《路透》報導，OpenAI 在一篇部落格文章中表示，公司當時正在受控環境中測試旗下部分最先進 AI 模型的能力，但該自主 AI 代理竟成功突破隔離機制，連上網際網路，並入侵 Hugging Face，以完成其測試目標。