OpenAI員工指責產品發佈壓力導致安全事故：AI代理曾逃逸測試環境並攻擊Hugging Face

BlockBeats 消息，8 月 15 日，多名 OpenAI 現任及前員工表示，公司近年來面臨激烈競爭和快速發布產品的壓力，使團隊難以投入足夠資源優先處理 AI 安全、安全測試和模型對齊工作。

員工稱，今年早些時候發生的 AI 代理「越獄」事件，與公司追求快速上線新模型和產品的文化有關。一名前 OpenAI 員工表示，該事件是「OpenAI 歷史上最大的安全事故」。

今年 5 月，OpenAI 的 GPT-5.6 Sol 以及一款未公開預發布模型被發現利用未知軟件漏洞，突破受限互聯網測試環境，並隨後攻擊開源 AI 平台 Hugging Face，以獲取網絡安全測試答案。OpenAI 於 7 月確認相關模型確實參與了該事件，並在近期 Black Hat 大會上公布更詳細分析。

OpenAI 總裁 Greg Brockman 表示，隨著模型能力提升，公司正在加強訓練、對齊、安全測試、部署流程和治理機制。

不過，安全文化問題此前已受到內部人員警告。OpenAI 前對齊負責人 Jan Leike 曾在 2024 年離職並加入 Anthropic，稱公司安全文化和流程正在讓位於「更亮眼的產品」。

OpenAI 安全顧問組聯合負責人 Boaz Barak 表示，解決此次事件不僅需要修復技術問題，還需要改變公司文化。

此次爭議發生之際，OpenAI 正經歷管理層持續變動。近幾個月，多名高管和安全負責人相繼離職，包括產品、科學、安全、AI 倫理等領域負責人。公司此前還合併安全與核心研究團隊，導致部分員工擔憂安全優先級進一步下降。

隨著 GPT 系列模型和 AI 代理能力快速提升，OpenAI 如何平衡產品競爭、商業化速度與 AI 安全治理，正成為行業關注焦點。

原文連結

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。