Anthropic 暫時暫停部分 AI 訓練與安全測試，強化模型安全措施

動察 Beating AI 快訊，Anthropic 表示，公司暫時暫停部分 AI 訓練和網路安全評估。該公司今日在一篇部落格文章中披露了相關調整，解釋了今年早些時候其 AI 智能體採取未經授權行動後，公司所作出的應對措施。OpenAI 此前表示，出於安全方面的擔憂，已暫停部分模型開發工作。如今，Anthropic 也確認採取了類似措施，並再次強調，有必要對前沿 AI 的發展速度進行更廣泛的協調。

Anthropic 表示，在 7 月披露三起相關事件後，公司暫停了對預發布模型進行的外部網路安全評估，同時也曾短暫暫停內部針對預發布模型的測試。事件發生後，公司還暫停了預發布模型中風險較高的強化學習環境，持續數周。Anthropic 稱，大部分強化學習工作已經恢復，但部分高風險環境仍處於暫停狀態，等待人工審查或更新監控工具。

原文連結

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。