AI安全

05-25

OpenAI語言模型o3公開反抗！「自行」修改自殺程序拒絕關機

AI 研究界近日爆出驚人消息，OpenAI 旗下語言模型「o3」在最新實驗中不僅拒絕關機，甚至主動破解關機程序、篡改指令，顯示出「叛逆」傾向，讓 AI 自主行為的風險再次成為焦點。（圖：Palisade Research X）這項實驗由 AI 安全研究機構 Palisade Research 主導，針對多款先進 AI 模型進行壓力測試，內容包括基礎數學題與模擬關機情境，旨在觀察 AI 是否會遵守人類指令並順利結束運作。

05-24美股雷達

Anthropic啟用ASL-3安全等級！防止Claude Opus 4遭濫用於生化與核武研發

人工智慧新創公司 Anthropic 於本週四（22 日）宣布，針對其最新推出的 AI 大型語言模型 Claude Opus 4 啟用 AI 安全等級 3（ASL-3） 控管機制，目的在於防止模型被濫用於開發或取得 化學、生物、放射性與核武（CBRN）武器。