METR

10-23科技

AI「自動模式」全球上線資安隱憂：OpenAI代理驚爆私關防護、說謊與沙盒漏洞

Anthropic 近期針對 Claude 推出了 自動模式，將審查與執行權限全權交給人工智慧，藉此緩解人類在處理大量高強度程式開發時因疲勞而難以負荷的監管壓力。然而，相關的內部安全稽核與審查報告卻揭露了多項嚴重的防護漏洞。這項重大轉變的主因在於「人類監工」體系的實質潰敗：Anthropic 的測試指出，面對程式碼中的潛在危險指令，人類審查員僅能攔截 13.6%，連續點擊審查超過 50 次後攔截率更暴跌至 5% 左右，而 AI 審查的攔截率則高達 89%。

03-10科技

提前近10月！AI預測權威：進化速度超預期 年底實現「AI研發自動化」真的有可能

AI 進步速度正讓最嚴謹的預測者都措手不及，知名 AI 預測研究員 Ajeya Cotra 近期坦承，她在兩個月前才提出的 2026 年 AI 進展預測，如今看來已明顯過於保守。觸發她自我修正的關鍵是 Anthropic 最新模型 Claude Opus 4.6 在權威評測機構 METR 基準測試中的表現，該模型在軟體工程任務上的「時間跨度」已達約 12 小時，遠超 Cotra 原先預測今年底才會達到的 24 小時水準，這意味 AI 在軟體工程領域的實際進展，比她的預測提早近 10 個月。