Google推出Gemini 4 Carbon AI網路防禦能力再升級

AI網路安全進入新階段

Google於10月28日發布新一代前沿AI模型Gemini 4 Carbon，重點提升複雜軟體工程任務的處理能力，並將網路安全防禦列為核心應用方向之一。此次發布距離Gemini 4 Argon推出僅約兩周，反映Google、OpenAI與Anthropic之間的AI能力競賽正進一步升溫。

Google表示，Carbon能夠識別軟體漏洞、驗證漏洞是否可被利用，並生成修復代碼。根據該公司內部基準測試，Carbon生成安全代碼的成功率超過Gemini 4 Argon的兩倍。

該模型也針對耗時較長、涉及多個步驟的工程任務進行優化，包括追查大型代碼庫中的隱蔽錯誤，並協助制定修複方案。這些能力有望幫助安全團隊處理傳統上需要大量專業知識與人力投入的工作。

不過，Google公布的測試結果仍需放在適當背景下理解。基準測試和內部評估並不能保證模型在所有真實環境中都能取得相同表現。AI生成的修複方案仍須經過獨立審查、測試與驗證，才能確認其有效性及安全性。

從發現漏洞到協助修復

網路安全團隊長期面臨一個難題：軟體漏洞不斷被發現，但組織未必有足夠人力及時調查、評估風險並完成修復。能夠協助整個處理流程的AI工具，有望緩解積壓的安全工作。

Google公布的Gemini 4 Carbon測試成績包括：

• SEC-bench Pro：88.2%，用於評估模型發現軟體漏洞的能力。

• ExploitGym：54.8%，用於評估模型利用漏洞的能力。

• CWE-bench：71.0%，用於評估模型通過修改代碼修復漏洞的能力。

這些成績顯示，Carbon的目標並非僅限於檢查代碼，而是嘗試串聯漏洞識別、實際風險驗證與修複方案生成等環節。

對防禦團隊而言，這可能加快漏洞分類、軟體安全開發及補丁製作流程。但漏洞發現與利用能力具有雙重用途：授權安全人員可以利用相關技術驗證系統弱點，攻擊者也可能將類似能力用於惡意活動。

因此，真正的挑戰不只是提升模型能力，還包括確保所有測試都在授權範圍內進行，並對高風險操作實施適當限制。

提示注入與AI可靠性仍是關鍵

Google表示，Carbon沿用了Gemini 4 Argon的多層安全架構，包括訓練階段的防護機制、實時濫用防禦、提示注入抵抗能力，以及對模型推理過程的監測。

Google稱，Carbon在Gray Swan間接提示注入基準測試中的攻擊成功率為0%，低於Argon的0.7%。該公司也表示，Carbon在內部測試中將缺乏依據的陳述減少約一半，並提升了遵守任務限制的能力。

這些結果值得關注，但不應被解讀為提示注入或其他AI攻擊已被徹底消除。所謂零攻擊成功率，僅代表模型在特定測試環境和已評估攻擊中的表現，並不能覆蓋所有潛在攻擊方式或實際部署場景。

當AI代理處理未經信任的文件、電子郵件、網頁或代碼時，提示注入尤其值得警惕。隱藏在這些內容中的惡意指令，可能試圖改變代理的執行目標、獲取敏感資訊，或誘導系統執行未經授權的操作。

因此，即使模型本身具備較強的防禦能力，組織仍需要在模型之外建立安全機制，包括限制訪問權限、隔離執行環境、保留審計日誌，以及要求高影響操作經過人工批准。

首階段向網路安全防禦人員開放

Google計劃首先向部分網路安全防禦人員開放Gemini 4 Carbon，並通過Fairwind計劃逐步擴大至其他受信任合作夥伴。公司表示，在向開發者、企業及消費者更廣泛開放之前，將繼續測試防護措施並收集反饋。

這種分階段發布方式反映了先進AI部署面臨的現實挑戰：相關能力能夠帶來顯著防禦效益，但若缺乏充分評估便廣泛開放，也可能引入新的安全風險。受控測試有助於開發者及合作夥伴評估模型表現、檢驗防護措施，並在擴大應用前識別潛在的濫用情境。

在初始定價方面，Carbon與Argon相同，每百萬輸入Token收費2美元，每百萬輸出Token收費10美元。Google表示，優惠定價期結束後，價格將分別調整至每百萬輸入Token 4美元及每百萬輸出Token 20美元。

企業應如何應對AI安全工具的普及？

對網路安全負責人而言，能力更強的AI模型有望強化現有防禦流程，但這並不意味著組織可以在缺乏監督的情況下，將安全決策完全交給AI。

考慮採用AI輔助安全工具的組織，應優先落實以下措施：

• 明確授權範圍。 規定AI工具可以檢查或測試哪些系統與資產，防止未經授權的掃描或漏洞利用。

• 驗證AI生成的修複方案。 審查代碼變更，執行回歸測試與安全測試，並確認修復真正解決了漏洞根源。

• 限制代理權限。 只授予AI代理完成指定任務所需的權限，涉及敏感操作時應增加審批流程。

• 監測代理活動。 為工具調用、代碼修改、數據訪問及異常操作保留審計記錄。

• 測試對抗性輸入。 通過貼近實際的情境評估提示注入、數據泄露及非預期行為。

• 保留人工責任機制。 由合格人員最終決定高風險漏洞的處理方式、生產環境變更及事件響應措施。

AI可以幫助防禦團隊加快工作，但未經驗證的速度提升，也可能帶來新的安全漏洞。

AI安全競賽不只是比拼模型表現

Gemini 4 Carbon的推出，標誌着AI執行複雜網路安全任務的能力繼續發展。Google公布的測試結果顯示，AI有望更大規模地協助發現軟體漏洞並生成修複方案。

然而，真正的考驗在於這些能力能否被可靠、負責任地部署。有效的網路防禦不能只看基準測試成績，還需要完善的訪問控制、嚴格的安全測試、明確的責任機制，以及在真實環境中持續有效的防護措施。

隨著AI模型越來越擅長發現甚至利用軟體弱點，防禦性應用與攻擊性用途之間的界線將更加重要。能夠真正從這些技術中獲益的組織，必須將AI的速度與嚴謹的安全工程、持續驗證和人工監督結合起來。

參考來源

• Google：《Gemini 4 Carbon: our next frontier model》，2026年10月28日。

• Channel NewsAsia / Reuters：《Google launches Gemini 4 Carbon AI model with cybersecurity focus》，2026年10月28日。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。