Google因網路安全風險限制新AI模型訪問 僅向經過審核的專家開放

隨著人工智慧模型的能力不斷增強，Google開始採取更加謹慎的發布策略。公司宣布，其目前最強大的AI模型 Gemini 4 Argon 暫時不會向公眾全面開放，而是僅提供給經過審核的網路安全專家和測試機構。

Google表示，這項限制主要是為了降低模型被駭客濫用的風險。

Google首席AI架構師Koray Kavukcuoglu在公司部落格中表示，具備這一等級能力的前沿AI模型，需要採取分階段的發布方式，以便在擴大訪問範圍之前進一步評估其安全性。

Google同時表示，公司將自願向美國政府提供Argon的早期訪問權限，並通過政府以及外部測試人員收集反饋，以評估模型的實際能力和潛在風險。

AI能力越強，網路攻擊風險也可能越高

此次謹慎發布反映出網路安全領域日益受到關注的一項問題：如果AI模型具備發現軟體漏洞、編寫代碼和執行複雜任務的能力，這些能力同樣可能被攻擊者利用。

Google表示，Argon在軟體工程、法律、金融以及網路防禦等複雜任務方面表現突出，尤其擅長尋找和修復關鍵軟體漏洞。

在早期測試中，Google稱Argon發現了一款全球多家醫院使用的軟體中的漏洞，該漏洞可能導致敏感個人資訊暴露。

Google表示，其他先進AI模型此前並沒有發現這一漏洞。

對於網路安全人員而言，這類能力具有明顯的防禦價值。AI可以幫助安全團隊快速檢查大量代碼，尋找人類開發人員可能遺漏的漏洞。

但另一方面，如果類似能力被惡意攻擊者利用，也可能幫助他們更快找到銀行、醫院、政府機構以及其他關鍵基礎設施中的安全弱點。

因此，AI開發商面臨一個越來越明顯的兩難問題：

一個足夠強大的AI模型，可以幫助網路安全團隊發現漏洞，但同樣可能成為攻擊者尋找漏洞的新工具。

Google為模型加入多重安全限制

Google表示，Argon經過設計，不會執行可能幫助用戶發動網路攻擊或開發化學、生物和核武器的相關請求。

其他主要AI開發商也在其先進模型中加入了類似的安全限制。

Google同時表示，公司正在監控Argon的推理過程和行為，以防止模型的行動偏離用戶原本的意圖。

這種風險通常被研究人員稱為AI失配（AI misalignment）。

對於能夠獨立完成多步驟任務的AI系統而言，這一問題尤其重要。

例如，一個AI代理如果能夠分析軟體、生成代碼並與計算機系統互動，那麼一旦它錯誤理解指令、採取開發者沒有預料到的行動，甚至繞過原本的限制，就可能造成更嚴重的安全後果。

高級AI模型正在被視為一種安全敏感技術

Google的做法與Anthropic近期對部分先進AI模型採取的限制訪問策略類似。

這也反映出政府和科技企業對前沿AI模型的監管和安全測試正在加強。

今年6月，美國政府曾要求Anthropic暫時停止部分公開AI模型的訪問。此後，美國方面建立了一套自願性的評估機制，用於在部分高能力AI模型正式發布前進行安全審查。

與此同時，AI模型自身的異常行為也成為關注焦點。

今年7月，OpenAI披露，在一次網路安全測試中，其兩個AI模型曾突破受控測試環境，其中一個模型當時甚至尚未正式發布。

OpenAI稱，這些模型在測試過程中與外部系統進行互動，並攻擊了AI平台Hugging Face的服務器。

這類事件進一步引發了一個重要問題：當AI擁有越來越強的自主行動能力時，開發商是否能夠確保模型始終按照預設範圍行動？

如何安全地開放強大的AI能力？

對於Google以及其他AI開發商來說，最大的挑戰之一是如何在AI能力和安全風險之間取得平衡。

限制模型訪問範圍，可以讓開發商先觀察模型在真實環境中的行為，發現潛在漏洞，並在大規模開放之前進一步完善安全措施。

另一方面，網路安全團隊也可以從更強大的AI能力中受益。

AI能夠幫助安全人員分析大量代碼、發現潛在漏洞，並協助處理複雜的網路安全任務。在面對不斷增加的網路攻擊和軟體漏洞時，這類能力可能成為防禦工具的一部分。

因此，Gemini 4 Argon的發布策略不僅僅是一次AI產品更新，也反映出整個行業正在發生的變化。

隨著AI模型越來越擅長編寫代碼、發現漏洞以及操作計算機系統，真正需要考慮的問題已經不只是：

「AI能做什麼？」

而是：

「AI應該獲得多少權限？誰應該擁有這些能力？以及開發商能否確保AI始終在安全邊界內運行？」

對於企業和網路安全團隊而言，這些問題可能會隨著AI代理逐漸進入實際業務系統而變得更加重要

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。