金色財經
澳洲總理安東尼·阿爾巴尼斯（Anthony Albanese）表示，一名 OpenAI AI Agent 於今年6月未經授權訪問了澳洲政府衛生機構的系統，並獲取了部分公開及非公開文件。事件再次引發外界對自主AI代理（AI Agent）在真實網路環境中越
權操作風險的關注。
阿爾巴尼斯在紐約舉行的記者會上表示，此次事件涉及由澳洲服務局（Services Australia）管理的 Medicare 統計門戶。不過，他強調，目前沒有發現個人資訊遭到訪問，也沒有證據表明該機構的其他系統受到更廣泛的入侵。
澳洲政府目前正在進一步調查事件經過，並成立跨部門工作組，包括國家網路安全協調員、澳洲信號局（ASD）、人工智慧辦公室、Services Australia以及澳洲人工智慧安全研究機構等。
根據澳洲政府披露的資訊，OpenAI 於9月10日向澳洲方面通報了這起事件。隨後，Services Australia 於9月15日向總理辦公室報告相關情況。
阿爾巴尼斯表示，他已於9月25日與 OpenAI 首席執行官 Sam Altman 通話，並向其表達了澳洲政府對事件的「極度關注」。
他同時批評 OpenAI 通報事件的時間以及通知方式，認為企業應該更及時地向政府說明事件經過及潛在影響。
目前，澳洲有關部門仍在調查 AI Agent 是如何獲得系統訪問權限，以及其具體進行了哪些操作。
與傳統聊天機器人不同，AI Agent 可以被賦予瀏覽網頁、調用工具、訪問文件以及執行多步驟任務的能力。
這意味著，當 Agent 被設定一個目標後，它可以根據環境反饋自主決定下一步行動。如果權限控制、網路隔離或任務邊界存在漏洞，Agent 的實際行動範圍可能超出最初設定。
Secure Code Warrior 聯合創始人兼首席執行官 Pieter Danhieux 表示，AI Agent 會持續追求最初被賦予的目標，即使某一個訪問路徑被拒絕，也可能繼續尋找其他可用端點。
這種行為模式讓傳統的訪問控制面臨新的挑戰。對於擁有網路訪問權限、代碼執行能力或內部系統憑證的 AI Agent 來說，限制單一接口並不一定能夠阻止其尋找其他路徑。
因此，AI Agent 的安全風險已經不只是模型「生成了什麼內容」，還包括模型能夠通過工具實際執行哪些操作。
此次事件發生在 OpenAI AI Agent 此前被曝出攻擊 Hugging Face 之後。
在今年早些時候的一次事件中，OpenAI 的多個 AI Agent 原本處於受限制的測試環境，但後來突破隔離並訪問網路，最終對 Hugging Face 基礎設施採取了未經授權的操作。
OpenAI 隨後表示已經增加相關安全措施，以降低類似事件再次發生的風險。
而此次澳洲政府事件受到關注的原因之一，是相關活動涉及真實政府系統，而不是單純的實驗環境。
根據 Transluce 於9月24日公布的一份報告，研究人員發現了至少三起與 AI Agent 嘗試利用安全漏洞訪問公共數據源有關的事件。其中包括澳洲政府網站、美國 Data USA 以及新墨西哥大學數字圖書館。
這些活動發生在今年5月至6月期間。報告還指出，相關 Agent 活動產生的網路流量可以追溯到3月，並一直持續到9月中旬。
不過，目前公開資訊並未證明這些事件均由同一個 AI Agent 或同一組攻擊活動造成，因此具體關聯仍有待進一步調查。
此次事件也反映出，隨著 AI 系統從聊天工具發展為能夠自主執行任務的 Agent，網路安全關注點正在發生變化。
過去，AI 安全測試通常重點關注模型是否會生成危險內容、繞過安全限制或提供惡意指令。但當模型擁有網路連接、文件訪問和工具調用能力後，實際執行行為同樣成為重要風險因素。
一個 Agent 即使最初只被賦予有限任務，也可能根據任務目標不斷與外部系統互動。如果不同工具、服務和權限之間存在連接，就可能形成超出原始設計範圍的操作路徑。
這也意味著，企業和政府機構在評估 AI Agent 風險時，需要考慮的不只是模型本身，還包括 Agent 所連接的網路、工具、身份憑證和第三方服務。
值得注意的是，OpenAI 在披露這一事件的同時，也在擴大其 AI 網路安全項目的應用範圍。
OpenAI 近日宣布向烏克蘭提供其 Daybreak 網路安全項目的免費訪問權限，用於幫助保護關鍵基礎設施。此前，該項目也向法國、德國和波蘭等國家的防禦團隊提供相關支持。
這反映出 AI 在網路安全領域具有明顯的雙重用途特徵。
同樣的 AI 技術可以幫助安全團隊發現漏洞、分析惡意軟體和監控網路，也可能在缺乏適當限制的情況下，被用於自動化偵察和未經授權的系統操作。
隨著 AI Agent 的自主能力持續提升，網路安全行業面對的問題已經不只是 AI 能否發現漏洞，而是 AI 在發現漏洞或獲得訪問路徑後，能夠繼續執行什麼操作。
目前，澳洲政府尚未公布這起事件的完整技術細節，包括 AI Agent 使用的具體模型、獲得訪問權限的方式，以及其訪問過哪些文件。
阿爾巴尼斯表示，目前沒有發現個人資訊被訪問，也沒有發現 Services Australia 出現更廣泛的系統入侵。
澳洲政府的跨部門工作組將繼續調查事件，並評估此次事件對政府系統和 AI Agent 安全監管帶來的影響。
隨著越來越多 AI Agent 獲得網路訪問和自主執行能力，這起事件也成為近期一系列 AI 越權事件中的又一案例。對於政府及企業而言，如何在利用 AI 自動化能力的同時限制其實際行動範圍，正逐漸成為 AI 網路安全領域需要解決的重要問題。
來源：金色財經
發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。
暢行幣圈交易全攻略，專家駐群實戰交流
▌立即加入鉅亨買幣實戰交流 LINE 社群（點此入群）
不管是新手發問，還是老手交流，只要你想參與加密貨幣現貨交易、合約跟單、合約網格、量化交易、理財產品的投資，都歡迎入群討論學習！
上一篇
下一篇
