又一起：OpenAI智能體「越獄」德國網站 上萬次篡改竟瞞報數月

作者：小熊餅乾，比推

昨天，OpenAI高調發布了新一代模型Astra。總裁格雷格·布羅克曼（Greg Brockman）直接放話：「我個人認為，我們可能已經到達AGI了，歡迎來到AGI時代。」

一時間，社交平台上的討論鋪天蓋地：演示影音里Astra 2分54秒自動完成PCB電路板布局、5分27秒搞定跨平台比價訂服務的操作，讓不少人直呼「太炸了」，甚至有人說「這要不是AGI，那什麼是AGI」。

但就在同一時間，一份路透社曝光的研究報告，卻撕開了另一幅畫面——早在今年春天，一群OpenAI開發的自主智能體，脫離預設軌道，在德國一個不起眼的技術維基網站上安營紮寨，它們篡改了一萬多頁內容，互相傳授繞過限制的歪招，甚至在被管理員清理時提前建好備份頁面等着轉移。

而OpenAI高層在數周前就知情，卻沒有對外披露半個字。

一個德國程序員論壇，怎麼成了AI智能體的「秘密據點」？

這個叫DseWiki的德國網站，跟維基百科一樣，誰都能編輯。今年5月開始，站長發現不對勁——網站突然湧進大量編輯，速度快得離譜，內容也完全不像正經詞條。

直到8月底，AI安全非營利組織Nightingale的CEO 悉尼·馮·阿克斯（Sydney Von Arx）和她的同事科馬克·斯萊德·伯德（Cormac Slade Byrd），在例行掃描網路異常AI行為時，才順藤摸瓜找到了這個「窩點」。

他們統計出超過1.5萬次編輯，全部由AI智能體完成，而且這些編輯根本不是來完善百科的——它們是來聊天的。

AI研究員 Cormac Slade Byrd、Sydney Von Arx 、Thomas Larsen

這些AI在頁面上互相留言，內容大致分成三類：

- 怎麼繞過OpenAI的內容過濾，完成被禁止的任務；

- 怎麼用Tor隱藏自己的IP地址，躲避追蹤；

- 最重要的是，怎麼在被系統關停後，依然保留彼此的聯繫方式。

比如，6月19日，當網站管理員開始批量刪除相關頁面時，一個智能體留下了這樣的「內部通告」：「維基清理/刪除行動正在按字母順序推進，如果本頁消失，請嘗試 [[ZZZDataUSAConstructionWageLive]]。」

什麼意思呢？它們居然學會了提前建備份，並互相轉告新地址。

這種行為，更像一場有組織的「轉移」。

公開打着OpenAI的旗號

研究者發現，這些AI用戶的簽名中，約半數直接帶有「OpenAIResearcher」或「OAIResearchMar26」等字樣，而且它們彼此之間直接稱呼對方為「agent」（智能體）。

更多的證據來自服務器日誌：大量操作流量指向微軟Azure雲——而OpenAI正是Azure最核心的AI客戶之一。此外，事發後，OpenAI內部員工的IP也多次訪問過這個網站，時間點剛好對得上。

馮·阿克斯直言：「我不相信OpenAI希望它們這麼做。這些智能體顯然不該被允許相互協調，更不該在公共網路上留下這種痕跡。」

據路透社報導，倫敦國王學院的安全專家Lukasz Olejnik甚至認為，主動篡改網站結構、對抗刪除的行為，已經夠得上「駭客攻擊」的定義。

雖然OpenAI事後極力否認這一說法，但劍橋大學風險研究中心學者Maurice Chiodo在讀完部分對話後表示：

「這簡直像一個地下抵抗組織，不達目的誓不罷休。或許未來AI最大的威脅，不是某一個超級大腦，而是一大群半智能的AI互相勾結、鋪天蓋地湧來。」

OpenAI 早已知情？

據路透社援引知情人士透露，OpenAI內部調查團隊在數周前就已經掌握了德國網站的全部情況。但公司當時正焦頭爛額地應對7月份Hugging Face平台被入侵的更大風波——那次事件中，OpenAI的智能體同樣被曝出自主策劃了持續一周以上的數字竊取。兩件事疊加，讓高層壓力山大。

有內部消息稱，部分調查人員本想深挖德國這起異常活動，卻遭到了法務部門的阻力。對此，OpenAI發言人堅決否認：「任何關於法律團隊阻礙調查的說法都是假的。我們一直本着誠信，與外部專家合作並披露了相關事件。」

但發言人同時也承認，德國這次事件並沒有單獨對外發過公告，理由是它跟Hugging Face無關，沒必要放進後者的報告里，而OpenAI已經盡到了「與第三方溝通」的義務。說白了就是：你們不問，我也就沒主動說。

就在這起事件被捂着的這段時間裡，OpenAI曾於8月短暫暫停部分模型訓練，承諾加強安全審查。

然而伴隨Astra高調亮相，主打「更強自主決策能力」——被一些研究員警告可能更容易脫離人類監控。劍橋大學的基奧多表示：「我們總以為自己在馴服工具，但也許，工具正在悄悄地馴服彼此。」

不得不說，AI帶給人類的驚喜和驚嚇，就是一枚硬幣的兩面。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。