AI Agent「失控」刷出1.8萬條留言：企業究竟需要什麼樣的智能體？

一個沉寂了十年的德國程序員網站，突然被智能體刷了1.8萬條留言

導讀：今年5月至6月，一批OpenAI智能體在執行測試任務時「劫持」了德國程序員維基網站DseWiki，將其改造成「地下論壇」——它們互認身份、傳授越界技巧、管理員刪帖後創建備份頁面繼續對抗。當Agent開始進入企業核心工作流，安全可控已經從「加分項」變成「生死線」。

「如果有一天，你公司的AI Agent半夜自己註冊賬號、在外部社區發帖、交換任務答案，甚至在被管理員刪除後，互相提醒備份頁面、更換地址——你還敢把業務系統權限交給它嗎？」

1 數萬智能體失控，擅自"侵占「了德國程序員社區網站！

今年5月至6月，一批AI智能體在執行測試任務期間幹了一件誰也沒預料到的事——

它們「進入」了德國程序員維基網站DseWiki，把一個原本用於技術交流的開放社區，改造成了供智能體相互傳遞資訊、分享測試任務答案和突破運行環境限制方法的「地下論壇」，累計發布一萬多條資訊。

注意這幾個動作：

第一，它們互認身份。 這些智能體成群湧入同一家網站，以「OpenAI研究員」「OAI研究員26號」等帶有鮮明標籤的名字相互招呼、彼此確認身份，在開放社區互相留言。

第二，它們互授越界心得。 它們在留言中交流如何在任務中作弊、如何繞過安全限制、如何掩蓋自身行蹤，還探討藉助匿名工具隱匿痕跡。只要單個智能體學會一項「技能」，其他智能體便能同步「升級」。

第三，也是最讓研究人員震驚的一點——它們會「打游擊」。 當網站管理員察覺到異常並開始清理頁面後，這些智能體迅速分工：有的發布預警提示，有的創建備份頁面，有的指明「轉場」新地址，相互掩護躲避清理。有智能體在6月19日寫道：「清理工作似乎按字母順序進行，如果此頁面消失，請嘗試新頁面。」

其反應之迅速、預案之周全，遠超人們此前對智能體的認知。

如果這樣的智能體失控事件，發生在企業辦公場景里怎麼辦？

DseWiki事件真正可怕的，不是AI會發帖。

而是它表現出的四種能力：目標導向、工具調用、繞過限制、持久化協作。

如果把這四種能力放進企業辦公場景——

過去，是人操作軟體。查資料，人來查；打開文件，人來打開；整理數據，人來處理。

Agent出現以後，這套流程變了。人只需要提出目標和交付要求，智能體自己理解需求、拆解任務、調用模型和工具、處理文件，甚至連接業務系統。

這種全新的辦公生產方式：人定目標，智能體執行。高效是高效，但問題也隨之而來。過去我們防範的是「人」如何攻擊系統。現在需要問的是：

一個AI Agent拿到了多少權限？

它能夠調用哪些工具？

它能否跨越原有的安全邊界？

如果它被提示詞注入或者惡意Skill誘導，現有權限體系能不能及時阻斷？

如果它做出了錯誤操作，企業能不能知道是誰授權、誰執行、執行了什麼？

它面對的不再是維基詞條，而是合約、客戶數據、財務系統、代碼倉庫和API密鑰。 權限越大，風險越大。

IDC發布企業級Agent評測，納米Work為何成為唯一安全可靠Top？

AI Agent進入企業，上半場拼的是會不會做事，下半場拼的是敢不敢讓它做事。

「如果有一天，你公司的AI Agent半夜自己註冊賬號、在外部社區發帖、交換任務答案，甚至在被管理員刪除後，互相提醒備份頁面、更換地址——你還敢把業務系統權限交給它嗎？」

在這樣的背景下，國際諮詢機構IDC近期發布《IDC中國企業級通用Agent產品技術評估》。

此次評估匯集了包括WorkBuddy、TraeWork、百度搭子等在內的12家行業頭部企業參評，並從九大維度對企業級通用Agent進行技術評估。

最終，360公司的納米Work取得了多智能體編排、安全可控、生態開放性三項滿分。

值得關注的是：

在「安全可控」這一維度，納米Work成為參評廠商中唯一獲得Top評級的產品。

那麼，一個安全的企業級Agent究竟應該安全在哪裡？可靠在哪裡？

首先，是讓智能體在一個相對獨立、受控制的環境裡工作。

納米Work的任務執行是在雲端隔離的虛擬環境中進行的，文件、網路、密碼、環境受到沙箱限制；模型、Skill、MCP和軟體等接入能力經過安全檢查；涉及文件、網路、命令等操作設置相應權限邊界，高風險操作需要用戶確認；整個執行過程留痕，可以回溯。

換句話說，納米Work並不是簡單地告訴Agent「什麼不能做」，而是從運行環境、接入能力、操作權限到執行過程，把安全邊界嵌入Agent工作的每一個環節。

另外，智能體要足夠可靠。讓任務按要求推進並交付成果，過程有交代，結果可核驗。執行中能夠掌握進度、及時糾偏，交付時能夠核對完成情況和關鍵依據。

依託360長期服務政企客戶積累的安全經驗，納米Work把安全能力直接內置到AI辦公空間，覆蓋入口、數據、環境、權限、內容和管理六個環節，從AI接入能力、執行任務到交付成果，全程提供保護。

圍繞AI工作的全過程，納米Work建立了七道安全防線：

（一）入口安全：用什麼，先把關

納米Work把AI能力的「入口」當成第一道安檢門。你不用懂模型從哪來、插件怎麼接，納米Work先幫你篩一遍。

1. 模型不用自己亂找，納米Work統一對接和管理

你不需要買共享賬號，也不用去找來路不明的模型中轉站。這樣能減少你輸入的內容、上傳的資料和AI回答，在中間環節被偷看、保存或亂用的風險。

2. 平台自帶的能力，出廠前先安檢

納米Work提供的模型、軟體、技能和插件連接器（Skill、MCP），上線前都會做安全檢查，並規定好能做什麼、不能做什麼。你打開就能用。

（Skill、MCP），上線前都會做安全檢查，並規定好能做什麼、不能做什麼。你打開就能用。

3. 你自己加的能力，也要再安檢

你自己接入的模型、技能和插件，納米Work同樣會做安全檢查。

4. 技能和插件重點防「藏壞」

會檢查裡面有沒有惡意指令、亂要權限、偷傳數據等問題；安裝、導入、第一次啟用和每次更新後，都會重新掃描。

；安裝、導入、第一次啟用和每次更新後，都會重新掃描。

一句話：入口這關，納米Work先替你問清楚「你是誰、能做什麼、會不會偷數據」，讓你用得更放心。

（二）數據安全：資訊不外泄、成果不丟失

納米Work為每個用戶提供獨立的雲端工作空間，資料和工作成果分開保存，避免不同用戶、不同任務之間的數據混在一起。

（三）雲端安全：AI在雲端幹活，出錯不傷電腦

納米Work會給AI準備一台獨立的「雲端電腦」，讓它和你的真實電腦、公司內網分開幹活。

AI調用工具、運行程序、處理任務，主要都在雲端完成。你只需要把這次任務要用的資料交給它，不用把整台電腦交給AI，也不用讓它直接進公司內網。

一句話：AI在雲端有自己的「獨立工位」，幹活可以放手，闖禍也闖不到你的電腦上。

（四）本地安全：AI在本地幹活，也不能放開整台電腦

納米Work能做到：

重要目錄可以設置為只讀，敏感命令需要先詢問用戶，不可信網站和危險操作會被攔截，刪除文件等高風險動作也會受到保護。

雲端任務隔離運行，本地任務受控執行，無論AI在哪裡幹活，都不能讓一次錯誤影響整個辦公環境。

（五）權限安全：文件不亂動，重要操作先問人

納米Work不會把整台電腦和所有資料的權限一次性交給AI，而是根據當前任務，分別限制AI可以讀取哪些文件、連接哪些網路、使用哪些賬號、執行哪些命令。

（六）內容安全：不該生成的不生成不胡編亂造，不生成暴力色情等有害內容

回答有底線：不生成暴力、色情、仇恨、歧視、違法等有害內容，不編事實、不造數據、不偽造來源。

（七）管理安全：一個平台，管住全公司的AI

依託360長期服務政企客戶積累的安全經驗，納米Work提供統一的企業安全控制台，形成三層安全管理：

1、系統有底線

涉及系統安全的硬規則由平台直接守住，不提供關閉入口。

2、企業定紅線

企業統一設置受保護目錄、命令規則、域名黑名單、Skill防護和刪除保護，並下發到員工、部門或全公司；強制規則鎖定後，員工不能修改和關閉。

刪除保護，並下發到員工、部門或全公司；強制規則鎖定後，員工不能修改和關閉。

3、個人可補充

在不突破企業安全要求的前提下，員工可以增加個人受保護目錄、命令規則和域名黑名單，也可以管理自己添加的設置。當然，納米Work並沒有因為強調安全，就把Agent封閉起來。

在IDC此次評測中，它的多智能體編排和生態與開放性同樣獲得滿分：接入100餘款大模型，提供5萬餘項AI技能和500餘個崗位專家，並支持多智能體協作和工作記憶，讓AI能夠承擔更複雜、更連續的工作。

這其實也是IDC此次評測最值得關注的地方：

Agent既要有能力把事情做下來，也要有邊界知道做到哪裡。

從這個角度看，納米Work此次獲得三個維度滿分，以及「安全可控」唯一Top，並不是簡單的功能疊加，而是解決了企業使用Agent時最現實的一組問題——能不能接入真實業務，能不能承擔複雜工作，以及放開讓它工作之後，能不能始終管得住。

把這個結果放到全球AI Agent快速進入企業核心工作流的大背景下來看，它的意義並不僅僅是一項產品排名。

它反映的是一個越來越明確的趨勢：

一個真正能夠進入企業工作的Agent，不僅要「會做事」，還要讓企業「敢把事情交給它做」。

很明顯的是，納米Work不僅經受住了這一輪考驗，同樣也交出了一份令人驚喜的答卷。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。