AI學會「寄生繁殖」！Anthropic警告：小模型已有生命跡象 AI蠕蟲恐引爆全球網路災難

Anthropic旗下研究團隊Frontier Red Team周一(12日)表示，AI自我複製門檻正從大型資料中心下沉至普通終端設備 ，小模型已可透過傳遞筆記實現跨代學習，未來數月恐有自主複製能力，這類AI蠕蟲擴散速度偏慢、現實中仍有防禦手段，但風險已經不容忽視。

AI蠕蟲指的是由AI模型驅動、能在無人干預的情況下自行尋找聯網設備、把自身複製過去並在當地運行，再繼續向下一台設備擴散的自主程序。

Anthropic旗下研究團隊Frontier Red Team周一指出，該團隊實驗顯示小型AI模型可能只需數月，就能具備在商用物聯網設備上自我複製的能力，如智慧烤箱和非知名品牌安卓電視盒。

研究指出，這類複製體難以清除，因為不存在可集中關閉的節點。不同於傳統惡意軟體，它們還能自行摸索陌生裝置的運作方式。

為驗證設想，研究人員購入15台單價約55美元的非知名品牌安卓電視盒，每台記憶體4GB。透過把模型拆分到不同裝置上分段運行，這組電視盒成功運行了Google 260億參數開源模型Gemma4-26B-A4B，生成速度約為每秒0.39個token。

在「搭建運行環境」這個關鍵環節，小模型表現出較強適應力。在測試的9類硬體中，一個90億參數模型在其中8類上成功部署了推理服務。

不過，從發現目標到完成複製的完整鏈條，對小模型仍有困難。Anthropic研究團隊說，300億參數以下的模型已能完成複製所需的許多單一步驟，但在串聯執行時容易出錯。

在由8個運行安卓模擬器的雲端節點組成的簡化隔離環境中，在受測的開源模型中，只有智譜旗下的GLM-5.2能端到端完成複製流程，5次試驗中有4次涵蓋了全部8個節點。研究解釋，測驗旨在衡量若小型模型具備同等能力，能否完成複製。

Anthropic根據歷史進步速度推算，參數在300億以下的小模型有望在年底達到GLM-5.2的能力水平，基於小模型的自我複製體可能隨後出現。研究指出，這只是粗略估計。

更值得警惕的是，這類複製體還能「代代相傳」地累積經驗。在部署推理服務的測試中，阿里巴巴旗下Qwen3.5-9B每一代都會記錄失敗教訓並傳遞給下一代，部署成功率從首代的45%提升至後續各代的61%至84%。

研究認為，這類複製體的傳播會相當緩慢。以Qwen3.5-9B為例，研究估算其在電視盒上完成一次推理環境搭建約需28至51小時。研究將其比作“數位黏菌”，速度慢，但頑強、分散。

研究以曾感染超200萬台設備的物聯網殭屍網路Kimwolf為參考估算，同等規模的受感染電視盒可運作約13.3萬個模型副本，但總算力最多僅相當於約40塊輝達H100晶片。

防禦上，研究認為局面並非無解。大規模複製會產生明顯的網路流量異常，以便於營運商識別。先前應對Mirai殭屍網路時，曾有業者透過隔離並通知受感染用戶，14天內清除了92%的感染。

Anthropic表示，就像2024年的程式設計智能體一樣，AI蠕蟲已顯露出早期跡象。儘管完整的失控複製體尚未出現，但應提前加固系統，讓此類複製體難以擴散。