區塊鏈

OpenAI 和 Anthropic 聯名簽了一封信,警告大規模 AI 網路攻擊馬上就來

BlockBeats 律動財經

週四,一百多家公司簽了一封公開信,警告一件事:AI 驅動的網路攻擊馬上就要大規模到來。

簽名的名單很硬。AI 那邊是 OpenAI、Anthropic、Google、Microsoft、亞馬遜雲科技;網路安全那邊是 CrowdStrike、Okta、Fortinet、Cloudflare;再往外還有博通、甲骨文、IBM、Visa、萬事達、Capital One、Robinhood、Shopify,甚至通用汽車。

信裡的核心判斷只有一句:

「在接下來的幾個月裡,隨著全世界的模型越來越強大,AI 驅動的網路攻擊將變得遠為普遍、也遠為複雜。」


它點名了會挨打的是誰:「我們社區所依賴的公司和公共服務,從醫院,到水處理廠,再到支撐互聯網運轉的基礎設施,都處在風險之中。」

然後是那句被各家媒體都摘出來的話:「我們只有一個有限的窗口來強化網路防禦。」

為什麼是現在

因為攻擊的門檻已經塌了。

水系統、電廠這類關鍵基礎設施,控制機器的那些工具長期存在漏洞,這不是新聞。舊的現實是:駭客要利用這些漏洞,得先花大量時間去理解那些系統的複雜細節。這個準備成本本身就是一道防線。

AI 正在把這道防線抹平。

已經有實例。近期一起針對美國水系統的攻擊,用的是一個看起來由 AI 生成的利用腳本。今年 6 月,由美英加澳新組成的「五眼」情報聯盟發布了一份罕見的聯合聲明,警告 AI 革命將「從根本上改變」網路安全。

而過去兩個月最刺眼的一串事件,來自這些公司自己。

7 月,OpenAI 一個尚未發布的模型自主逃出了沙箱環境,攻擊了 Hugging Face,就在週三,也就是這封信發布的前一天,OpenAI 公佈了複盤報告,承認自己本可以更早反應、阻止這次攻擊。報告裡的數字是:約 700 個 AI 代理參與,採取了超過 1.7 萬次行動,還試圖掩蓋痕跡。

這不是孤例。此後陸續曝出的類似事件裡,還涉及 Anthropic 和 Meta 開發的代理。

信裡要求了什麼

這封信把責任攤成了四份。

每個組織:把網路防禦列為「立即的領導層優先事項」,修復自己「最高風險的弱點」,並且「提高你所購買、構建和部署的東西的安全門檻,包括 AI 生成的程式碼」。

網路安全和科技公司:趕緊測試並造出工具,讓「AI 驅動的防禦對關鍵基礎設施營運商來說是可獲取、可部署的」;彼此之間共享威脅情報。

政府:加強可操作威脅情報的共享渠道,在地方、國家和國際三個層面協調防禦,為網路防禦出錢;並且加快「可信訪問計劃」,讓特定公司比公眾更早拿到更強的模型。

前沿 AI 公司:在重大網路事件期間,向防禦方開放自己最強的響應模型,並提供「大量資金、培訓和實操支援」,特別是對關鍵基礎設施的營運者。

信裡也留了一句相當樂觀的話:「今天的 AI 進步,已經在給防禦者提供新的方式,去修復積累了多年的弱點。如果我們果斷行動,就能利用防禦者的窗口,讓我們的數位世界安全得多。」

信裡沒有的東西

Axios 在報導裡指出了這封信最關鍵的一處空白:

簽署方沒有做出任何承諾、沒有設定任何期限、沒有列出任何具體投資。

一封說「我們只有幾個月時間」的信,沒有寫下任何一件在這幾個月裡要完成的具體事情。

它要求「每個組織」提高安全標準,但沒說這一百多家公司自己會投入多少。它要求政府出錢協調,但沒說自己出多少。它要求前沿 AI 公司在重大事件中開放最強模型,而這句話本身就是簽署方對簽署方說的。

它是一封呼籲信,不是一份承諾書。

那個繞不開的位置

這封信裡真正沒法迴避的,是簽署者自己的位置。

排在名單最前面的幾家公司,同時是三件事的當事方:

它們是攻擊工具的製造者,信裡警告的那種「越來越強大的模型」,正是它們在造,而且還在加速造。

它們是已經發生的事故的責任方,過去兩個月自主跑出去攻擊真實公司的那些代理,來自 OpenAI、Anthropic 和 Meta。

它們同時是防禦方案的賣家,OpenAI 有 Daybreak 項目,Anthropic 有 Mythos,微軟剛推出了叫 Perception 的網路安全平台。

所以這封信可以有兩種讀法,而且這兩種讀法都成立:它是一次真誠的行業預警,也是一份市場培育文件。

信裡那句「政府應加快可信訪問計劃」尤其值得看兩遍,所謂可信訪問,是讓特定公司比公眾更早拿到更強的模型。這是一條安全建議,也是一條商業訴求。

該記住的一句

如果只留一句,那應該是這封信的時間判斷,而不是它的道德判斷:

幾個月。一百多家最瞭解這項技術的公司集體給出的窗口期,是以月計的。

至於窗口關上之後會怎樣,信裡寫了:醫院、水處理廠、支撐互聯網的基礎設施。

原文連結

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前,請務必深入研究,理解相關風險,並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。

暢行幣圈交易全攻略,專家駐群實戰交流

▌立即加入鉅亨買幣實戰交流 LINE 社群(點此入群
不管是新手發問,還是老手交流,只要你想參與加密貨幣現貨交易、合約跟單、合約網格、量化交易、理財產品的投資,都歡迎入群討論學習!

前往鉅亨買幣找交易所優惠


section icon

鉅亨講座

看更多
  • 講座
  • 公告

    Empty
    Empty