Anthropic CEO回應公開信：不主張禁止開放權重模型 但倡導老三件

按：Kimi K3發布後引發美國對開源AI模型的爭議，美國出現大批聲音要求美國政府禁止開源AI模型，但英偉達、微軟、Huggingface、a16z、Dell、Palantir、Y Combinator等簽署聯合信表態支持開源AI模型。但作為主要反方的Anthropic一直沒有表態，今天Anthropic CEO Dario Amodei發文了，Anthropic從未主張禁止開放權重模型，但還是強調老三件：禁止向中國出售強大的晶片或晶片製造設備、反對蒸餾和安全測試。全文如下，金色財經編譯：

過去幾天，關於開放權重模型——尤其是來自中國的開放權重模型——有很多討論。有報導稱，美國一些官員正在考慮禁止美國企業使用中國的開放權重模型。作為回應，許多科技公司簽署了一封支持開放權重模型的公開信，甚至有人指責Anthropic想要禁止開放權重模型以保護自身業務。任何讀過我過去文章的人都應該知道，我並不認為這類禁令是有用的措施，但讓我在此明確表態，以免有任何疑問：Anthropic從未主張禁止開放權重模型。

不具備危險能力的開放權重模型是一種公共產品：除了運行它們所需的算力之外沒有任何成本，它們為企業、開發者和研究人員提供了價值。

保護主義禁令並不能解決我最嚴重的國家安全擔憂。具體來說，我擔心兩種噩夢情景。我在六個月前發表的《技術的青春期》一文中闡述了這些擔憂，並且多年來一直堅持這些立場：

我的首要擔憂是威權政府構建出比美國更強大的AI模型，並利用這些模型實現永久的軍事優勢或對其人民實施極其深度的鎮壓。這一擔憂在美國政府內部被廣泛認同：萬斯副總統去年在巴黎警告稱「威權政權竊取並利用AI來強化其軍事、情報和監控能力」，而情報界《2026年度威脅評估》發現「其他全球大國在AI領域的強勁進展正在挑戰美國的經濟競爭力和國家安全優勢」。這些模型是否以開放權重發布無關緊要，它們是否被美國企業使用當然也無關緊要。事實上，最危險的模型可能是秘密訓練後僅交給中國人民解放軍用於無人機、交給國家安全部用於監控和鎮壓的模型。

我的次要擔憂是強大的AI模型可能被濫用來實施網路攻擊或生物攻擊，並可能存在嚴重的對齊問題。開放權重模型——無論來自中國還是其他地方——確實可能比封閉模型構成更高的風險，因為很難對它們應用護欄或監控其使用情況，而且一旦權重發布就無法撤回。但禁止美國企業使用這些模型並不能解決這一風險，因為惡意行為者不太可能是合法的美國企業。這樣做只會保護美國AI公司免受競爭，但這從來不是我的目標。

為了解決這些擔憂，我確實支持以下三項措施，這也是我和Anthropic一貫倡導的：

一、我們不應向中國出售強大的晶片或晶片製造設備，並應打擊猖獗的走私和變相獲取此類晶片的行為。中國國內產能有限，因此根據Scaling法則，沒有美國晶片就無法構建比美國更強大的模型。這是阻斷威脅#1最高效、最直接的方式，而且通過阻礙訓練超出美國法律管轄範圍的模型，它間接地也有助於應對威脅#2。

二、我們應打擊工業規模的蒸餾操作。蒸餾比從頭訓練模型所需的算力效率高得多。它使得中國能夠構建出遠比其晶片數量原本所能支撐的更優秀的模型，從而部分規避晶片禁令。蒸餾無法獲得與美國相當或超越的AI能力，但它可以將中國的前沿水平拉近到與美國前沿相差幾個月之內。誠然，進行這些操作的許多公司確實發布了開放權重模型——但開放權重遠不如以下事實重要：這些操作的背後是一個試圖在前沿領域超越美國的威權國家。我們應該採取政策干預來威懾這種行為。對開放權重模型的一刀切禁令既不是正確的補救措施，也不是我們所呼籲的。

三、所有足夠強大的模型，無論開放還是封閉，都應通過強制性安全測試。應對威脅#2的最佳方式就是在發布前直接測試模型的網路、生物和對齊風險。我認為這個想法實際上已接近共識：讓我感到鼓舞的是，川普政府近幾個月已朝這個方向邁進，而且最近業界的一些提案也提出，應將此類測試應用於最強大的模型——無論其來源國或開放封閉——同時完全豁免能力較弱的模型（如來自初創公司和學術界的模型）。開放模型是否確實構成更高的風險，以及這種風險是否可被緩解，這些都應該從測試中得出，而非事先決斷——而且可能存在有前景的方法來提高開放權重模型的安全性，包括Anthropic最近關於模塊化訓練策略的研究。需要注意的是，為了有效，測試需要是全球性的。我認為這實際上是可能的：正如我在《技術的青春期》中所寫的，在防止AI生物武器方面達成有限的合作是可能的，因為這符合中國的利益。

這讓我回到那封公開信。我同意其中的大部分內容：開放權重擴大了AI經濟的可及性，它們至少在某些用例中加強了競爭，並給予客戶更大的控制權。對蒸餾的擔憂應通過有針對性的法律和商業框架來解決——即我上述的措施。但我不同意公開信中關於「開放權重模型必然使安全防護措施更容易建立」或「廣泛的能力可及性對防禦者的幫助必然大於攻擊者」的論斷。在我看來，至少同樣可能的是相反的情況。例如，我擔心生物學具有強烈的攻防不對稱性——足夠強大的模型可能能夠利用廣泛可得的材料快速將大流行級別的病毒武器化，而對這類病原體的防禦即使是在最理想的情況下也是一項多年的行動任務（正如我們在「曲速行動」中所看到的）。這類問題應該通過嚴格的發布前測試來實證回答，而非預先假設。

總結我和Anthropic的立場：我們沒有、也沒有主張將開放權重模型作為一個整體類別來禁止。我們應該專注於：將強大晶片擋在威權政權之外，阻止工業規模的蒸餾，以及要求所有足夠強大的模型（無論開放還是封閉）通過安全測試。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。