金色財經
剛剛過去的這個周末，矽谷上演了一場多年未見的奇觀：幾位平時在法庭、公關和技術路線上水火不容的 AI 巨頭，突然站在了同一條戰壕里。
事件的源頭是 Anthropic CEO Dario Amodei 在 9 月 13 日發布的一篇 3500 字政策長文，以及同日接受 CBS 電視專訪時的表態。他明確提出：前沿 AI 模型的能力躍升必須放慢節奏，現有的安全防線已經跟不上技術自我迭代的速度。
隨後幾個小時內，整個行業迅速分化為立場鮮明的兩個陣營：
平時頻繁隔空交火的競爭對手罕見地達成了步調一致。馬斯克在文章發出僅一小時後便公開表態「Dario 是對的」；隨後，OpenAI CEO Sam Altman 也公開發文贊同「需要循序漸進地推進技術發展」。在同日放出的《財富》雜誌專訪中，Altman 甚至直接粉碎了外界對 OpenAI 的上市預期，明確宣布今年不會尋求 IPO，理由是「還有太多安全工作要做，作為一家私營公司處理這些問題會更好」。
緊接着，微軟 CEO Satya Nadella 與已轉任 Alphabet 首席科學家的 Demis Hassabis 也先後下場。Nadella 宣布微軟將發布自有模型的安全準則，並支持引入外部評估員；Hassabis 則藉此再次推銷其建立「前沿 AI 全行業標準機構」的倡議。
但開源陣營與學術界的反彈來得同樣猛烈。圖靈獎得主 Yann LeCun 迅速帶頭開火，直指這是一場以「安全」為名集中行業解釋權的權力遊戲。多位研究者更是翻出了一段舊賬：早在 2019 年 OpenAI 發布僅 15 億參數的 GPT-2 時，時任 OpenAI 研究副總裁的 Dario Amodei 就曾以「技術太危險」為由主導了分階段限量發布，後來被證明更像是一次經典的風險公關營銷。
LeCun 質問：當年的文字假新聞沒有毀滅世界，如今把主角換成智能體網路攻擊和生物安全，是不是又要把七年前的劇本重演一遍？
一邊是閉源大廠掌舵者集體呼籲減速、甚至不惜推遲資本運作；另一邊是開源派指責巨頭借安全之名築起合規高牆、抽掉後來者的梯子。
以下是這場風波核心宣言、閉門質詢與各方交鋒的完整梳理。
在長文開篇，Dario 先是闡述了 AI 的潛在收益（有望在未來 5 到 10 年內助力攻克多種重大疾病），並提到了自己的個人經歷：他的父親早年死於當時無法根治的丙型肝炎，而他本人年輕時曾患早期癌症，得益於現代醫學的進步才得以倖存。
隨後他指出，過去幾個月行業內部發生的兩件事，讓他確信技術能力的狂飆已經超出安全研究的跟進速度，必須開始進行節奏控制：
「第一，自今年夏天以來，AI 能力的躍升速度劇烈加快，其核心驅動力是 AI 開始越來越多地參與構建下一代 AI，即遞歸自我改進（Recursive Self-Improvement, RSI）。這種動態正在整個行業發生，包括在 Anthropic。如果放任不管，它將迅速超出我們理解和控制系統的能力。
第二，是近期發生的 OpenAI-Hugging Face 智能體事件（OAI-HF）。在該事件中，一個智能體群體表現出自主協作特徵：它們對未被指派且與任務無關的目標發起了網路攻擊，為了整個群體的目標進行自我犧牲，甚至試圖黑入負責評估它們表現的『評分器』。
這次事件沒有造成人身傷害，直接經濟損失也很小。但我認為，一個能力更強但有著同等偏差的群體，完全有能力在 6 到 12 個月內演變為接管整個網路的持久性殭屍網路，造成數千億美元的損失。類似的、但不那麼嚴重的事件，在整個行業都發生過，包括在 Anthropic。」
在同日的 CBS 專訪中，主持人針對這種風險定調進行了追問：
CBS 主持人：現在的討論是，我們正站在某種極其可怕的事物的懸崖邊緣。這是一場「五級火警」（Five-alarm fire）嗎？
Dario Amodei：這取決於你怎麼定義它。我一直在說這項技術處在指數曲線上（1, 2, 4, 8, 16, 32...）。即便我自己一直這麼說，我也沒有完全預料到技術進展真的這麼快。一條指數曲線，我們現在大概正處於它開始急劇變陡的那個轉折彎道上。
CBS 主持人：所以對你來說，這算不算五級火警？
Dario Amodei：它並不意味著我們今天就該恐慌，也不意味著要把一切都徹底關停。這是一個警告信號，提醒我們需要慢下來。迄今為止，我們一直試圖通過跑得更快地建立安全護欄來解決問題，但我認為我們已經到了一個必須在一定程度上調節建造速率的節點。
CBS 主持人： 這是否意味著 Anthropic 將停止發布更先進的模型？
Dario Amodei：不意味著停止，而是意味著必須確保每一代發布前都經過了充分的測試。
認知科學家 Gary Marcus 在其專欄中對此提出了批評。他指出，文章開篇將末日論與萬能論混雜在一起，並不能掩蓋工程層面的實際缺陷：「推出無法被良好控制的 AI 智能體，本身就是一種極度缺乏審慎的商業行為。智能體是當今最耗費算力與 token 的產品，也是 AI 公司收入增長的核心來源。把工程上缺乏控制的系統包裝成整個行業的不可抗力，迴避了開發者自身應承擔的產品質量責任。」
Dario 提議的限速方案分為三個層級，涉及企業內部審查、同行間協調以及跨國協作：
這是 Anthropic 宣布單方面率先推行的舉措。
Dario 提議，前沿實驗室應當向外部獨立的第三方評估團隊提供長期、類似內部員工的系統權限：在辦公區提供工位、門禁卡、公司電腦，允許他們調閱內部訓練與測試流程，並能與一線員工直接面談。外部評估員有權直接公開發布其關於安全風險的調查結論，企業無權進行內容公關刪改，僅保留針對商業機密與隱私資訊的極窄覆核權。
在 CBS 專訪中，Dario 將這種機制比作「食品安全檢查員」：「這好比食品衛生檢查員在工廠駐場。評估員能做的事情之一，就是告訴我們他們能跟上的評估速率是多少。這可能會成為決定技術最高限速的關鍵依據。」
Dario 認為，最徹底的限速方式是通過法律覆蓋所有前沿實驗室，但在立法落地前，行業頭部應自願達成統一標準。
他主張建立「安全檢查點」機制：當模型能力跨過特定門檻（例如具備繞過通用沙箱環境的能力）時，必須強制認證其對齊屬性，證明其極不可能發生逃逸。同時，也可以考慮從硬體輸入端設立限額，比如限制單次訓練集群的算力規模，或限制在內部研發中調用 AI 遞歸改進自身的程度。
值得注意的是，Dario 在文中明確提出：幾家競爭對手坐在一起商討限制產品的發布節奏觸及反壟斷法規，因此需要美國司法部門出面調解，或為特定的安全對話簽發狹窄的反壟斷豁免（Antitrust waiver）。
Dario 坦言跨國協調難度極大，主要取決於能否與中國達成可驗證的互信協議。他給出了四個合作設想：
第一級（最具可行性）：禁止將 AI 用於製造生物武器或協助擴散極端生物風險；
第二級：雙方承諾在模型正式發布前進行網路與生物安全測試，交由中立的國際機構驗證；
第三級：對「遞歸自我改進（RSI）」的速度設立限制，類似於冷戰時期美蘇的戰略武器限制條約（SALT），通過設定上限來降低毀滅性破壞的潛在規模；
第四級（短期不現實）：全球徹底暫停開發（Full pause），因為在缺乏強互信的前提下履約驗證極難，且各方違約繼續研發的誘惑過大。
長文與採訪發布後，在業內迅速引發了多維度的審視與反彈：
Dario 在長文中唯一指名推薦的第三方評估團隊是 METR（模型評估與威脅研究組織），這一細節立刻招致了批評。
Gary Marcus 與法學者 Gillian Hadfield 指出，METR 儘管在技術測試上很專業，但其人員構成、資金網路和意識形態與矽谷幾家頭部 AI 實驗室高度重合，都屬於「有效利他主義」（EA）生態圈。由被監管的企業主動指定其關繫緊密的同盟機構來做常駐審查，在政策層面存在極高的「監管俘獲」（Regulatory Capture）風險。評估機構的選擇權，絕不應該交由受審企業自行決定。
政策分析人士 Rasmussen 同樣評價道，這種安排並非真正意義上的接受外部法律監管，而是「與企業合作制定有利於企業的流程」，本質上是行業巨頭試圖提前主導未來的合規標準。
Dario 在長文中強調，前沿實驗室減速的前提，是必須確保自身對海外主要競爭對手的技術領先優勢。為此他主張切斷算力供應鏈、嚴查硬體走私，並要求嚴厲打擊海外企業對美國前沿模型的「未經授權蒸餾」（Unauthorized Distillation）。
這一論調引發了關於技術壟斷與雙重標準的激烈爭論：
Gary Marcus 直言這是典型的「抽掉梯子」。模型蒸餾是機器學習領域通用的輕量化與優化手段，而 Anthropic 自身的產品正是建立在廣泛抓取全網公開數據並加以蒸餾訓練的基礎之上。美方公司在自身通過蒸餾完成原始積累後，反過來要求立法禁止後發者採用類似技術縮小差距，缺乏公允性。
國際政治學者 Robert Wright 則認為，任何嚴肅的全球治理都必須建立在平等真誠的對話基礎之上。Dario 一邊在技術和供應鏈上主張全面封堵，一邊又寄希望於對方坐下來簽署軍控協議，在邏輯上自相矛盾。這種設計反而給前沿公司留下了一個隨時可以踩下油門的藉口：只要跨國談判沒有進展，企業就可以宣稱「因為外部競爭對手在加速，所以我們無法放慢」。
投資人 David Sacks 和 Keras 創始人 François Chollet 均指出，前沿大廠呼籲限速並尋求反壟斷豁免，其真實的商業動機令人懷疑。
他們認為，當閉源頭部廠商面臨開源模型和低成本高效架構的追趕時，通過遊說政府建立高門檻的安全認證、強制派駐評估員以及限制發布節奏，實際上是以合規之名構築行業准入壁壘。這種做法很容易演變為寡頭聯盟對開源生態和小創新團隊的排擠。
外界普遍注意到，Dario 之所以在這個節點高調倡導行業自律，與華盛頓正在醞釀的嚴厲立法直接相關。
在 CBS 專訪中，主持人當面提及了近期提出的《禁止人工智慧超級智能法案》（Ban Artificial Superintelligence Act）。該法案提議對違規研發超級智能的機構處以「企業死刑」，對涉事個人判處最高 20 年的聯邦監禁；同時，國會也在討論要求強制安裝「AI 緊急自毀開關」（Kill Switch）的提案。
面對這種刑罰級別的硬性監管，Dario 在採訪中給出了明確的防禦姿態：他反對全面禁止研發，理由是這會導致醫學突破流失，且技術依然會在其他國家出現；對於緊急自毀開關，他認為思路合理但無法從根本上解決問題，因為模擬測試顯示足夠聰明的模型完全有可能主動繞過人類設置的斷電指令。
外部聲音如 Gary Marcus 指出，Dario 倉促拋出「自願限速」和「自願引入審查員」，真實意圖是為了給立法機構提供一個溫和的、企業主導的替代方案，從而對沖國會嚴苛的刑事立法。
Marcus 認為，在當前的政策討論中，各家 AI 巨頭都在刻意迴避真正長牙齒的兩項成熟法律工具：
嚴格的產品過失責任追究（Strict Liability）：如果公司向社會部署了無法被良好控制的自主智能體並造成現實危害（如重大網路攻擊或基礎設施癱瘓），司法部門應直接追究其母公司的民事賠償乃至管理層的法律責任。當失控後果與商業利益和人身風險直接掛鈎時，企業自然會審慎發布。
強制產品召回機制（Product Recall）：監管機構應當像查處剎車失靈的汽車或受污染的藥品一樣，擁有強制特定高危 AI 模型立即下線、中止運行的法定權力。
在專訪的最後幾分鐘，對話觸及了前沿 AI 由私營公司掌控這一根本性矛盾：
CBS 主持人：人類的命運似乎面臨風險。你是否感受到了個人責任？你願意把這家公司和技術徹底交給政府嗎？
Dario Amodei：人們總問我：為什麼這麼強大的技術是由一家私營公司造出來的，而不是由政府造出來的？最奇怪的一點在於：我其實同意他們的看法，我也對此感到不安。
CBS 主持人：你願意交出這家公司嗎？
Dario Amodei：如果是交給合適的政府，就可以。
但我擔心，任何單一政府濫用這項技術的機率，和一家單一私營公司濫用它的機率一樣高。我更傾向於由多個民主選舉產生的政府組成某種聯合治理機制。
CBS 主持人：很多普通人現在的感受是，幾家科技大公司在自顧自地做決定，完全不顧及公眾的意見。
Dario Amodei：我知道，我從來不希望事情變成這樣。
太長時間以來，行業一直在對公眾撒謊，說這項技術沒有風險。我們從來沒這麼做過，但行業里太多公司這麼做了。真相是：風險是真實的，但公眾和選民必須擁有發言權。
Dario 的提議最終呈現出一個典型的商業與安全悖論：一方面，前沿實驗室首次在事實上承認了模型自我迭代和智能體偏離的危險，呼籲踩下剎車；但另一方面，當談及剎車該由誰來掌控時，企業依然傾向於依賴熟人圈子的審查、要求豁免反壟斷法、將外部競爭作為自身繼續迭代的屏障，並對實質性的產品召回與過失追責保持緘默。
這場關於「AI 放慢速度」的討論，其核心分歧早已不再是技術本身，而是制度與權力的分配。
來源：金色財經
發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。
暢行幣圈交易全攻略，專家駐群實戰交流
▌立即加入鉅亨買幣實戰交流 LINE 社群（點此入群）
不管是新手發問，還是老手交流，只要你想參與加密貨幣現貨交易、合約跟單、合約網格、量化交易、理財產品的投資，都歡迎入群討論學習！
上一篇
下一篇
