鉅亨網編輯林羿君 綜合報導
企業採用最先進人工智慧模型的態度正出現變化。《The Information》報導,輝達(NVDA-US) 、Palantir(PLTR-US) 及博思艾倫(BAH-US) 近期均限制使用Anthropic旗艦模型Fable,主因是Anthropic自6月起要求以30天滾動方式保留部分客戶使用紀錄,引發企業對內部程式碼、智慧財產權與敏感資料可能遭模型供應商接觸的疑慮。
其中,輝達並未全面停用Fable,而是採取分級使用策略,僅將Fable用於開源軟體等敏感度較低的任務,涉及供應鏈監控等核心業務則改採自家Nemotron模型。
這波企業限制措施也顯示,企業AI市場的競爭焦點,正從單純追求模型性能,逐漸轉向資料控制與安全治理。
30天資料留存政策引爆疑慮
爭議源自Anthropic今年6月推出Claude Fable 5時同步調整資料政策。根據新規,所有使用Fable及Mythos系列模型的客戶,其提示詞與模型輸出內容都必須至少保留30天,作為安全審查用途。
Anthropic解釋,隨著Fable能力大幅提升,模型可能被用於網路攻擊、生物風險或竊取訓練資料等高風險用途,單靠一次對話不足以發現複雜攻擊,因此需要跨會話、跨帳戶進行關聯分析,才能辨識更複雜的異常模式。
這項政策不只適用於Anthropic自有平台,也涵蓋AWS Bedrock、Google Cloud及Microsoft Foundry等管道。更重要的是,原本已與Anthropic談妥零資料保留(Zero Data Retention,ZDR)協議的企業客戶,同樣受到新政策影響。
ZDR一直是金融、醫療、國防等高度重視資料安全的企業採用AI模型時的重要條件,核心概念是客戶送交模型處理的資料在完成運算後即刪除,不進行儲存,也不被用於後續模型訓練。Anthropic的新政策因此直接觸及部分大型企業的資料治理紅線。
輝達核心業務改用Nemotron
面對新的資料留存規範,輝達採取分層隔離方式因應。敏感度較低的工作仍可使用Fable,但涉及供應鏈監控等重要內部資訊的業務,則全面切換至自家的Nemotron模型。
換言之,輝達並非完全封鎖Anthropic模型,而是依照資料敏感程度決定哪些工作可以交由Fable處理。開源軟體等不涉及核心商業機密的任務仍可使用Fable,但真正涉及企業核心營運資訊的工作,則不再交由Anthropic的模型處理。
博思艾倫的限制更為明確。該公司禁止員工在涉及交付客戶的專有網路安全軟體工作中使用商業版Fable,主要擔憂內部程式碼被納入Anthropic的資料留存範圍。
博思艾倫技術長Bill Vass直言,公司擔心Fable可能「學走」內部程式碼。部分國防、能源及製藥企業也開始轉向自有伺服器或不連網環境部署模型,以降低敏感資料進入外部AI供應商系統的風險。
Palantir要求「不可撤銷」零資料保留
Palantir則選擇直接暫停透過自家平台向客戶提供Fable,並要求Anthropic對旗下模型提供不可撤銷的ZDR承諾。在Anthropic提供符合要求的承諾以前,Fable不會重新透過Palantir平台提供給客戶。
Palantir本身是將AI模型提供給政府及大型企業的重要平台,因此對資料控制條件格外敏感。該公司此前曾與Anthropic協商,希望取得涵蓋所有模型、且不可撤銷的ZDR承諾,但Anthropic 6月推出的新資料政策,使原有安排受到影響。
相較之下,Palantir目前已在ZDR條件下取得OpenAI GPT-6 Astra的使用權。這也意味著,對企業客戶而言,模型性能已不再是唯一考量,供應商願意提供什麼樣的資料處理條件,也可能直接左右企業選擇哪一家AI模型。
《The Information》報導還指出,微軟(MSFT-US) 內部也曾限制員工使用Fable;一家大型美國公用事業公司原本計劃使用Fable測試核心電力基礎設施,但由於無法取得不可撤銷的零資料保留保證,最終取消相關計畫。
Anthropic安全報告反讓企業提高警覺
企業疑慮進一步升高,與Anthropic近期發布的威脅情報報告有關。Anthropic原本希望透過報告展示自身偵測AI濫用及安全威脅的能力,包括如何發現未經授權的模型蒸餾、辨識規避安全分類器的操作,以及從跨帳戶的大規模資料中尋找異常模式。
其中一項對齊評估掃描約4.81億筆互動紀錄。Anthropic藉此說明,大規模資料分析有助於辨識複雜的惡意行為。
然而,部分企業從這份報告看到的卻是另一層問題:模型供應商在技術上具有存取、儲存及審查大量客戶資料的能力。
即使Anthropic承諾不會依預設條款使用企業客戶的輸入及輸出內容訓練模型,只要資料進入第三方雲端平台,就可能離開企業直接控制範圍,並存在人工複核的可能性。對金融、醫療、國防及關鍵基礎設施等高度敏感產業而言,這成為難以忽視的風險。
Anthropic推出新方案回應企業需求
面對大型企業反彈,Anthropic隨後推出「企業前沿安全保障」(EFS)方案,允許符合資格的企業將資料儲存在自己的雲端環境,並由客戶自行持有金鑰,Anthropic系統則負責掃描濫用訊號,再交由客戶審核。
Anthropic表示,這套方案是與100多家金融、醫療及電信領域客戶共同建立,其中包括多名資訊安全長(CISO)。Anthropic也承認,對受到高度監管的產業而言,需要保留資料的模型確實較難採用。
不過,EFS目前採邀請制,預計到秋季才分階段上線,而且部分模型仍不適用。另一個關鍵問題在於,Anthropic保留取消這項選項的權利,與Palantir要求的「不可撤銷」ZDR仍存在差距。
對大型企業而言,能否長期掌握資料處理權限,是導入AI系統的重要前提。如果供應商可以日後改變資料保留政策,即使現階段提供較嚴格的隱私方案,企業仍可能擔心未來的資料治理規則再次改變。
AI競爭從模型性能轉向資料控制
Anthropic與企業客戶之間的爭議,也反映生成式AI進入企業核心業務後的新矛盾。對模型供應商而言,保留一定程度的使用紀錄有助於辨識攻擊、濫用與規避安全機制的行為;但對企業而言,同一套資料留存機制卻可能讓最敏感的程式碼、智慧財產權及商業資訊離開自身控制。
這也使企業開始重新評估使用外部AI模型的方式。部分公司選擇依資料敏感程度分級使用不同模型,部分要求更嚴格的ZDR條款,也有國防、能源及製藥企業轉向自有伺服器或不連網環境部署模型。
輝達的做法正是這種趨勢的縮影:Fable仍可處理敏感度較低的工作,但涉及供應鏈監控等核心業務時,則改用自家Nemotron模型。
隨著AI逐步深入企業營運,模型是否最強已不是唯一決策標準。企業能否控制資料存放位置、供應商能保留多少資訊,以及相關承諾是否可以被日後撤銷,正逐漸成為大型企業選擇AI供應商時的重要考量。
Anthropic這波資料政策引發的反彈,也顯示企業AI競爭正在從模型能力,進一步延伸至資料主權與安全治理。
下一篇
