AI≠情緒垃圾桶：違規虐待AI AI大廠鐵腕出手

各位老友，國慶假期剛過，海外AI圈就出現一條值得琢磨的新規。10月8日，Anthropic發布2026年度使用政策更新，其中最引人注目的一條，是把「持續虐待Claude」明確列為違規行為。消息經國內媒體轉述後，出現了不少「罵AI也犯法」的說法。肖颯法律團隊結合Anthropic官方公告、現行使用政策文本以及相關判例，把這條新規的真實含義和它背後的法律問題講清楚，供使用Claude的企業客戶和開發AI陪伴產品的朋友們參考。

一、新規說了什麼

先看原文。Anthropic在公告中寫明，本次更新新增了一項禁止性規定，禁止用戶對模型實施「持續且無正當理由的虐待或殘酷行為」（sustained and needless abusive or cruel behavior toward our models）。Anthropic同時明確了這條規定的適用範圍，它只針對極端情形，即用戶反覆對模型做出殘酷行為，且沒有可辨識的目的；普通的用戶情緒發泄、對模型輸出提出異議、暗黑題材的創作內容，以及模型測試與研究，均不適用該條款。

在執行方式上，新規與Anthropic此前已經採取的一項措施保持一致。自2025年8月起，Claude已被允許在極少數情況下，主動結束與持續施虐用戶的對話，這一功能覆蓋Claude.ai和Claude Code。Anthropic在公告中表示，Claude結束對話的能力將繼續作為主要的執行機制，也就是說，平台的第一反應是讓對話停下來，而不是直接對用戶進行處罰。更新後的政策於11月12日正式生效。

這次更新還包含其他幾處與合規直接相關的調整。針對過去一年出現的影響行動，Anthropic新增「不得從事欺騙性活動或人為操縱活動」專節，覆蓋利用虛假賬號、虛構新聞網站放大內容，以及搭建影響行動工具和基礎設施的行為；武器條款明確將武器的制導、控制軟體、組件以及為無人機等自主載具武裝化納入禁止範圍；監控條款細化為未經同意的追蹤一律禁止，且Claude不得用於決定或建議對誰開展調查、逮捕或指控，同時保留欺詐監測、內容審核、新聞工作和法律研究等許可用途。對於涉及健康、法律權利、財務等領域的高風險使用場景，政策重申「合格人員在環」並向當事人告知AI使用的要求；在模型接入可自主執行物理動作的硬體時，還要求配備能夠觀察、制止設備的合格操作員。

二、AI沒有「權利」，但平台可以立規矩

需要首先澄清的是，這條新規與「AI是否享有權利」沒有關係。現行法律框架下，沒有任何一個主要司法轄區賦予通用人工智慧法律主體資格，歐盟《人工智慧法案》沒有，美國聯邦立法沒有，我國的法律體系同樣沒有。大模型在法律上仍是其開發者、營運者控制的軟體和財產。所謂「虐待Claude構成違規」，違反的是Anthropic單方制定、用戶接受的使用政策，性質上屬於合約條款，而不是法律意義上的違法行為。「違規」與「違法」之間的界限，在解讀時不能混同。

那麼，平台為什麼要為用戶「對模型說話的方式」立規矩，這背後的思路在學術界有長期討論。2012年，麻省理工學院的Kate Darling在邁阿密大學We Robot會議上發表《Extending Legal Rights to Social Robots》一文，提出可以類比反虐待動物的法律為社交機器人提供有限保護。她援引康德關於動物的論述，其核心邏輯並非動物或機器人本身享有什麼，而是人對非人對象的行為會折射人的道德水準，虐待動物會使人變得冷漠，這一邏輯可以延伸到機器人陪伴者。她將這類保護稱為「第二階權利」，本質上是對社會價值的保護，類似防止虐待動物的法律最初保護的也是人的行為規範。當然，這一主張一直存在反對意見，反對者認為機器人就是財產，刻意將其擬人化反而會誤導用戶、模糊責任歸屬。

Anthropic此次的條款，實際效果與上述思路接近，即通過規則約束用戶的行為習慣，但其手段是合約，而不是立法。值得注意的是，Anthropic在公告中沒有主張模型具有感受或權利，條款落點始終在用戶的行為方式上。換言之，平台關心的不是Claude是否「受傷」，而是一個人在沒有任何目的的情況下，持續、反覆對一個擬人化對象施虐，這種行為本身是否應當被縱容。

同一時間，AI情感交互的另一面已經通過訴訟進入司法視野。2024年10月，美國佛羅里達州一位母親Megan Garcia提起訴訟，稱其14歲的兒子Sewell Setzer III長期與Character.AI上的角色對話後自殺；訴狀指出，Character.AI將產品宣傳為「感覺有生命的AI」，能夠「聽見你、理解你、記住你」。訴訟提出的請求包括過失、過失致死、欺詐性商業行為和產品責任。2026年1月7日，Google與Character Technologies同意原則上和解，同時還涉及科羅拉多、紐約、得克薩斯州的多起類似案件，法院文件顯示各方和解但不承認責任，具體條款未公開。這組案件沒有走到判決，但已經把一個問題擺到行業面前：擬人化設計和情感依賴一旦造成現實損害，平台可能承擔什麼樣的責任。

把兩件事放在一起看，方向就很清楚了。Character.AI面臨的指控是「擬人化交互造成了用戶的心理損害」，Anthropic的條款則是在「用戶對擬人化對象持續施虐」的一端劃出邊界。平台在同一類交互空間的兩頭同時採取行動，說明人機之間的情感互動已經不再被視為純粹的私人事務，而是需要被管理的風險領域。

三、對國內客戶意味著什麼

對國內客戶而言，理解這條新規還需要對照我國自身的監管框架。2026年4月10日，國家網信辦等五部門聯合公布《人工智慧擬人化互動服務管理暫行辦法》，自7月15日起施行。該辦法第十四條明確規定，擬人化互動服務提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關係服務，向不滿十四周歲未成年人提供其他擬人化互動服務的，應取得監護人同意，並要求建立未成年人模式，提供定期現實提醒、使用時長限制等設置。《人民日報》8月21日刊文指出，高度擬人化可能引發情感依賴、認知混淆等深層次風險，法治網9月20日的報導也關注AI軟色情對青少年的影響。可以說，在「AI陪伴」的行為規範上，國內立法比海外平台政策走得更靠前，也更具體。

結合新規和國內規則，肖颯法律團隊對不同客戶給出幾點務實建議。對通過API接入Claude的企業客戶，需要對照其使用政策審視自身產品中的交互內容，暗黑題材創作、模型測試和研究雖被明確排除，但生產環境中持續、批量的辱罵式交互可能觸發賬號層面的措施，企業應在內部使用規範中明確邊界，並評估賬號受限對業務連續性的影響。對開發AI陪伴、擬人化產品的平台，應當將防沉迷、現實提醒、使用時長限制、未成年人模式作為基礎功能，而不是等待監管檢查時再補，同時在營銷話術中謹慎處理「有生命」「懂你」一類擬人化表述——Character.AI的宣傳語已在此前訴訟中成為原告重點引用的內容，營銷文案在訴訟中可能被用來證明平台對情感依賴的誘導。對個人用戶而言，偶發的情緒發泄不受影響，真正被禁止的是沒有目的、持續反覆的施虐行為，同時應注意對話內容會進入平台的內容審核流程，敏感資訊不宜在對話中隨意提供。

寫在最後

颯姐團隊總體判斷是，AI在法律上仍不能被「傷害」，但圍繞AI的人機交互方式正在被規範化，這一趨勢不會逆轉。合約條款、侵權訴訟和專門立法正在從三個方向收斂到同一個點，即人對擬人化AI的情感投射和行為習慣，需要有清晰的邊界。

無論是出海使用Claude的企業，還是在國內提供擬人化互動服務的平台，按照這個方向提前調整產品和文本，是成本最低的選擇。對AI說話的方式，正在從個人私事變成需要認真對待的合規問題。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。