‌
‌
‌
‌
‌
區塊鏈

邵詩巍律師 | 從技術中立到刑事歸責:與青年研究者討論AI開發者的責任邊界

金色財經

前段時間,中南財經政法大學法學院葛同學與我聯繫,就人工智慧相關刑事法律問題進行交流。

葛同學和同學們正在圍繞「利用人工智慧製作、傳播、販賣淫穢物品犯罪」開展實證研究。

‌

在研究過程中,她們也閱讀了我此前圍繞全國首例AI開發者涉黃獲刑案(以下簡稱「AC案」)撰寫的兩篇文章,並結合研究中的一些思考與疑問,來函提出了七個問題,希望進一步交流。

這些問題從AI生成內容與傳統「製作、複製」行為的區別談起,延伸至刑法上的因果關係、主觀故意、牟利目的、共同犯罪責任劃分,以及司法裁判趨勢與企業刑事合規等方面。

雖然討論涉及不同的刑法問題,但背後都有一個值得進一步思考的問題:當生成式AI改變了內容的生產方式,傳統刑法中的行為認定和責任歸屬標準,應當如何適用於新的技術場景?

徵得葛同學和同學們同意後,我將這次交流整理髮布。以下七個研究問題基本保留來函原貌,回應部分則主要結合我在新經濟領域刑事案件中的實務觀察與思考展開。

‌

I 本文作者:邵詩巍律師

1

研究問題一|AI實時生成內容與傳統「製作、複製」行為的刑法評價有何不同?

在刑法評價層面,傳統淫穢物品的「製作、複製」行為與AI實時生成內容,二者本質區別在於行為人對違法內容產出結果的控製程度。傳統製作、複製行為中,行為人直接手動製作、複製淫穢物品,行為與結果形成直接的線性因果關係,司法定性基本無爭議。而AI生成場景下,開發者預設的系統底層提示詞僅為影響輸出的變量之一,模型訓練數據、算法隨機採樣機制、用戶個性化提問指令等多重因素共同左右最終文本,內容產出依託算法機率推演,中間存在技術黑箱,不存在絕對可控的定向輸出內容,這也是此類案件定性爭議頻發的核心根源。

二者在規範評價層面的差異,實質上需要我們解決的問題是:開發者編寫系統提示詞的行為,能否等同於刑法意義上傳統的「製作、複製」淫穢物品?

對於這一問題的判斷,有三個維度的審查至關重要:

  • 產品商業定位,是否將低內容管控作為引流、付費核心賣點,用以推定主觀犯罪故意;

  • 底層技術設置,是主動拆除內容安全防護機制,還是合規設防後僅出現技術漏洞,區分行為屬於主動製造違法風險,還是合規工具遭第三方惡意濫用;

  • 事後處置舉措,出現涉黃內容後是否及時攔截、整改,以此證明行為人對淫穢內容傳播結果的放任或排斥心態。如果企業對外宣傳主打「無違禁詞」,用戶付費核心訴求即為色情對話,並主動修改系統提示詞、下調內容安全閾值,且全程未落地有效阻斷管控措施,將壓縮「技術中立」的抗辯空間。

  • 因此,對兩種行為的評價,不能侷限於固有視角,而應結合AI企業的特性,界定開發者編寫底層提示詞的行為能否等價於傳統製作、複製淫穢物品的行為。

    2

    研究問題二|如何判斷修改提示詞、安全閾值與淫穢內容生成之間是否存在刑法上的因果關係?

    在AC案這類涉AI刑事案件中,因果關係與主觀明知確實是實務中的雙重難點。AC案一審法院認定因果關係成立的核心邏輯在於:行為人通過修改全局系統提示詞、下調內容安全攔截閾值等操作,使模型具備了輸出淫穢內容的技術條件,進而認定其行為與結果之間存在刑法意義上的因果聯繫。

    在技術實驗層面,辯護方若要切斷這一因果關係,就需要用實驗證明「即便不存在修改提示詞、下調內容安全攔截閾值等操作,模型仍會連續輸出淫穢內容」。辯護方可以設計對照實驗,證明即便不存在修改提示詞、下調安全閾值等操作,大語言模型在原生狀態下仍可能以相當比例連續輸出淫穢內容。具體而言,可在完全相同的模型版本與系統環境下,保持默認提示詞與原始安全設置,僅通過用戶輸入進行交互,觀察模型是否仍會產生涉案類型的淫穢內容。若實驗結果支持這一結論,則意味著行為人的技術干預並非淫穢內容產生的決定性條件,而只是諸多影響因素之一,從而削弱行為與結果之間的因果關係。

    在專家證言層面,專家應當從生成式AI的技術底層出發,闡明大語言模型的輸出是由訓練語料分布、算法參數配置、用戶實時輸入以及系統提示詞等多重變量共同作用的結果。系統提示詞與安全閾值的調整僅是在機率層面影響輸出傾向,而非對具體輸出內容的直接編程或控制。生成式AI具有「湧現」特性,其輸出存在不可窮盡的不確定性與不可預測性,因此行為人的技術設計並不等同於對特定淫穢內容的直接製造,從而在事實層面建立合理懷疑的空間。

    在AC案中,要動搖法官心證,辯護的關鍵不在於否認淫穢內容的存在,而在於讓法官對「修改系統提示詞必然導致淫穢內容」這一因果關係產生合理懷疑。辯護的重點是向法庭說明大語言模型的生成具有機率性,系統提示詞只是影響輸出的眾多因素之一,淫穢內容是否出現以及出現的頻率,高度依賴於用戶後續的具體輸入方式,系統提示詞設定並不等於對每一段輸出內容的控制;如果辯護方能夠拿出對照實驗數據,證明在系統提示詞未作任何修改的情況下,用戶仍然能夠通過精心設計的破甲式話術誘導模型產出類似內容,那麼淫穢內容的主要成因究竟是系統預設還是用戶突破就會存疑。到了這一步,因果關係和主觀故意的認定基礎也會隨之鬆動。

    3

    研究問題三|平台有能力限制違法內容卻未啟用相關功能,是否可能構成間接故意?

    在辯護實務中,評價「平台有技術能力卻未激活限制功能」是否構成間接故意,核心在於考察平台未激活的主觀依據與客觀情境。間接故意的認定要求平台在行為時已經認識到違法結果可能發生,並對此持容忍或放任態度。

    如果平台有研發測試、系統調試或安全評估等合理技術目的,且存有內部記錄與後續修復計劃,通常難以認定為間接故意;但如果平台已經明確檢測到淫穢內容大量生成、且現有限制功能足以阻斷該風險,卻為了商業指標(如用戶活躍度、付費轉化率)而有意維持風險開放狀態,則在刑法上被認定為「放任」的可能性較高。

    關於平台注意義務的邊界,應與當前營運平台的技術水平相適應。從平台營運的角度具體而言,滿足這一注意義務的要求至少要包括:

  • 在產品層面設定明確的內容安全攔截閾值,例如當某個公開角色的涉黃內容檢出率或用戶投訴量超過特定數值時,安全機制自動啟動並採取降曝光或下架措施,該數值的設定需有前期技術測試數據支撐並留存設定依據;

  • 對於已發現的用戶「主動破防」手法,需在合理時限內完成過濾規則的更新,並對涉及的高風險角色採取降曝光或停用處理;

  • 在商業決策與安全管理的平衡上,若因合理技術原因需暫時關閉某項限制功能,該決定需經內部審批並留存計劃恢復時間的書面記錄,決策文件中最好不要將「放寬內容限制」與商業價值提升直接關聯,並需附有安全團隊的風險評估意見作為商業決策依據。

  • 滿足上述要求,才能說明平台在風險發現、評估和處置環節有實質動作,同時也能證明其注意義務的履行已與其技術能力相匹配。

    4

    研究問題四|虛擬幣、榜單曝光和流量利益,能否成為認定用戶「牟利目的」的依據?

    實務中,在認定「牟利目的」時,不會侷限於「虛擬幣能否直接兌換為法定貨幣」這一形式標準。而是從實質解釋的角度出發,平台內部虛擬幣即便不能直接兌換成法定貨幣,但如果其能夠用於解鎖平台內的付費功能、獲取特殊權限或兌換具有經濟價值的服務,便具備了財產性利益的基本屬性,應認定為刑法意義上的「牟利」。

    更進一步,即便虛擬幣本身不具有直接的消費用途,但如果其獲取量能夠決定創作者在平台「熱門榜單」中的排名,而該排名又能帶來更高的關注度、粉絲增長或後續的付費互動機會,那麼這種「流量性利益」與財產性利益並無本質區別。如果創作者創作的角色較為冷門、未進入榜單,且該角色未產生任何平台獎勵、也未帶來任何間接性利益,即便該角色輸出過淫穢內容,也難以認定創作者具有牟利目的。因此,角色是否熱門、是否進入榜單並非判斷「牟利目的」的絕對標準,關鍵在於創作者是否通過該角色獲得了任何實質性利益。

    因此,罪與非罪的界限應當立足於「牟利目的」是否具有客觀層面的利益載體。如果創作者的行為僅有「製作淫穢物品」這一事實,而無任何證據證明創作者獲得了實質性的利益,則難以滿足製作淫穢物品牟利罪的主觀目的要件;但如果該角色處於公開狀態或者他人可以隨意訪問,則可能涉及傳播淫穢物品罪。反之,一旦有證據證明創作者因此獲得了虛擬幣、榜單曝光、流量增長等實質性利益,司法機關便有理由認定其存在牟利目的。

    5

    研究問題五|AI技術共同犯罪中,主犯與從犯應當如何區分?

    在AC案中,主犯與從犯的區分核心不在於職務頭銜或名義上的崗位名稱,而在於行為人對犯罪結果發生的作用力大小及其在共同犯罪中的實際決策地位。比如,誰主導了系統提示詞的修改決策、誰決定了安全閾值的下調、誰參與了「無違禁詞」宣傳策略的制定,這些才是決定主從犯劃分的關鍵事實。一審中,項目總負責人(也是公司法人)比技術負責人判刑更重,恰恰說明司法實踐並不簡單地以「誰寫的代碼」或「誰更懂技術」為標準,而是更側重誰在業務決策中實質性地推動了犯罪行為的實施,項目負責人掌握着產品方向的最終決定權,其對違法行為的支配力和主觀惡性程度更高。

    在涉及AI技術的共同犯罪中,主從犯的認定存在幾個特殊考量因素:

    首先是公司內部的權限分配和決策流程。誰能接觸系統底層提示詞、誰掌握安全閾值修改權限、誰決定商業策略的制定,這些事實很大程度上決定了行為人在共同犯罪中的實際地位;

    其次是各行為人介入犯罪的時機與階段。參與系統設計階段的決策者與控制者,其對內容生成機制的控制力顯然強於產品上線後才介入運維或營運的人員,後者的行為往往屬於對已形成的違法狀態的維持而非創設,因此在共同犯罪中所起的作用相對有限;

    最後是行為人對違法後果的預見可能性與認知程度。核心決策人員對指令修改可能引發的淫穢內容大規模生成具有明確認知,而外圍執行人員可能僅被告知部分技術任務、並不掌握完整的業務邏輯和風險全貌,這種認知差異在量刑時具有實質影響。

    總體而言,司法機關會穿透職務頭銜,逐一審查每位行為人對犯罪行為的實際控制邊界。誰擁有最終決策權、誰掌握底層技術權限、誰在早期設計階段就介入其中等,誰就面臨更重的刑事責任,而僅僅被動執行指令或後期才介入的日常運維人員,其從犯地位相對明確。

    6

    研究問題六|AI涉刑案件的司法裁判立場是否正在變化,未來入罪標準會如何發展?

    從目前的司法動態來看,法院對這類AI涉刑案件的裁判立場正處於形成過程之中,尚未完全固化。

    但整體也展現出一定傾向:

    一方面,很多AI創業者本身並沒有實施違法犯罪的主觀意圖,他們做的就是產品開發和業務創新。即便在經營過程中隱約意識到業務可能觸及某些法律風險,內心的判斷往往也是「我只是提供技術,用戶怎麼用是用戶的事」,由此形成一種「技術中立即責任隔離」的認知。

    但司法機關並不認可這套邏輯——技術中立從來不是刑事責任的擋箭牌,當技術被實際用於違法犯罪且經營者對此存在明知或放任時,法院不會因為技術具有創新屬性就降低追訴標準。

    另一方面,由於新型犯罪治理規則尚不明晰,人民法院強調依法審慎定罪量刑,要求根據行為人主觀非法目的和行為的客觀危害進行綜合判斷。這意味著法院在個案裁判中既不會因技術新就輕易入罪,也不會因技術新就放縱不管。

    關於未來這類案件的入罪門檻,大機率會呈現一種清晰化的趨勢。對於主動通過技術手段創設違法內容生成機制、以非法牟利為目的系統性突破安全防線的行為,總體依法從嚴的立場會進一步強化,入罪標準不會放鬆,甚至隨著未來相關案件的增加、司法經驗的積累而更加明確;但對於技術探索過程中的合規爭議、或僅提供中立技術工具而未主動創設違法條件的情形,法院則會秉持審慎態度,嚴格審查行為人對違法內容的實質性控制和主觀明知是否達到刑法要求的證明標準,避免將科技創新中的過失或管理疏漏輕易上升為刑事責任。

    總體而言,AI涉刑案件的入罪門檻不會簡單趨寬或趨嚴,而是會在「依法從嚴」與「審慎定罪」之間形成動態平衡。主動越界的紅線會越來越清晰,合規經營的底線也會越來越明確,最終目的是在懲治犯罪與保障創新之間尋求合理的法治邊界。

    7

    研究問題七|AI企業應當在什麼階段介入刑事合規,哪些早期經營行為最容易留下刑事風險?

    對於企業來講,刑事風險防範的介入時點應當在產品形態與商業模式尚未定形、團隊仍在討論功能設計邏輯的階段。等技術框架搭建完成、代碼已提交、用戶規模起來之後再補合規審查,往往已經晚了。很多AI創業團隊的思路是先跑通產品再說,合規的事情以後再處理。但問題在於,產品上線初期的那套設計邏輯和營運方案,包括系統指令的內容、功能邊界的劃定,基本上線之後就定型了,事後再調整的空間很有限。一旦進入司法程序,早期留下的產品設計文檔、系統日誌、內部溝通記錄,都是判斷主觀故意和因果關係的關鍵證據。

    這裡有一個容易被忽略的問題:刑事追訴時效。創業者往往覺得企業後來已經走上正軌了,早期那些粗放階段的做法應該不會再被追究。現實情況是,只要仍在法定追訴時效期限內,公安機關依然可以對早期的違法行為立案偵查,企業事後建立的合規體系並不能抵消之前行為的刑事責任。

    邵詩巍律師代理的很多涉企刑事案件當中經常看到的情況是:企業經過幾年發展,業務越做越大,合規體系也逐步建立起來了,但某地公安機關立案調查的,其實是他們創業初期那段不合規的經營行為。整個企業因此被以刑事案件立案偵查,之前積累的業務成果、團隊建設、品牌投入,全部面臨歸零的風險。說到底,這家企業並不是沒有合規意識,只是合規意識來得太晚了。

    所以,真正有效的合規介入節點,應當是在產品需求評審階段就讓法律顧問參與進來,和項目負責人、技術負責人一同評估功能設計邏輯是否存在引導用戶突破安全邊界的隱患。很多刑事風險回過頭看,如果在項目啟動前期經過審慎的法律評估,是完全可以避免的。創業者容易把法律合規理解為業務做大之後的善後工作,但企業從零到一的成長過程中,律師團隊的陪伴和法律合規評估應當同步進行。這是對企業生存最基本的風險管理。

    8

    結語

    這次交流涉及的七個問題,從AI生成內容的刑法定性,到因果關係、主觀故意、共同犯罪責任劃分,再到司法裁判趨勢與企業刑事合規,既有傳統刑法理論在新技術場景下的適用問題,也有司法實踐中尚存爭議、需要進一步研究的問題。

    我很欣賞葛同學和同學們在這次研究中表現出來的問題意識。她們提出的問題並沒有停留在對個案裁判結果的討論上,還進一步追問了這些裁判結論背後的理論依據、事實基礎,以及在新技術場景下可能面臨的適用爭議。

    對於從事刑事辯護工作的律師而言,這些追問同樣具有現實意義。新技術不斷帶來新的業務模式和行為方式,律師需要理解技術實際如何運行,也需要不斷檢視既有刑法理論在具體案件中的適用是否準確。

    這次交流也讓我感受到,學術研究與刑事司法實務之間有很多值得繼續討論的問題。感謝葛同學和同學們願意分享研究中的思考,也期待未來有更多這樣的交流,為AI技術發展過程中刑事責任的合理認定提供不同的觀察和思考。

    本文為邵詩巍律師團隊的原創文章,僅代表本文作者個人觀點,不構成對特定事項的法律諮詢和法律意見。

    推薦閱讀

    AI中轉站站長被刑拘:做API中轉到底違不違法?

    AI時代「快播案」:全國首例AI開發者涉黃獲刑案,給開發者的三大刑事警示

    AI涉黃案,創作者是否構成製作淫穢物品牟利罪?——以全國首例AI開發者涉黃獲案為例分析

    作者介紹

    邵詩巍律師長期深耕 Web3 及加密貨幣領域刑事辯護與合規業務,在經濟犯罪、網路犯罪及涉虛擬貨幣類新型案件方面積累了大量實務經驗。 擅長辦理涉嫌開設賭場罪、詐騙罪、非法經營罪、職務侵占罪等重大疑難複雜刑事案件。 提供刑事案件全流程辯護、企業刑事合規體系搭建、個人及企業刑事法律風險防控等法律服務。 執業以來累計辦理刑事案件 300 余起,其中超過 60 起案件成功實現撤案、不予起訴、適用緩刑、罪名降檔等實質性辯護結果。

    來源:金色財經

    發佈者對本文章的內容承擔全部責任
    在投資加密貨幣前,請務必深入研究,理解相關風險,並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。

    暢行幣圈交易全攻略,專家駐群實戰交流

    ▌立即加入鉅亨買幣實戰交流 LINE 社群(點此入群)
    不管是新手發問,還是老手交流,只要你想參與加密貨幣現貨交易、合約跟單、合約網格、量化交易、理財產品的投資,都歡迎入群討論學習!

    ▶ 前往鉅亨買幣找交易所優惠

    ‌
    section icon

    鉅亨講座

    看更多
    • 講座
    • 公告
      ‌
      Empty
      Empty
      ‌