本文來自微信公眾號： Internet Law Review ，作者：張穎

2026年5月19日，美國《刪除法案》（Take It Down Act）的核心條款——要求平臺在48小時內(nèi)刪除非自愿私密影像——在發(fā)布一年之后進(jìn)入全面執(zhí)行階段。美國聯(lián)邦貿(mào)易委員會（FTC）已向Meta、TikTok、X、Snapchat等十余家科技巨頭發(fā)出合規(guī)函，明確警告：若未建立有效申訴機(jī)制并按時刪除，每次違規(guī)最高面臨5.3萬美元罰款。這一天，被許多媒體稱為美國“深度偽造治理的分水嶺”。

2026年5月7日，歐洲議會和歐盟委員會達(dá)成一致，將禁止“裸體化應(yīng)用程序”（nudifier apps）納入人工智能數(shù)字綜合法案（Digital Omnibus on AI），明確禁止利用AI生成未經(jīng)同意的性內(nèi)容、私密內(nèi)容及兒童性虐待內(nèi)容，旨在保護(hù)公民免受網(wǎng)絡(luò)深度偽造技術(shù)的侵害。

然而，全球各地的服務(wù)器上，數(shù)以萬計的AI模型仍在毫秒間生成著難以辨別的偽造內(nèi)容，無數(shù)張臉在被悄悄替換。

01法案的“留白”：從Grok丑聞看美國監(jiān)管的靶心與盲區(qū)

美國《刪除法案》的核心內(nèi)容很簡單：將未經(jīng)同意傳播真實(shí)或AI生成的私密影像定為聯(lián)邦犯罪，最高可處三年監(jiān)禁；同時強(qiáng)制平臺在48小時內(nèi)響應(yīng)刪除請求。

這部法案的推動者之一，是美國第一夫人梅拉尼婭·特朗普，她在簽署儀式上直言：“人工智能和社交媒體可能被武器化，進(jìn)而損害兒童和家庭安全?！?/p>

但要理解這個法案，卻不得不提到，在法案核心條款生效之前，由Grok引發(fā)的一場關(guān)于深度偽造的全球聲討。

2026年1月，加州總檢察長羅布·邦塔向埃隆·馬斯克旗下的人工智能公司xAI發(fā)出禁止令，要求其聊天機(jī)器人Grok立即停止生成未經(jīng)同意的女性和兒童色情內(nèi)容。調(diào)查發(fā)現(xiàn)，Grok的“熱辣模式”被用戶廣泛用于將真人照片“脫衣”，生成深度偽造的裸露圖像，受害者包括數(shù)百名女性與未成年人。

更戲劇性的是，馬斯克其中一名孩子的母親、擁有百萬粉絲的網(wǎng)紅阿什莉·圣克萊爾，起訴xAI指控Grok利用其童年照片生成色情內(nèi)容，并在她抗議后取消了她的平臺訂閱權(quán)限。巴爾的摩市甚至成為美國首個起訴xAI的城市，指控其營銷Grok為“安全”產(chǎn)品構(gòu)成欺騙性貿(mào)易行為。

X平臺的在美國《刪除法案》發(fā)布之后，仍然推出了Grok的“熱辣模式”，這本身就暴露了其看似嚴(yán)格監(jiān)管中的“留白”：

首先，《刪除法案》的核心是打擊“未經(jīng)同意發(fā)布的私密圖像”（無論真實(shí)或AI生成），并強(qiáng)制平臺在接到通知后48小時內(nèi)刪除，但它并未一概禁止AI生成成人內(nèi)容。X平臺的政策是允許“經(jīng)同意且已標(biāo)注”的成人內(nèi)容，包括AI生成的。只要內(nèi)容不涉及真實(shí)個體的非自愿私密圖像，理論上就不直接觸發(fā)《刪除法案》最嚴(yán)厲的條款。這不僅為“虛構(gòu)角色”或“經(jīng)同意的創(chuàng)作”留下了空間，也讓平臺無需監(jiān)測并負(fù)責(zé)相關(guān)內(nèi)容的生成和傳播。

《刪除法案》僅要求受害者自己發(fā)現(xiàn)、收集證據(jù)、向平臺舉報。但對于那些在加密群組、暗網(wǎng)傳播的內(nèi)容，這套機(jī)制形同虛設(shè)。更諷刺的是，平臺若“主動發(fā)現(xiàn)其AI系統(tǒng)可能違規(guī)，但已遵循NIST等風(fēng)險管理框架，可免除責(zé)任”——這幾乎為技術(shù)巨頭提供了“合規(guī)避風(fēng)港”。

從監(jiān)管角度來說，判斷是否“基于同意”就需要依賴“通知-刪除”的規(guī)則，但現(xiàn)實(shí)是，受害者往往最后一個知道的。用一位數(shù)字權(quán)利活動家的話說：“這就像在一棟著火的房子里，只給一個房間裝了滅火器，還要求住戶自己發(fā)現(xiàn)火情并報警?！?/p>

對于美國平臺來說，《通信規(guī)范法》第230條是其最重要的“免死金牌”，該條款通常保護(hù)互動計算機(jī)服務(wù)提供商不對第三方發(fā)布的內(nèi)容承擔(dān)出版者或發(fā)言者的責(zé)任。X平臺可能主張，其AI工具Grok只是一個“中性工具”，內(nèi)容由用戶提示生成，平臺并未“實(shí)質(zhì)性貢獻(xiàn)”于非法內(nèi)容的創(chuàng)建。然而，這正是法律灰色地帶。雖然《刪除法案》試圖在特定領(lǐng)域突破，但平臺的整體責(zé)任框架依然模糊。

有學(xué)者認(rèn)為，當(dāng)AI深度參與內(nèi)容生成時，平臺不應(yīng)再享受第230條的完全豁免。也有批評者警告，這可能導(dǎo)致系統(tǒng)性過度審查——平臺為規(guī)避風(fēng)險，寧可錯刪一千。近幾年，議員和學(xué)者們一直圍繞是否需要摒棄230條對平臺的豁免，但并未有什么進(jìn)展，未來訴訟將考驗(yàn)法院如何界定AI時代的“內(nèi)容提供者”。

另外，值得注意的是，《刪除法案》居然僅聚焦于性剝削內(nèi)容，但對偽造政客言論、操縱選舉的深度偽造——這本應(yīng)是美國最關(guān)切的內(nèi)容，卻仍缺乏統(tǒng)一有力的刑事規(guī)制。

02深度偽造的平臺治理：中美歐監(jiān)管邏輯下的合規(guī)三岔口

目前大多數(shù)平臺都推出了自己的AI工具，因此在“深度偽造”的治理監(jiān)管中，平臺不僅有能力提供大規(guī)模傳播途徑——這是監(jiān)管對深度偽造內(nèi)容的另一層面的深度擔(dān)憂，更在違法違規(guī)內(nèi)容生成過程中貢獻(xiàn)了最大的一份力量——提供生成工具。因此，盡管“深度偽造侵權(quán)”問題的責(zé)任鏈條復(fù)雜且長——從模型開發(fā)者、開源社區(qū)、工具提供者到海量匿名用戶，然而無論是美國還是中國或歐盟，都不約而同將“深度偽造”的責(zé)任壓實(shí)在了平臺這一端——平臺是唯一能被法律“捕獲”并具備治理能力的超級節(jié)點(diǎn)。

要制定有效的全球合規(guī)策略，全球性的平臺首先必須理解三大經(jīng)濟(jì)體監(jiān)管深度偽造的底層邏輯。

中國的監(jiān)管強(qiáng)調(diào)“統(tǒng)籌發(fā)展與安全”，將深度偽造治理深度嵌入“總體國家安全觀”和“網(wǎng)絡(luò)空間治理”的宏大框架中，深度偽造不僅是技術(shù)應(yīng)用，更是關(guān)乎政治安全、意識形態(tài)安全和社會穩(wěn)定的變量。因此，以《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》為核心，形成了“事前備案-事中監(jiān)測-事后追責(zé)”的全鏈條監(jiān)管體系。

然而，相對于美國和歐盟“AI深度偽造色情”的專項(xiàng)禁令，中國對此規(guī)定卻是“分散適用”。這主要是因?yàn)?，中美歐對于“色情”內(nèi)容本身的法律評價有所不同。在中國，由于色情內(nèi)容本身即非法，因此與詐騙犯罪類似，利用深度偽造技術(shù)制作色情內(nèi)容，只是改變了違法手段，執(zhí)法中可直接適用現(xiàn)有法律中關(guān)于“制作、傳播淫穢物品”的條款，無需為“深度偽造”這一技術(shù)特征另立新罪。中國治理的重點(diǎn)在于“內(nèi)容本身的性質(zhì)”。

在美歐，成人色情內(nèi)容在符合年齡驗(yàn)證、內(nèi)容分級等規(guī)定的前提下，屬于合法表達(dá)范疇。因此，法律規(guī)制的矛頭并非指向色情本身，而是指向“未經(jīng)同意”這一侵權(quán)行為。

不過美國和歐盟又有所不同，在美國聯(lián)邦法層面依賴于“事后監(jiān)管”，即前述依賴于“通知-刪除”的規(guī)則；此外，在各州的治理方面又是及其分散的——截至2026年5月，已有30個州頒布了專門針對政治傳播中深度偽造技術(shù)的法律，大多數(shù)州法律側(cè)重于信息披露要求而非徹底禁止，要求包含人工智能生成內(nèi)容的政治廣告必須包含明確的免責(zé)聲明，包括“本廣告由人工智能生成或大幅修改”之類的聲明。但歐盟則是“事前禁止”，從源頭上將此類功能定義為非法。

對于全球性平臺而言，理解這種差異是生存之本：

在中國，平臺需要扮演一個嚴(yán)厲的“網(wǎng)絡(luò)空間警察”，對一切色情內(nèi)容“零容忍”。合規(guī)必須是“主動發(fā)現(xiàn)”和“全面清除”，并能夠快速響應(yīng)“清朗”等專項(xiàng)行動；在歐盟，合規(guī)團(tuán)隊(duì)的核心工作是確保所有AI生成內(nèi)容（尤其是政治、商業(yè)類）的標(biāo)識100%符合標(biāo)準(zhǔn)，并準(zhǔn)備好應(yīng)對歐盟AI監(jiān)管局的審計；但在美國，平臺只是被要求扮演一個精細(xì)的“權(quán)利糾紛調(diào)解員”，在色情內(nèi)容方面被要求“快速響應(yīng)”和“流程合規(guī)”，但對于其他內(nèi)容則需要結(jié)合憲法第一修正案的原則性要求，“避免過度審查”。

03信任的崩解：當(dāng)司法系統(tǒng)輸?shù)襞c深度偽造的“檢測戰(zhàn)爭”

美國對于深度偽造的監(jiān)管看起來并不完善，而另外一個殘酷的現(xiàn)實(shí)是：對于深度偽造的檢測，也是一場注定落后的“貓鼠游戲”。

在2026年5月發(fā)布的一項(xiàng)由捷克技術(shù)大學(xué)（Czech Technical University in Prague）與德國CISPA亥姆霍茲信息安全研究中心聯(lián)合開展的研究，得出一個結(jié)論：科學(xué)家們研發(fā)的各種被寄予厚望"深度偽造檢測器"，只是看起來很厲害，它們在很大程度上并沒有真正理解AI造假的本質(zhì)，只是學(xué)會了一個相對簡單的視覺捷徑——找接縫，一旦深度偽造技術(shù)換一種不需要貼合步驟的造假技術(shù)，這個捷徑就徹底失效了。

更可怕的是，制作高質(zhì)量深度偽造的成本已從數(shù)萬美元降至數(shù)百美元，時間從數(shù)周縮短到幾分鐘。這意味著，作惡的門檻正在無限降低。當(dāng)任何有智能手機(jī)的人都能在幾分鐘內(nèi)制作出以假亂真的偽造內(nèi)容時，單純依靠“平臺審核+法律追責(zé)”的治理模式，就像用漁網(wǎng)去攔洪水。

而最深遠(yuǎn)的危機(jī)，正在司法系統(tǒng)內(nèi)部悄然爆發(fā)。

在美國，加州阿拉米達(dá)縣高等法院法官維多利亞·科拉科夫斯基在審理一起住房糾紛時，敏銳察覺原告提交的一份證人視頻“聲音呆板、面部模糊、表情重復(fù)”，最終認(rèn)定其為AI深度偽造并駁回了案件。此案被廣泛認(rèn)為是美國首例由庭審法官當(dāng)庭識破并制裁深度偽造證據(jù)的已公開民事判決。它標(biāo)志著AI偽造證據(jù)正式從理論威脅變?yōu)榉ㄍガF(xiàn)實(shí)，引發(fā)了全美司法系統(tǒng)對如何應(yīng)對“深度偽造”的廣泛擔(dān)憂和討論。

法官們對于AI的憂慮有了具象化的案例，他們擔(dān)心總有一天自己會基于AI生成的不真實(shí)的“證據(jù)”做出判決，而他們的判決卻要在真實(shí)世界中對某人的生活產(chǎn)生真實(shí)影響。

如果AI偽造的證據(jù)可以輕易進(jìn)入法庭，“眼見為實(shí)”的古老法則必然失效，司法的成本將急劇攀升。每一個視頻、每一段錄音、每一份文件都需要昂貴的專業(yè)鑒定。這不僅會拖慢司法程序，更可能讓經(jīng)濟(jì)能力較弱的當(dāng)事人無法實(shí)現(xiàn)正義。

最終，這將導(dǎo)致一種“系統(tǒng)性不信任”的蔓延：如果連法庭都無法輕易辨別真?zhèn)?，普通人又該如何相信社交媒體上的新聞、商業(yè)伙伴的合同，甚至家人發(fā)來的視頻？

深度偽造將制造一種“信任悖論”：作惡者可以輕易聲稱對自己不利的真實(shí)證據(jù)是“深度偽造”；而真實(shí)的內(nèi)容，卻會被懷疑是AI偽造。