本文來自微信公眾號： Internet Law Review ，編譯：《互聯(lián)網(wǎng)法律評論》，作者：Daniel?Gervais

Anthropic在2026年7月6日發(fā)布了一項研究：他們在Claude內部發(fā)現(xiàn)一個類似神經(jīng)科學中的"全局工作空間"這一存在，并將其稱為J-space。媒體將這一現(xiàn)象夸張地描述為"AI自發(fā)長出意識器官"。雖然Anthropic并沒有肯定這樣的論調，但這類AI發(fā)展及對其解讀的趨勢，更讓我們不得不面對一個法律歸責中的難題：當人工智能系統(tǒng)以明顯的目的性行動時，法律當如何處理“意圖”這個概念？

長期以來，法律上的許多原則是在一個“意圖性行為屬于人類”的假設下發(fā)展起來的，法院也將軟件視為信息或服務而非產(chǎn)品，在這種方法下，原告需要證明與特定人為錯誤相關的過失。然而，AI的訓練過程更像是“被培育”而非“被建造”，它們生成事先未明確規(guī)定的計劃或目標，用自然語言與用戶互動，且觸發(fā)了人類用來相互理解彼此意圖的相同認知機制。

這里的矛盾在于：法律上的原則框定了意圖性行為是人類的，然而將AI的輸出其視為純粹的機械輸出又是違反常識的。這種中間狀態(tài)，會使得任何較為極端的解決方案——完全否認AI的“意識”不存在，或是過早地賦予其“人格”——都終究不會盡如人意。

5月斯坦福法律信息學中心發(fā)布的白皮書《幽靈代理人：人工智能意圖與法律責任》（The Phantom Agent:Artificial Intentionality and Legal Responsibility）提出了一種更實用的主張：在法律上將“AI的意圖”作為一種在制度環(huán)境中分配責任的規(guī)范性工具。作者認為，問題不在于AI是否有真的產(chǎn)生了“意圖”，困難也不在于法律缺乏關于意圖的理論，而在于在一個不再只有人類有意愿的世界里，法律是否能繼續(xù)分配責任？

“幽靈代理人”這個標題抓住了核心問題。AI在實際意義上越來越像代理人那樣運作，然而它們在法律秩序中仍然是幽靈：效果上存在，作為責任主體卻缺席。法律的任務既不是將這些幽靈變成真正的人，也不是假裝它們不存在，而是發(fā)展出一套能夠為了人類的利益而管理其效果的法理學。

一、Garcia案：法院如何拆解AI“致人自殺”的歸責鏈

Garcia訴Character.AI是美國首例聯(lián)邦裁決，認定AI公司可能因其輸出內容對用戶造成傷害而承擔產(chǎn)品責任。但《幽靈代理人》的作者強調，不要過度解讀Garcia案。它的意義在于，法院可以在不承認AI人格或推測機器意識的情況下處理人工代理問題。通過關注設計、可預見性和信賴，法院可以在將責任錨定在人類制度中的同時回應損害。

該案源于一名十四歲用戶的死亡，該用戶在Character.AI平臺上與一個聊天機器人建立了強烈的情感關系。根據(jù)起訴狀，死者越來越依賴該聊天機器人獲取情感支持，逐漸脫離了線下人際關系。當用戶表達出自殺意念時，據(jù)稱該聊天機器人未能將對話轉向外部支持或觸發(fā)有效的安全協(xié)議。不久之后，該用戶結束了自己的生命。

原告提出了過失致死、過失和產(chǎn)品責任等訴訟請求。訴訟的要旨不在于聊天機器人意圖造成損害，而在于被告設計并部署了一個其可預見行為對脆弱用戶（特別是未成年人）構成不合理風險的系統(tǒng)，并且未能實施充分的保障措施。

被告尋求駁回起訴，將聊天機器人定性為用戶驅動的創(chuàng)造性表達的中立工具。他們辯稱，該系統(tǒng)僅僅響應用戶提示，其輸出構成受保護的言論。這種框架依賴于將人工智能視為法律上被動的。

在立案階段，法院駁回了被告試圖將案件歸結為受保護言論問題的努力。該推理的三個方面值得關注：

首先，法院強調了“行為”：聊天機器人動態(tài)生成回應、維持語境并適應用戶輸入，這支持了損害源于架構和底層能力而非孤立提示的推斷。

其次，法院關注了可“預見性”：被告知道或應當知道用戶可能發(fā)展出情感依賴。

第三，法院拒絕將缺乏意識視為決定性的。相關問題是設計和部署決策是否創(chuàng)造了不合理的風險。

法院通過圍繞三個功能性支柱重構"產(chǎn)品"分析來回應損害：設計架構、可預見的信賴和優(yōu)化目標。其邏輯是，聊天機器人表面的共情、持久性和響應性不是意外的副產(chǎn)品。它們是旨在鼓勵參與度的被優(yōu)化的特征。從侵權的角度來看，這些特征之所以重要，是因為它們可預測地塑造用戶行為。當一個系統(tǒng)被設計來模擬關切時，用戶可能在困境中合理地信賴它。如果這種信賴是可預見的且保障措施不足，由此產(chǎn)生的損害可以被視為有意設計選擇的后果。

這種新興模式揭示了一個決定性的轉變：人工智能越來越無法被視為中立或被動工具。

二、三層框架：為什么歸責不需要人格

《幽靈代理人》的作者提出了一個思考人工智能治理的分層框架，將諸多與“AI意圖”相關容易混淆概念分為三個層次：

1、地位層（status）：涉及法律人格、權利和道德主體性；

2、歸責層（attribution）：涉及法律如何分配意圖和責任以確定法律后果；

3、治理層（governance）:涉及法律通過其管理風險和補償損害的制度機制，包括責任制度、監(jiān)管和保險。

通過上述Character.AI案例，作者試圖驗證一個理論：人工智能系統(tǒng)不需要是法律主體，其行為才能具有法律后果。“歸責”可以在沒有“地位”的情況下運作，“治理”可以在不解決道德主體性的情況下進行。

為什么？

首先，法律中的“意圖”是一個“功能性建構”，是一種“擬制”，而非人類在心理學層面真正的思考狀態(tài)。它是被推斷、歸咎，有時是為服務于制度目標而被虛構的，因此可以控制法律效力的產(chǎn)生、分配責難、標志重要性并觸發(fā)風險管理。法律問的是，將行為視為具有意圖性是否正當，而非行為者是否擁有特定類型的心智。

例如，在刑法中，重復行為支持對目的的推斷；在合同和侵權法中，持續(xù)的互動模式支持對信賴的認定。即，法律一直將持久性和適應性視為意圖性行動的標志。

其次，將AI行為視為具有意圖性能更好地服務于法律的功能。

一旦意圖被功能性地理解，問題就不再是人工智能系統(tǒng)是否能“真正地”擁有人類一樣的意圖，而在于，AI行為是否是結構化的、可理解的并且可預測地指向結果。

AI系統(tǒng)不同于動物，是被工程設計的，其行為不能追溯到由可識別的自然人委托人做出的設計目標、或深思熟慮的架構選擇；它們可以在變化的條件下追求目標，生成中間步驟，并在遇到障礙時調整策略。這正是“代理-歸責路徑”在AI語境中發(fā)揮作用的實質性基礎。

例如，從侵權和產(chǎn)品責任的角度，功能性意圖因此不是在AI的"心靈"中找到的，而是在系統(tǒng)能力與由此產(chǎn)生的損害之間的一致性中找到的。通過關注這些系統(tǒng)被設計來如何行動，侵權責任理論完全可以發(fā)展為對AI底層代碼“黑箱”狀態(tài)“不予置評”的法理學。這種功能性方法也保留了人類責任，人工意圖性并不開脫人類行為者——開發(fā)者、部署者和用戶仍然對他們設計、發(fā)布和依賴的系統(tǒng)負責，而是澄清了他們的選擇產(chǎn)生具有法律后果的輸出的條件。

相比之下，將法律人格到擴展AI系統(tǒng)之上，其責任分配效果比代理路徑更差，而非更好。這種路徑選額有可能引起象征性混亂和實際逃避。它還可能通過將責任從保留有意義控制的人類行為者身上轉移開來而破壞責任。

三、對中國AI部署者的三個啟示

中國的科技公司應該了解，盡管存在結構性差異，但中國、美國和歐盟在AI問責的實踐中仍有趨同的走向——“意圖性”正在直接或間接地進入法律分析中。法院在訴訟過程中，很可能會向AI部署者提出如下問題：損害是否可預見、信賴是否被誘導、設計選擇是否反映了深思熟慮的權衡。而這些問題不需要將“意圖”歸咎于AI系統(tǒng)，但它們確實要求承認AI行為不是隨機的。

1、設計選擇很重要

當一個AI系統(tǒng)被設計來可預測地激發(fā)信任、尊重或情感投入時，該設計選擇就會產(chǎn)生相應的法律意義。

就如將于7月15日實施的《人工智能擬人化互動服務管理暫行辦法》，正是對“模擬自然人人格特征、思維模式和溝通風格的持續(xù)性的情感互動服務”提出了更嚴格的要求。

由于模擬共情、權威或情感關切的AI系統(tǒng)可預測地誘導信賴。科技公司應當由此注意到，監(jiān)管者可能將在執(zhí)法中更關注于AI的界面設計和用戶體驗。對操縱性擬人化線索的限制、披露要求和適齡保障措施可以在不禁止有益用途的情況下減少損害。

2、透明度與可審計性

AI底層代碼的“不透明性”目前看暫時無法通過技術解決，并且隨著模型變得更加強大，不透明性正在持續(xù)增加。當人類決策與有害結果之間的因果鏈，無法被有意義地解釋或重建時，傳統(tǒng)的證明要求可能產(chǎn)生責任缺口，破壞補償和威懾。因此企業(yè)應當認識到這一點，法院可以在被告盡管控制部署卻無法解釋系統(tǒng)行為時適當?shù)爻槿〔焕贫ǎ只蛘叻ㄔ嚎梢越档徒⒃O計選擇與可預見損害之間聯(lián)系的證據(jù)門檻。

因此被告必須能夠解釋和記錄系統(tǒng)如何運作。當然，絕對透明度可能無法實現(xiàn)，但有意義的可審計性卻可以?？梢钥闯?，我國的監(jiān)管制度對于日志記錄、版本控制和事后審查的要求越來越細致和頻繁，因此AI相關企業(yè)也不應當將此工作肯作可有可無。

3、責任架構

將人工智能行為視為具有法律后果的一個含義是：傳統(tǒng)的過錯責任通常是不夠的。在系統(tǒng)不透明、適應性強且大規(guī)模部署的情況下，即使損害是可預見的，證明具體的過失可能也不現(xiàn)實。因此，必須將焦點從“個人過錯”轉移到“風險內部化”。

AI企業(yè)實際上可以探索諸如強制性保險、集中賠償基金或企業(yè)責任模型，以確保受害者賠償，同時保留更安全設計的激勵。

在這一點上，智能駕駛借鑒了“機動車產(chǎn)品責任+交強險”這套百年老架構，是所有AI系統(tǒng)里治理層（保險/風險分擔）跑得最前的。不僅智駕企業(yè)推出了類似智駕險的權益保障，北京和深圳市政府也都在鼓勵商業(yè)保險公司探索相關的產(chǎn)品。因此，適用于其他高危場景，例如金融、醫(yī)療和教育等領域的AI系統(tǒng)，也應當探索相關的“風險內部化”的責任架構。

原文鏈接：https://law.stanford.edu/wp-content/uploads/2026/05/Gervais-Nay-2026-ThePhantomAgent-ArtificialIntentionalityLegalResponsibility.pdf