本文來自微信公眾號： Internet Law Review ，編譯：《互聯網法律評論》，作者：科妮莉亞·沃爾特

通常來說，不對稱意味著關系中的雙方并不對等。在數字生活中，“算法不對稱”描述了雙方之間更深層次的不平衡：一方可以觀察、建模、測試和改進其算法，而另一方則主要承受算法帶來的后果。這種不平衡如今已滲透到招聘、貸款、保險、教育、警務、媒體以及日常注意力架構等領域。其后果是算法主體性不對稱，即用戶無法識別并抵制算法對其自身處境的不當影響。

一、算法的三層“認知枷鎖”

這種算法不對稱性可以從三個層面來解釋。

第一層面是不透明性，指的是設計、部署或購買算法系統(tǒng)的組織通常比與系統(tǒng)交互的人員更了解系統(tǒng)的目標、閾值、激勵機制和弱點?！安煌该餍詥栴}”解釋了這種差距持續(xù)存在的原因：有些系統(tǒng)為了保護知識產權而刻意隱藏，有些系統(tǒng)需要專業(yè)培訓才能理解，還有一些系統(tǒng)即使對專家來說也難以解讀。當一個系統(tǒng)難以檢查時，其輸出結果往往看起來比實際情況更客觀，這就導致了“黑箱謬誤”。

算法不對稱性的第二層是歷史偏見放大。算法會從過去的世界中學習，包括過去的偏見或排除。即使是看似中立的系統(tǒng)，也可能重現數據中已存在的不平等模式。帶有偏見的過去作為訓練材料輸入，最終以預測、評分或推薦的形式輸出，由于是計算結果，因此看起來是中立的。實際上，這只是舊有的層級結構以更現代化、更簡潔的界面重新出現。

第三層是遞歸系統(tǒng)。系統(tǒng)通常并非一次性部署；相反，用戶會不斷地訓練這些系統(tǒng)。每一次點擊、停頓、提示、路徑選擇、購買行為和猶豫都會成為數據。推薦系統(tǒng)旨在從這些信號中學習并進行調整，但這并非循環(huán)的終點。憑借這些學習成果，系統(tǒng)會塑造我們接下來看到的內容，決定哪些內容感覺正常、哪些內容看似相關，有時甚至決定哪些內容感覺令人向往，而其目標對最終用戶而言卻始終模糊不清。換句話說，我們訓練系統(tǒng)，系統(tǒng)也反過來訓練我們。“算法漂移”指的是用戶與平臺之間這種共同演化的關系。

二、當算法替你“活”了

人工智能的代理能力（Agency），是指能夠以有意義的方式判斷、選擇并采取行動，理解影響自身選擇的各種力量。

當組織利用數字系統(tǒng)——如個性化推送、定向廣告、動態(tài)定價、推薦引擎、風險評分等——在大規(guī)模范圍內測試、衡量和優(yōu)化影響力與結果時，代理能力的不對稱性便隨之產生。營銷一直試圖塑造行為；而如今的區(qū)別在于精準度與反饋機制：組織可以實時觀察個體行為，將人群劃分為越來越細的類別，持續(xù)進行A/B測試，并調整每個人所看到的內容、支付方式或獲得的優(yōu)惠。相比之下，個人通常只能接觸到系統(tǒng)的表面信息：一條推送、一個評分、一個價格、一條推薦或一次拒絕，卻無法知曉自己的數據是如何被使用的、哪個目標被優(yōu)化了，以及他們的選擇又是如何被引導的。

這一點至關重要，因為人們會適應系統(tǒng)所獎勵的事物。在招聘中，人們不再僅僅關注求職者是否會為了迎合招聘人員而精心打磨簡歷；自動化篩選工具和人工智能排名系統(tǒng)可能會獎勵某些特定的信號，同時隱藏其背后的邏輯。華盛頓大學的一項研究發(fā)現，大型語言模型對超過550份真實簡歷進行排名后，85%的情況下都傾向于選擇名字與白人相關的簡歷，而從未偏袒過名字與黑人男性相關的簡歷。在教育領域，英國2020年的成績爭議表明，算法模型如何將學校層面的歷史轉化為個人成績：資格與考試監(jiān)管辦公室（Ofqual）下調了約40%學生的校內評估成績，引發(fā)了公眾的強烈反對，并最終導致政府撤回了這一決定。

此外，更新的人工智能工具帶來了更多風險。斯坦福大學的研究人員使用來自英語母語者和非母語者的樣本，測試了七種廣泛使用的人工智能檢測器的性能。結果發(fā)現，在非母語者的樣本中，人工智能檢測器錯誤地將61.22%的文章歸類為人工智能生成，這表明一些學生更容易因為寫作方式而受到懷疑或懲罰。類似的現象也出現在數字生活和工作中。Facebook在2014年針對689,003名用戶進行的著名信息流實驗表明，用戶接觸正面或負面帖子的變化會影響他們之后使用的情感語言。在零售業(yè)，亞馬遜倉庫工人也反映，他們必須完成基于速度的指標，卻不知道這些指標是如何計算的。亞馬遜倉庫的算法管理報告和研究也探討了這一現象。這些案例揭示了更深層次的問題：數字系統(tǒng)不僅僅是在事后對行為進行分類。它們還會教人們使用哪些詞語、避免哪些風險、表達哪些情緒以及追求哪些指標。當組織塑造人們思考、行為和決策的條件，而個人卻僅僅將這些條件體驗為分數、等級、信息、目標或價格時，算法代理不對稱性就具有了政治意義。

三、政策不能只喊口號

因此，政策必須重新平衡這種關系。首先，立法者應要求在影響發(fā)生時提供有意義的通知和解釋。用戶應該知道他們何時在與人工智能互動，何時內容是合成的，以及何時一項重要決策受到了自動化系統(tǒng)的影響。歐盟的《人工智能法》第50條中歐洲透明度義務背后的邏輯指明了正確的方向。經合組織人工智能原則也從更廣泛的層面闡述了同樣的觀點：人們需要足夠的信息來理解結果，并在必要時提出質疑。

其次，政府應要求在算法系統(tǒng)進入就業(yè)、教育、住房、保險、醫(yī)療保健、福利和警務等高風險領域之前，進行可強制執(zhí)行的影響評估。一些現有的方法為此提供了基礎，例如加拿大的算法影響評估、安大略省的人權人工智能影響評估以及歐洲針對高風險人工智能系統(tǒng)的基本權利影響評估。近期的一些失敗案例表明，更強有力的保障措施至關重要。在英國，上訴法院在“R (Bridges)訴南威爾士警察局長”一案中裁定，南威爾士警察局使用實時自動面部識別技術屬于非法行為。在底特律，羅伯特·威廉姆斯因面部識別錯誤匹配而被錯誤逮捕，美國公民自由聯盟記錄了此案。因此在部署之前，各機構應評估人工智能系統(tǒng)可能產生的影響，例如侵犯權利、對弱勢群體造成傷害以及錯誤分布情況，同時還應評估人工監(jiān)督、申訴機制和補救措施的必要性，并盡可能進行公開報告。

第三，人工監(jiān)督必須真實有效，且經過培訓并受到保護。在許多機構中，當員工面臨信任系統(tǒng)輸出的壓力時，“人為干預”的權力往往受到限制。澳大利亞的“機器人債務計劃”表明，當官員將系統(tǒng)生成的索賠視為權威依據時，自動化的福利債務計算會如何損害人們的利益。在R (Bridges)訴南威爾士警方一案中，英國上訴法院裁定實時面部識別的使用違法，部分原因是圍繞自由裁量權、數據保護和公平影響的保障措施不足。英國郵政的“地平線”丑聞也暴露了類似的失?。喝藗兙谷幌嘈庞腥毕莸能浖敵?，而不是數百名郵局分局長的親身經歷。歐洲《人工智能法》第14條的價值在于，它要求對高風險人工智能系統(tǒng)進行人工監(jiān)督的人員必須理解、監(jiān)控、解釋、覆蓋或中斷系統(tǒng)。任何使用具有重大影響的人工智能的機構都應該指定負責的審查人員，培訓他們識別自動化偏差，并賦予他們阻止有害輸出的真正權力。

第五，某些做法理應被禁止。旨在利用弱點、通過欺騙性設計扭曲行為或操縱兒童和其他弱勢群體的系統(tǒng)，理應受到禁止，而非僅僅給予溫和的指導。歐盟《人工智能法》第五條禁止某些操縱性和剝削性用途，劃定了一條必要的強硬界限。一個健康的數字社會不能僅僅依靠信息披露，而應關注其底層設計是否旨在破壞判斷力。

算法素養(yǎng)應被視為公民基礎設施。如果只有開發(fā)者、供應商和合規(guī)團隊了解這些系統(tǒng)的運作方式，即使在良好的監(jiān)管下，權力不對稱的問題依然存在。公民、教師、法官、記者、臨床醫(yī)生和公共管理者都需要具備關于合成媒體、排名系統(tǒng)、行為引導、質疑權以及模型輸出局限性的實用素養(yǎng)。歐洲關于人工智能素養(yǎng)的第四條條款是一個有益的信號，應發(fā)展成為一項更廣泛的公共使命。除了人工智能素養(yǎng)之外，現在正是投資于雙重素養(yǎng)的時候，以確保用戶能夠意識到個人感知、行為與人工資產對其影響之間的相互作用。

歸根結底，算法代理不對稱并非一個孤立的技術問題，而是一種結構性失衡，即誰能夠感知、塑造和抵制算法的力量。一方學習速度更快，持續(xù)測試并悄然干預；另一方則在部分信息不透明的情況下進行適應。良好的政策無法徹底消除這種不對稱，但可以通過使自動化影響可見、可質疑、可審計和可治理，在最關鍵的領域縮小差距。