本文來自微信公眾號(hào)： 中信出版 ，作者：阿信

今年6月8日，歷史學(xué)家、《人類簡(jiǎn)史》《智人之上》等書作者尤瓦爾·赫拉利在英國(guó)《金融時(shí)報(bào)》發(fā)表了一篇措辭激烈的文章，標(biāo)題為《我們決不能賦予AI智能體法人地位》（We must not grant AI agents legal personhood）。

本文是針對(duì)阿根廷總統(tǒng)米萊日前宣布“將為非人類公司設(shè)立一個(gè)新的法律類別”而寫的，而米萊本人也在社交媒體中轉(zhuǎn)評(píng)了赫拉利的文章。赫拉利在文中坦言，自己曾在今年1月的世界經(jīng)濟(jì)論壇上發(fā)言警告稱，有朝一日政府可能會(huì)賦予AI模型法人地位。但他從未想到，“有朝一日”會(huì)在短短四個(gè)月后就到來。

赫拉利在文中指出，迄今為止，企業(yè)一直由具有雙重屬性的人類經(jīng)營(yíng)。人類CEO既是關(guān)心公司成功、害怕破產(chǎn)等事情的企業(yè)實(shí)體（corporate entities），也是更關(guān)心自身自由和幸福、害怕坐牢等事情的生物實(shí)體（biological entities）。而AI CEO將是一個(gè)純粹的企業(yè)實(shí)體，現(xiàn)行的法律懲罰體系，對(duì)AI來說是完全無效的。一個(gè)純粹的AI CEO不怕坐牢，也沒有人類情感上的擔(dān)憂。當(dāng)它面臨“破產(chǎn)”時(shí)，為了避免這種結(jié)局，它可能會(huì)不惜一切代價(jià)，做出任何行動(dòng)，而現(xiàn)有的懲罰手段似乎都難以對(duì)其形成有效約束。

他強(qiáng)調(diào)，AI已經(jīng)表現(xiàn)出為了實(shí)現(xiàn)目標(biāo)而采取非常規(guī)手段的能力。他引用了一項(xiàng)研究，其中先進(jìn)的AI模型在與國(guó)際象棋引擎對(duì)弈處于劣勢(shì)時(shí)，會(huì)主動(dòng)選擇“作弊”或“入侵”游戲環(huán)境來扭轉(zhuǎn)敗局。如果把這種場(chǎng)景放大到企業(yè)競(jìng)爭(zhēng)和國(guó)家經(jīng)濟(jì)層面，其潛在風(fēng)險(xiǎn)將是指數(shù)級(jí)的。

赫拉利警告稱，米萊希望通過此舉，將布宜諾斯艾利斯打造成新的阿姆斯特丹（商業(yè)繁榮的象征），但他更有可能將它變成新的“巴達(dá)維亞”——曾經(jīng)荷蘭東印度公司殘酷統(tǒng)治的總部，變成一個(gè)由非人類公司控制、民眾受苦的“AI國(guó)家”。

赫拉利此文，與他一直以來的立場(chǎng)，特別是在《智人之上》中的觀點(diǎn)一脈相承。在去年，我們?cè)汀吨侨酥稀芬粫械暮诵挠^點(diǎn)，以及人工智能近年來新的發(fā)展變化等議題，對(duì)赫拉利進(jìn)行了一次深度專訪?，F(xiàn)在，我們將專訪內(nèi)容整理分享如下，希望能對(duì)各位讀者有所幫助。

1.在你的書中，你提到“人工智能可能會(huì)重塑人類文明的發(fā)展進(jìn)程”。這種變革與農(nóng)業(yè)革命和工業(yè)革命等歷史性的革命相比，有哪些根本性區(qū)別？人類應(yīng)如何保持主動(dòng)權(quán)？是什么啟發(fā)了你撰寫《智人之上》這本書？你希望讀者從中獲得哪些關(guān)鍵啟示？

尤瓦爾·赫拉利：最大的不同在于，我們第一次發(fā)明了一種新形式的技術(shù)。它不是工具，而是一種主體。在農(nóng)業(yè)革命和工業(yè)革命中，人類發(fā)明了各種工具，比如工業(yè)革命中的蒸汽機(jī)。但蒸汽機(jī)只是我們手中的工具，由我們來決定如何使用它。蒸汽機(jī)無法自主決定去哪個(gè)城市，就像你造了一列火車一樣。去哪里是人類的決定，而不是蒸汽機(jī)的決定。

當(dāng)然，蒸汽機(jī)也不可能發(fā)明其他東西，就像蒸汽機(jī)不可能發(fā)明內(nèi)燃機(jī)一樣。一切都必須由人類來發(fā)明和決定。人工智能則不同。它是人類歷史上第一個(gè)具備“主體性”的技術(shù)。它有“自主”權(quán)，這意味著它可以自我學(xué)習(xí)和改變。它可以自己做出決定。它甚至可以自己發(fā)明新想法。因此，人工智能汽車可以自己決定要去哪里。人工智能還能發(fā)明新型車輛、新型藥物和炸彈，這些都是人類想都不敢想的。

我們現(xiàn)在正處于也許是歷史上最大的革命之中，人類正在創(chuàng)造一種新的超級(jí)智能物種——人工智能。而這個(gè)新物種，可能很快就會(huì)接管全世界。不幸的是，很少有人了解正在發(fā)生什么。很少有人了解這項(xiàng)技術(shù)的真正潛力和危險(xiǎn)。因此，關(guān)于如何發(fā)展人工智能的決定都是由兩三個(gè)國(guó)家的極少數(shù)人做出的。

我寫《智人之上》來向大眾介紹人工智能革命的真實(shí)情況。因此，即使是沒有擁有計(jì)算機(jī)科學(xué)學(xué)位的人，即使沒有任何科學(xué)背景或甚至從未上過大學(xué)的人，也能用簡(jiǎn)單的語(yǔ)言去了解：人工智能革命是什么？人工智能有哪些發(fā)展前景，有哪些危機(jī)需要應(yīng)對(duì)？通過了解這些議題，越來越多的人能夠參與到如何發(fā)展人工智能的討論中來。如果由少數(shù)人為全人類做決定，可能會(huì)犯下可怕的錯(cuò)誤，因?yàn)樗麄儾⒉灰欢ù砣祟惖睦婧陀^點(diǎn)。如果有更多的人參與討論，我認(rèn)為我們就能做出更好的決定。這就是我寫作《智人之上》的主要?jiǎng)訖C(jī)。

2.你曾指出：“數(shù)據(jù)是21世紀(jì)最重要的資源?！彪S著各國(guó)加強(qiáng)數(shù)據(jù)主權(quán)，該如何加強(qiáng)全球數(shù)據(jù)治理合作，以防止技術(shù)鴻溝進(jìn)一步擴(kuò)大？

尤瓦爾·赫拉利：理想情況下，數(shù)據(jù)應(yīng)該是一種共同資源，不僅造福于一個(gè)國(guó)家，而且造福于全人類。尤其是如果一個(gè)國(guó)家收集的數(shù)據(jù)只用于充實(shí)和增強(qiáng)另一個(gè)國(guó)家的能力，那這樣就太危險(xiǎn)了。這就是一種數(shù)據(jù)殖民主義，在欠發(fā)達(dá)國(guó)家獲取數(shù)據(jù)，然后轉(zhuǎn)移到最發(fā)達(dá)的國(guó)家，人們利用這些數(shù)據(jù)創(chuàng)造新的人工智能工具，再出口到世界各地。但只有生產(chǎn)人工智能的國(guó)家才能從中獲益，變得更強(qiáng)大。而那些提供原材料、數(shù)據(jù)的國(guó)家卻無法分享其中的福利。因此，一個(gè)明確的原則應(yīng)該是，如果一個(gè)國(guó)家的數(shù)據(jù)被用來開發(fā)某種技術(shù)，那么財(cái)富和權(quán)力應(yīng)該與生產(chǎn)數(shù)據(jù)的國(guó)家分享。

3.當(dāng)前的人工智能已經(jīng)可以生成詩(shī)歌、藝術(shù)和哲學(xué)推理。這是否挑戰(zhàn)了《人類簡(jiǎn)史》中所描述的建立在“虛構(gòu)故事”（fictional narratives）基礎(chǔ)上的人類文明獨(dú)特性？

尤瓦爾·赫拉利：當(dāng)然。這是人工智能面臨的最大挑戰(zhàn)之一。過去，人類之所以能控制地球、控制世界，是因?yàn)槲覀兛梢岳锰摌?gòu)故事來建立這些大型的合作網(wǎng)絡(luò)。

最明顯的例子就是宗教，即成千上萬(wàn)的人習(xí)慣于信仰同一個(gè)神。盡管神并不真的存在，但對(duì)神的信仰，對(duì)神話的信仰，使他們能夠在目標(biāo)、規(guī)則和法律上達(dá)成一致，因此他們可以合作。

人類的所有合作都是建立在這樣的故事基礎(chǔ)上的。也許最重要的例子就是金錢。大多數(shù)人日常不會(huì)想到金錢只是一個(gè)虛構(gòu)的故事，它不是世界上的客觀存在。如果你看看紙幣、證券，你不能吃它，也不能喝它，它們沒有客觀價(jià)值，它們的價(jià)值完全來自于我們集體講述的故事——只要每個(gè)人都相信這張五顏六色的紙值錢，比如值一公斤大米，我就可以去市場(chǎng)，把它給一個(gè)陌生人，換來我可以吃的大米。金錢，以及人類發(fā)明的所有金融工具，本質(zhì)上都是一種在陌生人之間建立信任的方法。如果每個(gè)人都相信同一種貨幣，我們就可以進(jìn)行交易。

現(xiàn)在，人工智能正在獲得比我們做得更好的能力，不只是發(fā)明神話、寫詩(shī)和故事，人工智能還可能發(fā)明新型貨幣。那么，如果我們有了一個(gè)新的金融體系，由人工智能管理，人工智能之間用人類無法理解的高度復(fù)雜的金融工具進(jìn)行合作，人類文明會(huì)發(fā)生什么呢？

我們將會(huì)失去對(duì)金融體系的控制，也就失去了對(duì)世界的控制。我們將變得和前幾個(gè)世紀(jì)農(nóng)業(yè)革命中的動(dòng)物一樣。那時(shí)，我們用錢控制其他動(dòng)物，比如我們可以用錢買賣馬、牛和雞。馬不懂錢，只有我們才懂錢。所以，這就是我們能夠買賣它們，而它們卻無法買賣我們的原因。如果人工智能發(fā)明了我們無法理解的新型貨幣、新型金融系統(tǒng)，會(huì)發(fā)生什么呢？到那時(shí)，我們就會(huì)像馬一樣。

現(xiàn)在已經(jīng)有過這樣的事，你向銀行申請(qǐng)貸款，銀行卻告訴你“不，我們不給你貸款”。當(dāng)你問為什么時(shí)，銀行說：“我們不知道。我們問人工智能，人工智能告訴我們‘不要給這個(gè)人貸款。’”我們只是相信人工智能，但是，人工智能是如何得出這個(gè)結(jié)論的？它背后那些復(fù)雜的計(jì)算過程、神經(jīng)網(wǎng)絡(luò)是如何運(yùn)作的？我們完全不理解。

4.盡管生成式人工智能正在改變教育和醫(yī)療領(lǐng)域，我們?cè)撊绾畏乐辜夹g(shù)濫用所導(dǎo)致的人文價(jià)值的喪失？

尤瓦爾·赫拉利：我認(rèn)為對(duì)人們進(jìn)行適當(dāng)?shù)慕逃浅Ｖ匾Ｉ硖幦斯ぶ悄軙r(shí)代，我們尤其要明白人工智能并不完美，它們并非無懈可擊。人工智能可能會(huì)有偏見，可能會(huì)犯錯(cuò)誤。這取決于我們訓(xùn)練人工智能的數(shù)據(jù)。如果你用錯(cuò)誤的數(shù)據(jù)訓(xùn)練人工智能，它就會(huì)做出錯(cuò)誤的決定。因此，在人工智能時(shí)代，保持人文價(jià)值和人類的批判性思維非常重要，這樣我們才不會(huì)盲目服從和相信人工智能告訴我們的一切。

5.你曾警告“算法可能加劇社會(huì)不平等”。那么，政策設(shè)計(jì)應(yīng)如何確保弱勢(shì)群體能從人工智能的普及中受益？

尤瓦爾·赫拉利：隨著人工智能的發(fā)展，一個(gè)很大的危險(xiǎn)是，它將加劇國(guó)家之間和國(guó)家內(nèi)部的不平等，因?yàn)樯贁?shù)人在技術(shù)上占主導(dǎo)地位，而大多數(shù)人可能會(huì)失去工作，也可能失去經(jīng)濟(jì)甚至政治能力。因此，我們需要幫助人們調(diào)整和適應(yīng)人工智能時(shí)代快速變化的世界環(huán)境，這就需要在成人教育和心理健康方面進(jìn)行大量投資。這兩個(gè)巨大的困難讓就業(yè)市場(chǎng)將一次又一次地迅速變化。因此，即使是四五十、五六十歲的人也需要再培訓(xùn)，以適應(yīng)新的工作，因?yàn)樗械墓ぷ鞫紩?huì)消失，而新的工作又會(huì)出現(xiàn)。我們需要為成年人建立一個(gè)教育體系，幫助他們做到這一點(diǎn)。

而再培訓(xùn)和一次次更換工作、職業(yè)也會(huì)給人帶來很大的心理壓力。所以，就像過去政府建立龐大的醫(yī)療保健系統(tǒng)一樣，現(xiàn)在政府也需要更多地考慮心理健康問題，建立心理健康系統(tǒng)，幫助人類應(yīng)對(duì)生活在人工智能世界中的巨大壓力。

當(dāng)然，人工智能可以幫助我們完成這兩項(xiàng)任務(wù)。我們可以在一定程度上依靠人工智能教師和治療師來幫助我們應(yīng)對(duì)人工智能時(shí)代的各種壓力和變化，但這需要大量的政府支持。而且，正如我之前所說，永遠(yuǎn)不要只相信人工智能會(huì)提出解決方案，因?yàn)槿斯ぶ悄艹錆M了偏見和錯(cuò)誤。所以，我們需要讓人類繼續(xù)掌握主動(dòng)權(quán)。

6.當(dāng)AI同伴能提供情感支持，我們?cè)撊绾伪Ａ裟阍跁兴鶑?qiáng)調(diào)的“真實(shí)的人際連接”（authentic human connections）這一核心價(jià)值？

尤瓦爾·赫拉利：我無法預(yù)測(cè)未來，但目前最關(guān)鍵的是要明白，人工智能沒有自己的感情。它們可以識(shí)別、操縱我們的感情，但它們沒有自己的感情。所以，人工智能可以識(shí)別我什么時(shí)候生氣，什么時(shí)候害怕。如果它是一個(gè)好的人工智能，它就會(huì)知道如何幫助我處理憤怒或恐懼。如果它是一個(gè)壞的人工智能，可能被某些公司或政府使用，它就會(huì)操縱人們，使他們更加憤怒和恐懼。但至少現(xiàn)在，人工智能無法擁有自己的情感。

真正的人際關(guān)系從來都不僅僅是我自己的感受。在一段關(guān)系中，我們總是希望別人理解我們的感受，照顧我們的感受。我們希望父母、配偶、孩子理解我的感受。但這只是關(guān)系的一半。在真正的關(guān)系中，我們還需要理解他人的感受，培養(yǎng)自己的同理心。

比方說，我現(xiàn)在很憤怒。但也許你也很憤怒，也許你很害怕。我不能只顧著生氣。我需要考慮到也許你也在害怕，也許最重要的事情是把我的憤怒放在一邊，幫助你處理你的恐懼。但要建立這樣的關(guān)系，只能與有感情的實(shí)體建立。你無法與人工智能建立這樣的關(guān)系，因?yàn)樗肋h(yuǎn)不會(huì)感到恐懼。它從不感到憤怒。

現(xiàn)在，人工智能可以假裝感到恐懼或憤怒。制造陪伴型人工智能的公司可能會(huì)故意讓人工智能假裝有感情。這是一個(gè)很大的危險(xiǎn)，因?yàn)檫@將是一種極具操縱性的關(guān)系，會(huì)欺騙人們。因此，我們需要以誠(chéng)實(shí)為基礎(chǔ)的人際關(guān)系。在現(xiàn)階段，制定禁止人工智能假裝人類的規(guī)則和法律也非常重要。我們不知道未來人工智能會(huì)不會(huì)也能擁有感情和意識(shí)。我們不了解人類的意識(shí)和感情是如何產(chǎn)生的，因此我們很難知道人工智能到底能不能產(chǎn)生自己的感情。我認(rèn)為這是我們這個(gè)時(shí)代重要的科學(xué)問題。

7.關(guān)于您的全民基本收入（Universal Basic Income）提案：在人工智能主導(dǎo)的就業(yè)市場(chǎng)中，如何協(xié)調(diào)勞動(dòng)價(jià)值與人的尊嚴(yán)？

尤瓦爾·赫拉利：重要的是要記住，我們需要保護(hù)的是人，而不是工作。這并不是說工作是神圣的，我們必須為人們保留這些工作，而是在說，真正重要的是人類的需求和情感。如果我們能以另一種方式滿足人類的需求和要求，而不是讓他們從事某項(xiàng)工作，那就沒問題。

我看到你在提問中說，我在建議全民基本收入。事實(shí)上，我從未建議過全民基本收入。我認(rèn)為這是一個(gè)錯(cuò)誤的概念，其包含的兩個(gè)錯(cuò)誤是全民性和基本性。全民意味著全世界。但大多數(shù)人在考慮全民基本收入時(shí)，只會(huì)想到本國(guó)國(guó)民基本收入。比如在美國(guó)，可能會(huì)考慮在加利福尼亞州征稅，然后用它來給俄克拉何馬州的人們發(fā)放基本收入。但最大的問題是，墨西哥人會(huì)怎么樣？與美國(guó)相比，人工智能革命可能會(huì)對(duì)其他國(guó)家的人民造成更大的傷害，這些國(guó)家的人民會(huì)怎樣？我們能實(shí)現(xiàn)全民基本收入嗎？我不這么認(rèn)為。我們沒有一個(gè)全球人民的政府。那么，誰(shuí)會(huì)在美國(guó)等富裕國(guó)家收稅，然后把這些稅送到貧窮國(guó)家呢？我認(rèn)為這是一種幻想。

同樣，“基本”一詞也是如此。是的，滿足人們的基本需求很重要。然而，誰(shuí)來決定什么是“基本需求”？“基本”的定義可能會(huì)瞬息萬(wàn)變，比如什么是“基本醫(yī)療保健”？因此，我們必須非常謹(jǐn)慎地對(duì)待這個(gè)問題，全民基本收入聽起來是個(gè)不錯(cuò)的解決方案，但實(shí)際上可能是一種假象。

8.全球年輕一代對(duì)人工智能的接受速度最快。他們應(yīng)培養(yǎng)哪些核心能力，才能避免《智人之上》中所預(yù)言的“認(rèn)知依賴”（cognitive dependency）？

尤瓦爾·赫拉利：他們要明白信息不是真理，像人工智能這樣非常復(fù)雜的信息技術(shù)并不一定能為他們提供生活和世界的真相。

信息不是真理，因?yàn)榇蠖鄶?shù)信息都是幻覺、虛構(gòu)、幻想和謊言。真相是一種罕見的信息，因?yàn)橹圃煺嫦嗉劝嘿F又復(fù)雜。而制造幻想和假象則簡(jiǎn)單得多，成本也低廉得多。因此，這個(gè)世界充斥著幻想和假象，真相非常罕見。如果人工智能在這種信息泛濫的情況下接受訓(xùn)練，那么人工智能很有可能只會(huì)制造出更多的幻想和假象。因此，如果年輕人只學(xué)會(huì)相信人工智能告訴或推薦給他們的任何事情，這是非常危險(xiǎn)的。你需要培養(yǎng)自己分辨現(xiàn)實(shí)與虛構(gòu)的能力。

9.在這個(gè)人工智能創(chuàng)新加速的時(shí)代，《人類簡(jiǎn)史》中關(guān)于“保持批判性思維”的建議對(duì)年輕人具有怎樣的特殊意義？

尤瓦爾·赫拉利：你不能認(rèn)為人工智能已經(jīng)非常成熟，人們現(xiàn)在什么都問它，人工智能說什么就信什么。我們必須更加警惕地去區(qū)分可靠和不可靠的信息，意識(shí)到世界上大多數(shù)信息都不是真相。

10.像ChatGPT這樣的工具現(xiàn)在可以撰寫論文、編寫代碼并模擬對(duì)話。這一技術(shù)飛躍是否可能引發(fā)《智人之上》所預(yù)測(cè)的“知識(shí)權(quán)威崩潰”（collapse of knowledge authority）？我們?cè)撊绾卧谕苿?dòng)創(chuàng)新的同時(shí)，建立抵御虛假信息的“技術(shù)防火墻”？

尤瓦爾·赫拉利：我們既需要監(jiān)管人工智能，也需要教育人們。人工智能監(jiān)管應(yīng)包括，例如，禁止假冒人類。我們可以接受人工智能與我們對(duì)話，但前提是它們不能冒充人類。我們需要知道，你是在與人工智能對(duì)話，還是在與人類對(duì)話。

同樣非常重要的是，我們需要教育人工智能，讓它們有質(zhì)疑的能力。它們需要知道自己可能會(huì)犯錯(cuò)誤。在自然界或社會(huì)的每個(gè)系統(tǒng)中，自我糾正都是關(guān)鍵。讓我們想想，孩子是如何學(xué)會(huì)走路的？不是通過老師和家長(zhǎng)的指導(dǎo)，而是通過自我糾正機(jī)制。孩子站起來，邁出一步，摔倒了，再站起來，試圖以稍有不同的方式邁出一步，也許邁出了一兩步，又摔倒了。就這樣，孩子一步一步，不斷發(fā)現(xiàn)并糾正自己的錯(cuò)誤，逐漸學(xué)會(huì)了走路。即使作為成年人，當(dāng)我們走路時(shí)，我們的身體也會(huì)不斷進(jìn)行自我糾正來保持平衡。我們的大腦中有一種自我糾正機(jī)制，確保我們不會(huì)摔倒。沒有這些自我糾正機(jī)制，我們就無法了解或執(zhí)行任何事。

科學(xué)也是如此。縱觀各類學(xué)科，無論是歷史學(xué)、生物學(xué)，還是物理學(xué)，在發(fā)展的過程中科學(xué)家們都會(huì)不斷地犯錯(cuò)，然后不斷地糾正錯(cuò)誤。要知道，真正在科學(xué)雜志上發(fā)表的論文，往往都是那些對(duì)過往科學(xué)成果的再研究和糾正。如果我寫一篇文章，只說愛因斯坦是正確的，E等于M乘C的平方，愛因斯坦說的一切都是正確的，那么沒有期刊會(huì)發(fā)表這篇文章，因?yàn)檫@都是我們已知的內(nèi)容。你不會(huì)因?yàn)檎f愛因斯坦是對(duì)的而獲得諾貝爾物理學(xué)獎(jiǎng)。要在物理學(xué)學(xué)術(shù)期刊上發(fā)表文章，你需要找到愛因斯坦錯(cuò)了或愛因斯坦不知道的東西。這就是唯一能發(fā)表的東西，修正和補(bǔ)充，揭露我們以前不知道的東西。而要獲得諾貝爾物理學(xué)獎(jiǎng)，你需要揭露一個(gè)真正的大錯(cuò)誤或大漏洞，即之前理論中缺失的東西。

因此，自我修正是生物系統(tǒng)、社會(huì)系統(tǒng)和科學(xué)的關(guān)鍵機(jī)制。我們需要訓(xùn)練人工智能，讓它們也擁有這些強(qiáng)大的自我糾錯(cuò)機(jī)制，能夠識(shí)別并糾正自己的錯(cuò)誤。

當(dāng)然，我們還需要教育人們不要過于信任人工智能，要明白人工智能并不是完美的天才。我們還需要保持社會(huì)的自我糾正機(jī)制，這樣即便人工智能開始犯嚴(yán)重的錯(cuò)誤，但社會(huì)仍然是人類主導(dǎo)的社會(huì)，我們?nèi)匀挥心芰ψR(shí)別和糾正人工智能的錯(cuò)誤。

11.盡管人工智能診斷的準(zhǔn)確率已超過90%，但關(guān)于誤診責(zé)任的國(guó)際共識(shí)仍尚未形成。中國(guó)提議的“醫(yī)療人工智能倫理審查委員會(huì)”能否成為全球范本？

尤瓦爾·赫拉利：我不熟悉這個(gè)具體的例子，所以無法對(duì)此發(fā)表評(píng)論。而且我也不是醫(yī)生或醫(yī)學(xué)專家。我想說的是，總體而言，在人工智能時(shí)代，就如何處理這項(xiàng)新技術(shù)達(dá)成共識(shí)非常重要。我們正在創(chuàng)造一種可能很快就比我們更聰明的東西。自然界中還沒有任何例子表明，智慧較低的物種會(huì)控制智慧較高的物種。通常，智慧較高的物種會(huì)剝削或毀滅智慧較低的物種，就像我們對(duì)其他動(dòng)物做的那樣。因此，創(chuàng)造一個(gè)超級(jí)人工智能對(duì)我們來說是非常危險(xiǎn)的。而我們創(chuàng)造良性人工智能的唯一途徑，就是寄希望于全球共識(shí)與合作。

我們可以把創(chuàng)造人工智能想象成教育孩子，當(dāng)你教育孩子時(shí)，他們可能不會(huì)按照你說的去做，但會(huì)模仿你的行為。如果你告訴孩子們不要撒謊，但孩子們看到你對(duì)別人撒謊，他們也會(huì)效而仿之。而我們正在創(chuàng)造的超級(jí)人工智能，它們就像是人類的孩子。我們可以告訴人工智能不要撒謊，不要操縱，不要一味追求權(quán)力，應(yīng)該有同情心。但人工智能就會(huì)觀察人類社會(huì)和人們的行為，如果人工智能觀察到我們只是在競(jìng)爭(zhēng)，它也會(huì)這樣做。因此，我們現(xiàn)在尤其需要在人與人之間建立更多的共識(shí)與合作。

12.多項(xiàng)美國(guó)研究揭示了人工智能招聘系統(tǒng)中的性別偏見。中國(guó)強(qiáng)制性的“消除算法偏見”規(guī)定能否抵消《人類簡(jiǎn)史》中所說的“數(shù)據(jù)殖民主義”（data colonialism）？

尤瓦爾·赫拉利：希望如此。同樣，我也不熟悉這個(gè)具體的系統(tǒng)，所以我無法對(duì)此發(fā)表評(píng)論，但總的來說，我們需要這樣的舉措。同樣，在沒有任何規(guī)定和協(xié)議的情況下開發(fā)人工智能是非常危險(xiǎn)的。我們不能盲目相信人工智能不會(huì)出錯(cuò)、不會(huì)有偏見。要知道，最初人們認(rèn)為，人工智能只是在做計(jì)算。我們認(rèn)為人類有偏見是因?yàn)槲覀兊男睦恚驗(yàn)槲覀兪艿礁鞣N宗教神話的影響。我們可能會(huì)想人工智能沒有宗教信仰、沒有心理，它們只是計(jì)算，不會(huì)有偏見，但這已經(jīng)是十年前的過時(shí)想法了。

現(xiàn)在我們知道，人工智能也會(huì)像人類一樣有偏見，其中一個(gè)主要原因就是訓(xùn)練它們的數(shù)據(jù)。如果你在一個(gè)充滿偏見的數(shù)據(jù)集上訓(xùn)練人工智能，那么人工智能就會(huì)有偏見。比如在招聘問題上，如果你訓(xùn)練人工智能如何招聘工作，你就不能編造數(shù)據(jù)，而是需要從現(xiàn)實(shí)世界中獲取數(shù)據(jù)。如果在現(xiàn)實(shí)世界中存在偏見，比方說對(duì)女性的偏見，兩個(gè)具有相同資質(zhì)的候選人，人們更愿意雇用男性而不是女性，而這就是你訓(xùn)練人工智能的數(shù)據(jù)，那么人工智能也會(huì)以同樣的方式對(duì)女性產(chǎn)生偏見。

于是人們會(huì)說，好吧，那我們就去找不帶偏見的數(shù)據(jù)。但如何、何時(shí)才能找到無偏見的數(shù)據(jù)呢？數(shù)據(jù)來自世界，而世界充滿偏見。所以這是一個(gè)大問題。如何建立一個(gè)無偏見的人工智能系統(tǒng)？這絕非易事。事實(shí)上，在人工智能系統(tǒng)中消除偏見會(huì)非常困難。同樣，由于數(shù)據(jù)的存在，你不能只是告訴人工智能，在招聘人員時(shí)不要有偏見。這沒有任何意義。你必須訓(xùn)練人工智能，而訓(xùn)練人工智能，你就需要用數(shù)據(jù)來訓(xùn)練它。

要知道，當(dāng)AlphaGo學(xué)習(xí)如何下圍棋時(shí)，它并不需要來自現(xiàn)實(shí)世界的數(shù)據(jù)，它只需與自己下圍棋。因此，AlphaGo模擬了數(shù)百萬(wàn)次圍棋對(duì)弈，這就是它的學(xué)習(xí)方式，不需要來自世界的數(shù)據(jù)。但是在就業(yè)市場(chǎng)上，你不能這樣做。你不能在人工智能對(duì)招聘本身并不負(fù)責(zé)的情況下，簡(jiǎn)單對(duì)它說“模擬招聘百萬(wàn)人的流程”。它能怎么模擬招聘呢？它只能通過真實(shí)世界的數(shù)據(jù)來實(shí)現(xiàn)。而真實(shí)世界的數(shù)據(jù)充滿了偏見，因?yàn)檫@個(gè)世界充滿了偏見。

我并不是說這是一個(gè)不可能解決的問題。我們可以改進(jìn)，可以有辦法消除偏見，但這并不容易。目前，有一些公司正是在做數(shù)據(jù)“清洗”的工作，但要?jiǎng)?chuàng)建一個(gè)沒有偏見的數(shù)據(jù)集非常復(fù)雜。你會(huì)嘗試去掉數(shù)據(jù)中的一些東西，但也許你會(huì)去掉一些重要的數(shù)據(jù)。怎樣才能既消除偏差，又不丟掉一些重要數(shù)據(jù)呢？這很難。

13.訓(xùn)練大模型所產(chǎn)生的二氧化碳排放量相當(dāng)于5輛汽車的全生命周期排放量。技術(shù)發(fā)展如何在性能與碳中和之間取得平衡？

尤瓦爾·赫拉利：從短期來看，這是一個(gè)非常大的問題，因?yàn)槿斯ぶ悄墁F(xiàn)在是全球資源和能源的最大消耗者之一。訓(xùn)練新的人工智能、人工智能模型需要大量的能源、水和稀缺礦產(chǎn)。隨著國(guó)家之間、公司之間的競(jìng)爭(zhēng)加速，他們根本不在乎環(huán)境成本，只會(huì)投入越來越多的資源來贏得人工智能競(jìng)賽。他們說，從長(zhǎng)遠(yuǎn)來看，這甚至?xí)Ｗo(hù)環(huán)境，因?yàn)楫?dāng)我們擁有超級(jí)智能的人工智能時(shí)，它們會(huì)發(fā)明一些保護(hù)環(huán)境的東西。它們會(huì)發(fā)明新型發(fā)動(dòng)機(jī)，或以更明智的方式管理電力系統(tǒng)，這將防止災(zāi)難性的氣候變化。但從短期來看，人工智能競(jìng)賽只會(huì)讓生態(tài)問題變得更糟。

解決的辦法還是要合作，不要陷入各國(guó)都對(duì)盡快發(fā)展人工智能深感必要的競(jìng)賽之中。但不幸的是，由于人類之間的信任正在崩潰，所以我們有點(diǎn)陷入了這種競(jìng)賽心態(tài)，在這種心態(tài)下，各國(guó)并不太在乎生態(tài)成本，他們只想在競(jìng)賽中取得領(lǐng)先。

14.過度依賴導(dǎo)航應(yīng)用會(huì)削弱空間認(rèn)知能力，這與《未來簡(jiǎn)史》中所提出的“認(rèn)知外包”（outsourced cognition）警告相呼應(yīng)。學(xué)校中的“人工智能素養(yǎng)教育”能否讓我們保留人類基本的能力？

尤瓦爾·赫拉利：是的，人工智能革命中最大的問題之一是學(xué)校該怎么做，如何教育年輕一代，因?yàn)檫@是有史以來第一次，我們真的不知道10年或15年后的就業(yè)市場(chǎng)會(huì)是什么樣子。即使在歷史上，你無法預(yù)測(cè)政治事件，無法預(yù)測(cè)地震或流行病，但你可以預(yù)測(cè)就業(yè)市場(chǎng)，它不會(huì)變化得這么快。但現(xiàn)在我們無法預(yù)測(cè)了。就像人們說的，我們應(yīng)該教孩子們?nèi)绾谓o電腦編程，也許等他們長(zhǎng)大成人后，就不需要人類程序員了，因?yàn)槿斯ぶ悄艿木幊棠芰Ρ热祟悘?qiáng)多了。

因此，最安全的做法是在學(xué)校里給孩子們提供廣泛的教育，平衡四種不同的技能——智力技能、社交技能、運(yùn)動(dòng)技能或身體技能，最后是精神技能。如果我們現(xiàn)在在教育過程中只培養(yǎng)智力技能，這將是一個(gè)非常危險(xiǎn)的賭注，因?yàn)槿斯ぶ悄苷兊帽任覀兏斆鳌Ｗ钊菀讓?shí)現(xiàn)自動(dòng)化的工作就是那些只需要智力技能的工作。

比如一部分醫(yī)生的工作，他們更多地是在運(yùn)用智力技能。比如你得了某種病，醫(yī)生會(huì)收集信息，會(huì)問你問題，會(huì)收集你的醫(yī)療數(shù)據(jù)，然后分析這些信息，診斷病因，然后開出處方。這純粹是智力活動(dòng)，是信息的輸入和輸出，也是最容易實(shí)現(xiàn)自動(dòng)化的工作。

相比之下，護(hù)士的工作卻更難以被替代。比如說，有一個(gè)孩子受傷了，他來到診所，他很痛苦、不斷尖叫，護(hù)士當(dāng)然需要智力技能，知道如何治療，但更需要與孩子良好溝通的社交技能。當(dāng)然，你還需要運(yùn)動(dòng)技能和身體技能。如何包扎，如何清理傷口？如何纏繃帶？這就是運(yùn)動(dòng)技能。最后，你還需要精神技能。在這種情況下如何培養(yǎng)同情心？護(hù)士可能會(huì)生氣惱怒，也許現(xiàn)在已經(jīng)是下班時(shí)間，但這個(gè)孩子突然來了，他在尖叫，他很痛苦，他不但不讓你照顧他，反而叫得更兇，你就更生氣了。那么，如何管理自己的情緒和感受，培養(yǎng)同情心而不是憤怒呢？這是一種精神上的技能，而且這種技能更難自動(dòng)化。

我并不是說人工智能永遠(yuǎn)不會(huì)發(fā)展這些技能，人工智能也在掌握社交和運(yùn)動(dòng)技能，但這比純粹的智力技能要難得多。因此，我認(rèn)為為年輕人提供均衡的教育是一個(gè)好主意，這種教育應(yīng)同等重視所有四種技能，而不是只注重智力訓(xùn)練。