本文來(lái)自微信公眾號(hào)： 劃重點(diǎn)KeyPoints ，編輯：重點(diǎn)君，作者：重點(diǎn)君

4月29日，谷歌AI掌門人、DeepMind CEO Demis Hassabis（哈薩比斯）接受了YC訪談，披露了他關(guān)于AGI、大模型演進(jìn)路徑、AI驅(qū)動(dòng)科學(xué)發(fā)現(xiàn)與科技創(chuàng)業(yè)的最新思考。

Demis Hassabis的職業(yè)路徑在科技界極為罕見(jiàn)。他在英國(guó)出生，早年作為國(guó)際象棋神童展露頭角，并在17歲時(shí)主導(dǎo)設(shè)計(jì)了暢銷電子游戲《主題公園》。此后，他選擇重返學(xué)術(shù)界，獲得了認(rèn)知神經(jīng)科學(xué)博士學(xué)位，其間發(fā)表的關(guān)于大腦記憶與想象力運(yùn)作機(jī)制的研究，成為該領(lǐng)域的基礎(chǔ)性成果。2010年，他聯(lián)合創(chuàng)立了DeepMind，將團(tuán)隊(duì)目標(biāo)鎖定在一個(gè)核心使命上：解決智能問(wèn)題。這家公司后來(lái)被谷歌收購(gòu)，哈薩比斯此后也一直擔(dān)任谷歌DeepMind的CEO。

在過(guò)去的十余年里，DeepMind實(shí)驗(yàn)室實(shí)現(xiàn)了多項(xiàng)技術(shù)突破：AlphaGo戰(zhàn)勝了人類圍棋世界冠軍李世石，AlphaFold則攻克了困擾生物學(xué)界長(zhǎng)達(dá)50年的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)難題，并將核心成果向全球科學(xué)家免費(fèi)開(kāi)放，這直接促成了他獲得去年的諾貝爾化學(xué)獎(jiǎng)。目前，Hassabis正帶領(lǐng)Google DeepMind團(tuán)隊(duì)開(kāi)發(fā)Gemini模型，繼續(xù)推進(jìn)他自青少年時(shí)期便確立的通用人工智能（AGI）目標(biāo)。

我們梳理了這場(chǎng)訪談的核心信息，以下是重點(diǎn)內(nèi)容：

1、通往AGI需突破單純上下文窗口擴(kuò)容，建立持續(xù)學(xué)習(xí)與記憶機(jī)制

當(dāng)前行業(yè)慣于不斷擴(kuò)大上下文窗口，但把所有有用、無(wú)用甚至錯(cuò)誤的信息全塞進(jìn)工作記憶，是一種計(jì)算成本極高的暴力做法。即使擁有千萬(wàn)級(jí)Token的上下文，檢索特定信息的成本也高得不切實(shí)際。真正的AGI系統(tǒng)需要具備持續(xù)學(xué)習(xí)能力，能夠優(yōu)雅地將新知識(shí)融入現(xiàn)有知識(shí)庫(kù)中，并在合適的場(chǎng)景精準(zhǔn)調(diào)用，而不是每次都從頭讀取冗長(zhǎng)的歷史記錄。

2、強(qiáng)化學(xué)習(xí)將重塑大模型的內(nèi)省與推理能力

強(qiáng)化學(xué)習(xí)在邁向更高維智能的道路上被嚴(yán)重低估。當(dāng)前前沿大模型展現(xiàn)的思維鏈推理，本質(zhì)上是AlphaGo和AlphaZero理念在大規(guī)?；A(chǔ)模型上的復(fù)現(xiàn)。目前的大模型在推理時(shí)往往缺乏內(nèi)省能力，在選錯(cuò)答案后依然會(huì)盲目重試。DeepMind正重新引入蒙特卡洛樹(shù)搜索等經(jīng)典算法，將強(qiáng)化學(xué)習(xí)與大模型深度融合，以此打破當(dāng)前模型推理能力的天花板。

3、端側(cè)小模型與開(kāi)源戰(zhàn)略是終端部署的必然選擇

通過(guò)模型蒸餾技術(shù)，極小參數(shù)量的模型已能達(dá)到前沿大模型90%至95%的性能水平，且具備極高的速度和成本優(yōu)勢(shì)。未來(lái)計(jì)算的主流形態(tài)將是由云端大模型負(fù)責(zé)復(fù)雜統(tǒng)籌，由運(yùn)行在手機(jī)、智能眼鏡或家庭機(jī)器人上的端側(cè)模型處理本地隱私數(shù)據(jù)。由于端側(cè)模型一旦部署到物理表面，其技術(shù)極易被提取，因此直接將其完全開(kāi)放是戰(zhàn)略上的必然選擇。

4、AI在科學(xué)探索中的目標(biāo)是跨越模式匹配并提出全新假設(shè)

科學(xué)發(fā)現(xiàn)不能僅停留在對(duì)已有數(shù)據(jù)的插值計(jì)算，AI不僅需要完美解決現(xiàn)有問(wèn)題，更需具備發(fā)明新規(guī)則的能力。DeepMind正在推進(jìn)從“細(xì)胞核”切入，目標(biāo)在未來(lái)十年內(nèi)構(gòu)建完整的“虛擬細(xì)胞”。衡量AI科學(xué)發(fā)現(xiàn)能力的標(biāo)準(zhǔn)在于它能否通過(guò)“愛(ài)因斯坦測(cè)試”：即僅輸入1901年之前的物理知識(shí)，跨越模式匹配，獨(dú)立推導(dǎo)出狹義相對(duì)論。

5、科技創(chuàng)業(yè)者應(yīng)構(gòu)建高度專業(yè)化的垂直系統(tǒng)以協(xié)同AGI

科技企業(yè)的成長(zhǎng)周期通常需要十年，這意味著AGI必然會(huì)在當(dāng)前創(chuàng)業(yè)周期的中途（約2030年左右）實(shí)現(xiàn)。面對(duì)這一確定性變量，創(chuàng)業(yè)者不應(yīng)試圖將垂直領(lǐng)域的復(fù)雜參數(shù)強(qiáng)行塞進(jìn)通用大模型中，因?yàn)檫@會(huì)破壞通用模型的效率和其他能力。合理的路徑是構(gòu)建高度專業(yè)化的獨(dú)立工具系統(tǒng)或基礎(chǔ)設(shè)施，未來(lái)順應(yīng)通用AGI作為大腦去自主調(diào)用這些垂直系統(tǒng)的協(xié)作關(guān)系。

以下是Demis Hassabis訪談實(shí)錄：

1.在實(shí)現(xiàn)AGI之前還缺少什么？

Garry Tan：Demis Hassabis擁有科技界最不尋常的職業(yè)生涯之一。他小時(shí)候是國(guó)際象棋神童，17歲時(shí)設(shè)計(jì)了首款熱門電子游戲《主題公園》。隨后他重返校園獲得認(rèn)知神經(jīng)科學(xué)博士學(xué)位，發(fā)表了關(guān)于大腦記憶和想象力運(yùn)作機(jī)制的基礎(chǔ)性研究成果。2010年他聯(lián)合創(chuàng)立了DeepMind，只有一個(gè)使命：解決智能問(wèn)題。我認(rèn)為他們已經(jīng)做到了。

從那時(shí)起，他的實(shí)驗(yàn)室不斷取得那些被大多數(shù)人認(rèn)為還需幾十年才能實(shí)現(xiàn)的成就。AlphaGo擊敗了圍棋世界冠軍，AlphaFold攻克了困擾生物學(xué)界50年的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)重大挑戰(zhàn)，并將成果免費(fèi)提供給全球科學(xué)家，這項(xiàng)工作讓他贏得了去年的諾貝爾化學(xué)獎(jiǎng)。如今Demis領(lǐng)導(dǎo)著Google DeepMind團(tuán)隊(duì)構(gòu)建Gemini，并朝著他青少年時(shí)期就設(shè)定的通用人工智能(AGI)目標(biāo)努力。讓我們歡迎Demis。

你對(duì)AGI的思考比幾乎任何人都要久。審視當(dāng)前的大規(guī)模預(yù)訓(xùn)練、RLHF和思維鏈(CoT)等范式，你認(rèn)為在AGI的最終架構(gòu)中我們已經(jīng)掌握了多少？目前根本上缺失的又是什么？

Demis Hassabis：首先感謝Garry精彩的介紹，很高興來(lái)到這里，感謝大家的歡迎。這個(gè)場(chǎng)地非常棒，我以后得多來(lái)。能在這一領(lǐng)域工作確實(shí)令人備受鼓舞?；氐侥愕膯?wèn)題，我非常確信你剛才提到的那些技術(shù)組件都會(huì)成為AGI最終架構(gòu)的一部分。目前它們已經(jīng)取得了長(zhǎng)足的進(jìn)步，我們也證明了其諸多功能。我不認(rèn)為幾年后我們會(huì)發(fā)現(xiàn)這些技術(shù)是死胡同，這說(shuō)不通。

但在已知有效的基礎(chǔ)之上，可能還缺少一兩項(xiàng)關(guān)鍵技術(shù)。比如持續(xù)學(xué)習(xí)、長(zhǎng)期推理以及記憶系統(tǒng)的某些方面，這些目前仍是懸而未決的問(wèn)題，包括如何讓系統(tǒng)在各方面表現(xiàn)得更加一致。我認(rèn)為實(shí)現(xiàn)AGI必須解決這些問(wèn)題。

現(xiàn)有的技術(shù)有可能通過(guò)一些漸進(jìn)式的創(chuàng)新直接擴(kuò)展到AGI的規(guī)模，但也可能還需要攻克一兩個(gè)重大的理論難題。即便還有未解之謎，我認(rèn)為也不會(huì)超過(guò)一兩個(gè)。在這個(gè)問(wèn)題上我認(rèn)為兩種情況的概率各占一半。所以在Google DeepMind，我們目前正在雙管齊下同時(shí)推進(jìn)這兩方面的工作。

Garry Tan：在處理一系列智能體(Agent)系統(tǒng)時(shí)，最讓我覺(jué)得不可思議的是它們?cè)诤艽蟪潭壬鲜窃诜磸?fù)使用相同的權(quán)重。因此持續(xù)學(xué)習(xí)(Continual Learning)的概念非常有趣，因?yàn)槟壳拔覀冇悬c(diǎn)像是在用膠帶把它們勉強(qiáng)拼湊起來(lái)，比如夜間發(fā)生的夢(mèng)境周期這類機(jī)制。

Demis Hassabis：夢(mèng)境周期確實(shí)非?？?。過(guò)去我們常將情景記憶結(jié)合起來(lái)，通過(guò)鞏固機(jī)制來(lái)思考這個(gè)問(wèn)題。實(shí)際上我讀博期間研究的就是海馬體如何運(yùn)作并進(jìn)行記憶整合，也就是如何將新知識(shí)優(yōu)雅地融入現(xiàn)有的知識(shí)庫(kù)中。大腦在這方面做得非常出色，它主要在睡眠期間完成這些工作，尤其是像快速眼動(dòng)睡眠階段，大腦會(huì)回放那些重要的片段以便從中學(xué)習(xí)。

事實(shí)上我們最早的Atari游戲AI程序DQN能夠精通游戲的方法之一就是通過(guò)經(jīng)驗(yàn)回放(Experience Replay)。我們算是從神經(jīng)科學(xué)中借鑒了這一點(diǎn)，通過(guò)多次回放成功的軌跡來(lái)訓(xùn)練模型。那還是在2013年，現(xiàn)在回想起來(lái)簡(jiǎn)直可以說(shuō)是AI的黑暗時(shí)代了，但那是非常重要的一步。

我同意你的看法，現(xiàn)在我們有點(diǎn)像是在到處修修補(bǔ)補(bǔ)，比如簡(jiǎn)單粗暴地把所有東西都塞進(jìn)上下文窗口(Context Window)里，但這似乎有點(diǎn)不盡如人意。盡管我們研究的是機(jī)器而非生物大腦，你可以擁有數(shù)百萬(wàn)甚至數(shù)千萬(wàn)規(guī)模的完美上下文窗口或內(nèi)存。但檢索并提取正確的內(nèi)容仍然是有成本的，這實(shí)際上與你當(dāng)前必須做出的特定決策息息相關(guān)。這個(gè)問(wèn)題不容小覷，即使你能存儲(chǔ)所有數(shù)據(jù)，其調(diào)用成本也極高。我認(rèn)為在記憶(Memory)等領(lǐng)域其實(shí)還有極大的創(chuàng)新空間。

Garry Tan：確實(shí)如此。讓人覺(jué)得瘋狂的是，目前百萬(wàn)級(jí)Token的上下文看起來(lái)已經(jīng)足夠龐大了，完全可以支持很多操作。

Demis Hassabis：對(duì)于絕大多數(shù)應(yīng)用場(chǎng)景來(lái)說(shuō)，它的確已經(jīng)足夠大了。如果仔細(xì)思考，上下文窗口在某種程度上相當(dāng)于工作記憶。人類只有幾位數(shù)字的記憶能力，平均只有七個(gè)。而現(xiàn)在的AI擁有百萬(wàn)級(jí)甚至一千萬(wàn)級(jí)的上下文窗口。但問(wèn)題在于我們正試圖把所有內(nèi)容都一股腦兒地塞進(jìn)去，包括那些不重要的或者錯(cuò)誤的信息。

目前這種暴力破解(Brute Force)的方式看起來(lái)并不合理。接下來(lái)的挑戰(zhàn)是，如果你嘗試處理實(shí)時(shí)視頻，只是簡(jiǎn)單天真地記錄下所有Token，那么一百萬(wàn)個(gè)Token其實(shí)并不算多，大約只能處理20分鐘的視頻。所以如果你想要一個(gè)真正能夠理解長(zhǎng)期上下文的系統(tǒng)，讓它了解你過(guò)去一兩個(gè)月的生活中發(fā)生了什么，就需要遠(yuǎn)超于此的容量。

Garry Tan：DeepMind在歷史上一直傾向于強(qiáng)化學(xué)習(xí)和搜索技術(shù)，例如AlphaGo、AlphaZero和MuZero。這種理念在你們?nèi)缃駱?gòu)建Gemini的過(guò)程中實(shí)際融入了多少？強(qiáng)化學(xué)習(xí)(RL)目前是否仍然被低估了？

Demis Hassabis：是的，我認(rèn)為強(qiáng)化學(xué)習(xí)很有可能被低估了。技術(shù)的發(fā)展總是呈波浪式起伏。自DeepMind成立之初，我們就一直在研究智能體(Agent)，這也是我們對(duì)外明確的目標(biāo)。所有的Atari游戲研究以及AlphaGo，本質(zhì)上都是智能體系統(tǒng)。

我們所說(shuō)的智能體系統(tǒng)是指能夠自主實(shí)現(xiàn)目標(biāo)、做出主動(dòng)決策并制定計(jì)劃的系統(tǒng)。我們最初在游戲領(lǐng)域開(kāi)展這項(xiàng)工作是為了使其具備可操作性，然后逐步挑戰(zhàn)日益復(fù)雜的任務(wù)。比如在AlphaGo之后，我們研發(fā)了針對(duì)《星際爭(zhēng)霸》的AlphaStar?；旧衔覀円呀?jīng)攻克了當(dāng)時(shí)市面上所有的游戲。

接下來(lái)的問(wèn)題自然是，能否將這些模型泛化為世界模型或語(yǔ)言模型，而不僅僅局限于簡(jiǎn)單或復(fù)雜的游戲模型？這就是過(guò)去幾年我們一直在努力的方向。實(shí)際上你可以發(fā)現(xiàn)，今天我們做的很多工作，包括所有具備思考模式和思維鏈推理的前沿模型，在某種程度上都是AlphaGo開(kāi)創(chuàng)性特性的回歸。

我認(rèn)為我們當(dāng)年做的很多工作在如今依然高度相關(guān)。我們正在重新審視一些舊想法，并在當(dāng)今的大模型規(guī)模下以一種更通用的方式進(jìn)行實(shí)踐，包括蒙特卡洛樹(shù)搜索(Monte Carlo)等方法，并在現(xiàn)有基礎(chǔ)上進(jìn)一步增強(qiáng)強(qiáng)化學(xué)習(xí)。無(wú)論是來(lái)自AlphaGo還是AlphaZero的理念，對(duì)于目前基礎(chǔ)模型的發(fā)展階段都極具參考價(jià)值。我認(rèn)為這些理念正是我們?cè)谖磥?lái)幾年即將看到的重大突破方向。

2.為什么小型模型正變得如此強(qiáng)大

Garry Tan：我還有一個(gè)問(wèn)題。如今我們需要越來(lái)越大的模型來(lái)提升智能水平，但同時(shí)我們也看到了模型蒸餾(Distillation)技術(shù)的應(yīng)用，讓更小的模型運(yùn)行得快得多。你們擁有令人難以置信的Flash模型，并且發(fā)現(xiàn)它們能達(dá)到前沿(Frontier)模型95%的性能水平，而成本卻只有其十分之一。是這樣嗎？

Demis Hassabis：我認(rèn)為這是我們的核心優(yōu)勢(shì)之一。毫無(wú)疑問(wèn)，你必須構(gòu)建最龐大的模型才能具備最前沿的能力。但我們一直以來(lái)的最大優(yōu)勢(shì)，就是能夠非常迅速地將這種前沿能力進(jìn)行蒸餾，并封裝到體積更小的模型中。

我們?cè)谠缙诰桶l(fā)明了這種蒸餾工藝，憑借Jeff和Oriol等科學(xué)家的努力，我們至今仍是該領(lǐng)域的全球頂尖專家。同時(shí)我們也有巨大的內(nèi)部需求去落地這項(xiàng)技術(shù)，因?yàn)槲覀儽仨殲槿蛞?guī)模最大的AI用戶界面提供服務(wù)。

除了帶有AI概覽(AI Overviews)的搜索引擎、Gemini應(yīng)用之外，如今越來(lái)越多的Google產(chǎn)品，比如Google地圖和YouTube等，都已經(jīng)融入了Gemini的相關(guān)技術(shù)。這觸達(dá)了數(shù)十億用戶，我們有十幾個(gè)用戶量超十億的產(chǎn)品，因此其推理服務(wù)必須極其快速、高效、廉價(jià)且具備極低延遲。這給了我們極大的動(dòng)力去開(kāi)發(fā)Flash甚至更小巧的Flashlight模型，使其做到極致高效，并希望最終能夠完美適配大家日常處理的各種工作負(fù)載。

Garry Tan：我很好奇這些較小的模型實(shí)際上能聰明到什么程度。比如模型蒸餾過(guò)程是否存在某種理論極限？一個(gè)50B或400B參數(shù)規(guī)模的模型，未來(lái)能像今天那些神乎其神的前沿大模型一樣聰明嗎？

Demis Hassabis：我不認(rèn)為我們已經(jīng)觸及了任何形式的極限，或者至少目前業(yè)界還沒(méi)人知道我們是否達(dá)到了某種信息承載的極限。也許在未來(lái)的某個(gè)時(shí)刻會(huì)出現(xiàn)無(wú)法逾越的信息密度瓶頸。但基于目前的假設(shè)，當(dāng)我們的Pro模型或前沿大模型發(fā)布半年到一年之后，你就能在那些非常微小的邊緣側(cè)模型中看到同等的能力表現(xiàn)。大家也能在我們的Gemma模型中看到這些優(yōu)勢(shì)，希望你們會(huì)喜歡這四款Gemma模型。考慮到它們的參數(shù)尺寸，其能力表現(xiàn)確實(shí)令人驚嘆。這背后再次大量運(yùn)用了模型蒸餾技術(shù)，以及如何讓極小模型變得極其高效的創(chuàng)新思路。因此我目前還沒(méi)有看到任何理論上的極限，我們離那個(gè)天花板還相當(dāng)遙遠(yuǎn)。

Garry Tan：這太驚人了，真的非常棒。現(xiàn)在我們觀察到的最不可思議的現(xiàn)象之一是，工程師們現(xiàn)在能夠完成的工作量是六個(gè)月前的500到1000倍。我想指的就是在這個(gè)房間里的很多人，他們現(xiàn)在的工作產(chǎn)出可能達(dá)到了過(guò)去的一千倍。正如Steve Yegge所說(shuō)，這相當(dāng)于2000年代一名Google工程師工作量的總和。這非常令人興奮。

Demis Hassabis：我認(rèn)為小模型有很多用途，降低成本顯然是其一，但更重要的是速度上的優(yōu)勢(shì)。無(wú)論是編程還是其他工作，這種速度能讓你迭代得快得多，尤其是在你與系統(tǒng)進(jìn)行深度協(xié)作時(shí)。我們非常需要這種極其快速的系統(tǒng)。也許它們確實(shí)沒(méi)有完全達(dá)到前沿模型的級(jí)別，就像你說(shuō)的，只有95%或90%的性能，但這已經(jīng)足夠好了。在敏捷的迭代速度面前，這種收益遠(yuǎn)遠(yuǎn)超過(guò)了那10%的性能差距。

我認(rèn)為另一件重要的事情是在邊緣端運(yùn)行這些模型。這主要是出于效率、隱私和安全方面的考量。考慮到可能會(huì)在處理極其私密信息的設(shè)備上運(yùn)行這些系統(tǒng)，或者在機(jī)器人技術(shù)領(lǐng)域，例如家用機(jī)器人就需要極其高效且強(qiáng)大的本地模型來(lái)協(xié)調(diào)運(yùn)行。隨著云端出現(xiàn)更大規(guī)模的前沿模型，設(shè)備只需在特定環(huán)境下將任務(wù)委托給云端即可。所有的音視頻流都可以保留在本地進(jìn)行處理。我認(rèn)為這會(huì)是一種非常理想的最終狀態(tài)。

3.持續(xù)學(xué)習(xí)與智能體的未來(lái)

Garry Tan：關(guān)于上下文和記憶能力的話題，目前模型是無(wú)狀態(tài)的。對(duì)于使用持續(xù)學(xué)習(xí)模型的開(kāi)發(fā)者而言該如何引導(dǎo)它呢？

Demis Hassabis：這個(gè)問(wèn)題非常有趣。目前缺乏持續(xù)學(xué)習(xí)能力正是阻礙智能體執(zhí)行完整任務(wù)的因素之一。雖然它們?cè)谌蝿?wù)的某些方面非常有用且能拼湊起來(lái)完成很酷的事情，但無(wú)法適應(yīng)具體的語(yǔ)境。這是它們實(shí)現(xiàn)自主完成任務(wù)狀態(tài)所缺失的關(guān)鍵一環(huán)。它們需要具備針對(duì)具體上下文的學(xué)習(xí)能力。我們必須攻克這一點(diǎn)才能實(shí)現(xiàn)完全的通用智能。

Garry Tan：目前我們?cè)谕评矸矫孢M(jìn)展如何？現(xiàn)在的模型已經(jīng)可以進(jìn)行令人印象深刻的思維鏈推理，但在一些聰明的本科生都不會(huì)出錯(cuò)的基礎(chǔ)問(wèn)題上仍然會(huì)失敗。具體需要做出哪些改變以及您期望在推理方面取得什么樣的進(jìn)展？

Demis Hassabis：思考范式方面仍有很大的創(chuàng)新空間。我們目前所做的事情還相當(dāng)簡(jiǎn)單且非常依賴暴力破解。在監(jiān)控思維鏈方面存在巨大潛力，也許可以在思維過(guò)程的中途進(jìn)行干預(yù)。

我經(jīng)常感覺(jué)我們的系統(tǒng)以及競(jìng)爭(zhēng)對(duì)手的系統(tǒng)都在過(guò)度思考，似乎陷入了某種循環(huán)。我有時(shí)喜歡和Gemini下國(guó)際象棋。有趣的是所有領(lǐng)先的基礎(chǔ)模型在游戲方面的表現(xiàn)都很差。觀察這些思維鏈非常有意思，因?yàn)樗鼈兒苋菀妆焕斫狻?/p>

我能迅速判斷出模型是否跑題，其思維過(guò)程也是高度可驗(yàn)證的。有時(shí)它在考慮某一步棋時(shí)會(huì)意識(shí)到這是一個(gè)大錯(cuò)，但在找不到更好走法的情況下又會(huì)趨向于回到那一步并最終執(zhí)行。在嚴(yán)密的推理系統(tǒng)中不應(yīng)該發(fā)生這種情況。目前仍然存在差距，但也許只需一兩個(gè)調(diào)整就能修復(fù)這些問(wèn)題。這些差距導(dǎo)致了參差不齊的智能表現(xiàn)。一方面它能解答極難的國(guó)際數(shù)學(xué)奧林匹克競(jìng)賽金牌題目，但另一方面如果在提問(wèn)方式上稍有不同它又會(huì)犯基礎(chǔ)的初等數(shù)學(xué)和推理錯(cuò)誤。這說(shuō)明模型在自我思維過(guò)程的反思能力上仍然有所缺失。

Garry Tan：智能體現(xiàn)在非?；馃幔m然有人認(rèn)為它們被過(guò)度炒作了，但我個(gè)人認(rèn)為它們才剛剛起步。關(guān)于智能體的能力現(xiàn)狀DeepMind的內(nèi)部研究得出了什么結(jié)論？相比于外界的炒作實(shí)際情況究竟如何？

Demis Hassabis：我同意你的看法，智能體才剛剛起步。必須擁有一個(gè)能主動(dòng)解決問(wèn)題的系統(tǒng)才能實(shí)現(xiàn)通用人工智能。這對(duì)我們來(lái)說(shuō)一直很明確，智能體就是通往目標(biāo)的路徑。大家都在逐漸習(xí)慣如何將其融入工作流并發(fā)揮最佳效果，不僅是把它當(dāng)作錦上添花的東西，而是真正開(kāi)始用它處理根本性事務(wù)。

目前我們都處于實(shí)驗(yàn)階段。直到最近幾個(gè)月技術(shù)水平才真正達(dá)到能創(chuàng)造實(shí)質(zhì)價(jià)值的程度。它不再是玩具或漂亮的演示，而是能真正提升時(shí)間和效率。我看到很多人讓幾十個(gè)智能體運(yùn)行幾十個(gè)小時(shí)，但我還不確定是否看到了能證明這種投入合理性的產(chǎn)出。不過(guò)這一天終究會(huì)到來(lái)。

我們尚未看到哪款由智能體生成的3A級(jí)游戲能登頂應(yīng)用商店排行榜。很多人都做過(guò)很棒的小型演示程序，我現(xiàn)在半小時(shí)就能做一個(gè)主題公園原型，而我17歲時(shí)這需要花半年時(shí)間。這令人震撼。不過(guò)開(kāi)發(fā)依然需要人類的匠心、靈魂和品味。必須確保無(wú)論構(gòu)建什么都要將這種特質(zhì)融入其中。

目前尚未達(dá)到完美水平，畢竟還沒(méi)看到一個(gè)孩子做出銷量千萬(wàn)的熱門游戲?？紤]到已投入的努力這是應(yīng)該成為現(xiàn)實(shí)的，所以不知何故仍然缺失了一些東西，也許與流程或工具相關(guān)。我預(yù)計(jì)在未來(lái)半年到一年內(nèi)一旦技術(shù)發(fā)揮出全部?jī)r(jià)值就會(huì)看到顯著成果。

Garry Tan：我不認(rèn)為我們會(huì)最先看到完全的自主性。

Demis Hassabis：我們可能首先會(huì)看到人類借助工具將工作效率提升千倍，比如游戲等領(lǐng)域的公司利用這些工具開(kāi)發(fā)出暢銷應(yīng)用或游戲，隨后更多環(huán)節(jié)才會(huì)被自動(dòng)化。

智能體確實(shí)還沒(méi)有達(dá)到那種高度。如果討論創(chuàng)意的話，可以參考AlphaGo在第二局下出的第37手。我們十年前推出AlphaGo，但我一直在等待像AlphaFold那樣的科學(xué)突破時(shí)刻。

僅僅想出第37手雖然很酷且有用，但它能發(fā)明出圍棋嗎？我想要的是一個(gè)能夠發(fā)明圍棋的系統(tǒng)。如果你給它一個(gè)高度概括的描述，要求發(fā)明一種五分鐘能學(xué)會(huì)規(guī)則但需耗費(fèi)一生去精通且極具美感的游戲，系統(tǒng)就能反饋出圍棋。顯然今天的系統(tǒng)還做不到這一點(diǎn)，我認(rèn)為那里仍然缺失了一些東西。

也許也并沒(méi)有缺失任何東西，僅僅是我們使用這些系統(tǒng)的方式存在問(wèn)題，只要有足夠出色的創(chuàng)意人士去使用它就能實(shí)現(xiàn)。這可能確實(shí)是答案。只要人們?nèi)找岳^夜地鉆研這些工具，熟練掌握達(dá)到與工具合二為一的境界，并賦予項(xiàng)目靈魂動(dòng)力。當(dāng)這一點(diǎn)與真正的深度創(chuàng)意相結(jié)合時(shí)，一些更加不可思議的事情就有可能實(shí)現(xiàn)。

4.開(kāi)放模型、Gemma與本地AI

Garry Tan：把話題切換到開(kāi)源以及開(kāi)放權(quán)重。最近發(fā)布的Gemma功能強(qiáng)大且能在本地運(yùn)行。這對(duì)未來(lái)意味著什么？AI是否會(huì)從主要在云端運(yùn)行轉(zhuǎn)變?yōu)檎嬲莆赵谟脩羰种械墓ぞ撸@是否會(huì)改變模型的開(kāi)發(fā)者群體？

Demis Hassabis：我們是開(kāi)源和開(kāi)放科學(xué)的堅(jiān)定支持者。正如前面提到的AlphaFold，我們將其成果和所有科學(xué)工作都免費(fèi)公開(kāi)，直到今天依然在頂級(jí)期刊上發(fā)表論文。我們致力于打造同等參數(shù)規(guī)模下世界領(lǐng)先的模型，Gemma正是為此而生。Gemma在短短兩周半內(nèi)的下載量就達(dá)到了四千萬(wàn)次，我們希望更多人能基于它進(jìn)行開(kāi)發(fā)。

受限于人才和算力資源，同時(shí)打造兩個(gè)具有不同屬性的最高規(guī)格前沿模型非常困難。因此我們決定將應(yīng)用于安卓設(shè)備、智能眼鏡和機(jī)器人領(lǐng)域的邊緣模型進(jìn)行開(kāi)源。因?yàn)橐坏⒛Ｐ筒渴鸬浇K端設(shè)備上它們就很容易受到攻擊，不如直接完全開(kāi)放。我們?cè)贜ano尺寸級(jí)別上對(duì)其進(jìn)行了統(tǒng)一規(guī)劃，這在戰(zhàn)略上也對(duì)我們有利。

Garry Tan：早些時(shí)候我向你演示了一個(gè)類似電影《她》里面Samantha版本的Gemini。演示成功運(yùn)行讓人覺(jué)得不可思議。Gemini是原生多模態(tài)構(gòu)建的，其上下文深度、工具使用以及語(yǔ)音直接輸入模型的體驗(yàn)是無(wú)與倫比的，毫無(wú)疑問(wèn)是目前最好的。

Demis Hassabis：Gemini系列從一開(kāi)始就被設(shè)計(jì)為多模態(tài)這一特點(diǎn)仍然被有些低估了。盡管這增加了研發(fā)難度，不再僅僅專注于文本，但我們堅(jiān)信長(zhǎng)遠(yuǎn)來(lái)看會(huì)從中受益。我們現(xiàn)在正見(jiàn)證著這一點(diǎn)。

在基于Gemini構(gòu)建Genie等世界模型時(shí)，這對(duì)機(jī)器人技術(shù)等領(lǐng)域至關(guān)重要。機(jī)器人基礎(chǔ)模型將建立在多模態(tài)之上，憑借Gemini在多模態(tài)方面的強(qiáng)勁表現(xiàn)，我們擁有競(jìng)爭(zhēng)優(yōu)勢(shì)并越來(lái)越多地將其應(yīng)用于Waymo等項(xiàng)目中。數(shù)字助手隨你進(jìn)入現(xiàn)實(shí)世界并在手機(jī)或眼鏡等設(shè)備上運(yùn)行，需要理解物理世界、直觀物理學(xué)以及所處的物理環(huán)境。這正是我們系統(tǒng)非常擅長(zhǎng)的地方。我們將繼續(xù)在這方面發(fā)力，使其保持領(lǐng)先。

5.從AlphaFold到虛擬細(xì)胞

Garry Tan：隨著推理成本的快速下降，當(dāng)推理幾乎免費(fèi)時(shí)什么將成為可能，這又會(huì)如何改變團(tuán)隊(duì)優(yōu)化的目標(biāo)？

Demis Hassabis：我不確定推理成本是否真的能降到幾乎為零。這有點(diǎn)像杰文斯悖論，最終大家會(huì)使用數(shù)以百萬(wàn)計(jì)的智能體協(xié)同工作，或者讓智能體朝著多個(gè)方向思考并進(jìn)行集成，這些都會(huì)消耗掉可用的推理資源。如果核聚變、超導(dǎo)體或電池技術(shù)取得突破，能源成本確實(shí)會(huì)降低甚至趨于零，但芯片制造的物理瓶頸依然存在。至少在未來(lái)幾十年里依然會(huì)有資源配額限制，因此必須高效地利用算力。

Garry Tan：好在較小的模型正變得越來(lái)越聰明，這太棒了。觀眾席中有很多生物和生物技術(shù)領(lǐng)域的創(chuàng)始人，我能看到幾位。AlphaFold 3讓我們超越了蛋白質(zhì)，走向了更廣譜的生物分子。我們距離模擬完整的細(xì)胞系統(tǒng)還有多遠(yuǎn)？或者說(shuō)這本質(zhì)上仍然是一個(gè)屬于另一維度的更難的問(wèn)題？

Demis Hassabis：Isomorphic Labs是我們?cè)谕瓿葾lphaFold 2之后從DeepMind拆分出來(lái)的，目前進(jìn)展非常順利。它不僅試圖構(gòu)建AlphaFold這種只負(fù)責(zé)藥物研發(fā)過(guò)程中單個(gè)環(huán)節(jié)的模型，我們還嘗試推進(jìn)相關(guān)的生物化學(xué)和化學(xué)研究，以設(shè)計(jì)出具備正確屬性的化合物。我們很快會(huì)在該領(lǐng)域發(fā)布一些重大公告。

我們的最終目標(biāo)是構(gòu)建一個(gè)完整的虛擬細(xì)胞。我在許多科學(xué)演講中都談到過(guò)這種完整的運(yùn)行模擬：你可以對(duì)細(xì)胞進(jìn)行擾動(dòng)，其輸出結(jié)果將足夠接近實(shí)驗(yàn)數(shù)據(jù)從而產(chǎn)生實(shí)際效用。你可以借此跳過(guò)大量的搜索步驟，生成大量合成數(shù)據(jù)來(lái)訓(xùn)練其他模型，最終預(yù)測(cè)真實(shí)細(xì)胞的情況。我認(rèn)為距離實(shí)現(xiàn)完整的虛擬細(xì)胞大概還需要10年時(shí)間。

DeepMind科學(xué)團(tuán)隊(duì)已經(jīng)著手開(kāi)展這項(xiàng)工作。我們首先從細(xì)胞核入手，因?yàn)樗鄬?duì)自給自足。解決此類問(wèn)題的訣竅在于能否切入復(fù)雜性的一角。雖然最終目標(biāo)是模擬人體，但在此之前需要找到正確的細(xì)節(jié)模擬水平，并找出一個(gè)可以從中提取出足夠獨(dú)立內(nèi)容的切面。你可以對(duì)其進(jìn)行建模和近似，將輸入和輸出整合進(jìn)這個(gè)獨(dú)立的系統(tǒng)，然后只專注于這一部分。從這個(gè)角度來(lái)看，細(xì)胞核是一個(gè)非常有趣的切入點(diǎn)。

另一個(gè)問(wèn)題是目前數(shù)據(jù)不足。我曾與多位頂尖的電子顯微鏡科學(xué)家以及其他成像領(lǐng)域的專家交流過(guò)。如果我們能在不殺死細(xì)胞的前提下對(duì)活體細(xì)胞進(jìn)行成像，這顯然是顛覆性的，因?yàn)槟菍阉D(zhuǎn)化為一個(gè)我們擅長(zhǎng)解決的視覺(jué)問(wèn)題。但我目前還不知道有任何技術(shù)能夠同時(shí)提供納米級(jí)分辨率、不產(chǎn)生破壞，且能在活體動(dòng)態(tài)細(xì)胞中觀察所有相互作用。雖然現(xiàn)在已經(jīng)可以拍攝出極其精細(xì)的靜態(tài)圖像，但這還不足以將其轉(zhuǎn)化為復(fù)雜的視覺(jué)問(wèn)題。

解決這個(gè)問(wèn)題有兩種途徑：一種是由硬件和數(shù)據(jù)驅(qū)動(dòng)的解決方案；另一種則偏向建模，即構(gòu)建出針對(duì)這些動(dòng)力系統(tǒng)更好的學(xué)習(xí)型模擬器。

6.AI作為科學(xué)研究的終極工具

Garry Tan：你一直在關(guān)注除了生物學(xué)之外的各種科學(xué)領(lǐng)域，包括材料科學(xué)、藥物研發(fā)、氣候建模和數(shù)學(xué)。如果讓你對(duì)未來(lái)五年內(nèi)將發(fā)生最劇烈變革的科學(xué)領(lǐng)域進(jìn)行排名，你的名單里會(huì)有哪些？

Demis Hassabis：這些領(lǐng)域都非常令人興奮。我投身AI領(lǐng)域并在整個(gè)30多年的職業(yè)生涯里深耕于此，初衷就是將AI作為終極工具來(lái)使用。我一直認(rèn)為AI將會(huì)是科學(xué)研究、探索環(huán)境、推進(jìn)科學(xué)理解與發(fā)現(xiàn)，以及加深我們對(duì)醫(yī)學(xué)和周圍宇宙理解的終極工具。

我們最初的使命分為兩個(gè)步驟：第一步是解決智能問(wèn)題，即構(gòu)建AGI；第二步是利用它來(lái)解決其他所有問(wèn)題。

當(dāng)時(shí)人們經(jīng)常質(zhì)疑我們是否真的打算解決其他所有問(wèn)題，我們確實(shí)是那個(gè)意思。具體而言，我指的是解決科學(xué)中的根節(jié)點(diǎn)問(wèn)題，即那些能夠開(kāi)啟全新科學(xué)分支或探索途徑的領(lǐng)域，而AlphaFold正是我們要實(shí)現(xiàn)該目標(biāo)的典型范例。

目前全球有超過(guò)300萬(wàn)名研究人員，幾乎世界上每一位生物學(xué)研究人員都在使用AlphaFold。制藥行業(yè)的高管朋友告訴我，今后幾乎每一款研發(fā)出的藥物都將在其研發(fā)的某個(gè)階段使用AlphaFold。這正是我們希望通過(guò)AI產(chǎn)生的影響力，也是我們非常自豪的事情，但我認(rèn)為這僅僅是個(gè)開(kāi)始。

我實(shí)在想不出有任何科學(xué)或工程領(lǐng)域是AI無(wú)法提供幫助的。你提到的那些領(lǐng)域，我認(rèn)為目前正處于類似AlphaFold 1的階段。我們已經(jīng)取得了非常有前景的成果，但還沒(méi)有完全解決該領(lǐng)域的重大挑戰(zhàn)。在接下來(lái)的幾年里，從材料學(xué)到數(shù)學(xué)，所有這些領(lǐng)域都有很多值得探討的內(nèi)容。

Garry Tan：就科學(xué)方面而言，這感覺(jué)具有普羅米修斯般的開(kāi)創(chuàng)性。

Demis Hassabis：的確如此。但同時(shí)，正如普羅米修斯的寓言所警示的那樣，我們必須對(duì)如何使用這些工具、將其用于何處，以及如何防止濫用保持謹(jǐn)慎。

Garry Tan：在座的許多人都試圖創(chuàng)辦將AI應(yīng)用于科學(xué)領(lǐng)域的公司。在你看來(lái)，一家真正推動(dòng)前沿發(fā)展的初創(chuàng)公司與那些僅僅在基礎(chǔ)模型上封裝一個(gè)API就自稱“AI for Science”的公司相比，區(qū)別在哪里？

Demis Hassabis：這是我建議大家重點(diǎn)關(guān)注的事情之一。如果你坐在Y Combinator里觀察各種事物，顯然你必須緊跟AI技術(shù)的發(fā)展趨勢(shì)。但我確實(shí)認(rèn)為，將AI的發(fā)展方向與其他深科技領(lǐng)域相結(jié)合存在巨大的空間。

這種黃金結(jié)合點(diǎn)無(wú)論是材料學(xué)、醫(yī)學(xué)還是其他極其艱深的科學(xué)領(lǐng)域都極具價(jià)值。特別是涉及原子世界這種需要跨學(xué)科團(tuán)隊(duì)的領(lǐng)域，在可預(yù)見(jiàn)的未來(lái)是沒(méi)有捷徑可走的。在這些領(lǐng)域創(chuàng)業(yè)相當(dāng)安全，你不必?fù)?dān)心僅僅因?yàn)榛A(chǔ)模型的一次更新就被徹底席卷。

我個(gè)人一直熱愛(ài)深科技，認(rèn)為任何真正持久且有價(jià)值的事情都不是輕而易舉的。在2010年我們剛起步時(shí)AI也是如此。當(dāng)時(shí)無(wú)論是投資者還是學(xué)術(shù)界，都認(rèn)為AI行不通，認(rèn)為那只是個(gè)在90年代嘗試過(guò)并被證明失敗的小眾課題。但如果你對(duì)自己的想法有堅(jiān)定的信念，清楚這次有什么不同，或者清楚基于自身背景所擁有的特殊優(yōu)勢(shì)，比如你是機(jī)器學(xué)習(xí)專家并且擁有另一個(gè)應(yīng)用領(lǐng)域的專業(yè)知識(shí)，或者你組建了一個(gè)具備該專業(yè)知識(shí)的創(chuàng)始團(tuán)隊(duì)，那你們就能產(chǎn)生巨大的影響并創(chuàng)造極高的價(jià)值。

Garry Tan：這是一個(gè)非常重要的信息。這很容易被遺忘，一旦你做成了大家就覺(jué)得理所當(dāng)然，但在你成功之前人們往往會(huì)反對(duì)你。

Demis Hassabis：確實(shí)如此，當(dāng)初沒(méi)人相信它。這也是為什么我認(rèn)為你必須致力于那些發(fā)自內(nèi)心熱愛(ài)的事情。對(duì)我來(lái)說(shuō)，無(wú)論發(fā)生什么我都會(huì)致力于AI研究。我從小就認(rèn)定這是我能想到的最能產(chǎn)生深遠(yuǎn)影響的事情，事實(shí)證明也確實(shí)如此。而且它也是我能想到的最有趣的研究方向。所以哪怕到了今天我們的技術(shù)還沒(méi)完全跑通，依然身處某個(gè)小車庫(kù)里，或者退回學(xué)術(shù)界，我肯定還會(huì)通過(guò)某種方式繼續(xù)研究AI。

7.AlphaFold的突破模式

Garry Tan：AlphaFold就像是一個(gè)你所追求的并且最終成功的突發(fā)性突破案例。你認(rèn)為是什么讓科學(xué)領(lǐng)域具備了實(shí)現(xiàn)AlphaFold式突破的成熟條件？是否存在某種模式或者特定的目標(biāo)函數(shù)？

Demis Hassabis：等我有空閑的時(shí)候應(yīng)該把這件事專門寫下來(lái)。但我從AlphaGo和AlphaFold等所有的Alpha項(xiàng)目中學(xué)到的教訓(xùn)是：如果一個(gè)問(wèn)題可以被描述為大規(guī)模的組合搜索問(wèn)題，那么我們現(xiàn)有的技術(shù)就能發(fā)揮巨大的作用。在某種程度上搜索空間越大越好，這就使得任何暴力破解或特殊情況算法都無(wú)法解決它。無(wú)論是圍棋的著法還是蛋白質(zhì)的不同構(gòu)型，其數(shù)量都遠(yuǎn)超宇宙中的原子總數(shù)。

其次，你需要一個(gè)明確的目標(biāo)函數(shù)，比如最小化蛋白質(zhì)中的自由能，或者贏得圍棋比賽。你需要清晰地定義這個(gè)目標(biāo)函數(shù)以便執(zhí)行算法。

最后，你需要足夠的數(shù)據(jù)，或者一個(gè)能夠?yàn)槟闵纱罅糠植純?nèi)模擬合成數(shù)據(jù)的模擬器。只要滿足這些條件，利用當(dāng)今的方法你就能在解決問(wèn)題上走得很遠(yuǎn)，在大海撈針般的搜索中找到你需要的解決方案。我首先想到的就是藥物研發(fā)。物理定律允許存在某種可以治愈特定疾病且沒(méi)有任何副作用的化合物，唯一的問(wèn)題是如何以一種高效的方式找到它。我們通過(guò)AlphaGo首次證明了這些系統(tǒng)能夠在大海撈針般的搜索中發(fā)現(xiàn)完美的目標(biāo)。

8.AI能否實(shí)現(xiàn)真正的科學(xué)發(fā)現(xiàn)？

Garry Tan：我們來(lái)談點(diǎn)元層面的問(wèn)題。我們探討了人類利用這些方法來(lái)創(chuàng)造AlphaFold，但在這個(gè)元層面，人類也可以利用AI來(lái)探索可能的假設(shè)空間。我們距離能夠進(jìn)行真正科學(xué)推理，而不僅僅是對(duì)數(shù)據(jù)進(jìn)行模式匹配的AI系統(tǒng)還有多遠(yuǎn)？

Demis Hassabis：我認(rèn)為我們已經(jīng)很接近了。所有的前沿實(shí)驗(yàn)室都在進(jìn)行這方面的實(shí)驗(yàn)，我們正在開(kāi)發(fā)像Co-Scientist這樣的通用系統(tǒng)，還有AlphaEvolve等能夠比基礎(chǔ)大模型做得更深入的算法。

雖然目前我還未看到任何具有真正意義的重大科學(xué)發(fā)現(xiàn)，但我認(rèn)為它即將到來(lái)。這可能與我們討論過(guò)的關(guān)于創(chuàng)造力以及如何超越已知領(lǐng)域的界限有關(guān)。到那時(shí)，AI就不只是進(jìn)行模式匹配或外推，因?yàn)橐呀?jīng)沒(méi)有既有的模式可供匹配了，它需要進(jìn)行類比推理。目前這些系統(tǒng)可能還不具備這種能力，或者說(shuō)我們還沒(méi)有找到正確的方法來(lái)激發(fā)這種能力。

我在科學(xué)領(lǐng)域經(jīng)常這樣測(cè)試它：它能否提出一個(gè)真正有趣的假設(shè)，而不僅僅是解決一個(gè)問(wèn)題。我們現(xiàn)在談?wù)摰目墒墙鉀Q黎曼猜想或千禧年大獎(jiǎng)難題這種需要頂尖數(shù)學(xué)家投入一生去研究的深?yuàn)W問(wèn)題。那是一個(gè)更高一級(jí)的難度，我們目前還不知道該如何實(shí)現(xiàn)這一點(diǎn)，但我認(rèn)為這并不神秘，這些系統(tǒng)最終將能夠做到。

也許我們還缺少一兩塊拼圖。我有時(shí)會(huì)把它稱作我的愛(ài)因斯坦測(cè)試。你能不能把1901年之前的物理學(xué)知識(shí)教給一個(gè)系統(tǒng)，然后看它是否能像愛(ài)因斯坦在1905年的奇跡年那樣提出狹義相對(duì)論？我們也許應(yīng)該持續(xù)進(jìn)行這項(xiàng)測(cè)試。一旦實(shí)現(xiàn)了這一點(diǎn)，我們離這些系統(tǒng)能夠發(fā)明出真正新穎、前所未有的事物的階段就不遠(yuǎn)了。

9.在AGI到來(lái)之前該構(gòu)建什么

Garry Tan：最后一個(gè)問(wèn)題提給在座想要致力于類似長(zhǎng)期科技項(xiàng)目的資深技術(shù)人員。你主導(dǎo)了全球最大的AI項(xiàng)目之一，這些年來(lái)你一直是這一領(lǐng)域的先驅(qū)。我想這個(gè)房間里的每一個(gè)人都會(huì)發(fā)自內(nèi)心地感謝你以及DeepMind的同事們。關(guān)于在最前沿領(lǐng)域進(jìn)行構(gòu)建，有哪些事是你現(xiàn)在已知、但希望當(dāng)初就能掌握的？

Demis Hassabis：我認(rèn)為我們前面已經(jīng)涵蓋了其中的一部分。攻克深層難題在某些方面并不比解決淺顯表層的問(wèn)題更難，它們只是難點(diǎn)不同?？紤]到人生苦短、精力和時(shí)間都有限，你大可以把生命投入到真正能產(chǎn)生影響的事情中。如果你不去推動(dòng)，這些影響就不會(huì)發(fā)生。

另一件事是我非常熱愛(ài)跨學(xué)科研究。我認(rèn)為在接下來(lái)的幾年里，跨領(lǐng)域的結(jié)合會(huì)變得越來(lái)越普遍，有了AI的幫助，尋找這些領(lǐng)域之間的聯(lián)系將變得更加容易。

還有一點(diǎn)我想說(shuō)的是，如果你開(kāi)啟了一段深科技之旅，這段征程往往需要長(zhǎng)達(dá)10年。那么你現(xiàn)在必須考慮AGI可能會(huì)在這段旅程的中途出現(xiàn)。我對(duì)AGI實(shí)現(xiàn)時(shí)間的預(yù)測(cè)大約是2030年。如果AGI在中途出現(xiàn)這意味著什么？它并不一定是壞事，但你必須將它納入考量。AGI系統(tǒng)會(huì)如何利用你的技術(shù)？它會(huì)用來(lái)做什么？這又回到了我們之前提到的專業(yè)工具與通用AI系統(tǒng)的關(guān)系。

我可以預(yù)見(jiàn)，像Gemini或Claude這樣的通用系統(tǒng)會(huì)將AlphaFold之類的專業(yè)系統(tǒng)作為工具使用。我不認(rèn)為我們會(huì)把所有的蛋白質(zhì)折疊知識(shí)都強(qiáng)行整合進(jìn)一個(gè)通用的大腦中，這會(huì)導(dǎo)致過(guò)多的回歸問(wèn)題。如果把所有專業(yè)知識(shí)都塞進(jìn)去，肯定會(huì)對(duì)其語(yǔ)言等其他能力產(chǎn)生負(fù)面影響。因此，更好的做法是擁有非常出色的通用工具調(diào)用模型，讓它們?nèi)フ{(diào)用那些特定的工具。這些專業(yè)工具將處于一個(gè)獨(dú)立的系統(tǒng)中。你需要認(rèn)真對(duì)待這件事，試著想象一下那個(gè)世界會(huì)是什么樣子，并在沿途構(gòu)建出一些有價(jià)值的東西。