本文來自微信公眾號(hào)： 深究科學(xué) ，作者：深究科學(xué)

問：為什么科學(xué)對(duì)你如此重要？

哈薩比斯：我一直被一種強(qiáng)烈的愿望驅(qū)動(dòng)，那就是更深入地理解我們周圍的世界。我認(rèn)為，科學(xué)方法也許是人類歷史上最重要的思想，它使人類得以不斷進(jìn)步、拓展知識(shí)。對(duì)我而言，沒有什么比站在人類知識(shí)最前沿更令人興奮——推動(dòng)邊界、首次發(fā)現(xiàn)未知事物，那正是科學(xué)最精彩的時(shí)刻。

問：為什么你把自己視為科學(xué)家？你是如何走上科學(xué)道路的？

哈薩比斯：如今，我首先把自己看作一名科學(xué)家。但在職業(yè)生涯早期，當(dāng)我為游戲開發(fā)AI、并在劍橋大學(xué)學(xué)習(xí)計(jì)算機(jī)科學(xué)時(shí)，我更多認(rèn)為自己是工程師。后來，我開始進(jìn)一步追隨自己長(zhǎng)期以來對(duì)大腦的興趣，攻讀認(rèn)知神經(jīng)科學(xué)博士，研究記憶與想象力。我逐漸意識(shí)到，自己最適合以科學(xué)家的方式工作：提出關(guān)于世界的假設(shè)，再設(shè)計(jì)實(shí)驗(yàn)去驗(yàn)證或證偽它們。

不過，我也非常務(wù)實(shí)，非常關(guān)注現(xiàn)實(shí)世界中的影響力。這也是我“工程師大腦”仍在發(fā)揮作用的地方。相比沉迷于純理論爭(zhēng)論，我更傾向于思考：如何構(gòu)建工具或?qū)嶒?yàn)來驗(yàn)證一個(gè)假設(shè)。AlphaGo與AlphaFold就是這種思維方式的典型例子。

問：哪些科學(xué)成就最令你受到啟發(fā)？

哈薩比斯：我非常崇拜文藝復(fù)興時(shí)期和古希臘時(shí)期的“通才型”人物，比如亞里士多德（Aristotle）和達(dá)·芬奇（Leonardo da Vinci）。他們不會(huì)在人文學(xué)科與科學(xué)之間劃出邊界。我很喜歡這種思維方式，因?yàn)樗軒椭藗冊(cè)诳此坪敛幌嚓P(guān)的領(lǐng)域之間發(fā)現(xiàn)聯(lián)系。我相信，未來十到二十年最大的突破，就會(huì)來自這些跨領(lǐng)域結(jié)合。而AI將幫助我們找到不同學(xué)科之間的共同性與交叉點(diǎn)。

此外，我也深受那些“想象力飛躍”所鼓舞?；赝麣v史，愛因斯坦（Albert Einstein）、牛頓（Isaac Newton）、玻爾（Niels Bohr）、拉馬努金（Srinivasa Ramanujan）與費(fèi)曼（Richard Feynman）等科學(xué)家與數(shù)學(xué)家，似乎會(huì)突然間提出一種全新的世界理解方式。他們的大腦中同時(shí)存在各種思想、知識(shí)與興趣，然后突然完成一次直覺性的飛躍。

問：你認(rèn)為目前人類尚未解決的最重要科學(xué)問題有哪些？

哈薩比斯：我之所以進(jìn)入科學(xué)與AI領(lǐng)域，是因?yàn)樾r(shí)候我就對(duì)那些關(guān)于現(xiàn)實(shí)本質(zhì)與意識(shí)本質(zhì)的終極問題著迷，甚至某種意義上說，有些“揮之不去”。時(shí)間是什么？引力是什么？它如何與量子世界統(tǒng)一？令人驚訝的是，在過去五十多年里，這些根本性問題并沒有取得太大進(jìn)展，部分原因在于它們極其復(fù)雜。

我一直認(rèn)為，AI有可能成為推進(jìn)知識(shí)前沿的終極工具。無論是處理海量數(shù)據(jù)，還是輔助我們提出新的猜想，我都認(rèn)為AI能幫助我們攻克這些根本問題。

問：你如何將這些關(guān)于現(xiàn)實(shí)本質(zhì)的問題，與一種計(jì)算性的理解方式聯(lián)系起來？

哈薩比斯：我一直著迷于這樣的問題：經(jīng)典計(jì)算機(jī)或圖靈機(jī)（Turing Machine）究竟能模擬什么、不能模擬什么？答案也許能揭示現(xiàn)實(shí)的本質(zhì)。自然界中的大多數(shù)事物都具有穩(wěn)定結(jié)構(gòu)——細(xì)胞行為、山脈形態(tài)、行星軌道等，它們經(jīng)過演化與時(shí)間篩選而保留下來。這意味著，它們背后應(yīng)該存在某種模式或過程，可以被神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)。像AlphaFold這樣的AI系統(tǒng)已經(jīng)向我們展示：相比過去的認(rèn)知，經(jīng)典計(jì)算機(jī)其實(shí)能夠模擬更加復(fù)雜的系統(tǒng)。

也許從極限意義上說，大多數(shù)自然系統(tǒng)都可以被經(jīng)典系統(tǒng)模擬或“逆向工程化”。這也支持了我的一個(gè)猜想：信息可能才是物理學(xué)中最基礎(chǔ)的單位，比物質(zhì)和能量更根本。

問：為什么你認(rèn)為信息可能是理解現(xiàn)實(shí)最根本的層面？

哈薩比斯：傳統(tǒng)物理學(xué)中，能量與物質(zhì)被視為基礎(chǔ)。但后來，香農(nóng)（Claude Shannon）、圖靈（Alan Turing）和馮·諾依曼（John von Neumann）等計(jì)算機(jī)科學(xué)奠基者提出了信息熵、信息度量與互信息等概念。不過，他們是在既有物理學(xué)框架下發(fā)展信息理論。也許方向本應(yīng)相反：物理學(xué)應(yīng)該建立在信息之上。這也與圖靈機(jī)以及“什么過程是可計(jì)算的”有關(guān)。物理學(xué)家通常認(rèn)為宇宙是量子系統(tǒng)，而經(jīng)典系統(tǒng)無法完整模擬量子系統(tǒng)，因?yàn)槠鋸?fù)雜度過于龐大。但如果事實(shí)證明，自然界中遠(yuǎn)比我們想象更多的物理過程能夠被經(jīng)典系統(tǒng)準(zhǔn)確模擬，那么這將對(duì)我們理解物理學(xué)產(chǎn)生重大影響。

從根本上說，我最關(guān)心的是現(xiàn)實(shí)本質(zhì)。我懷疑，我們目前對(duì)量子系統(tǒng)的理解并非完整答案。未來，我們或許會(huì)發(fā)現(xiàn)一種更簡(jiǎn)單的底層描述方式，而這種方式更適合由經(jīng)典系統(tǒng)建模。如果我們將宇宙理解為一個(gè)“計(jì)算宇宙”，我們可能更容易發(fā)現(xiàn)這一點(diǎn)。

問：如果采用一種“信息”或“可計(jì)算性”的視角，我們是否會(huì)遭遇科爾莫哥洛夫復(fù)雜度（Kolmogorov Complexity）、P=NP問題或停機(jī)問題等限制？

哈薩比斯：會(huì)的。而我認(rèn)為，這些正是最值得探索的邊界。

P=NP問題是科學(xué)中最重要的問題之一。我傾向于認(rèn)為P不等于NP，也就是說，確實(shí)存在一些問題，在現(xiàn)實(shí)時(shí)間內(nèi)無法被有效求解，除非借助量子計(jì)算機(jī)。

但我們還需要更深入理解，因?yàn)楝F(xiàn)實(shí)可能比傳統(tǒng)理論更微妙。

在AlphaGo與AlphaFold的研究中，我們發(fā)現(xiàn)：如果進(jìn)行大量“預(yù)計(jì)算”（precompute），一些原本極其復(fù)雜的問題，可以在多項(xiàng)式時(shí)間內(nèi)近似最優(yōu)地求解。

神經(jīng)網(wǎng)絡(luò)實(shí)際上是在利用海量預(yù)計(jì)算，將知識(shí)壓縮進(jìn)一種高效結(jié)構(gòu)中。隨后在測(cè)試階段，它就能縮小搜索空間，而不必遍歷所有可能性。

例如，一個(gè)普通蛋白質(zhì)大約存在10的300次方種可能構(gòu)象。如果窮舉搜索，所需時(shí)間會(huì)超過宇宙年齡。

因此，你必須采取更聰明的方法：學(xué)習(xí)不同氨基酸序列中的規(guī)律，只搜索極小一部分可能性。

這正是AlphaFold所做到的事情。

圍棋也是類似情況。圍棋大約有10的170次方種局面。AlphaGo不可能靠暴力計(jì)算獲勝，而是通過學(xué)習(xí)“合理棋步”的模型，只關(guān)注最有價(jià)值的路徑。

這些AI系統(tǒng)成功駕馭巨大搜索空間的能力，非常值得深思。我懷疑其中蘊(yùn)含著極其深刻的原理。

這一切都在告訴我們，AI不僅在改變技術(shù)，也在幫助我們重新理解現(xiàn)實(shí)本身。

問：AlphaFold似乎正好體現(xiàn)了你所說的“自然世界存在可被學(xué)習(xí)的結(jié)構(gòu)”。能談?wù)勀銈兪侨绾巫龅降膯幔?/p>

哈薩比斯：AlphaFold是我們對(duì)“蛋白質(zhì)折疊問題”的解決方案。

蛋白質(zhì)本質(zhì)上由氨基酸序列組成，可以粗略理解為一串“一維字母”。但在自然界中，它會(huì)折疊成三維結(jié)構(gòu)，而這種結(jié)構(gòu)很大程度上決定了蛋白質(zhì)功能。

這對(duì)藥物研發(fā)和疾病研究至關(guān)重要。

預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)，是生物學(xué)五十年來最大的挑戰(zhàn)之一。

我們利用AlphaFold實(shí)現(xiàn)了接近原子級(jí)精度的預(yù)測(cè)，這已經(jīng)足夠讓實(shí)驗(yàn)科學(xué)家直接使用。

我們的方法建立在大約15萬個(gè)已知蛋白結(jié)構(gòu)數(shù)據(jù)之上。這些數(shù)據(jù)是結(jié)構(gòu)生物學(xué)家過去三四十年使用電子顯微鏡等昂貴設(shè)備painstakingly獲得的。

這些數(shù)據(jù)恰好足以讓AI系統(tǒng)學(xué)習(xí)蛋白質(zhì)的拓?fù)浣Y(jié)構(gòu)規(guī)律。

蛋白質(zhì)當(dāng)然不會(huì)隨機(jī)折疊，它們受到各種約束，而AI學(xué)會(huì)了這些規(guī)律。

最終，系統(tǒng)能夠在幾秒鐘內(nèi)預(yù)測(cè)一個(gè)未知蛋白的合理結(jié)構(gòu)。

隨后，我們?cè)谝荒陜?nèi)預(yù)測(cè)了科學(xué)界已知的兩億個(gè)蛋白質(zhì)結(jié)構(gòu)，并與歐洲生物信息學(xué)研究所（European Bioinformatics Institute）合作，將其免費(fèi)開放給全球研究者。

問：你們已經(jīng)將AlphaFold擴(kuò)展到了AlphaFold 3，并開始研究蛋白質(zhì)相互作用。那么下一步會(huì)是細(xì)胞嗎？

哈薩比斯：AlphaFold 2預(yù)測(cè)的是蛋白質(zhì)的靜態(tài)結(jié)構(gòu)快照。但生物系統(tǒng)本質(zhì)上是動(dòng)態(tài)的。我們需要理解蛋白質(zhì)如何相互作用，以及它們?nèi)绾胃淖冃螒B(tài)與行為。AlphaFold 3是下一階段?，F(xiàn)在，我們已經(jīng)能預(yù)測(cè)蛋白質(zhì)與蛋白質(zhì)、蛋白質(zhì)與配體、蛋白質(zhì)與RNA、蛋白質(zhì)與DNA之間的相互作用。也就是說，生命中幾乎所有關(guān)鍵分子的“兩兩相互作用”，AlphaFold 3都能建模。但若想進(jìn)一步模擬整個(gè)細(xì)胞，我們還需要更大的突破。

因?yàn)榧?xì)胞中存在級(jí)聯(lián)反應(yīng)，涉及遠(yuǎn)超兩個(gè)分子的復(fù)雜網(wǎng)絡(luò)。下一階段可能是模擬某條生物通路，然后是酵母細(xì)胞等簡(jiǎn)單生命體。之后，也許是更復(fù)雜生物中的細(xì)胞器，最終甚至整個(gè)生物體。

這是我二十多年來一直懷抱的夢(mèng)想。如果未來我們能建立足夠真實(shí)的細(xì)胞模擬系統(tǒng)，那么大量實(shí)驗(yàn)就能在計(jì)算機(jī)中完成，速度可能比濕實(shí)驗(yàn)室快幾個(gè)數(shù)量級(jí)。

實(shí)驗(yàn)室將主要負(fù)責(zé)驗(yàn)證，而非探索。這樣的“虛擬細(xì)胞”將徹底改變基礎(chǔ)生物學(xué)與藥物研發(fā)。

問：你們還在研究物理、化學(xué)、天氣、氣候等領(lǐng)域。這些領(lǐng)域的共同點(diǎn)是什么？

哈薩比斯：我們通常會(huì)從三個(gè)方面判斷一個(gè)問題是否適合當(dāng)前AI方法。

第一，它是否可以被描述為一個(gè)巨大的組合空間問題？

第二，如果是，是否擁有足夠的數(shù)據(jù)去學(xué)習(xí)這個(gè)空間的結(jié)構(gòu)？或者至少能通過模擬器生成額外數(shù)據(jù)？

第三，是否存在明確的優(yōu)化目標(biāo)？

在游戲中，目標(biāo)是獲勝；在自然系統(tǒng)中，也許是最小化自由能。

如果這三個(gè)條件成立，就可以利用模型與目標(biāo)函數(shù)共同搜索最優(yōu)解。

令人驚訝的是，大量科學(xué)問題都符合這一結(jié)構(gòu)。

此外，我們還會(huì)優(yōu)先選擇那些“根節(jié)點(diǎn)問題”——一旦解決，就能開啟整個(gè)新研究領(lǐng)域。

蛋白質(zhì)折疊就是這樣的典型問題。

問：數(shù)學(xué)似乎并不天然具有結(jié)構(gòu)，比如素?cái)?shù)分布？

哈薩比斯：關(guān)于數(shù)字中究竟存在多少結(jié)構(gòu)，這仍是開放問題。但我懷疑，結(jié)構(gòu)其實(shí)相當(dāng)豐富。數(shù)學(xué)本來就是為了描述現(xiàn)實(shí)世界而發(fā)展出來的，而現(xiàn)實(shí)世界本身具有結(jié)構(gòu)。

像拉馬努金（Srinivasa Ramanujan）這樣的數(shù)學(xué)家，往往能跳過中間推導(dǎo)，直接給出驚人的結(jié)果，以至于他本人都覺得這些靈感來自神啟。我們通常把這種能力稱為“直覺”。

但直覺并不是魔法，而是大腦長(zhǎng)期經(jīng)驗(yàn)積累形成的隱性知識(shí)。那些在某領(lǐng)域極其擅長(zhǎng)的人，比如音樂家，擁有高度抽象且高效的知識(shí)結(jié)構(gòu)。我認(rèn)為，這種過程最終也是可以被AI建模的。

問：你認(rèn)為當(dāng)前AI系統(tǒng)在科學(xué)能力方面有哪些局限？

哈薩比斯：當(dāng)前AI缺少的關(guān)鍵能力之一是真正的創(chuàng)造力。我指的不是“解決難題”，而是像提出黎曼猜想（Riemann Hypothesis）或千禧年難題那樣，創(chuàng)造出真正深刻而美麗的問題。提出正確的問題，往往才是科學(xué)中最困難的部分。我們至今并不真正理解人類專家級(jí)創(chuàng)造力是如何產(chǎn)生的。

另一個(gè)問題是一致性。今天的AI系統(tǒng)可能能解國(guó)際數(shù)學(xué)奧賽題，但換個(gè)提問方式，又可能在小學(xué)數(shù)學(xué)上犯錯(cuò)。真正的人類數(shù)學(xué)家不會(huì)這樣。

問：你如何定義AGI（通用人工智能）？

哈薩比斯：我一直把AGI定義為：具備人類心智全部認(rèn)知能力的系統(tǒng)。人腦是目前已知唯一能夠證明“通用智能”可行性的存在。人類的大腦極其通用且適應(yīng)性極強(qiáng)。我們?cè)局皇菫榱酸鳙C采集而進(jìn)化出的生物，卻最終發(fā)明了科學(xué)方法、望遠(yuǎn)鏡、飛機(jī)與計(jì)算機(jī)。歷史上偉大藝術(shù)家、科學(xué)家與哲學(xué)家的創(chuàng)造力，都來自同一種腦結(jié)構(gòu)。

因此，在我看來，只有當(dāng)AI能夠覆蓋人腦所展現(xiàn)出的全部能力時(shí)，我們才真正構(gòu)建出了AGI。例如，可以設(shè)想這樣一個(gè)測(cè)試：給AI設(shè)定1910年的知識(shí)截止時(shí)間，看看它是否能夠像愛因斯坦一樣，在1915年獨(dú)立提出廣義相對(duì)論。目前答案顯然是否定的。

不過，今天的基礎(chǔ)模型已經(jīng)極其驚人。我毫不懷疑，它們最終將成為未來AGI系統(tǒng)的核心骨架。但僅靠不斷擴(kuò)大規(guī)模，是否足以達(dá)到AGI，仍是一個(gè)開放問題。

也許我們還需要幾個(gè)類似Transformer或深度強(qiáng)化學(xué)習(xí)級(jí)別的重大突破。

問：在評(píng)估我們是否已經(jīng)實(shí)現(xiàn)AGI（通用人工智能）時(shí)，一方面，人們可以使用一整套測(cè)試；另一方面，也許會(huì)出現(xiàn)某種直覺性的飛躍或火花——就像AlphaGo的“第三十七手”那樣（當(dāng)時(shí)AlphaGo跳出了人類的策略與直覺，下出了一步極不可能的棋，并最終擊敗了圍棋世界冠軍李世石）。到那時(shí)，我們或許會(huì)說：“啊，我想我們已經(jīng)實(shí)現(xiàn)了！”那么，這究竟需要兩者兼具，還是只需要其中之一？

哈薩比斯：我認(rèn)為兩者都需要。這是人類歷史上如此重要的時(shí)刻，因此我認(rèn)為我們必須以非?？茖W(xué)、非常確定的方式來對(duì)待它。應(yīng)該會(huì)出現(xiàn)大量顯而易見的發(fā)明或創(chuàng)造性案例，比如某種新的物理理論被提出，或者某個(gè)新的數(shù)學(xué)猜想被提出，并且數(shù)學(xué)家們一致認(rèn)為它極具意義。AlphaGo不只是提出了一種新的圍棋策略；我更希望看到的是，它能否發(fā)明出一種像圍棋一樣優(yōu)雅的游戲？我希望能看到多個(gè)這樣的例子出現(xiàn)，那它才至少能夠開始被視為AGI的候選者。

然后，我認(rèn)為我們還需要一種窮盡式的科學(xué)方法，以確保系統(tǒng)中不存在任何缺陷或漏洞。今天的一個(gè)例子就是LLM（大型語言模型）。普通人其實(shí)很容易想到它們做不到的事情。例如，它們甚至無法以業(yè)余棋手的水平下國(guó)際象棋，也無法學(xué)習(xí)一種新游戲，而且它們不能持續(xù)學(xué)習(xí)。在推理、記憶和一致性方面也都存在問題。所有這些問題都需要被解決，系統(tǒng)才有可能通過我剛才提出的那種測(cè)試。

問：科學(xué)家應(yīng)該如何看待AI？它是工具、合作伙伴，還是其他東西？

哈薩比斯：未來十年左右，我們應(yīng)該首先把AI視為一種極其強(qiáng)大的工具。它能夠幫助科學(xué)家處理數(shù)據(jù)、匹配模式、編寫代碼或完成工程任務(wù)。

作為工具，AI將推動(dòng)科學(xué)與醫(yī)學(xué)進(jìn)入新的黃金時(shí)代。提出猜想與假設(shè)的，仍將是人類專家；但AI會(huì)讓他們效率提升十倍甚至百倍。再往后，也許AI會(huì)逐漸變成真正的合作伙伴。

問：你一直非常重視AI的負(fù)責(zé)任使用。這具體意味著什么？

哈薩比斯：意味著堅(jiān)持科學(xué)方法，對(duì)測(cè)試與結(jié)論保持嚴(yán)格與謹(jǐn)慎。也意味著認(rèn)真思考AI被部署后的二階影響。

我們當(dāng)然不可能完全預(yù)測(cè)所有后果，因?yàn)锳I發(fā)展速度太快，但必須盡一切努力。

此外，我們還應(yīng)該利用科學(xué)方法本身來研究AI，它的局限、它的能力、它的風(fēng)險(xiǎn)，

并據(jù)此建立適當(dāng)?shù)陌踩o(hù)欄。

我認(rèn)為，相比“先構(gòu)建、后提問”的黑客文化，科學(xué)方法更適合應(yīng)對(duì)AI這種深遠(yuǎn)而強(qiáng)大的技術(shù)。

問：你最希望自己的工作能夠?yàn)槿祟悗砟男┲卮笠嫣帲?/h2>

哈薩比斯：第一，是改善人類健康并治愈疾病，尤其是那些對(duì)世界較貧困地區(qū)影響尤為嚴(yán)重的疾病。我認(rèn)為，我們完全可以比今天做得好得多。

其次，是幫助解決能源、氣候和環(huán)境問題。這包括更快地開發(fā)新材料和新技術(shù)、優(yōu)化現(xiàn)有基礎(chǔ)設(shè)施與能源電網(wǎng)，以及對(duì)地球正在發(fā)生的變化以及人類如何影響生態(tài)系統(tǒng)進(jìn)行建模和分析。在我看來，這些是在近期內(nèi)我們最應(yīng)該利用AI去做的事情。

問：如果2050年我們?cè)俅芜M(jìn)行這場(chǎng)對(duì)話，會(huì)談些什么？

哈薩比斯：按照如今的發(fā)展速度，到2050年，世界一定會(huì)截然不同。我希望，到那時(shí)，人類已經(jīng)安全地將AGI引入世界，并讓它造福全人類。我們或許會(huì)討論：一個(gè)“后AGI時(shí)代”的社會(huì)、極大豐富的物質(zhì)與知識(shí)資源、科學(xué)發(fā)現(xiàn)的新黃金時(shí)代、以及重新充滿驚奇感的人類文明。

原文鏈接

https://www.amacad.org/publication/daedalus/ai-ultimate-tool-science-conversation-demis-hassabis