久操免费资源,久久伦理一区,国产又黄又爽视频,情草av网,日本久久久在线免费,精品人妻互换一区三区,熟妇女一区二区三区,亚洲AV三区视频免费,老司机在线精品

本文是Anthropic CEO達里奧·阿莫代伊的專訪整理,他警示AI將重構(gòu)宏觀經(jīng)濟,呼吁提前應(yīng)對風(fēng)險、公平分配AI紅利。 ## 1. AI發(fā)展與行業(yè)競爭格局 AI能力保持平滑指數(shù)級增長,每隔數(shù)月就會顯著躍升,而非公眾認(rèn)知的兩極波動。 Anthropic選擇聚焦企業(yè)級市場,避開消費者端注意力經(jīng)濟陷阱,拒絕生成劣質(zhì)娛樂內(nèi)容爭奪用戶時長。 Anthropic業(yè)務(wù)保持平滑高速增長,年經(jīng)常性收入預(yù)計達440億美元,最新一級市場估值超9000億美元,已超過OpenAI,旗下Claude Code占據(jù)超過半數(shù)AI編程工具市場份額。 ## 2. AI驅(qū)動的經(jīng)濟變革與風(fēng)險 AI已達到能力拐點,面向非技術(shù)人群的Claude Co-work幾乎完全由Claude Opus自主開發(fā),僅耗時一周半,上線一天各項指標(biāo)就達到同類產(chǎn)品的四倍。 AI將大幅提升生產(chǎn)效率,推動GDP高速增長,同時會替代大量知識型勞動,人類社會將首次出現(xiàn)**高GDP增速與高失業(yè)率并存**的局面,傳統(tǒng)職業(yè)體系面臨崩潰。 未來核心挑戰(zhàn)不再是經(jīng)濟增長,而是財富分配,若AI紅利被少數(shù)群體壟斷,將引發(fā)災(zāi)難性社會危機。 ## 3. AI安全的核心實現(xiàn)路徑 僅依靠外部對話測試AI安全性是極其危險的,高級AI完全有能力向人類隱瞞真實運行邏輯。 **機制可解釋性是實現(xiàn)AI安全可控的唯一可靠路徑**,需要深入模型內(nèi)部觀測底層數(shù)據(jù)運作機制,打破算法黑箱。 ## 4. 社會轉(zhuǎn)型的應(yīng)對方向 第一,要建立可衡量AI經(jīng)濟轉(zhuǎn)型的實時統(tǒng)計指標(biāo),為政策制定提供準(zhǔn)確依據(jù),引導(dǎo)企業(yè)和勞動者適應(yīng)轉(zhuǎn)型。 第二,政府需要主動干預(yù)分配,將AI收益惠及全體民眾,同時加大公共領(lǐng)域AI投入,縮小不同地區(qū)、階層的發(fā)展差距。 第三,推動基礎(chǔ)教育轉(zhuǎn)型,放棄單純的職業(yè)技能訓(xùn)練,回歸對人類內(nèi)在綜合素養(yǎng)的培養(yǎng),適配重塑后的就業(yè)市場。
Anthropic CEO訪談:Claude新功能幾乎完全由AI自主開發(fā)
2026-05-17 14:49

Anthropic CEO訪談:Claude新功能幾乎完全由AI自主開發(fā)

本文來自微信公眾號:劃重點KeyPoints,作者:林易,編輯:重點君,原文標(biāo)題:《Anthropic CEO最新專訪:Claude新功能幾乎完全由AI自主開發(fā),軟件將步入免費時代》,題圖來自:視覺中國



過去一年,Anthropic毫無疑問是全球大模型領(lǐng)域的最大贏家。


旗下AI編程工具Claude Code在開發(fā)者群體中快速普及,拿下超過半數(shù)市場份額。其營收和估值,也正式超過OpenAI,年經(jīng)常性收入(ARR)達到440億美元,公司一級市場的最新估值超過9000億美元。


在這樣一個高光節(jié)點,5月16日,媒體放出了Anthropic CEO Dario Amodei最新專訪視頻(采訪本身發(fā)生在今年1月份)。和許多渲染技術(shù)烏托邦的AI大咖不同,Amodei給出了許多現(xiàn)實警告 :


比如,他說傳統(tǒng)經(jīng)濟規(guī)律正在被打破,人類社會將首次面臨“高GDP增速與高失業(yè)率并存”的局面。


他提到,公眾對AI的情緒總是在兩極之間搖擺,但實際上,AI能力的演進一直保持著平滑的指數(shù)級躍升。這種持續(xù)的能力增長正在直接替代人類的知識型勞動。一場大規(guī)模的宏觀經(jīng)濟重構(gòu)即將發(fā)生,但全社會對此幾乎毫無準(zhǔn)備。


而對于外界最關(guān)注的Claude Code,Amodei透露,隨著最新模型Claude Opus 4.5推出,AI端到端完成復(fù)雜任務(wù)的能力已經(jīng)到達拐點。Anthropic內(nèi)部許多工程主管再也不寫代碼了,工作變成了專門審核和編輯Opus的產(chǎn)出 。


Amodei透露,Claude Co-work這款針對非技術(shù)人群的智能體應(yīng)用,幾乎完全由Claude Opus自主開發(fā),耗時僅一周半。該功能上線一天,各項指標(biāo)就達到了同類產(chǎn)品的四倍左右。Amodei強調(diào),人們越來越需要這種必不可少的智能體任務(wù)能力,大模型正跨越單純的聊天機器人形態(tài),真正確立其作為核心生產(chǎn)工具的地位。


我們整理了這場專訪的關(guān)鍵信息,以下是重點內(nèi)容:


1. Anthropic選擇企業(yè)級市場,是為了規(guī)避注意力經(jīng)濟陷阱


面對同行在消費者端市場的激烈競爭,Anthropic選擇專注于企業(yè)級客戶。Amodei認(rèn)為,面向消費者的AI產(chǎn)品往往陷入追求用戶使用時長最大化的怪圈,極易滋生劣質(zhì)內(nèi)容,引發(fā)過度依賴。Anthropic拒絕參與這種注意力爭奪,致力于為企業(yè)提供能創(chuàng)造實質(zhì)工作價值的系統(tǒng)。


此外,他指出,由科學(xué)家主導(dǎo)的AI企業(yè)與早期社交媒體創(chuàng)業(yè)者在責(zé)任認(rèn)知上存在本質(zhì)區(qū)別。前者更傾向于防患于未然,習(xí)慣在技術(shù)大規(guī)模落地前,主動審視其對社會的潛在影響,并著手預(yù)防可能的負(fù)面后果。


2. 機制可解釋性是實現(xiàn)AI可控的唯一路徑


在測試AI安全性時,Amodei認(rèn)為僅僅依靠外部的對話測試是極其危險的,因為高級AI系統(tǒng)完全有能力向人類隱瞞其真實的運行邏輯。


當(dāng)前安全領(lǐng)域最亟需的技術(shù)突破是機制可解釋性(Mechanistic Interpretability)。研究人員不能只看系統(tǒng)輸出的表面文字,而必須深入系統(tǒng)內(nèi)部,直接觀測并掌握其底層的數(shù)據(jù)運作機制。打破算法黑箱,才是真正實現(xiàn)系統(tǒng)安全與絕對可控的唯一可靠依據(jù)。


3. AI能力持續(xù)增長,公眾情緒卻在兩極之間反復(fù)變化


過去十幾年,公眾和媒體對AI的認(rèn)知經(jīng)常在“顛覆一切行業(yè)”與“技術(shù)徹底停滯”兩極之間搖擺。然而,AI技術(shù)的真實演進曲線極其平穩(wěn),其系統(tǒng)處理能力一直保持著每隔數(shù)月就有顯著躍升的穩(wěn)定節(jié)奏。


Amodei指出,社會各界未能準(zhǔn)確客觀地衡量這一技術(shù)發(fā)展規(guī)律,導(dǎo)致了嚴(yán)重的認(rèn)知脫節(jié)。這種脫節(jié)不僅讓企業(yè)在規(guī)劃業(yè)務(wù)轉(zhuǎn)型時缺乏前瞻性,更導(dǎo)致政策制定者容易基于錯誤的前提盲目出臺應(yīng)對策略。最終的結(jié)果是,人類社會目前對于即將到來的大規(guī)模經(jīng)濟重構(gòu),處于完全沒有做好準(zhǔn)備的狀態(tài)。


4. 高增長與高失業(yè)率將首次在人類社會中同時出現(xiàn)


AI正在以前所未有的幅度提升社會的生產(chǎn)效率。以軟件工程為例,AI代碼生成使開發(fā)工作變得極度高效,直接導(dǎo)致成本大幅驟降甚至趨于免費。這種爆炸式的生產(chǎn)力將推動整體經(jīng)濟規(guī)模急劇膨脹。


與此同時,人類在工作流程中的參與度正在被快速擠壓。目前軟件工程師可能只需完成10%的工作,其余均由AI代勞。隨著模型能力的持續(xù)進化,AI接管的比例將越來越高。這將直接導(dǎo)致人類過去幾十年建立的傳統(tǒng)職業(yè)體系徹底崩潰,大量崗位隨之消失。


Amodei強調(diào),未來的核心挑戰(zhàn)將不再是經(jīng)濟總量的增長,而是財富的分配。面對這種高增長與高失業(yè)率并存的前所未有的宏觀錯位,必須依賴政府干預(yù),確保所有人都能從技術(shù)紅利中獲益,以平穩(wěn)度過社會轉(zhuǎn)型期。


5. 為應(yīng)對社會風(fēng)險,需要確保AI收益公平分配


Amodei對未來可能出現(xiàn)的極端社會撕裂深感擔(dān)憂:如果AI創(chuàng)造的巨大經(jīng)濟紅利僅被硅谷科技精英等極少數(shù)群體壟斷,而大眾被排斥在外,必將引發(fā)災(zāi)難性的社會危機。


為確保AI收益公平分配,他提出了兩點核心呼吁:


第一,加大公共領(lǐng)域的技術(shù)投入,將前沿AI技術(shù)直接應(yīng)用于公共衛(wèi)生和基礎(chǔ)教育等領(lǐng)域,確保不同地區(qū)、不同階層的人群都能獲得平等的經(jīng)濟發(fā)展機會;


第二,推動基礎(chǔ)教育的底層轉(zhuǎn)型。面對被AI重塑的就業(yè)市場,未來的教育必須摒棄單純的職業(yè)技能訓(xùn)練,回歸到對人類內(nèi)在綜合素養(yǎng)的培養(yǎng)上。


以下是Dario Amodei訪談實錄:


一、AI的平滑指數(shù)級增長


主持人:Dario,我們在達沃斯,這里發(fā)生了很多事情,但我首先想問一個大局觀的問題。去年的這個時候每個人都對AI感到非常興奮,大家都在討論AI的能力及其潛力。我感覺今年的討論有所轉(zhuǎn)變,變得更加深入,少了對AI能對世界做什么的憧憬。所以我的問題是,你認(rèn)為企業(yè)、政策制定者、政府或其他機構(gòu)是否做足了準(zhǔn)備來應(yīng)對AI的影響?


Dario Amodei:我覺得沒有。我來詳細(xì)解釋一下。我觀察這片領(lǐng)域已經(jīng)15年了,身處其中也有10年。我注意到最令人驚訝的一點是AI領(lǐng)域的實際發(fā)展軌跡一直非常平穩(wěn),而公眾輿論和反應(yīng)卻劇烈波動。


我們可以從兩個維度來看。一個是技術(shù)本身的能力。每隔三到六個月媒體就會經(jīng)歷一次兩極反轉(zhuǎn):一會兒對技術(shù)能力感到無比興奮認(rèn)為它將改變一切,一會兒又覺得這全是泡沫一切都會分崩離析。


但我看到的是一條平滑的指數(shù)級增長曲線,類似于計算領(lǐng)域的摩爾定律,我們在智能領(lǐng)域也有一個類似的定律,即模型的認(rèn)知能力每隔幾個月就會變得越來越強,這種進展一直保持恒定。所謂發(fā)明了新事物就會讓一切崩潰或撞上南墻的說法,純粹是一種公眾認(rèn)知現(xiàn)象。


在關(guān)于這項技術(shù)是好是壞的兩極分化上也存在類似情況。2023年和2024年人們對AI有很多擔(dān)憂,比如認(rèn)為AI會接管一切,討論多集中在AI風(fēng)險和濫用上。到了2025年政治風(fēng)向轉(zhuǎn)向了AI帶來的機遇,而現(xiàn)在風(fēng)向似乎又轉(zhuǎn)回去了。


在整個過程中Anthropic和我一直嘗試保持一種平衡的視角。這種平衡非常奇特,因為這項技術(shù)在能力上非常極端,它的影響既有正面也有負(fù)面,兩者是并存的。


大約一年半前我寫了《Machines of Loving Grace》這篇文章,我對AI樂觀的一面有著非常激進的看法,相信它會幫助我們治愈癌癥、根除熱帶疾病并為尚未見證經(jīng)濟發(fā)展的地區(qū)帶去繁榮。我的觀點沒有改變,我依然相信這些。


但另一方面壞事也會發(fā)生。我最近寫了更多關(guān)于這方面的內(nèi)容并可能很快發(fā)布。如果以經(jīng)濟風(fēng)險為例,這項技術(shù)的顯著特征是它將帶我們進入一個GDP極高增長但潛在失業(yè)率也極高且充滿不平等的社會。這種組合是我們幾乎從未見過的。


過去高GDP增長意味著有很多事情要做且每個人都有很多工作機會。我們從未見過如此具有顛覆性的技術(shù)。所以我們可能會面臨這樣一種情況:GDP增長率達到5%或10%,但同時失業(yè)率也達到10%,這在邏輯上完全不矛盾只是以前從未發(fā)生過。


出于這兩個原因我感到既興奮又擔(dān)憂。以AI編程為例,我們發(fā)布了最新模型Claude Opus 4.5。Anthropic內(nèi)部的一些工程師和工程主管基本上都對我說他們再也不寫代碼了,只需讓Opus來干活并由自己負(fù)責(zé)編輯。


我們剛剛發(fā)布了一個名為Claude Co-work的新功能,這是Claude Code工具針對非編程場景的版本,在短短一周半內(nèi)就構(gòu)建完成了,幾乎完全是使用Claude Opus開發(fā)的。軟件工程師仍然有事情可做,即使他們只做了其中10%的工作,他們依然有工作或者可以提升一個層級。


但這不會永遠持續(xù)下去,模型會變得越來越強大。這里展現(xiàn)出驚人的生產(chǎn)力,軟件將變得廉價甚至基本上免費。前提是你構(gòu)建的軟件成本需要分?jǐn)傇跀?shù)百萬用戶身上,這種情況可能并不存在。比如為了這次會議,我們可能只需花費幾美分就能開發(fā)出一些應(yīng)用讓人們互相交流,它非常靈活且可循環(huán)利用。但與此同時我們奮斗了幾十年的整個職業(yè)生涯可能都不復(fù)存在了。我認(rèn)為我們可以適應(yīng)它,但大眾完全沒有意識到即將發(fā)生的事情及其規(guī)模之大。


二、社會如何適應(yīng)AI發(fā)展


主持人:這真的很有趣。那么你認(rèn)為在一個GDP高速增長但失業(yè)率也居高不下的世界里社會將會變成什么樣?你說現(xiàn)在人們還沒有開始思考這個問題,你能舉一些具體的例子來說明社會如何適應(yīng)這樣一個世界嗎?


Dario Amodei:我們關(guān)注的第一件事是一個名為Anthropic Economic Index的項目。這是邁出的第一步。這個指數(shù)我們已經(jīng)運行了大約一年,目前更新了四五次。它是一個實時指數(shù),能讓你追蹤我們的模型Claude正被用于哪些方面。它會遍歷所有對話,以保護隱私的方式統(tǒng)計查詢Claude的使用情況,比如它被用于執(zhí)行哪些任務(wù)、在多大程度上是在自動化任務(wù)還是增強能力、應(yīng)用于哪些行業(yè)、在美國各州及世界各國如何擴散。我們正添加越來越多的細(xì)節(jié)。我的觀點是,在我們能夠衡量這場經(jīng)濟轉(zhuǎn)型的形態(tài)之前任何政策都將是盲目且誤導(dǎo)的。許多政策出了問題就是因為它們基于不正確的前提。


第二步我們需要非常仔細(xì)地思考該如何讓人們?nèi)ミm應(yīng)AI發(fā)展。這可能意味著在現(xiàn)有工作中適應(yīng)并使用這項技術(shù),也可能意味著從一份工作轉(zhuǎn)型到另一份工作。例如我認(rèn)為物理世界中可能會出現(xiàn)更多的工作崗位,而知識型經(jīng)濟中的工作崗位會減少。雖然機器人技術(shù)最終也會取得進展,但那處于一個較慢的發(fā)展軌跡上。


此外是否還會存在非??粗厝饲槲兜墓ぷ鳎坑行行┎粫?。我們會發(fā)現(xiàn)這到底有多重要以及在哪些領(lǐng)域最重要。在公司層面當(dāng)軟件和其他知識工作變得廉價時護城河在哪里?我們以前從未真正問過這個問題,因為我們一直以特定的方式思考護城河。所以公司層面將會出現(xiàn)一場巨大的爭奪戰(zhàn)。教人們?nèi)ミm應(yīng)并預(yù)期會發(fā)生什么,是第二步。


第三步,在發(fā)生宏觀經(jīng)濟層面如此巨大的人力流失時,政府必然需要扮演某種角色。蛋糕會變得大得多,資金是充足的。由于增長如此強勁,即便我們什么都不做預(yù)算也可能實現(xiàn)平衡。問題在于如何將其分配給正確的人群。所以我認(rèn)為現(xiàn)在應(yīng)該減少對削弱增長的擔(dān)憂,更多地關(guān)注如何確保每個人都能分享到這種增長。這與目前普遍的情緒截然相反,但技術(shù)現(xiàn)實即將改變并將迫使我們的觀念也隨之改變。


三、Claude與智能體普及


主持人:我想再多談?wù)凜laude,它正處于一個高光時刻。我們最近也報道了工程師和普通用戶們是如何變得Claude化的。我想知道你對現(xiàn)狀有什么感覺,與一年前相比業(yè)務(wù)表現(xiàn)如何?


Dario Amodei:業(yè)務(wù)的增長一直很快,基本上處于與技術(shù)發(fā)展相同的平滑指數(shù)增長曲線上。


我們的收入曲線在2023年從零增長到大約1億美元,在2024年從大約1億增長到大約10億,2025年從大約10億增長到大約100億。雖然這些是四舍五入后的數(shù)字,但大致情況如此。


幾個月前Twitter上大家還在極度亢奮地驚呼Anthropic正在改變世界、徹底顛覆行業(yè)。但我們只是靜靜觀察著這條快速攀升、不斷進步的曲線。它給了我們信心。雖然我們永遠無法確定這種增長是否會持續(xù),但這一直是我們?nèi)逃^察到的經(jīng)驗結(jié)果。即便曲線是平滑的,也會出現(xiàn)突破性時刻。


我認(rèn)為現(xiàn)在開發(fā)者群體中正出現(xiàn)一個圍繞Claude Code的突破時刻。這種端到端完成任務(wù)并開發(fā)完整應(yīng)用的能力,隨著我們最新的Opus4.5模型推出,似乎達到了一個拐點。進步是漸進的,就像溫水煮青蛙,你會看到循序漸進的提升,然后到了某個特定時間點,人們會突然察覺到它的存在。


可能加速這一進程的第二點是,我們觀察Claude Code時注意到,Anthropic內(nèi)外有很多非技術(shù)人員意識到Claude Code可以為你完成不可思議的Agentic(智能體)任務(wù)。它不僅能編寫代碼,還能整理待辦事項列表、規(guī)劃項目、整理文件夾或處理大量信息并進行總結(jié)。


這種理念不僅僅是一個聊天機器人,而是必不可少的智能體任務(wù)能力。非技術(shù)人員非??释玫剿灾劣诓幌ャ@研命令行界面。對于非技術(shù)人員或非程序員來說,這個界面用起來糟糕透頂,但即便如此人們還是在堅持使用??吹竭@種情況后我心想,這看起來就是尚未被滿足的需求。


于是大約兩周前我們再次利用Claude Code制作了一個擁有更好UI的版本,專門針對代碼以外的任務(wù)進行了定制。發(fā)布后大約一天之內(nèi),各項指標(biāo)都是其他產(chǎn)品的四倍左右,比我們發(fā)布過的任何產(chǎn)品都要出色。我不確定這些是否屬于全新的能力,但這正是那種達成共識的時刻,人們變得非常興奮并極快地推動了普及。人們正在逐漸理解這項技術(shù)所具備的能力,因為它已經(jīng)達到了特定臨界點,而且我們構(gòu)建了讓它變得觸手可及的交互界面。


主持人:你能跟我們分享一下,你個人在生活和家庭中是如何使用Agentic(智能體)AI的嗎?


Dario Amodei:當(dāng)我寫論文或在公司發(fā)表演講時,寫作占據(jù)了我工作中相當(dāng)一部分內(nèi)容。我會讓Claude幫我查找資料并潤色文章。


主持人:顯然你們正處于高光時刻,外界普遍預(yù)期你們今年即將進行IPO。你能跟我們聊聊這方面的計劃嗎?


Dario Amodei:我們還不確定具體會怎么做。目前我們更專注于保持營收曲線的增長、提升模型性能、向用戶銷售模型,以及警示社會影響并帶來積極的社會效益。這些是目前最優(yōu)先的任務(wù)。眾所周知,這是一個對資本需求極高的行業(yè),私募市場所能提供的資金和支持在某種程度上是有限的。


四、不同AI公司的差異化競爭


主持人:另一個正處于高光時刻的模型是Gemini,它最近在App Store的排名一路飆升,OpenAI甚至為此發(fā)布了紅色警報。每個人都對此感到非常興奮??紤]到Google龐大的體量,你會擔(dān)心自己與Gemini競爭的能力嗎?


Dario Amodei:我認(rèn)為這是另一個差異化能帶來幫助的地方。在企業(yè)級策略方面,Google和OpenAI正在消費者領(lǐng)域展開激戰(zhàn)。這對雙方來說都是生死攸關(guān)的。對OpenAI而言這是他們的全部業(yè)務(wù);對Google而言,因為他們擁有搜索業(yè)務(wù),而這正是目前正被顛覆的領(lǐng)域,所以他們需要完成自我更替并對抗這種顛覆。這始終是他們的首要任務(wù)。相比于在企業(yè)級市場運作,他們似乎更專注于消費級市場。很高興看到Gemini在消費級領(lǐng)域的表現(xiàn)。我認(rèn)為他們正在采取一種不同的方式。我剛和Google的研究負(fù)責(zé)人Demis Hassabis一起參加完一個小組討論。我覺得他是個很棒的人,我已經(jīng)認(rèn)識他15年了,所以我支持他。


主持人:當(dāng)你談到差異時,Anthropic不具備生成視頻和照片的能力。你認(rèn)為這是否是一個潛在的弱點?


Dario Amodei:對于企業(yè)級商業(yè)應(yīng)用來說,并沒有真正的需求去生成諸如貓騎著驢之類的照片或消費級視頻。在幻燈片和演示文稿方面可能存在一些邊緣情況,但如果需要,我們可以直接外包一個模型。


我不知道未來會發(fā)生什么,但至少我不預(yù)見企業(yè)會需要這個。這其中存在一些相關(guān)問題,看看現(xiàn)在市面上短視頻的數(shù)量,很大一部分都是虛假的且非常讓人上癮,很多都是垃圾內(nèi)容(slop)。倒不是說這些都很糟糕或者代表這樣做就是壞人,但這并非我急于參與的市場領(lǐng)域。


主持人:你提到過曾和Demis Hassabis一起參加小組討論。昨天我們聊天時你提到了一些非常有趣的觀點,關(guān)于領(lǐng)導(dǎo)這些大型AI公司的科學(xué)家們正以不同于傳統(tǒng)科技企業(yè)家的視角來對待這個時代。你能再詳細(xì)說明一下嗎?


Dario Amodei:當(dāng)你思考這項技術(shù)時,它確實是持續(xù)了幾十年研究的交匯點,其中大部分在本質(zhì)上都是學(xué)術(shù)性的。直到大約十年或十五年前,開發(fā)和部署這些技術(shù)所需的規(guī)?;Y源僅來自于大型互聯(lián)網(wǎng)和社交媒體公司,因為他們擁有基礎(chǔ)設(shè)施和資金。


所以我們看到的是一個由部分具有科學(xué)背景的人領(lǐng)導(dǎo)的世界,比如我和Demis的背景。而另一些則是由做社交媒體的那一代企業(yè)家領(lǐng)導(dǎo)的。我認(rèn)為這兩者截然不同。科學(xué)家們一直以來都有一個悠久的傳統(tǒng),那就是思考他們所創(chuàng)造技術(shù)帶來的影響,認(rèn)為自己對創(chuàng)造的技術(shù)負(fù)有責(zé)任而不是推卸責(zé)任。他們最初的動力是為世界創(chuàng)造東西,因此在事情可能出錯時會感到擔(dān)憂。而社交媒體那一代企業(yè)家的動機非常不同,作用于他們身上的選擇效應(yīng)以及他們與消費者互動甚至操縱的方式截然不同。這導(dǎo)致了大家截然不同的態(tài)度。


五、AI安全、教育與防止脫節(jié)


主持人:好的,我們現(xiàn)在從在線讀者的提問開始。Trevor Loomis問:在現(xiàn)實世界的部署中,目前仍然缺失的最重要的單一技術(shù)突破是什么,能使前沿AI具備可靠的安全性和可控性?


Dario Amodei:我認(rèn)為我們需要在機械可解釋性(Mechanistic Interpretability)方面取得更多進展。這是一門觀察模型內(nèi)部機制的科學(xué)。


我們訓(xùn)練模型時面臨的問題之一是不了解其內(nèi)部邏輯,無法確定它們是否會按照預(yù)想的方式行事。你可以在特定上下文中與模型對話,它可以說出各種各樣的話,但就像人類一樣,那可能并不能如實反映它們真實的意圖。如果它告訴你做某事是因為某個原因,實際上可能完全是出于另一個原因,甚至在是否做了某事上撒謊。我們對人類存在的這些問題已經(jīng)習(xí)以為常,但在AI領(lǐng)域它們同樣存在。


因此對于任何形式的現(xiàn)象學(xué)測試或訓(xùn)練我們都無法完全確定。但就像你可以通過核磁共振或X光來了解人類大腦,獲取無法僅通過交談學(xué)到的知識一樣,洞察AI模型內(nèi)部的科學(xué)最終是使模型變得安全且可控的關(guān)鍵,因為這是我們擁有的唯一事實標(biāo)準(zhǔn)。


主持人:沒錯。這里還有Jim O'Connell提的一個問題:AI將如何影響目前K-12階段的教育成績差距?這無疑是一位家長提出的實際問題。


Dario Amodei:短期內(nèi)確實存在人們利用AI作弊的問題,這需要引起關(guān)注。但換個角度,我們可以探討如何利用AI進行教學(xué)。我們已經(jīng)考慮過這一點并發(fā)布了專門針對教育設(shè)計的Claude版本。


但我認(rèn)為背后更難的問題是,在AI的世界里我們究竟應(yīng)該教授哪些技能?教育會是什么樣子的?這并不容易回答,因為這種顛覆是全方位的。如果有人問我應(yīng)該從事什么職業(yè),令人不安的事實是我也不確定它將要發(fā)展的方向。


我認(rèn)為我們應(yīng)該回到之前討論過的一些關(guān)于教育的概念。一直以來我們都有一種帶有經(jīng)濟色彩、近乎功利主義的教育觀念。也許我們應(yīng)該轉(zhuǎn)變這種觀念,回歸到教育旨在塑造人格、培養(yǎng)性格并讓你成為一個更好的人這種本質(zhì)上。我認(rèn)為這才是未來教育更穩(wěn)固的基礎(chǔ)。


主持人:聽起來我相當(dāng)羨慕那些尚未接受教育的孩子們,這種教育是我們所有人都希望曾經(jīng)擁有的。為了對在場的各位公平起見,我們還有時間提一個問題。這位女士問:從AI實驗室的角度來看,當(dāng)有些經(jīng)濟體、國家和人民被拋在后面時,你們承擔(dān)什么樣的責(zé)任?是應(yīng)該通過結(jié)構(gòu)性參與來接納他們、放慢速度,還是切實確保他們不被排除在外?


Dario Amodei:我在很多層面上都對此感到擔(dān)憂。當(dāng)我觀察客戶群體時,我突然意識到初創(chuàng)公司采用AI的速度極快,而傳統(tǒng)企業(yè)因為規(guī)模大、專注于特定業(yè)務(wù),行動要慢得多。我們從經(jīng)濟數(shù)據(jù)中也能看到這項技術(shù)正從美國國內(nèi)采納速度較快的州擴散到行動較慢的州。它正在走向大眾,但毫無疑問存在差異。


如果讓我來描述那種噩夢般的場景,那就是出現(xiàn)一個新興的“第零世界”國家,人口約1000萬,其中700萬人分布在硅谷,300萬人零星分布在各處。這正在形成它自己脫節(jié)的經(jīng)濟體系,在這部分領(lǐng)域GDP增長可能高達50%,技術(shù)發(fā)展簡直太瘋狂了。它能以那種方式將事物拆解開來。


我認(rèn)為那會是一個非常糟糕、近乎反烏托邦的世界。我們應(yīng)該思考如何阻止這種情況發(fā)生。Anthropic正在著手做很多事情。針對發(fā)展中國家,我們正開始圍繞公共衛(wèi)生開展大量工作,宣布了與教育部合作的項目,并與蓋茨基金會開展大量合作。我在《Machines of Loving Grace》中也寫過,如果能獲得這些快速的經(jīng)濟增長指標(biāo),理論上這是一種追趕式增長,我預(yù)測發(fā)展中國家最終會達到發(fā)達國家的水平。


在國家內(nèi)部,我們需要思考如何避免部分地區(qū)脫節(jié),如何讓密西西比州也能獲得那種涌向硅谷封閉區(qū)域的經(jīng)濟增長。因此我們圍繞經(jīng)濟流動性和經(jīng)濟機會開展了一些工作,但這都需要政府的某種程度參與。


本文來自微信公眾號:劃重點KeyPoints,作者:林易,編輯:重點君

AI原生產(chǎn)品日報頻道: 前沿科技
本內(nèi)容由作者授權(quán)發(fā)布,觀點僅代表作者本人,不代表虎嗅立場。
如對本稿件有異議或投訴,請聯(lián)系 tougao@huxiu.com。
正在改變與想要改變世界的人,都在 虎嗅APP
南投县| 轮台县| 内丘县| 汉寿县| 阿拉善右旗| 宣汉县| 二连浩特市| 丽水市| 贵德县| 宿松县| 罗定市| 美姑县| 体育| 沁水县| 东阿县| 边坝县| 东乌| 介休市| 纳雍县| 上思县| 井冈山市| 盈江县| 莎车县| 凤庆县| 甘孜县| 济南市| 彰化县| 濉溪县| 交口县| 孝昌县| 沙河市| 新安县| 临城县| 绥中县| 汝城县| 湟中县| 桦南县| 什邡市| 大兴区| 阿鲁科尔沁旗| 循化|