本文來自微信公眾號(hào)： 硅谷101 ，作者：硅谷101

2026年過了一半，云，成為了AI產(chǎn)業(yè)里最確定的機(jī)會(huì)。

隨著Agent開始走進(jìn)各大企業(yè)“干活”，AI時(shí)代的算力服務(wù)，正在變成競(jìng)爭(zhēng)最激烈的領(lǐng)域。存儲(chǔ)、光模塊、高速互聯(lián)等AI基礎(chǔ)設(shè)施板塊持續(xù)走強(qiáng)。前幾年一度被邊緣化的CPU，又重新成為了市場(chǎng)關(guān)注的焦點(diǎn)。CoreWeave、Nebius等一批NeoCloud公司快速崛起。微軟、谷歌、亞馬遜等云巨頭都在瘋狂加碼AI投資。

2026年上半年，前沿大模型競(jìng)賽還在持續(xù)。Agent時(shí)代來臨之后，各大企業(yè)對(duì)于Agent進(jìn)入真實(shí)業(yè)務(wù)，并能夠穩(wěn)定運(yùn)行和規(guī)模部署的需求激增，token經(jīng)費(fèi)也在燃燒。

因此，對(duì)于提供算力服務(wù)的云廠商們來說，這是絕佳的機(jī)遇。但基礎(chǔ)設(shè)施上，無論是AI Infra還是Agent Infra都需要技術(shù)快速跟上?？梢哉f，整個(gè)云產(chǎn)業(yè)正在迎來過去二十年來最大的一次架構(gòu)升級(jí)。

那么AI Agent時(shí)代的“云”，到底是朵什么樣的云？當(dāng)AI從“回答問題”走向“執(zhí)行任務(wù)”，云的底層邏輯發(fā)生了什么改變？云廠商如何能真正打通最后一公里？這篇文章，我們就來看看，2026年上半年，AI時(shí)代的那朵“云”，正在發(fā)生著什么樣的變革。

本文為視頻改寫，歡迎大家收看以下視頻

▍互聯(lián)網(wǎng)云：按需獲取計(jì)算資源

要理解“云”變了什么，我們先看看以前的云是什么樣的。

21世紀(jì)初，Google、Facebook、百度、淘寶等一大批互聯(lián)網(wǎng)公司快速崛起，用戶數(shù)量爆發(fā)式增長(zhǎng)。當(dāng)時(shí)，互聯(lián)網(wǎng)企業(yè)的業(yè)務(wù)增長(zhǎng)速度，遠(yuǎn)遠(yuǎn)超過了IT基礎(chǔ)設(shè)施的建設(shè)速度。

企業(yè)想要支撐業(yè)務(wù)上線和增長(zhǎng)，通常需要自己采購(gòu)服務(wù)器、建設(shè)機(jī)房、組建運(yùn)維團(tuán)隊(duì)。為了應(yīng)對(duì)未來幾年的業(yè)務(wù)增長(zhǎng)，很多公司甚至需要一次性投入大量資金購(gòu)買設(shè)備。

但問題在于，沒有人能夠準(zhǔn)確預(yù)測(cè)未來會(huì)有多少用戶。買少了，業(yè)務(wù)爆發(fā)時(shí)服務(wù)器可能瞬間癱瘓。買多了，又意味著大量設(shè)備長(zhǎng)期閑置，造成巨大的資源浪費(fèi)。

2006年，亞馬遜推出EC2（Elastic Compute Cloud，彈性計(jì)算云），第一次將計(jì)算資源變成了一種可以像電力一樣按需獲取、按需付費(fèi)的服務(wù)，拉開了云計(jì)算時(shí)代的大幕。

隨后，微軟、谷歌以及百度、騰訊、阿里等科技巨頭紛紛入場(chǎng)，云產(chǎn)業(yè)逐漸形成了一套完整的能力棧：IaaS（基礎(chǔ)設(shè)施即服務(wù)）、PaaS（平臺(tái)即服務(wù)）和SaaS（軟件即服務(wù)）。

其中，IaaS負(fù)責(zé)提供服務(wù)器、存儲(chǔ)和網(wǎng)絡(luò)等基礎(chǔ)資源。PaaS提供數(shù)據(jù)庫(kù)、中間件和開發(fā)平臺(tái)等能力，讓用戶不用操心底層硬件，專注于業(yè)務(wù)邏輯的開發(fā)。SaaS則直接向用戶交付軟件服務(wù)，直接訂閱使用。

這個(gè)階段云解決的核心問題，是讓軟件能夠更低成本、更高效率地開發(fā)、部署和運(yùn)行。云的服務(wù)對(duì)象是網(wǎng)站、社交平臺(tái)和企業(yè)軟件。人使用應(yīng)用，而應(yīng)用去消耗計(jì)算資源。

2022年底，ChatGPT的上線改變了市場(chǎng)對(duì)算力的需求。AI時(shí)代來了，而云產(chǎn)業(yè)，也迎來了新的時(shí)代：GPU云。

▍GPU云：服務(wù)模型訓(xùn)練

在AI時(shí)代，云產(chǎn)業(yè)的服務(wù)對(duì)象開始從應(yīng)用轉(zhuǎn)向模型。云的能力，開始圍繞著AI模型的訓(xùn)練需求而變化。

鄭然

百度杰出架構(gòu)師、百度智能云技術(shù)委員會(huì)聯(lián)席主席

大模型時(shí)代最開始，云更多關(guān)注的是訓(xùn)練和推理的效率。尤其是在模型高速發(fā)展的階段，更多客戶的重點(diǎn)，聚焦在怎樣實(shí)現(xiàn)更高效的大規(guī)模模型訓(xùn)練。在那個(gè)階段，云所承載的，更多是幫助模型訓(xùn)練業(yè)務(wù)實(shí)現(xiàn)更復(fù)雜的異構(gòu)計(jì)算能力。

首先，云運(yùn)行的硬件基座變了。

互聯(lián)網(wǎng)時(shí)代，云廠商建設(shè)數(shù)據(jù)中心時(shí)采購(gòu)的核心設(shè)備是CPU服務(wù)器，因?yàn)榫W(wǎng)站、數(shù)據(jù)庫(kù)、CRM等傳統(tǒng)應(yīng)用，本質(zhì)上都是CPU密集型工作負(fù)載。但大模型的訓(xùn)練和推理依賴大規(guī)模并行計(jì)算，CPU所擅長(zhǎng)的串行邏輯處理并不適用，這讓GPU從過去數(shù)據(jù)中心里的“輔助角色”，一躍變成了最核心的生產(chǎn)資料。

而這種底層算力的變化，直接指數(shù)級(jí)推高了基礎(chǔ)設(shè)施的建設(shè)成本。從2023年開始，科技巨頭們開啟了史無前例的資本開支擴(kuò)張。模型規(guī)模每向前邁進(jìn)一步，背后都意味著更多GPU、更大的數(shù)據(jù)中心以及更高的電力消耗。

其次，平臺(tái)層的邏輯也隨之發(fā)生了變化。

互聯(lián)網(wǎng)云時(shí)代的云平臺(tái)主要提供數(shù)據(jù)庫(kù)、容器平臺(tái)、中間件和開發(fā)工具，幫助開發(fā)者更高效地構(gòu)建軟件。但當(dāng)服務(wù)對(duì)象從應(yīng)用變成了模型之后，開發(fā)者面臨的新問題變成了模型的訓(xùn)練、部署、推理加速、向量數(shù)據(jù)庫(kù)、RAG以及模型管理平臺(tái)等等。

于是我們看到，Google升級(jí)Vertex AI集成生成式AI能力、微軟推出了Azure AI Foundry、AWS推出了Bedrock，國(guó)內(nèi)的百度智能云推出了千帆平臺(tái)、阿里云推出了百煉平臺(tái)等等。

這些新的AI平臺(tái)，其實(shí)都是在嘗試把模型訓(xùn)練、推理、微調(diào)和應(yīng)用開發(fā)過程封裝起來，讓企業(yè)能夠像使用云服務(wù)一樣使用AI能力。而軟件層面，則涌現(xiàn)出類似于ChatGPT、Copilot等一系列AI原生應(yīng)用。

但進(jìn)入到2025年下半年之后，隨著一系列Agent產(chǎn)品、底層協(xié)議的出現(xiàn)，以及OpenClaw等開源框架的爆紅，企業(yè)開始嘗試把強(qiáng)大的模型能力轉(zhuǎn)變成生產(chǎn)力。云也由此進(jìn)入了一個(gè)全新的階段：“Agent云”。

比如在具身智能領(lǐng)域，Agent的核心不僅是把大模型接到機(jī)器人上，更是要讓Agent具備可靠的長(zhǎng)程規(guī)劃、Skill調(diào)用和記憶能力，并在真實(shí)物理環(huán)境中盡可能提高一次性成功率。

我們?cè)?024年底就已經(jīng)立項(xiàng)去做“慧思開物”具身智能體。

在整個(gè)“大腦”層面，我們很強(qiáng)調(diào)Agent的能力，包括長(zhǎng)程任務(wù)、記憶檢索，以及工具調(diào)用的準(zhǔn)確性，都有非常高的要求。同時(shí)，相比互聯(lián)網(wǎng)的智能體，我們的要求還要更高一些。第一，我們是強(qiáng)物理交互的，所以不能有幻覺，包括不能幻覺出機(jī)器人完全不具備的技能，也不能幻覺出環(huán)境中并不存在的物體。另外，現(xiàn)在很多Agent可以做反思、做重新規(guī)劃，但人類對(duì)機(jī)器人的要求特別高。如果用戶發(fā)現(xiàn)機(jī)器人長(zhǎng)時(shí)間地執(zhí)行一個(gè)任務(wù)，大家會(huì)很不耐煩。所以在這個(gè)時(shí)候，我們追求的是Pass 1的成功率，就是一定要一次性盡量把任務(wù)完成。

所以賣算力、賣Token、賣模型調(diào)用，相對(duì)來說都只是基礎(chǔ)能力。真正困難和具有挑戰(zhàn)的地方，是如何讓成千上萬個(gè)Agent穩(wěn)定運(yùn)行、協(xié)同工作，安全地接入企業(yè)系統(tǒng)，并持續(xù)創(chuàng)造價(jià)值。

那么，云的能力需要怎么變化呢？

過去幾年，大模型的能力實(shí)現(xiàn)了跨越式的進(jìn)步。模型能寫代碼、分析數(shù)據(jù)、撰寫報(bào)告，甚至在很多專業(yè)測(cè)試中都超過了人類水平。

但具體到應(yīng)用落地環(huán)節(jié)，企業(yè)卻發(fā)現(xiàn)，擁有一個(gè)聰明的問答模型，并不等于擁有能真正干活的員工。最新研究數(shù)據(jù)顯示，有90%的企業(yè)都表示Agent在實(shí)際工作中會(huì)掉鏈子。

這背后的原因是：Chatbot和Agent看上去都是在對(duì)話，但“快速給出答案”和“高質(zhì)量完成任務(wù)”卻是完全不同的技術(shù)問題。所以，Agent Infra上怎么能把這個(gè)鏈子給縫起來呢？

鄭然

百度杰出架構(gòu)師、百度智能云技術(shù)委員會(huì)聯(lián)席主席

原來的Chatbot，用戶的訴求，或者說用戶對(duì)它的預(yù)期，有點(diǎn)像搜索一樣：你提交一個(gè)問題，它需要很快速地回應(yīng)。

而在Agent時(shí)代，核心目標(biāo)不是快速地完成任務(wù)，而是高質(zhì)量地完成任務(wù)，這會(huì)是完全不一樣的預(yù)期。對(duì)底層系統(tǒng)來說，模型需要有更多輪的推理過程，整個(gè)上下文的長(zhǎng)度和Chatbot階段也完全不在一個(gè)數(shù)量級(jí)的水平。這就要求整個(gè)大規(guī)模分布式推理，包括像KV Cache這樣的存儲(chǔ)基礎(chǔ)設(shè)施，能夠更好地支持大規(guī)模分布式推理的高效執(zhí)行。

也就是說，大模型階段，云的優(yōu)化目標(biāo)是速度優(yōu)先，如果AI回應(yīng)得慢，用戶體驗(yàn)就崩了。因此AI建設(shè)的目的就是讓模型跑得更快、更便宜、更穩(wěn)定。

但隨著模型的“智商”已經(jīng)基本夠用、Agent開始進(jìn)入真實(shí)生產(chǎn)環(huán)境之后，云便不再只是“賣算力”，而是要同時(shí)提供包括推理、存儲(chǔ)、工具、記憶、沙箱、安全在內(nèi)的完整Agent運(yùn)行環(huán)境，解決的是智能體如何能夠穩(wěn)定運(yùn)行、如何大規(guī)模部署的問題。

而在這個(gè)過程中，Agent需要一套全新的“操作系統(tǒng)”：Agent Harness。關(guān)注AI進(jìn)展的小伙伴們對(duì)“Harness”這個(gè)詞肯定不陌生，我們之前的內(nèi)容也提到過。

我們可以把Harness理解為Agent的“運(yùn)行底座”，它位于模型之上、應(yīng)用之下，負(fù)責(zé)把模型真正組織起來，讓Agent能夠調(diào)用MCP、使用各種工具、管理長(zhǎng)期記憶、運(yùn)行工作流，并在一個(gè)安全、隔離的環(huán)境中穩(wěn)定執(zhí)行任務(wù)。

也就是說，未來決定Agent是否能真正走向落地的，就是Harness這一整套工程能力。而在這個(gè)系統(tǒng)中，存在著顯著的“木桶效應(yīng)”，每一個(gè)環(huán)節(jié)都不能有短板，木桶最短的那塊板，決定了整個(gè)系統(tǒng)的能力。

鄭然

百度杰出架構(gòu)師、百度智能云技術(shù)委員會(huì)聯(lián)席主席

為了完成任務(wù)，還需要給Harness一個(gè)執(zhí)行的環(huán)境。它需要存儲(chǔ)一些臨時(shí)文件，需要調(diào)用工具，比如下載一些網(wǎng)頁(yè)，需要用Skill，需要調(diào)用MCP。這些都需要一個(gè)環(huán)境，同時(shí)有工具、有記憶，再加上安全，幫助Agent的任務(wù)具備隔離性和穩(wěn)定性。所以這背后，就對(duì)整個(gè)工程層面提出了完全不一樣的要求。

我們理解Agent是一個(gè)系統(tǒng)化的工程，某種意義上說，它存在著一定的木桶效應(yīng)。整個(gè)Agent Harness依賴很多配套的能力，需要一個(gè)系統(tǒng)化的優(yōu)化，才能讓Agent更高效地執(zhí)行。某一方面出現(xiàn)短板，就容易造成Agent執(zhí)行效果的下降。

所以從“一次推理給答案”到“多輪推理、調(diào)用工具、管理記憶、執(zhí)行任務(wù)”，這背后對(duì)云提出了一整套全新的工程要求。

在這樣的背景下，過去智能云三大層級(jí)的內(nèi)涵和能力，也需要圍繞著Agent的落地部署來重新架構(gòu)：從IaaS、PaaS和SaaS，演變成一種“AI Infra+Agent Infra+智能體應(yīng)用”的新架構(gòu)。

鄭然

百度杰出架構(gòu)師、百度智能云技術(shù)委員會(huì)聯(lián)席主席

這種底層邏輯的變化，今年也直接傳導(dǎo)到了整個(gè)產(chǎn)業(yè)鏈上。

Agent要部署落地，GPU之間需要高速大規(guī)?；ヂ?lián)，KV Cache和Agent記憶需要超高帶寬存儲(chǔ)，推理過程需要超低延遲網(wǎng)絡(luò)，向量數(shù)據(jù)庫(kù)需要海量并發(fā)讀寫。于是，HBM（高帶寬內(nèi)存）、光通信模塊、先進(jìn)封裝，每一個(gè)環(huán)節(jié)都變成了新的稀缺品。

與此同時(shí)，CPU也重新變得重要起來。模型推理由GPU完成，而任務(wù)調(diào)度、工具調(diào)用、跨系統(tǒng)協(xié)作等大量執(zhí)行工作則重新回到了CPU。

因此，云的核心生產(chǎn)資料，從大模型時(shí)代單一的GPU，擴(kuò)展到了“GPU+CPU+HBM+光互聯(lián)”協(xié)同運(yùn)轉(zhuǎn)的新體系。于是我們也看到，這些板塊的公司們今年的股價(jià)一路暴漲。

而在這一輪需求爆發(fā)中，還有一個(gè)難以忽視的部分，是今年NeoCloud（新云）的快速崛起。

一方面，NeoCloud能夠更加靈活地提供包括GPU資源、裸金屬服務(wù)等在內(nèi)的基礎(chǔ)設(shè)施能力，快速響應(yīng)企業(yè)不同場(chǎng)景下的定制化需求。

另一方面，隨著全球AI需求持續(xù)爆發(fā)，大量訓(xùn)練和推理訂單開始向外溢出，也給CoreWeave、Nebius等“新云”帶來了快速成長(zhǎng)的機(jī)會(huì)。

Nebius自2024年10月復(fù)牌上市以來，股價(jià)已經(jīng)漲了超過10倍，還在今年6月22日被正式納入納斯達(dá)克100指數(shù)。這說明無論是資本市場(chǎng)還是真正的產(chǎn)業(yè)需求，都在押注AI云業(yè)務(wù)。

不過，中國(guó)的情況有點(diǎn)不同。與美國(guó)已經(jīng)形成比較明顯的NeoCloud（新云）賽道不同，中國(guó)目前還沒有發(fā)展出這一獨(dú)立的產(chǎn)業(yè)類別。

這背后的主要原因可能在于，百度智能云、火山云、阿里云等超大云廠商正在快速向AI Native Cloud（AI原生云）演進(jìn)，已經(jīng)將AI算力、模型訓(xùn)練、推理服務(wù)等能力整合進(jìn)自身平臺(tái)。相比催生新的云廠商，中國(guó)更多是在現(xiàn)有云平臺(tái)基礎(chǔ)上直接完成AI升級(jí)。

隨著AI工作負(fù)載的演進(jìn)，云服務(wù)產(chǎn)業(yè)正在形成更加多元的能力分工。圍繞算力、推理、Agent運(yùn)行和企業(yè)落地等不同環(huán)節(jié)，不同類型的云廠商正基于各自的優(yōu)勢(shì)，構(gòu)建自己的核心能力。

正是看到了企業(yè)大規(guī)模部署Agent的真實(shí)需求，以及落地過程中遇到的種種挑戰(zhàn)，全球頭部云廠商在2026年集體做出了同一個(gè)動(dòng)作：牽頭重構(gòu)云的能力棧，搭建一套服務(wù)于Agent運(yùn)行和部署的云服務(wù)。

比如微軟就在今年的Build 2026上提出，Agent將取代“App+操作系統(tǒng)”的舊范式，并判斷這將是一次可以和“大型機(jī)到PC、PC到智能手機(jī)”相提并論的平臺(tái)級(jí)轉(zhuǎn)移。圍繞這個(gè)判斷，微軟推出了一整套Agent全棧架構(gòu)，從感知、運(yùn)行、治理到分發(fā)，整條鏈路被打包成一項(xiàng)標(biāo)準(zhǔn)化云服務(wù)。

谷歌則在4月的Cloud Next 2026上，宣告服務(wù)了5年的Vertex AI退役，取而代之的是全新的Gemini Enterprise Agent Platform，并同步發(fā)布了“Agentic Data Cloud”、第八代TPU以及覆蓋Workspace的智能體應(yīng)用層。

這些動(dòng)作都說明，AI云的競(jìng)爭(zhēng)正在從“誰(shuí)能提供模型和算力”，走向“誰(shuí)能支撐Agent穩(wěn)定運(yùn)行和規(guī)?；桓丁?。

鄭然

百度杰出架構(gòu)師、百度智能云技術(shù)委員會(huì)聯(lián)席主席

可以說，怎么“更高效”地去燒Token，已經(jīng)是行業(yè)追求的共識(shí)目標(biāo)了。所以在今年上半年，我們看到大家喊出的口號(hào)，是要把指標(biāo)定成Token/$、Token/Watt、Token/Second這些。但說回來，這些指標(biāo)本質(zhì)上衡量的是性能、效率和成本，也就是“AI規(guī)?；涞氐幕A(chǔ)”。

但在Agent時(shí)代，這些指標(biāo)已經(jīng)不夠了。

相較于“生成更多Token”或者“Token的成本更低”，“單位Token的智能水平”就變得更加重要，也就是在相同的資源消耗下，讓每一個(gè)Token承載更高的智能、完成更高效的任務(wù)。

所以云服務(wù)接下來需要提供的不再是單一模型能力，而是一套“全棧AI云”。

這樣的變化，其實(shí)對(duì)于所有云廠商來說，都是一場(chǎng)全新的考驗(yàn)。它要求的是從底層算力、到Agent運(yùn)行、再到企業(yè)真實(shí)業(yè)務(wù)場(chǎng)景的全鏈路打通能力。起點(diǎn)是最難的全棧技術(shù)，終點(diǎn)是最難的客戶價(jià)值，兩頭都做到，才算真正具備下一代AI云的能力。

鞠笑竹

北京人形機(jī)器人創(chuàng)新中心大模型負(fù)責(zé)人

Agent落地本身是一個(gè)系統(tǒng)工程。只做算力，解決不了任務(wù)執(zhí)行的穩(wěn)定性。只做模型，解決不了企業(yè)場(chǎng)景里的工具、數(shù)據(jù)、權(quán)限和流程。只做應(yīng)用，又很難反向優(yōu)化底層推理成本和運(yùn)行效率。因此，“芯、云、模、體”的協(xié)同，本質(zhì)上是在用系統(tǒng)工程的方法，來解決Agent大規(guī)模落地這件最難的事。

具體的做法是：

第三層，對(duì)模型進(jìn)行重構(gòu)。從過去更多在看模型的參數(shù)規(guī)模和跑分，到現(xiàn)在更看重模型能不能真正融入客戶業(yè)務(wù)、解決實(shí)際問題，去“賦能千行百業(yè)”。

第四層，對(duì)研發(fā)范式進(jìn)行重構(gòu)。從人寫代碼、人驗(yàn)證，轉(zhuǎn)向AI自主完成開發(fā)任務(wù)，讓Agent能夠直接調(diào)用云產(chǎn)品的服務(wù)和接口。

更重要的是，這四層需要協(xié)同打通上下游，形成閉環(huán)。

鄭然

百度杰出架構(gòu)師、百度智能云技術(shù)委員會(huì)聯(lián)席主席

而對(duì)于大型云廠商來說，這種全棧的能力，也意味著能夠覆蓋企業(yè)不同階段、不同層次的AI需求。比如有的企業(yè)還停留在模型訓(xùn)練和推理階段，只需要GPU算力。有的企業(yè)已經(jīng)開始開發(fā)自己的Agent，需要Agent Runtime、工作流、記憶管理等平臺(tái)能力。還有一些企業(yè)并不希望自己開發(fā)，而是希望直接購(gòu)買開箱即用的Agent應(yīng)用。企業(yè)可以根據(jù)自身需求，在同一套云體系中靈活選擇、逐步升級(jí)。

鞠笑竹

北京人形機(jī)器人創(chuàng)新中心大模型負(fù)責(zé)人

所以，當(dāng)AI開始從模型訓(xùn)練走向企業(yè)應(yīng)用，越來越多的云廠商開始重新定義AI基礎(chǔ)設(shè)施的邊界。

因此從全行業(yè)來看，從GPU云到Agent云，變化的不只是云的技術(shù)架構(gòu)，也包括價(jià)值衡量方式的變化：從看投入，到看產(chǎn)出。

這一篇文章，我們主要聊了智能云產(chǎn)業(yè)發(fā)生了什么變化、為什么會(huì)變。接下來關(guān)于AI Infra，我們也會(huì)很快推出系列內(nèi)容，更加詳細(xì)地拆解整個(gè)AI基礎(chǔ)設(shè)施產(chǎn)業(yè)鏈，以及每一個(gè)關(guān)鍵環(huán)節(jié)正在發(fā)生的技術(shù)變化和優(yōu)化方向。