百度推动Agent云架构升维

硅谷101

大模型竞争焦点已从 Token 消耗量转向以 DAA 为核心的商业任务交付率，倒逼云基础设施向 GPU、CPU 及 Agent Harness 协同演进。

AI-assisted summary of 算力革命与云厂商三重进化：Agent云的架构升级与"度量衡革命"【硅谷101】 — original source. Check the original for full context.

Source published: 2026-07-22

Detailed notes

## Background 本视频由Bilibili Channel“硅谷101”于2026年7月22日发布。视频简介指出，随着 Agent 从回答问题转向执行任务，云产业正经历从 GPU 云向 Agent 云的架构升级与“度量衡变革”，并邀请了百度杰出架构师郑然和北京人形机器人创新中心大模型负责人鞠笑竹进行深入探讨。

## TL;DR 视频回顾了云计算从传统 IaaS/PaaS/SaaS 演进至 GPU 云，再到2026年全面迈入 Agent 云的历程。面对 90% 的 Agent 在生产环境中“掉链子”的工程挑战，云厂商的生产资料已升级为 GPU、CPU、HBM 和光互联的协同体系，同时催生了 NeoCloud 的崛起。随着微软、谷歌及百度等巨头的全栈重构，行业正经历一场重要变革：评估标准从关注 Token 消耗和投入，转向以 DAA（日活智能体数）和“单位 Token 的智能水平”为核心的价值产出导向。

## Atmosphere & style 对话氛围专业、前瞻且极具产业洞察力，既有对技术底层演进的冷静拆解，也有对企业落地痛点的真实反馈。主持与两位来自头部云厂商和具身智能领域的专家深度对谈，形成了兼具宏观视角与硬核工程细节的探讨节奏。整体风格严谨透彻，充满对这场云计算“度量衡革命”和AI真正创造商业价值的期待感。

## Key takeaways - [00:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=0s) 进入2026年，AI产业核心机会聚焦于云计算，行业痛点从模型训练转向支撑Agent在企业真实业务中的稳定运行与规模化部署。 - [00:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=0s) 云计算经历三代变革：互联网时代的传统云（IaaS/PaaS/SaaS）、追求大模型训练的GPU云，以及当前以稳定执行任务为核心的Agent云。 - [05:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=300s) 约90%的企业面临Agent在生产环境中“掉链子”的挑战；Chatbot追求单轮响应速度，而Agent以任务交付质量为核心，依赖超高吞吐存储与大规模分布式推理。 - [05:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=300s) Agent Harness（运行底座）成为连接模型与应用的关键操作系统，需整合MCP协议、技能调用、长期记忆、安全沙箱与工作流管理。 - [10:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=600s) 新一代AI基础设施打破单一GPU局限，转化为GPU、重回核心的CPU、超高带宽存储（KV Cache/记忆）与高速光互联协同的新体系。 - [10:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=600s) NeoCloud（新云）算力服务商迅速崛起，如Nebius上市后股价暴涨超过10倍并纳入纳斯达克100指数；中美市场呈现NeoCloud垂直崛起与AI Native Cloud全栈升级的不同路径。 - [15:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=900s) 全球云巨头加速重构：微软提倡 Agent 取代“应用+操作系统”范式，谷歌将 Vertex AI 升级为 Gemini Enterprise Agent Platform。 - [15:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=900s) 行业迎来“度量衡革命”：百度提出 DAA（日活智能体数），推动行业评估标准从关注成本与投入的 Token 消耗量，转为关注“单位 Token 的智能水平”与实际智能产出。 - [20:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=1200s) 百度智能云提出“新云模体”（芯片、云、模型、智能体）全栈布局，推出百舸 6.0、千帆磁元工厂及驾驭工程，实现四层架构系统工程协同。 - [20:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=1200s) 在具身智能等严苛场景下，全栈 AI 云可支撑千卡集群稳定训练、超低延迟推理（控制在1.5秒以内）及零物理幻觉的高一次性成功率（Pass@1）。

## Detailed walkthrough ### [00:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=0s) 2026年AI算力新格局：从大模型竞赛走向 Agent 云架构升级

2026年已过半，AI产业最确定的机会落在云计算领域。随着 Agent 开始进入企业接管真实业务，算力服务成为竞争最激烈的战场。存储、光模块、高速互联等基础设施持续走强，前几年被边缘化的 CPU 重回市场焦点；CoreWeave、Nebius 等 NeoCloud（新云）公司快速崛起、股价飙升，微软、谷歌、亚马逊等巨头也持续加码 AI 投资。2026年上半年，大模型竞赛与 Agent 规模化部署的需求激增，企业对于 Agent 在真实业务中稳定运行的要求极其强烈，Token 经费加速燃烧。

回顾云计算的发展脉络：21世纪初，Google、Facebook、百度、淘宝等互联网公司快速崛起，业务增长远超 IT 基础设施建设速度。企业不得不自行采购服务器、建机房、组运维，因无法准确预测未来用户量而陷入“买少瞬间瘫痪，买多长期闲置”的资源浪费困境。2006年，亚马逊推出 EC2（Elastic Compute Cloud），首次将计算资源变为如电力般“按需获取、按需付费”的服务，拉开云计算大幕。随之形成的经典三层架构——IaaS（基础设施即服务）、PaaS（平台即服务）、SaaS（软件即服务），核心在于让软件以更低成本、更高效率运行，服务对象主要是网站、社交平台与企业软件。

2022年底 ChatGPT 上线后，云产业迈入 GPU 云时代，服务对象从“应用”转向“模型”。在大模型训练阶段，云厂商数据中心的核心采购设备从以往用于串行逻辑处理的 CPU 服务器，转向擅长大规模并行计算的 GPU。算力形态的变化带来了史无前例的资本开支扩张，模型规模每迈进一步，都意味着更多的 GPU、更大的数据中心与更高的电力消耗。同时，云平台层也全面进化，谷歌升级 Vertex AI、微软推出 Azure AI Foundry、AWS 推出 Bedrock，国内百度智能云与阿里云也分别推出千帆平台与百炼平台，将模型训练、微调、推理与 RAG 接入封装为开箱即用的云服务。

- **IaaS / PaaS / SaaS 传统三层**：IaaS 提供服务器/存储/网络，PaaS 提供数据库/中间件/开发平台，SaaS 直接交付软件服务。 - **GPU 云的变革**：生产资料由 CPU 密集型转为 GPU 并行计算，支撑大模型大规模训练与异构计算。

---

[05:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=300s) 真实生产环境的挑战：为什么 90% 的 Agent 仍在“掉链子”？

进入2025年下半年，随着 Agent 底层协议的出炉以及2026年 OpenCloud 等开源框架的爆红，企业尝试将模型能力真正转化为生产力，云产业由此跨入全新阶段。以具身智能领域为例，Agent 的核心绝非仅仅把大模型接到机器人上，而是要让智能体在真实物理环境中具备可靠的长程规划、技能（skill）调用与记忆能力，尽可能提升一次性成功率（Pass@1）。北京人形机器人创新中心大模型负责人鞠笑竹指出，具身智能相比互联网智能体要求更为严苛：一是不允许有幻觉，绝对不能幻觉出机器人不具备的技能或物理环境中不存在的物品；二是人类对机器人的容忍度极低，若机器人频繁重试或长久卡顿，用户会极度不耐烦，因此系统设计必须极致追求 Pass@1 的一次性成功率。

然而，最新的研究数据表明，高达 **90% 的企业**表示 Agent 在实际工作中频繁“掉链子”。这背后的根本原因在于：Chatbot 与 Agent 虽然看起来都在对话，但“快速给出答案”和“高质量完成复杂任务”是完全不同的工程问题。以往 Chatbot 追求速度优先，体验类似搜索，响应越快越好；而 Agent 的核心目标是高质量交付任务结果，底层系统需要支持多轮推理过程，其上下文长度（Context Length）与 KV Cache 需求相比 Chatbot 阶段呈指数级剧增，极度依赖大规模分布式推理与超高吞吐存储设施的支持。

在这个过程中，Agent 需要一套全新的操作系统——**Agent Harness**（运行底座）。Harness 位于模型之上、应用之下，负责把模型组织起来，让 Agent 能够调用 MCP（Model Context Protocol）、使用各种工具、管理长期记忆、运行工作流，并在安全隔离的沙箱环境中稳定执行任务。Agent Harness 存在极其显著的“木桶效应”，存储临时文件、网页下载、技能调用、MCP 接入、安全隔离与稳定性控制等任何一个环节出现短板，都会导致 Agent 的执行效果断崖式下跌。

- **从“速度优先”到“质量优先”**：Chatbot 阶段侧重单轮快速回应，Agent 阶段需支撑多轮深度推理与超长上下文管理。 - **具身智能的严苛要求**：零物理幻觉、强物理交互、极度依赖高 Pass@1 成功率。 - **Agent Harness 的工程栈**：整合工具调用、MCP 协议、长期记忆、安全沙箱与工作流隔离。

---

[10:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=600s) 基础设施的重塑：CPU 重回舞台中心与 NeoCloud 的崛起

随着云计算从单一卖算力、卖 Token 转向提供包含推理、存储、工具、记忆、沙箱与安全的完整 Agent 运行环境，传统云架构的三层内涵被重新定义，演变成 **AI Infra**（对标 IaaS）、**Agent Infra**（对标 PaaS）和 **智能体应用**（对标 SaaS）。底层的物理资源与硬件架构也随之迎来深度变革： 1. **GPU 之间需大规模高速互联**：满足分布推理需求。 2. **超高带宽存储**：专门用于处理 KV Cache 和 Agent 记忆。 3. **低延迟网络与海量并发向量数据库**：保障实时响应与知识检索。 4. **CPU 重回核心地位**：模型推理交由 GPU 完成，但任务调度、工具调用、跨系统协作等大量复杂的执行与逻辑控制工作重新回到了 CPU 上。核心生产资料从单一 GPU 扩展为 **GPU + CPU + HBM + 光互联** 协同运转的新体系。

在这一轮强劲的需求爆发中，“NeoCloud”（新云）算力服务商迅速崛起。NeoCloud 能以更灵活的方式提供 GPU 裸金属服务与定制化基础设施，成功承接了全球暴涨的算力外溢订单。典型代表 **Nebius** 自2024年10月复牌上市以来，股价累计暴涨超过 **10倍**，并在2026年6月22号被正式纳入纳斯达克100指数（Nasdaq-100）。

中美两国的云市场在此演进中呈现出不一样的格局。美国形成了独立的 NeoCloud 赛道（如 CoreWeave、Nebius）；而中国市场由于百度智能云、火山引擎、阿里云等头部超大云厂商快速向 **AI Native Cloud**（AI 原生云）演进，已直接将算力、模型训练、推理及 Agent 运行能力深度集成在自身平台中，更多是在现有大云的基础上进行全栈 AI 升级。

- **基础设施新协同**：核心资源由纯 GPU 扩展为 GPU、CPU、HBM 与光模块的组合拳。 - **资本与市场动向**：Nebius 涨幅超10倍并入选纳斯达克100指数，验证了市场对 AI 云基础设施的极其强烈的刚需。 - **中美市场分化**：美国 NeoCloud 垂直崛起；中国由百度智能云、火山引擎、阿里云等巨头直接演进为 AI Native Cloud。

---

[15:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=900s) 云巨头的重构浪潮：微软 Build 2026、谷歌 Cloud Next 与百度 DAA 指标

为了打通 Agent 规模化交付的“最后一公里”，全球头部云厂商在2026年集体发力重构云服务能力栈： - **微软（Microsoft Build 2026）**：提出了“Agent 将取代『APP + 操作系统』”的旧范式，判断这是一次可比肩“大型机到 PC”、“PC 到智能手机”的平台级变革，并推出了涵盖感知、运行、治理与分发的整套标准化 Agent 全栈云服务。 - **谷歌（Google Cloud Next 2026）**：正式将服务了5年的 Vertex AI 宣告退役，全面升级为 **Gemini Enterprise Agent Platform**，并同步发布了 Agentic Data Cloud、第8代 TPU 以及贯穿 Workspace 的智能体应用层。 - **百度智能云（Create AI 开发者大会）**：宣布全面升级为面向大规模智能体应用的新全栈 AI 云，并由李彦宏抛出了一项全新的行业度量衡指标——**DAA（Daily Active Agents，日活智能体数）**。

百度智能云技术委员会联席主席郑然指出，当前行业普遍关注 Token 消耗量，但这本质上只反映了“资源消耗”与“成本投入”。百度提倡 DAA，旨在将整个行业的优化目标从“提升算力效率”转向“提升智能成果”，关注实际的智能产出与商业价值，即有多少 Agent 真正帮助人类解决问题、干活并交付了最终结果。

以往行业追求的指标是 **Token per Dollar**（每美元购买 Token 数）、**Token per Watt**（每瓦特消耗 Token 数）和 **Token per Second**（每秒生成 Token 数），这些仅衡量性能与成本效率。但在 Agent 时代，**单位 Token 的智能水平（Smartness per Token）** 变得至关重要，要求在相同的资源消耗下，让每个 Token 承载更高的智能，从而高质量地完成复杂任务。

- **云演进里程碑**：谷歌退役 Vertex AI，全面转向 Gemini Enterprise Agent Platform。 - **度量衡革命**：从关注投入与消耗的 Token 指标，转向关注产出与成果的 **DAA（日活智能体数）**。 - **核心能力追求**：强调“单位 Token 的智能水平”，全栈优化推理效率与工具调用能力。

---

[20:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=1200s) 解构“新云模体”全栈 AI 云：百度智能云的系统工程落地

面对 Agent 落地这一复杂的系统工程，单纯做算力解决不了执行稳定性，单纯做模型解决不了企业内部的工具、数据与流程对接，而单纯做应用又无法反向优化底层推理成本。为此，百度智能云提出了**“新云模体”**（芯片、云、模型、智能体）全栈布局，通过系统工程的路线打通四层架构： 1. **第一层：AI 基础设施重构（AI Infra）**——从服务训练转向服务推理与 Agent，让 Token 更便宜、高效、稳定。百度发布了**百舸 6.0 AI 计算平台**、**昆仑芯集群**与**吉瓦级（GW）AI 数据中心**。 2. **第二层：云平台重构（Agent Infra）**——从云原生、AI 原生进化至 **Agent 原生**。百度推出了**千帆磁元工厂**与**驾驭工程**，提供 Agent 沙箱、隔离 Runtime、长上下文记忆与持久化对话能力。 3. **第三层：模型重构**——从盲目追求参数规模和跑分，转向注重模型能否真正融入业务解决实际问题。 4. **第四层：研发范式与应用重构**——从“人写代码”转向“AI 自主开发”，智能体可直接调用云产品的服务与接口；同时推出面向企业的服务、营销及一键任务流等 SaaS 级 Agent 应用。

在具身智能等高难度场景的落地中，这种全栈能力展现了巨大价值。据介绍，百度智能云在中国具身智能云市场的份额已达 **35%**，且已覆盖 **80% 的央国企系统**、**中央大型银行** 以及 **100% 的主流车企**。

以北京人形机器人创新中心与百度智能云的合作为例，双方在具身智能体上的协同贯穿了全流程： - **数据采集与标注**：借助百度在自动驾驶领域积累多年的中测/中包平台与采集源能力，进行数据采集场的运维。 - **模型训练加速与稳定**：对千卡以上规模的训练，依托百度运维团队保障基建稳定，出现问题快速恢复，实现训练加速与变相降本。 - **极低延迟推理（低于1.5秒）**：机器人要求在 **1.5秒内** 完成推理并开始执行物理动作，同时向用户做出回复，这需要极致的网络时延优化与模型推理降本增效。

全栈 AI 云的本质，就是把算力训练、推理、Agent 运行、工具调用以及企业级安全整合到统一平台中。正如李彦宏所强调的，Agent 时代的云变革不仅是技术架构升级，更是一场从“看算力规模、看 Token 消耗”到“看 Agent 真正创造多少价值”的**度量衡变革**。

- **百度“新云模体”架构**：芯片 + 云 + 模型 + 智能体四层紧密协同，消除系统短板。 - **Agent Infra 核心产品**：百舸 6.0、昆仑芯集群、吉瓦级数据中心、千帆磁元工厂及驾驭工程。 - **具身智能性能指标**：实现千卡集群稳定训练，推理延迟控制在 **1.5秒以内**，支撑高并发物理交互。

## Notable quotes > [00:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=0s) 买少瞬间瘫痪，买多长期闲置

> [05:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=300s) 因为机器人它需要干活，你不能出现幻觉，一旦它出现幻觉，比如说你让他干活，它可能突然拿了一个不存在的东西，这肯定是不行的。 — 鞠笑竹

> [05:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=300s) 如果你让它干活，它卡了半天，重试了半天，你可能也会很不耐烦，所以我们系统设计上是极致去追求 Pass@1 一次性成功率的。 — 鞠笑竹

> [05:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=300s) 做 Chatbot 和做 Agent 虽然看起来都是在对话，但本质上是完全不同的工程问题。

> [05:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=300s) Chatbot 追求的是速度优先，而 Agent 的核心目标是高质量交付任务结果。

> [15:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=900s) Agent 将取代『APP + 操作系统』的旧范式

> [15:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=900s) 这本质上只反映了『资源消耗』与『成本投入』。 — 郑然

> [15:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=900s) 我们要把整个行业的优化目标从『提升算力效率』转向『提升智能成果』。 — 郑然

> [15:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=900s) 我们要看单位 Token 的智能水平（Smartness per Token），要求在相同的资源消耗下，让每个 Token 承载更高的智能。 — 郑然

> [20:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=1200s) 机器人要求在 1.5 秒内完成推理并开始执行物理动作，同时向用户做出回复。 — 鞠笑竹

> [20:00](https://www.bilibili.com/video/BV11YKY6nEeo?t=1200s) Agent 时代的云变革不仅是技术架构升级，更是一场从『看算力规模、看 Token 消耗』到『看 Agent 真正创造多少价值』的度量衡变革。 — 李彦宏

## Mentioned 百度, 郑然, 北京人形机器人创新中心, 鞠笑竹, 李彦宏, Google, Facebook, 淘宝, 亚马逊, AWS, EC2, Bedrock, ChatGPT, CoreWeave, Nebius, 微软, Azure AI Foundry, Microsoft Build 2026, 谷歌, Vertex AI, Google Cloud Next 2026, Gemini Enterprise Agent Platform, Agentic Data Cloud, TPU, Workspace, 百度智能云, 千帆平台, 百舸 6.0, 千帆磁元工厂, 昆仑芯, 阿里云, 百炼平台, 火山引擎, OpenCloud, Model Context Protocol (MCP), Agent Harness, Agent Infra, AI Infra, AI Native Cloud, DAA (Daily Active Agents), Nasdaq-100

## 弹幕氛围 (Danmaku mood) — 13 条观众整体氛围偏向理性和互动讨论，前期伴随着对UP主更新频率的认可以及对视频内容（如云计算、EC2）的谐音梗与技术探讨。中后期部分观众对讲者的声音状态有所关注和吐槽，同时对视频中的广告以及云计算的技术局限（如数据不出厂）表达了直白的看法。

**整体情绪**：😊 正面 23% · 😐 中性 46% · 😞 负面 31%

**热议点** - **赞赏UP主的更新速度与频率** —— “高产呀” - **围绕“云”概念玩谐音梗与联想** —— “云原神” - **针对云计算背景与技术的专业讨论与思考** —— “其实是电商大促催生了基础设施需求波动，从而导致Amazon在业务低谷期将计算资源打包售卖” - **关注与吐槽讲者的嗓音与发音状态** —— “茜姐声音咋哑了” - **调侃视频中的植入广告** —— “硬广” - **对云计算安全与企业数据不出厂要求的质疑** —— “其实还是解决不了企业真正要求的数据不出厂的硬核要求，所以云计算需要打个问号”

**代表弹幕** > 高产呀

> 云原神

> 其实是电商大促催生了基础设施需求波动，从而导致Amazon在业务低谷期将计算资源打包售卖

> 2006年，太超前了

> 茜姐声音咋哑了

> 硬广

> 其实还是解决不了企业真正要求的数据不出厂的硬核要求，所以云计算需要打个问号

[Source](https://www.bilibili.com/video/BV11YKY6nEeo)

中文简报

百度推动Agent云架构升维大模型竞争焦点已从 Token 消耗量转向以 DAA 为核心的商业任务交付率，倒逼云基础设施向 GPU、CPU 及 Agent Harness 协同演进。视频回顾了云计算从传统 IaaS/PaaS/SaaS 演进至 GPU 云，再到2026年全面迈入 Agent 云的历程。面对 90% 的 Agent 在生产环境中“掉链子”的工程挑战，云厂商的生产资料已升级为 GPU、CPU、HBM 和光互联的协同体系，同时催生了 NeoCloud 的崛起。随着微软、谷歌及百度等巨头的全栈重构，行业正经历一场重要变革：评估标准从关注 Token 消耗和投入，转向以 DAA（日活智能体数）和“单位 Token 的智能水平”为核心的价值产出导向。云计算正迎来从传统互联网云、GPU 云到第三代 Agent 云的架构升级，核心任务从模型训练转向支撑 Agent 在企业真实业务中的稳定运行与复杂任务交付。 (0:00) 针对约 90% 的企业面临 Agent 在生产环境中频繁“掉链子”的问题，行业正在构建 Agent Harness（运行底座），通过整合 MCP 协议、长期记忆与安全沙箱来承接多轮推理与超长上下文需求。 (5:00) 基础设施核心生产资料重构为 GPU、重返核心的 CPU、超高带宽存储与光互联协同，带动了 Nebius 等 NeoCloud 算力服务商爆发式增长，中美云市场也呈现出独立新云与全栈升级的分化格局。 (10:00) 全球巨头加速重塑云能力栈，谷歌将 Vertex AI 升级为 Gemini Enterprise Agent Platform，百度则提出 DAA（日活智能体数），推动行业从单纯关注 Token 消耗量转向关注实际智能产出与“单位 Token 智能水平”的度量衡革命。 (15:00)

Reading summary

随着企业级 Agent 的规模化落地，云计算产业正经历从单纯提供 GPU 算力向承载多轮推理、工具调用与沙箱环境的 Agent 全栈云架构跃迁。这不仅重塑了底层的芯片协同与软硬件栈，也推动云厂商从衡量 Token 消耗转向关注实际业务产出的“度量衡革命”。从聊天机器人到 Agent：工程痛点与 Harness 底座需求 (5:00) 从追求快速响应的 Chatbot 转向以高质量完成复杂任务为导向的 Agent，系统底层面临着指数级增长的上下文长度（Context Length）与 KV Cache 压力。相关研究数据显示，高达 90% 的企业反映 Agent 在真实业务环境中频繁出现执行失败的“掉链子”现象。以具身智能领域为例，北京人形机器人创新中心大模型负责人鞠笑竹指出，物理交互对零幻觉及一次性成功率（Pass@1）有极其严苛的要求，卡顿或重试都会严重损耗实用价值。面对这种复杂性，模型层与应用层之间催生出名为 Agent Harness 的全新操作系统底座。Harness 负责统筹 MCP 协议接入、工具调用、长期记忆管理以及安全沙箱隔离，任何一个环节的工程短板都会导致任务中断。云服务由此从单纯的 API 接入，演变为对高吞吐存储与大规模分布式推理基础设施的强力依赖。基础设施协同重构：CPU 回归与中美云市场路径分化 (10:00) 由于 Agent 需要频繁进行任务调度、系统协作与复杂逻辑控制，云端计算形态从纯 GPU 并行计算扩展为“GPU + CPU + HBM + 光互联”的混合协同体系，CPU 因而重回算力核心地位。此外，大规模高速互联、专用于 KV Cache 和 Agent 记忆的高带宽存储，以及高并发向量数据库成为标配。算力需求的激增带动了云服务市场的分化。在美国市场，以 CoreWeave 和 Nebius 为代表的 NeoCloud 算力服务商迅速崛起，其中 Nebius 股价自 2024 年 10 月复牌后涨幅超 10 倍，并于 2026 年 6 月纳入纳斯达克100指数。在中国市场，百度智能云、火山引擎与阿里云等头部大厂则选择由内向外升级为 AI Native Cloud，直接将算力、模型和 Agent 运行环境打包进现有大云体系中。云巨头重构服务栈与度量衡标准的转移 (15:00) 主流云厂商在 2026 年加速重构云服务能力。微软在 Build 2026 提出“Agent 将取代 APP 与操作系统”的论断，推出标准化全栈 Agent 服务；谷歌在 Cloud Next 2026 宣布退役运行 5 年的 Vertex AI，全面转向 Gemini Enterprise Agent Platform，并同步推出第 8 代 TPU 与 Agentic Data Cloud。伴随技术栈重构，行业的评估标准也发生了转向。传统侧重投入成本与性能的指标（如 Token per Dollar、Token per Watt、Token per Second）无法全面反映 Agent 的任务完成度。百度李彦宏提出了 DAA（Daily Active Agents，日活智能体数）作为新度量衡，百度智能云技术委员会联席主席郑然解释，这一转变意在引导行业从度量“资源消耗”转向度量“智能成果”，并强调单位 Token 的智能水平（Smartness per Token）。 “新云模体”系统工程与具身智能落地验证 (20:00) 为消除各环节工程断层，百度智能云推行“芯片、云、模型、智能体”四层协同的“新云模体”系统架构：底层推出百舸 6.0、昆仑芯集群与吉瓦级 AI 数据中心；平台层上线千帆磁元工厂与提供沙箱及隔离 Runtime 的“驾驭工程”；并在模型和研发范式层面转向支撑企业业务与 AI 自主开发。数据显示，百度智能云已覆盖 80% 的央国企系统、主流车企，并在中国具身智能云市场取得 35% 的份额。在与北京人形机器人创新中心的合作中，该全栈能力覆盖了数据采集场运维、千卡集群训练的快速故障恢复，以及将推理执行与回复延迟控制在 1.5 秒以内的性能指标，表明全栈集成有助于满足真实物理交互的苛刻时效要求。云计算的演进正从大模型训练阶段的粗放型堆砌算力，转向以支撑 Agent 稳定运行、高效率推理和高商业价值产出为核心的精细化系统工程，DAA 等产出导向指标将成为衡量云厂商长期竞争力的关键尺标。

Source quotes

[0:00] 买少瞬间瘫痪，买多长期闲置 [5:00] 鞠笑竹: 因为机器人它需要干活，你不能出现幻觉，一旦它出现幻觉，比如说你让他干活，它可能突然拿了一个不存在的东西，这肯定是不行的。 [5:00] 鞠笑竹: 如果你让它干活，它卡了半天，重试了半天，你可能也会很不耐烦，所以我们系统设计上是极致去追求 Pass@1 一次性成功率的。 [5:00] 做 Chatbot 和做 Agent 虽然看起来都是在对话，但本质上是完全不同的工程问题。 [5:00] Chatbot 追求的是速度优先，而 Agent 的核心目标是高质量交付任务结果。 [15:00] Agent 将取代『APP + 操作系统』的旧范式 [15:00] 郑然: 这本质上只反映了『资源消耗』与『成本投入』。 [15:00] 郑然: 我们要把整个行业的优化目标从『提升算力效率』转向『提升智能成果』。 [15:00] 郑然: 我们要看单位 Token 的智能水平（Smartness per Token），要求在相同的资源消耗下，让每个 Token 承载更高的智能。 [20:00] 鞠笑竹: 机器人要求在 1.5 秒内完成推理并开始执行物理动作，同时向用户做出回复。 [20:00] 李彦宏: Agent 时代的云变革不仅是技术架构升级，更是一场从『看算力规模、看 Token 消耗』到『看 Agent 真正创造多少价值』的度量衡变革。

Original transcript

[0:00] 2026年已经过了一半,AI产业罪确定的机会在哪里呢?随着Agent开始走进各大企业干活AI时代的算力服务正在变成竞争最激烈的领域存储光模块高速互联等AI技术设施板块持续走强前几年一度被边缘化的CPU又重新成为了市场的关注焦点CoreViv、Nabius等一批Neoclod公司快速崛起股价飙升微软、谷歌、亚马逊等云巨头都在疯狂加码AI投资在2026年的上半年,前年代模型竞赛在持续,模型厂商的收入在增长。Agent 时代来临之后,各大企业对于Agent进入真实业务,并且能够稳定运行和规模部署的需求激增,投肯经费也在燃烧。因此对于提供算力服务的云厂生们来说这是绝佳的机遇但是在快速发展的AI时代基础设施上无论是AI infra还是Agent infra都需要技术快速的跟上可以说整个云产业正在迎来过去20年来最大的一次架构升级那么AI Agent时代的云到底是躲什么样的云呢?当AI从回答问题走向执行任务,云的底层逻辑在发生什么样的改变?云厂商如何能够真正打通最后一公里呢?Hello大家好,我是陈倩,那么这期视频就跟我们来一起看看2026年上半年AI时代的那朵云正在发生什么样的变革?要理解云变了什么我们先来看一下以前的云长什么样的那云计算是怎么诞生的呢21世纪初啊Google Facebook 百度淘宝等一大批互联网公司快速崛起当时互联网企业的业务增长速度远远超过了IT基础设施的建设速度企业想要支撑业务上限和增长通常需要自己采购服务器建设机房组建运维围团队为了应对未来几年的业务增长大量资金去购买设备但是呢问题在于没有人能够准确的预测未来会有多少的用户如果你买少了业务爆发的时候服务器可能瞬间瘫痪但如果你买多了又意味着大量设备长期闲置造成巨大的资源浪费2006年亚马逊推出EC2 Elastic Compute Cloud第一次呢将计算资源变成了一种可以像电力一样安需获取安需付费的服务拉开了云计算时代的大幕随后微软谷歌以及百度腾讯案例等科技巨头纷纷入场云产业逐渐形成了一套完整的能力战这其中有IS也就是基础设施级服务PaaS平台级服务以及SaaS软件级服务其中IS负责提供服务器存储和网络等基础资源PaaS提供数据库中间层和开发平台等能力让用户不用操心底层硬件专注于业务逻辑的开发SaaS则是直接向用户交付软件服务这个阶段云解决的核心问题是让软件能够更低成本更高效率的去开发部署和运行云的服务对象是网站社交平台和企业软件仍使用应用而应用去消耗计算资源2022年年底,XGPT的上限改变了市场对顺利的需求,NAS带来了,而云产业也带来了新的时代,GPU云。在AI时代云产业的服务对象开始从应用转向模型云的能力开始围绕着AI模型的训练需求而变化大模型时代最开始那么云本身也更多的关注的是训练和推理的效率尤其是模型高速发展的阶段那更多的客户呢重点就在聚焦在我们怎么样去实现更高效的大规模的模型的训练在那个阶段呢那云所承载的帮助我们的模型的训练的业务来实现更复杂的这种移构计算的能力首先云运行的硬件即作变了互联网时代云厂商建设数据中心的时候采购的核心设备是CPU服务器因为网站数据库CRM等传统应用本质上都是CPU密集型工作负载但是大模型的训练和推理依赖的是大规模并行计算CPU所擅长的串性逻辑处理并不适用这让GPU从过去数据中心里面的辅助角色一跃变成了最核心的生产资料而这种底层算力的变化直接指数级推高了基础设施的建设成本从2023年开始科技巨头们开启了史无前例的资本开支扩张模型规模每向前迈一步背后都意味着更多的GPU更大的数据中心以及更高的电力消耗平台层的逻辑也随之发生了变化互联网云时代的云平台主要提供数据库容器平台中间键和开发工具帮助开发者更高效的构建软件变成了魔形之后开发者 [5:00] 面临的新问题变成了模型的训练部署推理加速向量数据库RAG以及模型管理平台等等于是我们看到谷歌升级Vortex AI 集成生成式AI能力微软推出Azure AI FoundryAWS推出Bedrock国内这边百度智能云推出千番平台阿里云推出百链平台等等那这些新的AI平台其实都是尝试把模型训练推理微调和应用开发过程封装起来让企业能够像使用云服务一样而软件层面则涌现出类似XGPT、Copilot等一系列AI的原生应用。但是进入到2025年下半年之后,随着一系列Agent产品底层协议的出现,以及今年以来OpenCloud等开源框架的爆红,企业们开始尝试把强大的模型能力转变为生产力,云也由此进入了一个全新的阶段。比如说在巨身智能领域Agent的核心呢不仅是把大模型接到机器人上更是要让Agent具备可靠的长城规划skill调用和记忆能力并且在真实物理环境中啊尽可能提高一次性成功率我们其实在24年底的时候就已经开始立项去做这个惠斯开悟巨身智能体在我们整个大脑层面其实我们也很强调这种agent的能力包括这种长城任务包括对于记忆的这种检索然后包括对这个工具调用的这个准确性其实也有非常高的一些要求相比互联网的这个智能体其实我们要求还要更高一些第一点就是我们是强物理交互的所以说呢不能有幻觉这个幻觉包括说你不能幻觉出来说这个机器人他完全不具备的一个技能你不能够幻觉出来我环境中不存在的这个物品然后另外呢其实现在其实我们看到很多这个Asian他是可以去做这个反思然后去做这个重新规划但是呢感觉就是人对这个机器人的要求就特别高就如果他发现他长时间的在不停的这个从事或者是非常长的时间去执行一个任务的时候大家好像会很不耐烦所以说在这个时候我们最觉得就是PAS1的成功率就是你这一次一定要尽量把这个任务完成所以卖算力买token 卖模型调用相对来说都只是基础能力真正困难和具有挑战的地方是如何让成千上万个agent稳定运行系统工作安全地接入企业系统并且持续地创造价值那么云的能力需要怎么去变呢过去几年大模型的能力实现了跨越式的进步模型能够携带码分析数据与撰写报告甚至在很多专业测评中都超过了人类的水平但是具体到应用落地环节企业们却发现拥有一个聪明的问答模型并不等于拥有真正能够干活的员工最新的研究数据还显示有90%的企业都表示Agent在实际工作中会掉链子这背后的原因是查宝和Agent看上去都是在对话但是快速给出答案和高质量完成任务却是完全不同的技术问题所以Agent Infra上又怎么能够把这个链子给缝起来呢?原来的chatbot那用户的诉求或者说用户的预期啊就有点像我们的搜索一样啊你提一个提交一个问题然后呢他又需要很快速的回应啊那在Agent的时代核心的目标不是快速的去完成任务是高质量的完成任务所以这个会有一个完全不一样的预期那对于就是底层的系统来说那我需要对模型也是有更多轮的这个推理的过程啊那整个的上下文的长度和拆得爆的阶段那也完全不是一个数量级的水平所以说这就要求我们的整个的大规模的分布式推理然后包括像KWCash这样的这种存储的这个设施就能更好地去支持然后大规模的分布式推理的高效的执行也就是说大模型阶段云的优化目标是速度优先如果AI回应的慢用户体验就崩了因此AI建设的目的就是要让模型跑得更快更便宜更稳定agent开始进入真实的生产环境之后云就不再只是卖算力而是要同时提供包括推理存储工具机翼沙箱安全在内的完整agent运行环境解决的是智能体如何能够稳定运行如何大规模部署的问题了而在这个过程当中agent需要一套全新的操作系统agent harness那关注AI进展的小伙伴们对于harness这个词肯定不陌生我们之前的视频也提到过运行底座它位于模型之上应用之下负责把模型真正的组织起来让agent能够调用mcp使用各种的工具管理长期记忆运行工作流 [10:00] 并且在一个安全隔离的环境中稳定执行任务也就是说未来决定agent是否能够真正走向落地的就是harness的这一整套工程能力而在这个系统当中存在着显著的木桶效应就是每一个环节都不能有短板你的木桶最短的那个板决定了你整个系统的能力为了完成任务需要给Hannis一个执行的环境他需要比如存储一些临时的文件需要调用工具比如下载一些网页需要去用这个skill然后需要调用mcp这些呢都需要一个环境同时需要工具然后有记忆然后呢再加上安全然后帮助agent的任务能够有具备隔离性然后具备稳定性所以说这就背后呢就对于整个的这个工程层面就提出了完全不一样的要求我们理解agent是一个系统化的工程某种意义上说呢其实它存在着一定的木桶的效应整个agent的Hannis本身那它依赖的很多的这种配套的能力其实呢就是它需要一个系统化的优化然后才能让agent能够更高效的执行短板的就容易造成agent的这个执行效果的这个下降所以呢从一次推理给答案到多轮推理调用工序管理记忆执行任务那么这背后对云提出了一整套全新的工程要求在这样的背景之下过去智能云三大层级的内涵和能力也需要围绕着Agent的落地部署来重新架构从IS Pass和SaaS演变成一种AI InfraAgent Infra和智能体应用的新架构IS我们还是以AI Infra为代表它更多的就是聚焦在训练推理集群调度性能优化然后算力基础设施方面为整个模型然后提供坚实的运行底座这个是可以对标成我们的就是S的层面PaaS的层面我们把它延伸到了Agent Infra这个层面让客户能够聚焦在智能体的开发运行工具挑适这个功能上然后帮助客户的agent稳定的去完成任务那同时呢从SaaS层来看呢就是我们也在做一些尝试一些面向企业的agent的应用帮助企业呢去落地说agent的价值那包括个服务啊包括营销啊然后包括我们的一键任务流的这种系统这种应用其实也是我们的面向SaaS应用的尝试这种底层逻辑的变化呢引导到了整个产业链上Agent要部署落地GPU之间需要高速大规模互联TVCache和AgentG需要超高带宽存储推理过程需要超低延迟网络降量数据库需要海量并发毒血于是高带宽内存HBM光通性模块先进封装等等每个环节都变成了新的稀缺品与此同时CPU也重新变得重要起来模型推理由GPU完成而人物调度工具调用跨系统协作等大量执行工作回到了CPU 因此云的核心生产资料从大模型时代单一的GPU扩展到了GPU+CPU+HBM+光互联协同运转的新体系于是我们也看到了这些板块的公司们今年的股价也在一路的暴涨而在这一轮需求爆发当中还有一个难以忽视的部分是今年New Cloud新云的快速崛起Neo Cloud能够更加灵活地提供包括GPU资源裸金属服务等在内的基础设施能力快速响应企业不同场景下的定制化需求另外一方面随着全球AI需求持续爆发当量训练和推理订单开始向外溢出也给Corewave、Nabias等星云带来了快速成长的机会Nabius 2024年10月复排上市以来,股价已经涨了超过10倍之多,还在今年6月22号被正式纳入纳斯达克100指数,说明无论是资本市场还是真正的产业需求都在压住AI云业务。不过中国的情况有一点不一样与美国已经形成了比较明显的Neo Cloud新云赛道不同中国目前还没有发展出这一独立的产业类别这背后的主要原因可能在于百度智能云火山云阿里云等超大云场生正在快速向AI Native Cloud的演进已经将AI算力模型训练退力服务等能力整合进资深平台相比催生新的云场上中国更多是在现有云平台基础上Ai的升级那随着Ai工作复杂的演进云服产业正在形成更加多元的能力分工围绕算力推理 agent运行和 [15:00] 企业落地等不同环节不同类型的云厂商都在围绕各自的优势来构建自己的核心能力正式看到了企业大规模部署agent的真实需求以及落地过程中遇到的种种挑战全球头部云厂商在2026年集体是做出了同一个动作就是牵头重构云的能力战去搭建一套服务于agent运行和部署的云服务比如说微软就在今年的Build 2026上提出Agent将取代APP加操作系统的旧范式并判断这将是一次可以和大型机到PCPC到智能手机相提并论的平台式转移围绕着这个判断微软是推出了一整套Agent全站架构从感知运行治理到分发整条链路被打包成一项标准化云服务谷歌在4月的Cloud Next 2026上宣告服务了5年的Vertex AI退役取而代之的是全新的 Gemini Enterprise Agent Platform并且同步发布了Gentic Data Cloud第8代TPU以及覆盖Workspace的智能体应用层那么这些动作都说明AI云的竞争正在从谁能够提供模型和算力走向谁能够支撑agent稳定运行和规模化交付而在今年的Create AI开发者大会上百度宣布将百度智能云全面升级为面向大规模智能体应用的新全战AI云同时还抛出了一个全新的指标叫做DAA Daily Active Agents日活智能体数将基础设施优化的目标从提升算力效率逐渐转向提升智能成果因为行业里面目前看token的消耗表多一些哪个企业消耗多少token或者哪个模型的token的用量但这些指标虽然是比较重要的技术指标但它更多的还是反映在资源消耗上反映在成本上所以说Robin提出的DAA其实更多的想关注应用关注产出希望能够让整个的行业里面能够享受AI的技术红利就是有更多的agent帮助人类去解决问题然后帮助人类在干活在完成任务最终来交付结果所以说DNA关注的是效果关注的是产出Token可能更多的关注与投入通过结果通过价值去引导然后去衡量一个平台和生态的繁荣可以说怎么更高效的去烧token已经是行业追求的共识目标了所以在今年上半年我们看到大家喊的这个口号要把指标定成什么token per dollartoken per watt还有token per second这些但是话说回来这些指标本质上衡量的是性能效率还有成本也就是AI规模化落地的基础但在Agent时代这些指标已经不够了Agent阶段客户真正关心的还是AI最终交付的价值所以百度提出的DAA本质上是把AI云的目标从资源消耗推向智能成果这也是一个更难的目标是让AI真正高质量干活相较于生成更多token或者token的成本更低单位token的智能水平就变得更加的重要了也就是在相同的资源消耗下让每一个token承载更高的智能完成更高效的任务所以云服务接下来提供的不再是单一模型的能力而是需要一套全战AI云这样的变化其实对于所有的云厂商来说都是一场全新的考验它要求的是从底层算力到agent的运行再到企业真实业务场景的全链路打通了能力起点是最难的全站技术终点是最难的客户价值两头都做到才算是真正的具备下一代AI云的能力其实我们整个巨身的智能体和互联网的智能体它实际上是有一定的overlap比如这种FaceID相关的一些功能然后包括一些记忆的功能百度智能云它已经具备了一个非常完善的这种对互联网然后去服务的一个能力其实这个时候我们是没有必要去重复的造轮重复去开发的然后其次真正千亿参数以上的这种大模型和这种小模型它还是不是在同一个概念上面特别是在能力维度上面所以说我们一定是会把整个的我们训好了大模型然后放到百度智能语音上面去做推理推理的时候其实我们这个时候的要求是希望能够在1.5秒之内就能够开始去做这个动作同时给用户回复的这个时候我们对整个网络的实验包括模型推理的速度也有非常高的要求现在我们也在跟百度的智能语言一起去讨论如何去面对未来海量的机器人的同时的访问另外怎么样能够给用户一个非常快速的响应然后能够提升更好的用户体验 [20:00] 那么如何去打造全战AI云其实不同的公司现在有不同的思路比如说我们的嘉宾就举例说到百度智能云就完全的针对新云模体四个层级去进行完全的重构Agent落地本身是一个系统工程如果只做算力解决不了任务执行的稳定性只做模型解决不了企业场景里面的工具数据权限和流程只做应用又很难反向优化底层推理成本和运营效率因此新云模体的协同本质上是用系统工程的方法来解决agent大规模落地这件最难的事具体的做法是第一层对AI基础设施进行重构从服务于模型训练转向服务于推理和agent让每一个token算得更便宜更高效更稳定比如说百度今年发布的白格6.0 AI计算平台昆仑星集群和吉瓦集AI数据中心共同构成了面向推理和agent时代的AI基础设施能力第二层是对云平台进行重构云的形态从云原生到AI原生又进入Agent原生整个基础站围绕智能体重新设计比如说今年推出的百度千番的磁元工厂和驾驭工程能够支持海量Agent在云上进行并发提供Agent杀箱与格林run time提供更长的上下文记忆与持久化对话那第三层是对模型进行重构从过去更多再看模型的参数规模和跑分到现在更看重模型能不能真正融入客户业务解决时间问题去赋能千行百页那第四层是对研发范式进行重构从人写代码人变诊转向AI自主完成开发任务让agent能够直接调有云产品的服务和接口更重要的是这四层需要协同打通上下游形成闭环摆脱智能云我们认为它不是一个单点能力的堆叠我们选择的是一个工程化系统化的路线就是芯片云然后模型智能体它是环弯相扣的就芯片本身然后需要运行在云的基础设置之上需要通过云去帮助客户的用好算力云和模型本身也需要做紧密的优化然后协同的演进然后模型和智能体之间也是一个协同演化的过程所以说我们提出的就是新云模体是全站布局我们希望能够四层布局然后能够全站布局消除任何一层的短板然后来最终去服务好企业Agent AI的落地AI的转型这么一个过程而对于大型云厂商来说这种全站的能力也意味着能够覆盖企业不同阶段不同层次的AI需求比如说有的企业还停留在模型训练和推理阶段只需要GPU算力而有的企业已经开始开发了自己Agent需要agent run time工作流记忆管理等平台能力还有些企业并不希望自己开发而是希望直接购买开箱即用的agent应用企业就可以根据资深的需求在同一套云体系中灵活选择逐步升级但是全站最终能不能成立还有看它能不能进入最难的客户场景百度智能云目前已经覆盖了80%的央国企系统中央性银行和100%的主流车企在中国居生智能云市场份额达到了35%那这些场景从一开始就是高并发高可靠高安全高确定性的复杂生产系统能在这些最难的场景里面跑文跑通才是一套全战AI云真正成立的标志比如说在居身智能领域嘉宾就谈到百度智能云可以从数据训练推理全流程的为机器人的训练和落地提供支持百度之前在做制装驾驶已经很长时间了然后他们一直在做这个宗策或者宗包就是包括这种采集园然后还有一些标注的这个平台那在前期的时候我们助级采集园也是依赖于百度的能力去做数彩厂的一些运维的工作到训练的时候第一个方面就是我们要求训练加速因为现在拼的就是速度加速完之后的话其实对这个成本也是一个变相的一个节约另外呢就是其实你到了一个千卡以上的这个训练的这个规模的情况下就不单是模型的问题它是一个系统的问题那系统里面包括整个的这个基建它要稳定然后如果中间出现了这个问题我们要很快的去做这个恢复那这个其实也是依赖于百度这边的这个运维的团队然后去帮助我们来实现然后再到这个推理的时候的话那我们肯定要共同的去做整个的模型推理上的降本效然后能够真正的把成本降起来然后能把这个大模型用起来所以当AI开始从模型训练走向企业应用越来越多的云场商开始重新定义AI基础设施的边界百度无智能云一直在尝试做的就是把最难的AI基础设施最难的agent运行体系和最难的企业场景 [25:00] 全占AI云本质上就是把训练和推理agent运行工具调用以及企业及落地能力整合到统一的平台中以支撑AI真正的进入生产环境而百度创始人李彦宏提出的新指标DAA之所以值得关注是因为他在提醒着行业agent时代AI价值不能只看算力规模Token消耗和模型调用量而更要看有多少agent真正的进入到企业流程完成任务创造价值全行业来看,从GPU云到Agent云,变化的不只是云的技术架构,也包括价值衡量方式的变化,从看投入到看产出。这期的内容我们主要聊了智能云产业发生了什么样的变化,为什么会变,那么接下来关于AI Infra,我们也会很快推出系列内容,更加详细的去拆解整个AI基础设施产业链的各个环节,和优化方向那以上就是我们这期视频的所有内容了大家不要忘记关注我们的账号你们的留言点赞还有转发是支持我们硅谷101做好深途科技和商业内容的最佳动力我是陈倩那我们就下期视频再见了