英伟达上调GPU订单预期至1万亿美元 联手Groq反击巨头自研芯片

深度解析2026 GTC:英伟达万亿订单背后的AI大爆发、Token经济学与失衡供应链 — 硅谷101

硅谷101

黄仁勋通过扶持开源模型与新云平台将上下游生态“去利润化”,正利用其垄断的芯片层与垂直整合能力建立不可撼动的AI帝国。

AI-assisted summary of 深度解析2026 GTC:英伟达万亿订单背后的AI大爆发、Token经济学与失衡供应链 — original source. Check the original for full context.

Source published:

Detailed notes

## Background 该内容由Bilibili平台的“硅谷101”频道于2026年3月24日发布。视频简介指出,在接下来21个月内,英伟达GPU订单的收入预期将达到1万亿美元,黄仁勋在本次GTC大会上彻底改变叙事,提出了“Token经济”和“AI五层蛋糕”的宏大蓝图,标志着英伟达正从一家芯片公司向AI生态帝国全面转型。

## TL;DR 随着OpenCloud带动Agent生态大爆发,AI推理端迎来拐点,英伟达在2026年GTC大会上推出了“Token经济”新叙事,并将截止2027年底的GPU架构订单预期翻倍至1万亿美元。为了巩固护城河,黄仁勋打造了“AI五层蛋糕”生态体系,通过大手笔技术授权Groq推出LPU芯片组合拳、发布Vera CPU并深度布局光通信,试图全面掌控AI产业链利润。然而,硬币的另一面是整个AI产业正面临内存、能源与硬件子部件的严重供应链短缺,这一超级周期预计将持续到2028年。

## Atmosphere & style 整个视频充满着前沿科技的宏大感与敏锐的商业洞察力,透露出一种见证历史转折点的兴奋与紧迫感。主讲人以清晰理性的叙事风格,深入浅出地拆解英伟达商业帝国的雄心,既有老黄“卡车与面包车”等生动的行业比喻,又交织着万亿订单、百亿巨额收购等令人震撼的商业数字。在描绘AI应用繁荣、技术高歌猛进的宏大愿景之余,节目也冷峻地揭示了底层供应链全面缺货、亮红灯的严苛现实,整体氛围在科技狂热与产业理性之间达到了精妙的平衡。

## Key takeaways - [00:00](https://www.bilibili.com/video/BV1oLQqBtE2F?t=0s) 英伟达在2026年GTC大会上转变了过去单纯展示芯片性能的叙事模式,转而聚焦于由AI应用落地和智能体生态繁荣驱动的“Token经济”。 - [00:00](https://www.bilibili.com/video/BV1oLQqBtE2F?t=0s) 北美市场的算力需求正从单一的大型模型训练大量转化为边缘节点的推理需求,多模态(视频和图像生成)与编程是算力暴增的核心赛道。 - [00:00](https://www.bilibili.com/video/BV1oLQqBtE2F?t=0s) 黄仁勋的销售策略从过去向初创AI公司卖芯片,转变为向全球每一家企业和软件公司推销Token和Agent(智能体)策略。 - [04:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=299s) 黄仁勋预测截止到2027年底,Blackwell和Rubin架构的GPU订单收入将达到1万亿美元,比去年的预测翻了一倍,这并不包括CPU和LPU等其他产品线。 - [04:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=299s) 由于各大企业在算力上的资本支出绝对值持续上涨,且前沿模型实验室之间差距未明显拉开,模型厂商只能被迫在应用变现和堆算力人才之间做出选择。 - [04:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=299s) 市面上依然严重缺卡,旧卡(如H100、H200)甚至能以超原价转售,在软件与配置跟不上硬件迭代的情况下,宣传单芯片性能已无太大实际意义。 - [09:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=599s) 英伟达提出了包含能源、芯片、基建、模型、应用在内的“AI五层蛋糕”生态体系,核心策略是将其他层“去利润化”,从而将利润高度集中在自身垄断的芯片层。 - [09:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=599s) 英伟达通过大力扶持新云平台(如CoreWeave、Nebius)来抗衡传统云巨头,并通过开源大量模型、降低推理价格来削弱顶级闭源模型的溢价权。 - [09:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=599s) 英伟达通过200亿美元现金授权交易快速引入Grog的LPU技术,以应对GPU在处理对延迟极其敏感的Decode(串行Token生成)任务时的效率瓶颈。 - [09:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=599s) 针对SRAM容量极小的局限,英伟达利用Dynamo软件将推理任务拆分:由1颗Rubin GPU负责Prefill与Attention,搭配8颗Grog LPU负责Decode,实现垂直整合。 - [19:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=1199s) 为了应对Agent时代的智能体工作流协调和海量数据传输需求,英伟达发布了面向代理式AI与强化学习的Vera CPU,并在此前推出了专为长语境推理优化的CPX芯片。 - [19:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=1199s) 在光通信布局上,英伟达向Lumentum和Coherent分别注资20亿美元锁定产能,将技术视线从毫米级(Scale Up)和米级(Scale Out)互联提升至千米级(Scale Across)的不同数据中心互联。 - [19:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=1199s) 整个AI产业正面临由内存、网卡、电源供应器到CPU等几乎所有硬件子部件的全面短缺与疯狂涨价,这一由AI驱动的供应链超级周期预计将持续到2028年才能缓解。

## Detailed walkthrough ### [00:00](https://www.bilibili.com/video/BV1oLQqBtE2F?t=0s) 2026年英伟达GTC大会的背景与“Token经济”新叙事

在XGPT爆发三年半之后,2026年的英伟达(NVIDIA)GTC大会拉开帷幕。与往年不同的是,联合创始人兼CEO黄仁勋开始停止单纯讲述芯片性能的故事,转而瞄准了一个更有野心、更持久的宏大叙事——“Token经济”。在本次大会上,黄仁勋高呼“推理拐点已经到来”。这一转变背后的核心驱动力是AI应用的落地,尤其是OpenCloud的爆火带动了全球Agent(智能体)生态的繁荣。

根据新兴云厂商GMI Cloud的创始合伙人兼CEO Alex Ye的观察,北美市场对算力的暴增需求主要来自多模态(视频和图像生成)以及编程(Coding)两大领域。OpenCloud带来的Token推理使用量正在以倍数级暴增,客户群体也从过去单一的大型训练(Training)客户,大量转化为需要边缘(Edge)节点的推理(Inference)客户。尽管OpenCloud诞生于硅谷,但其在北美的普及和应用甚至没有国内那么“卷”。许多硅谷公司正在开发“zero code”(零代码)且极易使用的UI体验。目前,这些任务虽然在Mac mini或DGX Spark上运行,但长远来看,由于本地PC的设置成本过高,未来绝对都会走向云端。

面对推理需求的飙升,黄仁勋的销售逻辑发生了根本性转变:过去他是向新成立的AI公司卖芯片,而现在他是向全球的每一家企业、每一家软件公司推销Token和Agent策略。在GTC演讲中,黄仁勋强调“每一家企业都需要一个Agent策略,需要一个OpenCloud策略”。

---

[04:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=299s) 1万亿美元订单预期与产能供不应求的现实

在大会召开前几天,英伟达发布了一篇名为《AI五层蛋糕》的文章为大会造势,强调其垂直整合能力与生态,而非单一芯片。在演讲中,黄仁勋抛出了一个震撼市场的数字:1万亿美元(1 trillion dollars)。在2025年的GTC上,他曾预测当前及下一代GPU架构(Blackwell和Rubin)到2026年底的订单收入将达到5000亿美元;而今年,他直接将这一预期翻倍,宣布截止到2027年底,光是Blackwell和Rubin的GPU架构订单收入就将达到1万亿美元。

需要注意的是,这1万亿美元的数字并不包括英伟达新发布的CPU、基于Grog的LPU等其他产品线的订单。黄仁勋在媒体闭门会上澄清,之所以单列GPU架构的订单,是为了让外界更直观地感受到英伟达GPU业务的增长。从财务分析的角度来看,这个数字为2027年的营收和利润画了一个坚实的底部,折算下来2027年英伟达的EPS(每股收益)可能达到13至14美元。

尽管增速百分比可能放慢,但各大企业在算力上的资本支出(CAPEX)绝对值仍将持续上涨。一方面,Agent和Token的消耗量明显提升,推理端迎来拐点;另一方面,前沿模型实验室(Frontier Labs)之间处于交替领先的胶着状态,开源大模型与闭源商业模型的差距并未明显拉开。模型厂商为了生存只有两条路:要么向上做应用(Application)积累用户粘性并变现,要么利用资产负债表和现金优势更大力度地堆算力和人才。

与此同时,英伟达之所以不再一味强调单芯片性能(甚至对下一代Rubin架构也只是略微提及),是因为市面上依然疯狂缺卡。由于产能无法达到老黄预期的水平,两三年前发布的旧卡(如H100和H200)甚至能以超原价的价格转售,而最新的Blackwell芯片也才刚刚进入大规模应用阶段。在软件生态和配置跟不上硬件迭代速度的情况下,继续宣传单卡性能对市场已无太大实际意义。

---

[09:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=599s) 拆解“AI五层蛋糕”与英伟达的生态护城河

为了在Token大宗商品化(Commoditization)的时代持续成为最赚钱的机器,黄仁勋提出了“AI五层蛋糕”生态体系。这五层从下到上依次为: 1. **能源层**:电力等基础设施供应。 2. **芯片层**:英伟达的核心业务(GPU、CPU、LPU等)。 3. **基建层**:云厂商、数据中心、土地、供电、冷却系统、建筑工程及网络通信。 4. **模型层**:包括OpenAI、谷歌Gemini、Anthropic等顶尖闭源模型,以及英伟达自研的一系列开源模型。 5. **应用层**:针对机器人、自动驾驶、工业制造、编程和企业级AI Agent等不同赛道的研发技术。

前三层(能源、芯片、基建)被统称为“AI工厂”(AI Factories)。在这五层蛋糕中,英伟达的策略是通过扶持竞争、开源共享等手段,将其他层“去利润化”(Commoditize),从而将利润高度集中在拥有绝对垄断地位的“芯片层”。例如,为了抗衡谷歌云和AWS等具有强议价权的传统云巨头,英伟达大力扶持了CoreWeave和Nebius等NeoCloud(新云)平台;在模型层,英伟达开源了大量模型,并举办全球核心开源模型论坛,旨在将Token和推理的价格打下来,削弱顶级闭源模型的溢价权。一旦开源模型能以10%的价格达到闭源模型90%的性能,Token就会彻底商品化,生态链的利润最终仍会流向提供底层算力的英伟达。

在芯片层,本次GTC最大的看点之一是英伟达发布了基于Grog技术研发的LPU(Language Processing Unit)。英伟达在去年圣诞节前后以200亿美元现金完成了对Grog的非独家技术授权交易,这是英伟达历史上最大的一笔交易。Grog创始人Jonathan Ross透露,老黄仅用三周就做出了收购决定,而短短三个月后产品便正式亮相。

GPU架构(如Rubin)擅长高吞吐的并行计算,在Prefill(上下文预处理)和Attention(注意力计算)上表现优异,但在Decode(超高速Token生成)这种对延迟极其敏感的串行链式任务上效率较低。而Grog通过SRAM(静态随机存取存储器)设计,天生适合做极低延迟的推理和Token生成。Ross用一个生动的比喻打动了老黄:强大的GPU就像18轮大卡车,而推理任务就像最后一公里的配送,更适合灵活高效的面包车;要建立完美的物流网络,卡车和面包车缺一不可。

- **SRAM的局限与英伟达的解法**:SRAM价格昂贵、占用面积大且容量极小。单颗Grog LPU仅有500MB的SRAM,而Rubin GPU则拥有288GB的HBM4。为此,英伟达开发了Dynamo软件,将推理过程拆分:由1颗Rubin GPU负责Prefill和Attention,配上8颗Grog LPU负责Decode和Token生成,共同组成一个推理单元。 - **Groxen LPX整机性能**:整机将256颗LPU装入一个机架,可提供128GB RAM、每秒40PB带宽、315 FLOPs的推理算力以及每秒640TB的互联带宽。该产品已与三星合作量产,预计今年第三季度出货。 - **ASIC反击战**:此举也是英伟达对各大科技巨头(如谷歌TPU)自研ASIC芯片的强力反击,证明了英伟达同样能做ASIC,且能与自身GPU完美结合,实现“垂直整合、水平开放”。

---

[19:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=1199s) 芯片层新武器与“Scale Across”光互联布局

除了LPU,老古董CPU在Agent时代也迎来了“枯木逢春”。随着Agent工作负载的增长,系统需要传输海量数据并协调跨多个智能体的工作流,这使得CPU的重要性大增。英伟达为此发布了**Vera CPU**,这是全球首款专为代理式AI与强化学习时代打造的处理器,效率是传统机架级CPU的两倍,速度提升50%,目前已被AI编程明星公司Cursor采用。此外,英伟达在去年9月推出的**CPX芯片**(专为长语境推理优化,可处理百万级Tokens的编程和视频生成)虽然在本次演讲中未被重点提及,但同样是其推理芯片组合拳的重要一环。

在光通信和数据中心互联方面,英伟达也在提前布局下一代“极瓦级”(GW级)AI工厂。今年3月初,英伟达分别向光子技术巨头Lumentum和Coherent各注资20亿美元,锁定了数十亿美元的采购承诺及未来产能。 - **Lumentum**:目前行业内唯一的高功率激光器DFB(400mW及最新研发的1W超强功率激光器)供应商。 - **Coherent**:在硅光子学领域拥有深厚的技术与专利积累。

这些投资将助力2.5D到3D封装、多光波长共路通信、新型激光器放置方法及空芯光纤等前沿光电技术的研发。行业人士指出,当市场还在讨论Scale Up(毫米级芯片内互联)和Scale Out(米级机柜间互联)时,黄仁勋已经在思考**Scale Across**(千米级甚至更远距离的不同数据中心互联)的最优技术路线。

然而,整个AI产业的繁荣正受制于严重的供应链短缺。从Memory(内存)、DDR4、D-RAM到CX7网卡、电源供应器乃至CPU,几乎所有硬件子部件都在“亮红灯”缺货并疯狂涨价。供应链专家指出,这一轮由AI驱动的“超级周期”(Super Cycle)大概率要持续到2028年才能看到实质性的缓解。尽管能源和供应链的短缺可能会推高Token的生产成本,但由于各大云厂商和数据中心买家更具支付意愿,整个算力与存储市场在未来两年内仍将保持极度亢奋的状态。

## Notable quotes > [00:00](https://www.bilibili.com/video/BV1oLQqBtE2F?t=0s) 推理拐点已经到来 — 黄仁勋

> [00:00](https://www.bilibili.com/video/BV1oLQqBtE2F?t=0s) 每一家企业都需要一个Agent策略,需要一个OpenCloud策略 — 黄仁勋

> [04:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=299s) 1万亿美元 — 黄仁勋

> [09:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=599s) 强大的GPU就像18轮大卡车,而推理任务就像最后一公里的配送,更适合灵活高效的面包车;要建立完美的物流网络,卡车和面包车缺一不可 — Jonathan Ross

> [09:59](https://www.bilibili.com/video/BV1oLQqBtE2F?t=599s) 垂直整合、水平开放

## Mentioned 英伟达, 黄仁勋, Groq, Alex Ye, GMI Cloud, OpenCloud, Mac mini, DGX Spark, Blackwell, Rubin, CoreWeave, Nebius, Google Cloud, AWS, OpenAI, 谷歌, Gemini, Anthropic, Jonathan Ross, Dynamo, 三星, Groxen LPX, Vera CPU, Cursor, CPX, Lumentum, Coherent

[Source](https://www.bilibili.com/video/BV1oLQqBtE2F)

中文简报

英伟达上调GPU订单预期至1万亿美元 联手Groq反击巨头自研芯片 黄仁勋通过扶持开源模型与新云平台将上下游生态“去利润化”,正利用其垄断的芯片层与垂直整合能力建立不可撼动的AI帝国。 随着OpenCloud带动Agent生态大爆发,AI推理端迎来拐点,英伟达在2026年GTC大会上推出了“Token经济”新叙事,并将截止2027年底的GPU架构订单预期翻倍至1万亿美元。为了巩固护城河,黄仁勋打造了“AI五层蛋糕”生态体系,通过大手笔技术授权Groq推出LPU芯片组合拳、发布Vera CPU并深度布局光通信,试图全面掌控AI产业链利润。然而,硬币的另一面是整个AI产业正面临内存、能源与硬件子部件的严重供应链短缺,这一超级周期预计将持续到2028年。 黄仁勋在2026年GTC大会上转向“Token经济”新叙事,算力需求正由多模态和编程等智能体应用驱动,英伟达销售策略全面转向推销企业级Token与Agent方案。 (0:00) 英伟达将截至2027年底的Blackwell与Rubin架构GPU订单预期翻倍至1万亿美元,尽管产能吃紧且旧卡严重溢价,大客户算力资本支出依然居高不下。 (4:59) 英伟达推出“AI五层蛋糕”生态蓝图,通过扶持新云平台和开源模型将上下游去利润化,并融合200亿美元授权的Groq LPU技术开创软硬件一体的极速推理架构。 (9:59) 英伟达发布专为Agent和强化学习设计的Vera CPU,并向Lumentum与Coherent各注资20亿美元布局“Scale Across”光互联,但供应链短缺预计将持续至2028年。 (19:59)

Reading summary

英伟达在2026年GTC大会上将战略核心从单卡算力转向“Token经济”与推理拐点,并宣布至2027年底Blackwell与Rubin架构订单预期达1万亿美元。黄仁勋试图通过“AI五层蛋糕”生态将非芯片环节商品化以巩固利润壁垒,但整条产业链仍受困于严重的硬件供应短缺。 战略重心转向:Token经济与企业级Agent落地 (0:00) 在XGPT问世三年半后,英伟达CEO黄仁勋在2026年GTC上宣布“推理拐点已经到来”,公司销售逻辑从向AI初创团队兜售单卡算力,转向推动全球企业采纳Token与Agent(智能体)策略。新兴云厂商GMI Cloud首席执行官Alex Ye观察指出,北美算力需求暴增主要由多模态(音视频生成)和编程(Coding)驱动,客户正由单一的模型训练需求向海量边缘推理节点迁移。尽管部分开发者早期在Mac mini或DGX Spark等本地设备运行任务,但由于本地设置成本高昂,推理负载长期必将全面回归云端。 万亿订单预期与硬件短缺的现实反差 (4:59) 黄仁勋在大会披露,截至2027年底,英伟达Blackwell和Rubin GPU架构的订单收入预计将达到1万亿美元,较2025年预测的5000亿美元翻倍;该预测不包括新推出的CPU和LPU等产品线。财务视角测算认为,该指标为2027年英伟达画出了约13至14美元的每股收益(EPS)底部。各大企业在算力上的绝对资本支出(CAPEX)持续扩张,前沿实验室的激烈竞赛与开源模型的逼近迫使厂商持续加码算力。 然而,英伟达弱化宣传单芯片性能的主因在于产能受限严重。由于硬件供给远跟不上黄仁勋的预期,数年前的H100和H200旧卡在二级市场仍被溢价转售,而最新的Blackwell也刚进入大规模部署阶段,软件生态与配置落地速度已落后于硬件迭代节奏。 拆解“AI五层蛋糕”:商品化竞争对手与引入LPU (9:59) 为应对Token大宗商品化趋势,黄仁勋构建了包含能源层、芯片层、基建层、模型层与应用层的“AI五层蛋糕”体系。英伟达的核心策略是利用扶持竞争与开源手段将其余层“去利润化”(Commoditize),从而将生态利润牢牢吸聚在享有垄断定价权的芯片层。例如,英伟达扶持CoreWeave、Nebius等新一代云厂商制衡AWS与谷歌云等传统巨头,同时开源自身模型以平抑顶级闭源模型的溢价。 在芯片层,英伟达耗资200亿美元现金完成对Grog的非独家技术授权,迅速推出针对极低延迟串行Token生成的LPU。为克服SRAM成本高、容量极小(单颗仅500MB)的缺陷,英伟达通过Dynamo软件将推理任务切分:由1颗配备288GB HBM4的Rubin GPU负责前置上下文(Prefill)与注意力计算,搭配8颗Grog LPU完成高速Decode生成,组成高能效推理单元。此外,包含256颗LPU的Groxen LPX整机机架已由三星合作量产,预计2026年第三季度出货,以此全面反击云巨头自研ASIC芯片。 异构算力扩张与“Scale Across”光互联布局 (19:59) 随着跨Agent协作对数据搬运的要求剧增,英伟达推出了专为强化学习与智能体优化的Vera CPU,据称效率为传统机架CPU的两倍、速度提升50%,并已获AI编程平台Cursor采纳。同时,针对百万级Token上下文的CPX芯片也进一步完善了推理矩阵。 针对下一代吉瓦(GW)级AI工厂的互联瓶颈,英伟达于2026年3月初向高功率激光器DFB供应商Lumentum和硅光巨头Coherent各注资20亿美元,锁定长期产能与技术合作。黄仁勋的技术构想已从芯片内互联(Scale Up)、机架间互联(Scale Out)延伸至跨千米级不同数据中心互通的“Scale Across”布局,力求在先进封装、空芯光纤及光波长共路通信等底层工艺上构筑壁垒。 当前AI生态的超常扩张受制于深层的供应链瓶颈,从DRAM、DDR4内存、CX7网卡到电源供应器与CPU均出现普遍缺货与涨价现象。供应链专家预估,这一轮由AI引发的硬件超级周期紧缺将持续至2028年,尽管它将推高Token的综合制造成本,但短期内主要买方的强劲支付意愿仍将支撑算力产业的高度景气。

Source quotes

[0:00] 黄仁勋: 推理拐点已经到来 [0:00] 黄仁勋: 每一家企业都需要一个Agent策略,需要一个OpenCloud策略 [4:59] 黄仁勋: 1万亿美元 [9:59] Jonathan Ross: 强大的GPU就像18轮大卡车,而推理任务就像最后一公里的配送,更适合灵活高效的面包车;要建立完美的物流网络,卡车和面包车缺一不可 [9:59] 垂直整合、水平开放

Original transcript

[0:00] 1万亿For Blackwell and Rubin through 2027At least 1 trillion dollars性能提升50倍Our cost per token is the lowest in the worldYou can't beat it推理之王Hello 大家好欢迎来到英美达2026年GTC大会那么又是一年过去了我们来看看黄仁勋要讲什么新故事XGPT爆发的三年半之后黄仁勋开始停止了讲芯片的故事他开始瞄准更大的叙事Token经济而这将是更有野心且更持久的市场蛋糕那么这个视频呢我们将拆解英伟达的五层蛋糕生态体系一万亿美元的收入是怎么算出来的基于Groft的LPU将给英伟达带来什么样的新机会还有呢华人勋在光通信上面的提前布局以及未来ScalarGross的AI工厂机会以及呢OpenCloud的里程碑之后英伟达压住了Token经济学将会如何发展给算力市场带来了如何的挑战呢Token的Inference使用量事实上是一直在暴增每一个一个component开始亮红灯亮红灯是指开始大缺货然后开始大涨价现在的产能还是没有办法跟当时老黄所预计的产能达到一致这个是我们从来没有看到过的Super Cycle大概率遥到28年才能有实质性的每个上涨在整个产业链上这种投资可以帮助这些公司在下一代的技术中做更多的个性这个数字是到现在为止它看到的这实在这的订单而今年就是13 4块钱的EPS最完整最全面你想要什么东西我都有把投资价格打下来那最后赚钱又回到N1这边那就跟我走进2026年的英伟大GTC Let's go2026年的英伟达GTC叙事建立在两个背景和事件那么第一是AI应用得到落地别而是OpenCloud的爆火带动了全球的agent生态这让黄仁勋在GTC演讲中高呼推理拐点已经到来新营产商GMI Cloud的城市Alex Yeer在跟我们对话中就透露北美的需求暴增是来自于多摩泰和编程而OpenClaw带来的Token需求则主要是来自于中国Toen的Inference的使用量事实上是一直在暴增而且是一个以倍数的方式在成长我们的客户事实上也从大型的training客户到转到很多的Inference需要的Edge的节点一个是以Coding为首的Inference的掉量还有另外一个就是多模态的Video和Image的Generation这两个发展的速度都太快了我觉得在OpenClaw这块我觉得美国的市场事实上还没有意识到How big this impact isAlex的观察和我们最近在硅谷与很多业内人士的探讨是相似的因为北美用户特别是有技术背景的开发者已经很适应Claw Cowork去做一些agent任务所以虽然OpenClaw是从硅谷火出圈的但是也没有到国内那么卷的程度我觉得这东西是从国内火到这边来可是国内已经先开始一波了那现在事实上也在 Mac mini 上面 或者说在 DGX Spark 上面在跑可是我觉得这不是一个常态 因为这东西绝对之后都是上云的毕竟是 set up PC 的成本实在是太高Also, 我看到很多细谷的公司已经在做一个 zero code就是一个 very easy to use UI 的 experience 的 Opany has been doing zero code, very easy to use UI experience. The way the open-quad is better, the way the open-quad is better, the way the open-quad is better. So I think we haven't reached 1% or 5% yet, but just like that, the world is not. So I think it's just the beginning of the year I think it's really scary for the future So this is the current current AI-like vision of the current situation With the推理需求升 and the open club's focus on the two趋势 The whole of the talk of the talk of the logic is completely different from the past The previous year, the company was selling to the new company And the current year, the old黄 is selling to the token for the world's every company I said that every single enterprise company Every single software company in the world needs an agentic system, need an agent strategy, you need to have an open clause strategy. That is what I've been doing for the last year's keynote. The attitude of the K-note is we love everybody. Look at the GPT slides on the little star. So, the GTC's most important topic is the mood, not the芯片. At the GTC's meeting, [4:59] 几天前英伟达就放出了一篇名为AI五层蛋糕的文章来为大会造势预示黄仁勋在今年大会上强调的是垂直整合能力和生态而不是单薪剑我们一会儿也会详细的拆解这五层蛋糕简单来说黄仁勋给外界画了一个更大的饼那我们先来说一下黄仁勋在GTC演讲中提到的1 trillion1万亿美元这个数字黄尔勋在去年的GTC上说当前和下一代的GPU架构Blackwell和Viribin的订单收入从当时到2026年年底会达到5000亿美元这次他将这个预期直接上调了一倍说截止现在到2027年年底预计光是Blackwell和Viribin的订单收入会直接到1万亿美元要注意这个收入是不包括英伟达新发的CPU和基于GROC的LPU芯片等其他产品线的订单收入的这两个产品我们一会儿会讲到而光是GPU架构的订单老黄在媒体闭门会上专门澄清原因是因为这样外界能够更直观地感受到英伟达的GPU上的业务增长如果我会把1亿充分为G分了CPU和GROC和充电它们会有两个不同的东西我会不会比较简单但是每个人的确认1万亿是因为NVIDIA提供了很多我们会推荐所以黑暗和Vero Grouping是比较多不 这就是正确的首先这个数字我觉得是非常achievable这是第一然后第二就是这个数字呢是到现在为止他看到的实实在在的订单可能过几个月咱们回头再看这个数字他还有新的订单出来这个一个车链的数字还不往上走然后我觉得他的意义就是从一个financial analyst角度他在这边说他的意义就是说给27年的营收和利润画了一个底就告诉你这个底在这了然后他这个一个车链的数字放弃的模型里面可能27年就是13 4块钱的ETS就把这个底给你划除而对于各大企业对算力的资本支出CAPEX我们嘉宾认为还将继续的上涨那一边是推理需求会持续的上涨另外一边的原因是随着前年模型的竞争区域把热化训练这边的需求也不会降低我觉得从百分比的增速来说我觉得会放慢但是它肯定还是一个快速增长的一个状态然后每年增长的绝对值的数量我觉得不一定会变小Inference这边的用量肯定是现在很明显看到有一个inflection然后大家对于agent的用量明显地提升对于token的消耗量明显地提升然后这是第一然后第二个其实我觉得从这个模型厂商的角度来说Frontier Lab这几家大家没有谁能明显的拉开和其他人的一个声音位大家都是在一个交替领先的状态然后包括open source的这些大模型其实现在也没有说明显的比币远的这些proprietary的这些模型要落后非常远我觉得对于模型厂商来说它后面就可能只有两条路要不就是往上打因为只有你做了application之后然后你能做出用户粘性然后你通过application去收钱然后那另外一条路呢就是用你的balance sheet也好然后用你的cash的优势也好你去更大力度的去对算力然后去对人才然后希望你在模型上面能有一个突破就是你花钱花的比别人更分OpenAI我觉得之前有一段时间它是想走这条路包括去年SanMultipman他喊出来这个1.4个TRAILIAN这种这种数字我觉得就是这两条路就这么一个分化所以我觉得这两头路大家都还会继续去走所以对KPEX的投入一定不会行其实还有一个侧面的一个点为什么黄仁勋今年不强调单芯片连Rubin在下一代计算架构飞门也只是略微地提了一点除了老黄要把英伟达的企业叙事拔高到AI Factory以及要给所有人卖Token之外其实还因为目前产能跟不上市面上还是疯狂的缺卡现在市面上大家根本买不到最新技能卡就连两三年前发布的旧的卡比如说H100跟H200大家用了几年甚至能够超原价去买同时软件生态和各种的配置也跟不上老黄的速度所以它再强调单卡的性能提升对市场来说也根本没有什么意义现在市场上最成熟的平台依然是Hopper平台最多Blackwell在最近几个月开始进入一个大规模的应用的阶段并且我们看到了软件层也有比较好的进步但是我们回想一下其实Blackwell是在两年前就已经被宣发了的所以我觉得一个原因就是因为现在的产能还是没有办法跟当时老黄所预计的产能达到一致所以看起来呢光是GPU的售卖这一万亿美元的收入规模就并不算货度乐观了而是真的有 [9:59] 需求量但是显然黄仁勋是不满足这1万亿的他不许的是全生态当token成为大宗商品算力及收入黄仁勋接下来的动作是想把他定义中的AI五层蛋糕给全部打透让英伟达持续成为AI产业线中持续最赚钱的机器那接下来我们就来看一下五层蛋糕的背后老黄的野心来看看华人勋定义的AI五层蛋糕从下到上分别是能源层这里是电力等基础供应之后是芯片层也就是因为达的核心业务卡再之上是基建层包括了云厂商以及旗下的数据中心再往里面细分是土地供电冷却系统建筑工程网络通信等等前三层被统称为AI工厂AI Factories在网上模型层有OpenAI谷歌Gemini和Androbic这样的顶尖模型也有包括英伟达自研的一系列开源模型而在最上层的应用层则是英伟达针对不同的赛道研发技术包括机器人自动驾驶工业制造编程和企业级AI agent等等你是不是有点疑惑老黄是在布一盘什么样的局呢这五层蛋糕难道每一层英伟达都能吃透吗你如果把你其他这几层能够去commoditize掉或者说把他们的利润打下来然后利润就集中到你这一层就是这一层里到底谁是bottleneck对吧谁是那个scarcity value到底是集中在哪一层之前这几年其实这个value完全是集中在芯片这一层虽然NVIDIA吃到了这一轮绝大部分的利润蛋糕但是上面几层其实都还是非常powerful我们的嘉宾人娘就认为每一层蛋糕中如果每个玩家的水平都差不多没有绝对领先或者绝对垄断者那么这一层的利润就会被摊薄一家全最终还是会回到有绝对领先和垄断的这一层那就是英伟达的芯片层也就是说最终黄生勋还是要靠卖芯片但是在其他层的蛋糕当中英伟达要扶持起自己的软件生态定义规则就像打造Kuda这样的护城河一样一旦在新的市场定义了范式当市场爆发的时候大家发现最好用的还是英伟达的平台最后还是要买的是英伟达的算力和卡比如说英伟达看到基建层像谷歌云和AWS这样的云厂商有强益加权之后又扶持起了像Corewave和Navius这样的NeoCloud也就是新云平台来进行竞争再比如说在模型层英伟达各种大小模型开源了一大堆而且这次黄仁勋是专门组织了一场全球最核心的开源模型论坛就是想在模型这一层试图在长期削弱最搜索的顶级必源模型的溢价权而在应用层英伟达也在研发自动驾驶和机器人等待行业大规模的爆发为的就是提前布局生态位如果NVIDIA能够鼓励或者带领open source这个community能够快速的迭代把token价格打下来虽然说Anthrofic也好OpenAI也好他们在MyAPI这个事情上MyInferenceMyToken这个事情上他们是赚钱的比如说open source能够做到现在的Frontier的Lab的这些SATA model的90%的performance但是10%的价格那这些token的价格一定会被打下来然后就把model这一层把my inference token这一层把它commodify那整个ecosystem里面那最后赚钱的又回到media这边所以老黄正在时刻关注其他层级的蛋糕但是最赚钱的始终还是芯片这一层所以这一层也是黄仁勋盯得最紧的而这次GTC上传达出两个信号第一个信号就是在芯片层老黄发布了基于Grog研发的LPU要知道对Grog的非独家技术授权交易是去年12月圣诞节前后才宣布的花了200亿美元现金可以说是英伟达有史以来最大的一起交易Grog创始人Jonathan Ross在最新的福布斯杂志采访中爆料说和Grog的交易这件事情也是老黄只花了三周就迅速做的决定而到如今的GTC才三个月产品就已经出来了只能说老黄和英伟达卷起来真的就没其他人什么事了那为什么黄承讯要收编Grog呢简单来说就是GPU架构即使强Ruvera Rubin擅长的是高吞吐的并行计算做prefile也就是上下文语处理和attention注意力计算很厉害但是在做超高速的token生成也就是Dcode这个任务上就没有那么给力了因为token生成的特点是token只能一个一个的生成整个过程必然是串行链式的对于每一步延迟都极其敏感所以高吞吐和低延迟本身就互相矛盾很难两全而Glock就是这个矛盾的解法 [14:59] Lpx 来到非常高的交易率Vera Rubin 单独为非常好帮助大量的通知工作领域但当于非常大型模式非常高的境界非常高的交易率这就是Lpx 来到Vera Rubin 来到更加增加Grog 通过 SRAM 也就是静态随机存取存储器设计天生就适合做推理和Token生成那就像Grog 创始人Ross打动防人训的那个类比他说强大的GPU就像18轮大卡车但是推理任务就像最后一公里配送本身就更适合更加灵活高效的面包车他对老黄说如果你要为美国建立一个物流网络最佳答案是18轮卡车和面包车你都需要而在OpenClaw之后的Agent时代老黄通过与Grog的深度技术与人才合作是解决了token生成的挑战这也是非常关键的一步而Grox的新芯片融入英伟达的体系之后英伟达宣称这将会解锁3000亿美元的增量市场那么可以说这200亿花的是值得但是还有个内存上的小难题SRAM的缺点一是很贵二是很占面积三是容量做的不大我们来对比一下单科Grosan LPU只有500MB的SRAM而Robin的GPU是288GB的HBM4差了500多倍根本存不下万亿参数的模型那么英伟达的解法是用Dynamo软件把推理过程拆成两半然而Robin这边的GPU负责prefile和attention而Grocks负责之后的decode和token生成所以我们看到一颗Rubin GPU配上8颗Groxen LPU同一为一个推理单元而Groxen LPX整机把256颗的LPU装进了一个机架能够提供128GB RAM每秒40pb带宽315FLOPs的推理算力和每秒640TB的互联带宽因为达和Groxen的交易目前还面临反垄断的一些潜在调查因为涉嫌电像收购虽然这个做法已经是硅谷巨头在AI时代的基本操作了但是现在LPU已经和三星在合作量产了预计今年第三季度出货而Vera Rubin之下已经在微软Azure云上运行同时英伟达联手Grog还有一个战略上的意义就是打出了ASIC反击战我们之前节目当中说过ASIC是专项芯片虽然不如GPU那么通用但是如今却是各大科技巨头自研的重点以及各个云厂商也都在扶持ASIC芯片的研发试图蚕食英伟达GPU的利润率和溢价权包括谷歌的TPU也是ASIC芯片Guarga本身也是ASIC芯片但是英伟达这次就告诉外界我也可以做ASIC芯片而且还跟我自己的GPU结合性能还可以更强Token generation rate from 2 million to 700 million350 times increaseThis is the power of extreme co-designThis is what I mean when we integrate and optimize verticallyBut then we open it horizontally for everybody to enjoy好 我们再来看一下芯片层的第二个关键词CPU是不是有一种枯木逢春的感觉AI Agent时代,Token经济的崛起不但救了Grook一命连老古董CPU也重新成为了香波波虽然GPU擅长训练和运行AI模型但是随着Agent工作负载的不断增长这些系统需要传输海量数据并且协调跨多个智能体的工作流程这使得CPU在现代AI基础设施中的重要性丝毫不亚于GPU所以英伟达在这次GTC上就发布了Vera CPU这被称为全球首款专位代理式AI与强化学习时代打造的处理器它的效率是传统机架级CPU的两倍速度提升50%包括AI编程明星公司Cursor也在为Vera CPU站台说提升了它们的整体吞吐量与效率给客户带来了更快速灵敏的编程agent体验所以它是不在买的所以我们建设这个产品很高的一种功能很多的密度所以可以移动和很高的效果很高的效果所以在这些地方它们的一种 [19:59] CPU for agentic tasks and AI factories那么在芯片层这里还有一个秘密武器就是CPX这是黄仁勋在去年9月的AI基础设施峰会上推出的专门针对长语境推理进行优化的芯片可以说是代表了GPU设计的一个全新类别这款芯片能够处理百万级TOKENS的软件编程和生成式视频在速度和效率方面实现突破性提升被外界认为能够进一步稳固英伟达在推理上的优势有意思的是老黄这次的演讲中根本就没有提到CPX也是让外界很好奇因为他目前在芯片层这套组合权GPU CPU LP U CPS是否会进一步拉开与竞争对手的差距我的理解就是说他在根据不同类型的workload他都有能够拿出来非常好用的产品然后放到他的机柜里面但是他是想要去给你提供一个最完整最全面你想要什么东西我都有如果你全都买我的东西最方便是这么一个感觉那总结一下这五层蛋糕互相支撑但是又互相牵制黄仁勋在做的是要整合这五层确保英伟达在每一层都有话语权无论是扶持甲方的竞争对手还是自言开源模型还是在不同领域保持开放合作来定义行业入口与范式英伟达的叙事早已经不是芯片而已了王仁勋在发布会上手握单芯片的那些名场面已经成为过去未来是完整的AI Factory是更宏大的token经济学这让英伟达的护城河也早已超越Cuda让竞争对手们更难攻破他的生态帝国那我还想提到的一点是黄仁勋一直在布局下一个即将爆发的产业也对前年技术非常的敏锐他这次在发布会上没有太多的提供奉装光学CPO以及数据中心中机组的Skill Up和Skill Out但英伟达在3月初分别像光子技术巨头Lumintum和Coharant各注资20亿美元并且锁定了数十亿美元的采购承诺以及未来产能权益这两家公司都是CPO的核心供应链业内人士就认为王仁勋这是在准备为下一代极瓦级AI工厂去铺垫光互联的底座一个是Lumentum它是现在唯一的高功率激光器DFB的一个供应商就是400mW然后在最近的OFC会议上他们也提到了一个更高的参数就是一个Watt这样子的很强功率的激光器然后另外一个呢是Proherent这个的话是在归光光子学中有很多的技术积累的一个之前几个公司合并在一起的一个公司这两家公司一个是他们是美国公司二是有多年的技术积累和专利的积累三是在整个产业链上这种投资可以帮助这些公司在下一代的技术中做更多的个性谈到技术革新就可以看到说这一次他们更多的革新是在封装方面比如说2.5D到3D的封装但是接下来这两家公司还在进行之后更多很fancy新技术的研发比如说使用更多的光波场一起进行通信进一步的增加它的这个Bandways密度它的这个带宽的密度还有使用一些更加先进的技术比如说不同的放置激光器的方法甚至探索一些不同的波段然后不同的光纤的参数等等更下一步的技术更新那目前的产业里面还是在讨论scale up和scale out而行业人士说啊黄仁勋已经在思考下一步也就是scale across他的意思呢就是不同数据中心的互联怎么去解决了对于不同的距离的场景比如说scale up我们可能谈论的是毫米量级然后scale out我们可能讨论的是米量级然后scale across我们可能讨论的是千米或者更远的量级在这些不同的量级之下什么是一个最优的技术路线我们还是用现在的波长还是要换成一个其他的波长会不会有一个技术现在这种光纤还是一种中间是空着的光纤会不会有一个技术突然出现就砸了场子把一个其他的技术都带跑了都是很有意思的一些讨论当然还有更遥远的一些布局包括在演讲中华人勋提到的太空数据中心那这个技术的实现方式和挑战我们之前做过一期内容聊到过那在这期视频的最后呢我还想稍微的聊聊整个芯片和数据中心供应链目前的一些情况如果大家还记得我们之前说到的五层蛋糕啊可以看到能源和数据中心供应链这个基础层决定了芯片的产能也决定了整个AI模型和应用能否得到足够的算力支撑也决定了AI的进程我们在GTC期间跟供应链的朋友们聊天啊得到的消息是缺什么都缺我们事实上是了解就是所有的component到memory端所有的这个硬件的还有什么CXCX7啊等等因为subcomponent [24:59] The situation is now that every component is lit up the light The light is starting to start a big increase and a big increase From the last year, the T-Cent, 365 days ago DDR4, the D-RAM Now it's over-cash space It's kinda crazy Now CX-7 is still in the same way Power supply is still in the same way It's starting to lose the CPU There are many memory problems, and the supply chain is starting to lose. I saw Open Cloud, Agent, and Coding, and the Coding. There are three different things that have been done. And all the supply chain is not going to do this. Alex Long said that the global global economy, especially in the Middle East, the global economy is changing. This is the global global economy for the global AI-suitry system. But the amount of energy is about to be 10% of token prices And the token price is still low, especially the price of the supply chain I think the biggest impact is the system, the server system of memory which will make token prices increase We were also watching the market market for the competition They think the situation is at least for 27 years This is what we've never seen before. There are also many years ago but at that time there are more than the mobile and computer channels or the internet channels But today the whole thing is AI And then out And then, this super cycle, many buyers are cloud, they are data centers, they are more low cost, they are more willing to pay money. So actually, the entire memory of the short period, or the demand, we think in the next two years, we will be more than happy. And about the storage market, we will also get a video of the video, and we will talk about the situation, and challenge. Don't forget to do this. Well, that's our event. I feel that the future of the GTS will be changed. There's a challenge. And GTC still will be the AIA industry. We will also pay attention to this. We've mentioned these things. We've talked about the GTS. We've got a lot of AI. Well, that's what we've done with this video. You can like, comment, comment and share. and also support our 101-day business and business and business. I'm陈建, we'll see you next time. Bye!