英伟达订下一万亿美元GPU订单锁定2027年底部营收

英伟达1万亿美元GPU订单锁定2027年底营收 通过以200亿美元收购Groq并将其LPU与Vera Rubin GPU进行极致协同设计，英伟达成功将推理端token生成速率提升350倍，旨在推动模型层同质化并全面反击科技巨头的自研ASIC芯片。 在2026年GTC大会上，英伟达宣布Blackwell与Vera Rubin两代GPU架构至2027年底预计将带来1万亿美元的订单收入，核心叙事全面转向“token经济”。为构建AI生态帝国并压制竞争对手，英伟达不仅通过200亿美元收购Groq打响对自研ASIC的推理反击战，还推出Vera CPU并布局CPO等前沿技术，全面覆盖各类AI工作负载。然而，这一宏大蓝图正面临严峻的供应链制约：三星等芯片巨头透露2026年内存产能已售罄，全线吃紧的硬件与能源短缺正在开启一场前所未有的超级周期。 黄仁勋在2026年GTC大会上彻底转变叙事，从大秀单芯片性能转向“token经济”，终极目标是将token卖给全球每家企业和软件公司，并宣布Blackwell与Vera Rubin到2027年底的订单预期已达1万亿美元。 (0:00) 英伟达推出包含能源、芯片、基建、模型与应用的“AI五层蛋糕”全生态蓝图，通过扶持New Cloud抗衡老牌云巨头，并以开源生态打压闭源大模型议价权，确保利润流向底层算力。 (10:26) 英伟达斥资200亿美元现金收编Groq技术打响ASIC反击战，推出由Vera Rubin GPU负责Prefill、Groq 3 LPU负责Decode的协同方案，宣称token生成速率实现350倍增长。 (13:50) 除发布专为智能体与强化学习打造的Vera CPU并向两家光子巨头注资40亿美元布局CPO外，全球AI供应链全面告急，三星2026年内存产能已彻底售罄，短缺预计将持续至2027年底。 (24:42)

在2026年GTC大会上，英伟达创始人黄仁勋将战略叙事转向“token经济”，并披露截至2027年底Blackwell与Vera Rubin架构的GPU订单预期达1万亿美元；但这一宏大蓝图正面临硬件供应链全线告急与内存产能耗尽的现实制约。 叙事转向Token经济与万亿订单预期 (0:00) 黄仁勋在2026年GTC大会上宣布推理拐点到来，英伟达的目标转向向全球企业供应推理token。GMI Cloud创始人Alex Yeh指出，多模态与代码生成需求暴增，北美算力主要流向相关领域，而OpenClaw推动的token需求很大一部分来自中国，目前全球调用量仍处早期阶段（甚至不足1%或5%）。黄仁勋披露，Blackwell和Vera Rubin两代GPU架构到2027年底的订单收入预期达1万亿美元，较前一年宣布的5000亿美元翻倍。该数据纯粹对应GPU订单，不含CPU、LPU及存储。财务分析人士认为该订单预期可实现，预计届时英伟达每股收益可达13至14美元。此外，老黄淡化单芯片与下一代Feynman架构，核心原因之一在于当前供应链严重缺卡，旧款H100、H200仍遭超价倒卖。 五层蛋糕博弈与削弱模型层议价权 (10:26) 英伟达在大会前夕提出“AI五层蛋糕”架构，自下而上涵盖能源、芯片、基建（前三层合称AI工厂）、模型及应用层。节目嘉宾任杨分析，商业生态中若某一环节缺乏绝对壁垒，其利润便会被同质化摊薄，促使稀缺价值向瓶颈环节集中。过去几年行业利润主要被英伟达所在的芯片层吸纳。为巩固主导权，英伟达在基建层扶持CoreWeave、Nebius等新云厂商以制衡老牌云巨头；在模型层则大力推行开源战略，试图以顶级闭源模型90%的性能和10%的价格压低模型API溢价。通过将模型层同质化，英伟达得以削弱OpenAI、Anthropic等闭源厂商的议价能力，将行业价值锁定在底层算力。 收编Groq与异构计算产品组合拳 (13:50) 为补足GPU在推理端链式生成（Decode）的低延迟短板，英伟达斥资200亿美元现金与Groq达成技术授权，并在3个月后推出基于Groq技术的LPU产品。传统GPU擅长高吞吐的Prefill与Attention，而SRAM架构的LPU更适配对延迟敏感的串行token生成。英伟达借助Dynamo软件进行协同设计：由Rubin GPU处理Prefill，Groq LPU负责Decode。其中Groq 3 LPX整机单机架整合256颗LPU，提供128GB SRAM、40 PB/s内存带宽与315 PFLOPS推理算力，官方宣称token生成速率实现350倍提升，并以此反击谷歌TPU等云端定制ASIC。同时，英伟达推出Vera CPU以应对智能体跨工作流的数据搬运和代码校验，配合专攻长语境推理的CPX芯片，组建涵盖GPU、CPU、LPU与CPX的全栈异构算力。 跨数据中心互联与前沿光子技术布局 (21:42) 在硬件微架构之外，英伟达正着眼于下一代超大规模连接瓶颈。2026年3月初，英伟达向光子技术企业Lumentum和Coherent各注资20亿美元（合计40亿美元），锁定未来采购与产能权益，为吉瓦级AI工厂的共封装光学（CPO）技术做准备。业内人士透露，在行业聚焦于数据中心内纵向扩容（Scale-up）与横向扩容（Scale-out）之际，英伟达已开始布局千米及以上距离的跨数据中心互联（Scale-across），探讨光纤参数优化与新型光纤方案，甚至提出太空数据中心的构想。 供应链全面承压与内存超级周期制约 (24:42) 尽管产业需求极度高涨，硬件供应链却亮起红灯。Alex Yeh反映，从元器件、网卡、电源到CPU全线吃紧，DRAM（DDR4）价格在一年内暴涨10倍；地缘局势导致的能源波动也增加了约占token定价10%的电力成本变数。三星在展会现场透露，AI需求正引发一场前所未有的超级周期，其2026年内存产能已全数售罄，紧缺局面预计持续至2027年底，实质性供应增长或需推迟至2028年才能显现。云厂商对成本不敏感且愿意高额投入的采购行为，意味着核心硬件的供需失衡短期内难以缓解。 英伟达通过布局全栈芯片生态与压低上层模型利润，确立了向token经济转型的扩张路径；然而，2026年内存产能耗尽及硬件短缺至少持续至2027年底的客观现实，构成了其万亿订单交付与AI落地速度的核心瓶颈。

[0:00] 黄仁勋: 我们的单个token成本是全球最低的，你不可能打败我们。 [0:00] Alex Yeh: 甚至连1%或5%都还没有到 [5:27] 非常可实现（achievable） [5:27] 怼算力、怼人才 [13:50] Jonathan Ross: 18轮大卡车 [13:50] Jonathan Ross: 最后一公里配送 [13:50] Jonathan Ross: 面包车 [13:50] 极致协同设计（extreme co-design） [18:25] 枯木逢春 [13:50] 反击战 [24:42] 亮红灯 [24:42] Alex Yeh: 完美风暴 [24:42] 三星: 前所未有的超级周期（supercycle）

[0:00] 一万亿 [0:00] Blackwell和Rubin的订单 [0:02] 到2027年 至少1万亿美元 [0:06] 性能提升50倍 [0:07] 我们的单个token成本是全球最低的 [0:10] 你不可能打败我们 [0:11] 推理之王 [0:13] Hello 大家好 [0:14] 欢迎来到英伟达2026年GTC大会 [0:17] 又是一年过去了 [0:18] 我们来看看黄仁勋要讲什么新故事 [0:21] ChatGPT爆发的三年半之后 [0:23] 黄仁勋开始停止了讲芯片的故事 [0:26] 他开始瞄准更大的叙事 [0:28] token经济 [0:28] 而这 将是更有野心且更持久的市场蛋糕 [0:32] 这个视频 [0:33] 我们将拆解英伟达的 [0:35] “五层蛋糕”生态体系 [0:37] 一万亿美元的收入是怎么算出来的 [0:40] 基于Groq的LPU [0:41] 将给英伟达带来什么新的机会 [0:43] 还有黄仁勋在光通信上的提前布局 [0:46] 以及未来Scale-across（跨域扩展）的 [0:48] AI工厂机会 [0:50] 以及OpenClaw的里程碑之后 [0:52] 英伟达押注的token经济学将会如何发展 [0:55] 给算力市场将带来了如何的挑战 [0:57] token的推理使用量事实上是一直在暴增 [1:02] 每一个组件开始亮红灯 [1:04] 我讲亮红灯是指就开始大缺货 [1:06] 然后开始大涨价 [1:07] 现在的产能还是没有办法跟当时老黄 [1:10] 所预计的产能达到一致 [1:12] 这个是我们从来没有看到过的 [1:14] （内存）supercycle（超级周期） [1:15] 大概率也要到2028年才能有 [1:17] 实质性的（供应）上涨 [1:19] 在整个（光通信）产业链上这种投资 [1:21] 可以帮助这些公司 [1:22] 在下一代的技术中做更多的革新 [1:24] （一万亿）这个数字是到现在为止 [1:26] 他看到的实实在在的订单 [1:29] 2027年就是十三、四（美元）的EPS（每股收益） [1:31] 最完整、最全面 [1:32] 你想要什么东西我都有 [1:33] 把token的价格打下来 [1:35] 最后赚钱的 [1:36] 又回到了英伟达这边 [1:37] 那就跟我走进2026年的英伟达GTC [1:40] 跟我来 [1:50] 2026年的英伟达的GTC叙事 [1:53] 建立在两个背景和事件 [1:55] 第一是AI应用得到落地 [1:57] 第二是OpenClaw的爆火 [1:59] 带动了全球的agent生态 [2:01] 这让黄仁勋在GTC演讲中高呼 [2:04] 推理拐点已经到来 [2:06] 终于 [2:07] 人工智能能够从事生产性工作了 [2:11] 因此推理的拐点已经到来 [2:16] 新云（Neocloud）厂商GMI Cloud创始人 [2:19] Alex Yeh在跟我们对话中就透露 [2:21] 北美的需求暴增是来自多模态和编程 [2:25] 而OpenClaw带来的token需求则主要来自中国 [2:29] token的推理使用量 [2:31] 事实上是一直在暴增 [2:33] 而且是以倍数的方式在增长 [2:37] 我们的客户事实上 [2:39] 也从大型的训练客户 [2:41] 到转到很多的推理需要的 [2:44] 边缘端的节点 [2:45] （美国这边）一个是以代码生成为首的 [2:47] 推理调量 [2:49] 还有另外一个是多模态的 [2:50] 视频和图片生成 [2:52] 这两个发展的速度都太快了 [2:54] 我觉得在OpenClaw这一块 [2:56] 美国的市场事实上还没有意识到 [2:59] 这个影响究竟有多大 [3:01] Alex的观察和我们最近在硅谷 [3:03] 与很多业内人士的探讨是相似的 [3:06] 因为北美用户 [3:07] 特别是有技术背景的开发者 [3:09] 已经很适应Claude Cowork [3:11] 去做一些agent任务 [3:12] 所以虽然OpenClaw是从硅谷火出圈的 [3:16] 但是远没有到国内那么卷的程度 [3:18] 我觉得这个东西是从国内火到这边来 [3:22] 可是国内已经先开始一波了 [3:24] 现在事实上也在Mac Mini上面 [3:26] 或者说在DGX Spark上面在跑 [3:29] 可是我觉得这不是一个常态 [3:31] 因为这东西绝对之后都是上云的 [3:34] 毕竟部署一个PC的成本实在是太高 [3:38] 而且我看到很多的硅谷公司 [3:41] 已经在做一个零代码 [3:44] 就是一个用户界面非常好用的OpenClaw [3:50] 随着这个模型越来越好 [3:52] 开源和闭源的模型越来越好 [3:54] 它的调用量会越来越高 [3:56] 所以我才说 [3:57] 我觉得我们甚至连1%或5%都还没有到 [4:01] 可是光是这样子 [4:02] 全球（算力）就已经没了 这样子 [4:06] 所以我觉得事实上才刚开始 [4:08] 我觉得事实上（token调用规模） [4:09] 未来发展是超级可怕的 [4:11] 所以 [4:12] 以上是目前AI发展现状的一个大背景 [4:15] 有了推理需求飙升 [4:17] 和OpenClaw爆火这两个趋势 [4:19] 黄仁勋的整个演讲的叙事逻辑 [4:22] 就完全和去年不同了 [4:24] 以前英伟达卖芯片给云厂商和AI公司 [4:27] 而如今 [4:27] 老黄要卖token给全世界每一家公司 [4:32] 每一个企业 [4:34] 全球的每一家软件公司 [4:36] 都需要一套智能体系统 [4:39] 需要一套智能体策略 [4:41] 需要拥有一套OpenClaw策略 [4:43] 这也是我参加今年老黄keynote的最大感受 [4:47] 黄仁勋的姿态就是we love everybody [4:49] 你看看这种PPT slides上面的这些小心心 [4:53] 所以 [4:54] 今年GTC的最关键主题是“生态” [4:57] 而不是“芯片” [4:58] 早在GTC开会的几天前 [5:00] 英伟达就放出了一篇 [5:02] 名为“AI五层蛋糕”的文章来为大会造势 [5:05] 预示黄仁勋在今年大会上强调的是 [5:08] 垂直整合能力和生态 [5:10] 而不是单芯片 [5:11] 我们一会儿也会来详细拆解这五层蛋糕 [5:15] 简单来说 [5:15] 黄仁勋给外界画了一个更大的饼 [5:19] 我们先来说黄仁勋在GTC演讲中 [5:22] 提到的一万亿美元这个数字 [5:29] 黄仁勋在去年的GTC上说 [5:31] 当前和下一代的GPU架构 [5:34] Blackwell和Vera Rubin的订单收入 [5:36] 从当时到2026年年底会达到5000亿美元 [5:40] 而这一次 [5:41] 他将这个预期直接上调了一倍 [5:43] 说截止现在 [5:44] 到2027年年底 [5:46] 预计光是Blackwell和Vera Rubin的订单收入 [5:49] 就会直接到1万亿美元 [5:51] 要注意 [5:52] 这个收入是不包括英伟达新发的CPU [5:55] 和基于Groq的LPU芯片等其他产品线的订单收入 [5:59] 这两个产品我们一会儿会讲到 [6:01] 而光是GPU架构的订单 [6:04] 老黄在媒体闭门会上专门特别澄清 [6:06] 原因是因为这样外界能直观的感受到 [6:09] 英伟达的GPU上的业务增长 [6:11] 如果我把这1万亿（的业务范围）进行更改 [6:14] 将CPU、Groq以及存储包含在内 [6:17] 那就会把两件不同的事情混为一谈 [6:19] 这样我在进行比较时就不够简单直接了 [6:22] 然而 对其他人来说 [6:26] 理解这1万亿的复杂之处在于 [6:27] 既然英伟达今天能提供多得多的产品 [6:30] 难道我们是在暗示 [6:33] Blackwell加上Vera Rubin（的规模） [6:35] 还不到1万亿吗 [6:36] 不 情况恰恰相反 [6:38] 首先这个数字我觉得 [6:39] 非常achievable（可实现的） [6:40] 这是第一 [6:42] 第二 这个数字是 [6:44] 到现在为止它看到的实实在在的订单 [6:48] 可能过几个月咱们回头再看这个数字 [6:51] 它还有新的订单出来 [6:52] 这一万亿的数字还会往上走 [6:53] 我觉得它的意义 [6:54] 从一个financial analysis（财务分析） [6:56] 角度来说 [6:57] 它的意义就是说 [6:58] 给2027年的营收和利润划了一个底 [7:02] 就告诉你这个底在这了 [7:04] 然后你把这 [7:05] 它这一万亿的数字放在那模型里面 [7:07] 可能2027年就是十三、四块钱的EPS（每股收益） [7:10] 就是把这个底给你划出来 [7:12] 而对于各大企业对算力的资本支出CapEx [7:15] 我们的嘉宾认为是还将继续上涨 [7:18] 一边是推理需求会继续上涨 [7:20] 另一边的原因是随着前沿模型的竞争趋于白热化 [7:24] 训练这边的需求也不会降低 [7:27] 我觉得从百分比的增速来说 会放慢 [7:31] 但是它肯定还是一个快速增长的状态 [7:33] 然后每年增长的绝对值数量 [7:35] 我觉得不一定会变小 [7:36] Inference（推理） 这边的用量肯定是 [7:38] 现在很明明显看到在有一个inflection（拐点） [7:40] 然后大家对agent的用量明显提升 [7:43] 对于token的消耗量明显提升 [7:45] 这是第一 [7:46] 第二个 其实我觉得 [7:48] 从模型厂商的角度来说 [7:50] frontier lab（前沿实验室）这几家 [7:53] 大家没有谁能明显地 [7:55] 拉开和其他人的身位 [7:57] 大家都是在一个交替领先的状态 [8:00] 包括开源的这些大模型 [8:03] 其实现在也没有说 [8:04] 明显地比闭源的 [8:05] 这些proprietary（专有）模型 [8:08] 要落后非常远 [8:09] 我觉得对于模型厂商来说 [8:11] 他后面就可能只有两条路 [8:13] 要不就是往上打 [8:14] 因为只有你做了application（应用）之后 [8:16] 你能做出用户粘性 [8:17] 然后你通过应用去收钱 [8:18] 另外一条路就是 [8:21] 用你的balance sheet（资产负债表）也好 [8:23] 用你的cash（现金流）的优势也好 [8:25] 你去更大力度地怼算力 [8:29] 然后去怼人才 [8:30] 希望你在模型上面能有一个突破 [8:32] 就是你花钱花得比别人更狠 [8:34] OpenAI我觉得之前有一段时间 [8:36] 它是想走这条路 [8:37] 包括去年Sam Altman [8:38] 他喊出来1.4万亿这种数字 [8:41] 我觉得就是这两条路 [8:43] 这么一个分化 [8:45] 所以我觉得 [8:46] 这两条路大家都还会继续去做 [8:48] 所以对CapEx（资本开支）的投入 [8:49] 一定不会小 [8:50] 其实还有侧面的一个点 [8:52] 为什么黄仁勋今年不强调单芯片 [8:55] 连Rubin再下一代计算架构Feynman [8:58] 也只是略微提了一点 [9:00] 除了老黄要把英伟达的企业叙事 [9:02] 拔高到“AI factory” [9:04] 以及要给所有人卖token之外 [9:06] 其实还因为产能跟不上 [9:09] 市面上还是疯狂缺卡 [9:11] 现在市面上大家根本买不到最先进的卡 [9:13] 就连两三年前发布的旧卡 [9:16] H100、H200用了几年甚至能超原价卖 [9:20] 同时软件生态和各种配置 [9:22] 也都跟不上老黄的速度 [9:24] 所以他再强调单卡的性能提升 [9:27] 对市场来说根本没有意义 [9:29] 现在市场上最成熟的平台 [9:31] 依然是Hopper平台最多 [9:33] Blackwell在最近几个月 [9:34] 开始进入一个大规模应用的阶段 [9:36] 并且我们看到了软件层也有比较好的进步 [9:40] 但是我们回想一下 [9:41] 其实Blackwell是在两年前 [9:43] 就已经被宣发了的 [9:44] 所以我觉得一个原因就是因为 [9:47] 现在的产能还是没有办法 [9:49] 跟当时老黄所预计的产能达到一致 [9:52] 所以看起来 [9:53] 光是GPU的售卖 [9:55] 这一万亿美元的收入规模并不算过度乐观 [9:58] 而是真有这样的需求量 [10:01] 但显然 黄仁勋是不满足这一万亿的 [10:03] 他布局的是全生态 [10:06] 当token成为大宗商品 [10:08] “算力即收入” [10:09] 黄仁勋接下来的动作 [10:11] 是想把他定义中的“AI五层蛋糕”给全部打透 [10:15] 让英伟达持续成为AI产业线中 [10:18] 持续最赚钱的机器 [10:20] 接下来 [10:20] 我们来看看五层蛋糕背后 [10:23] 老黄的野心 [10:28] 来看看黄仁勋定义的AI“五层蛋糕” [10:32] 从下到上 分别是能源层 [10:34] 这里是电力等基础供应 [10:36] 之后是芯片层 [10:37] 也就是英伟达的核心业务：卡 [10:41] 再之上是基建层 [10:42] 包括了云厂商以及旗下的数据中心 [10:45] 再往里面细分是土地、供电、冷却系统 [10:49] 建筑工程、网络通信等等 [10:51] 前三层被统称为AI工厂 (AI Factories) [10:55] 再往上 模型层有OpenAI [10:57] 谷歌Gemini和Anthropic这样的顶尖模型 [11:00] 也有包括英伟达自研的一系列开源模型 [11:03] 而在最上层的应用层 [11:05] 则是英伟达针对不同的赛道研发技术 [11:08] 包括机器人、自动驾驶、工业制造 [11:11] 编程和企业级AI agent等等 [11:14] 你是不是有点疑惑 [11:16] 老黄是在布一盘什么局呢 [11:18] 这五层蛋糕难道每一层英伟达都能吃透吗 [11:22] 你如果把其他这几层 [11:24] 能够去commoditize（同质化）掉 [11:26] 或者说把他们的利润打下来 [11:28] 然后利润就集中到你这一层 [11:29] 就是这一层里到底谁是bottleneck（瓶颈） [11:31] scarcity value（稀缺价值） [11:33] 到底是集中在哪一层 [11:35] 之前那几年其实这个稀缺价值 [11:37] 完全是集中在芯片这一层 [11:39] 所以Nvidia吃到了这一轮 [11:40] 绝大部分的利润和蛋糕 [11:42] 但是上面几层 [11:43] 其实都还是非常有实力的 [11:45] 我们的嘉宾任杨就认为 [11:46] 每一层蛋糕中 [11:48] 如果每个玩家的水平都差不多 [11:50] 没有绝对领先或者绝对垄断者 [11:53] 那么这一层的利润就会被摊薄 [11:55] 议价权最终还是会回到 [11:58] 有绝对领先和垄断的这一层 [12:00] 也就是英伟达的芯片层 [12:02] 也就是说 [12:03] 最终黄仁勋还是要靠卖芯片 [12:05] 但在其它层的蛋糕中 [12:07] 英伟达要扶持起自己的软件生态 [12:10] 定义规则 [12:11] 就像打造CUDA这样的护城河一样 [12:14] 一旦在新的市场定义了范式 [12:16] 当市场爆发 [12:17] 大家发现最好用的还是英伟达的平台 [12:20] 那最后要买的依然是英伟达的算力和卡 [12:24] 比如说 英伟达看到基建层 [12:26] 像谷歌云和AWS这样的云厂商 [12:29] 有强议价权之后 [12:30] 又扶持起了像CoreWeave和Nebius [12:33] 这样的New Cloud [12:34] 也就是新云平台来进行竞争 [12:36] 再比如说 在模型层 [12:38] 英伟达各种大小模型开源了一大堆 [12:41] 而且这次黄仁勋是专门组织了一场 [12:44] 全球最核心的开源模型论坛 [12:47] 就是想在模型这一层 [12:49] 试图在长期削弱 [12:51] 最SOTA (State of the Art) 的顶级闭源模型的议价权 [12:54] 而在应用层 [12:55] 英伟达也在研发自动驾驶和机器人 [12:57] 等待行业大规模的爆发 [12:59] 为的就是提前布局生态位 [13:02] 如果Nvidia能够鼓励 [13:05] 或者带领 [13:05] open-source community（开源社区） [13:07] 能够快速迭代 [13:08] 把token价格打下来 [13:10] 虽然说Anthropic也好 OpenAI也好 [13:12] 他们在卖API这个事情上 [13:14] 卖inference（推理）、卖token这个事情上 [13:15] 他们是赚钱的 [13:16] 比如说开源模型能够做到 [13:19] 现在的前沿实验室的 [13:20] 这些SOTA model（最先进的模型） 的 [13:22] 90%的performance（性能） [13:23] 但是10%的价格 [13:25] 那这些token的价格一定会被打下来 [13:28] 然后就把模型这一层 [13:30] 把卖inference（推理） token这一层 [13:32] 把它commoditize（同质化）掉 [13:33] 整个ecosystem（生态）里面 [13:34] 最后赚钱的 又回到了Nvidia这边 [13:37] 所以老黄正在时刻关注的其他层级的蛋糕 [13:40] 但最赚钱的 [13:41] 始终还是芯片这一层 [13:43] 所以这一层也是黄仁勋盯得最紧的 [13:46] 而这次的GTC上 [13:48] 传达出两个信号 [13:50] 第一个信号就是在芯片层 [13:52] 老黄发布了基于Groq研发出的LPU [13:55] 要知道 对Groq的非独家技术授权交易 [13:58] 是去年12月圣诞节前后才宣布的 [14:01] 花了200亿美元现金 [14:03] 可以说是英伟达有史以来最大的一起交易 [14:06] Groq创始人Jonathan Ross [14:08] 在最新的福布斯杂志采访中爆料说 [14:11] 和Groq的交易这件事情 [14:13] 也是老黄只花了三周就迅速做的决定 [14:16] 而到如今的GTC才3个月 [14:18] 产品就已经出来了 [14:20] 只能说 [14:20] 老黄和英伟达卷起来真的没其他人什么事儿了 [14:23] 那为什么黄仁勋要“收编”Groq呢？ [14:26] 简单来说就是GPU架构 [14:29] 即使强如Vera Rubin [14:30] 擅长的是高吞吐的并行计算 [14:33] 做Prefill [14:34] 也就是上下文预处理 [14:35] 和Attention 注意力计算很厉害 [14:38] 但在做超高速的token生成 [14:40] 也就是Decode这个任务上 [14:41] 就没那么给力了 [14:43] 因为token生成的特点 [14:44] 是token只能一个一个的生成 [14:46] 整个过程必然是串行链式的 [14:49] 对于每一步延迟都极其敏感 [14:51] 所以“高吞吐”和“低延迟”本身互相矛盾 [14:55] 很难两全 [14:57] 而Groq就是这个矛盾的解法 [14:59] LPX发挥作用的地方就在于那些极高交互率的场景 [15:03] 单独的Rubin非常适合用来 [15:05] 处理绝大多数的推理工作负载 [15:08] 当涉及到超大模型、超长上下文 [15:12] 以及极高交互性时 [15:14] 这就是LPX发挥作用的地方 [15:15] 它能为Vera Rubin提供额外的提升 [15:17] Groq通过SRAM [15:18] 也就是静态随机存取存储器设计 [15:21] 天生就适合做推理和token生成 [15:24] 就像Groq创始人Ross [15:26] 打动黄仁勋的那个类比 [15:27] 他说强大的GPU就像“18轮大卡车” [15:30] 但推理任务就像“最后一公里配送” [15:33] 本身就更适合更加灵活高效的面包车 [15:37] 他对老黄说 [15:38] 如果你要为美国建立一个物流网络 [15:41] 最佳答案是 [15:42] 18轮卡车和面包车你都需要 [15:45] 而在OpenClaw之后的agent时代 [15:47] 老黄通过与Groq的深度技术与人才合作 [15:50] 解决了token生成的挑战 [15:53] 这是非常关键的一步 [15:55] 而Groq的新芯片融入英伟达体系后 [15:58] 英伟达宣称这将解锁3000亿美金的增量市场 [16:03] 可以说 这200亿花得值了 [16:06] 但还有个内存上的小难题 [16:08] SRAM缺点是第一很贵 [16:10] 第二很占面积 [16:11] 第三容量做不大 [16:13] 我们来对比一下 [16:15] 单颗Groq 3 LPU只有500MB的SRAM [16:18] 而Rubin的GPU是288GB的HBM4 [16:22] 差了500多倍 [16:24] 根本存不下万亿参数的模型 [16:26] 英伟达的解法是用Dynamo软件 [16:29] 把推理过程拆成两半 [16:31] Vera Rubin这边的GPU [16:33] 负责Prefill（预填充） [16:34] 和Attention（注意力机制） [16:35] 而Groq负责之后Decode和token生成 [16:37] 所以我们看到 [16:38] 一颗Rubin GPU配上8颗Groq 3 LPU [16:42] 统一为一个推理单元 [16:43] 而Groq 3 LPX整机 [16:45] 把256颗的LPU装进了一个机架 [16:49] 能够提供128GB SRAM [16:51] 40 PB/s带宽 [16:53] 315 PFLOPS的推理算力 [16:55] 和640 TB/s的互连带宽 [16:58] 英伟达和Groq的这个交易 [16:59] 目前还面临反垄断的一些潜在调查 [17:01] 因为涉嫌“变相收购” [17:04] 虽然这个做法已经是硅谷巨头 [17:06] 在AI时代的基本操作了 [17:08] 但是现在LPU已经和三星在合作量产了 [17:11] 预计今年第三季度出货 [17:13] 而Vera Rubin机架 [17:15] 已经在微软Azure云上运行 [17:17] 同时 英伟达联手Groq还有一个战略上的意义 [17:20] 就是打出了ASIC反击战 [17:22] 我们之前节目说过 [17:24] ASIC是专项芯片 [17:26] 虽然不如GPU那么通用 [17:27] 但如今却是各大科技巨头自研的重点 [17:31] 以及各个云厂商也都在扶持ASIC芯片的研发 [17:34] 试图蚕食英伟达GPU的利润率和议价权 [17:38] 包括谷歌的TPU也是ASIC芯片 [17:40] Groq本身也是AISC芯片 [17:42] 但英伟达这次告诉外界 [17:45] 诶我也可以做ASIC芯片啊 [17:47] 而且还跟我自己的GPU结合 [17:49] 性能更强哦 [17:50] 但是有了这种架构 [17:53] 我们将把我们的token生成速度 [17:55] 生成率从200万提升到7亿 [18:02] 实现了350倍的增长 [18:05] 这就是extreme co-design（极致协同设计） [18:08] 这就是我所说的 [18:10] 我们在垂直方向上进行整合与优化 [18:13] 然后再在水平方向上将其开放 [18:15] 供所有人享有 [18:16] 好 我们再来看看芯片层的第二个关键词 [18:19] CPU [18:20] 是不是有种“枯木逢春”的感觉 [18:23] AI agent时代token经济的崛起 [18:26] 不但救了Groq一命 [18:27] 连老古董CPU也重新成为了香饽饽 [18:30] 虽然GPU擅长训练和运行AI模型 [18:33] 但随着agent工作负载的不断增长 [18:36] 这些系统需要传输海量数据 [18:38] 并且协调跨多个智能体的工作流程 [18:41] 这使得CPU在现代AI基础设施中的重要性 [18:45] 丝毫不亚于GPU [18:47] 所以 英伟达在这次GTC上 [18:49] 就发布了Vera CPU [18:51] 这被称为全球首款 [18:53] 专为代理式AI与强化学习时代 [18:56] 打造的处理器 [18:57] 它的效率是传统机架级CPU的2倍 [19:00] 速度提升50% [19:02] 包括AI编程明星公司Cursor [19:04] 也在为Vera CPU站台 [19:06] 说提升了他们的整体吞吐量与效率 [19:09] 给客户带来了更快速灵敏的 [19:11] 编程agent体验 [19:13] 这些CPU是专为AI工厂打造的 [19:16] 当你们的GPU进行推理或强化学习训练时 [19:21] 它们会生成大量的软件代码 [19:24] 因此 这些代码需要被评估 [19:26] 它正确与否 [19:27] 然后反馈需要传回给GPU [19:30] CPU承担了评估这些代码的任务 [19:34] 所以在那个阶段 [19:35] 你需要一个非常快的CPU [19:37] 来向GPU提供评估反馈 [19:39] 这样GPU就不需要加权了 [19:41] 这就是为什么我们专门打造这款产品 [19:45] 它具备极高的单核性能 [19:47] 以及极大的内存带宽 [19:49] 这样数据就可以无缝移动 [19:51] 并且所有环节都能达到 [19:54] 非常出色的机架级性能效率 [19:57] 所以 将所有这些结合在一起 [19:58] 就成就了一款非常适合智能体任务 [20:00] 和AI工厂的理想CPU [20:03] 在芯片层这里 [20:05] 还有一个秘密武器就是CPX [20:07] 这是黄仁勋在去年9月的 [20:09] AI基础设施峰会上推出的 [20:11] 专门针对长语境推理进行优化的芯片 [20:15] 可以说是代表了GPU设计的一个全新类别 [20:18] 这款芯片能够处理 [20:20] 百万级tokens的软件编程和生成式视频 [20:23] 在速度和效率方面实现突破性提升 [20:26] 被外界认为能够进一步稳固英伟达 [20:28] 在推理上的优势 [20:30] 有意思的是 [20:31] 老黄这次的演讲中根本没有提到CPX [20:34] 也让业界很好奇 [20:36] 英伟达目前在芯片层的这套组合拳 [20:39] GPU，CPU，LPU，CPX [20:42] 是否会进一步拉开与竞争对手的差距 [20:46] 我的理解就是说 [20:47] 他在根据不同类型的workload（工作负载） [20:51] 他都有能够拿出来非常好用的产品 [20:54] 然后放到他的机柜里面 [20:55] 但是他是想要去给你提供一个 [20:58] 最完整、最全面 [20:59] 你想要什么东西我都有 [21:00] 如果你全都买我的东西最方便 [21:02] 是这么一个感觉 [21:03] 总结一下 [21:04] 这五层蛋糕互相支撑但又互相牵制 [21:08] 黄仁勋在做的是要整合这五层 [21:10] 确保英伟达在每一层都有话语权 [21:12] 无论是扶持甲方的竞争对手 [21:14] 还是自研开源模型 [21:16] 还是在不同领域保持开放合作 [21:18] 来定义行业入口和范式 [21:21] 英伟达的叙事早已经不是“芯片”而已了 [21:24] 黄仁勋在发布会上手握单芯片的 [21:26] 那些名场面已经成为过去 [21:29] 未来是完整的AI Factory [21:31] 是更宏大的token经济学 [21:33] 这让英伟达的“护城河”也早已超越CUDA [21:36] 让竞争对手们更难攻破它的生态帝国 [21:44] 我还想提到的一点是 [21:46] 黄仁勋一直在布局下一个即将爆发的产业 [21:49] 也对前沿技术非常的敏锐 [21:51] 他这次在发布会上没太多提共封装光学CPO [21:56] 以及数据中心中机组的Scale-up和Scale-out [22:00] 但英伟达在3月初分别向光子技术巨头 [22:02] Lumentum和Coherent [22:04] 各注资20亿美元 [22:06] 并且锁定了数十亿美元的采购承诺 [22:09] 以及未来产能权益 [22:10] 这两家公司都是CPO的核心供应链 [22:13] 业内人士就认为 [22:15] 黄仁勋这是在准备为下一代 [22:17] “吉瓦级AI工厂”去铺垫光互联的底座 [22:20] 一个是Lumentum [22:21] 它是现在唯一的高功率激光器 [22:24] DFB的一个供应商 [22:25] 就是400 milliwatt（毫瓦） [22:27] 然后在最近的OFC会议上 [22:28] 他们也提到了一个更高的参数 [22:30] 就是一个watt（瓦） 这样子的 [22:32] 很强光率功率的激光器 [22:34] 然后另外一个是Coherent [22:36] 这个的话是在硅光光子学中 [22:38] 有很多的技术积累的一个 [22:40] 之前几个公司合并在一起的公司 [22:43] 这两家公司 [22:44] 一个是他们是美国公司 [22:45] 二是有多年的技术积累和专利的积累 [22:48] 三是在整个产业链上 [22:49] 这种投资可以帮助这些公司 [22:52] 在下一代的技术中做更多的革新 [22:54] 谈到技术革新就可以看到说 [22:56] 这一次他们更多的革新是在封装方面 [22:58] 比如说2.5D到3D的封装 [23:00] 但是接下来这两家公司还在进行 [23:02] 之后更多很先进的新技术的研发 [23:05] 比如说使用更多的光波长一起进行通信 [23:09] 进一步地增加它的这个bandwidth密度 [23:12] 它的这个带宽的密度 [23:14] 还有使用一些更加先进的技术 [23:16] 比如说不同的放置激光器的方法 [23:18] 甚至探索一些不同的波段 [23:20] 然后不同光纤的参数等等 [23:22] 更下一步的技术革新 [23:24] 目前产业里面还在讨论Scale-up和Scale-out [23:28] 而行业人士说 [23:29] 黄仁勋已经在思考说再下一步 [23:31] Scale-across [23:33] 也就是不同数据中心的互联怎么去解决了 [23:38] 对于不同的距离的场景 [23:39] 比如说Scale-up（纵向扩容） [23:41] 我们可能谈论的是毫米量级 [23:43] 然后scale-out（横向扩容） [23:45] 我们可能讨论的是米量级 [23:46] 然后Scale-across（跨域扩展） [23:47] 我们可能讨论的是千米或者更远的量级 [23:50] 在这些不同量级之下 [23:51] 什么是一个最优的技术路线 [23:53] 我们还是用现在的波长 [23:54] 还是要换成一个其他的波长 [23:56] 会不会有一个技术 [23:57] 是用现在这种光纤 [23:58] 还是一种中间是空着的光纤 [24:00] 会不会有一个技术突然出现就砸了场子 [24:02] 把一个其他的技术都带跑了 [24:04] 都是很有意思的一些讨论 [24:07] 当然 [24:08] 还有更遥远的一些布局 [24:09] 包括在演讲中黄仁勋提到的太空数据中心 [24:13] 这个实现方式和挑战 [24:15] 我们之前做过一期内容聊到过 [24:18] 在这期视频的最后 [24:19] 我还想稍微聊聊整个芯片和数据中心供应链 [24:23] 目前的一个情况 [24:24] 如果大家还记得 [24:25] 我们之前说到的“五层蛋糕” [24:27] 可以看到能源和数据中心供应链 [24:30] 这个基础层决定了芯片的产能 [24:32] 也决定了整个AI模型和应用 [24:35] 能否得到足够的算力支撑 [24:37] 也决定了AI的进程 [24:44] 我们在GTC期间跟供应链的朋友聊天 [24:46] 得到的信息是 [24:48] 缺 什么都短缺 [24:50] 我们事实上是了解 [24:52] 所有的元器件 [24:53] 到内存端 [24:54] 所有的这个硬件的 [24:56] 还有什么CX7等等 [24:58] 这些子元器件的 [25:01] 缺货情况 [25:02] 事实上现在每一个元器件 [25:05] 开始亮红灯 [25:06] 我讲“亮红灯”是指开始大缺货 [25:08] 然后开始大涨价 [25:09] 从去年的T-1年（365天前） [25:13] DDR4 就是DRAM [25:18] 现在是过去的10倍（价格） [25:19] 有点疯狂 [25:21] 然后现在CX7也在缺货 [25:23] 然后电源供应也在缺货 [25:24] 就开始缺了 [25:26] CPU也是 [25:27] 也是很多是内存问题 [25:29] 各个供应链开始缺 [25:32] 我看到OpenClaw这个起来 [25:33] agent起来 多模态的起来 [25:35] 还有以及编程的起来 [25:37] 刚好三个是一个完美的风暴 [25:40] 然后所有的供应链就跟不上这个节奏 [25:43] Alex对我们表示 [25:44] 最近全球地缘政治 [25:46] 特别是中东的局面让能源价格异常波动 [25:49] 这也给全球AI数据中心的能源供应 [25:52] 带来了更高不确定性 [25:54] 但能源这一部分大概会占到 [25:56] token定价的10%左右 [25:58] 而让token价格高居不下的 [26:01] 还是供应链短缺带来的价格飙升 [26:04] 特别是内存方向 [26:05] 我觉得影响最大的 [26:07] 事实上还是system [26:08] 就是服务器系统的内存的涨价 [26:11] 而造成token价格的增加 [26:14] 而我们也在展会现场 [26:15] 采访到了内存市场的决定性大赢家三星 [26:19] 他们认为 [26:20] 紧缺的状态至少要持续到27年年底 [26:24] 这个是我们从来没有看到过的 [26:26] supercycle（超级周期） [26:27] 就之前几年也有 [26:28] 但是 那个时候更多是 [26:31] 比如说手机电脑端的 [26:33] 我互联网端的一些需求 [26:34] 但是今年整个就是AI [26:36] 然后我们看到说2026年 [26:39] 其实已经是完全的sold Out（售罄） [26:41] 2027年我们认为也还是会在紧缺的状态 [26:44] 产线我们都已经在投入了 [26:47] 但是大概率也要到2028年 [26:49] 才能有实质性的这么一个上涨 对 [26:53] 然后这个supercycle（超级周期）的话 [26:55] 很多的buyer（采购方）都是cloud [26:58] 都是这种data center（数据中心） [27:00] 他们对于这个成本的敏感度是比较低的 [27:03] 他们也比较愿意花钱去买 [27:05] 所以其实整个内存的短缺 [27:09] 或者说是需求量 [27:11] 我们认为在接下来两年还是会比较强的 [27:14] 而关于内存市场 [27:15] 我们马上也会出一期深度视频 [27:17] 单独来聊聊这个行业的现状 [27:19] 主要玩家和挑战 [27:21] 关注我们 不要错过更新 [27:23] 以上就是我们这次的参会体验 [27:25] 给我的感觉是 [27:26] 随着Agentic时代的来临 [27:28] 非常多的范式会发生变化 [27:30] 有机遇 也有挑战 [27:32] 而GTC依然会是AI行业的指路标 [27:35] 我们也会为大家继续地关注 [27:36] 以上我们提到的这些产业和方向 [27:38] 不知道在一年后的GTC大会 [27:40] 我们的世界会被AI加速多少呢 [27:43] 以上就是我们这期视频的全部内容 [27:46] 你们的点赞、留言和转发 [27:47] 是支持我们《硅谷101》 [27:48] 做好深度科技和商业内容的最佳动力 [27:51] 我是陈茜 [27:52] 那我们就下期视频再见了 再见