[0:00] 1万亿For Blackwell and Rubin through 2027At least 1 trillion dollars性能提升50倍Our cost per token is the lowest in the worldYou can't beat it推理之王Hello 大家好欢迎来到英美达2026年GTC大会那么又是一年过去了我们来看看黄仁勋要讲什么新故事XGPT爆发的三年半之后黄仁勋开始停止了讲芯片的故事他开始瞄准更大的叙事Token经济而这将是更有野心且更持久的市场蛋糕那么这个视频呢我们将拆解英伟达的五层蛋糕生态体系一万亿美元的收入是怎么算出来的基于Groft的LPU将给英伟达带来什么样的新机会还有呢华人勋在光通信上面的提前布局以及未来ScalarGross的AI工厂机会以及呢OpenCloud的里程碑之后英伟达压住了Token经济学将会如何发展给算力市场带来了如何的挑战呢Token的Inference使用量事实上是一直在暴增每一个一个component开始亮红灯亮红灯是指开始大缺货然后开始大涨价现在的产能还是没有办法跟当时老黄所预计的产能达到一致这个是我们从来没有看到过的Super Cycle大概率遥到28年才能有实质性的每个上涨在整个产业链上这种投资可以帮助这些公司在下一代的技术中做更多的个性这个数字是到现在为止它看到的这实在这的订单而今年就是13 4块钱的EPS最完整最全面你想要什么东西我都有把投资价格打下来那最后赚钱又回到N1这边那就跟我走进2026年的英伟大GTC Let's go2026年的英伟达GTC叙事建立在两个背景和事件那么第一是AI应用得到落地别而是OpenCloud的爆火带动了全球的agent生态这让黄仁勋在GTC演讲中高呼推理拐点已经到来新营产商GMI Cloud的城市Alex Yeer在跟我们对话中就透露北美的需求暴增是来自于多摩泰和编程而OpenClaw带来的Token需求则主要是来自于中国Toen的Inference的使用量事实上是一直在暴增而且是一个以倍数的方式在成长我们的客户事实上也从大型的training客户到转到很多的Inference需要的Edge的节点一个是以Coding为首的Inference的掉量还有另外一个就是多模态的Video和Image的Generation这两个发展的速度都太快了我觉得在OpenClaw这块我觉得美国的市场事实上还没有意识到How big this impact isAlex的观察和我们最近在硅谷与很多业内人士的探讨是相似的因为北美用户特别是有技术背景的开发者已经很适应Claw Cowork去做一些agent任务所以虽然OpenClaw是从硅谷火出圈的但是也没有到国内那么卷的程度我觉得这东西是从国内火到这边来可是国内已经先开始一波了那现在事实上也在 Mac mini 上面 或者说在 DGX Spark 上面在跑可是我觉得这不是一个常态 因为这东西绝对之后都是上云的毕竟是 set up PC 的成本实在是太高Also, 我看到很多细谷的公司已经在做一个 zero code就是一个 very easy to use UI 的 experience 的 Opany has been doing zero code, very easy to use UI experience. The way the open-quad is better, the way the open-quad is better, the way the open-quad is better. So I think we haven't reached 1% or 5% yet, but just like that, the world is not. So I think it's just the beginning of the year I think it's really scary for the future So this is the current current AI-like vision of the current situation With the推理需求升 and the open club's focus on the two趋势 The whole of the talk of the talk of the logic is completely different from the past The previous year, the company was selling to the new company And the current year, the old黄 is selling to the token for the world's every company I said that every single enterprise company Every single software company in the world needs an agentic system, need an agent strategy, you need to have an open clause strategy. That is what I've been doing for the last year's keynote. The attitude of the K-note is we love everybody. Look at the GPT slides on the little star. So, the GTC's most important topic is the mood, not the芯片. At the GTC's meeting,
[4:59] 几天前英伟达就放出了一篇名为AI五层蛋糕的文章来为大会造势预示黄仁勋在今年大会上强调的是垂直整合能力和生态而不是单薪剑我们一会儿也会详细的拆解这五层蛋糕简单来说黄仁勋给外界画了一个更大的饼那我们先来说一下黄仁勋在GTC演讲中提到的1 trillion1万亿美元这个数字黄尔勋在去年的GTC上说当前和下一代的GPU架构Blackwell和Viribin的订单收入从当时到2026年年底会达到5000亿美元这次他将这个预期直接上调了一倍说截止现在到2027年年底预计光是Blackwell和Viribin的订单收入会直接到1万亿美元要注意这个收入是不包括英伟达新发的CPU和基于GROC的LPU芯片等其他产品线的订单收入的这两个产品我们一会儿会讲到而光是GPU架构的订单老黄在媒体闭门会上专门澄清原因是因为这样外界能够更直观地感受到英伟达的GPU上的业务增长如果我会把1亿充分为G分了CPU和GROC和充电它们会有两个不同的东西我会不会比较简单但是每个人的确认1万亿是因为NVIDIA提供了很多我们会推荐所以黑暗和Vero Grouping是比较多不 这就是正确的首先这个数字我觉得是非常achievable这是第一然后第二就是这个数字呢是到现在为止他看到的实实在在的订单可能过几个月咱们回头再看这个数字他还有新的订单出来这个一个车链的数字还不往上走然后我觉得他的意义就是从一个financial analyst角度他在这边说他的意义就是说给27年的营收和利润画了一个底就告诉你这个底在这了然后他这个一个车链的数字放弃的模型里面可能27年就是13 4块钱的ETS就把这个底给你划除而对于各大企业对算力的资本支出CAPEX我们嘉宾认为还将继续的上涨那一边是推理需求会持续的上涨另外一边的原因是随着前年模型的竞争区域把热化训练这边的需求也不会降低我觉得从百分比的增速来说我觉得会放慢但是它肯定还是一个快速增长的一个状态然后每年增长的绝对值的数量我觉得不一定会变小Inference这边的用量肯定是现在很明显看到有一个inflection然后大家对于agent的用量明显地提升对于token的消耗量明显地提升然后这是第一然后第二个其实我觉得从这个模型厂商的角度来说Frontier Lab这几家大家没有谁能明显的拉开和其他人的一个声音位大家都是在一个交替领先的状态然后包括open source的这些大模型其实现在也没有说明显的比币远的这些proprietary的这些模型要落后非常远我觉得对于模型厂商来说它后面就可能只有两条路要不就是往上打因为只有你做了application之后然后你能做出用户粘性然后你通过application去收钱然后那另外一条路呢就是用你的balance sheet也好然后用你的cash的优势也好你去更大力度的去对算力然后去对人才然后希望你在模型上面能有一个突破就是你花钱花的比别人更分OpenAI我觉得之前有一段时间它是想走这条路包括去年SanMultipman他喊出来这个1.4个TRAILIAN这种这种数字我觉得就是这两条路就这么一个分化所以我觉得这两头路大家都还会继续去走所以对KPEX的投入一定不会行其实还有一个侧面的一个点为什么黄仁勋今年不强调单芯片连Rubin在下一代计算架构飞门也只是略微地提了一点除了老黄要把英伟达的企业叙事拔高到AI Factory以及要给所有人卖Token之外其实还因为目前产能跟不上市面上还是疯狂的缺卡现在市面上大家根本买不到最新技能卡就连两三年前发布的旧的卡比如说H100跟H200大家用了几年甚至能够超原价去买同时软件生态和各种的配置也跟不上老黄的速度所以它再强调单卡的性能提升对市场来说也根本没有什么意义现在市场上最成熟的平台依然是Hopper平台最多Blackwell在最近几个月开始进入一个大规模的应用的阶段并且我们看到了软件层也有比较好的进步但是我们回想一下其实Blackwell是在两年前就已经被宣发了的所以我觉得一个原因就是因为现在的产能还是没有办法跟当时老黄所预计的产能达到一致所以看起来呢光是GPU的售卖这一万亿美元的收入规模就并不算货度乐观了而是真的有
[9:59] 需求量但是显然黄仁勋是不满足这1万亿的他不许的是全生态当token成为大宗商品算力及收入黄仁勋接下来的动作是想把他定义中的AI五层蛋糕给全部打透让英伟达持续成为AI产业线中持续最赚钱的机器那接下来我们就来看一下五层蛋糕的背后老黄的野心来看看华人勋定义的AI五层蛋糕从下到上分别是能源层这里是电力等基础供应之后是芯片层也就是因为达的核心业务卡再之上是基建层包括了云厂商以及旗下的数据中心再往里面细分是土地供电冷却系统建筑工程网络通信等等前三层被统称为AI工厂AI Factories在网上模型层有OpenAI谷歌Gemini和Androbic这样的顶尖模型也有包括英伟达自研的一系列开源模型而在最上层的应用层则是英伟达针对不同的赛道研发技术包括机器人自动驾驶工业制造编程和企业级AI agent等等你是不是有点疑惑老黄是在布一盘什么样的局呢这五层蛋糕难道每一层英伟达都能吃透吗你如果把你其他这几层能够去commoditize掉或者说把他们的利润打下来然后利润就集中到你这一层就是这一层里到底谁是bottleneck对吧谁是那个scarcity value到底是集中在哪一层之前这几年其实这个value完全是集中在芯片这一层虽然NVIDIA吃到了这一轮绝大部分的利润蛋糕但是上面几层其实都还是非常powerful我们的嘉宾人娘就认为每一层蛋糕中如果每个玩家的水平都差不多没有绝对领先或者绝对垄断者那么这一层的利润就会被摊薄一家全最终还是会回到有绝对领先和垄断的这一层那就是英伟达的芯片层也就是说最终黄生勋还是要靠卖芯片但是在其他层的蛋糕当中英伟达要扶持起自己的软件生态定义规则就像打造Kuda这样的护城河一样一旦在新的市场定义了范式当市场爆发的时候大家发现最好用的还是英伟达的平台最后还是要买的是英伟达的算力和卡比如说英伟达看到基建层像谷歌云和AWS这样的云厂商有强益加权之后又扶持起了像Corewave和Navius这样的NeoCloud也就是新云平台来进行竞争再比如说在模型层英伟达各种大小模型开源了一大堆而且这次黄仁勋是专门组织了一场全球最核心的开源模型论坛就是想在模型这一层试图在长期削弱最搜索的顶级必源模型的溢价权而在应用层英伟达也在研发自动驾驶和机器人等待行业大规模的爆发为的就是提前布局生态位如果NVIDIA能够鼓励或者带领open source这个community能够快速的迭代把token价格打下来虽然说Anthrofic也好OpenAI也好他们在MyAPI这个事情上MyInferenceMyToken这个事情上他们是赚钱的比如说open source能够做到现在的Frontier的Lab的这些SATA model的90%的performance但是10%的价格那这些token的价格一定会被打下来然后就把model这一层把my inference token这一层把它commodify那整个ecosystem里面那最后赚钱的又回到media这边所以老黄正在时刻关注其他层级的蛋糕但是最赚钱的始终还是芯片这一层所以这一层也是黄仁勋盯得最紧的而这次GTC上传达出两个信号第一个信号就是在芯片层老黄发布了基于Grog研发的LPU要知道对Grog的非独家技术授权交易是去年12月圣诞节前后才宣布的花了200亿美元现金可以说是英伟达有史以来最大的一起交易Grog创始人Jonathan Ross在最新的福布斯杂志采访中爆料说和Grog的交易这件事情也是老黄只花了三周就迅速做的决定而到如今的GTC才三个月产品就已经出来了只能说老黄和英伟达卷起来真的就没其他人什么事了那为什么黄承讯要收编Grog呢简单来说就是GPU架构即使强Ruvera Rubin擅长的是高吞吐的并行计算做prefile也就是上下文语处理和attention注意力计算很厉害但是在做超高速的token生成也就是Dcode这个任务上就没有那么给力了因为token生成的特点是token只能一个一个的生成整个过程必然是串行链式的对于每一步延迟都极其敏感所以高吞吐和低延迟本身就互相矛盾很难两全而Glock就是这个矛盾的解法
[14:59] Lpx 来到非常高的交易率Vera Rubin 单独为非常好帮助大量的通知工作领域但当于非常大型模式非常高的境界非常高的交易率这就是Lpx 来到Vera Rubin 来到更加增加Grog 通过 SRAM 也就是静态随机存取存储器设计天生就适合做推理和Token生成那就像Grog 创始人Ross打动防人训的那个类比他说强大的GPU就像18轮大卡车但是推理任务就像最后一公里配送本身就更适合更加灵活高效的面包车他对老黄说如果你要为美国建立一个物流网络最佳答案是18轮卡车和面包车你都需要而在OpenClaw之后的Agent时代老黄通过与Grog的深度技术与人才合作是解决了token生成的挑战这也是非常关键的一步而Grox的新芯片融入英伟达的体系之后英伟达宣称这将会解锁3000亿美元的增量市场那么可以说这200亿花的是值得但是还有个内存上的小难题SRAM的缺点一是很贵二是很占面积三是容量做的不大我们来对比一下单科Grosan LPU只有500MB的SRAM而Robin的GPU是288GB的HBM4差了500多倍根本存不下万亿参数的模型那么英伟达的解法是用Dynamo软件把推理过程拆成两半然而Robin这边的GPU负责prefile和attention而Grocks负责之后的decode和token生成所以我们看到一颗Rubin GPU配上8颗Groxen LPU同一为一个推理单元而Groxen LPX整机把256颗的LPU装进了一个机架能够提供128GB RAM每秒40pb带宽315FLOPs的推理算力和每秒640TB的互联带宽因为达和Groxen的交易目前还面临反垄断的一些潜在调查因为涉嫌电像收购虽然这个做法已经是硅谷巨头在AI时代的基本操作了但是现在LPU已经和三星在合作量产了预计今年第三季度出货而Vera Rubin之下已经在微软Azure云上运行同时英伟达联手Grog还有一个战略上的意义就是打出了ASIC反击战我们之前节目当中说过ASIC是专项芯片虽然不如GPU那么通用但是如今却是各大科技巨头自研的重点以及各个云厂商也都在扶持ASIC芯片的研发试图蚕食英伟达GPU的利润率和溢价权包括谷歌的TPU也是ASIC芯片Guarga本身也是ASIC芯片但是英伟达这次就告诉外界我也可以做ASIC芯片而且还跟我自己的GPU结合性能还可以更强Token generation rate from 2 million to 700 million350 times increaseThis is the power of extreme co-designThis is what I mean when we integrate and optimize verticallyBut then we open it horizontally for everybody to enjoy好 我们再来看一下芯片层的第二个关键词CPU是不是有一种枯木逢春的感觉AI Agent时代,Token经济的崛起不但救了Grook一命连老古董CPU也重新成为了香波波虽然GPU擅长训练和运行AI模型但是随着Agent工作负载的不断增长这些系统需要传输海量数据并且协调跨多个智能体的工作流程这使得CPU在现代AI基础设施中的重要性丝毫不亚于GPU所以英伟达在这次GTC上就发布了Vera CPU这被称为全球首款专位代理式AI与强化学习时代打造的处理器它的效率是传统机架级CPU的两倍速度提升50%包括AI编程明星公司Cursor也在为Vera CPU站台说提升了它们的整体吞吐量与效率给客户带来了更快速灵敏的编程agent体验所以它是不在买的所以我们建设这个产品很高的一种功能很多的密度所以可以移动和很高的效果很高的效果所以在这些地方它们的一种
[19:59] CPU for agentic tasks and AI factories那么在芯片层这里还有一个秘密武器就是CPX这是黄仁勋在去年9月的AI基础设施峰会上推出的专门针对长语境推理进行优化的芯片可以说是代表了GPU设计的一个全新类别这款芯片能够处理百万级TOKENS的软件编程和生成式视频在速度和效率方面实现突破性提升被外界认为能够进一步稳固英伟达在推理上的优势有意思的是老黄这次的演讲中根本就没有提到CPX也是让外界很好奇因为他目前在芯片层这套组合权GPU CPU LP U CPS是否会进一步拉开与竞争对手的差距我的理解就是说他在根据不同类型的workload他都有能够拿出来非常好用的产品然后放到他的机柜里面但是他是想要去给你提供一个最完整最全面你想要什么东西我都有如果你全都买我的东西最方便是这么一个感觉那总结一下这五层蛋糕互相支撑但是又互相牵制黄仁勋在做的是要整合这五层确保英伟达在每一层都有话语权无论是扶持甲方的竞争对手还是自言开源模型还是在不同领域保持开放合作来定义行业入口与范式英伟达的叙事早已经不是芯片而已了王仁勋在发布会上手握单芯片的那些名场面已经成为过去未来是完整的AI Factory是更宏大的token经济学这让英伟达的护城河也早已超越Cuda让竞争对手们更难攻破他的生态帝国那我还想提到的一点是黄仁勋一直在布局下一个即将爆发的产业也对前年技术非常的敏锐他这次在发布会上没有太多的提供奉装光学CPO以及数据中心中机组的Skill Up和Skill Out但英伟达在3月初分别像光子技术巨头Lumintum和Coharant各注资20亿美元并且锁定了数十亿美元的采购承诺以及未来产能权益这两家公司都是CPO的核心供应链业内人士就认为王仁勋这是在准备为下一代极瓦级AI工厂去铺垫光互联的底座一个是Lumentum它是现在唯一的高功率激光器DFB的一个供应商就是400mW然后在最近的OFC会议上他们也提到了一个更高的参数就是一个Watt这样子的很强功率的激光器然后另外一个呢是Proherent这个的话是在归光光子学中有很多的技术积累的一个之前几个公司合并在一起的一个公司这两家公司一个是他们是美国公司二是有多年的技术积累和专利的积累三是在整个产业链上这种投资可以帮助这些公司在下一代的技术中做更多的个性谈到技术革新就可以看到说这一次他们更多的革新是在封装方面比如说2.5D到3D的封装但是接下来这两家公司还在进行之后更多很fancy新技术的研发比如说使用更多的光波场一起进行通信进一步的增加它的这个Bandways密度它的这个带宽的密度还有使用一些更加先进的技术比如说不同的放置激光器的方法甚至探索一些不同的波段然后不同的光纤的参数等等更下一步的技术更新那目前的产业里面还是在讨论scale up和scale out而行业人士说啊黄仁勋已经在思考下一步也就是scale across他的意思呢就是不同数据中心的互联怎么去解决了对于不同的距离的场景比如说scale up我们可能谈论的是毫米量级然后scale out我们可能讨论的是米量级然后scale across我们可能讨论的是千米或者更远的量级在这些不同的量级之下什么是一个最优的技术路线我们还是用现在的波长还是要换成一个其他的波长会不会有一个技术现在这种光纤还是一种中间是空着的光纤会不会有一个技术突然出现就砸了场子把一个其他的技术都带跑了都是很有意思的一些讨论当然还有更遥远的一些布局包括在演讲中华人勋提到的太空数据中心那这个技术的实现方式和挑战我们之前做过一期内容聊到过那在这期视频的最后呢我还想稍微的聊聊整个芯片和数据中心供应链目前的一些情况如果大家还记得我们之前说到的五层蛋糕啊可以看到能源和数据中心供应链这个基础层决定了芯片的产能也决定了整个AI模型和应用能否得到足够的算力支撑也决定了AI的进程我们在GTC期间跟供应链的朋友们聊天啊得到的消息是缺什么都缺我们事实上是了解就是所有的component到memory端所有的这个硬件的还有什么CXCX7啊等等因为subcomponent
[24:59] The situation is now that every component is lit up the light The light is starting to start a big increase and a big increase From the last year, the T-Cent, 365 days ago DDR4, the D-RAM Now it's over-cash space It's kinda crazy Now CX-7 is still in the same way Power supply is still in the same way It's starting to lose the CPU There are many memory problems, and the supply chain is starting to lose. I saw Open Cloud, Agent, and Coding, and the Coding. There are three different things that have been done. And all the supply chain is not going to do this. Alex Long said that the global global economy, especially in the Middle East, the global economy is changing. This is the global global economy for the global AI-suitry system. But the amount of energy is about to be 10% of token prices And the token price is still low, especially the price of the supply chain I think the biggest impact is the system, the server system of memory which will make token prices increase We were also watching the market market for the competition They think the situation is at least for 27 years This is what we've never seen before. There are also many years ago but at that time there are more than the mobile and computer channels or the internet channels But today the whole thing is AI And then out And then, this super cycle, many buyers are cloud, they are data centers, they are more low cost, they are more willing to pay money. So actually, the entire memory of the short period, or the demand, we think in the next two years, we will be more than happy. And about the storage market, we will also get a video of the video, and we will talk about the situation, and challenge. Don't forget to do this. Well, that's our event. I feel that the future of the GTS will be changed. There's a challenge. And GTC still will be the AIA industry. We will also pay attention to this. We've mentioned these things. We've talked about the GTS. We've got a lot of AI. Well, that's what we've done with this video. You can like, comment, comment and share. and also support our 101-day business and business and business. I'm陈建, we'll see you next time. Bye!