英伟达发布Blackwell芯片并激进投资构建零亿美元市场生态

英伟达发布Blackwell芯片并布局生态 英伟达正通过升级Omniverse与NIM软件生态打破纯硬件公司定位，试图以高昂的软件壁垒和整体拥有成本优势应对客户自研芯片与对手追赶的绝对压力。 2024年英伟达GTC大会时隔五年重回线下，黄仁勋在主题演讲中重磅发布了全新Blackwell架构GPU（包括B100、B200及GB200），通过大幅提升算力并降低能耗来延续“皇氏定律”，使水冷技术成为行业刚需。面对资本市场对硬件更新的提前消化，英伟达正加速布局软件生态，推出NVIDIA NIM和AI Foundry以深化工业数字孪生与机器人领域的融合。与此同时，英伟达在一级市场通过激进投资广拓“零亿美元市场”以巩固其绝对的话语权，大会更促成了奠定生成式AI基石的Transformer论文八位作者（除一人缺席）的历史性重聚圆桌，共同探讨AI架构的未来演进。 英伟达在2024财年第四季度营收同比增至3.5倍，利润达9倍，股价在16个月内飙升6倍跻身全球市值第三，但正面临对手追赶与科技大客户自研芯片的竞争压力。 (0:00) 重磅发布下一代Blackwell架构GPU（包括B100、B200与GB200），训练1.8万亿参数模型时所需GPU数量较前代锐减75%、功耗降至4兆瓦，而单颗千瓦级功耗也让水冷技术成为数据中心刚需。 (4:59) 硬件预期被供应链提前消化，英伟达加速向系统与软件生态转型，推出NVIDIA NIM微服务与AI Foundry生态，全力抢占高价值的企业级生成式AI部署市场。 (9:59) Omniverse升级为工业数字孪生与机器人训练的虚拟底座，并发布GR00T通用人形机器人基础模型；英伟达同时激进投资超35家初创公司，提前押注“零亿美元市场”。 (14:59) 奠定生成式AI基石的Transformer论文核心作者在黄仁勋主持下齐聚现场，共同探讨AI架构创新、数据质量挑战以及按需分配算力的“自适应计算”未来演进。 (26:00)

《硅谷101》指出，在2024年GTC大会上，英伟达在营收与市值攀上巅峰的时刻，正通过发布下一代Blackwell架构与拓展全栈软件生态，试图从单一AI芯片霸主重塑为涵盖数字孪生、机器人与全产业链投资的基础设施帝国。 Blackwell架构跃迁与功耗散热挑战 (4:59) 黄仁勋在Keynote演讲中发布了新一代Blackwell GPU架构，涵盖B100、B200及GB200超级芯片，继续践行AI性能逐年翻倍的“皇氏定律”。以训练1.8万亿参数模型为例，前代Hopper架构需8000颗GPU耗时90天并消耗15兆瓦电力，而Blackwell架构在相同周期内仅需2000颗GPU与4兆瓦电力。此外，英伟达宣布与台积电及新思科技（Synopsys）合作，引入计算光刻平台以缓解先进芯片制造的产能瓶颈。 然而，极端算力伴随着能耗的剧烈攀升。单颗芯片热设计功耗从H100的约700瓦提升至B200的1000瓦，业内人士指出，水冷技术（Liquid Cooling）已从以往的“可选技术”彻底转变为保障算力密度与降低数据中心能耗的“行业刚需”。 全栈软件服务与Omniverse机器人版图 (9:59) 面对大客户自研芯片与竞品追赶，英伟达力求突破单纯的硬件定位，发力其所称“100万亿美元的新工业革命市场”。英伟达推出了用于规模化部署大模型的NVIDIA NIM推理微服务，并升级了涵盖基础模型、NeMo框架与DGX云算力的“AI代工厂”（AI Foundry）体系，帮助电信、金融等行业定制垂直模型。 在物理模拟方面，英伟达推出Omniverse Cloud API，并发布了GR00T人形机器人通用基础大模型与Jetson Thor计算机。分析师认为，华尔街对英伟达芯片认知充分，但对软件战略仍在逐步理解；Omniverse已从最初的3D协作工具演化为宝马、西门子等工业数字化操作系统以及机器人的虚拟训练场，展现出生成式AI与物理仿真深层融合的趋势。 布局“零亿美元市场”与资本生态绑定 (19:59) 黄仁勋曾公开表示，凭借系统与软件带来的综合拥有成本（TCO）优势，即便竞争对手免费赠送芯片，英伟达方案依然更具经济效益。为了持续构筑生态护城河，英伟达在一级市场展开激进布局。截至2024年1月底，英伟达持有的其他公司股权价值达15.5亿美元，同比增长超5倍；仅2023年就投资了35家以上初创企业，包括基础模型公司Cohere与算力服务商CoreWeave。 风投人士透露，黄仁勋在投资时直接以扩大芯片系统销售为核心驱动，提前卡位当前市场规模有限但未来具备爆发潜力的“零亿美元市场”（Zero Billion Dollar Markets）。在算力紧缺背景下，能否协助获取英伟达GPU配额，甚至演变为顶级VC争夺明星AI项目的关键筹码。 Transformer作者重聚与底层架构反思 (26:00) 本次大会促成了2017年奠基性论文《Attention is all you need》核心团队的历史性线下重聚。除Niki Parmar缺席外，Noam Shazeer（Character.ai）、Aiden Gomez（Cohere）及Lukasz Kaiser（OpenAI）等7位已全部离开谷歌投身创业一线的原作者悉数到场，与黄仁勋探讨大模型底层演化。 七位研究者对当前技术同质化表达了审慎态度，指出目前的AI模型与最初的Transformer依然过于相似，世界亟需超越Transformer的新型架构。作者们一致认为，未来算力发展重心应转向“自适应计算”（Adaptive Computation），即依据任务复杂度动态分配算力，避免在简单问题上浪费万亿级参数资源，同时亟需提升模型的自主推理、决策逻辑与高质量私有数据训练能力。 《硅谷101》观察指出，GTC大会反映出英伟达从硬件向生态转型的野心，但供应链渠道调研已使二级市场提前消化了硬件利好，华尔街将其从“硬件芯片商”重新评估为“全栈系统生态公司”仍需时间检验。

[4:59] 黄仁勋: 皇氏定律 [9:59] 黄仁勋: 价值100万亿美元的新工业革命市场 [4:59] 业内人士: 有了更好 [4:59] 业内人士: 必须要做 [9:59] 分析人士: 预期之内的好 [19:59] 黄仁勋: 即便竞争对手的芯片免费送，也不如英伟达的划算 [19:59] 黄仁勋: 我需要做什么才能建立生态系统，以便我可以销售更多的芯片和系统？ [19:59] 黄仁勋: 零亿美元市场 [19:59] 拉里·埃里森: 乞求 [26:00] 黄仁勋: 黄金十年 [26:00] 黄仁勋: 唯一一个还在做苦力写代码的工程师 [26:00] Transformer八子: 自适应计算

[0:00] Hello 大家好 我是硅谷101的联合唱诗人陈倩那么在接下来的三天啊让我带着大家云餐会来到位于美国硅谷举行的2024年英伟达的GTC大会Welcome to GTC英伟达2024财年第四季度营收是前一年同期水平的三条股倍利润是前一年同期水平的九倍股价在16个月内上涨了六倍AI浪潮给予英伟达的荣耀让这家公司坐上了全球市值第三的位置被吸引了上万人来到英伟达在美国时间3月18号到21号举办的2024年度GTC大会现场包括作为受邀媒体参会的我们硅谷101那么我在参会前就非常的好奇已经成为AI芯片霸主的英伟达在接下来面对AMD、Intel、ROCK等等众多竞争对手的追击以及英伟达的大客户们包括了谷歌、Meta、亚马逊等等科技巨头也都在自言芯片的压力之下他如何向市场传达出英伟达能够继续的守住霸主地位并且这个市场在未来还有巨大增长的前列的信号来继续的激励华尔街和硅谷呢那么这个视频啊我们经过四天的餐会逛展会评论坛还有跟分析师采访啊带大家云餐会2024年英伟达GTC也顺便聊聊作为AI芯片市场绝对霸主的英伟达想要传达出来的野心和布局那我身后呢就是位于加州圣河赛市的Convention Center那么这里啊距离英伟达在Santa Clara市的总部呢大约20分钟的一个车程啊那今天呢是我们第一天的会议行程那么从一大早我身后的这个会程啊大家可以看到就人山人海那因为今年的英伟达GTC是时隔五年之后首次在线下举行又是如今深层式人工智能发展的如火如荼之际大家对GPUE砍难求的一个状态所以市场上对于今年英美达GTC的年度大会是非常关注的在今年英美达GTC大会中有四大板块和一成是我们非常关注的分别是第一英美达创始人和CEO黄仁勋在第一天的重磅演讲Keno当中将传达出来的信号第二呢在第三天的议程中黄仁勋会主持一场客座panel邀请了当今生成是AI浪潮的电机石论文Transformer架构的Attention is all you need论文的八位作者到场那么这八位作者当年呢都是在谷歌但是后来都纷纷的出来自己创业所以呢这会是第一次他们把个人再聚集在一起讨论AI的未来非常历史性的一刻啊那么第三呢是前来参展的各家英伟达合作的公司因为这显示出英伟达的业务前景以及的软硬件落地的实现效果我们都能有一个很直观的感受那么第四呢就是分别在这四天当中英伟达请来的演讲和论坛的嘉宾从各个科技巨头和AI独角兽的科技领袖分享中大家对AI行业传递出来的信号那接下来我们就结合以上四点来聊聊我们对这次GTC的观察首先呢我们先带大家回顾一下黄仁勋演讲的现场那我现在想起来依然觉得整个的参会体验都非常的让人难忘那因为今年来参会的人数非常的多所以呢黄仁勋他演讲的地方不在这个主会场而在距离这里大约要走路20分钟开车5分钟的另外一个会场叫SAP Center那么这期间呢会有免费的巴士来接送但是今天阳光怎么好我们还是走过去吧那么这周硅谷的天气放晴了气温也很舒适这对于前来餐会的人们来说非常的幸运因为前几周硅谷这边都在持续的不断下雨那么经过20分钟的路程我们到达了黄仁勋一会儿将发布演讲的场地SAP Center那么在SAP Center的外面呢很多人提前三个小时就开始排队了在大楼外面呢还不乏有举着抗议牌子的人群来抗议AI对创意和版权的不尊重华人勋的整场演讲从下午一点到三点持续两个小时其中涵盖了英伟达的硬件还有软件的各类产品更新那么现场的PPT和视频效果呢也都是非常的震撼老黄呢 [4:59] 非常的善于演讲没有请任何的嘉宾就一个人在台上讲了两个小时很会控场也很幽默台下的效果和观众的反应也都很热烈特别是最后讲到英伟达机器人业务的那一块老黄把迪士尼正在研发的窝艺小机器人请到了台上互动开了些小玩笑简直是太可爱了效果也非常的好那整体来说呢除了有几个段子没想之外气氛都拉到了顶点很多人看了Keynote出来之后都直呼兴奋Keynote是有很多人很羡慕很兴奋的活动谢谢你这个活动我学到AI的很多对,这个活动已经很棒我们学到NVIDIA的新产品新的新的新的新品牌非常棒我学了很多新的东西如果我没有参加了我会失去很多东西我从议会上的这些想法我们会看到这些事现在黄仁勋的Keyno演讲已经结束我做媒体的Shadowbus是回到了主会场这边来稍微的跟大家总结一下今天这场外界非常关注的GTC演讲的一些重点那么首先就是非常重磅的GPU架构更新了那黄仁勋是把很大一部分的重点放在了名为Blackwell的下一代GPU架构因为如今AI训练需要更大的算力那么就需要研发出更大的AI芯片来支持训练那黄仁勋也是用一个非常生动的动画来解释了Blackwell的架构是如何运作的那我们可以来直接看看动画因为时间远映因为它发布的Blackwell数据中心动画我们加快了两倍速我们很快会上线一个和业内人士一起逐针讲解这个动画的视频详细讲讲每一步因为答案在Blackwell系列芯片硬件更新上做了哪些设计优化以及接下来对AI芯片产业将带来如何的影响记得关注我们硅谷101的账号不要错过更新哦总的来说新的架构下Blackwell系列包括三个型号分别是B100、B200还有Grace Blackwell Superchip也就是GB200将会是下一代更强大的芯片性能更新也继续实现着黄仁勋之前制定的皇室定律皇子老也就是GPU将推动AI性能实现逐年翻倍如果我们训练一个GPT模特别1.8 trillion parameter模特别它会花了3-5月左右25,000 Amperes如果我们做we were to do it with Hopper, it would probably take something like 8,000 GPUs, and it would consume 15 megawatts. 8,000 GPUs and 15 megawatts. It would take 90 days, about three months. If you were to use Blackwell to do this, it would only take 2,000 GPUs. 2,000 GPUs, same 90 days, but this is the amazing part. Only 4 megawatts of power. So, there are a few important points. The new generation of B100, B200 and GB200 are the work of the work of the 7000W to 1200W. So, the new generation of the new generation of AI-based data and the new generation of Blackwell's most important, the future of the year-time, the future of the year-time, the future of the SuperMacro and SuperMacro and the new generation of the new generation. The B200 is more than a big, and the power of the power of the RAC. The RAC is now more than a big, and the RAC is more than a big, and more. Basically, we all say TDP, thermal design power. [9:59] 以GPU来讲是越来越高像for example现在的H100大概一颗大概700瓦那B200已经到一颗到1000瓦所以随忍这件事情已经不是nice to have是must对我们必须要做这件事情那因为算力需求越来越高你用chap GPT那就算力需求越来越高但是它又是一个比较high power consumption 的东西所以你必须要有一个很有效率的SERMO的解决方法去把算力免天住或者甚至提高但是你去low down去降低所有环境或者是说空调设备的使用电量那大概就是水冷那么除了性能更加强大的新的Blackwell架构和新的GPU芯片B200之外芯片的产能问题也是一直困扰着英伟达的一个方面英伟现在虽然已经发布了B200但是市面上能够配置到H200的公司都不多而这次大会上英伟达也试图直面这个问题包括台积电TSMC还有Synopsys公司将和英伟达合作将在生产当中使用英伟达的计算光刻平台希望在加速芯片制造速度的同时也去加快对未来新一代的NVIDIA BlackBell架构的GPU的支持而整体来说黄仁勋的Kindle期间在硬件上的发布效果还是非常好的但是从GTC这几天的股价震荡就可以看出来黄仁勋并不觉得惊喜因为之前在2月份公布英伟达财报的时候利好都已经出境了市场已经知道因为大家会出新的芯片那么这些硬件的更新已经都被市场给提前消化了price in了先发布的硬件的产品来看的话其实我觉得没有什么特别大的意外因为其实之前supply chain的这些channel check大家做的确实也都比较细致比较到位了对我觉得硬件如果让我来总结我的感受的话我觉得预期之内的好我觉得这个可能是一个比较我觉得比较客观的一个评价你们会觉得说这个新的硬件的发布会对整个丁伟达在AI芯片中的现在这样的一个地位造成任何的影响吗会进一步的去巩固它的这样的一个status quo还是会说它其实跟其他的MI300其他的一些新人对手其实拉得更远我觉得其实现在这是一个这种大家交替领先然后同时在进步的整个状态可能放在几个月之前然后MI300刚刚出来的时候大家会觉得MI300在硬件层面上其实是已经成长超越了H100然后当时大家对AMD的预期就拔得很高MI300可以很快的take market share然后但是我觉得这种角度去看可能是过于静态了因为没有一家公司它真的就是standing still然后没有再进步包括包括Boco St Jensen, NVIDIA他们对于MF300的进步他们完全是看在眼里有预期然后他们自己在B100里面也是incorporate了很多比如像Memory Coherency然后比如说更大的HBM这些都incorporate在B100里面其实是一个大家持续进步然后供奉进步标题领先的状态所以我觉得整体来看我觉得硬件上NVIDIA确实还是走得很稳还是在全速的往前推的这么一个状态然后它跟其他进行其他进行跟它的差距是直去的直去性的一个差距没有在缩短的这么一个状态所以呢在这次GTC上硬件的发布更新固然重要但是我们能够强烈的感觉到华人薰想要强调的是因为他不仅仅是一家GPU公司因为他想要通过软件升级的不仅仅是已经成功变成英伟达劳固护城河的CUDA还有更远的布局华人薰在他的Keynote中强调的也很清楚他眼中的新一代市值100万亿美元的新工业革命市场英伟达是这样布局的那么除了Blackwell硬件算力平台之外华人薰还着重的推出LIMS帮助企业及客户接入AINVIDIA NIM是经过优化的推理微服务用于大规模部署AI模型为开发AI驱动的企业应用程序和在生产中部署AI模型提供了比较便捷和简化的路径也就是说企业想要部署AI英伟达在生态上已经给你提供了各种API还有基础大模型让企业能够更快的上手此外的生态重点还有英伟达的AI Foundry和NEMO [14:59] 今年英伟达发布的AI Foundry具备三个要素英伟达的AI基础模型NVIDIA NEMO框架和工具用于构建自定义和部署生成式AI的模型以及NVIDIA DGX云AI超级计算服务这样一来AI Foundry就可以用于为企业软件电信 媒体等等各个行业的生成式AI应用定制模型而在今年英伟达进一步在这样的AI Foundry生态上继续的更新各种基础模型和生态服务而下一个重点就是英伟达的Omniverse也就是物理模拟反馈的平台通过模拟与物理世界中的各种互动的过程来训练AI我们在之前讲机器人那一集的时候就着重提过AI机器人在模拟环境中的训练非常的重要而现在看来不仅仅是AI机器人还有无人驾驶气候模拟这个药物发现计算生物血压乃至这个Vision Pro所构建的XR的生态那么英伟达的Omniverse都已经在布局了这次GTC上英伟达宣布了Omniverse Cloud API接口让开发者能够轻松的将Omniverse的核心技术直接集成到现有的数字孪生设计与自动化软件应用中或是集成到用于测试和验证机器人或者自动驾驶汽车等等自主机器的仿真工作流当中同时在Keynote当中华人讯进一步的强调Izixim这个基于Omniverse平台之上的机器人培训与模拟系统这相当于给机器人构建了一个全新的操作系统同时因为大家还宣布了一个名为Groot的机器人通用基础大模型和新型计算机Jetson Thor来加速机器人训练而且呢黄仁勋的一对儿女啊都在Omniverse部门就职女儿Madison Huang呢是Omniverse部门的高级产品营销经理儿子Spencer Huang啊是Omniverse旗下机器人仿真和扩展组的产品经理可见老黄对这个Omniverse制成业务的一个重视程度啊而从英伟达邀请的这四天的分享嘉宾中我们也能够从现场就感受到公司在软件生态上的布局和发力那么除了硬件之外在各个panel还有分享会上我们也很直观的感受到英伟达的软件生态的升级给各个行业带来的助力那么这就包括了大一元模型赋能自动驾驶技术上英伟达的数字孪生Digital Twin的模拟技术能够让自动驾驶呢继续在模拟器中得以更好更快更有效率的去进行训练另外呢在自身技能专家李飞飞和波士顿动力机器人的分享环节当中啊嘉宾也都强调了深度机器学习给机器人技术带来了巨大潜力包括呢在模拟环境当中的训练以及呢在周一啊黄仁勋呢也宣布了一个通用人形机器人基础模型的新平台来和波士顿动力等等机器人公司进行合作来加速机器人的发展所以呢我们可以感觉到英伟达在今年的GTC上啊强调的不仅仅是硬件上GPU的升级还有在软件上的未来布局那虽然我身边一些做软件还有做研究的科学家还有博士朋友们对Omniverse还有Digital Twin数字轮身的升级呢有很大的期待也很兴奋啊但是呢无论是从昨天黄仁勋的演讲现场还是今天的分享会上我们的一个感受和观察是呢软件上的升级似乎并没有给外界带来非常大的兴奋值包括呢在昨天的keynote演讲当中特别是在软件的环节黄仁勋呢好几个讲的笑话和玩的梗现场的观众都没有get到好几度呢是比较龙场比较尴尬哈那么在市场反应上我们看到周二美股盘中的英伟达的股价也是比较的震荡那么对此我们也采访了两位追踪芯片产业的美股分析师来看看华尔街是如何解读这次英伟达GTC传递出来的信息的有几个朋友他们是读PhD然后本来就是技术背景出来的他们会觉得说特别是软件方向包括数字软身包括simulation方面他们会觉得说英伟达在软件方面向提供了这么多的access跟support和支持会让他们的整个的research他们的调研他们的工作会加快非常多所以他们感觉非常的兴奋但是感觉就是讲硬件的那一块当然很然大家就是能够很快的get到它硬件提升多少倍对吧但是好像讲了软件的那一块我感觉到现场好像它会者不是那么容易的能get到英伟达他想要去做什么事情他想到一个什么样的市场我觉得说老黄他表达出的东西跟现场观众接受到的信息感觉中间还是有一个gap在那里我特别同意你这观察我觉得因为大家对于他的芯片这一块其实认知已经非常充分了然后软件这部分我觉得可能不光是听 [19:59] 或者说投资人有时候我甚至有一个感觉就是因为他自己对于他们的软件这一块到底是什么样一个战略或者什么样一个策略也还是没有一个特别清晰或者说完全成型的一个状态都是在走一步看一步然后逐渐慢慢摸索的状态然后你刚才吸到一点就是说就觉得中间好像还隔着点什么就是我确实也是一直是对于他们软件这一块是这么一种感受吧然后包括这次大家都听到他提很多关于数字版商接收TWINS然后关于Omniverse的这些东西结果这前两年他第一次把Omniverse这个东西拿出来讲的时候大家都非常confused就是不知道就是你到底想把这个东西来干嘛用怎么去卖然后一开始的时候大家甚至也感觉这就是一个对于这些3D designer或者说graphic designer的一个collaboration的这么一个平台但是随着现在慢慢的发展它慢慢的变成了一个Digital Twin的一个operating system同时这些Digital Twin在工业里面一开始的一个应用今天现在比较类似的我觉得它最早提到是在宝宝工厂里面的一个应用就是帮助这些它在工厂建设的过程中他提前去做好这些layout设计然后做好workflow的这些安排然后这样的话可以提升他整体的一个运行的一个效率因为这次他提到的包括Boshrong的例子然后包括西门子的例子都是类似的一个概念我觉得非常没努力然后这个我觉得一定手上其实就是在这些工业制造领域里面的一个metaverse的一个应用然后同时另外他提到这个Amiverse的一个应用就是Robot的一个training ground然后我觉得这个也是其实也是他们一直在做的一个事情其实之前也是有这种断断续续的有提到过但之前整个software的这个大的一个板符给我的感觉就是他们这有一点东西那有一点东西但是一直缺一个特别好的特别 cohesive的一个战略能够把所有的拼图拼在一起然后这一次听完我其实真的有这种感觉了就是有一种AI和Omniverseconverge就是有这么一种感觉就是我现在能慢慢的能够看到他们软件这一块更清晰的一个版图一个战略往后走是什么样子所以我能理解就是为什么你刚才提到就是很多这种比较关注软件的朋友他们会觉得非常非常 exciting比如说Bruce你觉得对于就是华尔街来说你慢慢的看到他软件上面的一些业务慢慢的信息化了以及AI跟软件的一个结合这会对他的估值来说会有更高的一个提升吗我觉得其实是这样子就是我们管理叫re-rating的这么一个过程那我觉得现在大部分你从他现在估值水平我觉得大家还是这种市场其实还是把它当成一个芯片公司我觉得这个是落后于NVD自己的想法的NVIDIA自己慢慢慢慢把自己position成一个系统公司我不但是有这种硬件我有软件我有能帮助你打造整个我就给你提供一个大的生态那譬如说我们之前还在讲说起来相关又不那么相关的就是说以后无人驾驶这一块Tesla大家都知道了可是我不知道有多少人真的会想到说其实NVIDIA在这里面以后也会成为一个特别重要的一环甚至会像前两天我和林总还在讨论这个以后是不是有可能是除了Tesla之外的这些OEM都要给英伟达去打工了当市场逐渐意识到我觉得这是需要时间的这是当然像杰森这样这么一个visionary的一个CEO在接下来的几年只要是爱这个赛道不冷只要能一直这么发展下去他会逐渐逐渐的把这些东西灌输给市场然后逐渐的被大家接受华尔街总是难以讨好的硬件升级华尔街并不惊喜因为之前财报报的时候都已经pressing了而软件布局华尔街也没有看到即刻的营收价值目前也没有买账但是这并不影响华人薰的长期主义和未来布局毕竟加速计算它布局了20年而库大软件也是布局了10年多无论华尔街是否在现在买账华人讯管理下的英伟达正在动用一切的努力去加固自己的护城河也毫不掩饰地展示出未来朝着更多领域提供服务的野心我印象中很深的一个最近华人讯在斯坦福的演讲中他说他的目标是就算机认对手的芯片免费送也不如英伟达的划算非常大的口气了我们的时间到电子的效果我们使用使用使用我们是透过的程序在整个的程序使用我们所名的我们叫做TCO的价值我们所使用的TCO我们是这么好的我们时侯的手工使用不够便宜那是我们的 [24:59] 所以更高的护城和更大的生态系统是华人勋追求的这就让我想起了最近读到的一篇华尔街日报里面写到的细节说风险投资公司Thumbust Ventures的董事总经理Dumash Pavel说他和黄仁勋一起去投资布局一些初创公司的时候黄仁勋毫不掩饰并且一进来就比较aggressively比较激进的直接问我需要做什么才能够建立生态系统以便我可以销售更多的芯片和系统所以我们看到目前的英伟达参与了很多的初创公司的投资除了我们上面说到了这家Dumbust和英伟达一起投资的基础模型AI公司Cohere之外英伟达还投资了云计算公司Corewave华尔街日报的报道就说在上一财年当中英伟达所持其他公司的股份价值增长了五倍多截至2024年1月底达到了15.5亿美元而英伟达在2023年总共投资了超过35家初商公司这个投资量级是上一年的三倍之多所以呢在这些人工智能机器人自动化还有医疗保健公司等等赛道黄仁勋也都在布局也许这些赛道还没有爆发也许呢还需要很长的时间但就像黄仁勋20年前就开始布局加速计算十多年前就开始布局枯打一样那么这些产业呢被老黄称为Zero Billion Dollar Markets就是说呢目前市场有限但是在未来可能会爆发的市场那么华人勋一如既往的在提前布局他遥远的野心而华人勋目前是有资本进行布局的股价一路上涨手握大量的现金不说另外还有一个原因就是我在跟硅谷一个VC聊天的时候对方也跟我说现在VC去抢好的项目明星AI公司看的不是你给的估值有多好而是看你有没有去买GPU的渠道而这个渠道的权利有谁抢得过英伟达本身呢所以英伟达如今抢占各个明星AI项目的席位也是非常的顺利成章这样的市场绝对霸主地位带来的权利让英伟达有着很大的话语权华尔街日报同样的一篇文章中写道加固文创始人间董事长Larry Edison在去年9月的一次公司会议上讲述了他和马斯克与华人勋在硅谷Pala Alto的No Wu日本餐厅吃晚餐那Larry Edison就回忆说描述这顿饭最贴切的方式是一个小时的寿司和乞讨原文真的就是用的bagging这个词啊所以呢我用了绝对霸主的权利和遥远的野心作为视频的主题我觉得还挺能概括目前英伟达的一个状态的但是并不是说英伟达就没有挑战了英伟达可能面对的最大威胁正是自己如果宣传式AI像自动驾驶一样发展到瓶颈期或者最终证明Transformer这个架构并不是将人类带向H.I那么英伟达将面临非常大的危机那可能这也是为什么华人轩在本次的GTC大会上将Transformer论文作者聚集在一起的原因之一我们再回到现场看看这场外界非常关注的聚会最后我们再来说一下本次GTC大会上的一个大热门环节也就是今天中午的一个分享会由黄仁勋他亲自主持邀请了Transformer这篇论文的几位作者到场那我稍微跟不太熟悉技术的观众解释一下这个背景那么在2017年的时候呢八位谷歌的研究员呢是发表了一篇论文叫做Attention is all you need那么这篇论文呢是提出了一种新的简单的网络架构那么这就是Transformer架构了它完全是基于Attention注意力机制完全的摒弃了之前的比如说RNN和CNN的机制而正是因为这篇论文刚成立的OpenAI也开始用Transformer的架构开始去训练GPT的路线开始走这个堆算力和堆参数的AI训练方法之后才造就了我们今天所看到的生成式AI革命所以这八位研究员可以称之为如今生成式AI的大工程而他们在意识到Transformer架构的潜力之后也是相继的离开了谷歌然后开始投身于不同的初创公司和项目当中这里面其实有两个很有意思的点那么第一是Transformer架构其实是谷歌最先推出来的对吧但是这几位研究员老一味都没有留住他们在分享中也说因为方法有了接下来最重要的就是快速的出应用去接触用户完善产品寻求市场反馈 [29:59] 然后呢再快速的推进但是显然谷歌陷入的所谓的大公司创新陷阱里面很难在公司内部来快速的去推进所以呢大家只能纷纷的叛逃出来自己开始做出创公司所以呢目前这八位这个研究员如今呢也都是在做AI创业也全都是从谷歌叛逃出来了那么第二个点是啊他们也如今看到了AI浪潮所带来的机会而他们本身的这个光环就足够能够吸引到融资和人才人脉加入他们那么在硅谷啊人们都想创业都想自己推出产品主导创新而就像黄仁勋说的接下来十年将是黄金十年的机会所以呢也难怪八位研究员都出来自己单干了那么很有意思的是啊他们之前从来都没有一起聚在过一个房间里面那么之前呢大家都是线上合作办公而这一次除了一位女性研究员妮奇·波莫因为家里面有局势没有来之外呢其他7位研究员都是来到了现场可以说是非常的有历史纪念意义的一个时间了那么整个会场其实从很早就开始排队差不多接近2000人的会场也都坐满了黄仁勋也提前来到现场和大家打招呼合影之后介绍每位研究员上场他们分别是AI角色扮演对话公司Character AI的联合创始人兼首席执行官Noam Shazir我们上面提到的基础模型AI创业公司Cohere的联合创始人兼首席执行官Aiden GomezAshish Vaswani和缺席的Niki Palmer两个人联合创立了Essential AI这家基于弹幕型的全战型智能产品开发商Essential AI开发了一项名为企业大脑的技术可以利用AI执行企业职能比如说数据分析并且自动执行单调的任务此外,Lean Jones在日本东京创建了Sakana AI这是一家AI技术研发商专注于为基础模型创建新架构Elia Poloskin联合创立了使用区块链为AI赋能的Near Protocol公司此外Jacob Wuskeren是Inceptive的联合创始人兼首席执行官这家公司将人工智能用于MRNA疫苗开发同时因为达也投资了他们最后是Lucas Kaiser加入了OpenAI而黄仁勋介绍他上台的时候也开玩笑说这是八位作者中唯一一位还在做工程师的技术人员而在座谈会上大家分享了自己从事的公司方向以及对技术的理解那么台上的七位研究 and the technology staff. In the meeting, everyone shared their own business and understanding their technology. The seven researchers on the table think that the design needs to be improved. Whether it's in the technology or in the推理, we need to see the development of the technology and even need to have a better frame of the transformer and the design. I still think it kind of disturbs me how similar to the original form we are. I think the world needs something better than the transformer. I think all of us here hope it gets succeeded by something that will carry us to a new plateau of performance. And if there is a better transformer than the transformer, is it still a little less than the transformer? That is actually a question, and is the biggest danger in the UK. But regardless of how, the calculation is accurate. 七位作者也一致的认为,接下来自适因性计算,adaptive computation,也就是如何在特定的问题上分配适合的计算量,也是接下来的着力点之一。那么换句话说如果我们把2加2等于4这个问题输入现有的模型当中那么计算机它需要使用1万亿参数去解答这个问题而这个问题的价值呢就不如问2加2为什么等于4对吧所以呢之后我们如何去集中算力解决更有价值的问题更加合理的分配算力也是接下来需要推动的一个大方向同时呢七位作者也认为啊AI下一个更重要的方向是训练AI的推理还有自主决策能力因为AI的推理能力越强它所需要的数据训练量也就越少那届时啊用于训练的数据质量就会更加的重要人机交互就会更加的深度而接下来如何去训练更高质量的数据私人的数据那这将是接下来的发展重点和挑战而随着AI技术迅速的往前跟谍那么创业者以及创业赛导都面临着巨大的不确定性所以呢今年2024年GDC给我的唯一确定性就是AI还是会继续的发展和变化那么最后啊我来问大家一个问题那么大家知道英伟达GTC的全称是什么吗背后的这个GTC全称是什么意思好我来公布答案GTC大会的全称是GPU Technology Conference那么第一届是2009年此前都是非常GPU非常硬件的会议但是之后随着英伟达公布Cuda公布软件的布局如今GTC已经 [34:59] 只是GPU了而是更大的生态以及会将影响人类未来的各种可能性好了非常开心能够带大家连续三天的云仓位看展那么希望明年还有机会参加英伟达GTC相信在明年的这个时候我们会有非常多技术上的进展了我们也非常的期待欢迎大家持续关注我们硅谷101我们也会在硅谷为大家带来新的千言技术的动态我是陈倩那我们就下个视频再见了谢谢大家