英伟达刘洺堉下注物理AI 打造Cosmos开源世界模型

英伟达刘洺堉押注物理AI 打造Cosmos开源世界模型 大模型基础能力终将同质化收敛，英伟达通过开源Cosmos世界基座模型构建软硬件生态，以从零开拓全新市场而非在存量中竞争。 英伟达研究副总裁刘洺堉在四小时的深度访谈中，回顾了他从求学、MERL 实验室到加入英伟达十年的职业生涯，并详细拆解了从 GauGAN 到 Cosmos 1、2、3 世界基座模型的演进历程。他分享了英伟达在物理 AI（Physical AI）与具身智能领域的长远布局、开源战略以及高层算力分配的思考。同时，他还透露了与 CEO 黄仁勋共事的细节、英伟达不裁员的组织哲学，以及将中国武术“控制”与《孙子兵法》融入科研管理与生态构建的东方智慧。 黄仁勋提出“Zero-Billion-Dollar Business”理念，强调英伟达应当开拓全新的物理 AI 市场并解决核心难题，而非在年营收一亿美元左右的存量小市场中内卷。 (0:00) 英伟达自研并开源 Cosmos 世界基座模型，旨在走在客户前头提前暴露软硬件瓶颈，同时通过开源底层技术赋能全球开发者和机器人初创生态。 (20:00) 受路易威登精简展柜启发的“LV 货架”理念影响，Cosmos 从早期分散的 22 个专用模型精简重构，在 Cosmos 3 中将语言、视频、音频与动作（Action）融合为多模态统一基座。 (110:00) 刘洺堉经历了从传统 CV、GAN 到 Diffusion 的技术演变，深刻体会到“The Bitter Lesson”，认为科研的精髓是用最简单且具扩展性（Scalable）的架构来刻画物理世界。 (55:00) 刘洺堉 18 岁起师从徐纪练习中国功夫，每天清晨练拳与冰水浴的习惯塑造了其“控制自我而非展现破坏力”的哲学，并深远影响了他对英伟达非竞争性、造市场生态观的理解。 (92:20)

英伟达研究副总裁刘洺堉在访谈中阐明，英伟达研发并开源世界基座模型 Cosmos，旨在通过亲历最前沿模型训练提前发现底层软硬件瓶颈，同时通过开辟物理 AI（Physical AI）这一“零到十亿美元”的新兴生态，避免技术滑向同质化的存量红海竞争。 从专用模型转向 Cosmos 3 统一多模态 (110:00) 在生成式技术的演进中，刘洺堉团队早期深耕 GAN 架构，但受限于训练的可扩展性（Scalability），于 2021 年前后全面转向扩散模型。在立项世界模型初期，团队原本针对预测、域迁移、物理推理等场景设计了多达 22 个子模型，但受路易威登精简橱窗反而提升业绩的启发，意识到选择过多会造成用户认知混淆并极大分散团队工程精力，进而确定了走向统一多模态基座模型的路线。 Cosmos 3 将动作（Action）确立为与语言、视频、音频并列的“一等公民”，通过多模态数据的互相约束提升物理生成的收敛速度。为了兼顾工业界客户落地需求，模型采用处理离散理解与连续生成的双塔架构（Two-Tower），确保客户在后续微调连续生成数据时，不会破坏模型已具备的语义理解与推理能力。 硬件巨头自研模型的生态与商业逻辑 (20:00) 针对芯片厂商自研大模型的疑问，刘洺堉解释，英伟达必须走过客户走过的路，才能先于客户数年发现 GPU 显存、通信与 CUDA 软件栈的性能瓶颈，从而反哺硬件架构演进。这种技术前瞻性使英伟达能够持续优化加速计算平台，而不仅是单纯出售通用硬件。 在商业模式上，英伟达践行黄仁勋“做从零到十亿美元业务”的哲学，避免投入资源争夺 1 亿美元体量的现有存量市场。通过部署万卡级别集群训练 Cosmos 并开源权重、训练框架与合成数据，英伟达旨在降低全球初创企业与学术界的研发门槛，在具身智能领域培育全新计算需求，通过做大生态实现共赢。 物理 AI 的泛化瓶颈与爆发节点 (135:00) 刘洺堉指出，模型自身能力随着行业技术扩散终将走向同质化收敛，未来企业真正的壁垒在于模型与业务生态的深度结合。与专注于文字处理的 Agent 不同，物理 AI 关注在真实物理空间中的泛化能力，必须解决未见场景下的操作可靠性。 由于人类世界的工具与环境均基于人体尺寸与习惯设计，第一视角的人类手部操作数据（Ego-Centric Data）成为突破数据供给瓶颈的关键。刘洺堉预测，物理 AI 的“ChatGPT 时刻”将在机器人仅凭简单示范即可在全新非标场景中自主泛化作业时到来。他同时评估，相较于美国集中于少数人形机器人本体制造，中国完备的制造业基础与硬件迭代速度为软硬件垂直整合提供了显著优势。 “任务即主管”与长期主义组织文化 (167:04) 刘洺堉回顾了在英伟达十年的心境转变。受黄仁勋“任务即主管”（Mission is the boss）与第一性原理的影响，公司内部打破死板层级，依靠跨部门协作应对突发技术浪潮。公司推行不设末位淘汰制的组织保障，换取员工敢讲真话与高度互信；通过高频沟通与聚焦核心要务的“Top 5”汇报机制，持续校准大团队的共同方向。 黄仁勋“折磨以求卓越”（torture to greatness）与“不找借口”（no excuse）的严厉要求，促使团队在面对评测落后与外部限制时不归咎于客观条件，而是主动寻找解法。结合自身坚持三十年的中国传统武术训练，刘洺堉强调克制与力量传导，主张成熟研究员应从学术界争夺短期 SOTA 论文的虚荣中抽离，转而追求对产业实际落地产生最大化贡献。 刘洺堉预测纯算法层面的领先优势仅能维持数月，行业决胜依赖软硬件生态与场景数据的长期绑定；但世界模型从万卡虚拟仿真迈向真实的物理自动化，仍面临第一视角高质量手部操作数据的采集难度，以及复杂多变的工业现场泛化验证挑战。

[0:00] 刘洺堉: 什么叫战争呢？我没有打算把别人杀死。我们的心态不是说想把别人给杀死，我们的心态是我们要怎么去造市场。 [0:00] 刘洺堉: Jensen经常说，要造市场，而不是存量竞争。他讲我们就要做zero-billion-dollar business——你可以不赚钱，但当这个生意成功的时候，必须是很influential的。 [0:00] 刘洺堉: 中国武术最重要的是控制自己。我并不是为了展现强大的破坏能力。 [10:00] 黄仁勋: 你就做到Cosmos 97。 [15:00] 刘洺堉: Preparing everywhere means being weak everywhere（备多则力寡）。 [35:00] Richard Feynman: What I cannot create, I do not understand. [55:00] 刘洺堉: Suffering builds greatness. [110:00] 前程: 你知道吗？Louis Vuitton（路易威登）减少展柜里陈列的货品种类后，销售额反而提升了。你不希望太多的选择困惑你的消费者，让他无法做决定。 [135:00] 刘洺堉: 深度学习非常像中医，是试出来的。 [150:00] 刘洺堉: 你希望所有人的目标一致，但又希望所有人可以自主做决定……就像一个篮球选手在罚球之前，脑海里先想象这个球空心落网的画面。 [167:04] 黄仁勋: 永远只有 30 天现金流就会破产。 [185:00] 刘洺堉: Torture you to greatness. [185:00] 黄仁勋: Cry baby. [206:00] 刘洺堉: 不做这件事情很冒险，但不做这件事情更加冒险。不做这件事情的话，你的东西就渐渐变成大宗商品（Commodity）。

[0:00] hello大家好我是小俊今天我在上海谈话对象是英伟达的研究副总裁刘明玉我们的谈话时间是黄仁勋刚刚访华之后的一个月明玉给我的印象一直是穿着很朴素,背着一个有点旧的鞋话包,态度很谦和。不过英伟达内部的人告诉我,他不像是一个典型的研究者,更像是一个工程上的领导者。黄仁勋给他一个评价是GST,Getting Sheets Done。不久前,刘明玉带领团队刚刚发布了英伟达的世界模型Cosmos 3,所以在这次访谈中,我们聊一聊Cosmos 3,世界模型,同时也聊到一名研究者长达20年的求索,而这名研究员的身份很特殊,他身处在英伟达这样一个基础设施型的巨大的系统之中,这改变了他的很多的研究思路。当然我们也很不自觉地聊了一些关于英伟达和黄仁勋的内部的故事明玉说做模型就要low ego模型竞争不应该是一场鱿鱼游戏那接下来就是我对英伟达研究副总裁刘明玉的访谈Junson常常在讲就是他喜欢这种Zillion Dollar Business你可以是不赚钱但当这个生意成功的时候必须是很是很巨大的经济的茂盛程度是根据钱多块从一个人的口袋流到另外一个口袋那研究的茂盛程度应该是根据idea多快从一个人的脑袋流到另外一个脑袋去我们做完cosmos 1的时候问这个jensen要不要继续往下做然后jensen跟我说你就做到cosmos 97因为他是一个很有机率的人有些东西即使很重要他会叫你pacepace your steps就是让你不要急他擅长打马拉松站他每天都觉得公司只能要30天的现金流30天后就要破产英伟达十年了这十年你变化大吗你在英伟达的股票涨了多少倍了一共好好Hello 明玉 要不跟观众朋友们先打个招呼线上的朋友 大家好 我是刘明玉因为刚才我们也聊到你到美国了20年然后在英伟达了10年你现在讲中外还多吗 在公司里面有时候会讲中文 但大部分的时候还是讲英文因为大部分的时候但对还是很多人不会讲中文所以沟通上就是以英文为主但如果说在一个小组会议里面参与的都是讲中文的那很自然而然就会切换中文模式这次你来中国的行程是什么样的你多久会来一次中国我现在大概是每一年回来二到三次,中国,对,因为我主要的公司给我的任务,我个人的兴趣在Fiscal AI,在中国这里,Fiscal AI的发展是非常的茂盛,很多公司,很多研究员在做出重大的突破,我们在这里跟大家交流,也理解一下我们如何可以帮到他们。这次来感觉到有什么不一样吗跟之前这次来我看到的是越来越多的关于手,灵巧手,在关键的科技上面做出突破,去追求下一个Physical Eye可以达到的一些重点能力。就是跟上次来发觉就是速度非常的快进展非常的快然后每次都学到很多东西这应该是你第一次做一个中文的podcast我想能帮助观众或者听众朋友们建立一个印象你现在在英伟达的title是研究副总裁能不能介绍一下这个职位然后以及你们团队的一些构造和人数我现在是研究副总裁,另外也是Cosmos Lab的副总裁好,那我们的团队呢就是研究员加工程师之属于我这里的大约有八九十人另外公司还有其他的团队也是在做Cosmos 英文叫Darty the Line 虽然他不直接report给我 但是我是整个Mission的Operal Pick 就是发号司令的人 决定方向的人 所以这些人也是遵循我的指示 跟整个团队一起合作 [5:00] 交给退出去做COSMO应该有两到三百人之间这是一个嗯在英卫达里面很重大的一个专案我们花很多资源这样的人员投入是我们觉得需要的做出好的成果我看到你之前还管一个团队叫Deep Imagination Research GroupCosmos是它演化来的吗它们是什么关系啊是的我大概是十年前的时候加入英伟大那我在加入英伟达的时候我的目标就是啊我那时候给job talk 在跟英伟达推销我自己的时候我的job talk 讲的是那是四年前 我讲的是说有一天最主要生成视频的运算将会是Deep Learning而不是传统的Computer Graphics在那时期,电脑特效、电影特效用这种Graphics,传统的Graphic Pipeline,去生成漂亮的Graphics是主流然后我是在领域里面早期认为就是Deep Nulling是未来的趋势那我记得那时候我跟我的Chip Scientist Bill Daly在那时候的Presentation我的Presenting里面就是讲Deep Learning,因为它是Data Driven,然后它可以做到很多传统Graphics可以做不到的事情。比如说,我有一天可以把就是小说,当成是input,放进这个deep learning,就会产出电影你可以做很多现代的环境Graphies需要大量人力才能做出来的控制那时候我公司对这东西很有兴趣,很荣幸加入了NVIDIA进去之后呢 我就一直朝这方向努力在那时期最主要的这个模型呢 是Generative Adversary Network 就是对抗生存网路那我是只是林云里早期去从事这个对抗生存网路研究的人那我就在里面一直做这方面的研究 我做了几个我自己很感到骄傲的这个工作其中一个就是我是最早提出这个可以做这种,我们叫做Unsupervised或Unpaired Image Translation在AI里面学习很多时候都靠Supervision你要对应的嗯Input跟Output,你才可以学出这个Input-Output relationship昂修华也就是说你并没有对应的Input/Output,你并不知道这个人笑的时候是怎么样,你不知道这个这个码变成斑码会是怎么样?我们那时候是早期利用一些 information bottleneck可以去做出这个我们叫onshy image to image translation那时候我加入英伟达的时候 英伟达并不是一个大家认同的AI公司那时候蒂布灯林还没有像现在那么的火热那因为大家传统也都是做这种Compute Architecture 去设计GPU,没有人在做这种比较应用端的科研那我等于是早期在因为大家把这个方向做起来的那我在我做了很多东西,其中一个Walker叫Gaugen,中文把它换成马良神笔,像是小画家一样,每个颜色代表不同的语意,你涂一涂之后就可以变成漂亮的山水画,那个Walker让我在帮NVIDIA把就是建立起一个形象不只是可以做出很好的CPU也可以做出很好的这个AI模型那时候我还有一些同事在一起做Style Game方向的研究那我们就是这群人把这个NVIDIA从第一批就是等于是第一个把这种生成式网路来做这种media生成把它带起来那做了一段时间之后公司就觉得我可以了,然后就可以开始成立自己的团队。那我那时候成立的团队就叫The Imagination Research,就是跟我当初给Job Talk的目标是一致。这是哪一年?19-20年之间,我变成一个Research Director。但,那时候知道自己要成立团队,就跟著几个工作的伙伴就开始建立Deep Imagination Research那藉著Deep Imagination Research之后,就一直在解相关的问题,就一步一步想朝著把小说放进去产生电影这个目标前杰嗯 就是 [10:00] Um, We did a few interesting demo, there was a Jensen See you! Haa. Ciao! We used a data-driven user to use Keynote. We used to do a demo for the real real-time data. And then we used to do a demo. It was during the pandemic. In that period, the data-driven user was very strong. And we also created some technology. I was in the job talk when I was 10 years old. I wanted to write a book called It became a movie movie. But at that time, I felt like This topic will probably take a long time to get to the end I guess I didn't realize We actually have It's the time that you have this opportunity. When your calculation is enough, you can make a big difference. But I was busy doing the math and other interesting things. OpenAI has been created by the work. I found a text image model. I realized that my dream is not too big, not too much. I have no idea to do this. - In the best way. - Yes. In that time, NVIDIA is such a work. You need to use Jensen. You have to talk about why it's important to invest in your money I remember when I wrote a letter to Jensen, I wrote a letter to Jensen, and he told me that the future will be the future. It's been very clear to the deep learning process. Ah, immediately. Many customers use Amedia GPU and graphics to make the image. We can't I will use DeepNin to make sense of sense to be lost. We must invest GPUs. and help our team to help this field grow. In that time, I also have a lot of collaboration with Getty Images, because I always do this. These traditional content companies They also have very much interest in AI, but they also have a lot of interest in the world. I'm going to try to try it, but I don't have any more of my feelings. Well... I'll write a letter to the GPU, and write a letter to the image. We should be able to collaborate. You know, like, you're still in the future. We have a solution for the project. We have a solution for the project. In the case of the "Motion" Test to image. in the big universe That's the time we had. That's when we had a project called Picasso. Our goal is to do AI Foundry. Some companies have data, but they don't have this. AI's people are not a infrastructure, but they have data and customers. Then we will do a GenAI model, and then we will do the same for them to boot their customers, and then we will get to getty image and shutterstar. That's what I was doing in deep imagination research. We were doing this. From this point, I was not just a machine. It's not just a question, but also a product that can help customers achieve success. I thought I was already in the future. I was thinking that I was already in the future. I wanted to challenge the most difficult problem. I already had a GPU. You were already in the future. 1000 a100 GPU - Yes, it was a thousand. - Yes, it was a thousand. At that time, it was a thousand. It was a thousand. Then we put a thousand GPU in the GPU, and put it into a high-quality training. It was not easy. That's when we were trying to get a lot of things. It was a lot of things. I was the first to get to the Gen AI, to the computer vision. I was very happy to get to the Gen AI. and with many excellent partners. I was very professional, and many young people were still in school. They were still in school. I was also in Meta, Uyuhia-Wei. They were still in school. I remember Team Boo. [15:00] 刚加入我团队做实习的时候他就一直想做这个video生成,想做他想做的Solar 东西。那时候我们并没有这个technology,我们是用GAM一起去做合作。那时候就看到他的充满了决心,充满了热情,然后当然是人非常的聪明,然后手脚也非常的快。那我跟他一起合作里面学到很多东西,我们也写了一个蛮不错的论文那后来毕业之后想留住他 但他去了OpenAI 也很开心他在OpenAI那边就是获得很好的发展后来就做出SOLAR这个workSOLAR这个work出来之后就我的我是感到非常的开心但我又觉得我的决心还是不够,还是不够,我们那时候就几位,就是都在做这个领域的人,我们就一起写了一封信给全程说,我们必须要更多的投资,这就是Cosmos Project的由来,我们这群学者,我那时候还有三押飞的了,然后还有我们公司带这个NEMO床团队的BianCannolado军犯那时候也在这个meeting里面我们就一起讨论我们就决定要去做这个这个Wall Model你觉得这对公司对人类像是一个重要的一个科技然后那时候君臣就叫我还有塞亚飞的两个骑来带这个Cosmos这个Effert那时候不叫Cosmos,那时候就是我们知道要做Wall SimulatorJensen呢就教我们每个人去想要叫什么这个project叫什么名字我们就每个人就回去去想就是要叫什么叫什么我已经忘记那时候有几个名字在那边选但最后Jenton就说叫Cosmos然后我们觉得Cosmos这个名字非常的好然后所以这个Cosmos这个project这样产生了然后我还是在Deal Imagination Lab的时期那在那个时期就是我原本是在做Picasso然后就是这个AI Boundary for Media Generation但是同时又负责Cosmos后来觉得就是Cosmo这个project不然是对公司对整个绿饭更加重要然后也没办法分身乏力啊 没骂的同时跑两个重大的project然后慢慢就把这个Picato的project给收起来帮这些客户找到了其他可以继续支援他们的科技公司然后我就前进开始做Cosmos那Cosmos做一段时间从从一做到二做到三这段时间里面使用它的客户越来越多需要一定的规模才能去把Cosmo这个project做好我在research 时期可能就是像一个萌芽阶段,当现在这个Cosmo已经被这么多人给依赖,不管是外面的客户或者是公司内部的团队,到一个一定要成功的阶段,所需要的资源更加的庞大就是在今年年初的时候我就从Media Research离开了我现在是report给我们的Senior VP of Software我们公司最大的一个leader之前是汇报给Bill大利对带着Deep Image Generation的团队我现在report给Dwight就是他自动公司的第一个Soft Engineer在Jensen的专辑里都有他的故事哦~对,那我现在report给他,然后我离开research之后,我们就换了一个名字然后我就不叫自己的团队The Imagination Research Team我们就叫自己Cosmos Lab这是整个这样的一个变化我听说Sora没有出自你的团队让你很遗憾是吗?也不是遗憾就是我自己感到很开心就是自己曾经一起共识过的人可以做出这么大的一个贡献 感到非常的开心遗憾的是说每个研究员都想做出贡献那看到这个SOW啊这个产生的贡献这么大当然自己会觉得很开心但一方面觉得说到底是什么地方在我的决策过程当中在我的判断的过程当中是哪些地方我没有看对导致我没有在正确的时期做出正确的事情一点就是我是一个很喜欢自我反省的人我就是往往都会去试图理解怎么样让自己更好因为说到Sara还是会想多说一句你觉得为什么OpenR后来把这条产品线基本上算是关掉了Sara它是一个重大的一个 [20:00] 研究工作那它当然本身也有许多应用OpenAI是一个很有野心的公司然后他们有大量的人才,那Saint-Aulman一直是从他早期在YCombinator,他就是一个投资者那他当然是希望就是有这种投资者的心态然后希望公司内部有各式各样的project有些project非常成功就是各式各样的portfolio对那我觉得在过去一年当中,他们受到这个Antropic 巨大的竞争压力,他们看到Antropic 在Coding Agent 上面产生了巨大的经济效应。你在跟ChairGPT 聊天的时候,你产生的Token数就是可能最多一分钟就生成完了。那你做这个Coding Agent,可以工作24小时,48小时,那个Token量非常的大。我们的经历往这个Coding的方向走孙子兵法讲的贝多哲利寡大家的资源都是有限的那他们就是重新调整资源然后去往Coding这边发展我不觉得他们认为Soar不是一个好的work只是我觉得在这个时间点他们公司有更重要的事情必须要去做然后就要做出一个不容易的决定我很好奇啊因为像Anthropic OpenEye这种前沿实验室他们做研究天经地义但是对于英伟达这样的一个基础设施公司或者说是一个平台公司我卖token给这些前面实验室就好了我为什么还要自己做自己的研究呢就是研究这件事情本身对于英伟达的意义是什么呀你的基础设施要做得好做得好的定义就是适合这些应用公司来用如果你自己不做这些应用,你不能理解他们所需要的东西,所以就是要走他们可能会走的路,从中间去理解到。而且设计晶片,设计电脑的架构他的周期是很长的你不能说我现在马上改需要很长的一段时间来做这个规划,所以你要做这方面的研究,做他们投资去理解到什么是重要的问题要解,设计出更好的晶片更好的infrastructure来满足这些就是AI大公司我总觉得这世界上如果梅哥想有包覆有理想的人都有这个工具可以做出他们想做的事情,这世界是会更好的世界。一方面看到OpenAI,Anthorabic,还有中国几家大公司做出的突破,觉得非常开心。我们这个社会会有源源不绝的有包覆的年轻人,我们也希望他们有他们的机会,就是我们可以做出这些模型,然后分享给他们,他们可以做出很好的应用,很好的延伸模型,或是从此里面获得灵感,做出他们更好的模型,然后就是大家不同的想法都可以落地,我觉得当这么多多元的啊,这些idea都有机会被实现然后可以呈现给这些用户,大家选择更多,社会进步会更好。这方面是因为大家说开源模型的原因。嗯那你们的研究成果会跟客户去有一些竞争关系吗?我们做这些,而且我们做这种开源的模型,我们基本上就是无价,放在网路上面,让大家都可以去运用。这事实上真正要落地,真正要满足客户的需求,还很多东西要做。尤其在巨森领域好多硬体的问题啊好多这个商业的问题都不需要解我觉得我们给community一个讯号是说我们会帮助你在这方面当你看到这个趋势,看到我们的commitments,从一代做到二代,做到2.5代,做到三代,这样一代也做下去,你看到我们一步一步就是想把这个地方做得更好,让大家都可以更加预期到说英伟达会一直投资,一直进步,让大家有这个认知有这个信心那他就可以把他的就是他资源投在更重要的刀口上面去做出重大的贡献因为每家公司再有钱的公司资源都是有限的那你不找到痛点、找到关键点去做投资、做进步的话是不容易脱颖而出的那据称这么的难、这么东西要解我觉得我们他做出这些模型帮助他们分担部分的压力我不觉得是在竞争 我觉得是在帮助大家成功对吧 [25:00] 为什么你们当时要立一个非常重要的项目没有选择当时最火的大鱼元模型也没有选择像Sora这样的模型而是选择了巨生的一个世界模型大鱼元模型他在当时就是发展的已经非常好了然后再来就是我的背景不是大元模型,我是CV出生的。自然而然一直在这个media这边徘徊就是image video徘徊就是过去的背景,就是把自己走向导入让,因为我的背景关系,所以跟著我一起合作的伙伴也都是类似的背景,所以我们就是往这方向走。这是为什么没有走大元模型?另外就是NVIDIA也有很强大的大元模型团队,在那里我觉得我没有太多的贡献,我觉得NEMOTR越做越好,我这边主要就是想去解一些更适合我来解的问题。它当初出来的时候也是一个Washemulator,但那时候主要的应用比较像是创作方面的应用,创作非常有趣每个人都希望可以用更好的方式来去讲故事去呈现自己想的东西就是具象化帮助大家去理解你看到的世界这是一个很好的应用那时候也看到的就是我们在这种地区都有AI发展极大的非常的快同时,社会很多问题需要这些physical tool真正能改变物理世界状态的这些physical tools 满足的就是当人年纪大的时候就没办法开车但美马开车整个人的生活品质就降低很多但如果有自动车,年纪大的人还是可以有他的mobility,有很多工作非常劳力密集的,也非常的危险,如果有这种physical AI的robot可以帮忙做,也可以改善人的生活,再来就是家里面总是一堆琐事,要收碗筷,要整理这些不见得是你在家里面最想做的事情,有机器人可以帮忙去做这件事情,提升人的生活品质。就是看到Wall Model可以对Physical AI所产生的贡献,所以那时候就往Physical AI方向走,而不是走从content creation的路线Jenson对于这个团队提过什么要求没有?Jenson对团队的要求非常的严格,目标当然第一目标是可以帮助到客户这不是一件容易的事情Ambiliar是一个运算公子是一个AI Infrastructure 公司我们最厉害的就是整个Computer Stack 从底层Infra到Cuda到Elu网上 但是我们并不是一个Solution的公司 只是给一个机器人的Solution,或者是其他应用的Solution但我们的目标是帮助这些建Solution的公司成功那有时候会觉得有点像隔靴搔痒因为你不太了解啊痛点在哪里你设计模型的时候你设计产品如果你不了解你的客户的话你就没办法追加化那这就是为什么我会常来中国的原因,就是想理解一下大家遇到的问题是什么,怎么去帮助他们,就是一个难处,一个捐身的要求,做东西是需要make an impact学生常常在讲就是他喜欢这种Zillion Dollar Business你可以是不赚钱,但当这个生意成功的时候必须是很Infinancial 是很巨大的你不能说满足在每年赚100个million的这个scale,这对很多公司的眼都很大,但对英伟大加公司的眼这并不是一个destruction嗯,是个分心。分心,对,是个分心。就是你要去解最重要的问题,产生最大的贡献。我们觉得physical 还是一个够大的问题,可以产生最大的贡献。所以在这个方向的时候,要很小心,就是要去解最重要的问题,而不是去解一些短暂可以产生成果,但它的impact并不是很大,这是其中一个问题。要做最好,这也是很难的听起来过去十年的名誉在英伟达变得越来越具有野心了是 哈哈哈 接下来我也想探索一下就是你个人的 [30:00] 作为研究员的刘明玉你是怎么一步一步探索你的研究之路的再回答你这问题,我先想想回答之前的问题,我觉得我是一直很有野心的,因为我那时候就认为可以用小说直接生成电影,只是我觉得我的执行力不够,我的看时间点不够,然后我不太会去理解,但那时候还是刚进业界不久,还不太理解怎么样做才是可以在公司中获取支持,然后获得巨大的资源去重置方向。过去十年历练里面让我更加低解怎么样看清楚在对的时期,然后怎样帮助公司理解,这是对公司重要的决定,然后去影响公司怎么去投资,这是我觉得一个变化。一直很有野心,只是不知道怎么执行。我最早,因为那时候成长背景嘛,我在台北长大。然后在我读高中的时期最热门的科技是无线通讯那时候那个手机刚出来,巨大的手机,还是Nokia 的时代。那时候对这个科技感到非常的就是好奇在台北长大总想离开台北,我这时候就去了台湾的交通大学在新竹那边去学习无线同学。那无线同学在那边学了一段时间之后,比较理解他是怎么做的。在我的同学那时候一起在新竹交通大学求学,学无线同性的同学,很多人就留在台湾去。比如说在联发课或者是有些人去台积电去做这些就是台湾本身就很擅长的工作我在那时候就有点怀疑是不是这就是我要选择的道路,因为我从小到大其实没有想过说会去美国留学没有想过?没有想过所以我其实一直不太重视我的英文就是觉得数学、物理学得好就够了那时期我就开始有点我怀疑到底什么路是对的在大三那一年我就好奇去看看美国的研究所博士班在做什么东西然后我看看我自己现在那时候在台湾的交通大学做什么东西然后那时候我就发觉就是做东西很不一样然后我觉得我那时候在算怎么样设计一个Portocall可以让传输更加快那我觉得这是一种提升但不是一个领导意义的变化我看到在美国这些高等学府做的东西,我就觉得每个成功都是一个领导意的变化。所以那时候我就觉得我应该出去闯一闯。我才记得我跟我爸妈说我要去美国留学的时候,他们就吓了一跳。因为他们认识我二十几年,没有听过我讲说我要去美国留学这件事情。这是大几啊?所以他们听到就是还蛮震惊的。那时候我想去美国学习的是量子通讯,因为我觉得这个东西很神奇,就是靠着量子可以直接把讯息从A传到B去。但后来我到去美国之前我在...在台湾的Intel,在那边待了一年,认识了一个朋友,我们都在那里实习,他在那里做音箱辨识那我就这是我第一次接触到AI因为之前都是学通信那我看到他在做影像面试我觉得这很神奇他就是可以从这些pixel里面去判断里面是什么东西?是谁?是什么物件?然后我觉得对这个AI computer vision有些开始有些印象,我那时候申请到了美国马里兰大选,开始我的博士,最早期的Compute Vision都不是Bwork最主要的经费研究都是国防,马里兰离华盛顿特区很近,所以那时候拒绝了一些非常厉害的做CV AI方向的大佬在那里,我到那个学校之后原本是要研究量子通讯的,后来发现那里有做这种Computer Vision,跟我那时候在Intel实习看到的东西很接近的题目,我就觉得说这看起来更有趣,然后我就找了我的知道 [35:00] 教授 阿妈乔拉帕他在这个女人里面等于是先锋,然后我就开始跟他学习AI,Computer Vision。他说最早我做的第一个题目是从Videos里面去看这个人走路的姿态去判断是谁。哇哦~那时候也是蛮有趣的问题我就是在这样逐渐逐渐就是啊转换跑道,然后去做AI,然后最早期去做这些影像辨识,影片辨识,然后我后来在博士期间还学习怎么用,叫SHIBmatching, segmentation,这些常见的这个understanding方向的这个AI computer vision 的研究,这样逐渐踏进AI的那时期并没有Deep Learning是一个传统计算机视觉的时期。传统计算机视觉,那时候什么都不work。所以什么都要选我们那时候Support vector machine 是一个很传统的 machine learning 方式,Support vector machine 跟优化有很大的关系不管是连续啊 离散的优化都不需要学然后也要去学习一些 Graphical Model Energy Minimization 各式各样的就是就是有3D Calibration这些东西就学的蛮多我觉得算是很扎实但就是在毕业的那一年ImageNet这个AliceNet出来然后改变了整个世界PhD的后期就到一家叫Mitsubishi Electric Research Lab的一家公司三宁电机研究员这是你后来的一个工作对吧这是我的第一份工作在美国的第一份工作对在美国第一份工作他是在呃在Mathachewser在MIT的旁边。这家公司在90年代是非常强大的一个研究单位。那时候跟微软研究院是一针是雄。在Grafi上面都是非常领先的一个研究机构。那MIT里面有许多教授以前都是在那个三菱电机研究院里面当研究员。包含Bill Freeman、Ramesh Roscott,他们都在那边做。那我加入的时候已经过那个时期。但是还是很多优秀的研究员就下来我去那公司之后几件事情嘛 那一年Alan现在出来所以我过去学的东西就是跟未来的世界开始有些就divergence那一刻会失落吗?不会,我就是在我是对这些新的科技很感兴趣的因为ComputeVision因为什么都不work,所以我已经养成这个习惯,什么都学了。 -什么都不work? -那时候什么都不work后来Deep Learning出来之后就觉得很有趣我还记得我那时候是博士班的做一年了嘛等于是实验室里的大师兄然后我就组织学弟妹们 师弟妹们继续要研究弟们的念这是去研究我还记得那时候有一位斯蒂跟我讲说这东西只有几个人会 没有必要去研究 我还是没有理他 去办研讨会后来我的第一份工作是在三宁电机研究院 研究院通常就是工作比较自由 让我有很多时间去学习所以我在那里就学Deep Learning他相信Bation,就是相信你要把深层放在这个就是understanding的一部分哦那所以我在那时候学Deep Learning的时候就就是也也在留意这个深层这一块嗯那后来有一年去了Newis看到Ian Goodfellow 的这个那个生存对抗网络的工作就对这东西感到非常有兴趣然后就开始在这方向里面就开始做大量的投资然后越学越多这样你好像很早就开始做生存了对我是最早做生存的一批研究员那时候还在只要能生成32x32的脸然后看起来不像鬼然后就觉得自己很成功了那为什么生成是理解的一部分Richard Feynman他讲的If I cannot create, I cannot understand.就是当你可以去生成它,所以真正去彻底的理解它。这个人的学习有点像。对,是。当你可以讲的时候,意味着你已经理解了。还有早期,就是Compute Vision也分这种Discriminative Model跟Generative Model。 [40:00] Kuinen Mother 其实没有生成能力 但他可以判断这是A还是B 判别式深层模型就是一样可以被用来做判别,但是它还是包含可以去重建讯号就可以去描述它,当你可以描述清楚的时候,大家可能认为你更加理解这个东西的。那就是 discriminative 跟 generative 。所以像最早期的LSNET可以做ImageNet Classification,我们就把它看成是一个判别失望路其实你最早做了一年的工程师你觉得这个经历对你后来做research有影响吗你做在英特尔做工程师吧对以及你觉得做engineering和做research的本质的差异是什么呀也更适合你自己这是一个好问题做research最重要一部分就是问对问题问对问题当你问到对的问题你就你懂大概就是找对方向那Engineering等于是帮助你去跟大家讲对这是对的问题就是要把东西做出来,因为那个一个实现能力,让你去做点事情,那Engineering当作大Scale的时候还有很多东西是很重要吧在去美国之前的那一年做Engineering对我影响我可能最大的影响就是认知了这个有这个领域叫AI,Competer Vision,然后从中间,我记得那时候在呃巨大的这个software stack里面帮公司去找问题那这是很磨练耐心的一个过程我觉得都是很好的训练所以AI对你来说也是一场意外他本来不在寂静的诡计之中不说了我不是那种从小就是说我要去理解为什么人类为什么可以有这个智能的发生,我等于是一步一步看到这东西,觉得非常有趣,想去理解,然后就一步一步往那个方向前进他最初打动你的是什么呢为什么打动我吗最初后来当然可以有很多原因了 因为不懂 因为不懂 对 不懂又比较容易去理解它的重要性就是有些科技领域像这样子通讯 你可能要很懂才知道他到底是为什么重要?AI很容易可以理解你可以重造这个智力他有些表现会跟人非常的像这就很好奇还有就是赞而然每个人都对自己的存在会产生困惑,整个群体就是到底什么是人,我们跟其他生物有什么不同?这就是一个很自然你会问的问题,我觉得也是因为这个原因会吸引这么多人在这里做出口入如果要找到一个早期对你研究生涯都非常重要的一个时刻你会怎么描述它它是哪个时刻它是你在做工程师的阶段还是你到美国之后太多了,哪个是最重要的?或者最重要的三个呢?我觉得第一个时刻就是在早期我喜欢漂亮的数学在CV早期阶段什么东西都不workComputeVision运用大量的优化的算法那优化呢就是要去找最佳解如果是连续性的呢常常会遇到这种non-convice的问题就是你没办法找到最佳解那如果是离散呢就这种nbhard的问题就是你也没有足够多的算力去找到最佳解你还是研究出算法去找一个答案,但你不知道答案离最佳解多远?那为了去确保你的答案离最佳解不是太远,就是有一定的就是保证然后就去证明这个叫bund所以也许这个最佳解是虽然找到答案不是最佳解,但他离最佳解可能就是差10%啦,或是差20%这比随便一个答案好为了去证明这个bund,很多时候在早期的研究就会开始做一些假设假设让你的数学变得比较干净可以找到答案但假设也让你离现实比较远然后那时候早期会有点偏向于去找这个追求数学的美而去忽略跟真实世界的距离然后后来一段时间之后我理解到这不是一个正确因为AI本身就是一个应用就是智力就是哪来被应用的而不会被这些华侨的数学给迷惑。后来还有一个阶段就是从小成长的背景有关,就是我总是专注在把事情做出来而不专注在让别人懂你做出什么东西 [45:00] . Then I started doing the English program after I started doing the research. I thought I did a lot of research. I used to do this before I used to do this. But I don't understand how to show the things that I can do. I often say that I have 100 points, but my answer is only 10 points, so I only have 10 points. And then I became How to make people understand their importance and understand their importance. This is a very important lesson. And the third thing is that when I started doing a big model, I started to understand that the whole thing is very important. The communication between people is a There are many complicated problems. If you have n-square, You can also have a problem with n2. In the complicated way, it's not a good thing, but it's not a scale. When you have a lot of people, you can always get a little bit of communication. The best is to use a linear or sublinear. When I first started to do huge贡献, I hope you can join together. I need to make everything clear and make sure that everyone can understand. And make sure that everyone can make a goal. Just to make sure that everyone can do something. And I hope that everyone can understand what to do. And I can move on to the same direction. Thank you. The area needs to help you understand why this is important. This is what I did in the study. Especially when I was in a large scale of study, it was a very important thing. You need to do a service, and you need to do your work, and you need to do a team. is this is your growth line right is I did the first one I was a popular one called Gauguin It was a very successful achievement. I thought that I was not only a paper that I was a professor, It's a bigger group of people who think their lives are more valuable. And then I'll take the time to get the money 高干是取自高更吗? 对,这个名字是这样 那时候我是跟一个私训生叫Teson Park We are also working on the project. We also work on the project with Choo Gwynn and Wang Ding-Guin. Nah Then we developed a plan for a SPADE, Adaptive Modulation, Demodulation. I was happy to do a demo in the company. And Jensen was very excited. And he asked me what's your name. I was called Spade. He didn't like it. I don't know what to do. It's not a use of a use of words. Yes, it's not a use of a use of words. When I was writing the paper, I was writing a CVPR. but still didn't put in archive. When the company saw it, it was called to put in archive. The company told Jensen to get GTC in 2019, he was able to announce the event in the event of the event. I was excited, and I had a great opportunity. What do they call this? We have a marketing genius, who is a marketing genius Uh... Greg Astette, he just said, "Gogget" that is the Jensen's team to announce But in that year, he had too many products to introduce. He was in the last minute, I remember that I was on the weekend with him to practice, and he gave him a demo. And at the evening, he had a message that he had to introduce himself to the product. He decided to put his content in his keynote. He was doing a news report, and he was doing a demo for the media. But he didn't put it in his chat. It was a walk that I was in the middle of the day. [50:00] 这样的很多种事,我们做一个online的app让大家都去测试,从里面使用获得很多就是很好地反馈就是越做越往应用方向前进啊其实高GAN是不是跟你之前的研究轨迹是一步一步递进的他不是第一天就做到那里了因为你从博士毕业以后加入了三菱电机研究所Computer Vision就进入了GAN的时代然后你其实围绕GAN做了一系列的工作包括COLGAN,MOKOLGAN再是到了英伟达之后的比如说高GAN这一系列的工作它是怎么延展的我最早的一个GAN的工作叫Couple的GANcoupled game就是把两个game的生存网路把它couple在一起,然后couple在一起产生了一个information bottleneck,然后所有的deep learning就是在学这么压缩资讯,然后bottleneck是帮助你,就是给这个内容一个机会可以去找到本质,那就是你一个game是在model一个distribution,然后你有两个GAN4 model两个distribution一个是码一个是斑码当你couple在一起后,它有一个限制,就会少一些共同性,然后就可以让你做这个转换,从马变半,从这个方向走的。整个生存式网路就是在做这个distribution modeling,Destrian Modeling就是你可以sample 产生一个image 一个山 一个海 或一个video但是人不只是想要去生成,他要去能控制自己去生成的东西控制就是要有讯号那讯号有很多种一种常见的讯号就是拿Image当讯号,就是我这里有一匹码,这个变版嘛对这是一个讯号另外一种方法就是那种age就是你数秒然后还有一个就是segmentation,就是这个想像小画家一样,什么颜色代表是山,什么颜色代表是水,这是一个讯号。然后再来呢就是比如说Cars,这是山,这是车,这是机车,那就是生成然后最接近人的Nature language是Tax就是text to image, text to video,这是最自然的一种形式他text跟segmentation最不同的地方是segmentation是给你很具体这个pixel是什么它帮你对位对好然后text它是一个比较不一样它的structure跟image structure是很不一样跟video structure是很不一样因为structure很不一样,所以它是比较难学的,需要更多的数据。所以我说爱人过程当中,我是理解到这个问题,所以我是从比较容易的方向一步一步往上走。容易的最早是?这种segmentation,这种age,或一个image。那这也是为什么我之前讲说搭理让我觉得我自己的决心不够因为我那时候总觉得text to image 是很困难的一件问题然后我觉得这个领域还没有足够多的资讯的data跟算力来做这件事情啊那其实是有的然后就就是因为没有去做所以做不出来哦 所以你是沿着image 然后到task的这个路径一点一点的延伸的对 就其实在早期我有几个朋友每年一起参加NewRIPS,我们在讨论说那时候还没有GPT,那时候都是早期我们在讨论说如果真正有AI就是真正会产生突破,第一个会产生突破的领域是哪一个?当时我跟大家讲说是Tax是language是哪一年应该是1617吧我自然自己不做test但我知道就是影像的序号太多杂讯了很多东西就是那个...就是它离那个知识的本质是比较远的,它是比较一个就是这个世界的,就是这个observation。Test已经是很纯净的,比较坚信的symbol所以要产生一些类似智力的表现最早就是language我虽然知道最早的AI会是在language发生后来也是真的是这样但那时候我就是比较喜欢这种视觉讯号所以就一直留待这个视觉讯号的深深这边后面这几个GAN的工作你来讲一下那时候就是 image translation 嘛,从 A 变斑,风景化变真实的风景,后来又开始做 video,我们那时候做一个叫 V to V,那时候是把车子 simulator产生的很简单的卡通的图片,把它变成一个真实的开车场景,就是很简单的, [55:00] 接近现在的Wall Model这些东西这已经到NVIDIA了对都到NVIDIA了嗯我只有Couple Games不是在NVIDIA做的,剩下的Games都在NVIDIA做的。那时候他们早期做这些工作,也因为这样子跟Ian Goodfellow的Games发明的人成为好朋友,我们就有很多讨论,也很幸运在英伟达,很多优秀的研究员 瑜伽辉、Tim Bluth 还有很多来我这里实习,然后跟他们学习,做了很多一系列的work,围绕的image translation,video translation,这方向走,对,然后后来有一年我在读PhD的时期,学的都是传统的CMV的东西。PhD毕业之后,Deep Learning是带来了。那时候就是想说你不应该做Handcraft的Algorithm Design,不应该做Handcraft的Feature Engineering,就是应该Data之一本。那时候也理解到就是这种更加scalable的Approach,简单scalable approach是更容易成功的。拜拜好更加scalable的就是后来就大家讲 bitter lesson 对那我在做game的时候很开心但我一直在思考Gang到底是不是scalable?因为Gang大家都知道说他很难去训练所以我担心这东西可能最后不scalable那年瑜伽惠来我这边实习的时候,我跟他研究的题目就是要去skill game,那时候还很早,那时候我就看到瑜伽惠他的才华洋溢,然后做出很多...虽然我们那时候没有写出一个 paper 但那时候做的实验量非常的精神,他的想法我看到...哇!还可以这样想,然后就是,比如说那时候GAN是一个Generator跟Discriminator嘛那时候我有幸的是有很大量的GPU可以一个COS来TrainGAN他就想到说每一个GPU都放一个Discriminator,但是它的weight都不一样所以好像很多人同时跟这个生成式网路做对抗在那个时代能去实现这个东西是很不容易的一件事情那时候还有另一个实习生,他叫Germyn Bustin,他就是后来发明Muon Optimizer,现在大家都在用Muon Optimizer的人,他那时候来我这边实习,我跟大家研究的方向是如何在在这种奥位层上面更好的算法来去把这个GAM做得稳定当然这两个方向最后都没有成功但他们各自都开发出了非常惊人的很有成就的工作Jeremy就是从那时候开始我们写了一系列的paper就是如何用Mewon早期的算法来去稳定,来去就是让这训练更稳定,他就一路一路往下走在他来开发Mewon的算法。就是很开心那段时光学会很多东西到某一年很努力啊然后跟着这么多聪明人在研究这个怎么让game更加scalable但每个结果都走向都是得到一个结论就是game不scalable然后我建立这个团队就是那时候就是大家加入原因就是想做game然后那一年我就跟大家讲不能做game了要往就是这个方向不scalable我们那时候看到diffusion这个方法极其稳定这应该是17年不是不是以前应该是2021吧2021就那时期17年是Transformer发明出来了对17年TransformerTransformer发明出来之后呃我必须讲我不是早期去接触Transformer的当时的英文还是LLM对这是LLM那一块我一直在专注在Gain然后早期的Gain呢比较好训练的都是用那个Convolution Network到30他把这个Division Transformer带进来之后才做Division那边的人才慢慢的往这个Transformer这边走所以那时候就是从算法层面来看就是觉得这个Gain不scalable他在讲说不scalable的东西最后做不远然后走Diffusion,然后就开始走Diffusion,然后往下走这是一个重大的转变时期那座Division一开始是做image嘛然后后来做MultiViewImageMultiViewImage呢就做变成3D generation我们就做了一系列这方面的work,就是 Edify 系列的, Edify Image Generator, Edify 3D, Edify Video,做各式各样的工作 [60:00] 用diffusion来说的生成我听这个我会想到两个点,就是你在CV这么漫长探索的过程中,其实计算范式发生好几次变化,从传统的,然后到了GAN,然后又到了Diffusion,正在每次转变的时候作为一个研究员在其中应该是一个什么样的心态啊?我发觉的越变越简单啊。会不会觉得哎呀,我之前的工作都白做了。整整常讲就是suffering, little greatness。在这么多经历当中,我觉得我现在越来越能掌握这个事情的本质。我觉得有点像是,就像传统的科研一样就是把事情找到本质最简单的方式去描述世界怎么运作的我觉得现在的方法就是把事情越变越简单然后在COSMO这边我们也是从数个模型就变成了现在这个COSMO3的一个模型也同意了对就是就是渐渐理解到OK原来这就是事情的本质然后每一个我都是花了5-4年在投入我觉得未来的决定会深受这些过去的经历影响我也不能说那是错误的,那时候的条件、算力、数据、做那些事情是合理的那时候学的东西对我现在做很多事情理解很有帮助还有我发现你好几次提到你的实习生在AI的Lab里是不是就是通过实习生来用一些idea是一件很常见的事情怎么看待年轻人比如说经济的冒阵程度是根据钱多块从一个人的口袋流到另外一个口袋那研究的茂盛程度应该是根据IDEA多快从一个人的脑袋流到另一个脑袋去,你听了我的IDEA?你有些想法把它变更好,我听了你新的idea我觉得哎不错但这个地方也你就一直流动流动流动,然后就idea越来越好。那所以,因为我走向业界这条路,就不是去学校做教授。那如果你只是在业界整天交流,只有你的同事,idea的diversity就低一点。那因为达到这边,我们找很多司机生,就是跟这些很有想法,不同背景的人一起合作,研究,然后互相学习。那所以我觉得这东西是,是帮助成长,也帮助他们成长,一个很重要的一个发展。你12年加入了三菱,博士毕业加入了三菱研究所,然后16年加入英伟大,你后面这个职业的变化是怎么发生的?你怎么加入英伟大的?自从开始做Deep Nulling之后我很相信串利在三菱电机呢不是一个重视串利的公司是一个它是重视串吧那时候我为了能做出好的研究,我就常常跟我那时候的Manager要求要买GPU哦 对 开会就是说我们需要GPU 做这件事情在那个三星电机有一个long turn 的 mentor 他叫 Anzo Tuzao他是一个很有名的研究员然后他那时候就决定离职加入苹果做自动车然后然后我突然间觉得说就是当初把我留在三年电器里的主要原因走了,然后我就开始思考说我是不是也要换工作那很自然而然的换工作就是到跟这些大公司聊一圈那时候大家看到就是Google、Apple、Amazon、Meta这些大公司后来他们的Recorder找到我然后我看哎NVIDIA,每次我都想要买他们的GPU。我这么缺GPU,这么想要GPU,为什么我不加入一个生产GPU的公司?所以那时候我最后就决定就是加入这个英伟达我那时候父亲不太能理解因为因为他们没听过的公司 那时候没听过的公司 他说苹果不错啊谷歌不错啊,你为什么要加入这个英伟的啊?然后我那时候说,因为我觉得GPU是最重要的,尤其是那时候我开始做Couple Games的时候那是Unsupervised approach,所以Unsupervised approach代表数据取得比较容易一点,你不需要标准那最重要就是酸力跟数据嘛我既然数据不需要标准,我就去有算力的地方然后一件事情很有趣的是我后来发觉就是我那时候在三菱电机的Manager我每次跟他argueGPU只要我炒赢了他给我一些经费去买GPU [65:00] 同时之间他会卖NVIDIA的股票然后后来他就退休了他没有告诉你什么当时他后来跟我说了当时没有告诉你不然你也可以买了是的我看你在三菱电机的工作的时候就已经和NVD的人有一些合作了什么在一些论文上面。嗯不是我豆瓣是那时期就是写的那个Paper 因为学术的论文审核啊有时候你不是第一次投就会上了然后可能是多投了几次后才上那在三菱做的研究可能后来到了那个英伟达之后就继续在上面做一些提升所以这个才会一些paper的作者同时有三菱的作者跟英伟达的作者对并不是在那时候有合作公司跟公司间合作没那么容易哦我以为是之前有一些合作基础所以你加入了英伟大其实不是的还是正常的一个求职的过程对就是我那时候并不知道英伟达有一个研究机构我那时候觉得主要是卖GPU那时候面试我的几位同仁我后来跟他聊之后才知道他们真的是在做研究才过去的那时候英伟达的研究机构没有什么名气多少人啊那时候去的时候不到100个人吧而且不是纯粹做AI研究大部分人都是做graphics那时候做style给那帮人那时候也不是在做那个也不在做Gang,他们在做别的东西。嗯。那我都印象很深刻,就是在NVIDIA Research 每一年都会有一个叫Offsite就是把世界各地的NVIDIA Research的同学飞到加州在矽谷南边有一个小镇,Monterray下面的小镇,然后那边就有一个地区我们在那边做个两三天的研讨,那是我第一次见到Tero Keras,就是发明Style Gain的人,还有一个Timo Aila,Samuri这几个重要的Gain的研究员那时候他们都没有做game然后我已经做一段时间了那我遇到他们的时候他就想说他把game的问题给解了然后我就想说OK 你可能不知道多难我一般都希望他们成功 但是他们有点低估他的难度后来他们就是真的一直投入在做这个style game从1啊2啊3啊然后就不断的突破我跟他们合作当中学到很多东西他们一直在做这种uncondition的 不是我做的控制性的这个研究的发展很多进入英伟达做研究有像你预期那样可以有很多的GPU吗对这世界上没有任何一个地方GPU是够的哦对然后你总是看到不够的地方,对,那我是很幸运,就是我是最早在英伟达里面做大模型的那个就是用大量GPU来做这个深层式网路的一个研究员那因为我早期办公室做了一些就是Visability很高的work所以公司很多人都认识我然后那个老黄也对我蛮有信任的所以我就很有幸有很多GPU资源可以去做这些研究但每次都是看到别人的GPU更多觉得自己总是不够怎么在一个像英伟达这样的公司获得更多的GPU啊你需要学会什么你要懂公事要解的问题是什么?你要想办法就是跟公司解释为什么你做的东西会对公司产生影响每个研究员都自己有自己的想法都想解事情然后研究员某方面来讲都是very high ego文人相亲自古截然每个人都觉得自己想法比别很好但公司的本质跟还是不太一样公司是为了为股东获利,对捐赠来讲他是希望可以take your family,整个公司这么多人一起打拼吧,因为他肩膀出来,他希望可以帮大家照顾好family,公司要赚钱。所以我学到一件事情就是我深信我做的东西对事情很重要,那这东西会产生改变。财政改变会帮助工资我要怎么去把这事情讲清楚?让这个leadership,让这些不懂的AI的这些leaders,就是理解到这东西对公司重要,这是一个重大的变化。 [70:00] 他分享的三个时刻里的第二个时刻这具体是在哪个项目里发生的转变我那时候讲第二个时刻是如果让其他的研究员更加理解自己做的东西就是最重要的性我就是一个一直不断变化的过程我很难讲是具体在什么时候发生但我想讲三菱电机的那个案例对我印象很大因为三菱电机在90年代非常的重要因为它是早期这种就是没有任何限制的这个包括领域里面很多著名的人有Bill Freeman在三菱电机研究院嘛然后Bill Freeman吸引了一堆比如说阿路查 阿路查 这些著名的教授都在那边实习过那边做出很多重大的 research 所以那时候可以跟未来研究院一起竞争嘛但某一时期啊公司的方向改变了他们开始怀疑这些这种Blue Sky Research对公司的影响是什么?就越来越难去justify为什么要去配这些researcher。然后就产生著著名的,现在年轻人都没有接触到这事情,那时候就开始一堆重要的学者,三井定基学者就陆陆续续被fired了。有些就加入微卵 有些加入学校当教授那个 MITRise Harbour,有些人去Disney,人就陆陆续的走,留下来的一些人还是做的类似的research,但是比较难跟公司的翻载方向相关。比如说,三菱电机对做相机,做工业用的相机很感兴趣,做机器手臂很感兴趣。所以你帮那边研究,可以获得公司的支持,继续往下走。那我加入的时候已经是这东西都结束了那但是我那时候得到训练就是说Blue Sky Research跟公司的兴趣也是可以沿蜡的我常常看到这种周期很多公司一开始的时候就是给很多自由度然后很多很有趣的idea都出来了但某段时间会开始紧缩然后就是留下那一批跟公司这个兴趣比较相关的人那就是你可以看到不管是Google啊不管是Meta都是有这样一个过程然后我可能是很有幸的在我的职场的早期我就看到这个过程的发生所以我在英伟大的时候我就知道我那时候就就是一直认为就是首先我知道我做的东西跟这个用Deepton的音质生成影像对公司绝对是正相关的决策层解释为什么我做东西重要这个特别重要因为可能是公司在上行期或者是膨胀期的时候他允许你做很多Blue Sky的探索但是他只要是下沉的阶段他就会收索对他一定要你回答为什么你做这个事情重要你跟我有什么关系是而且去做Deep Learning非常花钱对所以你更加要注重解释为什么这对公司是一个重要的投资因为大家也会注意到你的研究其实很多时候的理念就是研究这些产品这个跟那段经历有很大的关系是不是这后面影响你在英伟达的很多的做的研究和产品因为比如说你的高GAN你刚刚提的那个项目就是SPADE的那个算法其实也是做成了一个实时汇图的一个产品然后包括后面的也做了视频会议增强AI增强的一个产品就是所有的研究都会变成一个产品去发布我是算很运气的人,我是一个随著我年纪越来越大,我越忠视效率的人,所以我很精准地把自己的 research 变成了一个产品。我不能说高根是个产品,还有一件事情是一个重要的学习,就是 AI 单独存在并没办法改变一切。怎么说在做AI的时候大家都是追求越来越好的模型但你慢慢会发觉就是模型的那个就是慢慢收敛大家都差不多有些人会说我会不断进步,但你看到就是这个月,Nswap比较好,下个月GBT比较好,下个月...No, 占物来就追上来了, 中国这些强大的公司, GOM, Kimi, Seed, Ali, Deepsig, Minimas,这些公司都不断地在做突破 [75:00] 慢慢的就是搭轮模型的能力都会差不多当你们模型能力都差不多的时候你就会理解到说你纯粹靠模型是不够的我可能是运气比较好早期就认为这个模型会收敛,我一直重视就是不能只靠模型,要跟公司的其他的Ego System结合在一起,你看German来做那么好就是German来Google有一整套的Google Docs,Google Search没有一整套的平台合在一起那就是当越多人使用你的模型的时候你都要反馈越多然后越方便那就更容易就是对公司产生贡献对公司产生贡献公司愿意给你更多的投资你就可以做出更好的模型那就一路可以把这个长期的这个就是发展一路一路做下去嗯所以我在早期做AI的时候跟其他的研究员差不多,就是研究员 PhD 学生毕业的方式写出高次量的论文,什么叫高次量的论文呢?往往就是你在Benchmark的结果比别人好就是你就是要一个killer把别人的方法给击败然后再来就是闻人乡亲嘛,总觉得自己比较亲,然后就是一路往下坐所以很多时候早期做研究的时候讲说比别人好到晚期的时候,我会建议理解就是比编号只是其中一个就是证明你的东西有价值的方式,那另外一个方式是你可以帮助到别人,让大家都变更好然后会发觉就是我现在的想法越来越接近就是我做什么东西可以帮助整个领域变好而不是追求的就是我比别人好。这是一种high ego 还是low ego?我不知道是high ego还是low ego? 我有幸的在过去20年当中遇到好多聪明人 我总觉得这些让人非常的多 我很多时期真的比我优秀 我觉得这是非常开心的一件事情能贡献你刚才其实说到一个你做模型的思路就是你觉得模型最终会收敛它的能力可能会同质化但是我理解那些Frontier Lab他们的认知是说智能现在还没有到顶智能还要继续高速的提升你不认可他们这个观点吗就他BAT智能的skill我当然一方面很好奇嘛然后我自己也在用这些模型我也看到他不断的都在提升嘛然后但是有些人总是会讲说接下来会有exponential growth如果你不敢投资这间公司或加入这间公司的话,你就会失去这个机会,对,然后,我觉得例子上看过去的历史从来没有这样发生过,就是一家公司掌握所有的科技,其他的公司都没有办法去水上,这从来没有在世界上发生过,然后我不觉得AI会是一个例外我觉得大家都很聪明,人员会流动,总是在A公司做一段时间,总觉得我自己的才华没有受到肯定,我可能就跳B公司去那这些课好这些东西就自然会在这领域里面扩散我总觉得不会有一个公司会比其他公司都做一个巨大的超前我觉得这本身就不是一个稳定的社会状态如果推演一下如果模型的智能大家达到了一个差不多的水平接下来大家竞争的是什么呀就是整合跟自己的生态跟自己的产品的整合嗯对就是大公司创业公司呢创业公司创业公司的优势是可以可以走那个大公司不能走的问题比如说对NVIDIA来讲任何生意只要是小于一个Billion就没有兴趣去做但那些本身就是有一些很值得做的东西然后有一本著名的书叫那个叫什么Innominated Dilemma这是一个创新者的总经就是汪汪这些小公司在走向那些当初不是很被看好的领域看到有一些东西可以慢慢逐渐起来很多公司都是这样起来的英伟达也是这样的对英伟达是这样起来的所以我觉得还是充满机会我不觉得一定要做你如果现在开一间公司要跟No, OpenAI and Swabby 做一样的事情很危险你的资金绝对没有他们雄厚然后你没有客户 [80:00] 你要怎么去累计,然后他们这么大的资源可以把东西做便宜然后你不容易吹上所以你要去解一些痛点是他们没办法去解的不是他们不想解是他们没办法去解他们不能justify为什么要去写这件事情所以哪怕是你要做大模型这件事情本身最后你也要找到你自己独特的生态位不管是Openei还是Antropic我们可以看到Antropic它早期是被认为是落后OpenAI的但它是最早相信Coding的当OpenAI在做分散式投资把鸡蛋不放在篮子里的时候Antrachy是做机种式投资然后最早去做出这个Coling的东西的所以他那时候就看到了一些机会然后他就坚信就决心把它做出来所以我觉得对创业者而言应该就是要决心要去看到一个机会然后去看到一个就是你独特的机会用你的资源把事情做成但是今天不管是硅谷还是中国大家又开始全部同质化的都在做是CodingAgenti Coding你怎么看这个现象你觉得这是对的吗每个公司做这件事情背后都有不同的目的那我我不是站在他们的立场无法去讲但从我角度来看就是这其实是很辛苦一件事情你说的是同志化竞争同志化竞争是很辛苦的一件事情我觉得他们做这件事情可能是被迫的因为这是本身是一个重要的technology任何人都不希望自己核心科技是被掌握在别人的手里但我不觉得这个是他们计划的全部他们一定有其他计划去做出一些差异化你没有差异化就没办法做出差别性的产品最终还是要差异化我觉得是刚才我们其实回溯了你的很长的一段经历那你觉得你作为就是刚到美国时候的那个第一份工作的研究员刘明玉然后到后来变成了一个在英伟达变成了一个Tech Lead然后再到现在是一个VP研究的VP你觉得你在不同时期解的题是一样的吗嗯,scale是越来越大这个skill指的不只是管理的skill对吧对不只是管理的skill不管是运算人员的skill然后这跟整个AI发展也有关系AI从探索到可以落地那就是一个变化然后这些不同的时期都有不同的经历有时候还是会怀念以前那些各种方式都各东西都不work整天想什么东西会work的时光为什么有多种可能性的时候也蛮开心的吧,多个选择会给你一种开心的方式,现在的状态也有很多选择,只是我觉得越来越接近,我自己蛮喜欢回到事情的最核心了,现在发现很像是写法都是,嗯重剑无风打桥不攻,就是很扎实的一步一步把这个beta 音法做好,然后就把东西写出来。在这个知情过程当中,我也觉得是一个很不错的力点,从里面学到很多东西,怎么让这个...帮助团队看到最核心的本质然后去去提升这个执行力但同时间又在可以创新的地方让团队做出重大的创新来去跟上这个时代的变迁各种事情有不同的挑战都很有趣从一个研究员到英伟达的VP这个多见吗我可能是第一个吧你是第一个?你觉得为什么呢?这是我想问你的我在英伟达前几年是每一年跳一级然后就一直跳跳跳跳跳到VP了对然后我觉得是因为我呃早期在NVIDIA还没有AI人才的时候 我就在那里就是帮助公司,提升不管是AI research 的知名度,或者是解释AI 成本影响公司。然后我自己又很喜欢落地,就是一步一步就是获得公司的信任公司就愿意把这个越来越大规模的专案给我做像现在想看就是整个团队这么多人运用这么多运算资源每天都是几百万美金就是的运算成本啊储存成本我觉得就是纪念那一月啊就是公司有一定的信任才有这个机会去带这么大的project所以你跟公司align非常重要对吧对一个纯粹的研究员的天性和一个管理者可能是 [85:00] 某种程度上是相悲的研究员要创新研究员害异狗研究员需要Recognition然后recognition有时候recognition跟公司要recognition不太一样那你在成为管理者的道路上有没有可能就是抑制一部分研究员的天性呢有没有可能是在带着镣铐跳舞我觉得我还是一个研究员我还是常常读论文然后我有时候会做些实现然后去去理解我最担心在成为这个一路成为管理者的历程当中我最担心一件事情就是我跟底层脱钩我不理解就是问题的核心所在然后我会强迫自己就是review大家的code然后去读paper然后去challenge每个人的idea然后跟大家做一些就是等于就是debate来确保这个方向是对的嗯我很呃跟我公司人大家都知道就是呃我可能是少数还继续在看口的VP然后还是继续会继续就细节但我我觉得我如果不这样做我我当然我我知道我的任务不是一个不是成为一个很能去实现的人但我是觉得我如果不做这些东西的话我自己会不理解痛点在哪里我将就不能去理解大家每个人对这个专案的贡献在哪里就是我只是希望自己一直stay grounded看清楚一切然后这样可以帮助团队成长然后也可以看清楚谁对谁谁的贡献在哪里如果说过去20年就是你到了美国之后的这20年对你影响很大的几个人你会说谁啊第一个就是我的制造教授Rama Chapa,他把我带进这个Deep Nenit,他非常厉害,他也是非常善于沟通,他可以让任何场面都是充满的欢笑,其实是这种很严肃的review meeting,他对人都非常的准重,跟他学到很多东西。再来就是我在我实习生的,我做实习的第一个mentor,Aunso Duzal,他就是手把手教会我很多Machine Learning的东西他对我印象非常大到英伟达之后多半跟同才学习Teo Keras就是那个style game的一作我也受到他的印象非常大是哪方面影响他对东西追求到机制你如果读过他的论文你看他做的实验分析去把这个本质套出来这个过程这个坚持啊我跟很多不同的研究员合作在那个时期然后那时期很多研究员就是一个想法写一篇配分同时间一个GVPR可以写20篇配本或是今年可以写个40篇配本Tero就是每年之相写一篇配本就是把他所有的他工作也非常努力就是把所有的人生的经历就投注在同一个idea越转越细然后问题的本质然后产生中达的贡献就让压强更大就是这个stay focus这件事情是可能是从这里面,从这些人共识当中学到很多东西。嗯,那老黄呢?他对你有影响吗?非常大的影响。嗯,他是一个工作非常认真的人。啊,我在早期加入英伟达的时候,他常常会传论文教我看。然后叫我看然后我就要写一些summary给他跟他帮他讲的是什么事情?他是一个非常热爱的学习,一直去学习,一直去理解,他当初也不懂Computer Graphics,他敢踏入做GPU,他去把Computer Graphics学起来,他也不懂Deep Learning,也踏进AI,就懂Deep Learning然后就是他强大的学习能力强大的兴趣一直往下走他不懂他为什么敢投入呢他有一套自己的那个决策法则他就是叫first principle他就是他会把事情的本质把它理性清楚不会受到外界的讯号的干扰他就是看得很清楚就是说这方向最make sense然后就往那边走他在早期就敢all in deep learning对不对让公司获得巨大的领先在早期就敢all in 枯打让公司产生这个很好的foundation我在认识宣诊之前我觉得我的决策就是都是偏比较短期的然后我看到他怎么去做这种长期的决策然后坚持然后我觉得是影响非常的惊人了他还有一些很精神的地方是他的他的每天的信都非常的多邮件是吗?对,邮件都非常多,但他都是很仔细的去读然后去找一些别人看不到的讯号然后做出一些那个 [90:00] uh, And it's a big decision. He is a very wise person. When you have a lot of things, If you don't have to do a prioritization If you do important things, you can put the time in the important things, you won't be able to do important things. So you decide what things are important, which is important. And I think that he has to be able to send a lot of emails. You can quickly decide what is important and what is not important. Every day, you see things very clearly. When you look at what is important and what is important, you can always be a little bit. Many people will always put their own feelings in your mind. They say, "This is not important, but I'm not good at that." "I don't want to do that." It's just He just thinks that my goal is to take care of the whole company I just want to do The goal is to leave the company in the business, and take care of you. Mm. - Okay. And... I learned how to do the process of the process. I think this thing makes me very much impact. I was at research in the past year, I think it was really hard to do it. I always had to change the topic. I was just like, I'm going to change the topic. I'm going to change the topic. I think I didn't want to change the topic. I didn't want to change the topic. But I'm constantly doing the context switch. It helps me to understand what's more important. And this is a very important thing. And one thing is, if you've learned computer science, Compute and the most important thing is to be懒惰 Just like you don't have to do it, you don't have to do it. You can do it, you can do it. You can do it. You can do it. You can do it. You have so many hours and so many hours. If you know what you don't have to do, you don't have to do it. and then your life's work will be more effective So I think it's still worth learning computer science. Not because AI is not doing computer science. What did the following year do you have to do in the calculations? Every time period, every time period, not the same. This is not always fixed. 嗯 比如说现在呢? 他要处理的事情实在是太多,也很难说现在什么东西不是重要,我自己看到的东西跟他看东西完全不同的等级嘛,他看到的是他本来是 全球AI重要的一个推手,对吧?那他看到东西超过我看多的东西,那我不好评论他觉得现在什么东西就不重要。 你是怎么保持自己的精力的?你有什么一些技巧啊? 我是很喜欢运动的人,我以前喜欢做这种团体运动。 I was playing football and football. I had a big interest in my life. I was a I've been doing Chinese training for several years, I've been doing Chinese training for several years. I've been doing Chinese training for many years. I've heard you have been doing Chinese training training for a long time. You're a teacher. Yes, I'm a teacher. My teacher is a teacher. He is a famous teacher, his teacher is from the University of New York. He was a teacher from the University of New York. The "Senshaw" is the "Senshaw" of the art of the art of the art of the art of the art of the art of the art of the art of art of art. The art of art of art is a huge battle for art of art. What's interesting is that in Taiwan There were a few people from Taiwan My teacher and my teacher are at the same time, and I also teach the Chinese武术. It's a good training for the body. It's not good for the body, but the ability to do it. The good thing is that it's just one person can do a lot. So I started training for the training, training, training, training, training, training, training, training, training. And I have a new 4th class, called Ice Punch, which means you use a "Bing Tone" I'm going to do a lot of exercise in a cold water and get into a water in a cold water. It helps me to strengthen my body. I think this helps me to keep my strength and make me a strong challenge. - That's what you're doing before you're doing? - Yes. - That's what I'm doing with your thoughts. I'm a very friendly person. You're doing some of a very heavy exercise, right? Oh. 冰水啊。 - Yes, but I learned武器's goal is not to let everyone know. It was a part of the impact of the financial world. It was a part of the Chinese art. I learned it after that. [95:00] 自身的一种磨练中国武术最重要就是控制全身控制自己因为你都打出一拳的时候最大的力量会来自于全身协调可以把力量从脚一路灌到了这么长的路径你要控制到全身协调这个力量传导是循序就是一步步到位是很难的因为都一瞬间发生所以要经由不断的练习不断的自我修改然后我觉得这个跟我喜欢一直自我检讨一直追求都有很深的影响我并不是为了展现我强大的破坏能力我觉得后来变成了一种对自己的追求你的性格这种比较温和能算温和吗你的公司应该不这样吧当然不是这样做久之后都有点恨蝶不成钢然后看到年轻的研究员就是差那么一点火候就可以把事情做更好就会忍不住就会提出来所以还是会凶的对吧在公司里面我觉得是一种直接指出这些问题所在取决于听的人听的人如果是觉得我是正面的他就会很开心,因为这世界上不是每个人都愿意跟你讲出什么地方可以做进一步的提升然后他们可能会感激我跟他讲说这个地方你可以做得更好但如果你听者是觉得说我就在挑剔的话那你就会觉得我很囚嗯,你这个希望能够一击之胜。的课题是不是Cosmos?就是我们整个组织有一个project就是Cosmos然后我是非常专注在做Cosmos,我们就是希望透过Cosmos来对这个世界产生巨大的贡献。这也是你接下来也许长达10年最重要的一个课题吗?是的,我们做完Cosmos一的时候,问:Jensen要继续往下做然后Jensen跟我说你就做到Cosmos 97对我现在做到3而已还有94代可以往下走为什么不是100是97他是随口所说的他数字是随口所说但他的决心是展现在他这个数字上面他是认为这是一个重要的方向然后希望我们可以继续专注去做这个物理AI的foundation来帮助整个领域往下走我们接下来重点来聊聊cosmos和世界模型吧也是你当下最重要的一个议题我看你在你的个人主页上说你一直被这样的一个愿景所驱动就是为机器人构建一个黑客帝国能不能阐释一下这个愿景我认为世界模型可以帮助这些聚生智能啊就来做到这个泛化的效果嗯那我觉得任何AI的问题要解的问题就是这个泛化的问题你能不能在你看过的训练数据之外也能表现得非常的好泛化对不对就是在这个Coding啊在这个Chat里面都是去解的去训练模型让他可以去解在他训练没看到的东西的问题很就是变得像人一样对吧那物理世界的AI也不例外就是要解放化的问题那解放化的问题在Cosmo这边我们是想这样帮忙,三个点提供更好的数据第二个是提供更好的启示点然后第三个是提供更好的环境数据是你可以用生成数据数据是帮助AI模型更加泛化的关键就是你可以想象这个世界上你看到的数据就这么多点你可不可以去生成一些你需要看到但是你生殖世界你没有采集到的数据我把它叫Better Data那再来就是如果你可以训练出一个好的世界模型这个世界模型理解世界怎么运作可以去预测未来会发生什么事情这样的一个模型它本身的这个representation是不错的其实是可以提供一个物理世界AI就不管是PASI model还是什么model 一个更好的一个从里面可以去就是衍生出你想要做的policy这是更好的歧视点更好的数据更好的歧视点那第三个人是怎么学习?在这个物理世界学习人就经由实验经由跟这个环境做交互跟真实环境做交互往往是比较安贵的然后你能获得经验 [100:00] 也是短暂的就是一个记性如果说你可以用这种像黑国帝国这种去生的方式可以同时产生多个环境真实无比的环境你可以跟他交互然后给你讯号你是可以学习的非常快的那就是更好的环境更好的数据更好的起始点更好的环境那里面最具有挑战性的就是更好的环境,我不想在我的网页里面把它写得非常的长,像一个诊译一样,提出了像黑客帝国这样是一个比较好的一个诊译。就是帮大家理解我们想怎么做怎么帮助这个physicalide communityCosmos这个在内部具体是怎么立项的这是24年还是25年24年吧24年开始做的大概24年3月份左右我们决定要做然后就是在骚扰之后对在骚扰之后就是完全是那个时间点对大家都在想说这个是充满了决心一定要做然后很荣幸的先生就是信任我那我去带这个project说服他的过程难吗在这这件事情上那是我已经不能了之前要说服比较难,看到说话之后就不难了。他是很聪明的人,他一看就知道这东西对公司的影响。他是一个很有机率的人,有些东西其实很重要。他会叫你PeacePace your steps就是让你不要挤他擅长打马拉松战对所以他是很有纪律就是就是慢慢的一步一步往目标前进为什么之前这个时机还没到在骚扰之前这说到这里就是嗯...first mover有first mover的advantage对不对然后每家公司有不同的定位对吧嗯取决因你想要解怎么样问题要怎么样获利我没有足够多的资讯来判断但我不觉得你看像现在很多家公司都做得很好现在做video生成最赚钱的应该是字节了C dance所以这个诡计是很难说的好到Sorrow的时候觉得时机到了对是你又跟他写了封邮件吗所以我们这一群在做这个生成式模型的做这种media generation的咨询人一起决定跟郑政写邮件我猜每个人都会写吧对每个人都会写不是一起写一封我们会讨论然后一起写一封然后让大家都会加意见然后就是就变成一个公司的公司就是我们必须要把这东西做出来哦这层回复这份邮件了吗对就是把我们聚集在一起开会了哦然后在那个会议上打成了共识其实会议之前大家都打算共识了然后那个会议只是更具象化到底要怎么做然后谁负责这样子你对那会有什么记忆深刻的事情吗就是他叫我们去想名字吗然后我那时候其实已经知道,最后他会提出更好的名字,有点拒绝,不想浪费我的力气想个名字,最后他想出更好的名字。但我还差,我就跟他讲说,你就直接跟我们讲吧,你觉得什么名字好,他说不行,你要去思考,去想,我觉得有道理啊。因为这个名字跟产品的定位会非常的相关,你看我们叫Cosmos,是一个就是那种宇宙。我们目标就不是产生这个content不是为了要做创作就是为了要解物理世界的问题才慢慢往物理AI这边前进因为Sora其实是一个服务创作者的一个事他早期的demo是这样讲为什么你们当时选的就是physical AI呢就是面向的这个市场那时候已经陆陆续续看出来,Physical AI会是下一个revolution,因为这是个刚需嘛,每个人都会老花,每个地方都缺乏劳动力,每个人都想提升更好的生活品质。还有一方面来讲,NVIDIA是走Developer Market。就是帮助这些开发者做出更好的产品我们自己不会经营一个社群网站也不会去建议一个创作工具这有点太图思义了对于英伟达来说所以你们定了我要做一个世界模型然后这个世界模型是为了physical AI的为服务physical AI的community今天大家对于世界模型的定义还是非常不清晰你跟我们讲讲你的世界模型的定义吧我是个很讲究实用性的人嘛人为什么会去设计一个模型呢?就是他可以用那用法有很多种 [105:00] 对 就是说你设计一个模型来描述这个世界经由这个模型你可以去预测接下来会发生什么事情所以它的目的是为了预测对吧这是一种事件模型的为什么去设计世界模型的原因用处预测那另外一种是你想去理解为什么这事情发生了?整个物理学就是去见世界模型,去了解这个世界是怎么运作的。从牛顿力学一度到量子力学,去了解这个世界是怎么运作的。也是建一个模型嘛,去帮助我们理解怎么运作。当然从Deep Nanny里面,我们把这个understanding就是经有一些标准的数据去教模型这个东西会这样是因为发生这些事情然后经由大量的数据泛化然后帮助未来新的事件发生的时候你经由这个看到的视讯讯号然后去解释帮助人去理解发生什么事情比如说这工厂在工厂里面为什么这个地方突然间产线卡住了然后可能是之前某工人忘记把什么东西打开也是一个这个世界模型建的也是一个目的性就是为了去理解发生什么事情找到问题,还有另外一种世界模型就是为了要去重建这三围的世界,重建这三围世界有很大的用处你可以去规划你东西路线要怎么走然后你可以让人去体验一下,你人虽然生不在这个真实世界,但你可以在虚拟的状态下去在这个世界里面做游历,就是模型for the world因为你的用处不同所以他模型的形态长得不一样终究我们是在同一个世界里面这些模型就是不同的就是经由不同的观察来去描述同一件事情重建是一个很重要的学问那我自己本身以前做过重建,但我现在已经不再重建了我现在主要是做物理世界的理解和物理世界的神程,就是prediction这些事情大家都会对世界模型有不同的解释,现在定义什么叫Wall Model?在几年前,同一件事情发生就是大家定义什么叫AGI然后经过这么多年还是没有一个共同的定义然后我认为去定义Wall Model很可能会走向同样的道路我觉得可能不是很重要的一件事情这是因为这个词太大了吗过于笼统对 各位农总就是定义出来后对对这人类有什么影响那为什么LLM就是一个相对精确的词LM就是Large Language Model它模型很大然后做Language对就这个词为什么大家都是一个有共识的一个精确的定义但是世界模型大家一直在争论不休对LM就是LM Large Language Modellanguage model就可以predict接下来会发生什么词汇对吧large代表说它的模型很大对这很明确对吧就是世界模型就是一个可以帮助你去model这个世界的一个工具那你model这个世界的一个工具你要做什么用途呢?因为用途不同所以你model的世界方式不一样所以当只要你对这个世界这个模型有不同的用途之后就有不同的定义所以你觉得世界模型能够描述cosmos呢还是应该用另外一个词来描述你在做的事情是,我们一开始的时候我们是把Cosmo叫做Wall Foundation Model,我们目标是建立一个Foundation,让大家都可以建筑设他们要用的世界模型。所以我们把自己叫Foundation Model,是因为我们希望我们是一个更底层的东西来满足大家。所以我...所以我是这样我是这样我们是这样定义的就哪怕他是一个要做世界模型的人他也可以基于你的Fundation Model来做是的你是希望提供那个基座?是的,我们要提供这个基座,对,就是我们认为世界模型将是在Physical AI里面重要的一个环节,但不是每一个想从事Physical AI的公司都有足够多的资源去做自己要的世界模型,从零开始做,但他们又需要,为了帮助他们,我们就做这个Cosmos,这个World Foundation Malibu。因为你们也同时投资了Kun的AMI Labs,和菲菲老师的World Labs,你们做的世界模型有差异吗?AVIDIA 是站在一个Enabled的角度我们希望就是繁在GPU的ecosys上建立的公司我们都希望帮助他们成功我们希望大家可以一起走向成功 win win然后每个 [110:00] 公司看到的点都不太一样,想解的问题也不一样,所以会有各式各样的,就菲菲的Wallab,杨雷坤的MI,都是不一样走不一样的路线,那我们都帮助他们,然后也希望他们成功能投资他们,我们跟他们也有合作,那如果说他们对我们的Cosmo东西有兴趣,他们可以利用,那其他家公司需要Wall Model,但他们可能没办法不像菲菲或是杨雷昆资金雄厚,他们可能更需要帮助,他们可以Liverge我们的Cosmo。我们目标是帮助整个领域成功,这几家重要公司我们当然希望成功,但我们还有很多需要需要去帮助的人和你们有亲战对手吗我觉得NVIDIA竞争对手就是跟NVIDIA做同样的事情的共识嘛就是去做这个整套AI的ecosystem那你说没有竞争对手有些公司也做出算力嘛我在做Cosmos的时候我是不想竞争对手的我想的就是怎么去帮助这个ecosystem在我这个ecosystem里面在NVIDIA的ecosystem里面的这些用我们GPU用我们运算平台用我们软体的公司他们如果有成功的话那NVIDIA就会成功,对吧?因为他们会帮一些还没在我们ecosystem会产生信心我觉得这是帮助防止我不太想进展了我已经过那个时期就是为了要毕业把论文发出去所以我的算法比别人好我现在目标就是要帮助这个领域一起往下走因为从第一代到第三代的Cosmos其实也经历了很多的变化你们在第一代到第二代的过程中有没有记忆什么能耗?是的,就是去年的工作? 对,这个步调很快。那时候开始做Cosmos的时候,我强调一个点就是我们要迭代快速。那时候深受Deep Seek的影响。 因为Dipsick是很惊人的公司,它可以一年内叠代三次,产生Dipsick V3,所以我一直强调我们要叠代速度快,叠代速度快可以一直不断的进步,一代比一代好但是我们那时候挑战的题目是这个物理世界模型,在那时候,尤其是20年,不是很清楚就大家都还在没所怎么样的世界模型对大家有帮助那我刚讲的就是不外就是用世界模型是怎么用它Predition或是Understanding那就是做这个这种BTO model来帮助Prettyp Future我是做这种Listening model来解释发生什么事情的嗯~所以就是一开始的时候,就跟一些伙伴合作去理解他们的需求,然后自己本身有一些想法,然后就做这些模型,然后跟这些伙伴叠代之后,才慢慢收敛,就是在过程当中,就是慢慢的收敛从,然后我们那时候,做了 predict 之后可以预测未来然后想说仿真环境是大家常用的环境,但它的生成的这个video就是跟这个真实世界的虚化一定有差距可不可以就是用这个模型来帮助它更逼真那就说了transfer那为解释发生什么事情就说了reason当时三个对然后后来理解到说我如果可以去描述这个pixel是被这个pixel是怎么变化的那我这个pixel变化跟我这个action的变化其实很接近的所以我们就做一个叫Cosmo Parasy 一个Parsing Marble然后我后来陆陆续续的发觉就是就像我刚刚讲的一样这是同一个世界 不管你从哪角度来看 你model是同一个世界你模型就是在学一个internal representation of the world就是这个世界你在做压缩过程当中学到怎么样的一个表示方式那既然是同一个东西还有一个东西就是Foundation Model他的核心概念就是一个可以纳百川就是可以从各式各样的数据里面去学会模式的一个模型所以如果你可以把你存在Recent用的Data、TrainPredy用Data、TrainSport用Data、TrainPolicy用Data全部合在一起的话你是模型的上限更高第一个你是秒数同一个世界然后第二个 Foundation Model 就是就是纳白川把东西合在一起好,那所以就慢慢的往这个单一模型走它中间还有一个是一种执行上的问题我记得我当初去见了这个第一版的Cosmos,我自己算一算,就是因为我是希望真的模型可以帮助到其他人,然后跟这些partner合作的意义,我可能需要这个模型A、B [115:00] CDEFG 我自己算一算那时候可能需要22个模型那时候我就有个会议跟俊成一起开会我就跟全场说我预计需要2-4-2个模型然后前程听到就觉得我工作非常认真他就讲了说非常好我very hot然后他想说但是你知道吗Louis Vuitton LV这家店呢当他减少他的货品成维成列的这个货品数之后反而sales是提升的你不希望太多的东西困惑你的那个消费者让他没办法做出决定那个对我印象很大就是我理解到说对 我自己也遇到问题 因为我自己都分不清楚要用A还是用B了 其他人更加不清楚然后再来就是执行上的困难,你每个模型出来,我们不是发Paper就结束,走下一个Paper,我们要去帮助使用者去用,只要每个模型出来,我们就要维护,要解决问题然后当你有数个模型的时候就是很辛苦 背多则力寡 影响到你迭代的速度 所以在做1的时候是在提写的过程当中然后还快速作恶然后在作恶的同时就理解到如果不行,就是这样做不长久,所以就决定要做这个OMNI model的WARMODEL,就是COSMO 3。这四个方向,第一个是描述同一个世界,所以其实是可以合在一起的然后第二个Foundation Model就是吸收各式各样的Data合在一起然后在开发上也简单很多所以就是走向的Cosumo 3这条道路所以2到3其实是一个大的变化是1到2的变化是等于是数据的提升还有一些那时候在2的时候把Pas戒进来是有些变化但我觉得2到3是一个很大的一个Gap对3做了多久三从去年十月开始说就是刚好发了二之后二月发十月份发的二对其实其实那时候在呃大概是更早时期就知道说必须要做三然后但那时候已经开始2.5然后把2.5收尾然后把2.5收尾之后再做3所以可能3可能就是大概是9月的时候开始知道说要做3然后真正执行可能就是10月11月做了将近半年对超过半年一个中国做世界模型的创业者他说他看Cosmos 3论文看了一周而且是每天看里面有很多的细节我觉得他们的观点是说就是觉得Cosmos 3他在技术的大的创新上不多但是他把很多的细节都工程验证出来了你觉得他们这个评价重肯吗Mitchell Transformer之前也有人提出然后ParseModel之前有人提出我们是第一个把这个Mitchell Transformer scale到这么大的模型,把 Audio, Video, Action 都合在一起。然后这些东西,呃,从概念上来讲就是东西合在一起但你真正要把它做出来不是那么容易嗯 那真正做出来就是这些细节所有的这些大语言模型都是是风格架构你可以讲大家都没有创新但是它的那些细节会让这个母线模型比另外一些模型好很多我认为就是这么多年之后我就更加重视这个这东西能产生的效果我就往往越来越不重视这些东西是不是革命性的一个原创对对我来讲它有用才能产生impact 解掉大家能想解掉问题是它的重点那这个paper我们是希望帮助整个开源社区就是做开源模型帮助到整个physical AI那我们这几年看到的现象就是这些Fontier Lab很多都走向避原然后即使写paper也不愿意讲出那些关键的环节那我们决定走不一样的大路我们把能讲的东西都讲的就是把就是尽量把东西讲讲的非常的清楚然后能就是我们开源这个模型也开源我们怎么去训练这个这个模型的框架然后部分的这个synthetic data我们都开源了我们是希望保持透明让大家看到怎么做跟Cosmo类似的东西如果他没有兴趣的话我们目标就是enable这整个community [120:00] 不担心别人可以说出一模一样的东西我想到你刚刚提到Deep Seek你选择开源跟它有关系吗也不算是有关系就是Deepseek的工作对整个AI的影响非常深远第一个把Mitchell of Asper开源的公司然后你看到最近的模型他的用心把这个把这个逼到极致直接对整个领域都产生了深远的影响,我觉得很重要。从影响的角度来看,我觉得是相通的。我们也是想产生影响,把这些细节都讲出来。Amedia有很多这个建在Amedia Ecosystem上面的Physical AI的公司那我们希望帮助他们成功我们的目标可能跟Deep C是不一样对我们是希望帮助我们的使用者成功你们天然就是这个生态了对我们就是希望就是那个希望可以帮助这个Physical AI降临世界快一点你们在这次为什么选择首先在输入层同时能够输入预言Video Audio和Action这是一个重要的决策吗?是,我觉得这个世界不是只有视觉,对吧,然后也有听觉,但我也想加入触觉,但是触觉的讯号还不好,这个touch sensor 这些东西还觉得还在快速迭代当中。这个需要领巧手。需要定交手 需要数据我觉得大模型啊基本上思路有两个一个是让Language 当成 First Car Citizen像coding啊像chat另外一种是让视觉讯号video当成是first class citizen像seedance像ville我们认为物理世界的模型跟这个数字世界的模型最不一样的地方就是物理世界的agent会take action会改变这个世界的状态我们认为一个好的物理世界的Foundation model也要把Action当成First Class Citizen就是为什么我们把Language、Video跟Action合在一起,像这个Cosmos 3我记得以前杨志玲跟我说他们做语言模型他就是把语言当做最重要的智能提升的工具对他们会很担心Vision加入进来就是影响他的智商变成一个傻的多魔态但是谢赛宁今年又跟我说他说他担心语言对于视觉的污染他觉得语言才是人类的脚手架并不本质这是他的观点所以你怎么看待他们这两种观念以及你把他们这些信号都训到一起的时候会出现问题吗就互相的污染这些信号他们带进来都有他们的目的就是language可以把这些人类的knowledge带进来然后也帮助人类跟这个物理AI做沟通然后 video 是大量的视觉资讯或 audio 大量的听觉资讯去描述这个世界怎么运作?那用这个video更精准的去Capture这个世界的物理运作用language反应很难对吧?但是人跟这个模型之后见出来是要服务人的嘛他不懂Language 你是没办法跟他沟通的然后这个模型最后是要帮助这些machine去take action的所以他不懂action他是没办法去改变这个世界的应该这样讲吧就是我们的目的不同我的目的是希望这成为一个好的foundation model for physical AI,它需要懂language,需要知道这个东西怎么变动,然后有action,然后借由controll,我们把它合在一起去做那我的目标不是去追求AGI对,然后AGI本身也很难去定义嘛,当你定义的AGI就是纯粹要去减这个了解人类的本质的时候或是怎么去做coding的时候可能这些视觉讯号会影响到你那是必然的对吧?遥远的古代是没有任何语言的然后这些人类的文明的发展就是经由这个看这个世界怎么变动而产生的那你可以觉得因为毕竟这个语言是发展适合人类的但你不知道机器是不是接受这一套也许你就从这个视觉讯号里面直接去学这个世界的怎么运作得到一个intelligent然后发展出另外一个文明那你从这角度看也许语言讯号是一种干扰对那我觉得是看你要的是什么我很明确的知道我要的是什么所以我觉得我需要language让人可以跟这个物理爱沟通我需要video audio去描述去从这个物理世界的变化就是 [125:00] 去学会这个物理本质需要action因为我希望它最后是可以for physicality去改变这个世界所有模态融合到一起这些模态是相互benefit的还是相互制约的在过去一年甚至超过一年之间我们都一直在研究把这些模态的融合那我们从各个不同的研究里面得到一些线索在Cosmo30时候把它接在一起比如说在Cosmo Policy那片walk里面我们就发觉把Video跟Action合在一起是帮助Action的就是当你在直接PrettyAction的时候,就是当我们在做WallActionModel的时候,我们发觉就是除了Pretty你要做什么Action你的皮底接下来take the action 之后会产生的state 就是observation 是帮助你弱性训练和收敛所以我们知道predict 那个video 是帮助action 的就是wall action model 的这套系列声音也可以帮助video generation 当你操卡 李森碰到那个点你就知道接触的时间是那个点所以知道这个是有互相互符的然后一般做video的人都知道就是从文字到video这是一个讯息量变大的过程讯息量变大代表说有很多种可能性很多种可能性的方式是比较难去学习的就是一种东西可能有十种可能那这东西就没有固定的target保学所以在做video或image大家都会发觉当你的文字描述非常详尽的时候,这是比较容易产生好的一个影片所以你可以知道文字的详细描述也可以用这个 video那我们做这个Cosmo 3 就是像把之前这些Cosmo Reason,Cosmo Predict,Cosmo Transfer,Cosmo Pass 和在一起合在一起本身就有它的好处了整个东西就简化了那这些讯号怎么合在一起让它产生互补的作用而不是互相抗拒的作用这是可以经由实验的设计经由这个data的比例的调整来达到的所以我们那时候是坚信着这些讯号都是描述同一个世界这些讯号都含有这个视觉怎么运作的资讯是应该有一种方式他们合在一起会互相帮助更多讯息帮助你了解背后运作原理是什么?所以有这样的believe,从这方向出发。在这里面有什么secret sauce吗?在互相banifiche上?其实做大模型没有什么secret sauce,做严格的实验假设、实验、看到结果累积知识再做下个实验就一步一步一步往下做走扎实的做就对我不觉得有不可告人的秘密,就是你要追求的东西耐心做实验 验证 对了下一步这样子因为你们这次采取的是一个双塔的设计一个塔在处理理赞信息一个塔在处理连续信息为什么采取这个设计嗯有很多原因,一开始的时候,Cosmo recent 就是离散的,从Vision Language Model出发,Predict,Transfer,Parse也是连续的就是我们知道离散的work for understanding,我们知道连续的work for generation,把他们放在一起,就是一个现阶段很合理的一个选择。然后再来就是,有很多种用cosmos的方法。呃常用的是做post training也许用你的video action的配合来去train generator或者是你想用reasoner,就是用你当初自己domain的understanding data来train当然有两个这样可以合在一起可以把规定的影响切开的是帮助客户去使用的如果我们全部连在一起好那就是Generation跟Understanding在一起了我现在要换这个generation distribution在换的过程中因为全部都连在一起你的data也会改变你understanding那边 [130:00] Yeah. If you have two towers, you can be one. That on the standing side If you change your data, you don't understand your data. The understanding of the data will disappear. It's not convenient for customers to use. So, it's a good way to use it. It's not elegant, but it's not elegant. It's not easy to decide the structure. It's a deep learning to decide the data. But in this stage, I think this is a good thing, and it is suitable for it. So, we can figure out what the next step is to make it easier. Why do we have two steps? One step is enough. But when we move to the goal of the goal, we need to consider the users who can easily use it. We need to keep in mind. We need to keep in mind. 简约完美 我要考虑到使用者是不是有办法去利用它 那这是我们必须要研究的课题 嗯 但是相对来说 呃 离散的信号更好处理 把融合进了连续的变量之后 它的处理难度会变高 你们怎么合在一起并且能够把它skill上去呢 Now, there is a series of works like Transfusion. It can also be able to do the same thing with the same thing. When we do the next token and prediction, it is done with the same thing. And then the diffusion is done with the same thing. And this time, there are many different ways. Just be a little bit of a I think that all of these messages are important to be able to express these messages. I hope that the development of the project is all from the same structure or all from the same structure. It will be easier to do things. But I don't know if it's a good idea. I'm not sure if it's successful. I'm going to do a step-by-step test and go back to the next step. Do you think it's easier to leave? Thank you. It has a good way to do it. It's better to practice. Oh. and then the entire It's a beautiful place. In the infant, they were very different. The most important thing is to be able to be able to get the customer I think the best of the testing is to be able to do the best. So I think the best of the testing is the best of the testing. I think it's the best of the testing. So there are many ways to keep in mind and discuss. There is a research question, you can use all the models to the model, and in the theory, it can be coding well, and can be used to create a new product, and can be created by the new creative. It can be in coding, like cloud, even more? I like to talk about the "Beydou Zhe Ligou" in the study. If you want to do anything good, you need to be able to learn more. You need to learn more. You need to be able to learn more. You need to improve your skills. When you're sure you need to use this application, there are some changes that you need to do? You don't care about anything else. You want to leave it alone. And I'll do better. If you don't want to leave, you'll be very hard. I think the strategy is usually You can decide what to do 这双台之间会互相的提升吗? 我们知道就是嗯 In the paper, there is a study that when you use physical AI to help you to improve physical AI generation. No home. We also know that if you can send the generator to the recenter, you can help your recenter to better representation. In this paper, we have time, and we have no done the entire experiment. There are many experiments, but this foundation model is a very good thing. And the first one is It's been a few months ago. It's hard to do some adjustments. We don't want to make the 3 look like a single one. We can continue to do 3.1 and 3.2. We can gradually increase the 3.1 and 3.2. We can gradually increase the 3.1. [135:00] 人力想做的一些研究,这次没有机会把它给呈现了继续补下去。除了可能会更简单双塔有可能会变成一个塔还会有什么在未来模型中可能大家会看到的一些变化我们很关注的就是这个模型怎么去帮助那个Physical AI 的 Builder嗯然后这个模型推出去之后呃据我说知就是大家都在讨论然后有些呃那些partner一些同学都给了蛮不错的feedback泛化是一个核心的问题任何AI的核心的问题那在物理世界的AI里面我觉得一种我们需要达到犯话就是假设我今天教机器人说我的衣服我喜欢这样折然后我喜欢这样放我就给这个机器人看一两次我怎么做他是不是就可以快速学会在在现实生活中快速学会这个东西然后是不是给这个这个Physical AI读了说明书,他就知道怎么去操作这个仪器,怎么在这个工厂里面做那个检测。那我觉得这些东西是很重要的能力是Physical AI能达到的。那当然这些在落地的时候有很多考量,我是想说在这个foundation model部分是有什么东西我们能做的,然后可以帮助这些Physical AI的developer。的角度来去把这些东西加进Cosmo模型里面比如说你们为这个有哪些具体的优化呀优化是像加速那些是一定会发生的我们我们当然是希望这个模型可以越跑越快然后另外一些优化就是能力的优化、泛化的优化对那这个东西就是可能会改一些架构上或是一些training的objective的改变或是用一些特殊的就是Curate data来做这个训练不是很清楚是要测试它是一个实验科学对,是实验科学,就是我常常觉得那个Deep Learning就很像中医一样,就是试出来的。试出来的。对,然后那个在试的过程当中,你做详细的实验记录,从里面去理解那个中间的法则。然后我觉得这是啊。是很有趣,这两个东西我觉得很像,然后我觉得做严格的实验,控制变数,然后得到一些关键的结果是自模型迭代的重要的一步。也有研究员提出这个模型的语言渲染是不是可以把它的比重加得更大一些因为他们还是认为LLM是提升智能的关键你认可吗我觉得在早期的这个Image Generation的研究包含ImagineGoogle的Imagine里面就提出了当你的Language 的 understanding 越强,你用更大的 T5 Model,你的 image 能力更强。我是相信的,你用更大的 semantic representation 应该要帮助。我是同意的。毕竟,physical AI 的应用跟这个,大家常讲的 coding 或是 chat 还是不太一样。所以还是需要做一些实验的验证。我想做的事情是了解真正的痛点。然后从这痛点里面去找到合适的方式来把这个模型能力补强有些大家得到的讯号更好的这个模型当你没有资源的限制的时候你当然是会放进去但比较有挑战的就是当你资源有限的时候你怎么做取舍所以也许对于场景来说智能可能不是那个最关键的变量你需要你的机器人会觉得傲数问题吗?你需要你的机器人会解这个coding的问题吗?嗯我觉得你可能更关注他能不能把你的工厂要组装的东西做好我家庭的卫生就是把这些操作把它做好 对吧所以我觉得这个你要解的问题似乎是跟这些大语言模型公司这种agent公司要解的东西是有点不太一样然后所以既然是不一样的题目然后最后这个姐这个题目的成本都是一个重要的,因为如果要商业化,成本都是一个重要的考量。在这些条件之下它的架构真的会跟现有的这些for agent 的模型是一样的吗?这是我一直在思考的问题你现在有初步的答案没有?有没有一些直觉?过去的就是纵观人类的历史 [140:00] 答案就是应该是不一样对吧然后你要做耕田的工具跟你要做纺织工具是不一样的所以直接掌叶是不一样的最后就是但贝多哲利果啊?是吧?嗯~老主动的智慧还是蛮管用的嗯,Cosmos你们未来会投入多少卡和资源?这个我们一直在提升当中,我不知道我这边方方方便讲这个卡的数量,但就是我们希望我们已经在万级了然后希望可以在更多更多这会是英伟达最重要的一个模型的项目吗因为大家有数个模型项目然后我们主要是把它分成两类一个叫agentic AI 就是要做这个coding chat然后去agentic这种digital intelligent的这套这些客户的需求嗯 在这里面我们有这个Nemo床的model就是他们这个团队最近Release的NimoTron 3 Ultra得到蛮不错的效果那在Physical AI这边主要就是Cosmo这个模型Cosmo是一个Base Model是一个Babble Model那Emilia也很关注自动车也很关注机器人,也关注工厂。对我们而言,这些都是Physical AI的运用。那在自动车上面,我们就叫做APA Mario的Apple。它呢是在Cosmo上面做的Special Edition就是让他们做自动车所需要做的这些优化GOODS是在COSMO上面做对机器人相关的用法还包含这些Hop Party的控制的这些东西我是把这些做自动车内部做自动车做机器人这些看诊室也是我的客户然后也希望帮助他们成功然后在Physical AI这边就是Cosmo为核心来去辅助这些主要的Dounstream的这个开发者可以获得成功所以主要是两个你说是不是最重要呢?这两个都很重要啊Digital AI 怎么用agent 怎么做coding 很重要那physical AI也很重要很难讲是比较重要但现在打得最火热的就是这些agenda AI的东西那physical AI就是下一步physical AI在你们看来会是一个多大的市场好这个应该是一个巨大的市场啊我不确定这个估这个市值不是我的专业啊然后我也不方便代表公司想多打啊但是啊这个随著人口的老化所以制造业的自主的需求然后还有各式各样的应用我们觉得这像是一个巨大的市场因为世界模型现在缺乏有效的评估方法你有没有一些好的探索吗世界模型大元模型大家都在追求更好的评估检测的方法呃就是一般来讲模型的评测有三步第一步就是Benchmark就是有一些固定的dataset你去上面两侧它的跨体然后第二种是Arena style就是A跟B比看谁比较好那第三种呢就是跟着Asper去真正有这痛点的人去解这个问题那我觉得这三个都很重要在physical eye里面第三个特别重要因为每个嗯就Coding Agent大家都在解Coding的问题嗯 Digital Use 问题但飞机官每个邀请的问题不太一样对然后所以我更加强调就是跟这个客户跟这些愿意一起活着的伙伴一起去了解怎么样去评估一个模型真正有用还是没有用那这不是一件容易的事情这个是给模型发展指引方向的重要一步我觉得在未来的发展当中这一步会越来越重要数据也是一个难点你们这次是怎么做的?数据是一个难点尤其是在physical AI 更是困难因为physical AI 每个形体都不太一样然后收集数据没有那个physical setup 就没有要去收集数据在英文打角度更加的困难 因为我们是要服务各个physical这个开发者每个机器人都不一样所以我们能做的就是找最容易共通的Fysical data主要有两种,一种是Navigation data,从A到B另外一种是manipulation data 怎么用手或是tool去操作 [145:00] 完成既定目标navigation data 比较容易做这里就是你可以把它怎么动,车怎么动,机器人怎么动,这些都可以收集机器人A跟B,即使他们不一样,但它动起来就是在空间中位移有时候可能加点旋转所以是比较相同的那操作这边就比较复杂我们发现一个趋势就是大家越来越追求接近人手啊的这种这种机器手臂然后论点就是说人类的世界是建出来给人类用的所以大部分的工具都是适合人手去操作的整个AI需要大量的数据,如果你的数据越好取得,你就能更快得到突破。大部分的收集数据者是人,人就是手。所以两个环境,两个条件,就是人手适合收集数据。然后这个世界是大部分建给人手的,所以就建议看到大家往人手的方向前进。那所以我们在这个Cosmos 3的时候,也就是特地把这个EgoCenture的Data给加进去,包含了这个人眼怎么看这个东西,从低人秤,然后还有人手怎么去操作这个物钱。那我觉得EgoSense对它是非常重要的在刚才说的那些现在的限制和局限之下,英伟达有显著的一些优势吗?在英伟达获得GPU运算的成本比较不大,比较便宜,毕竟我们生产GPU嘛,然后再就是我们在Fisic AI这边已经生根多年了,我们有这个SOR这个chip,然后也有这种iSEC simulator,然后这是啊,所以我觉得这些东西和在一起我们提供更多的。工具来满足各式各样的AI开发者所需要的需求还有这点是我们是真心想帮助其他家公司成功的因为我们就是我们很清楚自己能提供的服务在哪里然后比较不会有这种一直就是我觉得客户往往比较愿意跟我们一起合作,因为我们是我们不会说跟你做一模一样的东西,然后帮你...这不是我们的目标嗯这个模型让你非常满意的一点是什么然后让你有点遗憾的可能是什么满意的一点就是我当初跟大家讲说可以把过去的所有模型合在一起还会做比全部之前的模型都要好这件事情发生了我们现在的模型比过去单独独立的模型效果都比较好然后那时候很多人不相信那我觉得很开心然后第二个就是这个是我们第一次就是把整个团队原本是建造数个模型现在合在一起建一个模型这样把这么大的一个组织大家凝聚在一起去建造模型我本身也很骄傲这件事情可以顺利的发生遗憾的是什么我觉得我们的模型因为时间限制,其实我觉得模型还可以继续提升,但是因为时间限制,我们没有让它完全收敛,就必须要退出了。还有很多想要改的地方再次之前都没有时间改所以就是觉得这几方是毕竟就是想要追求更好的结果,时间有限那好处就是我们继续会做3.1 3.2会把之前没做好东西再把它补进去嗯你有想过像老黄说的做到97代或是什么样子吗那时候听到97代我的理解就是我们有决心就是一路把它做下去把它做好然后这是一个很大的committement因为这个作证模型是很耗费资源的然后他展现出他的决心就是往下走我只要信心就是这个东西会一直往下走那世界模型最后就是接近这个世界接近这个世界从透过那模型你可以去学习你想在真实世界里面学习的东西那我觉得就是往那方向走最接近的就是你有能力随时可以做出一个黑客帝国的举胜我觉得就是这种样子那我我不确定是不是需要到97代你看我们如果就是每半年以来的话还要四十几年对吧四十几年对然后我觉得现在AI的发展 [150:00] 速度极快也许不需要到四十几年嗯因为你们团队又有做数字世界的模型又有做physical AI的模型你觉得训练两种模型的差别是什么差别大吗这个目前的状态是这样就是在NEMO床那边他们用一个叫做那个Hybrid Architecture某些层是传统的Transformer,某些层是Mamba-style的接近RN的架构。这样的架构有它的好处,因为RN的运算是比Influencer的运算是比Transformer便宜的。agent有一堆Token要产生,有时候你要Agent做很久的事情,所以这个是运算成本的需求。就不再走这个路线我们是还是走比较传统的Transformer但是我们走到这个Mitchell Transformer然后把这个Asian加进去所以这两边的模型的发展是就是渐渐有点不太一样但我们两个团队之间紧密合作你可以在Cosmo 3的这个paper里面发觉很多作者是从NEMO重来的然后我们就是跟他们合作吸取他们的经验然后一起去建一些模型在未来这两个模型有可能统一成一个更大的模型吗?这都是有可能,就是我们的决策很简单,怎么样可以帮助客户最好?我们就怎么说?我们是很low ego的刚才你也提到就是Cosmos是一个非常大的团队你觉得驱动这么大的一个团队一起工作难点是什么我印象中论文好像有290多人不到300人对吧对就是这个团队非常的大然后我是这样看的这是一个组织架构的难题你希望所有的目标一致但你又希望所有人可以自主做决定当全部人的目标一致但每个人都不能做决定的时候进展会很缓慢因为只有少部分的决策者可以做决定那这些决策者假设只有我能做决定只有我能决定这个这个Data的比例怎么调,只有我能决定这个架构怎么做那我们这个模型就不会成功因为我的知识有限然后我的时间有限然后我们需要的就是每个人都可以做出对这个组织对这个模型发展重要的决定那第二个事情就是如果大家都可以做决定但大家目标不一致我就是想把Action做好,我完全不管影片怎么样。然后我就是想Understanding做好,完全不管其他的,这样就会发散。然后可能就会产生不同的架构然后可能就进一步有赛马的行为那我觉得跑这么大的一个project重要就是让大家的目标一致但每个人又可以做出决定在主制架构上面,我花了很多心思去设计一些团队运作的合作方式,让资讯透明化,让每个人都有足够的资讯去做出对主正确的决定。当然我们也提供了容错的空间,因为当一个人害怕他决定错误的时候,他是不会做决定的。所以你要让他们可以做决定,但也要接受有些决定会错误。但是错误的时候要能快速修正,这些都是需要一些时间跟一些训练才能让整个团队可以朝这个方向前进。怎么让200多个人都同时做决定啊?这个好难啊。大家都清楚整个关键,整个project之后要达到目标是什么。你要一直去把未来给画清楚跟每个人讲,在Cosmos 3 paper出来之前,我做完之前,我就跟主要的几个leaders,还有大部分的团队都已经讲过说我们做出来模型会是这样子那是不是完全这样子呢?可能90%相似、10%不相似?但是当大家都看到同一个愿景的时候就比较容易集中像你在在一个篮球选手你在罚球之前你都会想象这个球空心落网就先把那个目标给盯出来然后大家再逃互方向前进那当然每个人扮演的角色不一样然后让大家看到同一个pitch的时候就比较容易在他的岗位上做出对这个团队正确的决定嗯 你设计了什么样的管理方法让大家的信息能更透明 能更好的协作有什么样的管理的技巧多用点心思了解这个怎样讲大家会懂注重沟通注重沟通会开例会这样的会议吗我是一个 就是我很讲求团结合作所以我们的会很多但是 [155:00] 不是每周一次我问每周可能十次游吧每周应该超过十次超过十次所有人还是多少人跟主要的例子每个比如说我们做video的就是定期开会的一周两三次吧嗯然后做understanding也是定期就是一周两三次然后还有各个环节的就是两三次就是呃就是会蛮多的然后会议上可以做一些沟通那当然会议大家会觉得就是开会呃有时候很没有效率尽量做的事情就是让每个会议都更加engaging,让每个人都能参与,这都是需要一些训练,让这个团队这样,那永远不会最搞笑,你可以大家都不开会各做各的,那不见得会成功 你可以一直开会什么都不做只是假也不会成功你就要选一个均衡在不同的时间点会有不同的一种调配方式那这个东西都是因任务因死而定的没有说一定的公司拿给另外一层是最好你看硅谷现在大家说OpenEye的企业文化是自下而上,Andropic是自上而下,你们属于哪种?我们是都有一个都会走向极端嘛天下分酒必合合酒必分就是东西就是物极必反,就是要掌握在那时间点,了解什么是对团队最正确的事情而不是就是一味的顺著一个方向一个模式而操作我理解Cosmos的爆发的时间点和Physical AI和机器人的爆发可能会有是正相关的对吗你觉得这个市场会在什么时候迎来一个所谓的Charge BT Moment大家都在追求这个Physical AI的确具比低momentTrashGPT Moment什么叫TrashGPT Moment呢?TrashGPT Moment跟GPT Moment有什么不一样?GPD Moment是跟我们讲说东西可以scaleScale 之后 模型能力会更强确实 模门是让大家清楚看到这样的一个scaling,这样一个好的模型,就是人的生活会产生什么样的变化。大家发觉这是一个有智能体可以跟他沟通可以跟一个知识广播的朋友那什么叫ChairGPT Moment for Physical AI? 应该是指说大家看到一个就是以AI为主的Enabled Physical AI的应用 让大家清楚看到说这东西是真的有用的那这东西什么时候会发生 真的很难去预测 但我看到是整个领域对这个Physical AI的兴趣越来越大流入的资金越来越多的有志者创立公司下去解答这个问题Physical IK可以利用在Digital AI上面的成功所以我觉得各项条件都逐渐在收敛当中我是希望尽快看到确局比例的moment尤其今年 尤其明年 我不知道但是我觉得它必然会发生你觉得人型机器人会在这个赛道里面成为主流吗我觉得人型机器人他的优势就是可以利用大量的这个人的数据来获得就是就是学习的素材然后来提升这些效果但人型机器人他本身就是越像人有腿啊有手啊然后这些东西就是相对的复杂度也比较高一点人型的啊只有上半程是人但下半程是一种移动平台那这样的平台也可以解掉很多问题那你说这样的是人型机器人吗我觉得也是吧就是半身像人对吧也不是全人型然后就像全人型的某些人型也更接近人型那有些人型不要不接近人型那我觉得人型机器人终究会是一个重要的这个就是关键但是多项人型这件事情大家都在都在那个尝试当中最终最终可能就是全人形式最适合各式各样的操作因为这个人类的环境就是设计给全人形的但最后还是要关键还是这个营运成本到底怎样是最经济效率最高那这就超乎我的专长我其实不知道那我的目标是满足帮助这些各式各样的physical airbuilder我也不需要做选择我就是聆听他们的声音看我们的模型怎么做可以更加帮助他们DeepMine谭杰老师他有一个预测他是觉得2035年到2036年可能是人型机器人成为主流的一个拐点是吧OK,我希望早一点,但我不确定。你觉得世界模型可能会有一个所谓的拐点吗?我觉得世界模型并不是新的,早就有世界模型了。 [160:00] 那我觉得世界模型会一直在做就是信仁的提升那我们所以大月母先生名看到模型越来越好对不对然后我觉得在世界模型上有看到越好我们这次在Cosmos 3也做出这个一个比较不一样的世界模型这种ONIMODEL的WALL MODEL 对所以我觉得还是有一些变化我会需要一点时间去让大家去吸收效果一下毕竟这东西不是这个模型出来后直接可以使用是必须要看怎么调配可以在这个啊就是机器人场景落点那我觉得是需要点时间那我觉得这会也会继续变化啊对会一直进步会一直变化因为你说你要为机器人构建一个黑客帝国嘛,那黑客帝国讲的本身就是一个人类沦为了机器的活体电池,然后活在一个虚拟世界matrix中,然后一个觉醒的人试图挣脱这个系统的宿命,然后来终结这个循环,那你现在为机器人打造这个matrix,如果有一天机器人要觉醒了,想要挣脱这个虚拟世界怎么办?我用黑客的地方是帮大家具象就是有一个世界模型这么快去加速学习很多人担心就是AI当它能力太强的时候会take over the world就会把我们给eliminate嗯 那我觉得这个社会是人去建立的这些科技是人在背后操作我觉得只要大家是有共识我觉得就是这件事情是不会发生然后再就是我这就比较哲学一点了,我觉得天然 suffering是一种驱动人去进步的一个重要的关节不是很确定这些SiliCon做成的Intelligent是不是有同样的Pain跟Suffering,然后我心里是产生存疑的状态啊,那我当然知道就是我们希望这个科技可以大幅度的改善人类的生活,那我们也需要做出这些相对应的啊,就是Garrel来确保他就是不会去影响这个正常世界的发展说到世界模型其他做世界模型的团队会把你当当做竞争对手因为大家觉得你也是做世界模型的但是你一直在说我不是你的竞争对手对吧你有什么想对他们说的吗世界模型这个工具对然后工具是解决问题有好多种不同问题要解最终要解的问题只有世界魔性是不够的取决于你要解的问题,如果说我们要去服务整个Physical Ethosystem,我们要建设世界模型让大家模型可以用皮肤靠爱的问题本身又特别的难 有好多其他问题要解如果你可以跟我们一起合作啊利用我们做的东西那你可以走得更快更远嗯这不是很好的一件事情吗对不对那让我们都是踩开源的状态那如果说你用我们就是做出比我们更好的模型那这模型也是开源的让大家可以用那我们也是帮助整个FIGUI System所以你做的比我们好我们也觉得这是一件好事对吧我觉得搭起团结合作去解调困难的问题也是一件很值得去做的事情那当然彼此之间就是互相抵触然后越来越往上爬,那也是很重要的一环。他们肯定会说,哦,英伟达又想来卖我卡了。你需要做运算嘛那我们这个啊现在这个英伟达的生态在这里有很多东西可以让你去利用的啊Why not?对吧?你要做一个生意都是要做投资的最重要的是你的货地是多少,而不是像这些Cloud Company,买了大量的GPU,但赚了更多的钱你们内部会讨论什么是下一个Cuda吗有可能是Cosmos过去的软体是建议逻辑然后Kuda是帮助把这些applications需要逻辑转换成GPU的运算未来的软体是AI为核心了AI是Be on top of other AI然后所以我们觉得做的NEMO床跟这个COSMOS都可能是未来的CUDA因为外部会对CUDA有非常多的复盘那作为你的视角你觉得CUDA是怎么做成功的它需要具备哪些要素像比如说现在COSMOS它具备了哪些不具备 [165:00] 吃那些了.它是一个可复制的路径吗我不确定这是不是一个可我觉得Kuda当初提出的时候是很前瞻性的想法是一个很冒险的想法所以在这个啊当都不确定这个Asterity Computing会不会是Bisting的时候,我们公司就做出了这样勇敢的投资。那我们做的大模型都得会于Kuda,然后可以往下走。我不会把这个Cosmo或NimoTron跟Kuda做同等的连结,因为我觉得现在的整个发展已经相对复杂很多了,有很多个不同的整个产业是很多个Stack的。我觉得合在一起可能是新的孤打,而不会说这个模型单一就是一个孤打。你还需要做serving啊你还是要去做那些infrastructure有很多东西要合在一起那CUDA你们觉得是哪些要素共同促成了它的成功KUNA一开始的时候就是在寻找application一开始scientific computing然后后来在Deep Learning 出来之后找到Cuda最重要的Application然后往下走,那CUDA还是一直在提供不同各式各样的application我觉得复制CUDA是一个很好的想法,但我不觉得你按照原来的路线就会走一样的路,我觉得这个环境是不一样的,我觉得是要adaptive,看清楚哪个时间可以做出哪些重要的工钱嗯所以你们不会拿着这个锤子去找钉子对吧拿着我要做出下一个CUDA就是当年是一个非常成功的决定然后我来做军天的决定就像老黄常讲的他的迪迪远是based on first principle,他是觉得什么合理,然后再往那个方向走,而不是找着拿着锤子去找钉子。因为你刚好加入英伟达十年了,这十年你变化大吗?你在英伟达的这个股票涨了多少倍了?见面了呃这些一切都是没有预期到的呃呃这段时间里面我们见证到一个没有人把AI跟英伟达连接在一起,便到一个全世界都把英伟达跟AI连接在一起到一个我父亲不知道什么叫因为达到全世界都不知道什么叫英伟拉的这个时间啊这是很巨大的变化嗯啊啊中间的历程啊也不是那么容易公司你从股价来看就有起起伏伏我记得那一年就是TPU 刚出来的时候公司股价掉了很大一劫,然后有些同学们在那时就对公司的未来产生了不同的想法,也就是例子了,但后来Ambira每年在Lperf里面都击败TPU,产生出更好的性价比后来就是只有我们参赛了这东西都都很难去预测,这些编画实在是很大,我觉得就是好在这长期间我更加理解到什么叫就是慢慢经营,慢慢去经营,然后找到一个你相信的目标,Based on first principle,一步一步往下走,你就看到老黄带着整个公司这么大一个团队,然后就是一步一步走向今天这个成绩,然后鱼有容颜,大张是这样。你当时加入的时候没有想到这一切对吧?你当时还有其他的offer,但没去。对,不可预期的,我当初加入的原因就是因为我想要有GPU,可以支持我的学术研究,是很简单一个原因。某方面来讲我也是非常first principle,我觉得GPU是,啊,做科研重要的工具,我要去GPU众多的地方那不如去一个生产GPU的地方另外一个offer是谁啊当时对我数个offer啊对其中有一个投资公司好他跟我讲说不管我去哪里不管对方给我多少钱我都给你四倍希望你可以加入他们的公司可以一起去研究怎么去用deep learning来做投资我本身对这个东西并不是很感兴趣我还是想做科研然后还是选择了NVIDIA当时NVDHE可能是更不知名的那一格是吗?是啊,对。你觉得,你看16年的老黄和现在老黄变化大不大?头发都白了。我觉得它 [170:00] 很大的压力但是他还是关心员工,然后很仔细的去阅读公司的员工学的TOP5 E-mail然后去找到一些讯号来帮助整个公司往前进步有很大的变化公司的规模很大的变化我们都加入的时候公司可能不到两万人吧然后现在已经两倍以上可能更多那GPU都还是桌机,现在都是Data Center,那时候没有Physical AI,现在Physical AI都成为了一个重点,变化是很大的你在过程中有见证因为答案哪些 pain and suffering 有没有詹晨常常在嘴边讲他说当然不是真的 他每次都讲说他每天都觉得公司只能要30天的现金流30天后就要破产现在还这么说他每天都这样讲每次开会都是这样提醒自己吓唬高管吗就是要求自己做出对公司最正确的决定然后有一年pandemic的时候整个经济状况不好然后那个时间点就是很多公司就开始菜园那我记得那次公司大会的时候我们就决定要踩什么我们要踩的就是 online.这样就省下一笔钱然后我们在研究哪些工具可以不要比如说在硅谷很多公司都用SAC来做这个通点我们来考虑是不是就不要slack了反正我没有email然后我们有两个两三个Cloud 比如说我们有时候用Microsoft有时候用Google是不是可以就取消一个可以看到公司就是在一些困难的时期做出一些相对不平凡的确定有些公司会把裁员来降低这个就是人事开销NVIDIA想的是什么可以节省掉一些不必要的开销照顾员工一起度过困难的事情为什么NVIDIA一直坚持不裁员它真的没有裁过员工吗我在英伟达的时间里面就是我没有听到任何裁员的消息也没有末位淘汰对吧我们没有所谓的末位淘汰然后就是我们只有给performance review那当然就是有些人会因为对performance的不满而离开然后有些人是就是这里有其他因素就离开但我们不会因为我们改变了产品的方向然后或者是因为就是这段时间内你就是performance不好而就让你走我们觉得人跟人之间的信任很重要认同感又安全感,他愿意讲出一些就是可能在一般担心被淘汰的地方不容易讲的事情。当没有所谓的末位淘汰的时候,大家也不会真的这么担心被淘汰而抢出头。在一个全部都抢出头的地方,反而不容易处成团结合作。我觉得这样的一个管理模式会促成一种公私文化。是跟那些会做末位淘汰的公式文化是蛮不一样的它的优点和缺点是什么呢我觉得就是公司员工想敢讲真话愿意团结合作缺点就是当一项科技逐渐变得成熟的时候这些员工需要一点时间学习新的东西做转型那重新学习新的东西是需要多一点时间的那如果你直接lay off再hire新的一批人那你可能可以直接hire到一些已经会这些东西的人所以这些经由转型做起来会比较慢一点,但是你得到的就是员工的信任,然后也可以团结合作的员工嗯 组织效力怎么提升呢这对你们来说是个问题吗就是大家只要充满热情然后觉得自己做的东西是很有意义的,然后整个效率就会提升。每个人都有选择。都会想做自己有成就的事情,如果公司提供这个环境,让大家可以去发挥的话,效率就会提升就让每个人可以做出他们最喜欢最擅长的事情 [175:00] 这些事情对公司又是有极大的利益的只要能抓这点我觉得就是一个很好的状态听上去不裁员有很多好处但是大部分公司都不是这么做的对吧是这是为什么然后以及老王黄为什么从一开始就觉得不应该裁员我觉得NVIDIA是一个想长久经营下去的公司然后我觉得这么多年,老黄在这个矽谷带这么多年,看到这么多风风雨雨,他选择的东西一定有他的道理。我觉得不是一个随机的选择,是一个生思守虑,我觉得这东西是...是他想要的企业文化他想要公司的运作模式是不是意味着当新技术来的时候因为它不会是最快的那个但是它依赖于你早十年或者早五年的提前布局这样他对快酒要求不高NBA就是跑马拉松嘛看得远你看Kula就是这样一个案例布局的思念嗯对吧好所以就是你要有很强的眼光然后长期投资 对你们也不赛嘛 对吗?我们不喜欢赛嘛因为我们通常都是这样做就是你去take the mission,你就相信你,但我们一起给你很高的把,希望你完成,就是用老黄话讲就是一直让你那个接受 pain and sufferingturture you to greatness 相信你,然后给你考验,然后不断的磨练你,让你一步一步往下成长,这是我们喜欢的模式你在英伟达受过最惨烈的suffering是哪个阶段啊做这些大模型 只是这几年都是这么辛苦的在往下走刚刚跟你讲那些东西很多都是从错误中学习嗯很多东西就是一开始也没有理解到这些东西最重要的东西那为了把东西做好然后当心做不对的时候要慢慢把东西给改进我觉得这段就是自从GPT起来之后整个这个AI的从业人员大家都感受到莫名的压力对然后这段时间里面就是这个叠代的速度啊然后大家都饱受的压力的那我觉得都是Pain suffering 啊尤其是当你每天灰洒这些GPU资源,灰洒这些年轻人的时间,然后做出成果没有打扰你最喜欢的结果,我觉得这东西无形上都是一个啊压力压力对你的生活状态发生变化了吗在这过去几年高校高校早几晚几我大概是四点到五点起来这么早早上起来的时候运动啊那些就是时间比较连续一到公司后就一直开会嘛然后所以十点到公司大概大概是九点到十点左右因为整个产业的迭代速度所以生活步料都变快还是要学东西还是很多但是处理的事情又变更多然后让自己更加搞笑你几点睡啊我大概大概十天左右吧十天左右十天到十一天左右四点五点起对不是每天都古顶但基本上是我的常态对英伟达的书也好或者老黄的传记也好都讲了很多他的管理方式能不能从更一线的视角来讲一讲就是英伟达的一些不一样的管理方式我们刚刚可能涉及到一个是不裁员第二就是TOP5员工就是要跟很多人就是讲这个他做的事情最重要的五件事情这件事情让你看清楚就是各种公司的大小讯号可以看到如果两个团队在做一模一样的东西,那个Top5的email就会自然写出来Media是一个相对很透明的一个组织架构苹果可能是返例就是我们追求的资讯透明这也是一个很不一样的考求那那些脑狂传记有些是比较戏剧讯的但很多都是你可以在英伟达工作的时候就可以感受到他认识很多员工我们常常讲Mission is the best然后因为觉得因为 [180:00] 有时候像是一个有机体没有那么强的框架当我们公司今天要走向这个方向的时候在各种不同组织的团队但有相对的技能就会四栋而来就往那个荒萧穹性就是像一个活的组织不是一个固定框架就说你在这个里面就不能做错的东西嗯没有关系你在公司哪里都没关系,当你要往这个方向前进的时候,你的团队是可以产生贡献的,就全部就online,就变成一个新的方向往这边转。Cosmo就是这样子一个案例就是很多人他可能不属于这个团队但是他都可以来支持这个团队的工作对Mission is the both而不是你的pose是你的poseMission is theBoss这几个是最具有特色的就是这几个让正公司的就是很活你看我刚刚讲的MISSION的BOSS就不是一个很硬的框架是个有机体那这个Top5让公司各个地方的微小讯号都可以传到扩散出去对吧那呃不愿意让就是不轻易lay off员工啊就是讲究转型讲究toucher让员工对这个公司将强信任然后可以彼此互相合作我觉得这几个都是呃因为大家很独特的地方一群S级的人一起工作和一群A+,或者A级的人一起工作哪个可能取得的成功更大呀你觉得大家在追求就是一加一大于二对然后是不是大家可以团结合作产生更大的效应是很重要一件事情然后当人多的时候就有一个沟通的成本然后沟通成本就是负面的你等于就是要人跟人合作相关但是又要降低这个国宫的成本那一群很聪明的人一起合作,大家都很聪明,很快就理解,然后瘦脚又快。但是如果人跟人之间无法互信的话,也很难得一加一大预,大家都防备着对方,不容易把最好的一面展现出来,或者是就是要展现出我就是比你聪明。那这样子也不见得是一个好的状态。那我觉得反而就是,就像打游戏一样,你不要整个团队全部都是弓箭手,有些人是负责防御,有些人是会补血的,各项不同的属性合在一起我觉得这样多元是一个比较好的状态你看你今天说了很多你没有竞争对手然后你不和任何人竞争都是客户然后大家都是合作伙伴这种low ego的状态是在英伟大发生的变化吗是就是这真的low ego还是这是一种隐藏我觉得是一种confidence是一种自信是觉得我们做出来的东西是可以帮助到大家那我的目标是帮助大家做好,但我对自己做的东西要求很高,我希望他变好但我的目标并不是击败对手我的目标是那个做出好成绩提出更好的foundation让大家可以动得更快这是跟老黄学的吗对我受到影响非常的深这是什么时候学的如果你是一个研究员你就是毕业的方法就是让你的论文在顶级的会议上被接受然后reviewer都会question你的东西是不是stale the art那你要stale the art代表说你要击败所有的人所以研究员都有这种心态就是我的东西要比你抢然后所以循着这个轨迹我也就是一开始就是一个就是我东西要做比你好嗯呃这个就是我要求当然好就是希望东西越来越好但久之后就是你知道就是你总是 still be up很开心我觉得我的付出整个团队的辛苦付出获得了一些回响不是这种肯定也是很好的一件事情不见得是要击败其他材质一定能产生贡献你不需要击败你的对手我不喜欢把他们当成是对手,喜欢把他们当成是伙伴嗯 [185:00] 你看 因为大家包括你然后包括Jason他出来经常会说take care of artists就不管是员工还是外部的合作伙伴这种take care是一种真实的吗就是他真是这么想的吗因为一开始的时候我们就是我们就是生产这个design house然后最后我们也没有什么consumer product都是靠着其他家公司帮我们做GPU卡我们就是一直有这个习惯就是要跟着整个ecosystem一起成长大家一起赚钱总不能说钱只有我们赚嘛这些帮忙做这个显卡词服器这些啊都要一型人往下走因为早期的显卡都是来做游戏我们也不做个游戏我们就是一直开发这些好的library帮助这游戏公司做游戏我们刚开始走向Deep Learning的时候那时候好几个框架比如说PyTorch、TensorFlow,还有一些MSNAN的东西我们全部都支持,然后后来OpeneIo的Tryden Compilot我们支持Tryton,VOM出来之后我们支持VOM,我觉得是真心的想帮助建在GPU平台的客户更加成功,他们更加成功代表他们可以服务更多客户,他们就有大量的机会会使用我们的GPU是一种真的是共利一起走向成功的路线那我觉得这张也是他建议人就不用你才把这个公司放在这么一个好的位置让帮助别人也可以获得获利这我觉得这不容易你近距离观察过老黄很多年如果只用几个字来形容他你会怎么形容啊我们叫他六边形战士就是不管是我们有时候开会他可以走到很深去研究这个register这个Computer Architecture Registr这个非常细的细节同时间又可以长到想到可以就可以教大家怎么做marketing怎么做这些非常high level的东西然后再处理这个不管是产品定价,跟客户的关系,面一面俱到然后就是他是极大的热情He gives everything he hasto help the company be successful.这是一个很令人佩服的操作各个方面都可以产生贡献然后各方向都尽力出到最好他是一个很厉害的一个人他对你鼓励比较多还是呃批评比较多一般来说鼓励批评都有当我还没有完全理解他怎么要怎么去跑这个公司的时候批评是比较多的但批评中心指代的鼓励希望你可以变好他的目标就是Touch your everybody to greatness经由这些磨练让你更加理解就是怎样做才能做出不平凡的事情这很好经历的你愿意花时间去偷求别人这是一件不容易的事情所以偷求别人你自己心里要产生很大的负担对吧而且你人生就这么多时间了你可以不管也许还是能打扰你要的东西,但是他愿意花时间去偷球别人让大家不断的进步这是不容易的一种事情它对你让你印象深的一句话是什么呢我觉得有一次我们在一个会上我们再比较两个solutions 两个东西然后我是做其中一个东西的,另外一个是其他人做的东西,我记得那时候我讲了一句话说他们用的setting是一个buffet的setting所以导致这个所以我们在这方面表现就没有达到我们的预期而落后这个竞品。嗯。那他那时候就有句话说你叫"快 baby"实际上没有什么是公平的你在写论文的时候常常讲说我的setting就是跟你的设定不一样所以不能同时比较但你的目标如果是要解决一个问题那你当然是是做这个要解决问题所需要的条件没有这条件你就想办法拿到但是我那句话让我印象很深刻就是我更加严格要求自己就是好找理由是没有用的就应该give everything you have我以前也听过这句话西点军校有些著名的那个书也是讲的就是没有理由No excuse但他跟我讲 [190:00] 那我的印象就更加深刻 因为比其他一个著名的人物那我觉得这句话对我的影响也蛮大我后来就不太找理由了如果当你作为一个研究员想成为number one和英伟达的本身的业务因为他不想成为强劲的竞争对手如果发生冲突的话你会选择哪一个我觉得那个就是科学的发展本身就是incremental的就是一直在进步一直在进步一直在进步你随时随地都可以提出影铺们就只要往上再走一步嗯No我觉得就是你的Obsalut No.1嗯,什么叫?嗯,那我这很难去定义什么叫No.1,然后我我比较喜欢看。 这是一个Frontier的模型吧?啊,嗯,对,但Frontier的模型啊,做出来那时间是No.1,很有成就感,但之后就会有其他的模型可以做上去。我是希望就是。你具备的啊就是做No.1模型的能力但是就是就是就是对这个社会影响最大最有贡献的事情嗯对因为你可以做出那么万的模型但你就是只给少部分人用或者是让权力过度集中在少部分的手里产生一些不平衡的状态,我觉得不见得是一件对的事情。我是希望具备No.1的能力,但是做出最次世界贡献最大的事情。具备number one的能力但是做出对这个世界贡献最大的事情是的所以最重要的是后面后面那个贡献对吗不是那个能力对对人来面就走一遭吗对吧然后你留下来就是影响这要活得久我的酒精会大一些,希望能产生一些做一些贡献然后就证明自己就是没有白带走一走 但是这样子你还有什么在研究生涯上觉得遗憾的吗你还有什么特别想得到的我觉得飞机软还没有成功嘛还没有到那个时间点是就是谈论这些我觉得我很开心那时候十年前我在我在讲这个Deep Nending会取代Compute Graphics成为一个最重要的这种这种影像生成的模式这件事情发生了我觉得还蛮开心的这件事情真的发生了那我觉得这种世界模型会是推动FigicoA成功的重要推手然后这是我下一个重大目标我希望这个东西也能成功你要比就是你有一个best favor award你就会想说我要拿两个然后我就照射线拿了十几个总是拿不完嘛比论文数总是有更多的论文那你比采线连数总是有更多的采推手你比钱总是有人更对我钱对不对?重点是我觉得你对自己的东西是不是很骄傲,我觉得过去很多东西我觉得我做不够好,但目前有些东西我觉得我做的不错,我接受,然后我觉得就是在我的能力范围内我觉得我做出了我自己满意的东西所以外部的很多衡量指标现在慢慢都变得没有那么重要了对吧?对,年轻的时候都觉得他们很重要为什么?这个人的Best Paper比我多?对,然后讲比我多然后现在觉得就是渐渐的这个不在意就是我中心就先转移帮助别人也许我现在care的帮助人够不够多你最近一年帮助了谁谢谢大家这些使用physical add 使用cosmo的user 我觉得我都有那默默之中替他们提出的帮助当然还有自己的团队,还有一些啊也就跟我交叹过的人我觉得或多或少我对他们生命都产生了一些影响嗯你也经常来中国嘛你怎么看中国的这一批模型的发展呀非常的 impressive, very impressive.这些从Deepsea开始啊,千问啊,豆包啊,我都把它全部讲一次吧。Minimax, Jill,然后Kimi啊,然后这些...Memo。 对,然后... 文员。 文员。 智服。 对,都做得很好。那还有一件事情就是,在美国啊 尤其是Fontier Lab [195:00] 现在的状态就是他们很少去遭受实习生,很多know how,科研的结果都只有在他们自己本身内部的实验室有那在中国这边看到就是他们像这些公司都遭受很多实习生帮助把这些know-how传递出去然后我觉得人类整个就是知识扩增啊就是diffusion是对我觉得是一件好事看到这些快速发展我觉得我觉得很impressive,还同时注重到这些diffusion大家对AI都充满的热情就是愿意去尝试我觉得这都是看到的一些现象现在您跟我说硅谷已经被LLM催眠了你怎么看他这句话我不觉得是纯粹被LLM催眠不能否认的就是现在在AI里面最领先的公司,就是模型上最领先的公司,不管是OpenAI,Andrope,都是从大语言模型出发的嘛。那这些模型也确切,我现在已经不知道没有Coding Agent我要怎么过下去,我也不知道这些事还太方便了,我就感觉很巨大的变化,也不是一件坏事嘛,就是LM真的产生了很大的用处然后帮助提升我们的生活我觉得很自然而然的就是大家会会想就是这东西竟然都都已经在这里了然后下一步是什么我觉得人自然会想要做哪件事情我知道领域里面有些人是把学术变成信仰但我觉得大部分人都还是从求知求真的角度出发但一个东西的在充分理解之后大家会找到新的东西来进行做突破,很难想像一个人就这么聪明的人一辈子就只做LLA嘛对啊我觉得这样会发生我并不觉得有这种催眠的事情只是对那些人而言对现在时间而言也许做LLA是一件很正确的事情昨天Fixas上市然后马上OpenEye Anthropical上市今年这些公司大模型公司的上市会对这个行业发生什么样的影响吗2026年会是巨变的一样这边上市大家都看到新闻了嘛就是会产生很多富翁对吧然后我知道就今年的房价在快速飙涨早期相信deep learning啊早期相信这个这个Space mission 这些人啊就是这些等于是对他们的远见对他们的勇气对他们的决心这一个认同我觉得都很合理对这些公司真的对世界产生巨大的贡献我觉得完全值得这个我觉得科技不会停在这里然后陆陆续续都会有新的事情发生100年前强盛的公司跟现在强盛的公司是完全不一样50年前不一样20年前不一样对我觉得这个社会只要组织架构还是一个好的良性的状态就会不断有创新发生就模型这场竞赛的终局可能是什么样短短几年已经发生这么大的变化再往远看呢我想这就很controversial我觉得模型的能力慢慢就会同意靠模型自己不会是区分,一定要靠一些其他的东西注织在一起领先的模型有更充裕的时间去找到区分的方式然后强大的公司也可以加达自己强大的ecosystem去做出一些变化对,然后我不会觉得像software刚出来的时候会写software公司很少现在大家都有解说服务然后每家software都有一个自己的区分方式,人家人活下来的software公司都有自己的区分方式了,然后我觉得没有理由模型会是不一样,我觉得会是一样。所以没有必要神化模型或者模型公司是吗?我把它当中艺啦,就是一个Black Boss这么多人不同尝试,最后就是一套学问,很多人都会中艺对吧关键是你要带他干什么对那有些人解读比较深一点那有些就是需要多点时间这都是我的预测我是觉得这些东西慢慢就会diffuse那假设一个新公司说我要训练一个模型它还有很大概率赶上来吗就它可能比前面的公司落后两三年的时间像Kimi或是Memo这些app都是算比较晚期出来的吧Kimi还行Memo比较晚对还是有机会 [200:00] 我是觉得就是会有一段时间大家会觉得算力不够然后我就算力慢慢就会起来都有办法去参加进程度这些上有报复有决心有办法去呃去挪动资源去见一个大模型团队的人很多还会有更多是吗我觉得如果说大模型是一个绝对的区分那当然就会更多但如果不是绝对区分应该会很多人就是想到对他们的必须你更有利的方式对我就是一种自然的平衡状态自然的平衡状态端次模型你觉得会多久之后爆发吗这东西跟那个physical AI会很相近吗刚也讲了就是我觉得资金渐渐投入然后可惜迭代很快也许这段时间我说不准但我觉得希望它快速爆发对于今年和明年的模型竞赛你有哪些预测那创作还是很快那我还是坚信这个Word的Model能力是帮助这些物理实验模型强化泛化的一个重要关键对,那怎么落地,用什么样的modality,这件事情大家都还在探索当中Chair GPT Moment for physical eye is这是我可能可以做的预测大语言coding模型这些东西我自己本身在follow但我自己不做我也很难去讲我是用得很开心但是我也很难讲接下来会怎么样刚才你说了中国的这些模型公司中国的机器人公司你应该也见到很多你觉得美国有什么不一样吗两边美国在做本体的公司很少就Tesla跟Figure AI这种好多家公司在做这个本体做本体他可以控制东西更多了可以控制模型跟软液体整合的超度公圈更大然后我觉得因为中国强大的制造业让产生一个很优势的条件可以让这些公司做一些在美国不容易做到的事情我觉得这都是很值得去关注这样的垂直转口会产生什么样的一个突破对我觉得还蛮蛮蛮有趣的你觉得美国现在会不会有一点嗯就是不那么重视硬件可能是错的也很难说,但是就是在这个如果说这种软硬体整合是一个机器人的一个趋势那没有硬件当然是处于被动状态有点难讲好多东西要考虑啊包含这个金融模式啊中国明显就是有这个条件可以让大家做快速的硬帝迭代那个软硬帝整合XBT Moment在Physical AI你觉得有可能在哪里爆发?看到一个应用是大家很明显知道就是产生巨大的经济价值也许在那个时间点那个应用并没有产生经济价值当GP刚出来的时候是赔钱的但是大家看到这个趋势然后我觉得就会发生那我个人觉得这种就是简单的人示范一下怎么要的操作这个基线就地学会这东西我觉得这是一个如果这东西出现,我看到这样的一个产品,我就觉得说,yeah, that's a chichichi moment for physical AI.所以它核心是反话?我觉得是反话,就是AI的核心问题就是解反话的问题。对于泛化来说现在最重要的一个问题是什么呀如果只说一个泛化的问题在physical AI里面就是怎样从这个有限的讯号里面学到需要的操作然后应用在一个没有看过的场景里面这个是Physical AI 里面要解的一个主要的泛华问题Observation对Action这个这个配合的繁华让你看到一些你看到这个Action跟Observation是完整的事情的怎么样快速泛化到一个新的 observation那是the action对我在想就是如果他在Cosmos这套系统里学习了大家走向现实世界的时候它还是会有simitual gap对不对怎么解决这个问题呢这也是一个泛化的问题对就是simitual gap通常是我们cosmo想帮助这个physical build [205:00] 是透过三个方式嘛之前有讲的就是Better Data, Better Starting Points, 跟这个 Better Environment.那我觉得Better Environment 这些东西是还没发生,是大家都希望能做出这个矩阵,但还没发生,就又陆陆续续有些突破,看到一些Walker都很不错。现在比较管用的可能就是Better Data跟Better Studying Points你拿一个懂这个比较懂这世界Picis怎么去预测Picis啊就是懂Picis可以去也不能说真的懂Fix,但抓到那个模式可以去Pretty加上发生什么事情这东西也许可以帮你产生更好的,做出更好的Policy那这东西因为它本身的Pile是比较适合泛化的那它也许就可以帮你建出一个更容易泛化的一个Policy Model我觉得这个是我看到可能短期内Cosmo Model可以对这个FishGuy的一个贡献如果五年后我在来采访你你希望Cosmos发展到什么阶段我希望五年后如果我们在有这样的一个采访我们可以轻手讲出来这期是甚么时候发生的对然后是在哪里发生我希望你可以可以这个事情是可以明确的讲出来几年几月几日那时候就有一个具体的时间了对对对在人工智能的历史上你希望别人怎么来记录你啊?不要讲我吧我觉得就是讲Cosmos吧希望Cosmo可能是一个重要的推手帮助这些几个重要的physical airbuilder达到这个确取比例的moment我觉得这个可能是我会很开心的一件事情我还有一些快问快答全球范围内一个你最喜欢的食物牛肉面全球范围内一个你最喜欢的地点我喜欢玩具天气实在太舒服了你有什么喜欢的音乐书电影或者游戏吗书蛮多的然后音乐我不怎么听我上次打游戏都是20几年人选的事情能分享一本真正改变你或者影响过你的书Jensen推荐的书他是讲positioning的一件事情然后我忘记这个书名叫什么很有趣的一个心理学的书然后让你更加理解问题的本质是什么嗯年轻的时候读了很多不同的书对我特别喜欢金油小说那那那是其中一环啊金融小说有帮助到你后面的科研或者是铁管里吗倒是没有就是里面的这些可以体会金融的各式各样的幻想很美的一些意境当然是把我推向了学中国武术的道路然后从中国武术里面得到一些历练我觉得那都是蛮不错的一些过程对于年轻的研究员你会有什么建议谢谢大家就是不要紧张为什么不要紧张我现在年轻的研究员都往往觉得就是好会不会明年这个AI就结束了就AI自讯练了不要紧张对自己有信心然后冷静下来那个看清楚什么地方是值得你投入精力不要被这些大家的这个宣传觉得好像自己路越走越窄现在研究员进入Physical AI是一个好司机好司机是一个男孩吗就是一个好时机嘛就是各种机会然后还有很多地方我当时做physical我比较懂但这些啊AI的进步让我们可以做出更好的这些material跟更好的药啊这些生物方面的突破我觉得在各行各业里面都可以渐渐看到这个这个AI的影响我觉得很多地方都可以去投入嗯我们工作室叫语言及世界工作室,当你第一次听到这个名字的时候,你在想什么?用语言来描述这世界上发生有趣的事嗯你觉得是大模型竞争不是鱿鱼游戏还是世界模型竞争不是鱿鱼游戏啊还是对于你来说不是游戏对别人可能是吧我不清楚你你你如果你如果大家想解的东西一模一样那就是有余有血对吧所以模型竞争不应该是有余有血就因为这世界上要被解的问题这么多啊对啊然后可以提供价值的东西这么多啊每个人喜欢的东西都不太一样啊 [210:00] Yeah, which is the... I think it's a good idea 你有过那种特别high ego的时候吗 I was young. The same thing. I think my... The best way to do it is Oh, I wrote the paper is so beautiful It's important to have good information and infrastructure That you can do fast-supers to get back Because you actually There are two possibilities: you can't do it, you can't do it Okay. That's fine, but when you first started to do the best, You can use good data and information to help you. And if you are using the standard rules, the standard rules will be better. So I think the difference between the two and the two are important. That is the same thing No. infrastructure. I'd see you soon. Data is important because if you have a problem, you can use data to write it. You can use data to write it. data is a bit easier And so I don't like to spend money on the internet. This problem is just data. I will be able to get it. I will be able to get it. Do you need to build a big company? You don't have to be a big company. If you're a commodity, do you need to build a company? You can't do it for your company to make your own music? Okay. Just to see if it's not a good economic effect. Right. In the early days, you have to do a car factory. When the company is not full of money, You can make a station for a long time But now this time you might not need to. Goodbye. You can talk to people with AI, they think that I'm the AI model is the best. I think this stuff has been in the website. I don't think this is a good thing. I don't think this is a good thing. You can see that Daryl Amade and St. Almond were not here. - Oh. - Right. - Oh. - He just went. - Oh. - Oh. - Right. - Oh. - And then you're in the Entropy. You're in the Entropy. You're in the Entropy. You're in the Entropy. I don't think that it's true. I'm not sure. I'm not sure. It's true. It's true. It's true. It's true. Yeah, the data. Oh, - The data is a good price. - You can buy a price. - Yes. So you can do it. You have a dream, and you... You have resources, you can do it. There's no need to be. Cosmos is a battle for you? If there are other companies that can't win, that's not. What's the name? I'm not going to be a battle for you. I'm not going to be a battle for you. I'm not going to be a battle for you. I'm going to be on this battle. Oh,不是. Just, you know, you all have to grow up in my life. I'm going to continue to grow up. Physical AI is a big market. Now, no machine has no machine. But if I have a device, I would buy 2 or 3. That means that every year of the year is to be able to do it. That means the world will grow up to the entire world This situation will happen to me, it is a huge advantage We don't think we should and kill people. We are now going to build a market. You understand what I mean? CUDA is the product of the market. We want to build the market for the next generation. That's what you say. uh, is I think it's not a good thing. It's a new thing. I don't have to compete with any other people. Yeah, it's the opportunity to take everyone to build the market. And then You can buy this machine and buy this customer. This... 东西会需要一些算力赚钱,那当然会有公司研发自己的晶片,他也会赚钱,那整个市场就起来,原本是nothing。 老黄会分享类似的观点吗?经常说什么? 经常说。 造市场,而不是在存量竞争。 对,你读他的书就会发现,他讲说我们就要做这种Gito billion dollar business,什么叫Gito billion dollar business?就是现在不是个business,但以后成功后会变billion。 Mm. If there is no one else in the world, It's not easy to say. 这是一种拥抱风险还是一种 It's a risk. Thank you. This is a risk for the risk. We are doing the same thing as risky. Kuda was a risky thing. It was a risk for the money. It was a risk for the money. We're going to build a Cuda, so the GPU price is higher. [215:00] 同样的flops比很高因为我们要支援这个programmability你不这么做你做这件事情很risky你不做这件事情更加risky你不做那件事情别人做了的话对于你们来说就对非常的有风险呃不做这件事情的话就是你的东西就渐渐变commodity你还要从老黄身上学到什么没有我都尽量很用心的学习他怎么去跑其他东西然后从里面去应用在跑Cosmo为什么其他公司都说CEO不应该是最努力的人但是你们公司CEO是最努力的人对谢谢大家四做AI真的是很有趣的一件事情尤其是在大家角度里面看到他的贡献改变世界我觉得是很有成就感的一件事情不愧是教主是的