## TL;DR
访谈回顾了刘洺堉从早期在马里兰大学读博、三菱电机研究院任职,到加入英伟达开创GAN图像生成、Picasso平台及主导Cosmos世界模型的十年历程。刘洺堉深入剖析了Cosmos 3采用多模态与双塔架构的技术取舍,阐明其作为世界基座模型(World Foundation Model)赋能具身智能与物理世界开发者的核心定位。同时,他详述了英伟达不做存量竞争、专注开拓“从零到十亿美元业务”的生态赋能观,并分享了黄仁勋“公司离破产永远只有30天”的危机感与“Mission is the boss”的组织运作哲学。最后,刘洺堉结合自身数十年的中国传统武术修习,阐述了通过自我克制、摆脱自负、以数据和工程闭环驱动技术突破的深层思考。
刘洺堉引用黄仁勋的战略构想阐释了技术开拓的意义:“经济的繁荣程度是根据钱多快从一个人的口袋流到另外一个口袋,那研究的繁荣程度应该是根据idea多快从一个人的脑袋流到另外一个脑袋去。”他更透露了一个关键内幕:当团队完成Cosmos 1的时候,刘洺堉去询问黄仁勋是否要继续做下去,黄仁勋非常坚定地告诉他:“你就做到Cosmos 97。”黄仁勋虽然时刻保持危机感,“他每天都觉得公司只有30天的现金流,30天后就要破产”,但他也是一个极具战略耐力、善于跑马拉松的人,会提醒团队“pace your steps(稳住节奏,不要急躁)”。
```mermaid
flowchart LR
accTitle: Evolution of Liu Ming-Yu's Research Direction at NVIDIA
accDescr: Diagram tracing Liu Ming-Yu's journey from early GAN research to Picasso and the Cosmos World Model.
subgraph Phase1["初期探索 (2014-2019)"]
A["Job Talk 设想:<br/>深度学习取代传统渲染"] --> B["无配对图像转换<br/>(UNIT)"]
B --> C["GauGAN & StyleGAN<br/>(AI生成图像代表作)"]
end
subgraph Phase2["商业落地 (2019-2023)"]
C --> D["Deep Imagination<br/>Research 团队"]
D --> E["Picasso 平台<br/>(与Getty/Shutterstock合作)"]
end
subgraph Phase3["具身与世界模型 (2024至今)"]
E --> F["立项 Cosmos Project<br/>(黄仁勋命名)"]
F --> G["转向 Cosmos Lab<br/>(聚焦 Physical AI)"]
end
```
最终,刘洺堉拿到了美国马里兰大学(University of Maryland)的博士录取通知书。马里兰大学毗邻华盛顿特区,由于早期计算机视觉领域的大额经费主要来自国防与军工科研项目,那里汇聚了一批美国早期CV与AI领域的殿堂级宗师。原本计划研究量子通信的刘洺堉,在踏入马里兰的那一刻,果断追随内心的真实好奇,正式叩开了计算机视觉的大门。
刘洺堉的第一份全职工作选在位于麻省剑桥、紧邻 MIT 的三菱电机研究院(MERL)。MERL 在上世纪 90 年代与微软研究院分庭抗礼,在图形学领域极具盛名,走出过 Bill Freeman、Ramesh Raskar 等知名学者。尽管刘洺堉加入时黄金期已过,但研究环境依然自由。面对深度学习带来的范式转移,他不觉得失落,反而充满好奇;早在博士最后一年担任实验室大师兄时,他就组织师弟师妹们研讨深度学习,即使有师弟劝阻说“这东西只有几个人会,没有必要去研究”,他仍坚持办下去。导师 Rama Chellappa 坚信贝叶斯与生成模型是理解世界不可或缺的部分,这一理念深植于刘洺堉心中。后来在 NeurIPS 大会上看到伊恩·古德费洛(Ian Goodfellow)展示的生成对抗网络(GAN),刘洺堉受到极大震撼,决定全力押注生成模型领域。
```mermaid
flowchart LR
accTitle: Evolution of Computer Vision Paradigms
accDescr: Transition from traditional vision through AlexNet and GANs to multimodal generation.
subgraph Traditional["传统 CV 时代"]
A["手工特征与优化算法<br/>SVM / 图模型 / 3D标定"]
end
subgraph DeepLearning["判别式时代"]
B["AlexNet (2012)<br/>ImageNet 图像分类"]
end
subgraph Generative["生成式时代"]
C["Goodfellow 的 GAN<br/>生成即理解"]
D["多模态生成<br/>Image / Video Translation"]
end
A -->|"AlexNet 范式转移"| B
B -->|"从判别到生成"| C
C -->|"条件控制与结构扩展"| D
```
谈及为何早期就执着于做生成模型,刘洺堉援引了物理学家理查德·费曼的名言:“If I cannot create, I cannot understand(凡我不能创造的,我就不能理解)。”传统计算机视觉主要依赖判别式模型(Discriminative Model),如 AlexNet 做分类,只能判断是 A 还是 B;而生成模型(Generative Model)不仅能重建信号,还能把底层结构描述清楚。“当你可以去生成它,才是真正去彻底地理解它。”
尽管付出了巨大的工程与算力代价,严密的实验最终得出了残酷的结论:“GAN 不 scalable。”面对全组都是冲着做 GAN 而来的研究员们,刘洺堉在 2021 年前后做出了战略转向决断:“我们不能做 GAN 了,这个方向不 scalable。”当时他们看到了刚刚兴起的扩散模型(Diffusion Models)具有极高的训练稳定性。在谢赛宁(Saining Xie)与威廉·皮布尔斯(William Peebles)等人将 Transformer 引入扩散模型(DiT)后,刘洺堉团队全面拥抱 Diffusion 与 Transformer 路线,相继打造出 Edify 图像生成、Edify 3D 及 Edify 视频生成等一系列工作,为后来的 Cosmos 世界模型筑牢了技术基石。
---
`01:00:00` 实习生生态、加盟英伟达与黄仁勋的 GPU 分配法则
在回顾技术演进时,刘洺堉坦言并不后悔当年在传统视觉和 GAN 上投入的五到十年:“那时候的算力、那时候的数据,在那时候做那些事情是合理的。”就像黄仁勋常说的“Suffering leads to greatness”,所有的技术沉淀最终都汇聚成对物理本质更简洁的洞察。他极其看重年轻实习生在实验室的作用,他打比方说:“经济的繁荣程度取决于钱流转的速度,而研究的繁荣程度取决于 idea 从一个人的脑袋流到另一个脑袋的速度。”
```mermaid
flowchart TD
accTitle: Research Resource Justification Loop
accDescr: How researchers align technical ambition with NVIDIA's business mission to secure compute.
A["研究员的雄心与技术设想<br/>(High Ego / 探索前沿)"] --> B{"对齐英伟达核心战略<br/>(Mission is the Boss)"}
B -->|"解释商业与技术影响力"| C["打动非技术管理层与黄仁勋"]
C --> D["获取大规模 GPU 算力资源"]
D --> E["交付高可见度成果<br/>(GauGAN / Cosmos 等)"]
E -->|"建立信任资产"| B
```
加入英伟达初期,研发团队不足百人,且大多专注于计算机图形学(Graphics),在 AI 领域声量很小。但刘洺堉迅速崭露头角,成为最早利用海量 GPU 进行大规模生成模型研究的先驱。谈及如何在英伟达内部争取珍贵且永远短缺的 GPU 算力,刘洺堉分享了他最重要的职场心得:研究员往往自负(high ego)、文人相轻,总觉得自己研究的算法最重要;但公司运转的终极目标是为股东创造价值,保障成千上万员工家庭的生计。“你必须理解公司的痛点,把你的科研价值翻译成商业与战略影响力,向不懂技术细节的领导层把道理讲得清清楚楚:为什么你做的东西能改变世界并为公司造就未来。”正是这种将顶尖科研与公司战略同频共振的能力,让他赢得了黄仁勋的长期信任。
`01:10:00` 三菱电机的教训与纯研究周期的宿命
刘洺堉谈到了自己职业生涯中认知转变的“第二个时刻”——如何让公司和他人理解自己研究的价值。他分享了早期在三菱电机研究院(MERL)的见闻。在20世纪90年代,三菱电机研究院是一个极具盛名的研究圣殿,汇聚了包括 Bill Freeman 在内的大批顶级学者,开展没有任何束缚的探索性蓝天研究(Blue Sky Research),完全具备与微软亚洲研究院和北美微软研究院同台抗衡的实力。然而好景不长,公司战略发生转移,管理层开始质疑这些高投入的纯前沿研究对主营业务的实际回报到底是什么。最终,这批顶尖研究人员陆续离开,有的转投微软,有的前往 MIT、莱斯大学、哈佛大学等高校任教,还有的去了迪士尼;留下来的人则被迫将精力转向工业相机、机械臂等与三菱核心硬件直接绑定的具体业务。
谈及 Cosmos 项目的具体立项节点,刘洺堉回忆是在 2024 年 3 月左右,恰逢 OpenAI 发布 Sora 之后。“大家都在想说这个是充满了决心一定要做,然后很荣幸的 Jensen 就是信任我,让我去带这个 project。”刘洺堉透露,在 Sora 之前,要说服黄仁勋立项做大规模视频生成很困难,但 Sora 出现后,以黄仁勋的敏锐洞察力,一眼便看清了这项技术对英伟达的深远影响。黄仁勋是一个极具纪律性的领导者,擅长打持久战,常告诫团队“Pace your steps”(放稳节奏,不要急躁),一步一步朝着长期目标迈进。
Sora 发布后,英伟达内部从事生成式模型与媒体生成的资深研究员们达成共识,大家共同撰写并签署了一封发给黄仁勋的邮件,促成了立项会议。在那场会议上,团队正式确立了方向与分工。黄仁勋要求大家去构思名字,刘洺堉原本想让黄仁勋直接定夺,但黄仁勋坚持要求团队深入思考,因为命名与产品定位息息相关:
- Sora 早期 demo 的定位是服务内容创作者的创作工具;
- 英伟达将其定名为 **Cosmos**(宇宙),目标从一开始就不是生成艺术内容或做创作平台,而是为了解决物理世界的问题,面向 Physical AI 开发者市场。
“还有一方面来讲就是,NVIDIA 是走这个 developer market,就是帮助这些开发者做出更好的产品。我们自己不会经营一个社群网站,也不会去建一个创作工具,这有点太 To C 了,对于英伟达来说。”刘洺堉强调。
---
`01:45:00` 何为“世界模型”?拒绝空泛定义,聚焦基座(World Foundation Model)
但面向 Physical AI 的基座模型有着根本区别:物理世界的智能体(Agent)必须改变世界状态,因此**Action(动作)必须作为一等公民**。触觉传感器(Touch Sensor)信号虽重要,但目前软硬件生态尚未成熟,因此暂未吸纳。
针对杨植麟(担心视觉拉低语言模型的纯逻辑智力)与谢赛宁(认为语言是人类进化的脚手架,反而可能污染对视觉物理本质的学习)两种对立观点,刘洺堉给出了他的工程视角:
“应该这样讲吧,就是我们的目的不同。我的目的是希望这成为一个好的 foundation model for physical AI,它需要懂 language,需要知道这个东西怎么变动,然后有 action 藉由 control 把它合在一起去做。那我的目标不是去追求 AGI。”
而在数据采集端,Physical AI 面临形态各异的巨大挑战。英伟达将其解构为两类基础数据:
- **导航数据(Navigation data)**:从 A 点到 B 点,本质是相机在三维空间中的位移与旋转,不同形态机器人之间高度通用,相对易于采集。
- **操作数据(Manipulation data)**:用手或工具操作物体,复杂度极高。
在讨论物理世界模型的演进时,刘洺堉指出,Cosmos 3 提出了包括全模态世界模型(Omnimodal World Model)在内的新思路。尽管这一成果令人振奋,但他认为社区仍需时间来吸收与消化,因为模型发布后并不能直接拿来即用,关键在于如何针对机器人落地场景进行精细调配。面对张小珺提出的隐喻——“你说你要为机器人构建一个黑客帝国,但《黑客帝国》讲的是人类沦为电池、觉醒者试图挣脱虚拟世界,如果未来机器人也想挣脱这个矩阵该怎么办?”——刘洺堉笑着回应,自己引用《黑客帝国》纯粹是为了向大众具象化展示世界模型如何大幅加速机器人的学习,而非贩卖末日焦虑。
谈及人工智能是否会接管并毁灭人类的哲学命题,刘洺堉持有审慎而乐观的态度。他认为科技由人类创建,只要社会保持共识并设立严密防护栏(guardrails),失控便不会轻易发生。他还引入了一个更具哲学意味的视角:“我觉得 pain and suffering(痛苦与受难)是一种驱动人去进步的重要关键,我不是很确定这些 silicon(硅基)做成的 intelligence(智能)是不是有同样的 pain 跟 suffering。”在他看来,正因为人类体验过痛苦与脆弱,才会产生持续求存与进步的本能,而机器目前并不具备这一内核。
针对行业内其他世界模型创业团队将英伟达视作强劲对手的疑虑,刘洺堉明确予以否认。他重申自己的原则是做大生态而非你死我活:“你要去服务整个 Physical AI ecosystem,世界模型只是一个工具。如果你可以跟我们一起合作,利用我们做的东西走得更快更远,这不是很好的一件事情吗?”他大度地表示,英伟达将模型完全开源,若其他团队在此基础上做出了更优的模型并回馈给行业,对整个实体人工智能生态也是巨大的推动。对于外界调侃“英伟达是不是借机卖卡”,刘洺堉坦率承认算力投入是不可避免的商业投资,就像各大云厂商虽然采购巨额 GPU,但依托算力生态创造的商业利润远高于卡本身的成本。
subgraph Infra["基础设施与算力底座"]
GPU["GPU 计算集群与硬件加速"]
Stack["Serving / 系统级全栈软件"]
end
subgraph Model["基座与工具层"]
Cosmos["开源 Cosmos 物理世界模型"]
Omni["全模态驱动与仿真框架"]
end
subgraph Partners["外部生态系统"]
Robotics["机器人制造与端侧研发"]
ThirdParty["第三方世界模型与算法迭代"]
end
GPU --> Cosmos
Stack --> Cosmos
Cosmos --> Omni
Omni --> Robotics
Omni --> ThirdParty
ThirdParty -.->|"反哺繁荣"| Robotics
```
---
`02:44:20` 寻找下一个 CUDA:第一性原理与无法被单一模型定义的“新底座”
张小珺提及外界常讨论的宏大命题——“Cosmos 会是英伟达的下一个 CUDA 吗?”对此,刘洺堉剖析了两者的本质异同。过去的软件依赖逻辑构建,CUDA 的使命是将应用所需的纯粹逻辑转换为底层的 GPU 并行运算;而面向未来,软件生态正转变为以 AI 为核心构建,呈现出“AI 建立在其他 AI 之上”(built on top of other AI)的形态。在这一愿景下,无论是大语言模型底座 Nemotron 还是世界基座模型 Cosmos,都蕴含着扮演未来开发底座的潜力。
回顾加入英伟达整整十年的历程,刘洺堉感慨这一切都是“完全不可预期”的梦幻巨变。十年前,父母与大众根本不知英伟达为何物,更无人将英伟达与 AI 画上等号;而如今,英伟达已成为全球 AI 革命的代名词。这十年绝非坦途,他见证了股价跌宕起伏的幽暗时刻——尤其是在谷歌推出 TPU 初期,资本市场唱衰,英伟达股价暴跌,公司内部甚至有员工对未来失去信心而离职。但随后英伟达凭借在 MLPerf 基准测试中连年击败对手的硬核性价比,以及坚韧的长期主义,最终熬到全行业只剩英伟达能在该领域持续提供顶尖方案。
谈及 CEO 黄仁勋这十年来的变化,刘洺堉打趣道“头发都白了”,作为万众瞩目领袖的重担急剧攀升,但他始终保持着惊人的敏锐度与一线参与感,依然亲力亲为通读员工发送的 Top 5 汇报邮件来捕捉系统信号。英伟达最让刘洺堉触动的核心文化,是黄仁勋嘴边常年挂着的一句口头禅:“他每天都讲,公司只能活30天,30天后就要破产。”即便在今天市值顶峰,黄仁勋在开会时仍时刻以此警告自己与管理层,通过将危机感推向极致,来逼迫全员做出对公司长期生命线最正确的抉择。
在被问及个人在英伟达经历的最惨烈阶段时,刘洺堉坦承正是近几年死磕大模型的时期。GPT 爆发后,技术迭代以惊人速度狂飙,整个 AI 从业人员都背负着无形巨压。作为团队领导者,每天调用极其昂贵的庞大 GPU 集群、耗费大批年轻天才的时间,一旦实验结果未达预期,内心的挫折与煎熬难以言表。但他引用黄仁勋的信念表示,正是这种“接受 pain and suffering,touch your greatness(经受痛苦与折磨,方能触碰伟大)”的过程,逼迫团队从无数次错误中汲取教训并飞速蜕变。
在访谈中,张小珺探究刘洺堉言谈间展露的“毫无敌意、全员伙伴”的低自尊(Low Ego)姿态,究竟是英伟达带给他的烙印,还是某种韬光养晦的保护色。刘洺堉真诚回应,这绝非虚伪的谦虚,而是一种深刻的自信。他回顾了自己的思想蜕变:早年作为纯粹的研究员,唯一的生存通道是在顶级学术会议上发表论文,同行评审会逼问你的工作是否是 State-of-the-Art(SOTA),这驱使研究员本能地想要击败全世界。但随着他在英伟达步入管理层,眼界拓展至全生态赋能,他逐渐意识到论文数字与 SOTA 不过是过眼云烟,“你不需要击败你的对手,我不喜欢把他们当成是对手,喜欢把他当成是伙伴。”看到合作伙伴因为使用了团队开发的开源模型而大幅提效,这种回响所带来的满足感远超击败竞品的虚荣。
刘洺堉用“六边形战士”来形容黄仁勋:在技术细节上,老黄能瞬间下潜到计算机体系结构中底层寄存器(Register)的最微小细节;转过身来,他又能在宏观层面精湛地把控市场营销、产品定价和全球客户关系,在每个维度都倾注毫无保留的极致热情。刘洺堉深情地讲道:
> “He gives everything he has to help the company be successful.”
谈起老黄对自己的磨砺,刘洺堉分享了一件令他终生难忘的往事。在一次内部技术选型会议上,团队正在对比两个不同方案,刘洺堉为自己的技术落后于竞品辩解,称对方测试时使用了一套“不公平的设定(unfair setting)”。话音未落,黄仁勋当众劈头盖脸掷出一句锋利的反问:
> “Are you a crybaby?”
面对“想成为技术 Number 1 的学术野心与英伟达倡导的赋能定位发生冲突时如何取舍”的追问,刘洺堉给出了极其坚定的价值排序。他认为科学本是渐进式推进的产物,任何 SOTA 都会迅速被翻页,与其守着“世界第一”的名头画地为牢、把技术封锁在象牙塔中造成权力失衡,不如具备打造顶尖技术的能力,却选择将其开源普及:“具备 Number 1 的能力,但是做出对这个世界贡献最大的事情。”在历经学术沉淀后,他早已释怀了顶会最佳论文数量、引用次数或财富的多寡,唯独在意自己的研究能否实质性推动物理 AI 走向成功。
谈及中美在机器人及具身智能(Physical AI)领域的生态差异,刘洺堉指出,美国目前专注做机器人本体(hardware body)的公司其实很少,主要就是特斯拉(Tesla)和 Figure AI 等少数几家;而中国则有大量公司在扎实推进本体研发。做本体意味着掌控的系统广度更深,能够对软硬件一体化整合进行更大范围的调优与协同。中国强大的制造业基础为硬件快速迭代提供了天然的优渥条件,能够完成很多在美国极难实现的事情。面对美国业界是否存在轻视硬件倾向的提问,刘洺堉分析称,如果软硬件深度整合确实是未来机器人的必然趋势,缺乏硬件制造能力的一方确实会陷入被动。中国依托供应链体系所带来的敏捷硬件迭代与软硬协同能力,展现出了独特的垂直整合优势。
- **模型泛化关键**:World Model 赋能物理世界理解与动作规划,是 Physical AI 突破泛化瓶颈的核心抓手。
- **美国本体现状**:本体制造企业相对稀缺,代表性玩家主要为 Tesla 与 Figure AI。
- **中国制造优势**:强大的供应链与工业制造能力支持低成本、高频次的硬件原型与系统迭代。
---
`03:23:18` 物理世界 AI 的“ChatGPT时刻”与泛化问题本质
张小珺追问 Physical AI 的“ChatGPT时刻”(ChatGPT moment)何时到来、会以何种形态爆发。刘洺堉认为,标志性时刻的出现往往伴随着一个极具辨识度的应用:大家一眼就能看出它所蕴含的巨大经济价值,哪怕它在刚发布的当下可能还在赔钱(正如 ChatGPT 刚推出时一样)。在具体交互形态上,刘洺堉描绘了令人信服的场景:“就是简单的人示范一下怎么样的操作,这个机器人就地学会的东西。如果这东西出现,我看到这样的一个产品,我就觉得那就是 ChatGPT moment for Physical AI。”
谈到这一愿景的技术核心,刘洺堉直言“AI 的核心问题就是解泛化(Generalization)的问题”。在物理智能领域,泛化主要体现为:如何从极其有限的示教或传感信号中,学会所需的操作技能,并零样本(zero-shot)或快速迁移到一个此前从未见过的全新场景中。也就是如何让系统在面对全新的环境观察(Observation)时,依然能输出正确有效的一连串动作指令(Action)。针对学界和工业界普遍头疼的虚实鸿沟(Sim-to-Real gap),刘洺堉指出,这本质上也是一个泛化课题,Cosmos 世界模型系统正试图通过三个维度赋能 Physical AI 开发者:
刘洺堉解释,英伟达的核心诉求是推动 Physical AI 成为下一个庞大的实体市场。目前全世界大部分家庭都还没有机器人,但如果未来每个家庭购买两到三台,每台机器人的感知、推演与规划都需要充沛算力支持,全球的计算需求将迎来指数级增长,英伟达的芯片与软件生态自然会是最大的受益者。做 Cosmos 开源世界模型,正是通过赋能开发者降低门槛、共同把整个机器人市场做大,这与当年英伟达顶着巨大风险推广 CUDA 如出一辙。
在英伟达内部,CEO 黄仁勋经常向管理层强调不要沉迷于“存量竞争”,而要全力去开辟“从零到十亿美元的业务”(Zero-to-billion-dollar business)——即瞄准那些当前几乎还不存在、甚至年年亏本,但一旦做成就具备极强行业影响力(Influential)的全新赛道。刘洺堉以 CUDA 为例说明了风险的辩证关系:
访谈在对黄仁勋管理风格的探讨中收尾。张小珺询问为何在许多科技公司倡导 CEO 放权、不该做“最拼命的人”时,身家百亿的黄仁勋却始终是英伟达最努力、每天清晨四点多就开工的那个人。刘洺堉感慨道,老黄如今的驱动力早已超越个人财富,一方面是对数以万计员工及英伟达大家庭(NVIDIA families)的深厚责任感;另一方面,站在他的战略高度,能亲眼看到自己参与研发的 AI 正在重塑各行各业、深刻改变世界,这种巨大的成就感本身就是最强劲的精神引擎。刘洺堉由衷附和,这正是黄仁勋被业内敬称为“教主”的原因所在。
## Notable quotes
> `01:00:00` 经济的繁荣程度取决于钱流转的速度,而研究的繁荣程度取决于 idea 从一个人的脑袋流到另一个脑袋的速度。 — 刘洺堉
[0:00] Hello大家好,我是小俊今天我在上海,谈话对象是英伟达的研究副总裁刘明玉我们的谈话时间是黄仁勋刚刚访华之后的一个月明玉给我的印象一直是穿着很朴素背着一个有点旧的鞋挂包很谦和不过英伟达内部的人告诉我他不像是一个典型的研究者更像是一个工程上的领导者黄仁勋给他一个评价是GST,Getting Sheets Done。不久前,刘明玉带领团队刚刚发布了英伟达的世界模型Cosmos 3,所以在这次访谈中,我们聊一聊Cosmos 3,世界模型,同时也聊到一名研究者长达20年的求索,而这名研究员的身份很特殊,他身处在英伟达这样一个基础设施型的巨大的系统之中,这改变了他的很多的研究思路。当然我们也很不自觉地聊了一些关于英伟达和黄仁勋的内部的故事林玉说做模型就要low ego模型竞争不应该是一场鱿鱼游戏那接下来就是我对英伟达研究副总裁刘明玉的访谈这种常常在讲就是他喜欢这种Zillion Dollar Business你可以是不赚钱Infinancial的是很巨大的经济的冒险程度是根据钱多块从一个人的口袋流到另外一个口袋那研究的茂盛程度应该是根据idea多快从一个人的脑袋流到另外一个脑袋去我们做完cosmos1的时候问那个jensen要不要继续往下做然后jensen跟我说你就做到cosmos19-17因为他是一个很有记忆的人有些东西其实很重要他会叫你pacepace your steps就是让你不要急他擅长达马拉松站他每天都觉得公司只能要30天的现金流30天后就要破产英伟达十年了这十年你变化大吗你在英伟达的股票涨了多少倍了一共Hello 明玉 要不跟观众朋友们先打个招呼线上的朋友 大家好 我是刘明玉因为刚才我们也聊到你到美国了20年然后在英伟达了10年你现在讲中华还多吗 在公司里面就是有时候会讲中文但大部分的时候还是讲英文因为大部分的时候,团队里还是很多人不会讲中文,所以沟通上就是以英文为主。但如果说在一个小组会议里面参与的都是讲中文的,那很自然而然就会切换到中文模式。这次你来中国的行程是什么样的?你多久会来一次中国?我现在大概是每一年会来二到三次中国因为我主要的公司给我的任务我个人的兴趣在Physical AI在中国这里Physical AI的发展是非常的茂盛很多公司很多研究员在做出重大的突破我们在这里跟大家交流也理解一下我们如何可以帮到他们这次来感觉到有什么不一样吗跟之前这次来我看到的是越来越多的关于手灵巧手在这个关键的科技上面做出突破然后去追求下一个质疾外可以达到的一些重点能力就是跟上次来发觉就是速度非常的快进展非常的快然后每次都学到很多东西这应该是你第一次做一个中文的podcast我想能帮助观众或者听众朋友们建立一个印象title是研究副总裁能不能介绍一下这个职位然后以及你们团队的一些构造和人数我现在是研究副总裁另外也是Cosmos Lab的副总裁那我们的团队呢就是研究员加工程师之属于我这里的大约有八九十人那另外公司还有其他的团队也是在做Cosmos 英文叫30 The Line 虽然他不直接report给我但是我是整个Mission的Oberal Peak 就是发号司令的人然后决定方向的人 所以这些人也是遵循我的指示 就是跟整个团队一起合作
[5:00] 交给退出去做COSMO应该有两到三百人之间这是一个在英伟达里面很重大的一个专案我们花很多资源这样的人员投入是我们觉得需要的做出好的成果我看到你之前还管一个团队叫Deep Imagination Research GroupCOSMO是它演化来的吗它们是什么关系是的我大概是十年前的时候加入英伟达那我在加入英伟达的时候我的目标就是我那时候给Job Talk在跟英伟达推销我自己的时候我的Job Talk讲的是那是四年前我讲的是说有一天最主要生成视频的运算将会是Deep Learning而不会是传统的Computer Graphics在那时期就是电脑特效电影特效用这种Graphics传统的Graphic Pipeline去生成漂亮的Graphics是主流然后我是在这个领域里面早期认为就是Deep Nending是未来的去世那我记得那候我跟我的cheap scientist Bill Daly在那时候的presentation我的presentation里面就是讲Deep Learning因为他是data driven他可以做到很多传统graphics可以做不到的事情比如说我有一天可以把小说当成是input这个Deep Learning就会产出电影然后你可以做很多现在的Cronom Graphics需要大量人力才能做出来的这些控制那时候我公司对这个东西很有兴趣我就很荣幸的加入了NVIDIA进去之后我就一直朝这方向努力在那时期最主要的这个模型是Generative Adversary Network就是对抗生存网路那我是只是0Unit早期去从事这个对抗生存网路研究的人那我就在里面一直做这方面的研究我做了几个我自己很感到骄傲的这个工作其中一个就是我是最早提出这个可以做这种我们叫做Unsupervised或是Unpaired的Image translation在AI里面学习很多时候就靠 supervision你要对应的input跟output你才可以学出这个input output relationship那 unsupervised就是说你并没有对应的input output你并不知道这个人笑的时候是怎么样你不知道这个这个码变成斑码会是怎么样我们那时候是早期利用一些可以在Information bottleneck可以去做出这个我们叫Ansure Image to Image Translation那时候我加入英伟达的时候英伟达并不是一个大家认同的AI公司那时候Deep Learning还没有像现在那么的火热那英伟达传统也都是做这种Computer Architecture去设计这个GPU没有人在做这种比较应用端的科研那我等于是早期在英伟达把这个方向做起来的那我在做了许多东西然后其中一个work叫Gaugen好像中文把它翻成马良神笔像是小画家一样涂几个颜色每个颜色代表不同的语意那你涂一涂之后就可以变成漂亮的山水画那个work让我在等于是帮NVIDIA把就是建立起一个形象不只是可以变成漂亮的山水花那一个Worker让我在等于是帮NVIDIA把就是建立起一个形象不只是可以做出很好的CPU也可以做出很好的这个AI模型那时候我还有一些同事在一起做那个Style Game方向的研究那我们就是这群人把这个NVIDIA从第一批就是等于是第一个把这种生成式网络来做这种Media生成把它带起来那做了一段时间之后就那个公司就觉得我可以了然后就可以开始成立自己的团队那我那时候成立的团队就叫The Imagination Research就是跟我当初给DropTalk的目标是一致这是哪一年?19到20年之间那时候我变成一个Research Director但就是那时候知道自己要成立团队就跟著几个工作的伙伴就开始建立这个 Deep Imagination Research那藉著 Deep Imagination Research 之后就一直在解相关的问题就一步一步想从这个就是朝著把小说放进去产生电影这个目标前进
[10:00] Um... We did a few interesting demos, which is a Jensen See you! Haa Xayau! We used a data source to replace it for Keynote. We used to do a demo for the real real real real real real. That was during the pandemic. In that time, data source was very strong. And we also developed some technology. I was thinking about job talk. I was thinking about the story of the book It became a movie. But at that time, I felt like This topic may be needed for a long time to get a bit I was not sure that I had to realize we actually have I think that the ability to calculate the data and the data is enough to make a big difference. But I was busy with the data and other interesting tools. After some day, OpenAI has been created by the work. So I found a text-to-image model. You can tell why it's important to invest in your money I remember when I wrote a letter to Jensen, I wrote a letter to Jensen. It's been very clear to the deepening process of making the impact of the deepening Ah, immediately. Many customers use Amedia GPU and graphics graphics to make this sound. We can't So we need to invest GPUs to help this field to grow. In a while, I also have a lot of collaboration with Gatty Images. These traditional content companies are very interested in AI. I'll try to see it, but it's not enough to have a lot of time. After that, I'll see it in my next video. Well, I'll write a link to the GPU. I'll write a link to the image. We should be working together. We should be able to do that. We will talk about the cooperation method, which is to provide the data, and to build the data. Test to image. in the world That's the time. That's when we founded a company called Picasso. Our goal is to make AI foundation. Some companies have data, but they don't have AI infrastructure. They don't have data, they don't have customers. Then we will make a Gen AI model and then send them to their customers to get their customers. Then we will get to getty image and shutterstar. That's when I was in deep imagination research. We were doing this. From this point, I was just trying to make a new model, not just a new model. I also created a product that can help customers achieve their success. I thought I was already in a dream. It's the most difficult problem. I already had a GPU. I had a GPU. I had a GPU. 1000 a1 on GPU - Did you have 1000张? - Yes, that was a lot. That was a lot. In the period of the ampere, 1000张 is a lot. And then, we had 1000张 GPUs to do a high-quality training. That was not easy. That was our time to try to get a lot of the benefits. And also, I was able to do a lot of the curve. and with a very good partner. because I was a little bit of a professional. And many of the young people who were still in school were still in school. And now I'm in Meta's Yu加辉. They were in Sora's Team Books. They were still in my school. I remember Team Books.
[15:00] 刚加入我团队做词骑的时候他就一直想做这个Video生成,想做他想做的Solar的东西。那时候我们并没有这个technology,我们是用GAM一起去做合作。那时候就看到他的充满了决心,充满了热情,然后当然是人非常的聪明,然后手脚也非常的快。我跟他一起合作里面学到很多东西,我们也写了一个蛮不错的论文那后来毕业之后想留住他 但他去了OpenAI也很开心他在OpenAI那边就是获得很好的发展然后后来就做出这个SOLAR这个workSOLAR这个work出来之后 对就我的我是感到非常的开心但我又觉得我的决心还是不够还是不够还是不够我们那时候就几位就是都在做这个领域的人我们就一起写了一封信给全程说我们必须要更多的投资这就是Cosmos Project的由来我们这群学者我那时候还有三押Feed的还有我们公司带NEMO床团队的Bian Candado,军犯那时候也在这个议题里面,我们就一起讨论,我们就决定要去做这个。这个Wall Model我们觉得这对公司对人类上是一个重要的科技。那时候,Jensen就叫我,还有Sayafeeder,两个人起来带Cosmos这个appers。那时候不叫Cosmos,我们知道要做Wall Simulator,Jensen呢就教我们每个人去想要叫什么这个project叫什么名字我们就每个人就回去去想就是要叫什么叫什么我已经忘记那时候有几个名字在那边选但最后捐练就说叫Cosmos然后我们觉得Cosmos这个名字非常的好然后所以这个Cosmos这个project这样产生了然后我这个还是在Deep Imagination Lab的时期那在那个时期就是我原本是在做Picasso就是AI Fountry for Media Generation但是同时又负责Cosmos 我后来觉得就是Cosmo这个project不然是对公司对整个绿饭更加重要然后也没办法分身乏力啊 没骂的同时跑两个重大的project然后慢慢就把这个Picato的project给收起来那帮这些客户找到了其他可以继续支援他们的科技公司那我就前去开始做Cosmos那Cosmos做一段时间从从一做到二做到三这段时间里面使用他的客户越来越多需要一定的规模才能去把这个Cosmos这个project做好你可以想我在research时期像一个萌芽阶段,当现在Cosmo已经被这么多人给依赖,不管是外面的客户或者是公司内部的团队,到一个一定要成功的阶段,所需要的资源更加的庞大,就是在今年年初的时候我就从Media Research离开了我现在是report给我们的 Senior VP of Software我们公司最大的一个leader之前是汇报给Bill大理带着Deep Imagination团队我现在report给Dwight就是他政务公司的第一个Soft Engineer在Jensen的专辑里都有他的故事对,那我现在report给他然后我离开research之后我们就换了一个名字我就不叫自己的团队,第一,Major Nation Research Team,我们就叫自己Cosmos Lab。这是整个这样的一个变化。我听说Sorrow没有出自你的团队,让你很遗憾是吗?也不是遗憾,就是我感到很开心,就是自己曾经一起共识过的人可以做出这么大的一个,呃,贡献 给他非常的开心遗憾的是说每个研究员都想做出贡献那看到这个SOW这个产生的贡献这么大让自己会觉得很开心但一方面觉得说到底是什么地方在我的决策过程当中在我的判断的过程当中是哪些地方我没有看对而导致我没有在正确的时期做出正确的事情一点就是我是一个很喜欢自我反省的人我就是往往都会去试图理解怎么样让自己更好因为说到Sara还是会想多说一句你觉得为什么OpenA后来把这条产品线基本上算是关掉了Sara它是一个重大的一个
[20:00] 研究工作那它当然本身也有许多应用OpenAI是一个很有业心的公司然后他们有大量的人才Saint-Aumann一直是从他早期在YCombinator 他就是一个投资者 他当然是希望就是有这种投资者的心态然后希望公司内部有各式各样的project有些project非常的成功就是各式各样的portfolio对那我觉得在过去一年当中他们受到这个Antropic 巨大的竞争压力他们看到Antropic 在Coding Agent 上面产生了巨大的经济效应你在跟QQBT 聊天的时候 你产生的Token数就是可能最多一分钟就生成完了那你做这个Coding Agent 可以工作24小时48小时 这个Token 量非常的大我们用公司的精力往这个Coding的方向走孙子兵法讲的贝多哲利寡大家的资源都是有限的那他们就是重新调整资源然后去往Coding这边发展我不觉得他们认为Soar不是一个好的work只是我觉得在这个时间点他们公司有更重要的事情必须要去做然后就要做出一个不容易的决定我很好奇啊因为像Anthropic OpenEye这种前沿实验室他们做研究天经地义但是对于英伟达这样的一个基础设施公司或者说是一个平台公司我卖token给这些前线实验室就好了我为什么还要自己做自己的研究呢就是研究这件事情本身对于英伟达的意义是什么你的基础设施要做得好做得好的定义就是适合这些应用公司来用如果你自己不做这些应用,你根本不能理解他们所需要的东西所以就是要去走他们可能会走的路,从中间去理解到而且设计晶片,设计电脑的架构它的周期是很长的你不能说我现在马上改需要很长的一段时间来做这个规划,所以你要做这方面的研究,做他们投资去理解到什么是可能是重要的问题要解,设计出更好的这个晶片更好的infrastructure来满足这些啊就是AI大公司我总觉得这世界上如果妹哥想有包覆有理想的人都有这个工具可以做出他们想做的事情这世界是为一个更好的世界一方面看到OpenAI, Anthropik,还有中国几家大公司做出的突破,觉得非常开心那我们这个社会会有渊源不绝的有包覆的年轻人,我们也希望他们有他们的机会,就是我们可以做出这些模型分享给他们,他们可以做出很好的应用、很好的延伸模型,或是从里面获得灵感做出更好的模型,然后就是大家不同的想法都可以落地,然后我觉得当这么多多元的这些idea都有机会被实现然后可以呈现给这些用户,我觉得大家选择更多,社会进步会更好这方面为什么因为大家说开源模型的原因那你们的研究成果会跟客户去有一些竞争关系吗我们做这些,而且我们做这种开源的模型,我们基本上就是无价放在网路上面,让大家都可以去运用。这事实上真正要落地,真正要满足客户的需求,还很多东西要做。尤其在巨森领域好多硬体的问题啊好多这个商业的问题都不需要解我觉得我们给community一个讯号是说我们会帮助你在这方面那当你看到这个这一个趋势,看到我们的commitments,我们从一代做到二代,做到2.5代,做到三代,这样一代做下去,你看到我们一步一步就是想把这个地方做得更好,让大家都可以更加预期到说英伟大致上面会一直投资,一直进步,让大家有这个认知有这个信心那他就可以把他的就是他资源投在更重要的刀果上面去做出重大的贡献因为每家公司再有钱的公司资源都是有限的嗯那你不找到痛点找到这个关键点去做投资做进步的话你是不容易脱颖而出的那据称这么的难这么东西要解我觉得我们他做出这些模型帮助他们分担部分的压力我不觉得是在竞争 我觉得是在帮助大家成功对我
[25:00] 那么你们当时要立一个非常重要的项目没有选择当时最火的大元模型也没有选择像Sora这样的模型而是选择了巨星的一个世界模型大元模型它在当时就是发展的已经非常好的然后再来就是我的背景不是大元模型我是Computer Vision出身的CV出身的对CV出身的那这样的就是一直在这个media这边徘徊就image video徘徊那就是大概是过去的背景就是把自己走向这个导入因为我的背景关系所以跟着我一起合作的伙伴也都是类似的背景所以我们就是往这方向走这是为什么没有走大元模型另外就是NVIDIA也有很强大的大元模型团队在那里我觉得我没有太多的贡献我觉得NEMOTRAN越做越好我这边就是主要就是想去解一些更适合我来解的问题SOR 当初出来的时候它也是一个我 simulator但那时候主要的应用比较像是这种创作方面的应用创作非常有趣每个人都希望可以用更好的方式来去讲故事去呈现自己想的东西就是具象化帮助大家去理解你看到的世界这是一个很好的应用但那时候也看到的就是我们在这种Digital AI发展极大的非常的快同时间社会很多问题需要这些Physical Tool真正能改变物理世界状态的这些physical tool来满足的比如说就是当人年纪大的时候就没办法开车但没办法开车整个人的生活品质就降低很多但如果有自动车年纪大的人还是可以有他的mobility再来就是有很多工作非常劳力密集的也非常的危险如果有这种physical AI的这种robot可以帮忙做也可以就是改善人的生活然后再来就是家里面总是一堆琐事要收碗筷啊要整理这些不见得是你在家里面最想做的事情有机器人可以帮忙去做这件事情提升人的生活品质我们就是看到这个就是Wall Model可以对Physical AI所产生的贡献所以那时候就往这个Physical AI方向走而不是走这种content creation的路线Jensen对于这个团队提过什么要求没有Jensen对团队的要求非常的严格然后目标高当然第一目标就是可以帮助到客户那这不是一件容易的事情Ambita是一个运算公司是一个AI infrastructure的公司我们最厉害的就是整个computer stack从这个底层infa到kuda到一路往上但是我们并不是一个solution的公司就是给一个机器人的solution或者是一些其他应用的solution但我们的目标是帮助这些建solution的公司成功有时候会觉得有点像隔靴骚痒因为你不太了解痛点在哪里你设计模型的时候你设计产品如果你不了解你的客户的话你就没办法追加化这就是为什么我会常来中国原因就是想理解一下大家遇到的问题是什么怎么去帮助他们就是一个难处、一个捐身的要求做东西是需要 make impact捐身常常在讲就是他喜欢这种Zero billion dollar business你可以是不赚钱但当这个生意成功的时候必须是很 influential 是很巨大的你不能说就是满足在就是每年赚个100个million这种scale这对很多公司的言言都很大但对一个对英伟达家公司的言这并不是一个distraction是个分心分心对是个分心就是你要去解最重要的问题产生最大的贡献然后我们觉得physicalized是一个够大的问题可以产生最大的贡献所以在这个方向的时候要很小心就是要去解最重要的问题而不是去解一些短暂可以产生成果但它的impact并不是很大那这是其中一个问题那当然就是要做最好那这也是很难的听起来过去十年的名誉在英伟达变得越来越具有野心了是那接下来我也想探索一下就是你个人的意见
[30:00] 作为研究员的刘明玉你是怎么一步一步探索你的研究之路的再回答你这问题我先想想回答之前的问题我觉得我是一直很有野心的因为我那时候就认为可以用小说直接生成电影只是我觉得我的知情力不够我的看时间点不够然后我不太会去理解但那时候还是刚进业界不久还不太理解做菜是可以在公司中获取支持然后获得巨大的资源去重施方向那我觉得过去十年历练里面让我更加低劫怎么样看清楚在对的时期,然后怎样帮助公司理解,这是对公司重要的决定,然后去影像公司怎么去投资,这是我觉得一个变化,是一直很有野心,只是不知道怎么实行,我最早,因为那时候成长背景嘛,我在台北长大,然后在我读高中的时期,最热门的科技是无线通讯,那时候那个手机刚出来,巨大的手机 还是Nokia 的时代那时候对这个科技感到非常的只是好奇在台北挡大总想离开台北,我这时候就去了台湾的交通大学在新竹那边去学习这个无限同学。那无限同学在那边学了一段时间之后,比较理解他是怎么做的。在我的同学那时候一起在新竹交通大学求学,学无限同性的同学,很多人就留在台湾去。比如说在联发课或者是有些人去台积电去做这些就是台湾本身就很擅长的工作我在那时候就有点怀疑是不是这就是我要选择的道路因为呃我从小到大其实没有想过说会去美国留学没有想过没有想过所以我其实一直不知很重视我的英文就是觉得数学物理学的好就够了那时期我就开始有点怀疑到底什么路是对的在大三那一年我就好奇去看看美国的研究所博士班在做什么东西然后我看看我自己现在那时候在台湾的交通大学做什么东西然后那时候我就发觉就是做东西很不一样然后我觉得我那时候在算怎么样设计一个Protocol可以让传输更加快那我觉得这是一种提升但不是一个领导意义的变化那我看到在美国这些高等学府做的东西我就觉得这个看起来每个成功都是一个领导意的变化所以那时候我就觉得我应该出去闯一闯我才记得我跟我爸妈说我要去美国留学的时候他们就吓了一跳因为他们认识我二十几年没有听过我讲说我要去美国留学这件事情这是大级啊?大三的时候所以他们听到的就是还蛮震惊的那时候我想去美国学习的是量子通讯因为我觉得这个东西很神奇的就是靠著量子可以直接把讯息从A传到B去但后来我到去美国之前我在台湾的Intel在那边待了一年然后认识了一个朋友我们都在那里实习他在那里做这个音箱辨识那我就这是我第一次接触到AI因为之前都是学通信那我看到他在做影像面试我觉得很神奇他就是可以从这些pixel里面去判断里面是什么东西是谁是什么物件然后我就对这个这个AI Computer Vision 有些开始有些印象那我那时候申请到了美国马里兰大学,在那边开始我的博士最早期的Compute Vision都不是Bwork最主要的经费研究都是国防,马里兰离华盛顿特区很近,所以那时候聚集了一些非常厉害的早期做CV AI方向的大佬在那里,那我到那个学校之后原本是要研究量子通讯的,然后后来发现那里有做这种Computer Vision,我那时候在Intel实习看到东西很接近的这个题目,我就觉得说这看起来更有趣,那我就找了我的指导,
[35:00] 教授 拉妈乔阿爸他是这个女人里面等于是先锋,然后我就开始跟她学习AI,Compute Vision。那最早我做的第一个题目是从Videos里面去看这个人走路的姿态去判断是谁。哇哦 那时候也是蛮有趣的问题 那我就是这样逐渐逐渐就是转换跑道,然后去做AI,然后最早期去做这些影像辨识,影片辨识,然后我后来在博士期间还学习怎么用叫Shape, Matching, Segmentation这些常见的这个understanding方向的这个AI computer vision的研究这样逐渐踏进AI的那时期并没有Deep Learning是一个传统计算机视觉的时期传统计算机视觉那时候什么都不work所以什么都要选我们那时候Support Vector Machine 是一个很传统的 machine learning 的方式。Support Vector Machine 跟优化有很大的关系。不管是连续啊 离散的优化都不需要学然后也要去学习一些 Graphical Model Energy Minimization 还有各式各样的就是就是有3D Calibration 这些东西就学的蛮多我觉得算是很扎实但就是在毕业的那一年ImageNet这个AliceNet出来然后改变了整个世界PhD的后期就到一家叫Mitsubishi Electric Research Lab的一家公司三宁电机研究员这是你后来的一个工作对吧这是我的第一份工作在美国的第一份工作对在美国第一份工作他是在呃在Mathachewser在MIT的旁边这家公司在90年代是非常强大的一个研究单位那时候跟微软研究院是一针是雄在Graphy上面都是非常领先的一个研究机构那MIT里面有许多教授以前都是在那个三菱电机研究院里面当研究员包含Bill Freeman, Ramesh Roskott都在那边做那我加入的时候已经过那个时期但是还是很多优秀的研究员就下来我去那公司之后几件事情嘛 那一年Adance and Adance 出来所以我过去学的东西就是跟未来世界开始有些就diversion那一刻会失落吗?不会,我其实在我是对这些新的科技很感兴趣的因为computer vision因为什么都不work 所以我已经养成这个习惯什么都学了什么都不work 那时候什么都不work后来Deep Learning出来之后就觉得很有趣我还记得我那时候是博士班的做一年了嘛等于是实验室里的大师兄然后我就组织学弟妹们 师弟妹们继续要研究弟们的念这是去研究 那我还记得那时候有一位师弟跟我讲说这东西只有几个人会 没有必要去研究然后我还是没有理他,就是继续办研讨会然后后来我的第一份工作是在三宁电机研究院嘛那研究院通常就是工作比较自由,让我有很多时间去学习所以我在那里就学这个Deep LearningJerani Model是我的指导教授Rama Chalaba,他很相信Jerani Model,他相信Bation深层放在这个就是understanding的一部分哦那所以我在那时候学Deep Learning的时候就就是也也在留意这个深层这一块嗯那后来有一年去了Newis看到Ian Goodfellow 的这个那个生存对抗网路的工作就对这东西感到非常有兴趣然后就开始在这方向里面就开始做大量的投资然后越学越多这样你好像很早就开始做生存了对我是最早做生存的EP研究员那时候还在只要能生成32x32的皮手的脸然后看起来不像鬼然后就觉得自己很成功了那为什么生成是理解的一部分Richard Feynman他讲的if I cannot createI cannot understand就是当你可以去生成它所以真正去彻底的理解它这个人的学习有点像对当你可以讲的时候意味着你已经理解了还有早期就是computer vision也分这种discriminative model跟generative model嗯
[40:00] Quindative model 其实没有生成能力,但可以判断这是A还是B判别式生成模型一样可以被用来做判别但是它还是包含可以重建讯号可以去描述它当你可以描述清楚的时候大家可能认为你更加理解这个东西就是Discriminative跟Generative所以像最早期的LSNET可以做ImageNet Classification我们就把它看成是一个判别师忙碌其实你最早做了一年的工程师你觉得这个经历对你后来做research有影响吗你做在那个Intel做工程师吧对以及你觉得做Engineering和做research的本质的差异是什么呀哪个更适合你自己这是一个好问题做research最重要一部分就是问对问题问对问题当你问到对的问题,你大概就是找对方向那Engineering等于是帮助你去跟大家讲对,这是对的问题就是要把东西做出来,因为是一个实现能力,让你去做点事情那Engineering当做大Scale的时候还有很多东西是很重要的在去美国之前的那一年做Engineering对我影响我可能最大的影响就是认知的这个领域叫AICompativision然后从中间我记得那时候在巨大的Software stack里面帮公司去找问题那这是很磨练耐心的一个过程那我觉得都是很好的训练所以AI对你来说也是一场意外它本来不在寂静的轨迹之中不算我不是那种从小就是说我要去理解为什么人类为什么可以有这个智能的发生我等于是就是一步一步看到这东西觉得非常有趣想去理解然后就一步一步往那个方向前进它最初打动你的是什么呢为什么打动我最初后来当然可以有很多原因了因为不懂因为不懂因为不懂对,不懂那又比较容易去理解它的重要性就是有些科技领域像量子通讯你可能要很懂才知道它到底是为什么重要这个AI就很容易可以理解就是你可以重造这个智力那它有些表现会跟人非常的像这就很好奇还有就是自然而然每个人都对自己的就是存在会产生这个困惑整个群体就是到底什么是人我们跟其他生物有什么不同那这就是一个很自然你会问的问题那我觉得也是因为这个原因这个领域会吸引这么多人在上面做出口语如果要找到一个早期对你研究生涯都非常重要的一个时刻你会怎么描述它它是哪个时刻它是你在做工程师的阶段还是你到美国之后太多了哪个是最重要的或者最重要的三个呢我觉得第一个时刻就是在早期我喜欢漂亮的数学在Computer Vision早期阶段什么东西都不workCompute Vision运用大量的优化的算法优化就是要去找最佳解如果是连续性的常常会遇到这种non-converse的问题就是你没办法找到最佳解如果是离散就这种nbhard的问题就是你也没有足够多的算力去找到最佳解你还是研究出算法去找一个答案但你不知道答案离最佳解多远那为了去确保你的答案离最佳解不是太远就是有一定的就是保证然后就会去证明这个叫bund所以也许这个最佳解是虽然找答案不是最佳解但它离最佳解可能就是差10%或是差20%这比随便一个答案好为了去证明这个bund很多时候在早期的研究就会开始做一些假设假设让你的数学变得比较干净可以找到答案但假设也让你离现实比较远然后那时候早期会有点偏向于去找追求数学的美而去忽略跟真实世界的距离然后后来一段时间之后我理解到这不是一个正确因为AI本身就是一个应用就是自立就是拿来被应用的然后我是越来越喜欢接近这个问题的本质而不会被这些花巧的数学给迷惑然后后来还有一个阶段就是可能就是从小成长的背景有关就是总是专注在把事情做出来而不专注在让别人懂你做出什么东西
[45:00] 然后我开始做英伟达之后就是我觉得我做的research不做蛮不错的然后在别人看到这些这种image translation之前我就把这个东西做出来但我不太理解怎么去不太会去表现我做出来的东西让一般人可以懂然后我常常讲说我自己做100分但是我的解释只有10分所以别人看到只有10分然后那时候我就更加重视如何让我做东西让别人理解它的重要性然后让他去理解这个过程那这是我觉得可能一个很重要的一个 lesson那当然是我早期做game的时候然后第三个是我后来理解到尤其是开始做大模型的时候我开始理解到团结合作是非常重要的一件事情人跟人的沟通呢其实是一个高复杂度的问题比如说你,我不知道就是叫N-square,假设你有N个人,你跟这些另外N个人沟通是N-squareN-square在那个复杂度来讲是一个不好的复杂度,只是不容易scale就是当你很多人的时候就是每个都要点对点沟通就不容易比较好的就是这种N啊或者linear或sublinear我开始知道说要做出一些巨大贡献需要大家起团结合作的时候必须要把事情讲得非常明确让大家都能懂然后大家目标能一致就是自己能把东西说出来然后也希望就是大家都能懂是做在做什么东西然后可以朝同一个方向前进那这地方就还需要很多就是帮助大家去理解为什么这个重要这也是后来我做科研尤其是做到大的是给我的科研里面觉得很重要的一件事情你要做应用然后你要销售你的工作你要团队协作对是这其实是也是你的成长的路线对吧是对当我做出的第一个那时候我一个很popular我叫高干那时候大家都在用它就是我刚讲的马良生比我看到用户的反馈让我充满了就是成就感那我觉得说我能影响的不只是读我配合的研究员而是一些就是更大的一个族群然后可能就觉得自己的生命更有价值然后就从那帮奖前进高干是取自高更吗对这个名字是这样那时候我是跟一个我那时候的实习生叫那个Teson Park他我们一起在研究这个方向然后还有一起合作还有朱军燕然后还有那个王鼎军我们这四个就是一起在研究这个题目那那时候我们开发出一个算法叫我们叫Sped就是Adaptive ModulationDemodulation这是一个算法那时候做出来之后很开心我在公司内部做个demo然后Jensen看到非常的兴奋然后他问我叫什么名字我就叫Sped他就不喜欢这个东西就是不容易懂他不是一个用户语言不是用户语言那时候就是Paper已经写完了投了CPR但还没有放在Archive上面然后公司看到之后就叫我不要放在Archive上面让Jensen在GTC那是2019年的GTC的时候可以在他的大会里面跟大家宣布然后我觉得很兴奋很好的机会那他们就在想这在叫什么我们公司有一个Marketing的Genius就想说这叫因为那时候算法都是什么Gang什么Gang什么Gang对Gang的时代对Gang的时代然后那个Market他叫做那个Gleg Estate然后他他就提出叫GalganGalgun他是法国人就把这个名字取出来然后大家听到名字很合理画家著名画家然后那时候做应用也是这个画画这件事情然后就就出来了那时候本来是在GTC他的就是Jensen大会上面要去宣布的结果那一年他太多产品要介绍了他最后一刻就我记得我在礼拜天晚上还跟他那边排练就是要在台上给个demo然后当点晚上就接收到通知说太多产品要讲了他决定把这个高跟就不放在他的kino上面就一样是做的新闻稿一样就多demo给这个媒体朋友去看但就没有放在这个他的大会上面很多媒体朋友看到他之后反而是GTC里面最受瞬目的一个work然后就那一年就
[50:00] 这样的就是很多种事,我们做一个online的app让大家都去测试,从里面就是大家使用里面获得很多很好的反馈就是越做越往应用方向前进其实高GAN是不是跟你之前的研究轨迹是一步一步递进的他不是第一天就做到那里了因为你从博士毕业以后加入了三菱电机研究所Computer Vision就进入了GAN的时代然后你其实围绕GAN做了一系列的工作包括COLGAN,MOKOLGAN暂时到了英伟达之后的比如说高GAN这一系列的工作它是怎么延展的我最早的一个GAN的工作叫COPLE的GAN优优独播剧场——YoYo Television Series Exclusivecoupled game 就是把两个game的生存网路把它加倍在一起,加倍在一起产生了一个information bottleneck,所有的deep learning就是在学压缩资讯,bottlenet是帮助你给我一个机会可以去找到本质,一个game是在model一个distribution,然后你有两个GAN式Model两个Distribution一个是码一个是斑码当你Couple在一起后它有一个限制就会找一些共同性然后就可以让你做这个转换从码变斑码然后从这个方向走的整个盛人士网路就是在做Distribution ModelingDestrian Modeling就是你可以simple,就产生一个image,一个山,一个海,或一个video但是人不只是想要去生成 他要去能控制自己去生成的东西那控制呢 就是要有讯号那讯号有很多种那一种常见的讯号就是拿Image当的讯号就是我这里有一匹码这个变版嘛对这是一个讯号另外一种法就是那种age就是你树苗然后还有一个就是segmentation就是这个像小画家一样什么颜色代表是山什么颜色代表是水这是一个讯号然后再来呢就是比如说Cars 内部就是说这是山 这是车 这是机车 那就生成然后最 sophisticated 最接近人的 natural language 就是 text就是text to image, text to video,这是最自然的一种形式他text跟这种segmentation最不同的地方是segmentation是给你很具体这个pixel是什么它帮你对位对好然后text它是一个比较不一样它的structure跟image structure是很不一样跟video structure是很不一样因为structure很不一样所以它是比较难学的需要更多的数据所以我突然的问题当中我是理解到这个问题所以我是从比较容易的方向一步一步往上走容易的最早是?这种segmentation、age或image那这也是为什么我之前讲说搭理让我觉得我自己的决心不够因为我那时候总觉得Text to image是很困难的一件问题然后我觉得这个领域还没有足够多的资讯的data跟算力来做这件事情啊那其实是有的然后就就是因为没有去做所以做不出来所以你是沿着image然后到task这个路径一点一点的延伸的对这其实在早期我有几个朋友每年一起参加Nuribs,我们在讨论说那时候还没有GPT,那时候都是早期我们在讨论说如果真正有AI就是真正会产生突破第一个会产生突破的领域是哪一个那时候我跟大家讲说是Tax是language是哪一年应该是1617吧我自然自己不做test但我知道就是影像的序号太多杂讯了很多东西就是那个就是它离那个知识的本质是比较远的它是比较一个就是这个世界的就是这个observationTest已经是已经是很纯净的比较坚信symbol所以要产生一些类似智力的表现 最早就是language我虽然知道最早的AI会是language发生 后来也是真的是这样但那时候我比较喜欢这种视觉讯号 所以就一直留在视觉讯号的声称这边后面这几个GAN的工作你也要讲一下那时候就是Image Translation嘛从A就是那种马变斑马那个风景画变真实的这个风景然后后来又开始做Video然后我们那时候做一个叫叫V2Vit那时候是把一个车子的Simulator产生的这种很简单的这种卡通的图片然后把它变成一个真实的开车场景就是很简单的
[55:00] 最近现在的Wall Model这些东西这已经到NVIDIA了?对,都到NVIDIA了我只有Couple Games不是在NVIDIA做的,剩下的Games都在NVIDIA做的那时候早期做这些工作也因为这样子跟Ian Goodfellow的Games发明的人成为好朋友然后我们就很多讨论瑜伽辉Tim Bluth还有很多来我这里实习然后跟他们学习做了很多一系列的work都是围绕的就是image translation啊video translation啊这方向走然后后来有一年我在读PhD的时期其实都是传统的这个computer vision的东西那PhD毕业之后Deep learning是带来了那时候就是想说你不应该做handcraft的algorithm design比如说Handcraft的Fature Engineering就是应该Data-Driven然后那时候也理解到就是这种更加scalable的approach简单scalable approach是更容易成功的所以就常跟自己讲就是说你在做选择的时候要找这种嗯更加scalable的就是后来就大家讲Beater Lesson那我在做Game的时候很开心但我一直在思考Gang到底是不是scalable?因为Gang大家都知道说他很难去训练所以我担心这东西可能最后不scalable那年瑜伽惠来我这边实习的时候我跟他研究的题目就是要去skill game那时候还很早 那时候就看到瑜伽惠他的才华洋溢,然后做出很多...虽然我们那时候没有写出一个Paper,但那时候做的实验量非常精神,他的想法我看到...哇!还可以这样想然后就是呃比如说那时候GAN是一个Generator跟Discriminator嘛那时候我有幸的是有很大量的GPU可以一个COS来trainGAN他就想到说每一个GPU都放一个Discriminator但是它的weight都不一样所以好像很多人同时跟这个生成式网路做对抗在那个时代能去实现的东西是很不容易的一件事情那时候还有另一个实习生,他叫Germyn Bustin,他就是后来发明Muon Optimizer,现在大家都在用Muon Optimizer的人,他那时候来这边实习,我跟大家研究的方向是如何在在这种奥位层上面更好的算法来去把这个Gant给做得稳定那这两个最后就是方向最后都没有成功那他们各自都开发出了非常惊人的很有成就的工作Jeremy从那时候开始我们写了一系列的paper 如何用密王早期的算法来去稳定 让训练更稳定他就一路一路往下走在他来开发密王的算法就是很开心那段时光学会很多东西到某一年很努力啊然后跟着这么多聪明的人在研究这个怎么让game更加scalable但每个结果都走向都是得到一个结论就是game不scalable然后我建立这个团队就是那时候就是大家加入原因就是想做game然后那一年我就跟大家讲不能做game了要往就是这个方向不scalable我们那时候看到diffusion这个这个方法极其稳定哦然后这应该是17年不是不是以前应该是2021吧2021就那时期17年是Transformer发明出来了对17年TransformerTransformer发明出来之后我必须讲我不是早期去接触Transformer的当时英文还是LLM对这是LLM那一块我一直在专注在Gain然后早期的Gain呢比较好训练的都是用那个Convolution Network到30他把这个Division Transformer带进来之后才做Division那边的才慢慢的往这个Transformer这边走所以那时候就是从算法层面来看就是觉得这个Gain不scalable所以讲说不scalable的东西最后坐不远然后走diffusion然后就开始走diffusion然后往下走这是一个重大的转变时期那做Division一开始是做image嘛然后来做MultiViewImageMultiViewImage呢就做变成3D generation我们就做了一系列这方面的work,就是 Edify 系列的, Edify Image Generator, Edify 3D, Edify Video,然后做各式各样的
[60:00] 用division来说的生成我听这个我会想到两个点就是你在CV这么漫长探索的过程中其实计算范式发生好几次变化从传统的然后到了GAN然后又到了Diffusion正在每次转变的时候作为一个研究员在其中应该是有什么样的心态我发觉的越变越简单会不会觉得我之前的工作都白做了整整常讲就是SufferingLittle Greatness然后在这么多经历当中我觉得我现在越来越能掌握这个事情的本质然后我觉得有点像是就像传统的科研一样就是把事情越...就找到...真的找到本质,找到最简单的方式去描述啊...这个...你懂,这世界是怎么运作的然后我觉得现在的方法就是把事情越变越简单嗯...然后在Cosmo这边我们也是从数个模型就变成了现在这个Cosmo3的一个模型也同意了对,就是...就是渐渐理解到OK,原来这就是事情的本质然后每一个...方向我都是花了五到十年在投入啊我觉得未来的决定啊会受深受这些过去的那个经历影响然后我也不能说那是错误的那时候不能说它是错误就是那时候的条件那时候的算力那时候的数据在那时候做那些事情是合理的那时候学的东西对我现在做很多事情你也很有帮助还有我发现你好几次提到你的实习生在AI的Lab里是不是就是通过实习生来用一些idea是一件很常见的事情怎么看待年轻人比如说经济的冒阵程度是根据钱多块从一个人的口袋留到另外一个口袋研究的茂盛程度应该是根据idea多快从一个人的脑袋流到另外一个脑袋去你听了我的idea你有些想法把它变更好我听了你新的idea我觉得哎不错但这个地方你就一直流动流动流动然后就 idea 越好那所以因为我走向业界这条路就不是去学校做教授那如果你只是在业界整天交流的只有你的同事那 idea 的 diversity 就低一点那因为大家这边我们找很多司机生就是跟这些很有想法不同背景人一起合作研究然后互相学习那所以我觉得这东西是是帮助我成长就是然后也帮助他们成长一个很重要的一个发展你12年加入了三菱博士毕业加入了三菱研究所然后16年加入英伟大你后面这个职业的变化是怎么发生的你怎么加入英伟大的自从开始说Deep Learning之后我很相信串利在三菱电机呢不是一个重视串利的公司是一个它是重视串把然后那时候我为了能做出研究做出好的研究我就常常跟我那时候的manager要求要买GPU哦 对 然后他一会就是说我们需要GPU 做这件事情在那个三星电机有一个long turn 的 mentor 他叫 Anzo Tuzao 他是也是一个很有名的研究员然后他那时候就决定离职加入苹果做自动车 然后然后我突然间觉得说当初把我留在三菱电器里的主要原因没有了然后我就开始思考说我是不是也要换工作那很自然而然的换工作就是到微谷跟这些大公司聊一圈那时候大家看到就是Google啊Apple啊Amazon啊这些Meta这些大公司那后来他们的Recorder找到我然后我看到NVIDIA 对每次我都叫我买他们的GPU然后我这么缺GPU 这么想要GPU那为什么我不加入一个就是生产GPU的公司所以那时候我最后就决定就是加入那个英伟达我那时候父亲不太能理解因为因为他们没听过的公司那时候没听过的公司他说苹果不错啊谷歌不错啊你为什么要加入这个英伟达嗯然后我那时候想说因为我觉得GPU是最重要的啊尤其是那时候我开始做Couple Games的时候,那是Unsupervised approach。所以Unsupervised approach,数据取得比较容易一点,你不需要标准。最重要的就是算力跟数据既然数据不需要标准,我就去算力的地方然后一件事情很有趣的是,我后来发觉就是我那时候在三菱电机的Manager,我每次跟他argueGPU,只要我炒赢了,他给我一些那个经费去买GPU
[65:00] 同时之间他会买NVIDIA的股票然后后来他就退休了他没有告诉你什么当时他后来跟我说了当时没有告诉你不然你也可以买了是的我看你在三菱电机的工作的时候就已经和NVD的人有一些合作了什么在一些论文上面不是我豆瓣是那时期就是写的那个Paper 因为学术的论文审核啊有时候你不是第一次投就会上了然后可能是多投了几次后才上那在三菱做的研究可能后来到了那个英伟达之后又继续在上面做一些提升所以这个才有一些paper的作者同时有三菱的作者跟英伟达的作者对并不是在那时候有合作者公司跟公司间合作没那么容易哦我以为是之前有一些合作基础所以你加入了英伟达其实不是的还是正常的一个求职的过程对就是我那时候并不知道英伟达有一个研究机构哦 对我那时候觉得主要是卖GPU哦 嗯 然后那时候面试我的几位同仁我后来跟他聊之后才知道他们真的是在做研究才过去的那时候因为达的研究机构没有什么名气多少人啊那时候去的时候不到100个人吧嗯那而且不是纯粹做AI研究大部分人都是做graphics那时候做style给那帮人啊那时候也不是在做那个也不在做 GAN 他们在做别的东西嗯然后我都印象很深刻 就是在NVIDIA Research每一年都会有一个叫Offsite就是把世界各地的NVIDIA Research的同学飞到加州在矽谷南边有一个小镇,Monterey下面的小镇,然后那边就有一个地区我们在那边做个两三天的研讨,那是我第一次见到Tero Keras,就是发明Style Game的人,还有一个Timo Aila,Samuri这几个重要的Gang的研究员那时候他们都没有做game然后我已经做一段时间了我遇到他们的时候他就想说他要把GAME的问题给解了然后我想说OK 你可能不知道多难我一般希望他们成功 但是他们有点低估他的难度后来他们就是真的一直投入在做这个style game从1、2、3啊然后就不断的突破我跟他们合作当中学到很多东西他们一直在做这种uncondition的不是我做的那种控制性的但是他们对这个细节的追求这个研究的发展很多进入英伟达做研究有像你预期那样可以有很多的GPU吗对这事实上没有任何一个地方GPU是够的哦对然后你总是看到不够的地方,对,那我是很幸运,就是我是最早在英伟达里面做大模型的那个就是用大量GPU来做这个深层式网路的一个研究员,那因为我早期帮公司做了一些就是Bitsability很高的work所以公司很多人都认识我然后那个老黄也都蛮有信任的所以我就可能有幸有很多GPU资源可以去做这些研究但每次都是看到别人的GPU更多觉得自己总是不够怎么在一个像英伟达这样的公司获得更多的GPU你需要学会什么你要懂公事了解的问题是什么?你要想办法就是跟公司解释为什么你做的东西会对公司产生影响每个研究员都有自己的想法都想解事情然后研究员某方面来讲都是very high ego文人相亲自古截然每个人都觉得自己想法比较好但公司的本质跟还是不太一样公司是为了为股东获利,对捐赠来讲他是希望可以take your family,整个公司这么多人一起打拼吧,因为他监处来,他希望可以帮大家照顾好family,公司要赚钱。所以我学到一件事情就是我深信我做的东西对事情很重要,那这东西会产生改变。产生感改变会帮助公司那我要怎么去把这事情讲清楚?让这个leadership,让这些不懂的AI的这些leaders,就是理解到这东西对公司重要,就是一个重大的变化。嗯,这是你当时的
[70:00] 分享的三个时刻里的第二个时刻这具体是在哪个项目里发生的转变啊我那时候讲第二个时刻是如果让其他的研究员更加理解自己做的东西就是最重要的性我就是一个一直不断变化的过程我很难讲是具体在什么时候发生但我想讲三菱电机的那个案例若我印象很大因为三菱电机在90年代非常的重要因为它是早期这种就是没有任何限制的这个地方来做research 包含领域里面很多著名的人啊像有Bill Freeman那时候在三菱电机研究院嘛然后Bill Freeman吸引了一堆那边就是做出很多重大的research所以那时候可以跟微软研究院可以一起竞争嘛但某一时期啊公司的方向改变了 他们开始怀疑这些这种Blue Sky Research对公司的影响是什么就越来越难去 justify 为什么要去配这些researcher嗯 好 然后就产生了一个很著名的都是现在年轻人大家都没有接触到这事情那时候就开始就是一堆重要的学者在三井电机学者就陆陆续续被fire了有些就加入微卵 有些加入学校当教授那个MITRise Harbour,有些人去Disney,人就陆陆续走,留下来的一些人还是做的类似的research,但是比较难跟公司的发展方向相关。比如说三菱电机对做相机、工业用的相机很感兴趣,做机器手臂很感兴趣。所以你帮他们研究,就可以获得公司的支持,继续往下走。那我加入的时候已经是这东西都结束了那但是我那时候得到训练就是说Blue Sky Research跟公司的兴趣也是可以online的然后我就常常看到因为在这业界很久常看到这种周期啊就是就是很多公司都会一开始的时候就是给很多自由度然后很多很有趣的idea都出来了但某段时间后开始紧缩然后就是留下那批跟公司这个兴趣比较相关的人那就是你可以看到不管是Google啊不管是Meta都是有这样一个过程然后我可能是很有幸的在我的职场的早期我就看到这个过程的发生所以我在英伟大的时候我就知道我那时候就就是一直认为就是首先我知道我做的东西跟这个用Deepter的音讨深深影像对公司绝对是正相关的决策层解释为什么我做东西重要这个特别重要因为可能是公司在上行期或者是空障期的时候他允许你做很多Blue Sky的探索但是他只要是下沉的阶段他就会收索对他一定要你回答为什么你做这个事情重要你跟我有什么关系是而且去做Deep Learning非常花钱对所以你更加要注重解释为什么这对公司是一个重要的投资因为大家也会注意到你的研究其实很多时候的理念就是研究这些产品这个跟那段经历有很大的关系是不是这后面影响你在英伟达的很多的做的研究和产品因为比如说你的高GAN你刚刚提的那个项目就是SPADE的那个算法其实也是做成了一个实时汇图的一个产品然后包括后面的也做了视频会议增强AI增强的一个产品就是所有的研究都会变成一个产品去发布我是算很运气的人,我是一个随著我年纪越来越大,我越忠视效率的人,所以我很精准的把自己的research 变成了一个产品。我不能说高根是个产品,我还有一件事情是一个学习,一个重要的学习就是AI单独存在并没办法改变一切怎么说在做AI的时候大家都是追求越来越好的模型但你慢慢会发觉就是模型的的那个就是慢慢收敛大家都差不多当然有些人会说我会不断的进步,但你看到就是那个这个月N2B比较好,下个月GBT比较好,下个月...No, Gemini就追上来了,中国这些强大的公司GOM, Kimi, Seed, Ali, Deepsik, Minimas,这些公司都不断地在做突破
[75:00] 慢慢的就是搭载模型的能力都会差不多当你们模型能力都差不多的时候你就会理解到说你纯粹靠模型是不够的然后我可能是比较运气比较好就是早期就就认为这个模型会收敛然后我一直重视就是不能只靠模型要跟公司的其他的Ego System结合在一起你看German来做那么好就是German来Google有一整套的这种Google Doc Google Search没有一整套的平台合在一起那就是当越多人使用你的模型的时候你都要反馈越多然后越方便那你就更容易就是对公司产生贡献对公司产生贡献公司愿意给你更多的投资你就可以做出更好的模型然后就一路可以把这个长期的这个就是发展把一路一路做下去嗯所以我在早期做AI的时候就是跟其他的研究员差不多就是研究员 PhD 学生毕业的方式写出高次量的论文什么叫高次量的论文呢?往往就是你在Benchmark 结果比别人好就是你就是要有killer把别人的方法给击板然后再来就是文人相亲嘛总觉得自己比较行然后就是一路往下挫所以很多时候早期做研究的时候讲说比别人好然后到晚期的时候 我会建议理解就是 比编号只是其中一个就是证明你的东西有价值的方式 那另外一个方式是你可以帮助到别人 让大家都变更好然后会发觉就是我现在的想法越来越接近就是我做出什么东西可以帮助整个领域变好而不是追求的就是我比别人好这是一种high ego还是一种low ego我不知道是high ego还是low ego我是有幸的在过去20年当中遇到好多聪明人我总觉得就是这事让能人非常的多然后我很多时期真的都比我优秀然后我也觉得这是非常开心的一件事情那我觉得我自己能做出东西来可以服务这个社会但我也不会觉得说我一定是比大家都还要优秀所以我不是说high ego也不是说low ego 我就觉得我是有办法产生贡献嗯你刚才其实说到一个你做模型的思路就是你觉得模型最终会收敛他的能力可能会同质化但是我理解那些frontier lab他们的认知是说智能现在还没有到顶智能还要继续高速的提升你不认可他们这个观点吗就他BAT智能的skill我当然一方面很好奇嘛然后我自己也在用这些模型我也看到它不断的都在提升嘛然后但是有些人总是会讲说接下来会有exponential growth如果你不赶快投资这间公司或加入这间公司的话,就会失去机会。 对,然后,我觉得例子上,看过去历史从来没有这样发生过就是一家公司就是掌握所有的科技其他的公司都没有办法去追上这从来没有在世界上发生过然后我不觉得AI会是一个例外我觉得大家都很聪明,人员会流动,总是在A公司做一段时间,总觉得我自己的才华没有受到肯定,我可能就跳B公司去对那这些know how这些东西就自然会在这领域里面扩散对然后我总觉得不会有一个公司会比其他公司都做一个巨大的超前我觉得这本身就不是一个稳定的社会状态如果推演一下如果模型的智能大家达到了一个差不多的水平接下来大家竞争的是什么呀就是整合跟自己的生态跟自己的产品的整合就是大公司创业公司呢创业公司的优势是可以走大公司不能走的问题比如说对NVIDIA来讲任何生意只要是小于一个BDN就没有兴趣去做但那些本身就是有一些很值得做的东西然后有一本著名的书叫那个叫什么Innominated Dilemma这是一个创新者的总经对就是往往这些小公司在走向那些当初不是很被看好的这个领域看到有一些东西可以慢慢逐渐起来很多公司都是这样起来的英伟达也是这样的对英伟达是这样起来的所以我觉得还是充满机会我不觉得一定要做你如果现在开一间公司要跟No,OpenAI and Swabby做一样的事情很危险你的资金绝对没有他们雄厚然后你没有客户
[80:00] 你要怎么去累计然后他们这么大的资源可以把东西做便宜然后你不容易吹伤所以你要去解一些痛点是他们没办法去解的不是他们不想解是他们没办法去解他们不能justify为什么要去决定这件事情所以哪怕是你要做大模型这件事情本身最后你也要找到你自己独特的生态位不管是Owner还是Androopic我们可以看到Androopic他早期是被认为是落后Owner AI的但他是最早相信coding的当OpenAI在做分散式投资把鸡蛋不放在同个篮子里的时候那个Anthroopies做击中式投资然后最早去做出这个coding这个东西的所以他那时候就看到了一些那个就是机会然后他就坚信就决心把它做出来所以我觉得对创业者而言应该就是要决心要去看到一个机会然后去看到一个就是你独特的机会又有你的资源把事情做成但是今天不管是硅谷还是中国大家又开始全部同质化的都在做是codingagentic coding你怎么看这个现象你觉得这是对的吗每个公司做这件事情背后都有不同的目的好,那我我不是站在他们的立场我无法去讲但从我角度来看就是这其实是很辛苦一件事情你说的是同志化竞争同志化竞争是很辛苦的一件事情我觉得他们做这件事情可能是被迫的因为这是本身是一个重要的一个technology任何人都不希望自己核心科技是被掌握在别人的手里对吧那但我不觉得这个是他们计划的全部他们一定有其他计划去做出一些差异化你没有差异化就没办法做出差别性的产品最终还是要差异化我觉得是刚才我们其实回溯了你的很长的一段经历那你觉得你作为就是刚到美国时候的那个第一份工作的研究员刘明宇然后到后来变成了一个在英伟达变成了一个Tech Lead然后再到现在是一个VP研究的VP你觉得你在不同时期解的题是一样的吗嗯,scale是越来越大这个Skills指的不只是管理的Skills对吧?对 不只是管理的Skills,不管是运算人员的Skills,然后这跟整个AI发展也有关系嘛。AI从探索到可以落地,那就是一个变化。然后这些不同的时期都有不同的经历,有时候还是会怀念以前那些各种方式,各东西都不work,整天想什么东西会work的时光。为什么?有多种可能性的时候也蛮开心的吧就是多个选择多选择会给你一种开心的方式现在的状态就是也有很多选择只是就是我觉得越来越确定我自己蛮喜欢就是回到事情的最最核心了然后现在发现就是很像是现在写法都是嗯重剑无风打巧步攻就是很扎实的一步一步把这个beta infra做好然后就把东西写出来在这个知性过程当中我也觉得是一个很不错的历练从里面学到很多东西怎么让这个帮助团队看到最核心的本质 然后去去提升这个执行力但同时间又在可以创新的地方让团队做出重大的创新来去跟上这个时代的变迁各种事情有不同的挑战都很有趣从一个研究员到英伟达的VP这个多见吗我可能是第一个吧你是第一个?你觉得为什么呢?这是我想问你的我在英伟达前几年是每一年跳一几然后就一直跳跳跳跳就到BP了对然后我觉得是因为我呃早期在NVIDIA还没有AI人才的时候 我就在那里帮助公司提升不管是AI research的知名度 或者是解释AI怎么影响公司 我自己又很喜欢落地 就是一步一步就是获得公司的信任公司就愿意把这个越来越大规模的专案给我做像现在想看就是整个团队这么多人运用这么多运算资源每天都是几百万美金就是的运算成本啊储存成本我觉得就是纪念那一月啊就是公司有一定的信任才有这个机会去带这么大的这个project所以你跟公司align非常重要对吧对一个纯粹的研究员的天性和一个管理者可能是
[85:00] 某种程度上是相悲的研究员要创新,研究员害异狗,研究员需要Recognition然后recognition有时候recognition跟公司要recognition可能不太一样那你在成为管理者的道路上有没有可能就是抑制一部分研究员的天性呢有没有可能是在带着镣铐跳舞我觉得我还是一个研究员我还是常常读论文然后我有时候会做一些实现然后去理解我最担心在成为这个一路成为管理者的历程当中我最担心一件事情就是我跟底层脱钩我会强迫自己就是review大家的code,去读paper,去challenge每个人的idea,跟大家做一些试试。就是等于就是debate来确保这个方向是对的我跟我公司的人大家都知道就是我可能是少数还继续在看扣的VP大家每个人对这个专案的贡献在哪里就是我只希望自己一直stay grounded看清楚一切然后这样可以帮助团队成长然后也可以看清楚谁对谁谁的贡献在哪里如果说过去20年就是你到了美国之后的这20年对你影响很大的几个人你会说谁那第一个就是我的制造教授Rama Chapa他把我带进这个地本的你谁他非常厉害他也是非常善于沟通,他可以让任何场面都是充满的欢笑,其实是这种很严肃的review meeting,他对人都非常的尊重,跟他学到很多东西。这个同彩学习Tero Keras就是那个Style Game的一作我也受到他印象非常大是哪方面影响他对东西追求到机制你如果读过他的论文你看他做的实验分析去把这个本质套出来这个过程这个坚持啊我跟很多不同的研究员合作在那个时期然后那时期很多研究员就是一个想法写一篇配合同时间一个西域大可以写20篇配本或是一年可以写个40篇配本Tero就是每年之相写一篇配本就是把他所有的他也工作也非常努力就是把所有的人生的精力就投注在同一个idea越转越细找到问题的本质然后产生中大的贡献需要压强更大就是这个stay focus这件事情是可能是从这里面从他跟这些人共识当中学到很多东西那老黄呢?他对你有影响吗?非常大的影响他是一个工作非常认真的人我在早期加入英伟达的时候他常常会传论文教我看然后叫我看 然后我就要写一些 summary 给他跟他帮他讲是什么事情他是一个非常热爱的学习一直去学习一直去理解他当初也不懂Computer Graphics他敢踏入做GPU他去把Computer Graphics学起来他也不懂Deep Learning也踏进AI来自懂Deep Learning对然后就是他强大的学习能力强大的兴趣一直往下走他都懂他为什么敢投入呢他有一套自己的那个决策法则他就是叫first principle他就是他会把事情的本质把它理清清楚不会受到外界的讯号的干扰他就看得很清楚就是说这方向最make sense然后就往那边走他在早期就敢all in deep learning对让公司获得巨大的领先在早期就敢all in 枯打让公司产生这个很好的foundation我在认识宣诊之前我觉得我的决策就是都是偏比较短期的然后我看到他怎么去做这种长期的决策然后坚持然后我觉得是影响非常的惊人了他还有一些很精神的地方是他的他的每天的信都非常的多邮件是吗对邮件都非常多但他都是很仔细的去读然后去找一些别人看不到的讯号然后做出一些那个
[90:00] Yeah. And it was a big decision. He is a very wise person. When you do this, If you can't do the prioritization If you do something important, you can put the time in the important things you want to do. So you decide what are important things are important. The Plotization. And I think that he has to be able to read a lot of emails. You can quickly decide what is important and what is not important. Every day, you see things very clearly. When you look at what is important and what is not important, you can always be able to do it. Many people will put their own feelings in their own. They say, "This is not important, but I'm not good with that." "I don't want to do it." He just thought that my goal is to take care of the whole company I just want to do The goal is to leave the company in the store, take care of you. Mm. I learned how to do the process of the process. I think this makes me very much impact. I was at research for a year, I think it was hard to fix two or three topics. I think it was about to change the topic. I think I didn't even think about this. But in this process of doing context switch, it helps me to understand what's more important. And one thing is that if you've learned computer science, Compute Ants is the most important thing to do is to be a bit more. It's not easy to take a step. It's easy to take a step. It's easy to take a step. You have a lot of time. You have a lot of time. You have a lot of time. If you don't have a step. and then your life will be more effective So I think it's really worth learning computer science. Not because AI is not doing computer science. What did the following time do you have to do in the calculation? Every time, every time, every time, every time. This is not always fixed. Like now? It's not too much. It's hard to say what's important. I see what's important. I see what's different from the things I see. It's different from the things I see. It's different from the things I see. 全球AI重要的一个退手对吧那他看到东西远超过我看多东西那我不好评论他觉得现在什么东西就不重要你是怎么保持自己的精力量 You have some techniques? I'm a very good athlete. I was a good athlete. I was also interested in playing football and football. I was also interested in playing football. I've been doing Chinese training for several years. I've been doing Chinese training for several years. I've been doing Chinese training for many years. I've heard you have been doing Chinese training for Chinese training. You're a teacher. Yes, I'm a teacher. My teacher is a teacher. He is a famous武术 teacher, his teacher is Lillian Chow, and he was a teacher of Lee Sushen. I was very curious about the fact that There was a couple of people in Taiwan My teacher and my teacher and my teacher and my teacher and my teacher and my teacher and my teacher and my teacher. It's a good training for bodybuilding. It's not only about the ability to do it, but the ability to do it, and the ability to do it. The best thing is that it's only one person can do a lot of exercise. So I started doing this training and training, doing training, doing a training, doing a training, doing a training, doing a training. And I have a new 4th class, called Ice Punch. It's called a "Bintone". I'll be like a workout like a heavy workout, and I'll be able to get into a waterfront in a cold water. It helps me to recover my body. I think this helps me to keep my strength and make me a strong challenge. - This is what you're doing before you're doing? - Yes. - I think that's what I'm doing. I'm a very friendly person. You still do some heavy workouts, right? - Oh. 冰水啊 - Yes, but I learned武术's goal is not to let you guys know. At first, it was a huge influence of the financial world. And it was a huge interest in China. I learned it after that.
[95:00] 自身的一种磨练中国武术最重要就是控制全身控制自己因为你要打出一拳的时候最大的力量会来自你全身协调可以把力量从脚一路灌到了手这么长的路径你要控制到全身协调力量传讨是一步步到位很难的,因为都一瞬间发生了所以要经由不断的练习,不断的自我修改我觉得跟我喜欢一直自我检讨,一直追求都有很深的影响我并不是为了展现我强大的破坏能力,我觉得后来变成了一种对自己的追求你的性格这种比较温和能算温和吗你在公司应该不这样吧当然不是这样做久之后都有一点恨蝶不成钢然后看到年轻的研究员就是擦那么一点火候就可以把事情做更好就会忍不住就会提出来所以还是会凶的对吧在公司里面我觉得是一种是一种直接指出这些问题所在取决于听的人听的人如果是觉得我是正面的他就会很开心因为这世界上不是每个人都愿意跟你讲出什么地方可以做进一步的提升然后他们可能会感激我跟他讲说这个地方你可以做得更好但如果你听者是觉得说我就在挑剔的话那你就会觉得我很囚嗯,你这个希望能够一击制胜。的课题是不是Cosmos?就是我们整个组织有一个project就是Cosmos然后我是非常专注在做Cosmos,我们就是希望透过Cosmos来对这个世界产生巨大的贡献这也是你接下来也许长达10年最重要的一个课题吗是的我们做完Cosmos 1的时候问那个Jensen要继续往下做然后Jensen跟我说你就做到Cosmos 97对我现在做到3而已还有94代可以往下走为什么不是100是97他是随口说说的他数字是随口说说但他的决心是展现在他这个数字上面他是认为这是一个重要的方向然后希望我们可以继续专注去做这个物理AI的foundation来帮助整个领域往下走我们接下来重点来聊聊cosmos和世界模型吧也是你当下最重要的一个议题我看你在你的个人主页上说你一直被这样的一个愿景所驱动就是为机器人构建一个黑客帝国能不能阐释一下这个愿景我认为世界模型可以帮助这些聚生智能啊就来做到这个泛化的效果那我觉得任何AI的问题要解的问题就是这个泛化的问题你能不能在你看过的训练数据之外也能表现得非常的好泛化对不对就是在这个Coding啊在这个Chat里面都是去解的去训练模型让他可以去解在他训练没看到的东西的问题很就是变成像人一样对吧那物理世界的AI也不例外就是要解放话的问题那解放话的问题在Cosmo这边我们是想这样帮忙,三个点提供更好的数据第二个是提供更好的启示点然后第三个是提供更好的环境数据是你可以用生成数据数据是帮助AI模型更加泛化的关键就是你可以想像这个世界上你看到的数据就这么多点你可不可以去生成一些你需要看到但是你真实世界你没有采集到的数据我把它叫Better Data再来就是如果你可以训练出一个好的世界模型这个世界模型理解世界怎么运作可以去预测未来发会发生什么事情这样一个模型他本身的这个representation是不错的其实是可以提供一个物理世界AI就不管是Policy model还是什么model 一个更好的一个从里面可以去就是衍生出你想要做的policy这是更好的歧视点更好的数据更好的歧视点那第三个人是怎么学习啊在这个物理世界学习呢就经由实验啊经由跟这个环境做交互跟真实环境做交互往往是比较安贵的然后你能获得经验累积的时间
[100:00] 也是短暂的就是一个机器人如果说你可以用这种像黑国帝国这种去生的方式可以同时产生多个环境真实无比的环境你可以跟他交互然后给你讯号你是可以学习的非常快的那就是更好的环境更好的数据更好的起始点更好的环境那里面最具有挑战性的就是更好的环境我不想在我的网页里面把它写得非常的长,像一个词一样所以提出了像黑客帝国这样是一个比较好的一个就是帮大家理解我们想怎么做怎么帮助这个physicalide communityCosmos这个在内部具体是怎么立项的这是24年还是25年24年吧24年开始做的大概24年3月份左右我们决定要做然后就在sorrow之后对在sorrow之后就是完全是那个时间点对对然后大家都在想说这个是充满了决心一定要做然后很荣幸的先生就是信任我那我去带这个project说服他的过程难吗在这件事情上那是我进步呢之前要说服比较难那看到说话之后就不难了他是很聪明的人他一看就知道这个东西对对那个这东西对公司的影响他是一个很有纪律的人有些东西其实很重要他会叫你PeacePace your steps就是让你不要挤他擅长打马拉松战对所以他是很有纪律就是慢慢的一步一步往目标前进为什么之前这个时机还没到在Sora之前Sora之前就是嗯 first mover有first mover的advantage对不对?然后每家公司有不同的定位对吧,取决于你想要解什么样的问题,要怎么样的活力?我没有足够多的资讯来判断,但我不觉得,你看像现在很多家公司都做得很好,现在做video生成最赚钱的应该是字节了所以这个轨迹是很难说的好到骚热的时候觉得时机到了对是你又跟他写了封邮件吗所以我们这一群在做这个深层式模型的做这种media generation的咨询人一起决定跟全正写邮件我猜每个人都会写吧对每个人都会写不是一起写一封我们会讨论然后一起写一封然后让大家都会加意见就是就变成一个公司的公司就是我们必须要把这东西做出来哦这层回复这份邮件了吗对就是把我们聚集在一起开会了哦然后在那个会议上打成了共识其实会议之前大家都打算共识了然后那个会议只是是更具象化到底要怎么做然后谁负责这样子你对那会有什么记忆深刻的事情吗就是他叫我们去想名字吗然后我那时候其实已经知道最后他会提出更好的名字有点拒绝不想浪费我的力气想个名字之后他想出更好的名字但我还差我就跟他讲说你就直接跟我们讲吧你觉得什么名字好他说不行你要去思考去想我觉得有道理啊因为这个名字跟产品的定位会非常的相关你看我们叫cosmos是一个就是宇宙我们目标就不是产生这个content不是为了要做创作就是为了要解物理世界的问题才慢慢往物理AI这边前进因为Sora其实是一个服务创作者的一个事他早期的demo是这样讲为什么你们当时选的就是physical AI呢就是面向的这个市场那时候已经陆陆续续看出来,就是那个Physical AI,它会是下一个revolution,因为这个是个刚需嘛,每个人都会老花,每个地方都缺乏劳动力,每个人都想提升更好的生活品质。还有一方面来讲就是,NVIDIA是走这个developer market,就是帮助这些开发者做出更好的产品我们自己不会经营一个社群网站也不会去建一个创作工具这有点太图思义了对于英伟达来说所以你们定了我要做一个世界模型然后这个世界模型是为了Fysical AI的为服务Fysical AI的community今天大家对于世界模型定义还是非常不清晰你跟我们讲讲你的世界模型的定义吧我是个很讲究实用性的人嘛那人为什么会去设计一个模型呢?就是他可以用那用法有很多种
[105:00] 比如说你设计一个模型来描述这个世界经由这个模型你可以去预测接下来会发生什么事情所以它的目的是为了预测对吧好这是一种事件模型的为什么去设计世界模型的原因?用处?预测?那另外一种是你想去理解为什么这事情发生了?你某方面来讲整个物理学就是去建世界模型,去了解这世界是怎么运作。从牛顿力学一度到量子力学,就是去了解这世界怎么运作,也是建一个模型嘛。然后去帮助我们理解运作那当然从地步能力里面我们把这个Understanding就是经有一些标准的数据去教模型这个东西会怎样是因为发生这件事情然后经由大量的数据泛化,然后帮助未来新的事件发生的时候,你经由看到的视讯讯号去解释,帮助人去理解发生什么事情。比如说,在工厂里面为什么这个地方突然间产线卡住了?然后可能是之前某个工人忘记把什么东西打开。这个事件模型建的也是一个目的性。就是为了去理解发生什么事情找到问题还有另外一种世界模型就是为了要去重建这三围的世界重建这三围世界有很大的用处你可以去规划你东西路线要怎么走然后你可以让人去体验一下你人虽然生不在这个真实世界,但你可以在虚拟的状态下去在这个世界里面做游历,就是模型 for the world, right?因为你的用处不同所以他模型的形态长得不一样终究我们是在同一个世界里面这些模型就是不同的就是经由不同的观察来去描述同一件事情那种重建是重建是一个很重要的学问那我自己本身就是以前做过重建那我现在已经不再在做重建了我现在就是主要是做物理世界的理解跟物理世界的神成就是prediction这些事情大家都会对世界模型有不同的解释现在定义什么叫Wall Model?在几年前呢同一件事情发生就是大家定义什么叫AGI对,然后经过这么多年还是没有一个共同的定义。对,然后我认为去定义Wall Model很可能会走向同样的道路。我觉得没有可能不是很重要的一件事情。这是因为这个词太大了吗?过于笼统。对是过于笼统那就是定义出来后对对这人类有什么影响那为什么LLM就是一个相对精确的词LM就是Large Language Marathon它模型很大然后做Language对就这个词为什么大家都是一个有共识的一个精确的定义但是世界模型大家一直在争论不朽对LM就是LM Large Language ModelLanguage model就可以predict接下来会发生什么词汇对吧Large代表说它的模型很大对这很明确嗯对吧就是世界模型就是一个可以帮助你去model这个世界的一个工具嗯那你model这个世界的一个工具你要做什么用途呢那因为用途不同所以你model的世界方式不一样所以当只要你对这个世界这个模型有不同的用途之后就有不同的定义所以你觉得世界模型能够描述cosmos吗还是应该用另外一个词来描述你在做的事情是我们一开始的时候我们是把cosmos叫做那个war foundation model我们目标是建立一个foundation让大家都可以建筑设计他们要用的世界模型所以我们把自己叫Foundation Model,是因为我们希望我们是一个更底层的东西来满足大家。所以我是这样我是这样我们是这样定义的就哪怕他是一个要做世界模型的人他也可以基于你的房内设模特来做是的你是希望提供那个极座是的我们要提供这个极座对就是我们认为世界模型将是在Physical AI里面重要的一个环节,但不是每一个想从事Physical AI的公司都有足够多的资源去做自己要的世界模型从零开始做,但他们又需要,为了帮助他们我们就做这个Cosmos,这个World Foundation 研究,因为你们也同时投资了Kun的AMI Labs和菲菲老师的World Labs,你们做的世界模型有差异吗?NVIDIA是站在一个enabled的角度我们希望就是繁在我们的GPU的Ecosys上建立的公司我们希望帮助他们成功我们希望大家可以一起走向成功,Win-Win!然后每个
[110:00] 公司看到的点都不太一样,想解的问题也不一样,所以会有各式各样的,就菲菲的Wallab,杨磊坤的MI,都是走不一样的路线。我们都帮助他们,也希望他们成功能投资他们。我们跟他们也有合作,如果他们对我们的COSMO东西有兴趣,他们可以利用。其他家公司需要Wall Model,但他们可能没办法不像菲菲或是杨雷昆资金雄厚,他们可能更需要帮助,他们可以Leverage我们的Cosmo。我们目标是帮助整个领域成功,这几家重要公司我们当然希望成功,但我们还有很多需要需要去帮助的人所以你们有亲战对手吗我觉得NVIDIA竞争对手就是跟NVIDIA做同样的事情的公司嘛就是去做这个整套AI的这个ecosystem那你说没有竞争对手有些公司也就做算力嘛我在做Cosmos的时候我是不想竞争对手的我想的就是怎么去帮助这个ecosystem在我的ecosystem里面在NVIDIA的ecosystem里面的这些用我们GPU用我们运算平台用我们软体的公司他们如果成功的话好那Vida就会成功,因为他们会帮一些还没在我们ecosystem会产生信心我觉得这是帮助防止我不再想进展了我已经过那个时期就是为了要毕业把论文发出去所以我的算法要比别人好我现在目标就是要帮助这个领域可以一起往下走因为从第一代到第三代的Cosmos其实也经历了很多变化你们在第一代到第二代的过程中有没有什么记得什么诺耗?是的,就是去年的工作?对,这个步调很快,那时候开始做Cosmos的时候,我强调一个点就是我们要迭代快速,那时候深受Deep Seek 的影响,因为Dipsick是很惊人的公司,它可以一年内叠代三次,产生Dipsick V3,所以我一直强调我们要叠代速度快,叠代速度快可以一直不断的进步,一代比一代好。但是我们那时候挑战的题目是这个物理世界模型,在那时候,尤其是20年,不是很清楚。这大家都还在没所怎么样的世界模型对大家有帮助那刚讲就是不外就是用世界模型是怎么用它?Pretition或是understanding那就是做这个这种影片模特儿来帮助 predict future我是做这种returning model来解释发生什么事情的嗯所以就是一开始的时候就跟一些伙伴合作去理解他们的需求,然后自己本身有一些想法,然后就做出一些模型,然后跟这些伙伴叠代之后才慢慢收敛,就是在过程当中就是慢慢的收敛从,然后我们那时候做了 predict 之后可以预测未来然后想说仿真环境是大家常用的环境,但它的生成的这个video就是跟这个真实世界的虚化一定有差距可不可以就是用这个模型来帮助它更逼真那就说了transfer那为解释发生什么事情就说了reason当时三个对然后后来理解到说我如果可以去描述这个pixel是被这个pixel是怎么变化的那我这个pixel变化跟我这个action的变化其实很接近的所以我们就做一个叫Cosmo Policy 给一个Parsy Marble然后后来陆陆续续的发觉就是就像刚刚讲的一样这是同一个世界 不管你从哪角度来看 你model是同一个世界你模型就是在学一个internal representation of the world就是这个世界你在做压缩过程当中学到怎么样的一个表示方式那既然是同一个东西那还有一个东西就是Foundation Model它的核心概念就是一个可以纳百川就是可以从各式各样的数据里面去学会模式的一个模型所以如果你可以把你寸Recent用的Data、TrainPredite用Data、TrainTransport用Data、TrainPolicy用Data全部合在一起的话你是模型的上限更高第一个你是秒数同一个世界然后第二个 Foundation Model 就是就是纳白川把东西合在一起好 那所以就慢慢的往这个单一模型走它中间还有一个是一种执行上的问题我记得我当初去见了这个第一版的 Cosmos 我自己算一算就是因为我是希望真的模型可以帮助到其他人然后跟这些partner 合作的意义我可能需要这个模型 ABC
[115:00] GDEFG 我自己算一算那时候可能需要22个模型那时候我就有个会议跟捐车一起开会我就跟陈强说我预计需要24个模型然后先生听到就觉得我工作非常认真 他就讲了非常好We're very hot 然后他讲说但是你知道吗Louis Vuitton LV这家店呢当它减少它的货品成维成列的这个货品数之后反而sales是提升的你不希望太多的东西困惑你的那个消费者让他没办法做出决定那个对我印象很大就是我理解到说嗯对 我自己也遇到问题 因为我自己都分不清楚要用A还是用B了 那其他人更加不清楚然后再来就是执行上的困难,你跟每个模型出来,我们不是发Paper就结束走下一个Paper,我们要去帮助使用者去用,那只要每个模型出来,我们就要维护,要解决问题,然后当你有数个模型的时候就是很辛苦 被多则利寡 影响到你迭代的速度所以在做1的时候是在提写的过程当中然后快速作恶然后在作恶的同时就提写到如果不行就是这样做不长久所以就决定要做这个Omni Model的Wall Model就是Cosmos 3就数个方向第一个是描述同一个世界所以其实是可以合在一起的然后第二个Foundation Model就是吸收各式各样的Data合在一起然后在开发上也简单很多所以就是走向了Cosmo3这条道路所以2到3其实是一个大的变化是1到2的变化是等于是数据的提升还有一些那时候在2的时候把Pas戴起来是有些变化但我觉得2到3是一个很大的一个Gap对3做了多久三从去年十月开始做就是刚好发了二之后二月发十月份发的二对其实其实那时候在呃大概是更早时期就知道说必须要做三然后但那时候已经开始2.5然后把2.5收尾然后把2.5收尾之后再做3所以可能3可能就是大概是9月的时候开始知道说要坐山那我真正执行可能就是10月11月然后做了将近半年对超过半年一个中国做世界模型的创业者他说他看Cosmos 3论文看了一周而且是每天看里面有很多的细节我觉得他们的观点是说就是觉得Cosmos 3他在技术的大的创新上不多但是他把很多的细节都工程验证出来了你觉得他们这个评价重肯吗Mitchell Transformer之前也有人提出然后ParseModel之前有人提出我们是第一个把这个Mitchell Transformer scale到这么大的模型把 audio video action 都合在一起然后这些东西啊从概念上来讲就是东西合在一起但你真正要把它做出来不是那么容易那真正做出来就是这些细节所有的这些大语言模型都是顺时风的架构你可以讲大家都没有创新但是它的那些细节会让某些模型比另外一些模型好很多我认为就是这么多年之后我就更加重视这个这东西能产生的效果我就往往越来越不重视这些东西是不是革命性的一个原创对对我来讲它有用产生impact 解掉大家能想解掉问题是它的重点这个Paper我们是希望帮助整个开源社区,就是做开源模型,帮助到整个Physical AI我们这几年看到的现象就是这些Fontier Lab很多都走向避远然后即使写paper也不愿意讲出那些关键的环节那我们决定走不一样的大路我们把能讲的东西都讲的就是把就是尽量把东西讲讲的非常的清楚然后能就是我们开源这个模型也开源我们怎么去训练这个这个模型的框架然后部分的这个synthetic data我们都开源了我们是希望保持透明让大家看到怎么做跟Cosmo类似的东西如果他没有兴趣的话我们目标就是enable的整个community
[120:00] 担心别人可以说出一模一样的东西我想到你刚才提到Deep Seek,你选择开源跟它有关系吗?也不算是有关系就是DeepSig的工作对整个AI的影响非常深远第一个把Mitchell of Asper开源的公司然后你看到他最近的模型他的用心把这个逼到极致这些对整个领域都产生了深远的影响我觉得这是很重要从这影响的角度来看我觉得是相通的我们是想产生影响把这些细节都讲出来Amedia有很多...这个建在NVIDIA Ecosystem上面的Physical AI的公司那我们希望帮助他们成功我们的目标可能跟Deep C是不一样对我们是希望帮助我们的使用者成功你们天然就是这个生态了对我们就是希望就是那个希望可以帮助这个Physical AI降临世界快一点你们在这次为什么选择首先在输入层同时能够输入预言、video、audio和action这是一个重要的决策吗是是我觉得这是这个世界不是只有视觉对吧然后也有听觉嗯但我也想加入触觉嗯但触觉的讯号还不好这个touch sensor这些东西还觉得还在快速迭代当中这个需要零敲手需要领导手 需要数据我觉得大模型啊基本上思路有两个一个是让Language 当成 First Car Citizen像Coding啊像Chat 另外一种是让视觉讯号 video当成是First Car Citizen 像Sea Dance 像Viu 我们认为物理世界的模型跟这个数字世界的模型最不一样的地方就是物理世界的agent会take action会改变这个世界的状态我们认为一个好的物理世界的Foundation model也要把Action当成First-Cut Citizen就是为什么我们把Language、Video跟Action合在一起,像这个Cosmos 3我记得以前杨志玲跟我说他们做语言模型他就是把语言当做最重要的智能提升的工具对他会很担心Vision加入进来就是影响他的智商变成一个傻的多魔态但是谢赛宁今年又跟我说他说他担心语言对于视觉的污染他觉得语言才是人类的脚手架并不本质这是他的观点所以你怎么看待他们这两种观念以及你把他们这些信号都训到一起的时候会出现问题吗就互相的污染这些信号他们带进来都有他们的目的就是language可以把这些人类的knowledge带进来然后也帮助人类跟这个物理AI做沟通然后 video 是大量的视觉资讯或 audio 大量的听觉资讯去描述这个世界怎么运作用这个video更精准的去Capture这个世界的物理运作用language反应很难 对吧?但是人跟这个模型这个模型之后见出来是要服务人的嘛那你怕不懂Language 你是没办法跟他沟通的然后这个模型最后是要帮助这些 machine 去 take action 的所以他不懂 action 它是没办法去改变这个世界的应该这样讲吧 就是我们的目的不同我的目的是希望这成为一个好的foundation model for physical AI 它需要懂language 需要知道这个东西怎么变动然后有action 借由control 把它合在一起去做那我的目标不是去追求AGI对,然后AGI本身也很难去定义嘛当你定义的AGI就是纯粹要去减这个了解人类的本质的时候或是怎么去做coding的时候可能这些视觉讯号会影响到你那是必然的 对吧?遥远的古代是没有任何语言的然后这一切人类的文明的发展就是经由这个看这个世界怎么变动而产生的那你可以觉得因为毕竟这个好这个语言是发展适合人类的但你不知道机器是不是接受这一套也许你就从这个视觉讯号里面直接去学这个世界的怎么运作得到一个intelligence然后发展出另外一个文明那你从这角度看也许语言讯号是一种干扰对那我觉得是看你要的是什么我很明确的知道我要的是什么所以我觉得我需要language让人可以跟这个物理爱沟通我需要video audio去描述去持续从这个物理世界的变化
[125:00] 去学会这个物理本质,需要Action,因为我希望它最后是可以for physical life 改变这个世界所有模态融合到一起这些模态是相互benefit的还是相互制约的在过去一年甚至超过一年之间我们都一直在研究把这些模态的融合那我们从各个不同的研究里面得到一些线索在Cosmo30是把它结在一起比如说在Cosmo Policy那片walk里面我们就发觉把Video跟Action合在一起是帮助Action的就是当你在呃直接Predit action的时候啊就是当我们在做Wall action model的时候我们发觉就是除了Predit你要做什么action你也Predit接下来take the action 之后会产生的state 就是observation 是帮助你做训练 收敛所以我们知道就是predict 那个video 是帮助action 的就是wall action model 的这套系列 那声音也可以帮助video generation当你操卡 李森碰到那个点你就知道接触的时间是那个点所以知道这个是有互相互符的然后一般做video的人都知道就是从文字到video这是一个讯息量变大的过程讯息量变大代表说有很多种可能性很多种可能性的方式是比较难去学习的就是一种东西可能有十种可能那这东西就没有固定的target不好学所以在做video或image大家都会发觉当你的文字描述非常详尽的时候,这是比较容易产生好的一个影片所以你可以知道文字的详细描述也可以比方这个 video那我们做这个Cosmo 3 就是想把之前这些Cosmo Reason,Cosmo Predict,Cosmo Transfer,Cosmo Pass这些东西合在一起合在一起本身就有它的好处了整个东西就简化了那这些讯号怎么合在一起让它产生互补的作用而不是互相抗拒的作用这是可以经由实验的设计经由这个data的比例的调整来达到的所以我们那时候是坚信著这些讯号都是描述同一个世界这些讯号都含有这个视觉怎么运作的资讯是应该有一种方式让他们和在一起会互相帮助更多讯息帮助你了解背后的运作原理是什么所以有这样的believe然后从这方向出发在这里面有什么secret sauce吗在互相bunnyfeature其实做大模型没有什么secret sauce做严格的实验假设、实验、看到结果累积知识再做下个实验就一步一步一步往下走走扎实地做就对了我不觉得有什么不可告人的秘密,就是要追求的东西耐心做实验验证对了下一步就这样走因为你们这次采取的是一个双塔的设计一个塔在处理理赞信息一个塔在处理连续信息为什么采取这个设计有很多原因,一开始的时候,CosmoRecent就是离散的,从Vision Language Model出发,Predict Transfer Path也是连续的就是我们知道离散的work for understanding,我们知道连续的work for generation,把它放在一起,就是一个现阶段很合理的一个选择。然后再来就是,有很多种用cosmos的方法。但常用的是做 post training就是也许用你的video action的配额来去train generator或者是你只想用reasoner啊就是用你当初自己domain的这些understanding data来train当你有两个这样可以合在一起可以把规点的影响切开的 是帮助客户去使用的 如果我们全部连在一起 好 那就是Generation跟Understanding在一起了我现在要换这个generation的distribution在换的过程中因为全部都连在一起你的data也会改变你understanding那边
[130:00] Yeah. If you have no two towers, you can only one one. That understanding there If you change your data, you don't understand your data. You don't understand your data. It's not convenient for the customer to use. So, it's a two-day solution to use. Although it's not elegant, it's not elegant. You still need to decide the structure of the structure. Deep learning is to decide the data to decide what to do and not to do the different parts of the system. But in this stage, I think this is a good fit, and it is suitable for it. I can think that the next step is more difficult to do. Why do we have two types of things? But when we move on to the goal of the goal of the goal, we need to consider the users who will be able to use it. Because our goal is to help you win, not to create a lot of things. We believe that the machine is not the same. We need to keep in mind. We need to keep in mind. We are looking at the user's ability to use it. This is what we need to do research. But to do this, the signal is better to be able to fix it. When it comes to the signal, the signal is better to be able to fix it. How can it be able to fix it? Now, there is a series of works like Transfusion. It can also be able to do the same and the same. In the next token and prediction, it can be done with the same. Then, the diffusion is done with the same. And this time, there are many different ways. This is the change. The information can be reported by the information and also by the information. I hope that the development of the development of the project is not completely different from the development of the project. It will be easier to do. But I don't want to do a lot of research and research. 直接来看离散更容易还是连续更容易啊? There are different advantages. The training is better to practice. Oh and the It's a beautiful place. In the infant, they are different shapes. The most important thing is to be able to be able to get a job I think the best of the testing is to be able to do the testing. So I think the best of testing is the best of testing. I think it's the best of testing. So I think it's the best of testing. So there are a lot of ways to be able to discuss. There is a research question, because you now have all the models to the model, and in the theory, it can be coding well, and can be able to create a new model, and can be able to create a new model. It can be in coding, and it can be better for cloud? I like to talk about the "Beydou Zerliko" in the book. If you have anything to do well, you need to practice. You need to keep learning. You need to hit a lot of different types of different types. When you have to make sure you need to use this application, there are some changes that are not going to be used to. Because you don't care about anything else. There are no other things you want to leave. And then, you can do better. If you don't want to leave, you'll be very hard. I think the strategy is usually You can decide what to do. 这双台之间会互相的提升吗? 我们知道就是嗯 In the paper, there is a test that you use physical AI to help you to improve physical AI generation. And then We also know that if you can send the generator to the recenter, you can help your recenter to better representation. In this paper, we have time and we have no done a complete experiment. There are many experiments, but this foundation model is a very good thing. And the decision is It's been a few months ago. It's hard to do some changes. We don't want to make the 3 as a final. We will continue to do 3.1 and 3.2. We will gradually increase the 3.1 and 3.2.
[135:00] 理想做的一些研究这次没有机会把它给呈现了继续补下去除了可能会更简单双塔有可能会变成一个塔还会有什么在未来模型中可能大家会看到的一些变化我们很关注的就是这个模型怎么去帮助那个physical AI的builder然后这个模型推出去之后据我所知就是大家都在讨论然后有些partner一些同学都给了蛮不错的feedback放话是一个核心的问题任何AI的核心的问题那在物理世界的AI里面我觉得一种我们需要达到的放话就是假设我今天教机器人说我的衣服我喜欢这样折然后喜欢这样放我就给这个机器人看一两次我怎么做他是不是就可以快速学会在现实生活中就快速学会这个东西是不是给这个这个physical AI读了说明书他就知道怎么去操作这个仪器怎么在这个工厂里面做那个检测那我觉得这些东西是很重要的能力是physical AI能打倒的那当然这些在落地的时候有很多考量我是想说在这个foundation model部分是有什么东西我们能做的然后可以来帮助这些physical island developer所以我们中间的提升可能都是会朝着这些提升这些泛化能力的角度来去把这些东西加进cosmo模型里面比如说你们为这个有哪些具体的优化呀优化是像加速那些是一定会发生的我们当然是希望这个模型可以越跑越快然后另外一些优化就是能力的优化泛化的优化对那这个东西就是可能会改一些架构上或者一些training的objective的改变我是用一些特殊的就是curate的data来做这个训练不是很清楚是要测试它是一个实验科学对是实验科学就是我常常觉得那个deep learning就很像中医一样就是试出来的试出来的对然后那个在试的过程当中你做详细的实验记录从里面去理解那个中间的法则,然后我觉得这是很有趣,这两个东西我觉得很像,然后我觉得做严格的实验,然后控制变数,然后得到一些关键的结果是,这模型迭代的重要的那个一步。也有研究员提出,这个模型的语言渲染是不是可以,把它的比重加的更大一些因为他们还是认为LLM是提升智能的关键你认可吗我觉得在早期的这个Image Generation的研究包含ImagineGoogle的Imagine里面就提出了当你的language的understanding越强你用更大的T5 model你的Image Generation能力更强我是相信的你用更大的Cementive Representation应该要帮助我是同意的毕竟因为Physical AI的应用跟这个大家常讲的Coding啊或者Chat还是不太一样所以还是需要做一些实验的验证我想做的事情是了解真正的痛点然后从这痛点里面去找到合适的方式来把这个模型能力补强有些大家得到的讯号更好的这这个模型那么当你没有资源的限制的时候你当然是会放进去但比较有挑战的就是当你资源有限的时候你怎么做取舍所以也许对于场景来说智能可能不是那个最关键的变量你需要你的机器人会去奥数问题吗你需要你的机器人会解这个coding的问题吗我觉得你可能更关注他能不能把你的那个工厂要组装的东西做好我家庭的卫生就是把这些操作把它做好对吧所以我觉得这个你要解的问题似乎是跟这些大语言模型公司这种agent公司要解的东西是有点不太一样然后所以既然是不一样的题目然后最后这个解这个题目的成本都是一个重要的因为如果要商业化最后成本都是一个重要的考量那在这些条件之下它的架构真的会跟现有的这些for agent 的模型是一样的吗这是我一直在思考的问题你现在有初步的答案没有有没有一些直觉过去的就是纵观人类的历史
[140:00] 答案就是应该是不一样对吧?然后你要做耕田的工具跟你要做纺织的工具是不一样的所以直接掌握也是不一样的最后就是贝多泽利果啊是吧?嗯 老主动的智慧还是蛮管用的嗯嗯COSMOS你们未来会投入多少卡和资源啊?这个我们一直在提升当中,我不知道我这边方不方便讲这个卡的数量,但我们希望我们已经在万级了然后希望可以在更多更多这会是英伟达最重要的一个模型的项目吗因为大家有数个模型项目然后我们主要是把它分成两类,一个叫Agentic AI,就是要做这个Coding Chat,然后去Agentic这种Digital Intelligent的这套这些客户的需求。在这里面我们有这个Nemo床的模特。就是他们这个团队最近Release的这个Nimotron 3 Ultra得到蛮不错的效果那在Physical AI这边主要就是Cosmo这个模型Cosmo是一个Base Model是一个Babble Model那NVIDIA也很关注自动车也很关注机器人 也关注工厂对我们而言这些都是Physical AI 的运用那在自动车上面我们就有叫做APA Mario的Apple它是在Cosmo上面做的specialization,就是自动车所需要做的优化。GOOTS是在Cosmo上面做对机器人相关的用法,包含这些whole party控制的这些东西我是把这些做自动车、内部做自动车、做机器人的看程师也是我的客户,希望帮助他们成功在Physical AI 这边就是Cosmo为核心来去辅助这些主要的 downstream 的开发者可以获得成功。所以主要是两个。你说是不是最重要呢?这两个都很重要啊?Digital AI 怎么用agent 怎么说coding很重要那physical AI也很重要很难讲谁比较重要对但现在打的最火热的就是这些agenda AI的东西那physical还是下一步physical AI在你们看来会是一个多大的市场这个应该是一个巨大的市场啊,我不确定这个估这个市值不是我的专业啊,然后我也不方便代表公司讲多大啊,但是啊,这个随着人口的老化所以制造业的自主的需求然后还有各式各样的应用我们觉得这像是一个巨大的市场因为世界模型现在缺乏有效的评估方法你有没有一些好的探索吗世界模型大元模型大家都在追求更好的评估检测的方法然后呃就是一般来讲模型的评测有三步第一步就是Benchmark就是有一些固定的datasets你去上面两侧它的跨体然后第二种是Arena style就是A跟B比看谁比较好那第三种呢就是跟着Asper去真正有这痛点的人然后去解这个问题那我觉得这三个都很重要在Physical AI里面第三个特别重要因为每个嗯就Coding Agent大家都在解Coding的问题嗯 Digital Use 问题飞机关每个邀请的问题不太一样对然后所以我更加强调就是跟这个客户跟这些愿意一起活着的伙伴一起去了解怎么样去评估一个模型真正有用还是没有用那这不是一件容易的事情这个是给模型发展指引方向的重要一步我觉得在未来的发展当中这一步会越来越重要数据也是一个难点你们这次是怎么做的数据是一个难点尤其是在physical AI更是困难因为physical AI每个形体都不太一样然后搜集数据没有那个PhiSico的setup 就没有要去搜集数据在英文打角度更加的困难 因为我们是要服务各个PhiSico来的这个开发者每个机器人都不一样所以我们能做就找最容易共通的Fysical data主要有两种,一种是Navigation data,从A到B另外一种是manipulation data 怎么用手或是tool去操作
[145:00] 完成既定目标那navigation data 比较容易做对就是你Camar怎么动车怎么动机械怎么动这些都可以收集那机器人A跟B即使它们很不一样但它动起来就是在空间中位移有时候可能加点旋转所以是比较相同的那操作这边就比较复杂我们发现一个趋势就是大家越来越追求接近人手啊这这种这种机器手臂然后论点就是说这世界人类的世界是建出来给人类用的所以大部分的工具都是适合人手去操作的整个AI需要大量的数据,如果你的数据越好取得,你就能更快得到突破。所以大部分的收集数据者是人,人就是手。所以两个环境,两个条件,就是人手适合收集数据。然后这个世界是大本建给人手的所以就建议看到大家往人手的方向前进那所以我们在这Cosmos 3的时候也就是特地把这个EgoCenture的Data给加进去包含了这个人眼怎么看这个东西从低人秤然后还有人手怎么去操作这个物钱所以因为我们的目标不是去做出一个机器人我们目标是帮助大家可以做出很好的机器人所以我们要找最容易可以互通的东西那我觉得Ego Sentry对它是非常重要的在刚才说的那些现在的限制和局限之下,英伟达有显著的一些优势吗?在英伟达获得GPU运算的成本比较比较便宜,毕竟我们生产GPU嘛,然后再就是我们在Physical AI这边已经生根多年了,我们有这个SOR这个chip,然后也有这种iSEC simulator,然后就是啊,所以我觉得这东西合在一起,我们提供更多的工具来满足各式各样Physical AI开发者所需要的需求,那呃还有这点是我们是真心想帮助其他家公司成功的因为我们啊就是我们很清楚自己能提供的服务在哪里啊然后比较不会有这种一直就是我觉得客户王王比较愿意跟我们一起合作因为我们是我们不会说就是跟你做一模一样的东西,然后帮你就是,这不是我们的目标。对这个模型让你非常满意的一点是什么?然后让你有点遗憾的可能是什么?满意的一点就是,我当初跟大家讲说,可以把过去的所有模型合在一起,还会做比全部之前的模型都要好。这件事情发生了,我们现在的模型比过去单独独立的模型效果都比较好的,那时候很多人不相信。那我觉得很开心然后第二个就是这个是我们第一次就是把整个团队原本是建造数个模型现在合在一起建一个模型这样把这么大的一个组织大家凝聚在一起去建造模型我本身也很骄傲就是这件事情可以顺利的发生遗憾的是什么我觉得我们的模型因为时间的限制,其实我觉得模型还可以继续抵称,但是因为时间限制,我们没有让它完全收敛,就必须要退出了。还有很多想要改的地方,在之前都没有时间改,所以这几方是想要追求更好的结果,时间有限那好处就是我们继续会做3.1 3.2 会把之前没做好东西再把它补进去嗯你有想过像老黄说的做到97代或是什么样子吗那时候听到97代我的理解就是我们有决心就是一路把它做下去把它做好然后这是一个很大的commitment因为这个做正模型是很耗费资源的然后他展现出他的决心就是往下走我得到信心就是这个东西会一直往下走那世界模型最后就是接近这个世界对接近这个世界接近这个世界从透过那模型你可以去学习你想在真实世界里面学习的东西那我觉得就是是往那方向走那最接近的就是你有能力随时可以做出一个黑客帝国的举胜我觉得就是这种样子那我不确定是不是需要到97代我们如果就是每半年以来的话还要四十几年对吧四十几年对然后我觉得现在AI的发展
[150:00] 速度极快也许不需要到四十几年好因为你们团队又有做数字世界的模型又有做physical AI的模型你觉得训练两种模型的差别是什么差别大吗目前的状态是这样,Nemos床他们用一个叫做Hybrid Architecture某些层是传统的Transformer,某些层是Mamba-style的接近RN的架构。这样的架构有它的好处,因为RN的运算是比Influencer的运算是比Transformer便宜的。Agent有一堆Token要产生,有时候你要Agent做很久的事情,所以这个是运算成本的需求。我们不再走路线,还是走比较传统的Transformer,但我们走到Mitchell Transformer,把Asian加进去所以这两边的模型的发展渐渐不太一样,但我们两个团队之间紧密合作你可以在Cosmo3的Paper里面发觉很多作者是从Nemotron来的,我们跟他们合作,吸取他们的经验,一起去建一些模型在未来这两个模型有可能统一成一个更大的模型吗?这都是有可能就是我们的决策很简单怎么样可以帮助客户最好我们就这么说对我们是很low ego的刚才你也提到就是Cosmos是一个非常大的团队你觉得驱动这么大的一个团队一起工作难点是什么我印象中论文好像有290多人不到300人对吧对就是啊这个团队非常的大然后我是这样看的这是一个组织架构的难题你希望所有的目标一致谢谢大家但你又希望所有人可以自主做决定当全部人的目标一致,但每个人都不能做决定的时候,进展会很缓慢,因为只有少部分的决策者可以做决定那这些决策者假设只有我能做决定只有我能决定这个这个data的比例怎么调,只有我能决定这架构怎么做那我们这个模型就不会成功因为我的知识有限然后我的时间有限然后我们需要的就是每个人都可以做出对这个组织对这个模型发展重要的决定那第二个事情就是如果大家都可以做决定但大家目标不一致我就是想把Action做好,我完全不管Video怎么样。然后我就是想Understanding做好,完全不管其他的,这样就会发散。然后可能就产生不同的架构然后可能就进一步有赛马的行为那我觉得跑这么大的一个project重要就是让大家的目标一致但每个人又可以做出决定然后这在组织架构上面花很多心思去设计一些团队运作的合作方式让资讯透明化让每个人都有足够的资讯去做出对组正确的决定那当然我们也提供了容错的空间因为当一个人害怕他决定错误的时候他是不会做决定的所以你要让他们可以做决定 但也要接受有些决定会错误,但是错误的时候要能快速修正,这些都是需要一些时间跟一些训练才能让整个团队可以朝这个方向前进怎么让两百多个人都同时做决定这个好难大家都清楚整个关键整个project之后要达到目标是什么你要一直去把未来给画清楚跟每个人讲在Cosmos 3 paper出来之前或做完之前我就跟主要的几个leader还有大部分的团队都已经讲过说我们做出来模型会是这样子那是不是完全这样子呢?可能90%相似,10%不相似。但是当大家都看到同一个愿景的时候就比较容易集中就像你在在一个篮球选手你在罚球之前你都会想象这个球空心落网就先把那个目标给盯出来然后大家在讨论方向前进那当然每个人扮演的角色不一样然后但大家看到同一个pitch的时候就比较容易在他的岗位上做出对这个团队正确的决定嗯你设计了什么样的管理方法让大家的信息能更透明能更好的协作有什么样的管理的技巧多用点心思了解这个怎样讲大家会懂注重沟通注重沟通会开例会这样的会议吗我是一个 就是我很讲求团结合作所以我们的会很多但是呃
[155:00] 不是每周一次我说每周可能10次有吧每周应该超过10次超过10次所有人还是多少人跟主要的例子每个比如说我们做video的就是定期开会的一周两三次吧然后做understanding也是定期就一周两三次然后还有各个环节的就是两三次就是会蛮多的,会议上可以做一些沟通,大家会觉得开会很没有效率,尽量做一件事情就是让每个会议都更加engaging,让每个人都能参与,这都是需要一些训练,让这个团队这样。那永远不会最搞笑,你可以大家都不开会各做各的。那不见得会成功你可以一直开会什么都不做只是假也不会成功你就要选一个均衡在不同的时间点会有不同的一种调配方式那这东西都是因任务因时而定而没有说一定的公式拿给另一位成是最好你看硅谷现在大家说open eye的而且文化是自下而上andropic是自上而下你们属于哪一种我们是都有一个都会走向极端嘛 天下分久必合 合久必分 就是东西就是物己必凡就是我觉得都是要掌握这个就是在那时间点了解什么是对著团队最正确的事情而不是就是一味的顺著一个方向一个模式而操作我理解Cosmos的爆发的时间点和Physical AI和机器人的爆发可能会有是正相关的对吗你觉得这个市场会在什么时候迎来一个所谓的XHPT moment大家都在追求这个Fysical AI的ChairGPT MomentTrashGPT Moment 什么叫TrashGPT Moment呢?TrashGPT Moment跟GPT Moment有什么不一样?GPD Moment是跟我们讲说东西可以scaleScale 之后 墨清能力会更强确实 魔门是让大家清楚看到这样的一个scaling,这样一个好的模型,对人的生活会产生什么样的变化?大家发觉这是一个有智能体可以跟他沟通可以跟可以问一个知识广播的朋友那什么叫TrackGPT Moment for Physical AI?应该是指说大家看到一个就是以AI为主的Enabled Physical AI的应用 让大家清楚看到说这东西是真的有用的那这东西什么时候会发生 真的很难去预测然后当我看到是整个领域对这个Physical AI的兴趣越来越大如果资金越来越多的有志者创立公司下去解决这个问题Physical IK利用在Digital AI上面的成功所以我觉得各项条件都逐渐在收敛当中我是希望尽快看到确局比例的 moment尤其今年 尤其明年 我不知道但是我觉得它必然会发生你觉得人型机器人会在这个赛道里面成为主流吗我觉得人型机器人他的优势就是可以利用大量的这个人的数据来获得就是就是学习的素材然后来提升这些效果但人型机器人他本身就是越像人有腿啊有手啊然后这些东西就是相对的复杂度也比较高一点只有上半程是人,下半程是一种移动平台。这样的平台可以解掉很多问题。你说这样的人形机器人吗?我觉得也是吧。半身像人,也不是全人形。这样全人形的某些人形也更接近人形。有些人形不要不接近人形。我觉得人形机器人终究会是一个重要的关键。但是多项人形这件事情大家都在尝试当中。最终最终可能就是全人形式最啊最最适合各式各样的操作因为这个人类的环境就是设计给全人形的啊但最后还是要关键还是这个营运成本哦到底怎样是最最这个最经济效率最高那这就超乎我的专产我其实不知道那我的目标是满足帮助这些各式各样的physical build我也不需要做选择我就是聆听他们的声音看我们的模型怎么做可以更加帮助他们DeepMine谭杰老师他有一个预测他是觉得2035年到2036年可能是人型机器人成为主流的一个拐点是吗OK对我希望早一点但我不确定嗯你就世界模型可能会有一个所谓的拐点吗我觉得世界模型并不是新的啊就早就有世界模型了嗯
[160:00] 那我觉得世界模型会一直在做就是性能的提升我们所以大月母亲生命!看到模型越来越好对不对然后我觉得在世界模型上有看到越好我们这次在Cosmos 3也做出这个一个比较不一样的世界模型,这种ONIMODO的WALL MODEL,对,所以我觉得还是有一些变化,我会需要一点时间去让大家去吸收效果一下因为毕竟这东西不是这个模型出来后直接可以使用是必须要看怎么调配可以在这个机器人场景落脸那我觉得是需要一点时间那我觉得这会也会继续变化 对会一直进步会一直变化因为你说你要为机器人构建一个黑客帝国那黑客帝国讲的本身就是一个人类沦为了机器的活体电池然后活在一个虚拟世界matrix中然后一个觉醒的人试图挣脱这个系统的宿命然后来终结这个循环那你现在为机器人打造这个matrix如果有一天机器人要觉醒了想要挣脱这个虚拟世界怎么办我用黑客帝国的地方是帮大家具象一个世界模型这么快去加速学习很多人担心就是AI当他能力太强的时候会take over the world, 就会把我们给eliminate。我觉得这个社会是人去建立的这些科技是人在背后操作我觉得只要大家是有共识我觉得就是这件事情是不太好不会发生然后再就是我这就比较哲学一点了,我觉得痛 than suffering是一种驱动人去进步的一个重要的关节不是很确定这些西里康做成的intelligent是不是有同样的pain跟suffering我心里是产生春意的状态那我当然知道我们希望这个科技可以大幅度的改善人类的生活那我们也需要做出这些相对应的就是Garrel来确保他就是不会去影响这个正常世界的发展说到世界模型其他做世界模型的团队会把你当当做竞争对手因为大家觉得你也是做世界模型的但是你一直在说我不是你的竞争对手你有什么想对他们说的吗世界模型这个工具对然后工具是解决问题有好多种不同问题要解最终要解的问题只有世界模型是不够的那取决于你要解的问题,如果说我们要去服务整个Physical as Evil System,我们要建设世界模型让大家模型可以用PcGuy的问题本身又特别的难 有好多其他问题要解如果你可以跟我们一起合作利用我们做的东西那你可以走得更快更远这不是很好的一件事情吗对不对那让我们都是才开源的状态那如果说你用我们就是做出比我们更好的模型那这模型也是开源的让大家可以用那我们也是帮助整个Figure Assistant所以你做的比我们好我们也觉得这是一件好事对吧我觉得搭起团结合作去解掉困难的问题也是一件很值得去做的事情那当彼此间就是互相抵触然后越来越往上爬那也是很重要的一环他们肯定会说英伟达又想来卖我卡了对那你需要做运算嘛那我们这个啊现在这个英伟达的生态在这里有很多东西可以让你去利用的啊Why not?对吧你要做一个生意都是要做投资的最重要的是你的货地是多少,而不是像这些cloud company,他买了大量的GPU,但他赚了更多的钱你们内部会讨论什么是下一个Cuda吗有可能是Cosmos过去的软体是建议逻辑然后Kuda是帮助把这些applications需要逻辑转换成GPU运算未来的软体是AI为核心的AI是 built on top of other AI然后所以我们觉得啊做的Nemo床跟这个Cosmos都可能是未来的Kuda因为外部会对Kuda有非常多的复盘那作为呃你的视角你觉得Kuda是怎么做成功的它需要具备哪些要素像比如说现在Cosmos它具备了哪些不具备的
[165:00] 它是一个可复制的路径吗我不确定这是一个可我觉得Kuda当初提出的时候是很前瞻性的想法是一个很冒险的想法在这个当都不确定这个Athreatic Computing会不会是Bisting的时候我们公司就做出了这样勇敢的投资那我们做的大模型都得会于Guda然后可以往下走我不会把这个Cosmo或NimoTron跟Guda做同等的点解因为我觉得现在的整个发展已经相对复杂很多有很多个不同的整个产业是很多个stack的合在一起的我觉得合在一起可能是新的Guda而不会说这个模型单一就是一个Guda你还需要做Serving你还需要去做Infrastructure有很多东西要合在一起那CUDA你们觉得是哪些要素共同促成了它的成功?CUDA一开始的时候就是在寻找Application一开始Scientific Computing然后后来在deep learning出来之后找到我CUDA最重要的application然后往下走那CUDA还是一直在提供不同各式各样的application我觉得复制CUDA是一个很好的想法但我不觉得你按照原来的路线就会走一样的路我觉得这个环境是不一样的我觉得是要adaptive看清楚那哪个时间可以做出哪些重要的贡献所以你们不会拿着这个锤子去找钉子对吧拿着我要做出下一个CUDA就是当年是一个非常成功的决定然后我来做军天的决定就像老黄常讲的他的迪迪远是Based on first principle他是觉得什么合理然后再往那个方向走而不是找着拿着锤子去找钉子因为你刚好加入英伟达十年了这十年你变化大吗你在英伟达的这个股票涨了多少倍了对那个这些一切都是没有预期到的这段时间里面我们见证到一个没有人把AI跟英伟达连接在一起便到一个全世界都把英伟达跟AI连结在一起到一个我父母亲不知道什么叫英伟达到全世界都不知道什么叫英伟达的这个事件这是很巨大的变化中间的历程也不是那么容易公司你从股价来看就有起起伏伏我记得那一年就是TPU刚出来的时候公司股价掉了很大一劫然后有些同学们在那时就对公司的未来产生了就是不同的想法也就是例子了但后来Media每年在Lperf里面都击败TPU然后产生出更好的那个性价比那后来就是只有我们产赛了这东西都都很难去预测这些编画实在是很大那我觉得就是在这长期间我更加理解到什么叫就是慢慢经营慢慢去经营然后就是找到一个你相信的目标Based on first principle一步一步往下走你就看着老黄带着整个公司这么大一个团队然后就是一步一步走向今天这个这个成绩余有荣焉就是大张是这样你当时加入的时候没有想到这一切对吧你当时还有其他的offer但没去对对不可预期的我当初加入的原因就是因为我想要有GPU可以支持我的学术研究是很简单一个原因某方面来讲我也是非常first principle我觉得GPU是这个做科研重要的工具我要去一个GPU众多的地方那不如去一个生产GPU的地方另外一个offer是谁啊我数个offer其中有一个投资公司他跟我讲说不管我去哪里不管对方给我多少钱我都给你四倍然后希望你可以加入他们的我们的公司可以一起去研究怎么去用deep learning来做投资我本身对这个东西并不是很感兴趣我还是想做科研然后去还是选择了NVIDIA但是NVIDIA是可能是更不知名的那一个是吗是啊对你觉得你看16年的老黄和现代老黄变化大不大头发都白了我觉得它成为
[170:00] 男的压力大了很多但他还是就是关心员工然后很仔细的去阅读公司的员工学的Top 5 Email然后去找到一些讯号来帮助整个公司往前进步有很大的变化公司的规模很大的变化我们都加入的时候公司可能不到两万人吧然后现在已经两倍以上可能更多那那个就是那时候GPU都还是桌机啊那现在都是Data Center 对然后那时候没有Physical AI现在Physical AI都成为了一个重点 对 变化是很大的你在过程中有见证因为答案哪些pain and suffering没有全程常常在嘴边讲他说当然不是真的他每次都讲说他每天都觉得公司只能要30天的现金流30天后就要破产现在还这么说他每天都这样讲每天都这样讲每次开会都是这样提醒自己吓唬高管吗就是要求自己做出对公司最正确的决定然后有一年pandemic的时候整个经济状况不好然后那个时间点就是很多公司就开始菜园那我记得那次公司大会的时候我们就决定要踩什么我们要踩的就是travel就是员工就不用去travel了全部都是online这样就省下一笔钱然后我们在研究哪些工具可以不要比如说在硅谷很多公司都用SAC来做这个通点我们来考虑是不是就不要slack了反正我们有Email然后我们有两个两三个Cloud比如说我们有时候用Microsoft有时候用Google啊是不是可以就取消一个可以省钱你可以看到公司就是在一些困难的时期做出一些相对不平凡的决定有些公司会把裁员来降低这个就是人事开销NVIDIA想的是什么可以节省掉一些不必要的开销照顾员工一起度过困难的事情为什么NVIDIA一直坚持不裁员它真的没有裁过员工吗我在英伟达的时间里面就是我没有听到任何裁员的消息也没有末位淘汰对吧我们没有所谓的末位淘汰,我们只有给Performance Review,有些人会因为对Performance的不满而离开,有些人是真的有其他因素就离开,但我们不会因为我们改变了产品的方向,或者是因为这段时间内你Performance不好而就让你走,我们觉得人跟人之间的信任很重要。认同感又安全感,他愿意讲出一些就是可能在一般担心被淘汰的地方不容易讲的事情当没有所谓的末位淘汰的时候大家也不会就是真的这么的就是这么担心被淘汰而抢出头那在一个全部都抢出头的地方反而不容易促成团结合作我觉得这样的一个管理模式会促成一种公私文化是跟那些会做末位淘汰的公式文化是蛮不一样的它的优点和缺点是什么呢我觉得就是公司员工想敢讲真话愿意团结合作缺点就是当一项科技逐渐变得成熟的时候这些员工需要一点时间学习新的东西做转型。重新学习新的东西是需要多点时间的。如果你直接Lay off再Hire新的一批人,那你可能可以直接Hire到一些已经会这些东西的人。这些经由转型做起来会比较慢一点但是你得到就是员工的信任然后也可以团结合作的员工嗯 组织效率怎么提升呢 这对你们来说是个问题吗就是大家只要充满热情然后觉得自己做的东西是很有意义的,然后整个效率就会提升。每个人都有选择。都会想做自己有成就的事情那如果公司可以提供这个环境让大家可以去发挥的话那这样效率就会提升就让每个人可以做出他们最喜欢最擅长的事情
[175:00] 这些事情对公司又是有极大的利益的只要能抓这点我觉得就是一个很好的状态听上去不裁员有很多好处但是大部分公司都不是这么做的对吧是这是为什么然后以及老黄为什么从一开始就觉得不应该裁员我觉得NVIDIA是一个想长久经营下去的公司然后我觉得就是这么多年他在老黄在这个硅谷代这么多年看到这么多风风雨雨他选择这个东西一定有他的道理就是我觉得不是一个随机的选择是一个生死守虑我觉得这东西是是他想要的企业文化他想要公司的运作模式是不是意味着当新技术来的时候因为它不会是最快的那个但是它依赖于你早十年或者早五年的提前布局这样他对快酒要求不高NBA就是跑马拉松吗然后看得远啊在你看哭辣就是这样一个案例布局了十年对吧所以就是你要有很强的眼光然后长期投资对你们也不赛马对吗我们不喜欢塞嘛 因为我们通常都是这样做 就是你去take the mission,你就相信你但我们一起给你很高的bar希望你完成就是用老黄话讲就是一直让你那个接受 pain and sufferingtouch your YouTube greatness 相信你然后给你考验 然后不断的磨练你让你一步一步往下成长 这是我们喜欢的模式你在英伟达受过最惨烈的suffering是哪个阶段做这些大模型就是这几年都是这么辛苦的在往下走刚刚跟你讲那些东西很多都是从错误中学习嗯很多东西就是一开始也没有理解到这些东西最重要的东西那为了把东西做好然后当心做不对的时候要慢慢把东西给改进我觉得这一段就是自从GPT起来之后整个这个AI的从业人员大家都感受到莫名的压力 对然后这段时间里面呃就是这个迭代的速度啊然后大家都饱受的压力的那我觉得都是pain suffering啊尤其是当你每天挥洒这些GPU资源、挥洒这些年轻人的时间然后做出成果没有打扰你最喜欢的结果我觉得这东西无形上都是一个压力压力对你的生活状态发生变化了吗在这过去几年高校高校早几晚几我大概是四点到五点起来这么早早上起来的时候运动啊那些就是时间比较连续一到公司后就一直开会嘛然后所以十点到公司大概大概是九点到十点左右因为整个产业的迭代速度所以生活步料都变快还是要学东西还是很多但是处理的事情又变更多然后让自己更加搞笑嗯你之前睡啊我大概大概十点左右吧10点左右10点到11点左右4点5点起对不是每天都古顶但基本上是我的常态对英伟达的书也好或者老黄的传记也好都讲了很多他的管理方式能不能从更一线的视角来讲一讲就是英伟达的一些不一样的管理方式我们刚刚可能涉及到一个是不裁员第二就是Top5员工就是要跟很多人就是讲这个他做的事情最重要的五件事情这件事情让你看清楚就是各种公司的大小讯号可以看到如果两个团队在做一模一样的东西,TOP5的email就会自然显现出来Media是一个相对很透明的一个组织架构苹果可能是返例就是我们追求的资讯透明然后这也是一个很不一样的考求那些脑狂传记有些是比较戏剧讯但很多都是你可以在英伟达工作的时候就可以感受到他认识很多员工我们常常讲mission is the boast然后因为就因为
[180:00] 有时候像是一个有机体没有那么强的框架当我们公司今天要走向这个方向的时候在各种不同组织的团队但有相对的技能就会四动而来就往那个荒荡穷进就是像一个活的组织不是一个固定框架就是说你在这个里面就不能做这个东西嗯没有关系你在这公司哪里都没关系当然是你要往这个方向前进的时候你的你的这个团队的啊的是可以产生贡献的就全部人就往哪里就变成一个新的方向往这边走Cosmo就是这样子一个案例就是很多人他可能不属于这个团队但是他都可以来支持这个团队的工作对Mission is the both而不是你的pose 是你的poseMission is the boss这几个是最具有特色的就是这几个让生公司的就是很活你看我刚刚讲的MISSION的BOSS就不是一个很硬的框架是个有机体那这个Top5让公司各个地方的微小讯号都可以传到扩散出去对吧那不愿意让就是不轻易lay off员工就是讲究转型讲究touchure让员工对这个公司将强信任然后可以彼此互相合作我觉得这几个都是因为大家很独特的地方一群S级的人一起工作和一群A plus或者A级的人一起工作哪个可能取得的成功更大呀你觉得大家在追求就是一加一大于二对然后是不是大家可以团结合作产生更大的效应啊是啊是很重要一件事情然后当人人多的时候就有一个沟通的成本然后沟通成本就是负面的你等于就是要人跟人合作给产生正相关但是要降低这个沟通的成本一群很聪明的人一起合作,大家都很聪明,很快就理解,然后手脚又快。但是如果人跟人之间无法互信的话,也很难到一加一大于二,大家都防备着对方,不愿意把最好的一面展现出来,或者是就是要展现出我就是比你聪明。那这样子也不见得是一个好的状态。那我觉得反而就是,就像打游戏一样,你不要整个团队全部都是弓箭手,防御有些人是会是做补血的各项不同的啊属性合在一起就这样多元是一个比较好的状态你看你今天说了很多你没有竞争对手然后你不和任何人竞争都是客户然后大家都是合作伙伴这种low ego的状态是在英伟达发生的变化吗是就是这真的罗伊格还是这是一种隐藏我觉得是一种confidence是一种自信是觉得我们做出来的东西是可以帮助到大家那我的目标是帮助大家做好,但我对自己做的东西要求很高,我希望他变好,但我的目标并不是击败对手我的目标是那个做出好成绩提出更好的foundation让大家可以动得更快这是跟老黄学的吗对我受到影响非常的深这是什么时候学的如果你是一个研究员你就是毕业的方法就是让你的论文在顶级的会议上被接受然后reviewer都会question你的东西是不是stale the art那你要stale the art代表说你要击败所有的人所以研究员都有这种心态就是我的东西要比你抢然后所以循着这个轨迹我也就是一开始就是一个就是我东西要做比你好嗯呃这个这个就是我要求当然好只希望东西越来越越好但久之后就是你知道就是你总是still be up一段时间就下一个出席吧对就是这东西是一直不断进步我今天站的位置也不一样了就是成为这个管理者之后希望就是培养新一代的人才帮他们成长然后站在这个Ambira这个Ecosystem的角色也希望这个公司逐渐感受到这个好处有时候看到我这些伙伴们跟我讲说用一个模型之后我解这个效率提升了很多我觉得我的付出整个团队的辛苦付出获得了一些回响这种肯定也是很好的一件事情不见得是要击败其他才是一定能产生贡献你不需要羁绊你的对手我不喜欢把他们当成是对手,喜欢把他当成是伙伴嗯
[185:00] 你看 因为大家包括你然后包括Jason他出来经常会说take care of artists就不管是员工还是外部的合作伙伴这种take care是一种真实的吗就是他真是这么想的吗因为一开始的时候我们就是我们就是生产这个就是这个Design House然后最后我们也没有什么Consumer Prada 都是靠著其他家公司帮我们做GPU卡我们就是一直有这个习惯就是要跟著整个Ecosystem一起成长大家一起赚钱总不能说钱只有我们赚嘛这些帮忙做这个显卡、伺服器这些啊都要一起能往下走因为早期的显卡都是来做游戏我们也不做个游戏我们就是一直开发这些好的library帮助游戏公司做游戏我们刚开始走向Deep Learning的时候那时候好几个框架比如说PyTorch、TensorFlow还有一些MSNAM的一些东西我们全部都支持然后后来OpeneA有这个Tradent Compiler我们一直支持Traten, VOM 出来之后我们支持 VOM, 对,我觉得是真心的就是想帮助这些建在我们GPU平台上面的客户能更加成功,他们更加成功代表他们可以服务更多的客户,那他们就就大量的机会会使用我们的GPU是一种真的是共利一起走向成功路线那我觉得这张也是他经营了这么多年才把这个公司放在这么一个好的位置让帮助别人也可以获得获利这我觉得就是不容易你近距离观察过老黄很多年如果只用几个字来形容他你会怎么形容吗我们教他六边形战士就是不管是我们有时候开会他可以走到很深去研究这个register这个Computer Architecture Registr这个非常细的细节同时间又可以长到想到可以就可以教大家怎么做marketing怎么做这些非常high level的东西然后再处理这个不管是产品定价跟客户的关系 面一面具到他是极大的热情he gives everything he hasto help the company be successful这是一个很令人佩服的一个操作各个方面都可以产生贡献然后各方向都尽力做到最好他是一个很厉害的一个人他对你鼓励比较多还是呃批评比较多一般来说鼓励批评都有当我还没有完全理解他怎么要怎么去跑这个公司的时候批评是比较多的但批评中之中总是带著鼓励希望你可以变好他的目标就是Touch your everybody to greatness经由这些磨练让你更加理解就是怎么样做才能做出不平凡的事情这很好经历的你愿意花时间去偷求别人这是一件不容易的事情所以偷求别人你自己心里要产生很大的负担对吧而且你人生就这么多时间了你可以不管也许还能打扰你要的东西,但是他愿意花时间去偷球别人让大家不断的进步这是不容易的一种事情它对你让你印象深的一句话是什么呢我觉得有一次我们在一个会上我们再比较两个solutions 两个东西然后我是做其中一个东西的另外一个是其他人做的东西然后我记得那时候我讲了一句话说他们用的setting是一个不fair的setting导致这个所以我们在这方面表现就没有达到我们的预期而落后这个竞品那他那时候给我一句话说"Are you a quiet baby?"实际上没有什么是公平的你在写论文的时候常常讲说我的setting就是跟你的设定不一样所以不能同时比较但你的目标如果是要解决一个问题那当然是是做这个要解决问题所需要的条件没有这条件你就想办法拿到那句话让我印象很深刻就是我更加严格要求自己就是好找理由是没有用的就是这个就应该give everything you have我以前也听过这句话西点军校有些著名的那个书也是讲的就是没有理由No excuse 但但他跟我讲
[190:00] 让我的印象就更加深刻因为毕竟他是一个著名的人物那我觉得这句话对我的印象也蛮大我后来就不再找理由了如果当你作为一个研究员想成为number one和英伟达的本身的业务因为他不想成为强劲的竞争对手如果发生冲突的话你会选择哪一个我觉得那个就是科学的发展本身就是incremental的就是一直在进步一直在进步你随时随地都可以提出improvement就是要往上再走一步嗯然后我觉得就是B的Absolutely No.1嗯什么叫那我这很难去定义什么叫No.1然后我我比较喜欢看Frontier的模型吧嗯对但Frontier的模型啊做出来那时间是No.1很有成就感但之后就会有其他的模型可以做上去我是希望就是你具备的就是做No.1模型的能力但是就是做出就是对这个社会影响最大最有贡献的事情因为你可以做出那么万的模型但你就是只给少部分人用然后或者是就等于让权力过度集中在少部分的手里然后产生一些不平衡的状态我觉得不见得是一件对的事情那我是希望就是具备那么万的能力但是做出最终世界贡献最大的事情具备number one的能力但是做出对这个世界贡献最大的事情是的所以最重要的是后面后面那个贡献对吧不是那个能力对对人来面就走一遭嘛对吧然后你留下来就是影响所以要活得久我的酒机会大一些嘛就是希望能产生一些做些贡献然后就证明自己就是没有白来做一招大概就这样子你还有什么在研究生涯上觉得遗憾的吗你还有什么特别想得到的我觉得飞行轨还没有成功还没有到那个时间点就是谈论这些我觉得我很开心那时候十年前我在我在讲这个地本能力会取代Compute Graphics成为一个最重要的这种这种影像生成的模式这件事情发生了我觉得还蛮开心的这件事情真的发生了那我觉得这种世界模型会是推动Figilkai成功的受到推手然后这是我下一个重大目标我希望这个东西也能成功你要比就是你有一个best paper award你就会想说我要拿两个然后我就知道有些人拿了十几个你总是拿不完嘛比论文数总是有更多的论文那你比骰贴连数总是有更多的citation你比钱总是有人更多有钱重点是我觉得你对自己的东西是不是很骄傲我觉得过去有很多东西我觉得我做不够好但目前有些东西我觉得我做的不错我接受然后我觉得就是在我的能力范围内我觉得我做出了我自己满意的东西觉得这个所以外部的很多衡量指标现在慢慢都变得没有那么重要了对吧对年轻的时候都觉得它们很重要为什么这个人的base paper比我多对然后讲比我多觉得就是渐渐的这个不在意就是我中心渐渐转移帮助别人也许我现在care的帮助人够不够多你最近一年帮助了谁这些使用physical idea喜欢Cosmo的user我觉得我都默默之中替他们提出的帮助然后当然还有自己的团队还有一些就是就去跟我交谈过的人我觉得或多或少我对他们生命都产生了一些影响你也经常来中国你怎么看中国的这一批模型的发展非常的impressivevery impressive这些从Deepsea开始签问豆包我都把它全部讲一次吧mini-max就有然后Kimi然后这些Memo对然后委员就是这些制服制服对都做得很好那还有一件事情就是在美国啊尤其是Fontier Lab
[195:00] 现在的状态就是他们很少去遭受实习生,很多know how,科研的结果都只有在他们自己本身内部的实验室有那在中国这边看到就是他们像这些公司都遭受很多实习生帮助把这些knowhow传递出去然后我觉得人类整个就是知识扩增啊就是dibusion是对我觉得是一件好事看到这些快速发展我觉得我觉得很impressive然后还同时注重到这些diffusion大家对AI都充满了热情就是愿意去尝试我觉得这都是看到的一些现象现在您跟我说硅谷已经被LLM催眠了你怎么看他这句话我不觉得是纯粹被LM催眠不能否认的就是现在在AI里面最领先的公司,就是模型上最领先的公司,不管是OpenAI和SWAPIC,都是从大语言模型出发的嘛。那这些模型也确切,我现在已经不知道没有Coding Agent我要怎么过下去,我也不知道这些实在太方便了,我就产生很巨大的变化,也不是一件坏事嘛,就是LM真的产生了很大的用处然后帮助提升我们的生活我觉得很自然而然的就是大家会会想就是这东西竟然都都已经在这里了然后下一步是什么我觉得人自然会想要做哪件事情我知道领域里面有些人是把学术变成信仰但我觉得大部分人都还是从求知求真的角度出发但一个东西的充分理解之后大家会找到新的东西来进行做突破很难想象一个人就这么聪明的人一辈子就只做LLA嘛对啊我觉得这样会发生我并不觉得有这种催眠的事情只是对那些人而言对现在时间而言也许做LLA是一件很正确的事情昨天Specs上市然后马上OpenIO Anthropical上市今年这些公司大模型公司的上市会对这个行业发生什么样的影响吗2026年会是巨变的一年这边上次大家都看到新闻了就是会产生很多富翁对吧然后我知道旧金山的房价在快速飙涨早期相信deep learning早期相信这个space mission这些人就是这些等于是对他们的远见对他们的勇气对他们的决心这一个认同我觉得都很合理对这些公司真的对世界产生巨大的贡献我觉得完全值得这个我觉得科技不会停在这里然后陆陆续续都会有新的事情发生100年前强盛的公司跟现在强盛的公司是完全不一样50年前不一样20年前不一样我觉得这个社会主治架构还是一个好的良性的状态就会不断有创新发生就模型这场竞赛的终局可能是什么样短短几年已经发生这么大的变化再往远看呢我想这就很controversial我觉得模型的能力慢慢就会统一靠模型自己不会是区分一定要靠一些其他的东西注织在一起领先的模型有更充裕的时间去找到区分的方式然后强大的公司也可以加达自己强大的ecosystem去做出一些变化对,然后我不会觉得像software刚出来的时候会写software公司很少现在大家都有解说服务每家software都有自己的区分方式,人家人活下的software公司都有自己的区分方式,我觉得没有理由模型会是不一样,我觉得会是一样。所以没有必要神化模型或者模型公司是吗?我把它当成中艺啦 就是一个Black Boss这么多人不同尝试最后就是一套学问嘛然后很多人都会中艺嘛对吧关键是你要带他干什么对那有些人解读比较深一点那有些就是需要多点时间这都是我的预测我是觉得这些东西慢慢就会diffuse那假设一个新公司说我要训练一个模型它还有很大概率赶上来吗就它可能比前面的公司落后两三年的时间像Kimi或Memo这些APP都是算比较晚期出来的吧?Kimi还行,Memo比较晚?对,还是有机会的
[200:00] 我是觉得就是会有一段时间大家会觉得算力不够然后我就算力慢慢就会起来都有办法去参加进程度这界上有报复决心有办法去去挪动资源去建一个大模型团队的人很多还会有更多是吗我觉得如果说大模型是一个绝对的区分那当然就会更多但如果不是绝对区分应该会很多人就是想到对他们的必须更有利的方式对我就是一种自然的平衡状态自然的平衡状态端次模型你觉得会多久之后爆发吗这东西跟那个physical AI会很相近吗刚刚也讲了就是我觉得资金渐渐投入然后客气迭代很快也许这段时间我说不准但我觉得希望它快速爆发对于今年和明年的模型进展你有哪些预测那创作还是很快,那我还是坚信这个Word Model能力是帮助物理实验模型强化泛化的重要关键对那怎么落地 用怎么样的modality 这些事情大家都还在探索当中Chair GPT Moment for Physical Eye is这是我可能可以抽的预测大语言coding模型这些东西我自己本身在follow但我自己不做我也很难去讲我是用得很开心但是我也很难讲接下来会怎么样刚才你说了中国的这些模型公司中国的机器人公司你应该也见到很多你觉得美国有什么不一样吗两边美国在做本体的公司很少就Tesla跟Figure AI然后这种好多家公司在做这个本体嗯做本体他可以控制东西更多了可以控制模型跟软一体的整合的超过公圈更大然后我觉得因为中国强大的制造业让产生一个很优势的条件可以让这些公司做一些在美国不容易做到的事情我觉得这都是很值得去关注这样的垂直症后会产生什么样的一个突破对我觉得还蛮蛮蛮有趣的你觉得美国现在会不会有一点嗯就是不那么重视硬件可能是错的也很难说但是就是在这个如果说这种软硬体整合是一个机器人的一个趋势那那没有硬件当然是处于被动状态有点难讲好多东西要考虑啊包含这个金融模式啊中国明显就是有这个条件可以可以让大家做快速的硬体迭代那个软硬体整合Touch pitting moment在physical AI 你觉得有可能在哪里爆发?看到一个应用,是大家很明显知道就是啊,所以产生巨大的经济价值。嗯,好,然后也许在那个时间点,那个应用并没有产生经济价值,当去GPG 刚出来的时候是赔钱的,对吧,但是,是当看到这个趋势,然后我觉得就会发生,那我个人觉得这种,啊,就是简单的人示范一下怎么要的操作这个基线就地学会的东西我觉得这是一个如果这东西出现我看到这样的一个这样的一个产品我就觉得说呀那是确实体梦门服飞机口AI所以核心是反话我觉得是反话就AI的核心问题就是解放话的问题嗯对于泛化来说现在最重要的一个问题是什么呀如果只说一个泛化的问题在physical AI里面就是怎样从这个有限的讯号里面学到需要的操作然后应用在一个没有看过的一个场景里面这个是Physical AI 里面要写的一个主要的泛华问题Observation对Action这个这个配合的繁华让你看到一些你看到这个Action跟Observation是完成事情的怎么样快速泛化到一个新的observation 那是行的我在想就是如果他在Cosmos这套系统里学习了大家走向现实世界的时候它还是会有Centure Real Gap对不对怎么解决这个问题呢这也是一个泛化的问题对就是Centure Real Gap通常是我们Cosmo想帮助这个Physical Ad Builder
[205:00] 是透过三个方式嘛之前有讲的就是Better Data, Better Starting Points, 跟这个 Better Environment.那我觉得Better Environment 这些东西是还没发生的是大家都希望能做出这个矩阵, 但还没发生的就又陆陆续续有些 Tupper, 看到一些 Work 都很不错那现在比较管用的可能就是 Better Data 跟 Better Starting Points.你拿一个懂这个比较懂这世界的菲池怎么去预测菲池啊就是懂菲池可以去也不能说真的懂Fix 但抓到那个模式可以去PTJFinal的事情这东西也许可以帮你产生更好的做出更好的policy那这东西因为他本身的Pyre是比较适合繁华那它也许就可以帮你建出一个更容易繁华的一个policy model我觉得这个是我看到可能团期内cosmos model可以对这个physical idea build的一个贡献如果五年后我在来采访你你希望cosmos发展到什么阶段我希望五年后如果我们在有这个这样的一个采访我们可以清楚地讲出来确计moment是什么时候发生的对然后是在哪里发生我希望可以可以这个事情是可以明确的讲出来就几年几月几日那时候就有一个具体的时间了对对对在人工智能的历史上你希望别人怎么来记录你啊是不要讲我吧我觉得就是讲Cosmos吧然后希望Cosmos可能是一个重要的推手然后帮助这些几个重要的physical airbuilder达到这个确取比例的moment我觉得这个可能是我会很开心的一件事情我还有一些快问快答全球范围内一个你最喜欢的食物牛肉面全球范围内一个你最喜欢的地点我喜欢玩曲天气真的太舒服了你有什么喜欢的音乐书 电影或者游戏吗书蛮多的然后音乐我不怎么听游戏我已经不怎么打我上次打游戏可能都是20几年人写的事情的能分享一本真正改变你或者影响过你的书Jensen推荐的书他是讲positioning的一件事情然后我忘记这个书名叫什么很有趣的一个心理学的书然后让你更加理解问题的本质是什么嗯年轻的时候读了很多不同的书对我特别喜欢金油小说那那那是其中一环啊只有小说有帮助到你后面的科研或者是鞋管理吗倒是没有啊就是啊里面的这些啊可以体会这个金庸的各式量的幻想然后很美的一些意境啊那当然是我把我推向了学中国武术的道路然后从中国武术里面得到一些历练我觉得那都是蛮不错的一些过程对于年轻的研究员你会有什么建议啊就是不要紧张为什么不要紧张我现在年轻人研究员都往往觉得就是好会不会明年这个AI就结束了就AI自讯恋了不要紧张对自己有信心然后冷静下来那个看清楚什么地方是值得你投入精力不要被这些大家的这个宣传觉得好像自己路越走越窄现在研究员进入Physical AI是一个好时机好时机是一个男孩吗就是一个好时机嘛就是各种机会然后还有很多地方我当时做physical我比较懂但这些啊AI的进步让我们可以做出更好的这些material啊跟更好的药啊这些生物方面的突破我觉得在各行各业里面都可以渐渐看到这个这个AI的影响我觉得很多地方都可以去投入嗯我们工作室叫语言及世界工作室当你第一次听到这个名字的时候你在想什么描述这世界上发生有趣的事嗯你觉得是大模型竞争不是游鱼游戏还是世界模型竞争不是游鱼游戏啊还是说对于你来说不是游戏对别人可能是吧我不清楚你你你如果你如果大家想解的东西一模一样那就是有余有写对吧所以模型竞争不应该是有余有写就因为这世界上要被解的问题这么多啊对啊然后可以提供价值的东西这么多啊嗯每个人喜欢的东西都不太一样啊
[210:00] 我觉得不应该是看成是忧郁有心你有过那种特别high ego的时候吗年轻的时候社会的是吧对就是我总觉得我的算法最好哦对我写的paper最漂亮总是会那么觉得 算法重要 你需要很好的数据 很好的 infrastructure那你可以做快速的算法迭代因为你其实你有两种可能嘛一种是你一开始算法很好OK那很好但是其实你一开始算法不好你有很好的data 有很好的infra 搜索 你可以抵抬待然后迭代只要你遵循着这个就是很严格啊纪律然后这种控制实验法则你算法就越变越好所以我反而觉得迭代速度是重要的迭代速度就是要靠强大的不impar sacha来吃吃Data很重要因为如果一个问题可以用Data解你就用Data解就好不用开发算法因为Data简单多了对然后所以不喜欢浪费力气这个问题只要是Data能解就收集Data就照对他然后真正不能解决这样我上发来接是每个公司都需要训一个自己的大模型吗你觉得没有必要是吗如果是卡玛德林你需要建自己的电厂吗你每家公司要煎自己的炼唱吗?就是看合不合乎经济效应对吧在早期你要做汽车工厂的时候当电厂不充裕的时候你盖个电厂你可能可以确保理工资是24小时运行的但现在这时代你可能不需要了对吧嗯对你可能跟太多这个AI的那个呃就是开发者聊他们每个人都是觉得我的AI模型是最好我觉得这东西在地址上从来没发生过哦我不觉得这因为人跟人相处没那么容易的你看当初Dario Amade跟San Almond合不来对吧他是走了对然后你究竟在那个Andrappie里面每个人都是一模一样我不觉得都是就是坚信的就是会不会哪天就是你生了A不生了B然后B就觉得说嗯对吧然后然后他会不会就带一群人走去做个类似的东西哦对然后数据大家都有数据有算力找你们买算力你只要有钱还是买得到对吧所以大家都能做你有决心然后你你你有资源你是可以做的嗯嗯就没有那个必要Costmos对你们来说是一场不能输的战争吗如果说有其他公司也做开源模型的话那就不是那就不是对什么叫战争呢就是我没有打算把这些杀死我必须要on这个赛道就是你们都得长在我的生态上面NVIDIA继续成长Physical AI是一个重大的一个市场现在家家户户都没有机器人但如果有机器人的话我家可能会买两三个那每个集点都需要算力那等于整个世界最需要最算力的需求会大幅的成长这个事情如果发生的话对Amedia是巨大好处的我们的心态不是说想把别人给杀死我们的心现在是我们要怎么去造市场你懂我意思吗Kuda就是造市场造出的AI的市场我们想的是怎么造出下一个大的市场那你说呃是不能输的战场吗我觉得也不是也不是因为是全新的东西对我没有跟任何人竞争是吧就是功力嘛带着大家一起把那个市场建出来然后你卖这个机器人赚钱你做这个Customer券赚钱那这个东西会需要一些算力赚钱那当然会有公司研发自己的晶片他也会赚钱那整个市场就起来原本是nothing老黄会分享类似的观点吗经常说什么经常说造市场而不是在存量竞争对你读他的书就会发现他讲说我们就要做这种Gito billion dollar business什么叫Gito billion dollar business就是现在不是个business但以后成功后会变billion嗯如果现在已经有人在做了可能就不值得做这是一种拥抱风险还是一种抵抗风险它是一个低risk吗这是一个低risk我们做事有没有办法是很risky的全部就是Cuda那时候是很risky的一件事情等于是赔本在卖对吧我们因为装Cuda我们整个GPU的价格都比别人高
[215:00] 同样的flops我们比较高因为我们要支援这个programmability你不这么做你做这件事情很risky你不做这件事情更加risky你不做那件事情别人做了的话对于你们来说就对 非常的有风险不做这件事情的话就是你的东西就渐渐变commodity你还要从老黄身上学到什么没有我都尽量很用心的学习他怎么去跑其他东西然后从里面去应用在跑Cosmo为什么其他公司都说CEO不应该是最努力的人但是你们公司CEO是最努力的人对4.这我也不懂It wasI cannot对吧 时间没有绝对它现在的驱动力是什么呀驱动力是take your families对做AI真的是很有趣的一件事情尤其是在他角度里面看到他的贡献改变世界我觉得是很有成就感的一件事情不愧是教主是的