第一条主线是**处理器（CPU）与计算设施**。从 1984~1985 年 IBM PC 掀起桌面办公终端革命开始，计算算力逐步从个人桌面渗透到企业级 IT 服务器，随着人类步入数字世界，CPU 成为整个数字化基础设施的核心心脏。到了 2005~2006 年前后，AI 技术的萌芽与兴起又为计算算力注入了全新的浪潮。
直到 2016~2017 年前后，随着 AlexNet、深度神经网络（DNN）等 AI 技术的突破，半导体行业才迎来了继互联网、移动互联网之后的“第三次超级浪潮”。当前的 AI 时代极度活跃，没有任何单一巨头能够形成绝对垄断，从硅谷到中国的五道口、杭州，无数优秀的年轻创业者和团队不断带来惊喜，使得整个芯片行业重新焕发了勃勃生机。
针对 Google 等垄断巨头，张小珺提出上层应用与底层芯片应该互相促进，廖恒反问：“当你想到 Google 时，它是个什么公司？直到今天，它的绝大部分收入依然来自于跟搜索相关的广告。”这揭示了科技行业著名的“创新者的窘境”（Innovator's Dilemma）。大部分伟大的实体凭借“第一板斧”确立了统治地位，但极难重新发明自己（reinvent themselves）。过去的优势往往会转化为进入新领域的劣势，因此在 AI 浪潮中带来突破的往往不是上一代的 Big Names，而是那些充满饥饿感的年轻团队。
不过，廖恒也补充道，虽然 AMD 创始人 Jerry Sanders 曾名言“有晶圆厂的才是真男人”（Real men have fabs），但后来连 AMD 也剥离了自己的制造部门（GlobalFoundries）。全球代工分工模式建立在一个重大的历史大前提下——**全球自由化与“世界是平的”（The world is flat）**，即各家公司都可以在全球范围内采购最优质的底层能力（海思在 2019 年之前，95% 甚至 99% 的设计都构建在全球顶尖的供应链之上）。
然而，当国家间竞争与地缘政治（geopolitics）颠覆了这一大前提，或者当技术演进快到供应链无法应对爆发性需求（如 DRAM 内存价格短期内暴涨十几倍）时，垂直分工模式的弊端就会显现，行业不得不寻找新的应对模式。
廖恒回忆起自己在清华时就坚定想从事底层芯片行业。他打比方说，楼上（应用层）舒适、风景好，可能半年就能卷出几千万日活的 Super App；而楼下（芯片层）则是长跑型选手的世界。不过廖恒笑称，同事常说他是一个“披着芯片工程师羊皮的狼”，因为他本质上懂算法、懂软件，属于多面体（multi-facet）的角色。
1997 年，芯片产业正经历一场关于 CPU 架构的史诗级论战。当时最令计算体系结构学者向往的公司并非英伟达（NVIDIA，当时仅在 1997 年 4 月推出了刚站稳脚跟的 NV3 外设芯片），而是 **DEC（Digital Equipment Corporation）**。DEC 的旗舰项目 **Alpha 处理器** 代表了当时全球 CPU 设计的最高水平。
廖恒详细梳理了这场发生在 20 世纪 80 年代末至 90 年代末的 CPU 指令级并行（ILP）路线之争：
- **精简指令集（RISC）的崛起**：在 David Patterson（伯克利）与 John Hennessy（斯坦福）等教授的推动下，CPU 从单核、单发射（多周期执行一条指令），演进到精简指令集（每周期执行一条指令），再到 80 年代末的“多发射”（每周期执行多条指令）。
- **两条路径的论战**：
1. **静态调度（VLIW，超长指令字）**：依靠强大的编译器在编译阶段预先排好指令，让一条超长指令包含多个可并行执行的操作。
2. **动态调度（Superscalar，超标量）**：编译器不预先编排，而是由 CPU 硬件内部在运行期建立动态调度窗口，实时寻找并行指令。
- **时代的百花齐放与结局**：当时在服务器领域，Sun Microsystems、SGI、HP、IBM、DEC 等巨头“群雄逐鹿”，各自运行着不同的 UNIX 变种。然而，这场论战最终以惨烈的史诗级灾难告终——静态调度的理想在通用计算领域落空，巨头们纷纷衰落。DEC 破产后被 Intel 收购，其高傲的 Alpha 处理器资产被贱卖。
- **历史对 AI 芯片的启示**：廖恒特别指出，**DEC 当时最大的资产其实是一个叫 Altavista 的搜索引擎**。Altavista 比 Google 早了六七年，是搜索引擎的先驱，但因为当时没人知道如何将搜索转化为商业盈利模式，最终淹没在历史中。而今天所有的 **AI 处理器（包括 NVIDIA 的 GPU）本质上走的仍然是静态调度（VLIW）的路线**，并没有走向超标量动态调度。因此，当年 CPU 领域十几年的论战与经验，对今天 AI 算力芯片的演进具有极其深刻的借鉴意义。
- **Alpha 处理器**：代表 90 年代 CPU 设计顶峰，后随 DEC 破产被 Intel 收购。
- **Altavista**：早于 Google 6-7 年的搜索引擎鼻祖，因缺乏商业化模式而陨落。
- **VLIW vs Superscalar**：通用 CPU 最终由超标量胜出，但现代 AI 处理器（含 GPU）普遍重新采用了静态调度（VLIW）理念。
在 Sun Microsystems 漫长的衰退与“日落”期中，整个公司笼罩在阴霾之下。每天中午同事们围在微波炉旁加热饭盒时，讨论的唯一话题就是下一轮裁员会在哪一天发生、谁会被卷入其中。这种无休止的未知带来了巨大的心理恐惧。但从另一个角度来看，这种困境也成为了极宝贵的观察窗口。在太太的坚定支持与鼓励下，廖恒没有放弃，而是利用这段时间深入思考技术的商业化路径，学习如何制定一份兼具技术突破、商业变现与行业愿景的 Plan。
更重要的是，由于拥有大量“失败的经验”，他得以深入 IT 巨头的内部去观察大型系统的运作与溃败。他频繁拜访 IBM、HP，每月去一两次德克萨斯州，跑 IBM 的北卡罗来纳州基地，向波士顿 EMC 那些满头白发的老工程师学习。这些经历赋予了他一种极其罕见的宏观视角（Perspective），让他建立了敏锐的技术警报机制，能够迅速识别出某种产品定义或技术路线为何注定会走向失败。
廖恒坦言，虽然自己具备避坑的直觉，但早期的很多判断其实犯了“宏观格局不足”的错误。第一个例子是早年华为图灵业务部计划研发 ARM Server CPU 以取代传统的 X86 处理器。当时作为部门“Number One”的产品，廖恒极力建议领导千万不要做，因为当时的 X86 生态（主要是 Intel）极其巩固，改变用户的习惯需要绝对的“价值优势”——要么价格便宜到三分之一，要么性能提升三倍。
廖恒当时认为中国公有云规模尚小、未形成正循环，唯一的出路在海外，于是团队在 2016 至 2017 年间奔赴西雅图，试图打入微软和亚马逊的供应链。尽管这一微观商业动作几乎成功，但紧接着中美科技战爆发，这条海外路线戛然而止。然而随后的发展完全打脸了他的预判：随着国家对关键基础设施安全的极高要求（防止类似伊朗核电站遭受网络攻击的风险），以及 ARM 芯片自身的长足进步，ARM 服务器在中国实现了每年上百万级的部署。
第二个错误判例发生在 2016 年筹划升腾（Ascend）芯片时。领导提出必须做一款能够支撑大集群训练的旗舰级数据中心芯片，但廖恒再次劝阻，建议只做小型的边缘端芯片。他的依据是当时全球重要的 AI 算法与发明全部出自美国，中国的互联网公司尚无自主训练大模型的意图，训练芯片根本卖不出去。
华为第一代升腾架构（DaVinci 架构）实现了极其宏大的目标：跨越了 8 个数量级（Orders of magnitude）的广覆盖，从最小用在 FreeBuds Clip 耳机里的极低功耗芯片，到最大部署在数十万卡训练集群里的数据中心芯片。事实证明，数据中心芯片带来的收入、利润和产业规模远超边缘端。廖恒反思，自己早期的判断往往建立在基于漫长衰退期形成的悲观预期上，惯于优先看到“不行”的一面，从而缺乏像华为集团及海思高层那样在大海里打拼的宏大格局。
- **错判一：ARM Server CPU**
- 微观逻辑：无“3倍性能”或“1/3价格”的价值优势，X86 生态难以动摇。
- 事实演进：宏观安全诉求（关键基础设施自主可控）驱动了 ARM 服务器的爆发，在中国实现年部署百万级，公有云占比持续逼近 X86。
- **错判二：数据中心 AI 训练芯片**
- 微观逻辑：2016 年中国算法缺乏创新，互联网巨头无训练需求，市场极其狭小。
- 事实演进：数据中心集群算力成为 AI 时代绝对的主战场，市场规模远超耳机等边缘设备。
- **升腾架构的跨度**：覆盖从 1 美元到 1 亿美元、跨越 8 个数量级的功耗与售价区间。
**升腾 910 时代（条件优渥，充满迷茫）**：
当时海思拥有全球最先进的逻辑工艺（台积电顶级制程），采购量与产品种类位居全球前三。但最大的痛苦在于对 AI 模型的未来发展与变现路径极其迷茫。当时推理市场根本不存在，团队只能在耳机（FreeBuds）、手机等边端设备寻找变现可能，完全没有预料到大语言模型（LLM）和 AI Coding 会彻底爆发。
这种融合趋势对处理器设计产生了巨大冲击：过去硬件设计只需关注“核算得快不快”，现在则必须关注“复杂的计算过程好不好编程与修改”。从OpenAI的Triton，到北大杨智老师团队开发的TowLang（DeepSeek的主要开发语言），再到华为自主研发的PyPTO，现代编译技术正在重新定义软硬件界面。正如Hennessy与Patterson在《计算机体系结构》经典教材中所写："Computer architecture is the interface between software and hardware."
针对不少年轻人在考虑留海外还是回国发展时对国内算力资源受限的顾虑，廖恒博士给出了出人意料的澄清。他指出，国内在顶级高校和国家级实验室的资源配置极其惊人，往往拥有万卡以上的集群规模；相比之下，国外许多顶尖高校可能整个系也只有几百到上千卡。因此，纯粹从资源总量来看，国内并非想象中那样匮乏。此外，算力虽然重要，但决定 AI 创新的关键往往不是“堆卡”，像 DeepSeek 这样极具代表性的顶尖团队，恰恰是用极小规模的团队和极高性价比的资源实现了世界顶尖的突破。
而在应用前景上，廖恒将 AI 划分为“虚拟数字世界”与“真实物理世界”。在数字世界里，AI 已经高度可用，但在跨越到物理世界时仍存在巨大鸿沟。以其从事了七年的自动驾驶为例，带腿的人形机器人不仅面临能源与功耗的硬性物理限制（拖着电线会极大限制活动范围），更缺少属于物理 AI 的“ChatGPT 时刻”。物理 AI 模型可能还需要两三年的重大理论突破才能跨越从 0 到 1 的门槛。然而，物理世界的机器天生具备多样性（如汽车工业发展百年依然品牌林立），这种天然的多样性将彻底打破单一巨头垄断的可能性。
面对中美科技竞争的国际视角，廖恒批判了那种“非黑即白、你死我活”的海盗文化视角。他表示：“我们不想做空美国（Bet against America），我们只想做多中国（Long China）。”中国发展超级智能是为了改善医疗、经济与人民生活，而非用于攻击他人。
- **刺穿 AI 垄断的关键因素**：技术未达饱和期、智力资源分布广泛、开源模型生态的掣肘。
- **物理 AI 的瓶颈**：缺乏物理世界的“ChatGPT 时刻”，且受制于电池能量密度与功耗等物理定律限制。
- **市场多样性保障**：物理世界的硬件载体（汽车、机器人等）具有天然的形态与区域差异，极难形成绝对垄断。
- **发展观**：摒弃零和博弈的海盗文化，秉持改善大众生活的“做多中国”价值观。
在访谈的结尾，廖恒表达了对芯片事业长青的热情来源：这种热情并非凭空产生，而是源于“必要性（Necessity is the mother of invention）”——看到社会对算力、对自主自动驾驶汽车、对国产手机的迫切需求，工程师就天然有责任去解决它。
当被问及“AI 时代的硅谷在哪里”时，廖恒打趣道：“它可能就在北京的**武道口**，或者上海的前滩、徐汇滨江。”因为在硅谷，巨头对垄断的追求和商业保密限制了人才的自由交流；而在中国的五道口咖啡馆里，到处都是年轻学生在热烈讨论深度学习 Loss 跑飞了怎么调、强化学习怎么做。这种群星璀璨、百花齐放且思想极度活跃的开源文化时期，正在创造比想象更深远的影响。
最后，廖恒博士为年轻工程师与企业管理者推荐了四本影响深远的书籍：
1. **《思想工厂：贝尔实验室的黄金时代》（*The Idea Factory*）**
重点讲述了 1940–1945 年间贝尔实验室的辉煌历程。当时美国虽然 GDP 很高，但学术科技仍落后于欧洲老牌强国。然而在普林斯顿周边几十公里内，集中爆发了冯·诺依曼（计算机）、香农（信息论）、肖克利与巴丁（晶体管）等颠覆性创新，直接奠定了现代信息工业的基础。这与中国当下科技从“跟随者”向“局部引领者”跨越的历史节点高度契合。
2. **《创新者的窘境》（*The Innovators Dilemma*）**
适合企业管理者阅读，深刻剖析了为什么成功的企业往往因为过往的成功要素，而沦为颠覆性创新出现时的最大阻碍。
3. **《工作法则》（*Rules of Work*）**
一本文笔精炼的小册子，适合刚入职场的年轻工程师，教授如何在不走向破坏性冲突的前提下，理智、得体地处理复杂的组织人际交互与共识达成。
4. **《爱迪生传》（*Edison*）与《新机器的灵魂》（*The Soul of a New Machine*）**
前者展现了极具实干精神的工程师品质——不做花里胡哨的事，用“笨办法”解决人类最真实的迫切需求（如电灯、电影）；后者则生动记录了上世纪 70 年代工程师群体夜以继日研发小型机的真实图景。
廖恒总结道，AI 时代赋予了每个人十倍甚至百倍的开发能力。工程师不应被动等待指令，而应怀揣自驱力去定义过去做不到的新事物。坚信并**投注中国（Betting on China）**，并不意味着看空其他地方，而是用建设性的力量，在有限的生命里留下真正有用的东西。
- **个人与企业使命**：将数字世界带给每个人、每个企业；用有限的生命创造多于破坏的建设性成果。
- **中国 AI 创新氛围**：五道口、徐汇滨江等地形成了极其活跃的学术讨论与开源文化，成为推动技术演进的活水。
- **推荐书单**：
- 《思想工厂》（*The Idea Factory*）：借鉴贝尔实验室历史，理解科技跃迁与本土爆发。
- 《创新者的窘境》（*The Innovator's Dilemma*）：警惕成功企业对新型颠覆式创新的天然排斥。
- 《工作法则》（*Rules of Work*）：职场沟通与组织协作指南。
- 《爱迪生传》（*Edison*）与《新机器的灵魂》（*The Soul of a New Machine*）：体悟工程师文化、实干精神与群体的代代传承。
[0:00] Thank you. Hello, everyone. I'm Sio-Gjun. Today we're the guest of Huawei Fellow, the tech tech tech tech expert, Liao Heng. This is Huawei in 2020, after the pandemic, the first time we were in the world, the first time we were talking about Huawei's new generation from the低谷. And this is my first time to learn the new generation of the new generation. So, in a way, we were talking about the new generation of the new generation, and the new generation of the new generation. On the other hand, we will talk about the entire world of the world of the world of the world of the world of the world. and the other side. If you like our video, please give us a thumbs up! Next is my talk to Liao Heng. 新境的变化是什么呀? 在设计910和950的时候的不同。 断供发生前后的两代芯片。 Uh... The change of change is a little bit. It's a little bit difficult. I want to try to think about it. If you were to think about it, if you were to think about it, to take the that's the best thing about it. Right? We actually, normal people are not able to imagine He's the one who's in the world. Or the one who's in the world. He's the one who's in the world. Or I saw a war in a war, a Chinese military team, which is a story of the Huawei broadcast on the story of the news. You have a member of the记者 who asked him, 打完仗想要什么? He said, I don't want to. 因为我爹妈也死了 Thank you. Don't worry about that. Hmm. So I said, the new change of change is I think it's not a lot of meaning. Just to face a difficult situation, I just want to to solve it. 今天廖博士给我提了一个要求啊 他不想突出个人 那但是他又见证了全球芯片半导体产业30多年甚至是40年的发展历史 所以我很想从这样的一个视角切入 就是希望能透过您的眼睛带着我们来穿梭进这段半导体的产业历史中 如果抛开个人经历啊 聊聊半导体的产业本身 就是过去这3040年您会把它分成哪几个大的时代 它最核心的命题分别是什么 I want to explain the origin of the topic. In the past, the "Hai-S" is very少 in the media. So, I also had a chance to receive the invitation. I was thinking about this. I was thinking about three reasons. I was thinking about this conversation. I was thinking about this conversation. I was thinking about this conversation. I was thinking about this. uh, can give the world of other people some of the people. The second reason is that I was about half a year ago in the清华, I was hearing the professor of the professor of the professor of the professor of the professor of the professor of the professor. After this lecture, I had a very strong and strong and strong. The professor of the professor of the professor of the professor, we talked about the very strong and strong. Because in this time, the professor of the professor of the professor, This young students are always I would like to enjoy some热点, such as AI, and design training, and even推理 and practice. The computer system is very difficult to learn. And the job is to set up a complete CPU. It's a secret to the computer. So it's very difficult to help students. The computer system is very difficult to learn. 呃 产生兴趣 那么我觉得 呃 这个我还是 一方面是感到极度的 This is a very good thing. Another one is a very good thing. If you're not going to learn this, you will not be willing to learn this. Then you will not be able to learn this. uh,失去了这个, uh, 后续的人才的这个进入这个行业可能会形成一个这个人力的断档嘛。
[5:00] 当然第三个呢就是我们觉得大家对这个行业的认知即使是自己的下属或者同事他们也缺乏每天都是在辛苦的工作当中那么他们呢其实并没有多少机会跟大家聊天展示一个更加完整的这个行业的视角啊到底这个来龙去脉是怎么回事啊那么因此就比较容易迷茫或者摇摆所以呢我也想如果有这么一个机会说不光是这个对同行啊或者是年轻的学生或者是自己的同事有这么一个机会来展示一个相对完整的这个这个几十年这么一种视角或者发展的视角行业的规律我觉得这也是个很不错的机会所以这三个机会呢加在一起三个缘起吧加在一起呢也帮助我下了这个决心来接受这么一次访谈那个您刚才讲的那个话题就是说半导体这个过去三十年的一个大致的脉络吧我是这个谢谢大家87年本科,然后大概是九九七年呃九六年就就去了美国然后九七年就开始加入一个半导体企业那么我当然我所学的过这个领域也是在做研究生或者是本科的期间其实就是做了跟处理器相关的这种课题那么如果说我们summarize过去这个30年的一个行业呢,它其实有一些非常大幅度的起起落落吧我觉得如果说纵向来看呢其实是两条主线互相交织在一起形成了整个这个芯片或者硬件的这个主线一条主线显然就是这个处理器对吧,CPU从这个应该是86年吧这个或者84年比这个IBM的PC稍早一点但是从8485年开始有IBM PC然后逐渐从一种桌面的办公的终端又进入到了企业IT的服务器然后后面的这个整个全球的这种基础设施随着这个数字化人类进入一个数字的世界对吧那么这些呢是CPU显然是一个最重要的主线当然这个主线到了这个2005 06年开始AI这一波又是一个新的新的浪潮吧我们等一下可能还会更详细的展开来说这个事那么这是一条线然后还有第二条非常重要的线就是这个通信基础设施所带来的芯片因为过去的30年人类从这个非连接对吧靠物理连接的这么一种物理世界进入到一种connectedeverybody connectedevery device connected这么一个发展的历程也就是互联网的发展历程那么这个历程呢代表另外一个纵向的这个脉络全球从没有互联网没有宽带没有手机进入到每个人每个设备都被连接在一起当然他也需要大量的芯片大量的基础设施而且这个基础设施从这个非常慢速的这种电话线modem上网又进入了宽带又进入了光纤这是有线以及他背后的那个城市和城市国家和国家之间的干线请不吝点赞 订阅 转发 打赏支持明镜与点点栏目这就促成了整个互联网的基础设施。当然随着移动网络的出现,后面又有星链这些东西,也就是说Wireless的这个Infrastructure。它又相当于是互联网的第二波嘛而且第二波其实我们现在其实就是在处在这个互联网的第二波就是移动互联网它一方面是催促了大量的基础设施但是同时它在device这一侧也是最有代表性的智能手机基本上已经成为我们人类陪伴每天
[10:00] 可能都是六七个小时以上的使用时长对吧已经成为我们的生活的必要的一部分那么这个东西也是一个巨大的庞大的这个半导体的一个支柱因为它所消耗的半导体曾经有一度可能超过了60%到70%就如果你把手机都算上的话那么这两个脉络是它的纵向的脉络但是如果我们再看按照时间节点它横向也是有横向的脉络其实我们就会看到在时间节点这个按照时间来划分的话他经历了半导体经历了一个极度狂热的这个这个上升的这么一种繁华的阶段然后呢他又进入迅速进入了一种凋零衰落甚至是一个夕阳产业这个西洋产业它的最代表的这个符号就是可能在这一波AI的大概就是在20...谢谢大家2016年之前可能足足有10年以上甚至15年的整个硅谷美国的VC是没有任何对于芯片startup的投入的OK因为大家都认为这已经是一个完蛋的是个西洋行业是个西洋行业而且最有代表做的就是这个Blockcom的发明了一种Block Tom模式就是把这个相对成熟的有利润的半导体公司进行并购然后合并再重组再降低这个就提升运营的效率吧这完全是一个西洋产业的收割的模式当然在这个1516年之后又出现了这个AI的这个热潮对吧当然现在可能就处于这个互联网bubble移动互联网第二波浪潮然后AI相当于是最近这几年的第三浪潮吧这第三个浪潮当然它的所掀起的热情以及资金量啊包括大家对这个产业的期待可能甚至是比前面两波更高那么我们就会思考一个问题说为什么前面那一波比如说这个互联网之后为什么会有10到15年的这个夕阳的这种日落期就是大概05到15年2000年之后就已经开始了对但是从2005年到2015年差不多这整整10年VC是没有任何投入的因为大家都不看好觉得芯片是一个没有希望的产业那我觉得这里头不一定政治正确哈我觉得恰恰是某一些这个sector的极度成功导致了这个另外一个层面的凋零我不知道也许这是有点反直觉对不对小军老师对您跟我说的时候我觉得还挺反直觉的这个问题其实道理也蛮简单的如果我们当然现在中国已经开始走入自己的一个产业模式和一种自我的循环模式吧但是如果以美国的前面就是说如果倒退十年前全球的科技基本上还是以美国模式引领这个引领世界的潮流吧那么这个美国的模式它有一个显著的特点就是说当一个比较重要的伟大的发明或者一个新的业务出现了得到了这个资本市场的加持之后他们可以迅速的建立一种近乎垄断的优势比如说之前的这个Google啊或者是Meta就是Facebook在社交Google在搜索这些领域呢包括之前的Windows在这个终端的这个操作系统对吧还有苹果的手机他们都在各自的领域迅速的可能大概也就是三四年的时间就可以完成一次建立一种垄断性的优势这个优势不光是一种技术的优势更重要的是一个资本啊技术设施啊然后用户数量相当于大家习惯了用一个东西不会轻易的切换平台对吧那么这一种monopoly或者是垄断性的优势呢其实是
[15:00] 对于创新是极度产生了一种负面的作用吧那么这个作用就是说因为一个客户如果他是世界上唯一采购某一类产品的商家那么作为他的卖方供应商是非常悲惨的这个悲惨也不能说悲惨只是说这是供求关系天生所决定的就是当你这个呃客户他首先如果他占了采购量的绝大部分那么他就有极大的定价权他一定会让这个供应商无利可图对吧毛利会变得非常第二个呢是他们会主导需求以及这个这个技术方向那么这个主导看上去是非常合理啊但是我我试图的用一个小的例子来说如果你完全听客户的是没有前途的因为我们做这个芯片通常从这个做的主要的架构或者产品定义的决策到最终这个产品能够真正的落地在真正的用户手里使用至少要三年的时间因为芯片设计周期就有十几个月制造周期可能现在也是九到十个月然后你还得要做成整机对吧然后还要测试哪怕快一点也许三年或者两年半慢一点就是四年因此人类往往是缺乏这个日历是不对的我生活的日历是在2030年而我的客户是生活在2026年那么这里头有四年的gap如果说我只能去盲目的听从我的客户的话那么我就会滞后四年的时间因此呢这个所谓的技术的主导权以及对未来的定义的这个力量如果完全放在这个一个dominant有压倒性优势的这个这个主导方会成为这样的话呢他一定会抑制新的这个创新的力量因为你哪怕是有正确的想法你没有机会去实践它那么这一系列原因其实就导致了传统的这个就是说在这个AI之前的这一波绝大部分半导体公司迅速的进入到一种衰亡的状态都属于第一方面是经营困难无利可图第二方面是对未来有期待的东西很难有机会去真正的把它做出来那么当然这个我所信的是说最后这一波至少在AI这个时代也许是从硬件大概是从1617年开始对吧随着这个什么RxNet啊这些DNN的啊这个这个不断的进步嗯大概是在1617年开始一直到现在都还没有进入到一种不幸的垄断或者是这个单一我刚才讲那个凋零期其中有一个非常有意思的现象就是说因为他这个领域特别特别活跃而且他每个月每个季度的进步都超出了大家的想象说白了到现在为止当然还有我们中国的也是世界的一个重要的participant是一个下场的player也可以说目前至少我们能接触到的人群是群星璀璨是极度活跃的谁也不能说这个Sam Altman或者是这个什么Entropic就是最终的赢家因为每天我们的同行包括尤其是在这个也许是在五道口也许是在杭州的这些超级smart的那个有志向的年轻人他们不断的给我们带来惊喜让这个垄断一直无法形成因此呢就会出现更多的这种活力存在于这个行业的每一个层面上面您说这个主导者讲的应该是Google啊,他们这些大家伙对吗?我觉得我们中国也有很多主导者啊,比如说你要是买东西,在线上购物你就会识别出来说哪些是主导者,对吧?如果你说短视频,你也知道那些。那些主导者是谁
[20:00] 对他那一波主导者对那么他们代表了巨大的规模巨大的购买力巨大的这个消费的人群它也支撑了庞大的基础设施嘛我说反直觉是因为我想象中的这种上层应用的发展和底层芯片的发展应该是互相促进的关系我没有想到上面的垄断者一旦形成之后会反而导致芯片行业处于一个凋零期那我就请问一句您也是这个行业的行家你觉得如果当你想象到Google的时候你觉得它是个什么公司它是一个搜索公司它是个广告公司直到今天它的绝大部分收入还是来自于跟这种贩搜索相关的广告对吧我觉得这个科技行业它有一个显著的特点就是绝大部分人都有我们能识别到的这些实体都有第一板斧都是很厉害的嗯通常就会说发明了一个前所未有的东西然后呢给人类带来一种巨大的好的体验或者是这种离不开的这么一种capability是他们赋能的但是一个企业非常非常难以不断的再造自己说OK我有第一版超级这个绝招出来之后建立了垄断地位之后我是不是还有能力再次发明reinvent再次Innovator,这就是有个典型的Innovators' Delight嘛。就是说一个在某个领域已经建立了巨大优势的人他或者企业吧实体他一定会在这个地方获得丰厚的利润但是他有没有能力再在另一个领业再重新发明自己再创造下一个更伟大的东西呢也有不少聪明的人他们可以不断的突破自己的DNA或者是自己的极限不断的给人类带来惊喜但是绝大部分组织它通常这个重新改造并且再造自己再造一个全新的自己的能力是有限的不信你把你所熟知的企业全部在脑海里头过一遍你就会发现他们都在某些地方有优势是不是但是通常一个优势恰恰是在一个新领域的劣势所以我们就看到说今天在AI领域其实最有突破的公司都不是我们所熟知的那些Big Names上一代的Big Name没错当然Big Names还是想留在海桌上当然他们有资源的优势他们想要怎么怎么样对吧想要努力的去reinvent我们也很期待他们会reinvent因为他们毕竟有自己的各种人才啊资源啊组织啊执行力的优势但是我想说的是世界就是这么奇妙往往并不是最富有的孩子他会最成功比如说你看一下我们的经历过的同学是那个家庭条件最好的人同学他们最终在职业上取得或者是对贡献社会贡献最大吗往往不是这样因为您是1987年进入清华而且是少年班吗那个时候你们计算机器在学什么呀我觉得课程可能差的还没有那么多哈我是我成长或者是从少年时代接触接触的是苹果2Apple 2的兼容机嗯差不多到我上大学的时候出现IBM PC 对吧但是属于而且还是用软盘 Floppy disk硬盘都是一个新鲜的玩意儿马斯克也没创业马斯克也没有出生应该出生了对还没有到他创业的时候所以那个时代呢其实如果说从学校的氛围来讲有有几个显著的不同第一个呢就是说那个时候的教师的群体还是比较老派谢谢大家是不怎么讲就publication老师们做的科研都是要把真正的机器做出来这个最起码是一个prototype写一篇文章是毕不了页的都是要说我设计一个啥玩意我必须要看到把这个东西不但构思出来并且还把一个很搓的板子给做出来这个也很有意思就是说代表了一种科研的文化吧那个时候因为中国本身的这个行业企业的科研能力研发能力非常差甚至如果比我更早的时候这个gap就会更大那么因此呢高校或者是科研机构承担了实际上是现在的研发的这么一种角色因为企业没有研发所以包括中国的之前的这些什么两弹一星的元勋啊做的他们所使用的电脑他们使用的任何
[25:00] 一个东西基本上都是高校和研究所做出来的也不这次代表了我的老师的那一代那么到了我这一代这个残留的文化还在对吧正好是属于一个过渡的时期那么在我之后的所谓的科研体系包括这个学生的培养毕业的体系呢他们就会这个进入到一种publication driven对吧更像像美国的西化了之后的大家都要去鼎会发文章作为第一优先级这个也是很符合时代的节奏因为在我离开中国的时候可能像华为公司可能才只有也许是几千人他们做的东西其实甚至还比较初级吧就是没有形成如何去组织成千上万的人去去有组织的去开发一个极其复杂的东西这种体系正在形成当中但现在如果你现在快进到当下,其实中国的诸多企业,不管是大大小小的企业,他们的开发能力,开发产品啊,知道怎么去组织人,组织资源,怎么去构建相对完善的人力系统来去完成这么一个teamwork,organization work,这个能力其实已经是很强了,甚至是世界上都很强。已经领先了所以高校就不再需要去承担这个过去类似于开发性的工作但是再回到我刚才讲的那个时代吧特别有意思的就是说我们那时候除了上学其实大量的时间是在中关村散混散混散混就是说比如其实就跟现在的startup很像就是说OK你会发现世界上有很多需求然后呢我们试图的去开发一个产品或者是至少是产品的原型试图去满足这些需求你当时都做了啥做了很多无数的失败的东西什么激光打印机什么什么影碟机电子磁点这些都是古老的东西现代的人可能已经不知道电子磁点是个啥对吧知道对那么但是那个时候企业的研发能力很差所以高校的学生相当于是填补了这么一个gap替这些小公司去开发这个东西因为我自己是竞赛生相当于编程上面还可以吧做软件还行当时呢我就找有一个最好的朋友他叫吴钊也是清华的同学吧我们俩年龄差的也不多就差不到一年那么他是硬件的竞赛生所以呢我在很多年都特别渴望说哎呀我要像他一样我会做板子我会设计什么当时FPGA然后呢我一定要搞清楚这个处理器里面到底是个啥就是对这个芯片内部到底是怎么回事对吧因为芯片现在都已经到了上千亿个晶体管这个极度复杂的体系因此呢就是说觉得自己软件做的还可以的时候就会花了巨大的努力想要去穿透这一层这一层膜这一层边界好像那是楼上和楼下的区别这当时是你的渴望当时是我的渴望所以因此呢我在后面的很多时候就会有极大的偏好说我特别乐意去了解另一层的世界是怎么回事所以后面职业上面就成了一个不折不扣的或者是说主要的职业都是在做硬件所以您在学校里还是偏软对吧我在起点上面是是编程竞赛这种这种背景那时候这个少年班是多大进的放进班一般都要求15岁以前你是我当时14岁哇塞好小啊这个我觉得也不算什么也就是绝大部分人都是机缘巧合吧各种原因导致他们有一种特殊的机遇因为要凭自己本事去考进这种学校还是挺难的嗯所以这个不足为道。刚才讲的就是说这个穿越不同的城其实后面可能我们还可以聊这个话题路上你也给我看了这个黄仁勋的五层蛋糕是吧那么在我们心中可能是一个18层宝塔18层糊涂这个我们后面会着重聊到回到87年啊我在学习这个芯片历史的时候我觉得很有意思因为台积电好像就是87年创立的吧张忠谋那年56岁其实后面也改写了全球芯片产业
[30:00] 一个分工模式因为以前是垂直整合的后来就变成设计公司是一类芯片代工公司是一类是你有经历这个时代我经历的时候其实台积电已经已经比较强大了或者虽然说他还没有形成今天的这种垄断就是压倒性的优势但是它已经相当的强大了这个模式是怎么形成它的根源是什么为什么它更符合那个时代我觉得我觉得它最根本的原因是个economics就是说这是一个经济学的原理因为一个晶圆的厂它的这个资本的支出越来越大对吧每一代可能都在以我不知道肯定近乎摩尔定律的这种速率在提升就是说一个制程也可能原来可能只有10层Mask现在变成100层Mask原来的每一台机器可能100万美金或者10万美金现在变成1000万1亿美金你可以认为这个Foundry就是这个晶圆制造是一个资本投入以及研发周期特别特别长的这属于相当于我等一下讲的宝塔当中的六楼五楼就是这个地下室的这些地方呢其实作为一个business是风险极高ROI特别差然后投资的回报的周期特别特别长的而且随着公益的演进它会变得越来越越来越糟糕所以呢这个时候呢做一个设计公司你是没有这个资本能力的就像我们现在比如家里都要用空调要用电你不会因为你要用电你自己去建一个电厂因为电厂的支出太庞大所以它成为一种我想那个Morris首先意识到了这一点说大家想要公共share这个基础设施当然您也在B站上可能可以看到很多对他的访谈他也在回顾这些历史但是他首先意识到并且明确的把这个作为一个商业模式是很伟大了对人类的很大的贡献当然这个贡献其实也有无数的企业都建立在这么一种模式上面获得了成功我可以这样讲如果没有这个Fabulous这个模式包括甚至连谷歌这样的巨头都不太可能去做TPO因为他要自己开始建一个厂可能就得要三年的时间他去开发这个工艺要三年的时间他要把这个厂正常的运营起来他也要很长时间而且他的规模可能支撑不了一个最先进的FAB的这个所需要的这个经济规模但是这个模式一旦建立了之后当然就促成了后面的反正我的整个职业生涯都在这个模式之下直到最近的五年之前都在这个模式之下对吧它模式有存在有它的合理性但是它也不是everythingAMD创始人Jerry Sanders还说有晶圆制造公司的才是真男人Real man half else但是结果他自己都剥离了他自己的芯片制造部门这个模式呢有他好的地方但是也不见得说未来一切都只能是以这个模式因为我们所谓的合理性它有一些大前提当这个大前提发生了变化之后你就不得不去适应它对吧当时的大前提是什么当时的大前提是全球自由化啊The world is flat大家都是以各自分工各自分工我在每一个层面都想采购世界上最优秀的capability啊所以我们在海思在19年之前几乎所有95%的甚至99%的设计都是建立在世界上最优秀的供应就是楼下我要去挑最好的楼最好的六楼五楼去构建我的产品但是这个大前提显然是由于这个国家之间的竞争啊或者是各种其他的geopolitical因素影响之后这个大前提就已经彻底被颠覆了嘛这是其一啊其二呢是说当一个事件发展的过于迅猛的时候其实就会出现这个分层的时候它未必能满足要求比如说最近这半年出现的极度的内存的匮乏就会导致内存可能涨了十几倍的价钱DRAM涨了十几倍的价钱垂直分工一定程度上并不能很好的去应对这样一种迅猛的过于迅猛的变化就像股市一样对吧就是说你当你出现这个一种爆发式的狂跌黑色星期五的时候谁也来不及或者是当时你出现这个一种爆发式的狂跌黑色星期五的时候谁也来不及
[35:00] 你出现这个极度上涨的时候你那个正常的操盘是跟不上这个上涨的速度您是什么时候意识到您可能会一直从事芯片半导体这个行业啊是在清华还是去了美国之后我在清华就特别想要去做这个事因为刚才讲到的就是说对这个楼下的understanding的一种渴望对吧而且我觉得嗯楼上比较舒适,风景好可以看得更远。比如说你要是做一个应用你可以只要有正确的构思可能在半年之内你就可以卷到几千万个什么日活的用户对吧绝大部分这个super app都是这样出现的但是楼下是代表了一种更有耐心的哎相当于长跑型的选手吧你是这种长跑型选手吗我不知道我在我的职业生侠里头我绝大部分同事说你不是一个芯片工程师你是一个披着芯片工程师的披着羊皮的狼因为你并不是真正做芯片的你是做软件的然后当我去跟软件的同事相处的时候他或者说你是属于楼下做芯片的或者是突然会说你是做算法的所以我觉得这种嗯嗯多面体这种multi facet的这种character我其实做芯片是需要知道那些东西的或者是说你需要在其他方面也可以跟别人交手不落败好奇啊就是96年您从中国去了美国当时还是去做博士后在那个时刻您对未来科技的这个图景的想象是什么样当时大家是在一个什么样的情绪里那个情绪说起来有点复杂我当时抱着两个念头第一个呢是觉得我必须得去。OK要不然包括我现在面试的很多优秀的同学比如说已经在这个Top的学校拿了读了博士他们已经证明自己的能力是不亚于别人的但是他们还是觉得我有很多天才少年下属都说我还是必须得去一趟MIT要不然我就觉得自己差了我也当时也有这样的心态嗯所以我因为美国作为这个科技领袖吧已经是从我认为是差不多1945年到现在已经这么多年了大家会有一种遗憾我如果没有见过我就不知道永远是缺一口气的这是第一种念头第二种念头是我当时觉得我刚才讲的那个类似于startup的模式做了很多乱七八糟的看上去像产品的东西但是我做的所有东西都没有能够比如说卖了什么一百万只或者是有无数的人津津乐道的时候我在用你做的东西没有真正的走向市场对那么我当时就是说当时我并不知道自己出了什么问题我当时是没有知道但是工作了一年两年之后我就迅速的找到了这个答案但是我去的时候还是抱有这种困惑说为什么我总是做的东西都不够好或者是没有形成走向市场其实这答案很简单工作了一年半之后我迅速的就理解到了缺的那一个missing piece是什么哪怕你做一个电水壶你必须要做到说即使它当中一个零件坏了它不会一直干烧否则的话就会造成火灾甚至会死人你要做一个电水壶你一定要能够通过安全的检测这个边上沾了点水你不会垫死它上面的继电器要是坏了它不能干烧它必须得要fill safe不能fail dangerously对吧这种process你一个东西要能够被使用它有一些你不但要有足够聪明的脑袋说想象怎么去设计一个电随火或者怎么设计一个SpaceX的火箭你还要把它执行可靠的执行出来执行出来你还要有足够多的验证和检测最后才能够符合头像市场被普通人使用的这么一个标准,当时我做学生的时候并没有认知到这一点,觉得说我有一个聪明的idea,我把它做出来。其实我们仅仅只能说做到一个prototype,这prototype是你无法想象,比如说像你用的一个手机可能要几万个人,上万个人的研发,每一代都要有一万人年以上。
[40:00] 才能把它做到说他不会什么某种情况下什么到了这个热的地方马上就黑屏啊到了什么东北的滑雪场就立刻关机啦或者是充电充不上了有无数的东西需要去就是需要一个rigorous的process一个严格的 process经过了这么一个 process这个cycle 之后才能够把这个产品的打磨到可用的程度比如说我们自动驾驶最开始也是在我们这个团队开始孵化但是我们这个过程花了七年的时间从做出一个prototype已经在我们的园区到处跑到最后上市卖给第一个消费者落地是漫长花了整整的七年的时间所以做学生的时候完全没有认知到这一点所以就非常幼稚的认为自己比较聪明或者是能编程可能做一块板子就以为是可以做产品另外其实与之相关的一个有意思的话题就是说谢谢大家工作一年之后我才意识到如果你要组织不要说一万个人去做一个产品哪怕是20个人你不可能每一个都是奥赛选手需要让普通的人普通的有责任心的工作人员他的智商或者他的技能只是经过Average的Education和你的智商。招聘的筛选的流程的人可以有效的发挥工作并且把他们的组合在一起你不可能每一个都挑到天才选择而且如果全部是天才也会有问题对你要是20个天才肯定是搞不定的他们之间会产生各种各样的矛盾对吧这就是另外一个跟企业或者是团队相关的问题。所以每个人都有自己的function其实这个对我们的无论是一个企业或者是一个社会都是很健康的否则的话只能是强制所谓的稍微比人优秀一丢丢或者有某一个方面有一点点优势的时候他就会让别的人都没有存活的空间但事实正好相反需要大量的有责任心负责任的人最后才能把事情做成96年您到美国到了普林斯顿做博士后当时对美国的初印象是什么样的首先我在此之前就已经去过美国在这个87年的时候我就已经去过了那个时候到96年已经又是过了9年的时间第一次去的时候觉得美国是一个fantasy land就是说对我因为那时候我才14岁就觉得一切都像梦幻一样因为中美的差距实在太大了甚至傻到什么程度呢回来之后呢就跟别的人讲说或者跟我后来的太太讲说美国太好了连这个街上都放着空调那么实际上我后面再去的时候试图的回忆自己为什么会有这么stupid的认知呢实际上是说我认为了Stanford Polo Alto的一个shopping mall然后那个时候因为中国是没有shopping mall的对不对我们那时候只有这个农贸市场只有这个街两边的商店那么一个shopping mall就像是盖了玻璃房顶的一个街道嘛所以我当时的错误印象是觉得美国太先进了连街上都在放冷气但是但是到了96年的时候当然就已经是成年人了首先第一点是啊是有所失望的因为从一个孩子到一个成年看世界的时候我觉得有一种深刻的not belonging的感觉因为我去的那个princeton它是一个美国的这种精英式的就是说他跟别的高校气质不太一样吧后面其实我会学习到Princeton的有很多课值得学习或者优秀的地方但是那个时候我并不感觉我只是深刻的感觉到这是一个美国精英的贵族存活的地方但是我不属于这个阶层所以我就要迅速的离开这个地方所以你是只待了一年就马上走了对当然我还有第二种失望失措我原来觉得自己也许还可以做做博士后也许有机会去做一个教职但是我那个时候已经充分的理解到如果我要去做一个教职我必须要重新读过博士因为清华的牌子不够硬但是今天可能世界已经不一样了因为清华可能在学术的进展啊包括跟世界的接轨跟那个时候差距已经大幅缩短甚至局部领先吧那时候内心
[45:00] 是有很多自卑的我不敢说是纯粹的自卑也许既有自负也有自卑吧当时想过回国吗那个时候当时我没想过那个时候没想过觉得那个时候觉得回国是我只能说那时候可能是一种错误的认知认为是不行所以才会呃待不下去对吧不想要有这么一种挫败感但是我后面事实证明说这种认知是非常非常蠢的吧但是没有办法年轻的时候会犯一些愚蠢的错误这个应该还不到错误的级别啊我觉得就是一个错误啊如果我回头看一下跟我跟我年龄相当或者是比我小十岁的同学他们如果在中国从事这个职业哪怕我刚才讲的是一个average普通的人有责任心积极向上愿意的不躺平的人他们都做得很好啊因为什么呢?是人的成长一方面是自己但是更大的是在一个大环境里对不对如果这个整个环境都在往上涨那你自然就会像在电梯上那个电梯本身就在往上涨这种共同的进步而在美国我觉得从我去的87年好96年也好他们进步的不快甚至在退波但是中国的这个过去这30年进步的很快当然我有幸下半场也回到了中国也参与了其中的一部分我在看芯片历史的时候发现97年芯片产业里面也有一个大事就是97年4月份一美达推出了第三代的NV3它终于在经历了前两代的芯片失败之后才刚刚站稳了脚跟您当时有注意到这家公司吗没注意到我觉得他们那个时候是nobody我觉得97年如果说芯片发展的历史那个时候是其实有一场更加精彩的就相当于它这个主线并不是在你刚才描述的这个它属于是外设的外设它并不重要但是呢当时的一个主要的这个大上演的大剧其实是一场CPU的非常重要的时间节点因为我当时在Princeton同一个office的有一些同学吧当时的这个嗯做处理器的同学最最向往的是一个叫DEC的公司叫Digital Equipment CorporationDEC也许现在已经历史上消失了那个时候是仅次于IBMDEC做小型机中型机的公司也是在Boston那么这属于DEC的末期当时Digital有一个旗舰的计划叫做Alpha这个处理器CPU设计的最高水平所以所有研究处理器的人都想要加入这个团队然后去有幸参与这么一个就像今天大家想要去开发这个英伟达的这个Rubin或者是Fayman参与那个program那代表了当下的世界最高水平吧我稍微把这个故事往回放一点跟我刚才讲的一个垄断形成之后遏制这个innovation其实是相关的因为这个CPU最开始是一个丹河单发射也就是每周期或者甚至花很多个周期才执行一条指令然后后面慢慢的出现就是精简指令级处理器包括他的发明人今天也还是很活跃的David Patterson教授包括曾经当过Stanford校长的John Hennessy教授他们当时主导了一个处理器精简说把它每条指令都做得很简单每周期可以执行一条指令然后到了80年代的时候87年也许是8584年开始到878990年这个时代就出现多发射也就是说一个周期可以执行多条指令多核还没有出现那么当时有一个非常重要的直到今天还是处理器里头可能最最关键的一个竞争如果一个处理器每个周期可以执行多条指令我该怎么去调度怎么去生成一段软件怎么编译成代码并且让它每个周期可以执行好几条指令这样的话它速度就更快因为刚才讲的那个时候Windows其实或者是说DOS加上Windows已经在桌面的
[50:00] CPU上形成了一种垄断的态势但是呢在服务器领域还是百花齐放那时候最红的公司是上Micro System还有SGI还有什么反正就一系列包括Digital也还在而且用的操作系统是UNIXUNIX的各种变种这就是一个处理器发展的一个最最重要的黄金时代大概持续了十年的时间当时一个最主要的路线之争就是一个静态调度的处理器叫VLIW用编译器编排好指令并且执行的时候每一条指令都代表多条指令同时执行以及另外一个叫超标量 superscalar是一个完全动态的也就是说我并没有预先编排哪条指令在哪个周期执行要靠这个处理器本身把它取进来放在一个调度的窗口里面动态的进行调度为什么我要专门提到这一点呢其实后面这个重要的topic会出现在我们有关AI处理器的话题里面因为今天的所有AI处理器都是静态调度包括领先世界的这个NVIDIA的GPU大家其实还在走VLW这条路并没有走向Cyberscaler这条路那么当时持续了十年的论战因为软件和软件这个IT系统并没有形成monopoly所以当时这个除了SUN啊SGI还有HP还有IBM还有Digital相当于群雄逐鹿因此呢就像我们中国的春秋战果啊就是诸家的学说都在而且大家都在积极的尝试证明自己的学说是对的但是这个故事呢反正快进一下吧那么他就是一种史诗级的灾难就中厂了首先Digital破产被Intel收购当它这个变卖自己的资产的时候这个Alpha处理器就被Intel收购了相当于可能只卖了很少的钱Digital最大的资产是一个叫Altavista的搜索引擎这个搜索引擎是Predata比Google早了大概六七年的时间吧那个时候的搜索引擎他Vista相当于是开创了搜索引擎成先驱了先驱只不过是他当时不知道怎么赚钱虽然说他卖了很多钱就是作为变卖资产的时候卖了很多钱但是一直并没有人知道怎么用搜索引擎变成一个企业可以挣钱技术是他是个先驱后面当然很聪明的人发明了更好的搜索引擎的算法以及找到了Eric Schmidt找到了商业模式所以Google变成巨头了AutoVista就在历史当中消失了但是我想说的这一个论战直到今天对我们来说还是有非常深刻的教育意义的也就是说many lessons to learn from并且我们在继续往前走这个AI处理器的眼镜的时候很有可能会从这些历史里头借鉴到有效的方向您当时的观点是什么呀在那场论战中我当时的观点不足为道吧因为我在Prinston做的也是VLIW因为那个时候呢我从来没有做过芯片从来没有做过一个full scale的这个真正需要tip out去制造生产的芯片所以作为一个所谓的博士生吧我是没有判断力的非常naive就是说你要有判断力你需要知道对现实需要有认知首先知道什么是形式知道说周边OK今天热了我要穿短袖冷的时候现实的感知那个时候是完全没有经历了那么多的当时在普林顺觉得不那么合适之后你选择了去产业我基本上就是直接找一个工作谁要我我就去了所以我也没有太多的选择我们都属于带着这个我带1000美金去可能已经算是大富好了有很多同学带100美金就敢去美国的甚至他口袋里的钱都不足以付从机场到学校的这个taxi的钱所以我们那个时候有比较多的现实嗯就觉得说哎呀我首先要活下来嗯97年就您加入那个PMCSierra这家公司他也刚刚经历了一个重组他从一个加拿大公司和一个硅谷公司两个刚刚合并然后你正好是才让他们合并的那个时间点加入对那个时候首先不是我
[55:00] 而主动选择是他们选择了我但是呢我觉得这个其实它是个小公司谢谢大家最顶峰的时候可能也没超过2000个人什么概念呢就是今天我属的部门可能有50004000多人已经远远比他收入是他的100倍所以PMC可能是一个small entity吧但是他经历了一个波澜帐阔的那个刚才我描述的这个就像一种冲浪式的行业的形态它恰好采摘了这个互联网的那个第一波因为他做的是这种他传送网就是就是说互联网的这个干线的基础设施里头的几个关键的器件成语网包括这个城市之间的这种长距离的传送网他恰好是做这个那么因此那一波他的其实跟今天的我们看到的这个资本市场的狂潮一样对吧那时候PMC可能他的市值曾经一度成为加拿大了整个国家可能number one的但是number two市值最高的他可以轻松的买下蒙特利尔银行但是这种幻觉很快就消失了好了几年坏了几年好了我87年97年去2000年就破灭了2000年就破灭了2000因为你们可能不知道2000因为您看上去年纪很轻也许那个时候也许是个孩子甚至还没出生哈但是2000年有一个fantastic的就是说出现了这个反正我经历的第一波这种泡沫和破灭的过程吧就是当时这个互联网成为世界第一热点认为世界上所有东西互联网改变一切所以呢一方面就是微软要学拼这个当时的这个浏览器叫Netscape微软做这个IE一定要把Nescape干掉就是从这个入口这个Portal就像现在所有的互联网应用不是都在抢这个用户的这个入口吗对当时也是一样的所以在应用层呢大家认为这个浏览器是第一入口因为所有东西都要从浏览器进去所以谁控制了浏览器谁就有优势那么在基础设施层面呢大家认为世界上的一切东西都要经过互联网所以就拼命的全世界在极度扩建干线以及接入网就让每个城市都能覆盖互联网城市和城市之间的这个光纤都要铺设的足够的大带宽所以当时PMC就属于一下就这个股价就像今天英伟达或者是韩武纪一样非常非常高对吧但是很快你就会发现当然我不是说这些这里头有个最大的economic的这个measurement就是说谁投资了他得要能赚回来那么这个互联网的bubble大概就持续了三年的时间就迅速的就发现那些投资了比如说美国可能直到今天用的光纤还是2000年不舍的因为他突然一下布了那么多发现哎呦没人买没人租就会发现这个变不了线嘛我觉得这个问题在中国今天的AI并不见得存在但是在那个时候的互联网在美国是确实存在的对那个时候经历了一个互联网的但是后来互联网公司其实他又起来了对吧然后05年互联网公司应用公司起来了对应用公司起来了但是做基础设施的一直没有再起来一直再没有起来为什么后来你也没有想过要换工作跳槽觉得说 아니认识了一些人或者是说是别人抛弃你还是你抛弃他们的问题你不愿意抛弃他们我也没有这么明显的去拷问自己但是我只是觉得说我还是想要去找到另外一个产品可以让这些做芯片的同事或者自己有机会做另一个产品带来新的收入后来有找到吗后来我们进入到了IT行业就是开始做这个硬盘就是storage存储相关的东西然后也服务的客户也从Cisco什么什么EriksonAlcatel这种电信公司切换到像HP IBM
[60:00] EMCNetwork Appliance这种IT行业的公司嗯因此就有机会去学习到说OK电信行业是怎么样的IT行业是怎么样的IT行业曾经是一个利润很丰厚的行业比如说像EMC IBM这些公司卖的设备它的利润都是很高的那么这个IT传统的IT的OEMHP这样的企业,他们就是恰恰就是在好Hyperscalar出现之后,就开始凋零为什么呢因为像所谓的hyperscaler就是说这种具有超大的互联网公司他们都需要很大的基础设施比如说在这个世界全球市场上我觉得今天服务器就是server或者是AI infrastructure的采购量这些大型的这种我们的数语叫OTT over the top或者其他国外的数语叫hyperscaler或者是超大的互联网企业吧他们的采购量应该是超过了全球的一半以上吧甚至百分之六七十甚至百分之八十所以当这种企业具有如此大的购买力的时候他们就会给这个brand name的这个OEM产生巨大的压力因为过去的这个brand name的OEM他们的优势是说他可以做出比较高质量的产品但是他服务的对象是首先是Fortune500然后再扩散到Fortune10002000或者是说全球的上千万上亿个各种大中小型巨型大型中型小型企业因此呢他需要一个这种广覆盖的能力对吧比如说你要卖服务器到中国可能每个县城都得有服务点吧因为那个县城可能有1000家企业是你的客户每个可能只买了两台三台十台服务器但是他出了问题你得要有人去上门服务但是hyperscaler跟这个特点有本质的不同首先他数量很少全世界可能英国什么叫什么可能是七仙女还是多少中国可能也差不多七个十个对吧他非常集中第二他的地理位置也很集中所有机器都摆在巨型的那个数据中心里面并不需要你到陕西的某个县城去设立这个维修点对不对第三个呢是当它采购的量是你生产的东西的70%的时候它的定价的能力很强这就是我刚才讲的之前提到的另外一个驱动行业改变的因素吧最后那一年您从PMC回来加入华为那一年16年这家公司也出售了以25亿美元您也是刚好经历了它整个周期这个周期其实恰好是我刚才描述的日落就是我刚才描述说应该是在那个时候差不多就代表了整个美国科技行业对半导体的彻底失望和抛弃因为首先是华尔街对他们的抛弃因为他们的PE可能只有三平均every三到五吧这是什么概念你今年的利润是对这个10亿美金你的市值只有30亿美金给你一个reference比如说今天你去看中国的AI的芯片公司它的price earning可能到6000 8000这种数字首先是资本市场对这个半导体行业的彻底抛弃因为它没有新东西也没有任何理由让大家觉得兴奋对吧因此那当时出现的就是block home模式嘛就是这个hawk town一个天才的这个leader,business leader,他发明了以小吞大,先去private equity借一笔钱然后买一个比他大十倍的公司然后用低价买进来然后再把它重组把所有重复的部门和的人员都给删除然后利润不好的产品踩掉,那么它的报表就会变得很好这样的方式去其实这是一个重组并购属于一个行业的末期相当于有一些
[65:00] 能在清盘这个行业当然说您刚才讲的那个NVIDIA属于给这个行业注入一种谢谢大家全新的希望所以我们从业者其实都非常尊重这个因为达所做的贡献吧嗯这个日落真的很漫长他从2000年就是您加入这个公司三年之后的十几年都是一个漫长的日落时期身处其中是一种什么样的感受啊我觉得如果是其他人可能早走了我觉得第一是恐惧因为每天大家那个同事一起什么聚在一起什么吃午餐或者是把自己的饭盒在微波炉里加热了大家都在谈论下一个裁员是哪天发生会是谁但是对我来说是一个当然当时我的夫人太太也很给了我很多的支持吧或者是说服我不要放弃因为保护我觉得有任何一件事情都有两面性首先是说给了我充分的思考和观察的机会去思考一个技术他什么样的技术什么样的产品定义有机会变现或者是去策划一个plan里头有技术也有business也有对行业的愿景嗯而且因为我有太多的失败的经验无处是尝试并且知道另外呢虽然说我一直没有被裁掉直到最后一天他也给了我很多观察者的身份比如说我去拜访过很多次这些IT的巨头IBM HP长期跟他们打交道每个月都要去一到两次Texas还有什么IBM的北卡因此我学到了很多包括Boston的这些EMC的白头发的工程师我从他们的身上学习到了说这个行业原来是这样一回事对吧更有一种这是的perspective吧另外我看到了很多失败知道什么样的东西比如迅速的触发这个警报说这个东西一定会一定不行在这漫长的这个日落期之中啊您觉得您最大的几个learning学习到的是什么呀今天看这个段经历也许是很宝贵的因为如果没有他的话可能没有你后面在华为的故事我觉得我学习到我去海色面试的时候那个面试我的领导问我说你有什么可以带来的因为华为当时想要去招明白他们想进入某一个领域但是呢这个领域对他们来说是新的所以就要去招一个在这个领域里头已经从业比较久的这就叫明白人那么我说我没有太多的成功的经历我有太多的失败的经历所以我可以告诉你什么东西不行当然我经常我也会误杀对吧我的判断也不是全对但是我有特别多知道怎么样不行因此呢要努力的去规避这些失败的因素吧能不能说几个说三个吧可能会失败的因素一看就不行比如说我们最开始要去做这个arm server我们想要做一个CPU然后去取代这个X86的处理器我第一感觉第一个失败这是我们现在这个图灵业务部的一个当时的一个number one的产品当时我就每次都跟领导说千万不要做这个因为这个东西没有市场或者是说没有客户需求当然你看我这里头还是要谦虚一点我承认我的错误我的当时的判断是完全错的因为CPU供应很充足并且这个X86的生态当时AMD还不是特别明显但是Intel的生态大家都习惯了用对吧你要去改变别人的习惯通常可能需要好几倍的优势要不你便宜是人家三分之一的钱要不你性能比他好三倍那么当时我们是不具备所谓的价值优势这是我的逻辑但是这个逻辑可能我说是错的后面事实证明我是totally错了所以我当时给大家的建议就是说我们一定要找到客户在那当时我想到
[70:00] 第一的可能存在的客户就是因为中国那个时候云这个中国的 Public Cloud 还没有没有特别多的规模虽然说云的公司都已经成立了但是他们还没有形成很好的正循环所以我说唯一的机会就在美国我们一定要立刻派人去微软和亚马逊所以我们就立刻奔赴那个 Seattle但是很不幸的实际上这个action并没有错我们也几乎即将要进入到在有机会在微软或者亚马逊的云上面去部署这个ARM那个时候是2017年1617年就开始来了就是大概17年吧已经有机会进入到这个大规模的主流的云服务商的这个作为CPU的供应的时候就出现了中美的这个科技战然后是这个故事就终止了这还是那个时代的事那是那个时代的事但是在这个故事又科技战之后又重新回来的时候今天我们就看到说ARM Server确实已经在甚至有prediction说两三年之内可能会超过X86在这个云上所谓的数据中心上面对吧因为这些企业他们各种各样的人在继续努力甚至他自己也做了ARM的CPU我们在中国也每年都是上百万级别的部署他的理由并不是一个pure不是纯粹的价值理啊不是纯粹的时候我有三倍的竞争优势而是有很多宏观的政治因素比如说我们中国的关键基础设施不能再冒这个像伊朗什么电站啊什么和基础设施被IT侵入对吧我们必须要有自己的处理器而且我们的产品也进步的很快虽然说不会有三倍的优势但是不比它差完全到了完全可用的程度因此整个社会都比较ready而且这个产品也相当的成熟这个过程又花了十年的时间但是人的一生一共有几个十年了所以我说我当时的这个assertion是是错的但是在那个短的时间窗口里头也没错嗯这是第一个还有两个吗还有两个就是我们我觉得知道什么是不行什么是行的对吧我能讲的基本上都是错误的例子当时我们想要做这个深腾的芯片然后领导说我们一定要做一个能够做训练的能够构成大集群的就是就是说旗舰产品当时我去市府说服领导说千万不要做这个卖不出去因为我并没有看到中国群星璀璨的那一天在2016年的时候确实没看到所有的重要的算法和发明创造都是在美国对吧当时这个华人也没有出彩今天在美国可能只是Chinese in America competing with Chinese in China那个时候还没有这么明显所以我觉得做一个面向训练的芯片而且中国的互联网公司也没有开始自己要去训练模型所以就觉得这个产品一定卖不去我们就要做一个小的生产对吧我们第一次发布这个生成架构的时候希望它覆盖从什么一美金到一亿美金的什么六个或者八个八个这个order of magnitude八个这个这个数量级的这个广覆盖我们确实也这个做到了最小的产品是在我们的耳机里面就是那个Clip耳机最大的产品是现在的这个几十万卡的训练级群对吧确实做了可能都不止八个数量级的差别无论是从功耗或者是从售价上面但是我当时是非常不看好数据中心的产品我非常看好边缘的产品事实证明今天来看数据中心
[75:00] 从收入啊利润或者是这种规模吧是远大于边缘车的产品虽然我们耳机也卖的不错嗯所以我一直想要大家说哎呀我们先现实一点做一些能卖的东西嗯但是事实证明我还是错了对吧因此我说即使你有这么多这个鲜艳的认知它并不可靠但是呢它还是有一定作用的你看你刚才说的几个错误其实都是在基于一种悲观预期在做选择就是经历的那个美国芯片行业的衰退其实有关系的也许有也许就是训练了我一种这种比较悲观的或者首先看到事情不行的那一面然后努力的去逃脱啊这种好Destiny这种必死的这种预期吧而且您刚才举的几个例子都是发生在科技战之前是的包括我们的自动驾驶也刚才举了说七年的时间我们19年就开始做自动驾驶的芯片在科技战之前外部环境还比较好的时候其实你们做的选择都是小选择都不敢赌那个时候我还不必须得承认说我们的华为公司的一些主要的领导啊包括这个海事的领导或者是集团的一某些领导他们的格局比我要大得多因为我相当于是小池子里的泥丘突然到了这么一个大海里面所以还没有学会更大的这种视角吧但是随着后面19年以后我们被放到这样一种困难的局面也不得不学会从更大的角度去看待的问题就是说您看我刚才举的那几个例子从微观层面上看上去也都没问题但是从宏观层面上我刚才讲我的判断是错的是因为我错在了宏观层面我没有看到更大的格局没有看到对未来的预期世界会变成什么样子其实这是属于阅历更浅或者是在小池子里头坐井关天久了之后比较容易会有这样的局限或者换句话来说越年轻越容易犯这样的臭我现在已经50多岁那时候才40多岁了我有一个专业问题想问芯片行业的摩尔定律到什么时候大家会觉得它开始放缓了它背后的原因是什么首先摩尔定律不管有没有这个科技站都在放缓这是个客观事实那么摩尔定律有三个方面它的经济性它的性能和它的能效就是我们所说的PPA就是它的面积越缩越小所以它平均到每一个晶体管的成本就降低了这就是说使得世界上的产品只有一样东西是反通胀的就是电子产品这就是摩尔定律带来的最大贡献对吧你要是买一个任何东西十年前买的肯定比现在便宜只有电子产品十年前的电子产品今天可能除了可能有点收藏价值以外没有任何价值对吧这是摩尔定律带来的经济性的改善反通胀第二个呢是它的性能原来认为越小的管子它的速度越快所以就性能提升了第三个是它的能效energy cost就是翻转一个更小的水桶消耗的能量比翻转一个大水桶更低但是呢大概是在7纳米甚至16纳米的时候摩尔定律的经济性已经停滞了就是每个管子的成本从那以后不但没有变便宜变贵了嗯所以经济的benefit已经没有了它的performance benefit非常小虽然说也在慢慢的提升但是它并没有大幅的提升但是呢现在摩尔定律真正有benefit还是在energy cost上因为他的水桶变小了所以他每一次倒掉这桶水所消耗的能量更少就是每次翻转所消耗的这个Picajoule或者Fantajoule的Energy Cost变小了其实这个地方这个话题说的很本质哈我可以这样跟你讲中国的半导体和台积电的半导体的差距主要的差距就在这个energy cost上比如说你要我提供一个十万个
[80:00] GPU的算力我是轻松可以提供的只不过我比你好点比这个世界第一的产品能耗还是要大一点但是我们能源多对所以这个对于我们来讲对于中国来讲这不见得是一个首先这个answer已经有很多面了第一面是大家完全不用担心说我们如果说彻底断线了是不是中共就没有算力了这个答案是clearly no我们完全是有算力的第二个问题是说我是不是更贵不见得第三个呢是我是不是更耗电,我是更耗电,没办法。但是您刚才讲的这个中国有energy,对吧?我们的电力供应可能是美国的三倍,然后我们有大量的spare的。这个energy中国的数据中心的电费可能是美国的五分之一四分之一或者新加坡世界各地吧我们平均来讲energy cost都是他们的四分之一差不多这种水平小于等于四分之一吧所以首先我们并不想要以这个为理由说服大家去用一个更耗电的东西我只能说保底这件事情,并不需要过于担心。而且中国的energy cost energy的supply是是完全没问题的所以摩尔定律还在继续摩尔定律当然是在继续发展但是呢他的他更加精确的描述描述呢我觉得应该不能再用纳米这种长度的尺度去描述我觉得应该要用原子的塑料去描述就是因为Anstrong是十分之一纳米就是说如果你是用Anstrong这个原子的尺度它已经到了原子尺度了因此呢我们知道摩尔定律必有终结一天而且现在因为一个晶体管的尺度里头已经到了,比如说最小的feature可能已经到了Anstron的级别这个级别就是以多少颗原子啊为单位对吧今后干脆就应该用多少颗原子来度量这个东西因为你最后不可能小到一颗原子吧嗯对吧有和没有在这个是他的终极的这个终点在那里但是我觉得呢我们姑且还是期待摩尔定律可以继续下去但是呢它的经济性一定会变差会变得越来越贵而且第二点呢我刚才描述了一点说大家如果习惯了用一种尺度去度量一个晶体管的或者半导体的先进与否我们要不换一种尺度说一个东西它的操作的时间能不能变快优优独播剧场——YoYo Television Series Exclusive嗯从一种空间的尺度切换到一个时间的尺度因为我们所需要的是时间尺度我需要一秒钟做更多的运算然后我们是不是可以换一种energy的尺度说每次我把一个管子翻转一下我消耗的能量是多少皮卡骄傲的这种你就会发现当你切换一个尺度呢我觉得会产生一种本质的区别比如说你度量一个人他是长相好还是他更聪明还是说他考数学好还是考语文好换一个科目他可能同一个人他的考分不一样是不是那么因此你考什么科目就变得很重要我们所讲的这个涛定律考的是时间尺度说我就是想要电路更快我们也可以换一种卡诺什么什么交耳定律我考的是我干同样的事消耗的能量更少换一道题换一道题我们换一道题也许答案就不一样是不是其实这些答案其实有很大的虽然说不一样但是它有很大的彼此的关联因素啊因为在只要理工男基本上都学过这个电工原理就是说影响一个电路的翻转的速度是电容乘上电阻我们知道摩尔定律它有两个因素它是肯定会变差的因为一根线如果越细它的电阻肯定会越大所以电阻变大了它就变慢了第二个因素呢电容呢是跟两个几百靠的越近电容就越大所以这一方面它是变坏了但是它越小这个基板变得越小
[85:00] 它电容会变小我可以告诉你说摩尔定律为什么说过去从16纳米或者7纳米以后没什么速度没什么进步呢本质的原因就是因为它的电阻变差了而且电容呢也没有显著的变好因为有一个因素让它几板变小电容应该变小但是它靠的越近了它又变大了两个是互相抵消的一个因素实际上所有半导致的进步都是靠电容变小电阻是越来越大的这是摩尔定律的本质那么因此呢我们看到说当它微缩的时候它没有变快主要的原因是电容略略的变小了因为有两个互相抗衡的因素所以他没有显著的变快但是呢因为整个东西变小了他效释放的电子变少所以它还是能效有收益速度没有收益成本加工这么微小的东西消耗的成本是肯定是增加了谢谢大家这就是刚才讲的摩尔电率面临的一些困难吧但是这个困难其实无所谓因为全世界都在期待这个产业的规模非常庞大所以大家还是应该持续努力的但是呢我刚才讲的时候如果换一道考题是不是答案是不一样的我给你举个小的例子如果我们想要说小店主我就应该把那个线稿出对吧但是呢如果像缩小电容呢我就让它两个重叠的两个电级的重叠面积最小但是你想想如果两根线是平行的它重点面积很大如果我把它变成正交的它重叠面积就只有正交的这个交点这一部分是重叠对不对所以呢一种结构性的改变谢谢大家会带来微缩按照原来的图案如果我不想改结构那你就是一种答案如果我现在说我已经缩小不了了我把两根平行的线改成垂直的线我速度是不是会快很多答案是一定会的这就是谢谢大家让我想起一个您可能之前也给我提过一个问题说应该提一个冷问题就是答案是not so obvious 的那么我给你这个冷问题其实就在讲这个摩尔定律和涛定律的差别如果你猜大胆猜一下人类历史上有关灭属器的专利有多少随便才随便才三百个我也没有答案啊,你们可以去问问豆包,或者是自己上这个专利网站去查一下,我好像在1900年的时候,美国专利局局长给国会提了一个提案,写了一封信,说应该取消美国专利局。就是这个组织已经不需要存在了因为人类如此的聪明已经把世界上所有需要发明的东西都已经发明了其中一个例子就是说补薯器可能有一千种一千个专利各种各样的灭杀害虫老鼠因为人类基本上都讨厌老鼠就已经可能美国专利就可能那个时候1900年可能就上千个专利怎么去杀老鼠谢谢大家为什么这是一个有意思的问题呢?因为我在二零年的时候,曾经努力地去学习光刻机是怎么制造的所以我找到其中一本Mechatronics就是机电系统设计的这么一本教科书当时给我导致留下了一个非常深刻的印象因为这个教科书的第一页里头就有一张图这张图呢描述了十种杀老鼠的办法那么我试图的虽然说我现在一下找不到这个书了我试图描述给你看一下如果你是一个化学工程师你就会说我要是杀老鼠呢我要弄一种毒药然后呢我就让老鼠在他爱吃的东西当然杀老鼠都离不开幼啊都得要有老鼠爱吃的东西要不就是奶酪要不是一块什么肉对吧上面给他放上毒药老鼠一吃他就死对不对如果我是个机械工程师呢我会做一个夹子或者100种夹子谢谢大家所以老鼠想要来吃
[90:00] 这个幼儿它就会触发到这个这个机关然后我要不就假使他要不就把他关在笼子里让他出不来总而言之各种各样的办法对不对如果我是个电气工程师我就会弄一个高压说老鼠只要一经过我这个地方那这个触发1000伏的电压立刻把它击杀其实我想说的是摩尔定律也好陶定利也好无非是这个人类工程师用爱迪生士的思路要解决问题首先第一个问题是什么第二个我又没有找到一种有效的办法去解决它去面对这个问题并且找到好的答案当然你要做产品你还要有经济性这个解决的办法要足够便宜第四个解决的方法是可重复的对吧不能说质量不行这一个产品可以解决再造一个产品它不可靠对不对各种各样的因素叠加上去这就是我刚才讲的大前提的问题因为我们坐在这里再去想说,我怎么去复现台积电或者是英伟达的 capability第一个我不需要嗯第二个我再怎么想我也不具备我的先决条件就跟他不一样你不具备那个contest对所以刚才讲了很多其实已经开始偏到一种形而上或者甚至一种philosophical的视角啊刚才我们回顾了你所经历的这个芯片历史啊第二部分呢我想让您就是您如果是一个导游啊你带着我们来横向的观察一下就整个这个行业整个产业链因为您有一个你跟我说这是18层宝塔嘛你还不认认可黄仁勋说是那个五层蛋糕你认为有18层你带我们游览一下这18层吧这是一个横向的概览我们刚才描述当然我们因为也许是cultural background 不一样黄文勋可能经常吃这个法式的甜食所以他会用蛋糕作为类比那么我作为一个中国人会当我想象一个层次性的结构的时候我首先想到的是我们的这个什么印线木塔之类的对吧这个宝塔但是实质上其实是一样的说的是同一件事是不是也就是说你们可能如果我们先抛开这个包塔本身大家一定听过一种co-design的概念就是所谓的协同优化什么软件硬件协同优化呀或者是算法和芯片infrastructure的协同优化嘛所谓的一旦讨论到协同优化其实就已经涉及到两层了对不对就是说七楼的同学和六楼的同学他们互相认识并且知道各自的困难是什么要一起工作一起工作并且要互相退让互相包容说你这个地方内存带宽不够那我就算法上面想办法省点带宽你那个算力比较富裕那我就用浪费算力去省带宽对吧那我给你point out 一个非常 intricate的非常微观的层面如果你去看这个Blackwell的芯片和今天的Senton你就会发现一个可能从来没有人这么微观的去描述我们之间有什么区别啊谢谢大家我们就讲这个Vector算力和Cube算力因为Cube或者他们叫做Tensor Core我们叫做Cube就是我们描述的就是3D的做矩增运算的单元称之为Cube他们称之为Tensor Core比如说他们是32比1我们是8比1这代表了什么呢它会有什么重要的implication呢?因为我觉得这个差距呢也许有点像我们假设一家四口人也许在年轻的时候只能买得起100平方的房子谢谢大家后面你也职业比较顺利什么年纪也略大积累了一些财富你可能买一个200平米的大平成也许再过五年你又得到了升值你买了一个400平米的别墅但是你不是还是住着
[95:00] 加四口吗嗯。你就会发现当你住在400平米的别说的时候看了你堆了很多垃圾比如说快递的箱子什么很多都没拆开堆在某一个没人去的那个什么地方对吧有很多冗余很多冗余那么我们想说的是说其实突然叫你再回到100平米的小公寓的时候你其实还是能过日子的那么8比1和32比1就意味着当你去利用这个算力的时候你的模型一定要考虑如果我的空间很富裕我就随便浪费如果我的空间比较稀缺呢我就要想尽办法我要充分的利用这个空间要不打造一个叫什么经济试用经济试用或者是打造一个储藏的什么架子啊把东西不要的东西尽可能清理出去啊你就会发现如果你看一下Deep Seek这个模型,我觉得他们做了一些,非常有意识非常高兴conscious的选择我觉得这个他们的这个方向感是非常清晰的比如说2025年之前他们就意识到说我一定要省算力我不要因为skilling law大家都相信说更多的参数可以带来更强的能力但是是不是每一个参数都得要这么暴力的去算一遍才能够获得这个能力呢?我能不能只算三十二分之一呢?我觉得Deepseek的这个V1或者V3吧,R1充分的证明了一点说,并不需要。也就是参数的稀疏激活说我只要聪明的选择其中三十二分之一的参数去参与运算我不就节约了十二倍的算力吗仿存也节约了三十二倍当人有意思的去面对这个问题的时候他就会获得32倍的加速当然2025到2026年他们又做了一件方向目标很清晰的目标说如果序列很长是不是序列越长我就要付出4K的序列和一兆的序列可能差了256倍是不是要付出256倍的计算代价才能处理这个长序列呢事实上不需要人家做了压缩呀稀疏化说256兆里头我不需要每一个都去算我要去挑选其中EK或者512个来算我就节约了这个算力你看这样的挑选的过程是要付出复杂性的代价所以你会看见这一个模型是非常精心的有意思的去做Code Design他有意识的说我们就是只有100平米的公寓我还得要住一家四口我还得要把自己还是养大而且我还希望自己孩子特别优秀不比马斯克的孩子差但是需要付出更多的心血更大的复杂性实际上这个复杂性就来自于我刚才讲的Vector的运算所以呢我们从这个角度来说可以讲Deepseek是非常匹配8比1的算力因为为了挑选出来那个送到去做暴力运算的东西它付出了更多的vector的计算过程去挑选它而我相信Entropic的模型或者是OpenAI的模型它不需要这么做因为它买来的机器就有32倍的cube算力,所以我换一种说法说我们现在的芯片恰好是Blackwell的四分之一的规格但是在跑Deepseek的时候好像也还可以这是co design这就是co design这就是跨了两层楼就是说做算法的同学意识到了谢谢大家它的模型优势应该建立在什么地方对吧这就是code design这个code design其实导致了说在这种模型里头你如果去推一个Deepseek V4 Pro好像跟我每天在使用的Cloud 4.8或者Fable,我没觉得土字比它慢了。当然我们依然需要尊重别人做的好的地方该追赶的地方追赶该超越的地方超越是不是但是呢我可以
[100:00] 讲无论是我们做芯片的或者是做模型的同学如果有这一层consciousness这一层对大前提的一种understanding我们的努力方向会发生非常大的不同我明显的必须得要给这个这个凉凉凤给他热烈的鼓掌因为他有意识的主动的去选择了更高的复杂性更难的收敛算法在这么复杂的算法可能收敛比较困难会出现各种各样的异常他努力的去克服这些问题因为他有一个提前的感知并不是说等到五年以后突然穷头末路完全没有算力的时候他已经先知先觉的选择了去提前的去解决一个他所预期到的问题这就是这种鲜艳者的价值吧相当于他领引领了别的人也会在这条路上继续努力在19年前我们也是生活在一个幸福的世界,因为当时海思虽然说很隐身非常低调但是我们的规模已经很大也许是世界数一数二的从微负采购量和产品种类来讲都已经是世界中的至少是top3吧规模的半导体只不过是它的所有产品只是服务于华为本身的产品但是我说的所谓的幸福时光是说你采购的一切能力都是世界最优秀的因为你付得起钱比如说我们用Wafer我们就会用台积电的最最先进的Wafer甚至在世界其他人包括英伟达这种公司都不会用的工业我们是第一个用的不是第一个就第二个用因为我们的这个产品所处的地位可以支撑这样的支出对吧但是当这一切被打破之后我们就不得不去面临更困难的事情了第二个我过去这些年学到的 lesson 就是说谢谢大家也是可以干的也是可以干的就是说当你被逼一下被逼一下的时候人就是不得不去学习说楼下是怎么回事到底怎么去把7纳米5纳米公里是能要做些什么努力我觉得可能最有价值的一点就是说一个看上去impossible的问题把它拆解了之后就变成了十个或者一百个更具体的问题然后再把这100个问题拆解成再拆解一层可能变成1000个物理化学数学的问题这个拆解其实把这种宏观的比如说今天你要讲说你能不能跟台积电一样好简单的答案是不行但是这个答案又不能帮助到你你该咋办呢你开始拆解一层你就会发现如果这些这些地方不行那什么地方是行的对吧所以一个unsolvable的问题就变得具体化具象化具象化了之后你可能可以解决其中的100个问题可以解决80个你会发现自己好像没那么糟糕对吧再把80个问题再进一步的做一些改进你可以发现说我其中10个问题比别人做的更好也许我的这个可以扬长臂短把一些优点这样去弥补自己的缺点了所以18层顺打18层18层呢首先最顶层就是应用比如说豆包啊或者微信或者是阿里的这些支付宝啊这些东西是应用成因为它直接的可以变现而且他技术固然有它的技术,但是它不见得是一个嗯爱因斯坦级别的技术难关是吧更多的是在运营或者是商业的设计最底层就是一些非常dirty的东西比如说矿石啊什么采矿啊什么去尼日利亚挖一个矿或者是因为你有最底层相当于都是物理化学矿山这种东西因为你半导体本质上是一堆沙子再加上某一些稀有的金属再往上一点是器件的设计比如说你是FinFight管子或者GAA的晶体管
[105:00] Thank you. Or I can say that if I can put the control of the system from two vertical lines to two vertical lines, I will not be able to do the speed of the speed. 因为我电容缩小了很多 再往上一点就是说 How to build a WIFER on a million million? Mm. 并且把它可靠地 He can work 5 years or 10 years, It's not a mistake. This is a very difficult thing. 但是所幸 中华民族也有非常多 uh, very powerful people, some are Taiwanese people, some are the most powerful people, some are the most powerful people, as a whole, as a whole, can be able to get these skills. 对不对? So they've encountered a problem, so the machine has to be limited to the limit, you have no most advanced, you have no 100-day equipment, or even 1000-day equipment, and there are many people who are trying to create these equipment. I think this is the most important thing. This is the 5th, the 6th century, right? The machine, the design, the machine. 你有没有可靠的5纳米? 制成你做不了三纳米该怎么办啊一层微弗做不了你能不能堆叠堆叠需要什么机器怎么把这些东西可靠的堆叠又不会造成散热的问题供电的问题这属于楼下的五层六层的问题再回到第七层就是我们说的大致芯片所处的层面就是怎么样去最好的 对下利用面对自己的这个 物理的约束 对吧 Because when we talked about the main thing with other people, the main thing is different. We don't need to be able to do it. 面对这些物理的约束,对上呢,我们需要。 提前四年的。 去设计下一个芯片的架构让这个软件比较容易编程对吧所以芯片之上就是编译器啊编程语言啊这个最合理的并行的切分的方式啊强化学习啊然后怎么去做TV cache怎么去做模型的压缩啊怎么做稀疏化啊怎么发明一个新的数据格式 This is the ability to create a new feature. This is not a good thing. 从算法以上大家可能都比较熟悉了 对不对 你有了一个好的慢思维的模型或者具有agentic的模型 你怎么去搭建一个kbcash的系统 怎么去搭建一个agent的框架 然后最后再去构建一个有价值的应用 那么那些层其实绝大部分人是比较可见的 所以七层以上是大家可见的事件 七层以下就属于地下室 属于看到的人 您熟悉的这里面是哪几层? I was just talking about the... 哪一层都做的不够好嘛所以我基本上就只能够瞎混就是说 in these areas, to try to help those more professional students to bridge the gap. Gap, because It's hard to do to be a high and low. It's like you're digging a hole. You can use a... It's a very thin one. If you can cut it in a tree, you can cut it out. But you can use a knife, you can cut it out. You can't do it either. It's a knife. It's not easy to do it. But I think... These It's true that we don't have a lot of different types of experts. not only is our Huawei company or the whole world, but it is a very good business. will be gradually growing and growing experience. But the future of the future, 地方是比较稀缺的 比如说我刚才讲的 也许世界上有十万个AI算法 The End of the Year. Maybe only梁文峰 is one of the most important things. to reach the same issue of the problem, to use more of the to get the exact same way to get the exact same way. This is a direction
[109:59] 选择吗?很多人不会这么选所以就是说这个跨城是co-design的核心吧当一个人能够跨越这个层次的时候就会像一个线一样把很多珍珠串在一起会形成一个项链这18层摊开看中国比较有优势的地方在哪里比较薄弱的地方在哪里我觉得优势的地方很明显啊首先应用层就很有优势比如说知道像这个支付宝啊微信支付这样的东西在其他地方就没那么方便对吧你现在基本上我已经可能有好几年都没有见过人民币我就没有摸到这个钱我已经好多年都没有摸到钱了但是你如果去任何一个其他地方旅游你就会发现你要不就还得带一个信用卡否则你hotel可能都check in不了你要不就还得带一点现金生怕在什么日本买个什么火车票买不到对不对嗯所以应用程我们是非常有优势的而且因为中国人已经非常digitized,尤其是在消费者的群体里。谢谢大家那么一直到芯片之前我觉得中国的优势都至少是足以不比别人差,算法就更加是群星璀璨我觉得全世界可能有70%的优秀的算法人员都是中国人嗯为啥呢因为我前一阵看到这个Berkeley一个教授写了一篇文章说他说现在他们的教育已经到了 Berkeley 的理工科的教授写的一篇文章说他在课里头要教会学生做惩罚分配率就是A乘以B加C括号等于A乘1B加A乘1C所以就是说我们的gap是非常巨大的各个父母都对孩子的教育很重视而且我们有科举的传统有这个学而优责事而且我们的人民的上升通道还是存在的通过自己努力考一个好大学学得更好还是有机会的这吧,一种的中国的人才供给不缺而且远远演压性的优势当然我们的变现的能力也不缺因为中国人都追求美好的生活每个人都想要过得更好赚更多的钱或者获得更大的成功不管成功的度量是什么芯片好像刚好处于这个18三爆炭中间中间它下面是地下室上面就是楼房它处于一个中间地带是一个连接处是您16年回国当时对整个芯片行业的感受和到了19年是不是也发生了很大的变化呀虽然只有三年我觉得16年的时候谢谢大家我是不相信的不相信什么不相信我们中国有这个能力那您回来我回来是因为我太太因为我太太坚决的说生了孩子必须绝对不能让它长成一个ABC没有自己的identity或者是说试图的在一种矛盾当中寻找自己的个人的这个自我的定位吧当时小孩多代我是08年就回来了因为我小孩三岁所以你08年回来我08年虽然还在同一个公司任职但是你人已经在国内了因为我觉得我的太太比我认知更早她更加坚定的说嗯不要在国外一定要在中国重新来过尤其是考虑到后代吧那么他很坚定的一定要回中国所以我也是那个时候是被被动的选择会过但是到了16年就是加入海思我觉得也许你讲这个职业的这种perspective更大的认知是在那个地方的切换嗯我觉得在16年以前我是完全不相信就是啊请注意,外国人是有一种arrogance。盲目的自信这个盲目自信的第一个呢就是会认为他们是最优秀的谢谢大家当然你在那个环境里头工作久了也会沾染这种错误的认知就认为
[115:00] 某一件事只有他们才可以做虽然说他们也包括了我自己处于他们当中的一元对吧虽然是个中国人但是加入到这么一个环境所以我是这个团队的一部分所以就认为说比较难的事只有只有We can, nobody else can因为世上的事我刚才不是讲的一件很难的事情当你拆解成100个子问题的时候你发现每一个问题都变得更具象可解决了如果有人愿意去解决这100个问题也许就比你解决的更好这恰好就是说从16年开始我的一种转变吧第一个我第一个转变是觉得我认为中国的当时的产业完全不可能的事儿事实上我们的capability远远超过了我的预期我觉得这个非常有意思的我相信绝大部分美国人美国的从业者还是我16年的认知这给了我们巨大的机会因为如果你是把他们看作是一个而你的对手严重的低估你的能力的时候你是有巨大的优势的他们天生认为自己每天很舒适的五点下班喝喝咖啡再去冲冲浪就可以跟你竞争其实那个时候你只要再努力一把你是可以轻松超过他们这就是我最大的认识就是说不管是16年甚至16年以前的很多年我们的中国的同行他付出的努力他对问题的认知只要问题的识别跟别人是同一个水准他们解决的能力是远远超过这个从业者的因为他们更努力简单来说就是这样一分付出一分收获但是前提是你需要有正确的人把他们带领到正确的问题的定义上因为他如果定义的问题错了他就所有的努力都白费了刚才我举了梁文峰的例子说他定义了两个问题第一个模型参数要稀疏化他解决了第二个序列长度attention必须稀疏化他也解决的不错对吧你看这个问题的定义本身已经占了如果说分配一点credits的话占了80%的credit真正找到一个具体的办法去解决这个被定义出来的问题可能占了20%的他需要才能需要intelligence也许这个intelligence是来自于一个实习生的但是那个问题的定义是来自于一个团队的leader因为leader他要去主导别人应该怎么解决问题那接下来进入我们这次访谈的重中之重非常想听您讲讲这个生腾史因为这几年你们的发展也非常的低调如果用三个词形容16年到26年这过去10年您会想到哪几个词我觉得就是一个磨难吧磨难对或者是说有期待的磨难910-950其实你面对的那个环境是很不一样的,你觉得910和950你当时处在设计的节点上所定义的问题是不同的吗?对。分别是什么样?910的时候,我当时工作的基础是拥有世界,最最先进的逻辑工艺但是我们当时只是说对这个AI的这个生态模型的发展以及它的应用到底是什么是比较迷茫实际上那个时候整个全世界也有点迷茫对吧虽然说我相信NVIDIA应该是最少感知到这个地方会大爆发但是呢其实我相信那个时候世界范围内因为模型的能力还没到也没有产生极大的规模所以那个时候更多的迷茫是在于说怎么样去猜测未来会朝哪个方向去当时我们已经想到了需要做模型的训练当时推理这个市场是压根就不存在的对吧所以我们会在边端的设备刚才讲的耳机啊什么手机啊这些地方试图去寻找编就所谓在设备这一侧产生这个变现的道路也就是数据中心我们认为是
[120:00] 用来做训练其他地方呢训练好的模型部署到各种小的设备上去当时并没有看到这个大的语言模型的这种推理啊包括叫这个AI coding这些东西都没有出现在我们的想象空间里面对所以那个时候仅仅只是一个条件很好但是不知道自己的未来最大的变现机会在那里然后到950的时候这个事情就发生了反转对吧就是条件特别苛刻你已经面临的对手已经是硅谷宇宙第一大的这个市值最高能力最强的公司那么我们在这个时候如何能够这个存活下来然后如何呢服务也许我们并没有过高的志向说要去这个抢夺世界第一的这个位置那个啊只是说第一步要活下来第一步要服务于这个对我们有需要的客户让所谓的满足以客户为中心这么一种基本的诉求吧无作用会怎么样呢?嗯也可以不做我想说的是实际上这个世界离开了谁都还可以地球上转嘛对吧只不过是我们一方面还是觉得有期待就是说OK我们并不想躺平因此还是想要努力一把另外一方面可能也有诸多的同行对我们有所期待吧所以呢也觉得自己并不想要这么轻易的放弃新境的变化是什么呀在设计910和950的时候的不同断供发生前后的两代芯片这个新进的变化我觉得说起来可能有点我想说的是你试图想象一下如果你是董存瑞要去顶那个那个炸药包对吧我们其实正常的人是无法想象他的心境是什么或者是说上甘岭的战士他的心境是什么或者是说这个我看到有一个二战期间对一个中国士兵的采访也是华为宣传话上面的一个故事是讲说你有个记者来问他说你这个打完仗想要什么他说我不想因为我爹妈也死了谢谢大家不用去想那些事所以我说所谓的心境的变化我觉得已经没有太多的意义,只是说面对一个困难就想去解决它吧。你说你16年刚加入华为的时候其实也不相信你是从什么时候从不相信变成信了呢这个倒比较迅速因为我说不相信是指基于一个外国人的arrogance 就是盲目自大 认为说这个他们所拥有的能力其他人是不可能拥有那么这个现实很快的教育了我因为我加入海思之后很迅速的理解到我身边的同事他们啊虽然跟我不一样,但是比如说海狮每年可能新Tip Out,也许100颗芯片反正我们何总在掏定律发布会说我们做了五年做了381颗芯片谢谢大家那么平均五年就是70颗吧,对吧?每年70颗,New Tape Out。但是我从来没有听说过有一颗芯片回来。冒烟就是测试不通过最后无法量产了你能不能再去看你了吗那么说明什么呢就是如此高的命中率说明我们的同事每一个团队都是非常qualified嗯不管他们的出生或者是他们看上去有什么光鲜的履历但是他们在自己所负责的领域都是非常负责任嗯我刚才讲了做工程师不是讲自己的这个在做学生的时候没有领悟到的那么后面工作了一年之后就领悟到了这个东西是说做一个工程师必须首先得靠谱而且得要负责任这个是一切的基础那么因此
[124:59] 这样的命中率放在全球应该也是一流的结果给了我这个迅速的教育和转变我相信不管从什么时期来回顾华为的历史断供都应该会是一个非常重大的一个事件在那个事件发生的时候你们内部是什么样的当时第一个课的反应会是什么样的我想那个何总那封信应该是还在断供之前写的吧但是真正断供了之后就再也没有机会写这种信了但是刚才我已经举了这个无法想象董承睿的心情是什么我只能说好可能每个人处于不同的角色,他们是这个感受不完全一样我也没办法你呢描述我只是觉得第1个嗯也许有两面吧一方面可能需要安抚啊底下的同事让他们说不要害怕因为所有人心里产生巨大的恐惧嗯嗯第二个呢是反正对我个人来说也许我能记得我现在已经记忆有点模糊了但是我记忆的最最深刻的这个感受是激发了我极大的好胜心!说因为极大的热情说一定要解决第一个我要知道碰到了什么问题而且我要把这些问题一个一个拆解出来一个一个的去解决它这个对于一个工程师来说是一个天赐良机啊因为你正常的情况下并不需要去了解一个运动机台怎么能做到一纳米的精度怎么去测量一个东西它的位置就是如果你要控制一个机台运动到1纳米的进度你还得要在高速运动当中定位它知道它移动到什么位置然后你要去找它的是用激光去测还是用什么什么测对吧然后这个环环相扣对吧你就会遇到非常多有意思的工程师所需要解决的技术问题团队氛围在前后有变化吗我觉得团队氛围可能确实有相当多的变化但是整体来说还好因为恰恰是在最为困难的时候,我觉得我们身边也许只有10%5%的人他们迅速的去寻找新的出路了哦谢谢大家但是,也许有百分之八九十吧尤其是骨干能力最强的这一部分同事我相信他们不同程度上也许跟我类似,他们各自激发了自己的一种解决问题的热情。所以他们都选很多人绝大部分人都选择了不去想那么多拆解到的问题特别有意思就去解决它们这个只是说,那个阶段,我们如果想说,人类每个人心里都有善恶两面,既有这个求生想要更多好处也有自己有某些愿景或者是这个更大的抱负更大的这种使命感只不过是哪一个比例占了上风的问题这就像那个指环网里头那个那个Golum对吧那就是这么一个怪兽他一方面想要自己去获得这个指环去获得更大的权利但是一方面他又觉得这个东西是不太对的嗯最困难的时期应该是几几年到几几年我觉得困难每个阶段都很困难只是每个阶段面临的困难不一样最谷底的那个时期呢最谷底的时期是彻底没有就是说大家觉得可能未来几个月就彻底制造不出来芯片因此整个商业闭环就断路了但是索性呢这些困难基本上是由一些特别能顶的领导他们把他牢牢的封锁在自己的一个非常小的范围所以那些人承担了绝大部分这些困难的压力其他的人就懵懵懂懂当然还有一些标志性事件也许没有单一事件但是华为在比如说中国的5G网络现在已经遍地都是在这个过程当中,
[130:00] 从来没有断过供应也没有找自这个这个整个通信网络的基础设施的建设嗯停滞或者是schedule明显的后推背后是有无数的人的无数人的不懈的努力让这些事情得以发生我可以说可能有五千上也许到一万个单板全部都重新做过每一个东西都换了零件都这个快速的重新达到量产的能力这是一件无数就是极其庞大的人共同的努力的结果只不过这些事儿其实也不存在某一个标题就是说当一个事情没有发生断供这算是个啥呢对不对这是大家生活当中理所应当的,今天没有下暴雨,没有发生地震。其实我想说的是有这个结果背后有非常多人的日日夜夜的这种努力才造成的结果生藤的名字是为什么叫生藤啊这是什么州定下的这个我可能已经记得不是很清楚吧应该是借助了我们这个中国的叫什么日升月痕就是对这个未来的一种美好的期待嗯您刚才也说了就是在架构设计上的一个总体的思路那对于每一代芯片从910 ABC然后到950它每一代的就架构的变化和眼睛是什么样的我觉得架构的变化可能首先有一些谢谢大家比较明显的重要的认知第一个呢是说刚才讲的在我们停滞的那四到五年的时间啊 王做算法的同行这个在持续的努力大模型爆发了大模型爆发了而且他们取得了丰硕的成果那么这些成果都给我们带来了很多设计的依据第二个很重要的事件就是说有一部分模型虽然是以拉玛开始是选择了开源的路线结果拉玛大概做了想起来第一代是一个所有人分析的一个相当于扒开了裸体给大家能够真正的感知到一个大模型里面长什么样每一个微观的细节给我们提供了很好的设计依据当然后面就中国的这一系列模型无论是Deep Seeker也好签问也好他们他们持续的开源,并且他们在能力上也属于接近第一阵营的这样的一种参照此外还有很多相对非语言领域的比如说中国的这个视频生成啊多么泰啊包括这个啊阿里的这个什么WAN系列啊,包括其他互联网公司吧,他们在那些领域也很难受。也开源了非常多有价值的工作那么这些工作再加上我们在自驾系统包括手机本身的业务闭环就会得到很多实际的performance的这个包括也performance的反馈也持续的改进了模型本身吧那么简单来说就是到了950的时候我们设计的参考评价依据会更丰富对吧更多了第二个呢是在Deep Seek去年的春节之后Deep Seek这个R1出来了之后直接催生了一个我们以前没有意想到的这个模型推理的这个爆发它的规模已经相当可观了所以呢我们就对推理的所需要的能力有了更加现实的认知因为推理不但要能够有功能你还要推得快对吧延迟要低你在延迟低的情况你还得要这个每个卡产生的token的数量也就是supittwin2还得要高那么这几个因素的非常极致的平衡就会给了我们一种现实感吧因为我们过去当这个大规模的推理系统部署之前我们是不知道有这些要求的这吧
[135:00] 那么很快一进入到服务推理的客户的时候真正去部署这个推理系统我们就碰到各种各样大量的工程问题其中一个最显性的问题就是我们发现可能一旦进入到推理系统的部署,立刻可能不出一到两个月就发现说,哦,原来我们以为算力很重要。但是在这个DNA推理的系统里头尤其是Decode这一部分算力其实并不需要那么高,反而是内存带宽特别重要。这两个比例如果把它的那算力比上那层带宽之比的话你会发现这个比例刚才我用了什么人体的这个各种呃尺度的这种协调的比例你就会发现哎要做推理decode的要所需要的比例和做训练啊做prefuel的比例有显著的不同然后当然这个过程也索性的证实了一点就是我们认为超级点把非常多个芯片一起来构成一个锦偶和协同工作非常为紧密的协同工作这种能力是我们910C或者950能够存活的一个重要的原因因为虽然说我们之前模模糊糊的有这么一种愿景说要把更多的东西组合在一起但是呢在实际的业务部署里头得到了检验当然也发现了自己做的不好的地方是什么是什么就是说当你去做通信的时候比如说你每次要搬一兆的数据和搬7K byte的数据这个颗粒度不同关于Larity是一个极度本质的问题那么我们过去做的颗粒度都偏大了什么叫颗粒度呢比如说你如果用一堆鹅卵石去填一个水桶或者一个木头箱子中间有很多缝隙因为它这个石头颗粒度比较大如果你用一堆沙子去填同一个盒子你会发现它填的很满因为沙子每一粒都比较小如果你有倒一桶水下去只要这个箱子不漏水的话它会填得更满这就是我说的因为水是一颗一颗分子对吧它比每一粒沙更细所以比如说我们原来以为这个紧密偶合的网络是用来搬运大块的数据后面我发现用来搬运非常小块的数据原来以为搬一兆的数据发现是搬7K byte的数据这就有一个很大的很大的不同对吧如果设计的不好你搬一兆数据效率很高但是你搬7K byte的数据效率就不高了所以这些地方呢都需要在实践当中不断的打磨吧因此呢我能说为什么950会比910C会有显著的好的地方一个是那个太老了第二个那个基本上是在盲差当中设计的而到950设计的时候有特别多现实的这个东西可以去检验我们猜的东西对不对不对的地方赶紧去打磨优化调整而且产品也出现了分化刚才讲的推理所需要的芯片和训练所需要的芯片需要比例不同因此可能需要不同类型的内存当然最近半年还有一个更深刻的教训这个教训就是说当然我们事实上在七年前就意识到了内存特别重要我们与其说在卖一个AI的算力芯片,还不如说在卖一个高带宽的内存。那么这个认知就直接驱动了我们在七年前就开始成立了一个专门的部门去建立这个高带宽内存的设计能力即使我们做了七年的准备等到暴风雨来了之后发现自己准备的还是不够这一波内存大家看到十几倍的涨价给整个电子行业带来了巨大的冲击我想说的是对这个东西呢我们即使有了这么提前多量的认知和准备等到风暴来的这一天海啸来的这一天依然是有很多遗憾是吧OK当初为什么没有做更多没有下更大的苦工或者是怎么样做好更多的准备人没有在真正面临暴风雨的时候肯定是有侥幸心理的对于训练所需要的芯片和推理所需要的芯片你觉得长期来看谁会更多他的比例会是什么样我觉得应该今天就已经这件事应该已经发生了推理肯定会更多如果推理不多的话就说明你的那个Economics是不好的因为推理是一个生产收入的过程而训练是一个建立这个嗯这种capability的投入
[139:59] 纯支出叫什么Cost Center 一个是Profit Center所以profit center一定要比cost center更大你们对于这些推理芯片的思考会体现在哪一代芯片上我觉得我们这一代就有很大的体现因为比如说我们就分了两个档其中有一个档就是说是贷宽很高的一个档就是带宽相对低但是比较经济比如说训练的时候就可能可以用这个更经济型的您之前在2021年的STW就是系统技术研讨会上提出你觉得计算架构有一个新的趋势就从以前的这种CPU GPU和NPU分离的异构计算架构会走向新型的同构计算架构你能不能给大家解释一下什么叫做异构什么叫同构以及这个新型同构和传统同构的区别是什么我觉得这个也某种程度可以说是个噱头吧这个噱头是为了对抗一些质疑的声音你说的内部质疑还是外部质疑内部和外部的质疑声音都有首先第一点就是说我觉得等一下这个话题还比较深第一个我想说的是行业里头最常见的一个争论就是SIMD和SIMT的指针那么有人就说GPU是个SIMT就是叫做什么...Single Instruction Multi-Threading这就是GPU的架构然后呢深层目前是以在910B910C是个SIMD的架构是什么意思呢就是说当你在处理一个运算的时候你是以单一个元素来表达他的运算还是一大块数据一起做运算换句话来说就像一个卡车和四驾车的区别对吧比如说你自己开车上班你是每个人开一辆车如果你做一个bus吧一个公交车那你每个公交车运了一车的人可能有好几十个人共享同一辆车对吧看上去这个SIMD我想说的是为什么它是个噱头呢实际上今天的SIM-T处理器内部也是SIMDED然后今天的SIMSIMD的处理器它本身也是有多个核之间的跑了。几乎是同样的代码那种SPMD的这样的一种模式但是有一些人特别喜欢较真儿或者是说特别愿意利用Kuda生态的人就会觉得CMT特别好因为大量的原创的研究工作都是在这个库大生态上面开发的,因此呢,如果你一个处理器完全跟,GPU长得一模一样的话你就可以直接GitHub上下载这个代码什么都不用做就可以跑起来它的生态的先发优势吧但是呢我们如果我刚才讲的SIMD本身也是这个SIMT本身内部其实也是有SIMT的要素在里面比如说你处理一个8比特的浮点数但是它那个寄存器可能就是32比特的你就得把四个浮点数拼在一起做运算这也是一个小巴小巴士你并没有原教旨主义的说每次只能算一个数如果你每次只算一个数你就浪费了这个运算单元的能力所以大家即使在SIMT写的代码里头也会把四个巴比特的数拼在一起做运算这是一个类比那么也只不过是说这个巴士是大还是小的问题不可否认的是说巴士小对于它的颗粒度小所以对于填充我刚才举了一个用鹅卵石去填一个箱子用细砂可以填得更满对不对所以我们无非是在把握一个数据块的尺度是大还是小它的差别就是128 byte和512 byte的差别实际上也就是说GPU的natural的宽度是128byte,那么我们升腾尤其是早期的产品,它的宽度是512byte,所以就有点太宽了,这个咱得承认,实事求是,就是我们的额卵是大快了一点。虽然说在绝大部分尤其是Transformer这一类的网络里头它本身就特别大块所以俄罗斯大一点其实没有太大的影响但是在某一些网络推荐网络
[145:00] 或者是某一些早期的这个尤其是端侧的这个视觉网络里头可能他需要更小的颗粒多那么在950这一代我们所说的新同构就是说这个处理器既支持SIMD也支持SIMD所以这个问题就得到了很大的缓解因为与其去做这种宗教式的争论还不如都用都用或者是说在不同的情况下用不同的模式去进行计算因为除了最本质的就是刚才讲的那个颗粒度是多大的问题因此这个问题呢到了今天可能90%的问题都可以放置一边了因为整个技术已经演进到这个阶段了再去争论这个问题已经不是一个合金关键的问题了反而是我刚才讲的内存带宽应该配多少啊或者互联怎么去构建一个超级点啊怎么样在这个kernel的运算的时候去实现极致融合的麦克科诺啊怎么样在这个降低这种多个核甚至多个芯片之间的同步开销那些才是当下我们认为已经解决了问题但是它是当下更重要的问题这些当下更重要的问题您现在有答案吗或者有一些阶段性的思考我们当然有自己的答案要不然这个产品就做不下去了我们pipeline里头有960 970 980都在开发的pipeline里头我们有自己的不断的更多的答案但是呢我试图的告诉你一个更加严重的事实就是说过去这个AI的算法开发者大家都会习惯用PyTouch然后呢就说我描述一个算法呢我用一堆Touch的算子每个算子就是一个函数就是一个基础运算的函数然后把这些算子拼接在一起就代表了整个模型的计算过程但是我说的当下更重要的问题是说如果你想要用这样的方式去开发一个当现代的模型谢谢大家并且实现什么一毫秒的推力延迟一毫秒意思就是说你在跟这个模型不管是人或者是这个agent跟模型进行对话提交一个prompt输出一毫秒就意味着每秒数输出1000个token现在我们典型的绝大部分Chatbot每秒钟输出20个特侦或者三十个投看从二十到以前。这是个50倍的时间压缩50倍时间压缩可能在20毫秒的这种延迟到一毫秒的20倍吧对就是二三十个token也就四五十毫秒到一毫秒这是几十倍的时间压缩的时候呢更重要的问题就是说几乎所有这种需要追求性能和延迟的时候都不再能够用单个算子进行调用了因为每个调用都有launch的开销延迟以及launch的数据传递的开销所以更重要的问题是说当这些处理器把整个模型写成一个超大的算子的时候这个写法应该是什么样子这个写法就是我们称之为Mega kernel或者是kernel的fusion融合把几十上百个运算融合成一个更大的运算来降低它的启动和数据传递的开销这一个变化是在过去的一两年迅速在发生的包括最著名的工作就是这个flash attentionflash attention之后的更重要的工作就是deep seek开源的这些等等一系列的算子他们无一不是一个融合的优秀的典范吧那么这个融合的过程呢其实对处理器设计就会再来很大的冲击大家过去设计一个核只是关心说我做运算算得快就行了现在呢是说如果我要表达非常复杂的计算过程我要编程比较容易编而且这个程序我要能够很好的快速的在你的处理器上面去修改这个程序让它获得最大的信这就催生了一些现代的编程方式大家不太尤其是这个算法变化的很快的时候
[150:00] 不太能够承受在用底层的编程去表达如此复杂的运算的过程了所以呢那么当然就会出现一些新的编程语言以及编译器的技术这些技术包括了之前讲的比如说Treaten 是一个OpenAI的工作。后面我们北大的杨志老师以及他的学生王磊做的叫TowLang目前也是DeepSeek的主要开发方式包括我们自己做的PyPTO都是试图的是在一种更高层的方式去表达极其复杂的甚至整个模型就写成了一个算子这个时候就对编译对处理器的设计都会产生他的软件这一面的这个比较深远的影响因为如果你去看那个Hennessy和Patterson的经典教材叫什么叫做Computer Architecture我第一次看到这句话的时候我还是真深深的震惊。他说,computer architecture就是the interface between software and hardware.就是它是这个界面对吧那么我为什么两者沟通界面两者之间的沟通界面对吧大家原来做处理器的和的同学过去绝大部分人是不是对这个问题有特别深刻的认知的因为他只看到自己做和的这一面我要设计一个运算单元怎么高效啊怎么省面积但是当你把这个认知提升到这个界面的时候你就可以发现变成语言的变化对你这个界面它是一体两面嘛这个界面肯定有阴阳两面它的分界点不但是由合手决定的也是由这个编程的方式啊编译的方式这个所决定的因此,我们现在AI核或者生成的处理器的设计我觉得或者是说我们的同行吧所有设计处理器的人都面临这个界面正在重新被打开或者换句话来说CUDA的这种生态的防护墙正在迅速的消失因为它已经不再是一个最主要的界面如果说Deep Seek的所有工作都建立在Talent的基础之上那么Talent就变成一个特别重要的界面所以这也是你们现在在构建的意义对我们自己当然也有若干年之前就有这个认知对吧虽然说面临非常多质疑但是我们自己也在做开源的派PTO这一系列的编译器的工作这个工作纯粹是基于第一性的,并没有特别多非要就是我们所使用的方法和设计理念应该是放置四海皆准并不是仅仅适用于生坛换句话来虽然我们开源了这个工作我认为所有的AI处理器都可以受益于同样的编译站也就是所谓的跨平台Can您对它的预期是什么样的Can是我们的软件站就是说相当于我们的一整套建立在生成之上的运行环境编译器库以及我们已经potting好的模型你们对它的运气是下一个cuda之类的产品吗它现在已经是全面一方面它是全面在protect这个legacy所谓的legacy就是Kuda有的能力我们Can都要有甚至每一层都是完全是一对一的比如说你可以跑Pytoc,我也可以跑Pytoc,你可以跑BLM,我也要考BLM。但是我们确实还是有一定差距的这个是legacy的部分但是所谓的日进千里那一部分首先legacy是服务于大众的什么叫大众呢就是如果你是个高校的学生你在刚开始学习AI人工智能什么是深度神经网络这一刻那么你大概率就会用到拍Torch用到Torch的算子如果你教课的老师是用的深腾的这个硬件作为他们的做作业的环境的话他就要用到Kent那么这些属于legacy他是常委的可能会持续存在非常长时间但是呢服务于少数人的是说当我要去部署一个GLM5.2我想要获得最高的经济效益 没卡
[154:59] 每秒钟可以产生最多的token我还想要我的延迟最低的时候这个时候就涉及到先进性这一部分对吧就是说我们第一个要用更先进的方式用最短的时间让大家能够迅速达成高吞吐低延池这个调优而且这个条由是极致条由的因为你每增加10%的吞吐你就增加10%的收入对不对所以这是真金白银的而所谓的先进性的地方可能并不是说有一万个博士生都在使用这个玩意也许只有一百个人没日没夜的去公关尽早的提升这个业务系统的吞吐对吧因为它是个生产系统我觉得我们两方面都在持续的努力当中而生疼之所以能卖得出去首先是说两方面都是需要有进展吧,如果它的业务系统性能上不去那是不会有人买的。嗯。对吧因为你买了你亏呀你同样花了这么多capx下去然后你生产出来的token少啊或者你训练模型那个收敛不了或者需要更长的时间去收敛的速度比别人慢五倍那谁都受不了是不是然后我刚才讲的生态那一部分呢是服务于更广大的community这个community我们也在过去也通过全面开源然后跟无数的高校老师希望他们一起来共建这个生态现在这个Kent社区已经成为中国开源社区的火焰社区了因为关注AI的人特别多大家也对这里头有很大的热情因此呢由于在这个众人食材的火焰高这么一种趋势下面吧一年也取得了常驻的进步您觉得对纳米级的这种极致物理追求难还是造出这种一个超过枯大的这种生态更难哪个难一些我觉得应该说超过枯大根了虽然说对纳米极致追求或者物理有所突破根,为什么呢?是一个是只要自己就是说自己的努力为主另外一个呢是要改变一个群体的无数人的共同习惯比如说你现在如果说要发明一个及时通信的软件然后说服所有人都不用微信用你的这个新的APP很难这是非常难的对不对因为这是一个群体的这种习惯而且这个群体的习惯需要他不断的获得正向的理由才会做这样的变迁而刚才讲的开发下一个更先进的芯片只要我们个人努力可能有70%的钥匙掌握在我们自己手里也许有30%是客观物理的限制我们就只要想尽办法去去突破这些物理的约束但是这两个问题本质上是属于不同专业的同事来解决的来解决的对看的开源对于你们是一个难的决定吗它不是一个难的决定为什么呢就是说谢谢大家我个人有个人的看法当然每个人都有自己的视角第一个呢我觉得人类之间的互相沟通哈他是一个虽然人的大脑很发达但是人和人之间的连接能力很差比如说我在这里跟你做这个访谈我每秒吐字的速度谢谢大家每秒钟可能也就是三五个字就算很快了对吧因此我给你的通信带宽可能只有1KBPS但是如果你是一颗生成芯片我也是一颗生成芯片我们通信带宽有7.2T7.2TB per second这Tera是一个很恐怖就是不知道是多少对吧2的多少次方了所以这两个之间的数量级差的特别多那么为什么我要用这么一个比喻来形容开源的重要性呢当你去Deliver一个非常复杂的技术体系,实际上是需要对方使用这个东西的人。快速的 understand这个体系的接口是什么呀它是怎么设计的呀应该怎么去用它呀那么这个沟通的带宽实际上当我们如果去限制这么一个沟通的带宽的时候你就会发现本来
[160:00] 这个沟通就是一个极大的平静当你还控制说某个文档什么时候才能发给谁看而且这个看还要签NDA这天生就是一个呃在本来非常受限的这个沟通channel上面又加了一些不必要的防护门对吧那么所谓的开源其实一个极致的极致的开放意思就是说当我把所有代码都给你看了之后我其实是不需要跟你沟通的因为你自己看那个那个无数的目录里头的无数的文件对不对就不需要再去废这个口舌因此呢他解决了一个最大的这种交流共享思想然后对齐的这么一个平静所以我们觉得从开源之后无论是从我们开发这一方还是从客户那一方就立刻感觉到如是重负就是原来有一个很困难的问题每次都要打电话要提什么问题单对吧解决问题的速度快了很多当然且不说还有更多的人在做各自的共享还有就是像现在AI辅助编程也会成为我们一种重要的甚至是一种主导性的工作方法开源了之后呢那些模型啊agent 他会更加快速的得到充分的预料来让他这个在CAN的编程上面获得这个训练的数据所以那些模型在KANN的开发上面也起到了很好的作用我觉得深藤早期的故事其实有一些人卑鄙无奈奋起反抗的这种一种感觉那走到今天你觉得深藤跟英伟达是越来越像了还是越来越不像了你们是走了一条一样的路还是一条不一样的路我觉得应该说如果早期还有更多相似的地方有一部分是他们变得越来像我们,对吧?就是刚才讲的那个cube,它的tensor core越来越像我们的cube,变大了,来获得更高的计算效率,但是应该说除了这些细节之外,宏观上那个时候还是比较像的。因为大家都是以单颗芯片为主部署的方式啊等等吧都是比较类似的但是更大的不像我觉得现在是越来越不像它不像的原因最本质的就是刚才讲的那个小和大的差别颗粒度的差别一小打大的差别超节点的差别包括一些系统级别越来越不像微观层面我们也许有很多学习它的地方比如说刚才讲的意识到自己的颗粒度大了就应该变小一点对吧跟它差不多大小这样的话呢效率上更高,但是系统层面是越来越不像。我举一个很小的侧面来试图的说明这一点啊比如说我们至少我们大胆的猜测或者是从这个GTC的他们所发布的路标上来看呢我觉得英伟达一直在追求极致的好REC就是叫什么机框嘛,级别的这个Density的足代的提升这提升是非常惊人的首先就是几乎是每代都是double双倍的算力塞到同样的机框里面我个人是觉得需要有度不能够极致地提升不应该无限的提升Rack Density,为什么呢首先有几个维度吧第一个我觉得可能单颗芯片的规格不应该极致的提升或者也提升不上去单颗芯片OK单个封装为什么单个REC不应该极致的提升它的规格它需要提升但是呢不应该超过物理的极限因为你一旦超过物理的极限你就会碰到一些灾难性的后果那么我先从单颗芯片说起吧大家也都看到当前AI行业造成了一个最大的这个...困境就是HBM短缺因为这个需求爆发然后大家都用越来越大的越来越多越来越高带宽的HBM那么我试图的说明用一个比较形象的例子来说明为什么2.5D的这种scaling是有一个上限的如果我们把计算的代虽然说现在是多个代但是我们简化一点来考虑这个问题如果说我把计算的代看作
[165:00] 一个正方形它的边长是N那么它的面积是n平方对不对一个正方形它的边长是N它的面积是不是N平方那么它的算力就是N平方因为每一个运算单元都需要多少个门如果你有n平方这么多个门它的算力就是n平方成正比的但是当你有n平方的算力的时候你所消耗的内存带宽和互联带宽跟他是等比例的但是如果我中间放一颗巨大的计算弹而且把这个N越变越大而我的HBM以及我的所有的IO以及我的所有的供电都是围绕它周边那么是不是每一个内存访问的比特都要跨越这个正方形的四条边的边缘四条边的周长是4N那么你就会发现当N越变越大的时候你的算力你的带宽你的互联你的功耗都是n平方但是你四条边只有4n那么这一条平方的曲线和一条直线之间是不是会有一个越来越大的gap就是这个口子他们俩之间的矛盾就会越来越越来越爆炸对吧因此呢这就说明目前靠越来越大的计算带加上越来越多的HPM这条路是有个上限当然在达到这个物理的边界之前我们会继续把它做到但是一旦超过了这个边界之后你就会发现灾难性的后果就是雪崩了这个边界可能是多大这边界也许是四个ratical每个retical是800平方也许是6个retical也许是8个retical我相信我们整个上游刚才这就涉及到底层的就刚才讲的制造链条五楼四楼三楼的同学地下室里面的人他们能够把这个能力边界扩充到多大但是我已经明确的知道,n 平方 n 这个物理的Gap 是不可调和的嗯所以这一种架构也许可以再做一到两代也许三代但是大概率到第四代就不行了因为它还是研制这条架构在做目前是目前它已经发布的路标是这样好因此呢我觉得单颗芯片不可能每年都持续的double每年double你就会造成这个gap就越来越矛盾越来越大第二个问题是说为什么单个REC不能无限的提升而且也没必要呢是因为如果你说一个一个机框的功耗如果今天是10万瓦明年是20万瓦后年是什么40万瓦再后年是什么一兆啊嗯到达一兆瓦可能只要四年的时间好的四次方就已经好多倍了那么为什么不应该把它做到这么高呢是因为当你塞了越来越多的芯片他们有无数的互联所有的东西芯片和芯片之间有互联就是需要带宽的你塞的越多这个互联就是不但这个芯片算力double了它的互联也double了它的功耗也double了它的散热也double我们试图的去看一下如果是一兆瓦的这个机框它如果是采用自然大气的散热的话我们可以随便推算一下散热塔的空间需要多少比如说如果是500平方米才能散掉一兆吧嗯那么那么你就会发现一个Gigawatt的数据中心可能只有1000个rack但是他可能要占地一平方公里的地方去放这个散热塔这两个之间因为一个机框的footprint可能只有不到两平方米左右但是他如果要500平方米的空间去散热就有250倍的空间的放大那么当这个比例如果出现严重失调的时候你就会发现这根水管可能要拉一公里的距离才能到达散热塔因为那个散热塔所占的空间远远比你这个机器占的空间要大得多对不对刚才讲的这些都是各种其实这些已经远远超出了处理器架构设计本身的要素但是呢他们属于我说的另一层的问题对不对如果你说十八层宝塔如果你建一个AI的Gigawatt的Data Center,总有人要去建房子去建设
[169:59] 铺水管去设计这个散热系统啊就是这个比例不能出现严重的失调吧嗯我们只能说其实不好去评论别人是怎么做的我们只能说在我们的系统设计里头,其实也许在三年前就已经意识到了说我希望不要把太多的新品塞到同一个机框里那么就意味着我的芯片和芯片之间的互联的距离。如果说同样人家塞了100颗芯片在一个REC里而我要塞到4颗芯片那么这个100颗芯片的物理的距离就会变长当然物理变长会带来延迟各种开销但是如果我意识到这是一个本质性的问题总有一天我得要把它扩开我就需要有一个连线的手段让它连线的成本很低压让它的传送距离不会成为这个信号发送不过去了因此呢我们其实在积极的把我们在设计第一代UB的时候刚才讲的那个领取总线的时候就把它设计成它既可以跑在电线上也可以跑在光缆上那么你要知道一根光缆的粗细和一根电缆的粗细四差别很大也许有直径可能都有十倍的的差距当你要连一根线的时候没有太大缺但是如果这个机框要连五千根线的时候嗯你看到那个物理的东西,它就会像比这个那些5000根电线搞在一起的尺寸可能已经跟一个大象的腿那么出了我觉得它是比较暴力了它一方面在提速就把这个设定式的速率每一根线的信号传送的速率在提大家都在提速大家都想要用更少的线传更多的信号但是一方面用了世界上最高级的板材也直接导致了这个高端的PCP的产能也短缺了然后他也用了一些很先进的物理层的技术对吧这些都是fantastic都是他们极度优秀的地方但是我作为一个系统设计师我并不想要在每个地方都去挑战世界最高峰的难题为什么呢因为我要把每一代我要deliver一个新的按时按质量的deliver一个高可靠的产品给客户用如果我同时要突破20个物理极限只要有一个我们也突破我的产品就挂掉了我情愿把我的精力放在突破也许五个特别难的问题而且高价值的问题把另外一些难题留给别人去做这样的话呢我的失败的就是挂掉的这种概率就大幅降低了对吧因为我就算每一个成功的概率是99%99%的20次方也是一个接近零的数字但是如果99%的母次房可能还是可以认受的所以这就是一种设计理念或者philosophical的问题说要扬长臂短把自己擅长的事情尽可能发挥出来而不要在每个地方都与别人增长短所以在单片芯片是不是越做越大你的答案是不是然后当然在越做越大但是我们要在自己的舒适区里面做不是无限大不是无限大不要去挑战那个就是要作死的那种设计我们是不会去做的单个机柜的密度要不要做到一兆晚我们不需要当然是不要我们明确的知道自己不需要因为我空间便宜的要死每个机房的每一平方米可能只有2000人民币所以那个空间比起一个1000万的机框来说那2000人民币就完全可以忽略不计所以我的空间是大把的我是通过光的互联让这些芯片可以很舒适的摆放在更大的空间里面来获得10万卡甚至50万卡的数据中心我们都是可以做得出来的一个机房可能就可以做到10万10万颗芯片今天已经毫无问题了大模型行业大家还是会说大概我们差几个月你觉得在芯片这个行业我们代差真实代差是多少我觉得这个问题大家有这个担忧或者
[175:00] 自然的这种疑问:是很自然的之前我提到的这个涛定律的发布一定程度上也是一种让更多的人知道说微缩不是唯一的一条路不能微缩的时候我可以堆点嘛而且这个堆叠可以在芯片级堆叠可以在系统级堆叠我相信到今年下半年大家看到这个最新的手机吧应该秋天会发布因为有大量的semi analysis tech insight肯定会去做反向工程会看到大量的分析报告出来就可以看到说所谓的涛定律堆叠逻辑折叠到底能不能解决或者缩小这个代差我我的答案是很大程度上可以而且大家可能一直忽略了一个最最关键的点就是当这个大家在采购GPU或者NPU的时候,它实际上是在采购内存。因为这个GPU NPU如果按今天的成本来计算的话80%都是那个HBM的钱只有10%左右的钱是花在了这个先进的逻辑带上面所以呢甚至这一个AI芯片的主要的竞争力是来自于有多少带宽而不是来自于有。多大的计算规格或者是说计算规格变大的时候贷款必须等比例的放大毕竟说这个东西并不是HBM本身是不能独立销售的必须要寄生在某一个GPU或者NPU的里面所以它的变现是依赖了这个最终集成者我可以做的我为什么要再扯这个话题呢是因为所以更大的几核心竞争力并不见得是来自于那一个逻辑带的到底有多先进更多的是说来自于合计带以及它匹配的内存到底有多先进对吧嗯刚才说我们都是好多的结论啊你们实际在这个就是摸索的过程中是什么时候找到的这条路呢应该说这方面我们还是能力是有所欠缺的第一是instinct就是说如果你在一个深山老林里头迷了路那这个可能好的猎手他有一种天生的直觉说应该朝哪个方向可能可以找到水喝啊哪个方向可以找回这个回家的路啊也许是看到那个天上的星星判决了一些方向然后他选择了某个方向去因为所谓的instinct就是说再没有充分的证据上面去做的选择直觉吗直觉以及自己的一些判断这些判断也可能不见得是一个非常严谨的可以数学证明的这个感谢观看谢谢大家reasoning 的结论,对吧?第二个当然是说,需要在某一个方向上不断的求证自己也做些实验啊还有更多的是说我说这方面我们还是有所欠缺的是说我们要找到那个在做模型或者是在做各种量化的科学前沿上面的人跟他形成有效的对话说我们的instinct是这样你的工作是在这个领域我们来看一看大家是不是能对齐所以呢这也就是我刚才讲的四年的提前量当中的很重要的一部分就是第一个自己也要有足够的credibility让别人愿意跟你来往来形成有效的交流然后呢大家可能在这种层面上需要有一种思想的交换,并且持续的对齐。很多能力是来自于那些模型的先行者能不能聊聊深腾这两年和一些中国大模型互相支持适配优化的一些故事比如说Deep Seek这个具体我不方便说但是我想说的是在这个所谓的AI生态上面可能有三个不同的等级它的难度是不断的要求是不断的提升的第一个等级就是说一个模型来了我能推理这比较简单因为一个模型来了,它通常都会持续
[180:00] 这个他的使用寿命吧可能会持续半年也许一年因为你适配好了把它性能调得很好那么大家就会反复的复制去部署它对吧这是属于推理一次性工作可以被复制然后第二个呢是如果要把一个大家研究团队已经确定好的模型进入出版本的这种生产型的训练也许它的工作量是适配一个推理系统的三倍因为所有已经推理的那些算子都是都是在训练里头要用到的但是他还有一些反向的算子反向的算子通常会更复杂一点但是他呢对这个性能的效率的极致要求相对没有生产的推理系统这么高但不管怎么说大规模的训练也是一次性的或者说做一次可以搞三个月然后再做下一个版本这应该还是属于靠人力可以解决的可跨越的困难第三个阶段就是研究研究因为可能一个先进的研究团队也许有几十个优秀的算法人员每个人每天都在做不同的实验都在不停的修改它的代码那么要真正的我们认为突破,推理是已经是基本解决了突破训练也是完全可期待的并不需要很长的时间但是突破研究就必须得要靠。更先进的编译站才能完成就是说因为研究人员现在已经切换到一种Tileland啊或者是其他的更高级的语言因为它改起来方便它不管是用谁的处理器其实大家都面临同样的问题是吧你改一下算法你要重新写酷大算子那谁都受不了因此呢我们也非常努力的再去跟不管是哪家公司主导的编译站吧我们都在努力的在这个方面把这个东西做好那么做好之后呢我们就有条件可以期待未来的一年之内吧也许可以到达刚才讲的局部到达刚才讲的研究的层次但是确实是需要时间的您觉得截止到今天你们工作中的原创的创新性有吗体现在哪也许可以在几个层面上讲一个是芯片本身我们是属于嗯反正我个人是属于坚定的不超作业不超作业这个所谓的不超作业当然会造成巨大的困惑因为不操作业就意味着你不能借用别人的生态但是你要付出这个代价但是呢我有一种根深蒂固的认知是说我们是一个科技公司世界上没有一个科技公司可以靠操作业获得巨大的成功因为科技本身就是innovation你的最主要的价值创造的手段是靠建立一种差异化的优势吧嗯哪怕你有100个缺点但是你必须得有一个优点这是我对整个从事这个行业这么久的认识我特别怕做跟别人一样的产品因为如果我们不是这个海宁什么皮革城不是什么温州小商品市场里头大家卖的圣诞树都长得一模一样然后就拼谁的成本更低因为这个模式在低端的产业也许可以但是在这个引领世界的行业里是绝对不可以的一定要有自己的优点因为只有这个优点才会转换成商品的价值不超作业是什么时候决定的是从第一天开始吗第一天开始或者是说我所从事的每一个产品都从来没有超过别人的水或者是说一听说想要跟别人一样我就觉得这肯定是不行不超速的代价是什么不超速代价就是比如说你的生态差距一开始非常巨大的所有人都习惯了用Windows,你突然要做一个非Windows的PC。那你就要改变这些人的习惯或者包括现在所有人都用iOS或者Android的然后你突然要做一个鸿蒙你要付出巨大的努力
[184:59] 去建立一种独特的优势或者是要别人切换的理由这就是代价这些问题现在已经我觉得正在属于这个跨越这个所谓的痛苦的平台期可能会进入一个比较好的阶段对于您来说是不是超作业比不超作业要容易那当然那为什么一定要不超作业呢作为您这个工作岗位来说因为我们的使命并不是为了今年什么获得某一个客户的交流里头的客户的什么表扬或者是少骂几句我们的使命是构建一个可持续发展的可持续地这个产品体系而这个产品体系里头刚才我举了这个Hennessy Patterson那个书上的说他这个interface between software and hardware是一体两面对吧你操作业的意思是说我想要把自己的那个硬件做得跟别人足够的像然后我把它的软件呢就完全利用别人做的现成的软件这样的话我就不需要付出多少努力去构建自己的生态嘛但是我深刻的认为第一个这有几个致命的问题啊第一个问题是说你永远不可能假设我今天想要变身变得跟你一模一样我永远不可能长得跟你完全一样就一定会有不完全一样的带来的后果第二个呢是说这一个技术体系是完全不可演进的因为你一步一步超必然是步步超你原来完全失去了自主设计创新的可能性因为别人的软件已经在了然后你就要去薛祖势旅的把自己的邪削到能够穿到那个什么白雪公主的水晶鞋里头对吧你一旦削过一次下一次你还得削所以呢我觉得他就是一个落后者的必然落后他在照抄的这个过程就已经决定了他一定是落后的而我们并不想要落后我们想要独立自主而且我们的问题我们的我们的constrained比如说我就算是合作的跟他一样谢谢大家他的互联能力跟我不一样我怎么办我就一定会有通信那一部分超不了一旦通信超不了那个通信和计算融合的算子就用不了所以这种问题就是不是说超了一部分就可以了你要全超刚才我们聊创新线你刚刚说了芯片价格还有其他的方面呢就是刚才讲的重要的就是系统层面嘛刚才已经讲了我们彻底走上了两条不同的道设计理念都不一样他要做密我要做西梳对吧我要做松我要让每个人都坐在有自己的卧室可以舒适的睡觉他要20个人睡在一个炕里对于后面几台芯片还没有正式发布的包括950DT然后包括未来的960970990有什么值得我们期待的我觉得可见的未来三代都差不多好跟对手差不多吧每年都是翻倍的这样的一种节奏另外就是一种谢谢大家在系统层面我觉得最值得期待的是说我们一直在思考一个问题嗯是做一个基深度非常高的这个积木块还是做一些更小的积木块通过连线的方式不同的用户在不同的场景里头去获得更灵活的组合这是一个系统层面比较有意思的问题你看大家过去在数据中心用的设备最早是服务器每一个2U的服务器后面AI服务器可能是6U8U就是它的高度盒子比较大个然后后面呢又出现了这个Pod泡的基本上就是典型的就是说是个all in one的整个机框是一台设备然后他们正面反面都有不同的交换板计算板和一个背板这两种形态好显然是有各有优点啊首先那个all in one的这个设备它的集成度比较高可能可以实现集质的密度比如说NVIDIA NVR 7R就是一个all in one的大机器对吧而且后面的路标上面有越来越大的这种
[190:00] 机器这是一种重要的形态我们也有类似的心态但是我觉得这个形态呢它的优点就是密度比较高而且可以预先集成好对吧他的但是他带来一个挑战就是说多个人有放到的那个东西的比例要做任何调整你是调不了的嗯因为这个机器相当于已经好所有的这个能插进去的零件以及他们之间的配比关系以及他们的连接关系都是已经固化好的而我们恰恰看到的是说由于这个业务本身模型一年就从600多币涨到1.6T再到明年可能是5T到10T它的所需要的资源它这个KVCache原来是放在DRAM CPU里面现在大家都知道把它迁移到SSD里面去了然后模型推理速度或者延迟从什么20毫秒要降到1毫秒那么这些都是数量级的无论是尺寸速度还有延迟的要求都差不多是半个数量级到一个数量级的剧烈的变化这些变化呢谢谢大家很有可能在设计这个炮头的时候难以预测到两年以后这个机器上市原来那个比例已经发生了很大的变化该怎么办因此呢我们未来会比较积极的考虑说需要一种更加可重新配置的一种方块积木块而这个积木块之间需要用最简的方式可以把它们重新组合起来嗯所以呢我们刚这个其实跟我刚才讲的那个相对松散的设计理念以及要用全光进行互联这些理念都是相通的或者是相辅相成的换句话来说如果我一旦是全光的互联我就可以做更小的盒子而且这些盒子之间可以随意的通过连几根光纤就把它们找到了最优的组合方式那么这是一个系统层面的创新也好或者是值得期待的地方吧而且我们的超节点的预意也会做得很大因为我们发现当然如果是一个20T的模型他要超低延迟他们这个通信域会变得比较大几百个节点甚至上千个节点在芯片这个领域中国算是走出了一条中国道路吗你觉得到现在来说的话我觉得这个我说了其实不管用我觉得你可以去看一下这些企业的财报他们的财报其实很大程度上代表了一种汇总因为他们是绝大部分公司的Fabless那么大家加工不是相当于无数的企业到某些Fab里面去加工所以它大概相当于是整个行业的一种总和吧这个材料非常能说明问题因为它代表了第一是一种经济的规模第二个是代表了它是否能够正向引力因为一个是否走出了一条中国的道路他不但要技术上突破他要经济上可必还你不能一直补贴或者是不能亏损亏损一时长期失选是呃不可维持的一种状态对吧所以我觉得你可以去看看那些地方你就会得到非常好的答案而且这个财报呢也不光是只有逻辑厂一家你还要看内存厂你还要看NAND厂还要看封装厂我我直接或者间接的感受是他们尤其是你在五年的这个时间线上我觉得他们都是数量级的飙升的这么一种状态那接下来的问题是这条曲线之后可持续对吧不要跌落下来吧我个人认为不会为什么因为第一个是我们在很多领域里头其实并不落后谢谢大家先进封装啊或者是比如说NAND领域其实并不落后对吧DRAM差距也没那么大HBM差距也没那么大有一定的差距逻辑只要可正向闭环就不错已经很好了还有当然就是说这个宏观的中美还会不会回到过去的那种
[195:00] 所谓的战略伙伴的这么一种互信和不相愿意互相依赖我觉得这个事儿很明显是更多的问题出在那边对吧别人不愿意吗大家都说缺算力缺算力缺算力每家模型公司都非常的缺算力所以今天中国算力的真实水平是什么情况呀我觉得这个我不知道是什么情况,但是我能从也许一些侧面数据猜测一下,应该是个非常不准的猜测,据说去年中国是部署了一点几Gigawatt的数据中心,美国大概是部署了七到八个Gigawatt。所以我们大概是五倍或者七五分之一到七分之一八分之一的这样的一种相对的比例关系当然还在其他很多莫名其妙的地方由于这个特殊的因素吧他们也部署了很多比如说东南亚你们的供货量可以提上来吗我们正在努力大概能比如说明年这个时候那么今年多多少这个不好说但是我只能说应该还是会啊迅速的解决这个问题您在什么时候意识到可能熬过了那个最难的日子哪一年我觉得当我接受到越来越多批评的时候尤其是内部的批评的时候我就感觉到了已经熬过了最难的日子为什么呀因为最困难的时候别人是不会来批评你的哦去年前年我觉得差不多去年前年就已经过了这个时候了就还是被内部挑战了是吗为什么我讲的这个这是一种界定的方法呢是因为如果你在一个沙漠里头行走,已经有七天都没喝过水这时候你看到有任何再张的税你都会觉得嗯它是救你的命的都能喝而且不会去挑这个水好不好喝给第一瓶水喝下去了之后大家立刻恢复了身体然后到也许第二瓶水的时候大家就感觉到这个水的味道不好这时候就是我说的批评的时候所以我觉得最困难的时候是在没人批评的时候被批评会觉得委屈吗我觉得对我来说也许德性不够或者性格谢谢大家那个缺陷吧还是会有反抗但是呃事后会想到说啊这也是人生之必然的所以也没有什么好委屈您形容在海外的那家半导体公司的那十几年是一个亲历了一个漫长的跌落期萎缩期还是一个细阳行业落日那这十年呢这十年是一种什么样的感受这十年对中国或者我处的环境绝对是一个嗯虽然说经历了这种九十一生的灾难吧是一个能力的爆发期感受是怎么样感受就是说我觉得绝大部分除了工艺差一丢丢,差一点对吧,规格差一点。绝大部分美国能做的芯片中国都已经可以自己做了,可以设计到制造到什么。或者说不光是我们自己的团队包括在华为之外的这个整体的能力比如说你会看到无数的公司在做自动驾驶的芯片啊或者是什么巨声智能的芯片啊或者是WiFi芯片啊你会发现这个能力已经变得比较普遍了就是说能够设计相对复杂的有一定门槛的SOC的能力已经是啊百花其放的也就是说这个能力变得相对的不那么稀缺了第二个有意思的话题就是说相对从业的人员的年龄可是比硅谷的那些人要年轻二十岁年轻二十岁比硅谷半导体行业的人对哦我在硅谷办理可能算是优优独播剧场——YoYo Television Series Exclusive至少不算老的吧算是算是年轻的但我在中国的这个行业里头算是那个可能即将应该被淘汰的年龄。所以这个地方代表
[199:59] 希望吧或者是说因为年轻人的这个嗯爆发力更足而且他们有更多的从业的未来的时段那问题来了你看现在这么多人都开始进入芯片这个行业了也包括那些大模型公司你怎么看待这种国内的竞争呢我反正不怎么担忧。谢谢大家我觉得有竞争还是蛮健康的吧嗯这个我希望他们能力都很强但是我并不怕他们在这个磨难过程中有没有所谓的冰死时刻最绝望的一刻是什么时候我个人没有经历,所以我也。不想替别人去代入到不同的角色去去阐述这个时间吧比如说也许有一个最接近冰死时刻我只是间接参加的就是嗯我们的麒麟芯片也就是手机的那个SOC但是所幸的也有一些非常坚定的人他们坚决的不愿意放弃然后又把它给救回来我其实访谈大部分的公司可能偏软那像你们这样偏硬的行业里它在组织和文化设计上是不是和那些偏软的企业有很大的不同嗯你们有什么独特的文化吗这个话题有点深好我只能说我因为并不是一个负责人才管理或者是带人在人力上管理非常庞大的组织,所以我觉得我说这个从组织的角度讲这个人才我可能不太好讲出来的东西也不见得很真实但是呢我可以从个人的角度采述一个人才怎么样在啊在一个芯片的团队里头也许特别有价值的特别重要的一些要点如何去成长也许这个更有意义一点第一个呢就是说嗯要做芯片的工程师或者架构师一定要做过芯片一个天才博士是做不了信片必须得要从模块进行谢谢大家然后什么模块设计子系统然后经历这么一个漫长通常至少18个月20个月的这么一个过程必须要经过不止一次好多次为什么呢是因为芯片设计跟写一个软件有很大的区别就是写软件的时候我会习惯性的写了比如说10分钟的代码我肯定会去运行按一下编译然后去跑一下这个代码芯片是要18个月以后才能按一次按钮因此你是完全没有试错的机会的按一下这个按钮你就花掉了至少谢谢大家两三亿人民币的 chat谢谢大家第二个芯片有非常多物理的东西而一个比较聪明的人往往会在数字世界逻辑思维上比较强但是必须要经历物理的差一纳秒一批秒的Timing没到,这个芯片立刻就fail掉,就死给你看,对吧?所以它有极其严谨苛刻的工程这一面而学校的教育是不能给你这些东西的一定要在这个过程当中经历过才会深刻的体会到哦为什么要对这件事这么较真因为一匹秒都不能错一根线都不能绕错这个一个逻辑门不能有任何critical bug因为因为你你但是软件的你可以一分钟以后你去修改它了对吧你发现自己有bug运行fail掉所以我觉得这个过程呢恰恰就是说我不是特别担心那些看上去很豪华的团队的Diva因为也许他们的领导或者组织者没有意识到这一点对吧他们过于看重人的聪明履历好不好或者他的这个
[204:59] Uh. Education is not a "mimsy" This is not a "mimsy" It is not a "mimsy" And this money is a value of you need to be in a 对吧一年头380几次或者5年头380几次的 In the video, it will be a lot of people who are not willing to experience this process. It will never grow up to the架构师. 这个岗位上去的 Thank you. 这是一点第二点的是说 If we do a 5th floor of the 5th floor, That is not your ability to do six. You'll meal. 8th floor 9th floor, can you have a 一个做算法的人形成共识。 I think that if you don't have basic understanding, you won't be理in' you. If you say something you don't understand, you won't understand. This conversation will be impossible to continue. I think This is a project that is a project that needs to be "视野" and "喇叭口" 好奇的喇叭口脏的比较开 不但关心自己手头的事 还得关心楼上的人是怎么回事 关心楼下的人是怎么回事 那么时间久了 而且不但是听别人说 你还得要多Google一下 或者现在有这个 大模型你可以问很多问题 比如说我刚才问了一个问题 说一兆瓦需要多少散热塔的面积 This question is, maybe I asked one more question, but I still have to ask four questions, and then do it with them. If it's about the number of numbers, I will believe that. This question is, 都不是一个 光是负责交付自己手头职责的人会去问的 但是它是一个很有意义的问题 不是吗 So I think this is the "A叭口" is because you have a lot of interesting and interesting and interesting. You have to do a lot of other interesting things. You have to do a lot of interesting things. You have to do a lot of interesting things. You have to do a lot of interesting things. You have to do a lot of interesting things. You have to do a lot of interesting things. It's not that you can understand it, you can even expect it. he will be thinking what he is going to think. You can even expect many things he has no idea. Because you have a more底层 of the eye. Mm. So, in the past, the 流窜不同楼层的经历越来越多,就会融会贯通的层次更多,这样的话把握一个技术问题的能力就会更强。 If you look at this person, he may not see the person. He may not see the person. What do you see? What do you see? The first thing I see is his... 价值观或者不能说用价值观那个词可能说的太过了就是说大家 要能互相合的来。 也就是说也许价值观也不见得错 就是说大家在讨论 无论是技术问题 还是对未来的期待 还是说对职业的一种预期吧 因为 。 看上去其他quality都非常高的同学,他如果只花了半年或者一年的时间,他还没有经历。 I have no courage to I just spent a few times in my life. It was a long time. So we will look at this the same kind of match, and the same kind of match, that would be a good point. If we could, in the same way, they will be wasted on their lives. You're not going to be a bad guy? What? A bad guy? A bad guy? We don't have this ability. We don't have this ability to be a bad guy. This is not a good guy. It's not a good guy. So what are the fighting culture? What are the fighting culture? How do you create this organization? It's a military-led culture. A person who can go to my office and argue with me. uh, this question. That, and I'm very welcome to these students. I don't know if the "horses" culture of the world I can say we can see our周边 in a small range. We can say that周边的人 can be able to drive the drive.
[210:00] Self-driving. you 比被别人所驱动 来得更有效 现在还有一些年轻人面对道理留在海外发展还是回国发展的这种问题 他们的一个普遍的顾虑是说国内的资源更受限 你知道是哪方面资源 算力资源差距很大 我觉得这个问题未见得哈 First, in schools, the state of the state of the state is more than the state of the state. This is very surprising. 为什么真的吗当然了你看无论是北京和上海那些呃 国家的什么资源实验室什么这些地方都有万卡以上的规模这是一个惊人的数字在国外你去一个最著名的高校他可能一个系只有 1000卡或者几百卡 So, the "sustion" of the "sustion" of the "sustion" of the "sustion" of the "sustion" of the "sustion" of the "sustion" of the "sustion" of the "sustion" of the "sustion". Of course, this is a good idea for some of the leaders who have been in the process of taking a "sustion" of the "sustion" of the "sustion" of the "sustion" of the "sustion" of the "sustion". This is a very good idea. It's not too much, but it's not too much. This is the "The Big Bang" of the world. I think it's not the main thing. It's not the main thing. I can say there are some very good guys who have a very good team. They only use very little team to perform the best. uh, to the top of the world. Mm. For example, the Deep Seek team is very low. It is not 100000 or 100000 of the price, it is 1000 of the price. Maybe there is a good idea. You can put in the AI strategy. So, the digital computing system is a part of the project. And the other kind of web, the web, the web, the card, the SSD, the SSD. We'll continue this. Eight of the things we have. First, this. It's a complete system of data. The key is CPU and NPU and GPU. And as far as, there are also a storage system. There are also a storage system of SSD or a storage system. There are also a card and a交换 device. And the switch is the switch. It's also a The design of the building is a high-level. 一个器件 一个交换机 它散出的端口越多 它能互联能力就越强 而且它会直接导致网络的层次变多 比如说你一个交换机可以连接512个东西 那就一个一层就搞定了 但是你如果要连1024个东西 一层就是搞不定了 必须得要两层 一旦有多层 它就会有延迟 Thank you. 之间的这个额外的延迟和额外的这个各种代价都是直接翻倍还有网卡对吧所以我们在构建这个体系的时候呢尤其是网络这些技术呢他一方面需要先进另外一方面的他有需要有互联互联就意味着 兼容并包。 因为你一个系统里头 它存在了大量的旧的东西 You can't say that you can build a new world. Therefore, uh, in trying to build a One is built in the "0" system. Of course, the "0" system is built in the "0" system. of this whole thing, it was the past 多年下来是非常奇蹈的 I'm happy to see Rocky's game. The device is also available. They all want to be able to win. uh, 做到 At least it's the first time, not the "X" 比如说别人用了51.2T的时候,我还在用 25.6T, this time there will be a cost. This is a very important issue. If we were to do a single one
[214:59] 零件我们非常难以构成一个完整的10万卡20万卡的这么一个完整的系统就势必会有大量的legacy会制约你的竞争力这也是为什么我们可以走出自己去创造一个全新的互联总线的必要条件因为你只要是互联你就会涉及到要把所有必要的零件都连接在一起是吧一方面我们有完整的以太网的体系这样确保跟所有的legacy的设备可以互通而且这个互通能力是不差的是世界一流的但是呢当我们去构建这个超级点的技术里头,也是刚才讲的那个八大件里头是每缺一个就会有一个重要的缺陷缺一不可可以说这也就是部分的解释了为什么世界有这么多厂家别人但凡做通信的人都会讲它是一个标准我必须要到IEEE IETF然后必须要通过准入的认证哪怕做个PCIE都要到一些compliance lab去做互联互通的测试嗯因为它是一个多Multi-Vendor的每个零件可能就来自于不同的厂家他们之间要组合在一起才行那么我觉得我们有一个尤其是在19年开始去做这个领取系统的这个设计的时候一方面是被逼的但是在那个时候呢我们其实已经知道说一个技术体系必须要能够自立而智利的先决条件是说你该连接的东西这个牌你得凑齐嗯对吧如果是你但凡有一个零件你是没凑齐的话你是不具备这个条件的因为那个连接就连不上嘛优优独播剧场——YoYo Television Series Exclusive所以这两个因素加在一起我们恰好是所有的key component啊都已经完全有自主的能力并且也做的已经是所谓可以跟世界一流的产品互相替换比肩这时候就具备了自己去定义一个私有现在其实我们也把领取的这个协议Free License 也把他的Spec 公开了,也欢迎世界各个厂家自己去使用但是从我们自己的假如来说我们是具备构建一个其他道的完整的系统也就比较勇敢的迈出了这样一步吧还有什么欠缺吗我觉得我们最大的欠缺其实还是在软件的层面吧硬件刚才固然有它的欠缺规格我们也希望自己能大一点对吧每年都在未来几年可能每年都在翻倍的这种努力上内存我们希望自己做得快一点而不至于会拖后腿但是最大的欠缺还是在所谓的软件生态上面我们希望说有更随着我们的部署量持续拉上去了之后会有越多越来越多的人他具备条件并且也具备这个必要性加入到在这个这一个新的硬件平台上面去做贡献持续努力把性能调优这个事情因为但凡一个厂家或者一个客户他部署了这个系统他就一定会有团队要把他的业务迁移上去我觉得这里头可能会有一个叫做什么?就是跨越的界限就是一旦这个人群也许比现在再多一倍我们所谓的这个共性的力量这个群体的力量就会足够的大让这个系统可以自我持续的良性的持续下去嗯所以这个地方是我们最期待的我们最开始其实一开始聊了芯片行业的起起伏伏啊您经历过它的繁荣期然后日落期然后到了AI浪潮来又进入一轮繁荣期那现在基于芯片上面的应用层他们是方星为爱垄断格局未定如果当他们一旦又形成了当年像美国那些大的巨头的那种垄断效应之后会不会芯片行业又迎来它的凋零期呢心里要买的未来是怎么看的我觉得嗯有这个可能啊嗯
[219:59] 有这个可能如果说但是这里头有一些因素是不断的在刺穿这个这个假设说那个垄断是一个气球的话嗯有一些因素不断的在刺破这个气球因为从华尔街的角度如果我是个投资人如果我的退休金全部都买了OpenAI的股票或者是Entropic的股票我固然是希望它的收益率最大化是不是它成为一个世界唯一的AGI模型的provider对我来说是最有利的从投资人的角度来说那假设一家不够有两家我就下注两家也不错是吧同时买这两家的股票为什么说我觉得有一些因素让这个这个暂时还没有发生其中一个原因一个重要因素本身就是因为AI技术还没有到达饱和点就是它的plateau它还没有进入到一个这个曲线的平缓期所以呢任何人或者今天领先的人也许六个月三个月以后另外一家就会超过他对吧这种可能性至少在过去几年都是一直在交替我们曾经认为LAMA是世界最优秀的模型但是他现在显然是暂时吧也许他明天又会东山再起对不对因为这个里面我不得不说,人类的智商的,玉子并没有那么高好也就是说如果你去武道口走一圈你会发现可能有5000个也甚至1万个学生谢谢大家他都完全可以理解最新的模型的那些trick在什么地方而且他们每天都在实操当中在更小规模的在做实验找到它的下一个突破点所以也就是说当一个东西还没有进入饱和气的时候它不太容易垄断这是技术本身造成的第二个重要的因素是说我觉得背后可能还有一些有志向的人他们不想要他不想要,他就算有这个能力,他并不想要自己成为那个世界的终结者好而是想要更加普惠的让更多人加入这个行业可以做下一个发明其实我觉得我接触到的至少中国的那一两个leading的团队他的整个价值的愿景就是这样他并不见得想要靠自己的意识的领先去获取最大化的短期利益而是希望说这个东西全世界的聪明人可以不断的你追我赶然后实现下一个能力的突破所以呢我觉得这个本身有两种不同的价值体系共存在这里头他们本身的愿景就不是单一的所以当然还有其他的因素就是说我相信在好中国这样的环境吧我觉得有非常多人甚至我们的国家本身就不希望看到绝对不希望看到所有的AGI都被美国的一家公司垄断这甚至会产生人类的危机是不是所以呢愿景和价值观以及驱动力内心的驱动力还有中国的群心璀璨非常充足的人才共激一代一代的这个优秀的学生层出不穷甚至一些最重要的方面可能是个实习生做的他这种可能一直是存在的他因此呢我觉得开源模型这件事情是特别重要的甚至就是吃破这个垄断的一个最重要的针。当然硬件上面我们也在做自己的一些努力确保说不会变成一个单一的硬件体系包括我们的同行很多人也在做这个努力是不是所以我觉得在近期至少在我还是充满期待认为这个泡泡嗯不太可能一直
[225:00] 就是迅速的呃好嗯反正我是属于坚定的希望刺穿这个泡泡的人之一吧还有一点可能值得期待的就是说AI现在在数字世界也就是虚拟的digitized world里面看上去能力进展的确实很快因为我现在已经谢谢大家工作的各个方面都深度的依赖而且我觉得他在很多方面谢谢大家几乎我叫他做的所有具体的事他都比我干得更好这就是所谓的已经很接近数字世界的AGI了不管你AGI的定义是什么反正像它现在已经足够有用足够capable对吧但是它跨越物理世界还有相当大的一个鸿沟。嗯。从我们自己做自动驾驶的这七年,我就觉得,刚才我已经给了一个理由说,为什么这个,带腿的这种呃机器人可能会暂时难以变现给了一个能量能耗的理由对不对也许他拖一根线就解决了这个问题那么拖一根线就会限定他的工作范围但是更大的鸿沟是在于说物理AI的模型还没有到Chatt GPT的这个moment嗯就是这个gap还需要也许就是下一时刻了也许是未来的两三年需要有重大的模型突破才可以跨越这个物理AI的从0到1的时刻吧然后那个地方本身又会催生一个比较庞大的值得期待的这个产业规模因为一旦是个物理的东西它还得有身体它一定是一台机器是不是那么这个机器本身又是多样性的所以可以期待的就是说这也就导致了说一旦进入到物理的世界就不太容易垄断比如说你看汽车工业已经发展了上百年还是有这么多不同的品牌存在于不同的国家不同的地区甚至还有新平台人的胖瘦可能都会要求两种不同尺寸的车是吧所以我觉得它的多样性是在这里的而且这个地方我觉得最值得期待的就是我觉得中国是我非常看好之前我听过说Nobody 巴菲特可能说过什么什么Nobody wins shot in America就是你要是做空美国你肯定是输的我们其实并不想做空美国我只想I want to long China因为我觉得中国本身无论各个方面的条件吧都非常值得期待它应该是可以上很大的一个台阶的而且我包括您刚才讲到的那个访谈我觉得很多这些访谈他们似乎以一种你是我活的这么一种视角来看待这个问题说中国要是赢了美国就输了或者是中国的超级智能的MISOS版能力相当的模型就会变来被用来做攻击美国网络的这个武器我觉得这是一种非常ridiculous的视角这种视角基本上是一种撒旦施加吧因为如果说有这么好的一个模型,为什么我要用来攻击你?为什么不把我自己的生活够得好一点?为什么不把自己的经济把自己的医疗各种东西所谓的改善人民的生活而是要用来攻击美国的网络我觉得这个念头本身就是一个很错误的动机吧这是价值观的不同吗我不知道是不是价值观的不同而是说一种海盗文化他们习惯了用这样的视角来看待世界。中国即使是在比较强大的时候也未见得需要去把别人搞弱小在未来可见的五年甚至十年你觉得全球芯片的产业格局会发生变化吗会经历某种程度的洗牌吗第一个问题是会不会对这个影响最大的要素是说会不会回到中美的科技战贸易战之前的状态那么如果因为
[229:59] See you all. 短期非常现实的影响 如果再持续10年 我觉得一定会分裂成两个各自 哪怕不会有更严重的冲突 但是大家为了能活下去嘛 也都得要 各自有各自的完整的制造能力 Bye. This is a good idea. because the "晶片" is in the modern life uh, "Tabishio" It almost has been on the floor and air. 相等 就是相当的 It's about this kind of level. It's from its economic level. It's definitely from the石油. and the market will be more large. You can imagine that you have no food for a food for a food. The fridge will be filled with all the bags 电线的东西都没有了。 This is not possible, right? So I think it's a need for it. This need for it is caused by 啊 你所说的如果说会不会有大的变化 第一个重要的宏观因素就是由于这些 国家之间的因素所造成的影响吧咱也不是这方面的专家所以不好去预测他这个影响是什么但是一定会有影响其次才是 您刚才讲的那个是不是会垄断 Is it not going to be a Uh, I said that the DALING CIE was the answer was: 没这么快 也许十年以后 So maybe you have 3 or 6 months, but it will be a different level of people who have reached a similar level. So now we don't have a broken rule. Let's see if the 18-层 wall on the wall, do you think about these companies or AI companies or what they have expected? First, I think 第一个条件最好的不一定会赢。 嗯 就像我们比如说都到一个大学可能有很多同学你会发现家境最好的同学 It's not the end of the day. uh, will be the one that is the one that is. It may be a little bit different, but it may be a little bit different. So I think the most money is the most rich and the most rich. This is a group of groups. 未必 The top machine company is not Google, not Meta, and Google. It's not Amazon. Why? Why? They're more than a dollar? It is also a lot of times. he has a lot of money, and his research team is very strong, right? 因为 it's a new thing it's not an old thing So I think a new-to-establishment company has been in the same way. 领域里头建议了巨大的优势 要不然它不会成为一个巨头 对不对 但是恰恰的是说 AI is a new thing 它无论是在应用或者在商业模式 最有价值的应用 最有价值的商业模式 都还有待 Or they are being released. Look, I just gave an example of Autavista. Okay, when digital was a digital. Then it was bought. Autavista was a good price. But if it was not figure out. So good. We were doing research in the future and thought that was good. I don't want to go to the university. I was at the book of the book. I was just not in the book. I was just not in the book. I was just for the book of the book. PDF of download of the things we have no. So we have to look at the top of the students' students' lives. They have all of the groups that have been in the same place. So I just wanted to say that the groups can be achieved by their own advantage. And provide a good service and to help them. And to continue to change. For example, I hope AI coding is... I
[234:59] 巨头公司提供的服务这样的话我就不用费这么大的劲去勉强用海外的是不是?但是呢我也深刻的意识到说不一定是他们嗯因为他们可能不想做这个生意或者这也不是不是包括我也当然很希望这个最好的coding模型是华为的也许我直接调华为云的服务就可以了但是呢因为每一个企业都有自己的现状自己的文化自己善于就是已经建立的这个system它就像一个免疫系统一样就是说我一个人身上突然出现一只猫的细胞的话免疫系统就会把它清理掉了所以这个这就是为什么我们刚才提到的一本著名的书叫Innovators Dilemma其实描述的就是这么一个问题所以一个成熟的组织通常容纳不了一个新的东西但是这要看这个组织本身的自我革新的能力或者是他的创始人也好是不是有这个愿景对吧第二个问题是说,啊这个愿景很重要就是说你如果说我今年就想变现并且迅速实现垄断那么你是一种做法如果你有更高的愿景说我要让明年或者三年以后让天下再也没有难看的病再也没有难debug的问题再也没有网络安全的问题那是另外一个愿景你就会驱动你的团队和组织朝不同的方向去努力所以我觉得但是你看在Entropic这个OpenAI创造一个Chatbot来自于这个Coding对吧他是通过API调用的这种方式那么这个时候这两个业务就没有任何类似的地方你不觉得吗所以销售的对象他卖给了不同的人他收费的方式他从business model上面就没有什么相似的地方所以我说它是新的行业而且这个模式是不是最好的模式你要不要去控制编程的入口比如说控制某一个VS Code这样的IDE还是说你不需要你坐在后面只要提供API就行了你看不同的人即使是非常伟大的人物他们都会参与一种剧烈的竞争基于某一种fantasy。比如说,当年互联网刚起来的时候大家可能也许有一部分人还会记忆说OK微软的IE和Nescape的竞争这个竞争可能持续了好多年最后甚至还司法部美国司法部还干预对吧然后比尔盖茨就退休了你看这是个故事对于我们现代人来讲但是当你回过头去看这个竞争真的有意义吗今天Windows都不装IE了Windows上面的default浏览器是一个ChromeEdge浏览器是Google的Chrome浏览器装了一层壳所以当年你认为最最重要必赢的这个战场当你赢下来了之后发现它是不值得,它是 nothing他并没有给你带来那个fantastic的result对吧微软也从来没有成为互联网的霸主对不对而出现了大量新的霸主这些新的霸主他们各自找到了自己的奇怪的赛道对吧谁也没有想到中国会横空出示什么阿里巴巴呀什么淘宝支付宝微信这些这 it was all new并没有在他们定义的那个赛道上去跟他们竞争是不是所以我觉得AI的应用层可能也是这个样子的而这个应用层如果说digital world数字世界里头一个我认为一个最重要的门槛大家需要跨越的是说如果说AI已经能力非常强很聪明但是呢它缺少的是你个人的上下文如果说我干了95%的事他都比我干得好有一件事情他没有取代我的事他没有代入到我的生活场景或者我的工作场景里面所以我就变成了一个给他输prompt的机器也许我并没有任何解决问题
[240:00] 能力都不如他但是我只有一件事他现在还缺我不可是他没有参加你我的会谈也没有参加我的上午开的会议也不知道我的领导给我写的KPI是什么也不知道我这半年做的最重要的项目可能经过了几百次会议讨论的话题是什么那么当你跨越这个门槛的时候你一定需要有一个入口这个入口我个人预期就是下一个。超级超级应用比如说当然这个入口立刻就会侵犯到人类的边界比如说如果我在我的所有社交软件,比如说微信里头,直接植入,让这个AI可以看到我的每一个对话上下文那么他就对我的在非工作的所有 interaction 有无所不知他一定会侵犯到我的边界对不对但是呢他也可能不需要我给他啰哩啰嗦的描述我要干什么他就可以帮我去干同样如果是他带入到我的工作的每一个软件他可以看到我的每封邮件跟我一起参加每个会议看到我的工作上用的华为用的这个Vlink他就知道我的所有工作的上下文always present的一个companion他完全有可能我就可能被淘汰了因为下一次开会可能就不需要我去了他干的都比我好但是呢这个时候就会侵犯到另外一种边界一个呢是我会失去安全感另外呢我会我的公司就会说你破坏了信息安全啊这些保密的会信息对吧你怎么能让一个Chatbot或者Agent知道呢他会不会把它乱发给不合适的地方呢你看这个地方应用层还有大量的事可以做我只是描述了我觉得数字AI里头它缺的是人和人人带入到人的场景这一个环节谁先解决找到了一种novel的design这个design可能跟模型本身没有半毛钱关系是一个更好的APP这个APP可能就会成为一个超级超级超级应用因为他如果是你知道的所有东西他都知道的话他能力又比你强那怎么办您刚才说创新者的窘境啊那你们做的这个芯片的事在华为这个体系里应该也是新事我们并不是新事华为还是已经存在很久了远在我加入之前就存在了但是它的窘境是在于说嗯Who is gonna define the future?因为这个所谓的future就是一种愿景我要做什么我该怎么做那么你在任何一个组织里头都会有依存除非是你自己的除非你是创始人除非你什么资源都有对吧那么但凡不是你的我们都作为一个职员或者是作为一个贡献者我们就不得不去说服别人OKhere is the future, here is how you gonna do it.但是往往这个时候就啊比如说我刚才讲的我们要生活在2030年这种风化,可能对另一个重要的决策就完全是好痴人梦语因此呢这需要大量的共识所谓的窘境也好这是必须的所以我们也不把这个作为过度的不需要过度的强化也就是说在人类的组织社会里头必然会要互相合作如果今天是2030年你看到了什么呢你说你活在2030年我看到的是我们有足够多的制造能力我看到的是我们的也许数字的AGI已经...做得更好了我看到的是也许离有一个可以帮我扫地的谢谢大家机器更近了对吧然后我就会担心说自己该干什么这些年龄是更自信了是吗?职业跟自信是说当你面临了十倍的困难你发现最后都有办法把它解决,自然就会有更多的自信面临的挑战而且最后又
[244:59] 跨越了这些门槛之后就觉得没有那么难刚才我觉得倒有一个话题也许还值得多加一句的就是这个光的通信因为我们刚才已经讲了超级点需要把芯片离得更远因此呢他们需要用光嗯你这里头再一次体现说我们也必须尊重物理的边界因为我们其实做了一个high one这个光木块它是一个7.2T的好光幕块,而现在市面上卖的光幕块都是800G也就是0.8T一下我们就说72除以8是多少差不多886489倍吧久贝!那么我们立刻就面临一个非常有意思的问题说如果大家都意识到芯片有这么高的带宽要接到外面去目前的光木块呢是一个芯片你想象一下这个机器长得像这个桌子这么大然后你的芯片放在一颗板子上而这个光幕块呢是在这个芯片的面板这一侧有一个一个连接器那么从芯片到连接器这地方是一段电缆这电缆可能有几十公分比如说最长的可能有50公分的距离就会成为幻想一下这就像一个八爪鱼一样这芯片里有无数的电缆飞出来,然后要建到一块板上面,上面有一个一个公布块。这是今天的普遍的产业模式那么我们刚才讲的那个7.2T的光木块呢是直接放在了芯片的边上那么因此芯片和光之间光木块之间的连接就变成了可能只有5公分或者3就1到5公分这种距离因为芯片的大小也就这么大所以就让这一段电线就给去掉了你看这个我们称之为行业里头称之为NPO,就是Near Package Optics。但是呢当我们试图的去解决这个问题的时候我们非常坚定的选择了NPO而没有把光一步的放到package里面没有放到芯片里面我们放到芯片的边上那么这个问题呢立刻就会产生如果你有机会再去跟采访到其他的光通性的行业里头你就会发现这个问题呢是无数的人争论了好多年的一个话题是啊放在边上还是放在里面还是放在外面但是非常有意思的是说在我来说我不需要经过争论就直接选择了就要放在边上在2026年你也要吧这个7.2T的光波块一定要放在芯片的边上既不要放在外面也不要放在芯片里面为什么呢嗯因为第二个问题只要是光的一定会有一个激光器它的光源是什么这个激光器呢它是会有故障的他在比较热的工作环境里头他会有一定的概率会失效那么一旦失效了之后你就会要解决怎么去修复他的问题那么又有第二个问题有非常多人即使选择了把这个光放在了芯片里面或者放在边上他们又坚定的选择了说一定要把这个光源放在外面因为一旦在外面我就坏了我就把它拔掉了我可以拔一个插进去一个新的把它换掉这样来解决这个故障的问题而我们坚定的选择了千万不要放在外面一定要放在里面而且不但要放在里面我就做了两个坏了一个我还有另一个可以继续工作来降低它的失效率你看这些那你就会呃开始怀疑我是吧你一个做软件出生算法出生的人然后又后面又假装去做芯片你现在为什么有资格去做这样的断言说只有这样是最好的你看这个话题呢所以
[249:59] 也有相当漫长的其实这个完全应和了我刚才讲的那个如何一个人在一个行业里头去成长的这么一个philosophy我刚才讲了两点第一个要把喇叭口张开哪怕是楼下楼周边上下左右360度都看看多了解一下那么大概是在2008 09年的时候我就已经意识到了芯片必须因为它的IO,它的电线传输距离太短,一定要接近。到某一天虽然说那个时候以为56G的时候就必须变成光了但事实上现在到224G才变成光又差了4倍但是呢那个时候我就意识到说一定要把光做到芯片的边上或者里面那么带着这个问题呢嗯我就试图的去开始去学习激光器是怎么回事怎么设计一个怎么去调制这个信号怎么接收这个信号而且为了这个因为当时这个并不是一个光产业和芯片产业是完全两个隔离的产业那么当时呢我就去第一年就说服报了一个暑期班因为正好欧洲荷兰有个大学开一个欧洲在光通信上面那时候还有点优势说大家可以来学习怎么设计光芯片然后我就暑假的时候就去了两个礼拜吧还是一个礼拜还是两个礼拜我就发现OK对这个光是怎么回事有个基本的认知这个东西其实给我带来了后面的很多重要的选择的一个依据我就立刻意识到所有的光的器件都离不开一个基本的物理量叫折射率因为任何一个材料光通过一个材料折射率就是它的代表它在这个材料里头光速是多少哈嗯在真空当中光速是30万公里每秒但是在玻璃里头是一种速度在另外一种淡化硅里头是另一种速度第二个学习到的基本知识是折受率是会被温度改变所有的材料都逃不脱温度增加一度折瘦率会发生变化好第三个我学习到的就是说激光器是会fail的第四个我学习到所有的激光器光要偶合所谓偶合对于电线来说就是比如说拿一根线然后用个电烙铁一焊它不就是一个不连续的点然后把这个线接上了但是在光上面做偶合没偶合一次可能都要损失零点几dB的能量因为从一种材料穿透到另一种材料它会损失能量你看这些看上去都基本上属于高中物理如果学得特别好的同学可能都已经知道的基本事实但是呢你会发现surprisingly有一些从事几十年产业的人他们忘掉了这些知识他们学到了很多其他的知识但是这个知识呢就代表了我对这个芯片的一个基本的看法说第一个为什么不要马上放到这个封装里面因为那个封装里面是非常热的因为我那里头有一个1000瓦的NPO在里面它产生大量的1000瓦是什么概念这个电炉对吧家里的那个可能是那个用电的炉子可能比较大功率的2000瓦对吧那么它是非常热的所以呢只要放在一个非常热的东西边上它一定会受热折射率就会发生巨幅的变化因此放在里面就有很多由于折射率变化所带来的问题因此尽量不要去搞第二个问题是温度高了激光气会失效嗯第三个呢我刚才讲的另一个理由说我一定不要把光源放在外面是因为嗯如果我有七七十二路的光我要用一个光源去给它供给那个光源是不是得是72倍的能量72倍的能量就会导致一个嗯热点就是说特别高功率的东西要照射在某一个点上并且还要把它分成72路
[255:00] 这个点就必然会失效。就这么简单因为这个地方有这么高的功率72倍的功率通过某一点那一点呢就会形成一个局部的热点这个热点就会把你的材料烧坏或者浇水或者是灰尘滴在那里立刻就会烧黑就变成了一个它就不再是一个光通性了它变成一个切割机了对吧因此呢我们也许别的人就说你看我刚才描述的这些重要的选择呢都是一些直觉性的选择我并没有做实验也没有通过什么100个专家后来验证了对不对我不需要验证我直接把它给删除了因为我知道这个不好就不要做我要选择容易做好做的谢谢大家那么当然我们现在7.2T的模块也做得很好今后可能在下一代里头会成为主要的连接方式它又便宜带宽又高尺寸又小又去掉了非常麻烦的这些电线你看这种理念呢啊是纯直觉纯愿景驱动的并不需要跟无数的人讨论讨论而他可能会决定我们的系统能不能被扩散在更大的物理空间里面你看这些理念看上去说出来都非常简单但是需要人去提这个问题本身这么多年您对芯片行业还有很强的热情吗我的热情更多来自于necessity嗯。就是谢谢大家这么说吧如果你走在路上哪怕是一个陌生人他突然倒在地上你会觉得应该去问问他有没有什么病对吧那么我们现在看到的是说这种需要是很容易被感知到的我们需要算力我们需要有一个能够自动驾驶的汽车等等这些需要是随处可见的我们需要有自己的智能手机不能全中国只有苹果手机对吧这些需要其实是所谓的necessities mother of invention更多的是来自于这个但是当然还有一个负面的驱动力就是说人只要不干或者我自己吧只要再没有干特别好的事的时候大概率会去干一些坏的事情使命是什么呀现在的是个人使命还是一个企业使命还是其他华为的使命写得很清楚啊把什么数字生活带给每一个人每一个企业每一个社会我个人的使命只是觉得啊有限的生命吧能能够尽可能留下一些更好的东西或者是说建设性的东西要多于破坏性嗯因为人活着啊生不带来死不带走但是只是这个过程希望说还是有所用吧为人所用您还给我写了两个问题啊一个是Cilling Valley到底在哪一个是AJ的理想和Wall Street华尔街的理想有什么不同刚才我其实在过程当中已经提到了这两个话题我觉得Silicon Valley,我说AI的Silicon Valley在哪?我猜他可能就在武道口吧要不就是在上海的什么前滩或者是或者叫什么后海还是什么冰江吗啊冰江那边就是这个徐汇区的那那些创制学院啊什么那么为什么我会有这样的comments呢因为我自己的孩子就在武道口那边还在读三年级或者我们也经常去那边参加一些交流讨论我觉得那个如果你在那边随便哪个餐馆咖啡厅坐下来吃个饭,你就会发现边上的桌子里头可能有两个人在激烈的讨论什么昨天的那个Loss为什么跑飞了啊。
[259:59] 强化学习到底怎么弄得更好一点啊我觉得因为这个地方的氛围和人群在这儿而为什么不在Silicon Valley?因为刚才讲的不是因为Silicon Valley不再具有吸引人才的凝聚力,而是在于这些企业本身的monopoly的desire。限制了Entropic的员工可能不会跟斯坦福的一个什么本科生讨论最新的强化学习的手段是啥因为他们想要把这个变成他们的竞争优势或者是这个所谓的垄断正在形成当中因此呢我觉得在中国具有更加充裕的人才供给有更多的人在积极努力的解决各种各样相关的问题而且目前中国离那个monopoly下得更远更远了嘛所以在这么短暂的这一个时间里头也许这三年也许这五年我们正处在这么一个种存心璀璨百花齐放极度繁荣而且思想交流十分活跃的这么一个时期所以中国的不管是模型公司还是芯片公司不管是什么公司的这种开源文化的形成可能会产生比我们现在能想到的更深远的影响是吗对我是这样看的或者我希望这个开源的文化能持续的久一点吃得久一点对因为也没有任何保障说这些愿意开源的工作明年还会继续。这样我希望他们持续的久一点如果他是创始人自己决定的也许会持续的比较久如果他是一个某某公司的某个部门他可能就连决定的选择的权利都没有是不是是他可能会避远的快一点对因为会持续在公司内不知道会不会避远对嗯挑战更多可能会对 是的那我还有一些最后的快换快答案一个全球范围内您喜欢的食物谢谢大家食物啊哎呀我现在已经吃杂粮吃太多了我已经不知道自己喜欢是了或者是说那个很久没有想过自己喜欢什么一个少有人知道但必须知道的知识点不过刚才您已经说了那就算了基于所有读过的书推荐几本书我觉得推荐几本书吧第一本我会我们在内部也推荐过第一本叫Ideafactory或者应该在那个京东也有买的我不知道是中文版叫思想工厂他讲的是Bell Labs的历史贝尔实验室的历史尤其对我们感触特别有借鉴意义的是1940年到1945年这一段时间因为他所处的时代是说美国的经济GDP已经很发达了但是它的科技嗨离这个欧洲的老牌的英国啊德国啊这些学术圣地还上去甚远所以那个时候的top教授都是要留学要不就是剑桥毕业的要不就是什么歌亭根要不就是德国什么某某大学毕业的人才是top教授嗯但是呢1940到45年这若干年呢贝尔实验室产生了一些fantastic的工作,或者是说在贝尔贝尔实验室就在普林斯顿的边上那么它辐射100公里吧画一个圆圈你就会发现那个时候在这100公里或者50公里的范围之内产生了一些有极其深远的影响的工作因为第一个呢有计算机有Wohn Newman冯诺一曼在普林斯顿然后信息论有这个小嫩然后这个晶体管有Sharkley还有这个巴登发明了晶体管对吧那么这一切的存在它不是个意外它是有一种历史的宏观冥冥之中的这个要素把它们牵在一起那个时候加州还没有兴起作为一个科技中心吧当时的科技中心还真的
[264:59] 就是在普英斯顿的周边的这100公里范围内这也是为什么我说当时在Princeton的时候并没有学到太多后面经历了到了四五十岁的时候才突然appreciate才意识到那个地方其实还是有很多人节地灵的要素吧只不过自己错过了啊有点遗憾那个为什么这几个工作特别有借鉴意义呢因为第一个它是叫半导体然后香农的工作是所有的通信系统的基础弗诺一曼的工作啊恰好是在这个计算机的包括图灵本人也是彭斯登的学生所以这一系业工作又压缩在短短的五年的时间里面其实跟我们当下的这五年也许当下的这十年的大的宏观要素啊相府相城因为图灵机代表了符号主义的嗯最底层的理论而现在的AI是代表了连接主义因此呢而且连接主义正处在一种爆发期是吧第二个呢是半导体对吧我们刚才已经谈了很多半导体的事中国正是在一种极度困难然后又破茧重生然后第三个呢这个通信中国已经不差了但是通信其实和计算之间是我刚才讲的是一个一体两条脉络嘛整个行业发展的纠缠在一起的两条线所以呢我觉得这几个要素以及中国的实体经济其实已经非常甚至世界是无可比拟的但是我们的科技呢还要从一种跟随者跃迁到在某些局部甚至在世界最重要的发明创造诞生在也许是上海的某个地方也许是五道口的某个地方也许是他们的组合我觉得这个时代这件事情正在敲人发生吧只不过时空相隔可能有80年的gap但是这个80年的gap是啊中国的时代的开启所以呢我觉得不管有没有所谓的贸易战或者啥的其他的因素我觉得这些因素组合在一起,我们好像把all the right ingredients恰好是right time right place right ingredient它就一定会产生化学的反应吧所以这是其中一本值得推荐的书当然我刚才讲的innovators dilemma 可能更加适合给企业的领导者看对吧意识到自己的成功不会一直成功下去或者是说你的成功要素很可能是下一个失败的最主要的阻碍力所在当然我还推荐过另外一本给我们的同事的书叫Rules of Work这个说可能在京东上也有卖的反正中文版我不知道翻译成什么它其实特别简单一个小册子讲的是说年轻人如何去?合适的看待工作的环境因为绝大部分大学学校里头不会教你这些东西那么其实最本质的一点就是说在一个工作环境只要你不是一个纯个人也许你是个数学家你就只要关在一个屋子不需要跟任何人发生交互但是只要是超过一个人就会有人和人之间的相对复杂的这个嗯这种交互所以呢有一种基本的认知有一个达成共识的过程有一个达成共识的过程和和如何有规则的去既不需要走到革命去破坏这个组织的极端也不需要这个自己过于委屈所以我觉得这部这一本书呢对谢谢大家反正我送过给非常多的同事就是说帮助他们解决了让他们感到一定的释怀和安慰吧所以我觉得这个Rules of Work尤其是对于年轻的听众也许是值得一看的差不多就是这些 我之前
[270:00] 在准备的时候还想起了Edison这本书Edison这本书首先Edison是个超级名人了耶稣倒退100年前Edison就相当于那个时候的马斯克Elon Musk或者那时候的乔布斯那么我觉得这几个人呢他们可能是那个上天给他们的不断的resurrection,说不定是同一个灵魂的,不断的一次一次重生吧但是或者是说我觉得他们身上有一些common的quality那么为什么我说的这个Edison的这个传记你们可以去那个Gutenberg.org上面有免费的电子书因为我找不到纸质的版本太过久远了是他身边的一个工作人员写的所以他有很强的真实感谢谢大家我觉得Edison因为大家可能尤其是特别聪明学业很好的同学可能经常会confuse以为Edison和爱因斯坦这些都是人类历史上或者是说理工男心目当中比较璀璨的历史上出现的这种大的心形以为他们是同一类实际上他们是完全两类Edison可能连初中都没有上过是一个很穷苦的家庭可能就小学也许是初中就错业了然后就去火车上卖报纸但是呢他有一种天生的engineer的quality而且这个engineer的quality呢其实是有几个最基本的要点第一个要做有用的事千万不要做花里胡哨花儿不实一定要发明有用的东西第二个呢你要尊重现实必须首先要知道说什么问题是值得去解决的而不要选择浪费时间去解决那些没有意义的问题那当然那个书里头有无数的例子讲他是他发明了什么为了发明这个东西基本上都是用一些笨办法他并不是一个超级聪明的人所谓的笨办法就是OK先要也许它extraordinary的地方就是首先识别人类需要什么所以灯泡没有电灯就要发明一个灯泡对吧没有电影就要发明怎么去记录这个运动的东西的图片所以电影甚至第一个电影甚至还是艾迪森拍的有很多有意思的故事在里面我相信理工男或者是工程师偏好的同学应该可以在这里找到很多有意义的reference另外还有一本书是我刚入行的时候读过的叫做The Soul of a New Machine或者叫新机器的灵魂这里头讲的是我刚才在故事里头讲到了一个叫DigitalDEC Digital Equipment 与它同时代的做小型机的时代还有一个叫Data General的公司这个公司这个Soul of a New Machine讲的是这样一个工程师群体也许是在七十年代末的时候如何?去设计一个新一代的机器。那么为什么这个机器,这个书也许对我们真正的是做计算机的同行可能更有参考意义他描述的是一个很真实的almost day to day的每一个人他是怎么去参与这个项目啊在项目里头遇到了啥困难啊他有一天心情不好又怎么怎么解决的了我还有幸的见到了当时那本书里头描述的一个实习生但是哦他好像叫Bob当我见到的时候他已经是EMC的Fellow是一个白发苍苍的老头所以我想说的是这个书里头讲的是工程师的故事尤其是工程师的群体的故事而这个群体的故事呢它是代代相传的就是说它不断的repeat也许你是做一个小心机我们现在做一个芯片或者做一个AI的超节点或者是做一个下的下一个模型或者是做一个这个超级的下一个有希望的超级应用对吧
[274:59] I he But it's a bit of a shame. 因为 You saw the people in front of the people Just like you've experienced the first time, you've experienced the first time. And it's a huge issue because it's a very boring group of people. Goodbye. 本身 I'm not saying that. 写传 So this is a kind of an e-layer. It's a kind of a book that says, 工程师的真实的第一几乎是第一人称的这种体体验吧所以我觉得对工程师群体还是 It's just a look. When I was a developer, I was thinking about the software. I thought that all of a software software was a good thing. If it was like, you can see the software software. It's not a good thing. Because... We talked about coding, there are several different ways. Sure. Thank you. First, Thank you. You don't need to worry about it. Or just if you have a idea and not willing to be used to be used to, you will be able to create new needs. Thank you. 做下一个更有意思的东西 或者是为自己的企业也好 或者自己为自己也好 去定义一个 原来你做不了的事 现在你突然说由于AI的加持 你可能具有10个人的 甚至100个人的 开发的能力,那是不是可以去开发一个全新的前所未有的东西呢? Thank you. 也许你并不会挣更多的工资,但是或者是,但是我觉得。 您刚才说或者是大家很多人说 This is more than the thing I think. Will not be closed? or say that you have to do it. uh, this is more useful than the other. and the product or product or product has a lack of a goodwill. So I just said that, in our small groups, I hope you can see There is a self-awareness. 向前走的这种欲望而不是在于说我叫你干什么你才去干。 基于当下的认知,一个关键的重要的bet是什么? Betting on China,并不代表说我代表bet against America.
