xAI前推理团队负责人盛颖创办RadixArk

对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”【101视频播客】 — 硅谷101

硅谷101

通过开源SGLang与Miles框架下放算力基础设施,旨在打破AI中央集权并保障人类在强AI时代的生存空间。

AI-assisted summary of 对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”【101视频播客】 — original source. Check the original for full context.

Source published:

Detailed notes

## Background 本期节目由 Bilibili 频道的“硅谷101”于 2026 年 8 月 3 日发布。根据页面简介,节目采访了 xAI 前推理团队负责人、开源推理引擎 SGLang 发起人及 RadixArk 联合创始人/CEO 盛颖,围绕她从数学与形式化验证走向 AI Infra 的求学与科研历程、在 xAI 的经历、SGLang 的演进以及创立 RadixArk 的思考展开深入对话。

## TL;DR 节目深入回顾了盛颖从江西求学、哥大与斯坦福学术探索到走向 AI Infra 前沿的成长全路线。她分享了自己在博士期间经历低谷与抑郁后接纳 ADHD 特质、顺应天性的心路历程,以及在谷歌实习和加入 xAI 参与 Grok 推理系统搭建的实战体验。针对 SGLang 社区需求爆棚的现状,她选择放弃 xAI 未解禁的股票成立 RadixArk,致力于打造更优雅、去中心化的 AI Infra 工具箱与“下一代 AI”,并表达了对开源平权、学术与竞赛界隐性性别偏见的深刻见解。

## Atmosphere & style 整期对话坦诚而极具智力张力,兼具硬核技术洞察与深度的自我剖析。盛颖的表达真诚、直率且富于感性,既有谈及数学与 Infra 架构优美度时的“浪漫主义”激情,也有面对学术低谷、ADHD 困境与性别偏见时的冷静觉察。主持人与嘉宾之间形成了高度信任且富有共鸣的交流场域,呈现出一场关于理性求索、理想主义与自我和解的深刻思想碰撞。

## Key takeaways - [00:00](https://www.bilibili.com/video/BV1GaM968E6T?t=0s) 对 AI Infra 的理解:Infra 绝非单纯的“后勤支撑(Support)”,其本身就是产品,需要具备优美、稳定与优雅的设计美感。 - [15:00](https://www.bilibili.com/video/BV1GaM968E6T?t=900s) 接纳 ADHD 与天性:将 ADHD 视为自己的“使用手册”,顺应天性做事,只对能带来深度吸引和心流体验的问题全力以赴,绝不勉强妥协。 - [20:00](https://www.bilibili.com/video/BV1GaM968E6T?t=1200s) 学术研究与科学家的差异:发 Paper 是可以被掌握的套路,解决具体问题的研究员很普遍,而真正的科学家则是能真正推动和改变人类知识边界的人。 - [25:00](https://www.bilibili.com/video/BV1GaM968E6T?t=1500s) 形式化验证向 AI 的转向:在谷歌实习体验大模型后受到强烈震撼,意识到传统程序分析在 AI 面前的局限,坚定投入大模型推理系统(LLM Inference)的研究。 - [30:00](https://www.bilibili.com/video/BV1GaM968E6T?t=1800s) SGLang 的定位与发展:作为开源推理引擎,SGLang 侧重于千卡/万卡等大规模生产环境(Scale-up)的 Serving,与 vLLM 等社区引擎交替领先并相互学习。 - [35:00](https://www.bilibili.com/video/BV1GaM968E6T?t=2100s) xAI 的工作体验与感悟:在早期 xAI 获得了极罕见的资源支持与高度自主自由,体会到无政治内耗的战友情谊与无边界文化,并深刻认同“权力与责任必须匹配”。 - [45:00](https://www.bilibili.com/video/BV1GaM968E6T?t=2700s) 离职创立 RadixArk:随着 SGLang 社区暴增的需求远超开发者业余维系的极限,为填补系统性空白而选择提前放弃即将在 xAI 兑现的股权开创公司。 - [51:30](https://www.bilibili.com/video/BV1GaM968E6T?t=3090s) RadixArk 的产品与技术路径:从推理(Inference)与强化学习(RL,如 Miles 框架)切入构建 AI Infra 工具箱,并获得英伟达、AMD、英特尔三家芯片巨头的战略投资。 - [01:00:13](https://www.bilibili.com/video/BV1GaM968E6T?t=3613s) SGLang 核心创新与 Day-Zero 兼容:RadixAttention 利用 Radix Tree 建立前缀索引并映射 C++ 内存池实现 KV Cache 高倍复用;在 DeepSeek-V4 发布首日即通过重写算子实现适配。 - [01:06:05](https://www.bilibili.com/video/BV1GaM968E6T?t=3965s) 全开源理念与远大使命:SGLang 完全属于开源社区且不设私有分支;RadixArk 的终极目标超越 Inference 赛道,旨在打造一种全新的“下一代 AI(Next Generation AI)”。 - [01:20:00](https://www.bilibili.com/video/BV1GaM968E6T?t=4800s) 开源情结与平权初心:成长于中部省份且受早期互联网开源资源滋养,坚信分享与开放;联合发起 LMSYS,旨在通过匿名盲测抹平背书差异,让无名开发者被看见。 - [01:24:20](https://www.bilibili.com/video/BV1GaM968E6T?t=5060s) 人类与强 AI 共存的未来:阻止 AI 威胁的方式绝不是呼吁停止研发,而是赋予所有人制造 AI 的能力,发明一条让 AI 继续前进且人类不会输的路径。 - [01:30:00](https://www.bilibili.com/video/BV1GaM968E6T?t=5400s) 推行“递归式”结构性改变:面对学术与技术界的不平等,通过寻找并培养“同样愿意帮助弱势群体的人”形成传递链条,以坚实且不可逆的方式逐步推动改变。 - [01:35:00](https://www.bilibili.com/video/BV1GaM968E6T?t=5700s) 应对性别偏见与“甄嬛传”内耗:学术与竞赛圈普遍存在将女性胜利归因于“努力/运气”的隐性偏见,唯有让女性真正掌握核心权力进入 Top 阶层才能从根本上破解。 - [01:40:00](https://www.bilibili.com/video/BV1GaM968E6T?t=6000s) 坚持对纯粹关系的信任与意志贯彻:即便现实复杂混乱,依然坚持分离情绪与价值观,相信理想关系的真诚存在;最糟糕的状态是失去执行自我意志的能力。

## Detailed walkthrough ### [00:00](https://www.bilibili.com/video/BV1GaM968E6T?t=0s) 个人背景与 RadixArk 的创立

盛颖本科毕业于上海交通大学 ACM 班,随后在哥伦比亚大学获得计算机科学硕士学位,并在斯坦福大学取得计算机科学博士学位。她的学术研究横跨算法、形式化验证与大模型系统。大模型浪潮兴起后,她成为 LMSYS 开源社区的核心成员,发起了影响力深远的开源推理引擎 SGLang。之后,盛颖加入 xAI 并共同领导 Grok 的推理团队,将开源研究带入全球顶尖的大模型工程实践。

如今,她从 SGLang 开源生态中孵化出创业公司 RadixArk,旨在将此前仅少数科技巨头拥有的前沿 AI 基础设施(AI Infra),转化为整个行业皆可使用的开放技术底座。RadixArk 在创立之初即完成了 1 亿美元的种子轮融资,投资者阵容几乎集齐了硅谷的算力巨头与技术领袖。关于公司的扩张,盛颖提到目前团队已有 40 多人,虽然业务范围(scope)和业务需求的增长比预想中更快,但团队在招聘上依然保持着理智与克制,甚至在“虚招”合格人才,主动控制团队规模。

* **个人对 AI Infra 的理解**:盛颖认为 Infra 绝非单纯的“Support(后勤支撑)”角色,在她眼中 **“Infra 本身就是产品”**,需要具备美感。 * **性格与个人特质**:盛颖自认是一个“必须 Intense(高强度)”的人。她分享了自己理解并接受自身 ADHD(注意缺陷多动障碍)特质的心路历程——ADHD 不是阻碍,而是一本“使用手册”。一旦学会顺着自己的天性做事、不再勉强自己做不感兴趣的事,许多难题便迎刃而解。 * **对纯粹关系的信任**:她提及《甄嬛传》中剧集的隐喻,并表达了自己对世间纯粹导师、投资人与采访者的坚定信念:即使身边暂时没有,也要坚信他们存在,并终将相遇。

---

[00:00](https://www.bilibili.com/video/BV1GaM968E6T?t=0s) 从江西到沪美的 Culture Shock 与学术初体验

回顾求学经历,盛颖谈到了从江西老家到上海交大,再到远赴美国的阶段。她坦言从江西到上海时经历了强烈的文化冲击(Culture Shock),当时发现身边的同学对职业和人生发展有着极为清晰的规划,而自己则处于一种“无知状态”。

本科毕业申请出国时并不顺利,她原本没有拿到理想的美国 Offer,甚至已经签署了某所中文大学 PhD 的“4月15号君子协议”。但在协议生效的第二天,她意外收到了哥伦比亚大学 Master(硕士)的录取通知。尽管这只是一个普通的硕士项目,但为了去当时的全球学术中心看看、接触新事物,她在与父亲电话沟通一分钟后便果断决定支付违约金,选择远赴纽约。

* **纽约带来的“无判定感(No-Judge)”**:相比于以往的限制状态,纽约带给她一种完全自由与包容的 Shock——“没有人盯看你、不在乎你穿什么想什么”,让人从被审视的状态中彻底放松下来。 * **哥大阶段的研究转向**:刚上研究生时盛颖并没有做研究的打算,但在上了计算复杂性课程并结识了一群做理论研究的博士生朋友后,她对理论研究产生了浓厚兴趣,进而顺其自然地申请并考入了斯坦福大学攻读博士学位。

---

[05:00](https://www.bilibili.com/video/BV1GaM968E6T?t=300s) 普林斯顿的心流体验与对纯粹数学的追求

在哥大期间,盛颖曾前往普林斯顿(Princeton)参加学术研讨会(Workshop)。那里的校园环境与学术氛围给她带来了前所未有的心灵震慑,让她一度萌生了“只想当一个数学家、远离世俗”的念头。

在那段时期,她感到人世间的挣扎与欲望极其荒诞和微不足道,唯有“虚无与真实”才是永恒的。在这个背景下,数学展现出了极致的优美与绝对的确定性。与数学打交道能够让人彻底静下来,进入不受任何人或杂事干扰的纯粹“心流(Flow)”状态,获得生理上的极大愉悦感。

> “在那个环境里,人世间的很多挣扎臣服都显得非常没有意义……唯有真实是重要的。数学在那个环境下显得特别的美好和优美,因为它是确定性且绝对化的。”

* **东西海岸的文化差异**:盛颖对比了东海岸与西海岸的氛围。东海岸(如普林斯顿)容易让人产生“与世界无关、希望被世人遗忘”的世外桃源感;而到了西海岸(斯坦福),周遭充满了关于“成功与否”的喧嚣(Noise),人会不自觉地被拉回现实,重新产生“想要参与并推动世界”的冲动。

---

[05:00](https://www.bilibili.com/video/BV1GaM968E6T?t=300s) 斯坦福的迷茫期与形式化验证研究

进入斯坦福的第一年并不顺利,盛颖经历了一段找不到合适导师与课题的迷茫期。斯坦福实行轮转机制(Rotation Program),在前三轮中,她一直没能找到能让自己进入心流状态的问题,也没有与导师达成双向的契合。直到第四轮,她遇到了 Clark Barrett 教授,才正式进入了**形式化验证(Formal Verification)**这一全新的研究领域。

对于形式化验证,盛颖解释道: 1. **核心原理**:将人类编写的代码进行拆解与映射,映射到底层的数学逻辑(如一阶逻辑)。 2. **逻辑证明**:利用 Specification(规格说明)定义代码的前置条件与预期行为,再通过 **SMT Solver(可满足性模理论求解器)** 从数学角度严格证明代码是否百分之百符合逻辑。 3. **研究焦点**:盛颖的研究主要集中在 SMT Solver 本身的效率优化、正确性验证以及语义空间(Semantic Space)的定义上。

---

[10:00](https://www.bilibili.com/video/BV1GaM968E6T?t=600s) 高产背后的低谷、抑郁与名师的温暖支持

虽然履历上看似高产——2020 年获得 IJCAR 最佳论文奖、2022 年获 IJCAR 提名、作为 CVC5 贡献者获得 TACAS 最佳工具论文奖——但盛颖透露,真实的博士过程远比简历展现的要干瘪和枯燥。

在凭借第一篇论文(完全小白状态下完成)意外拿到 IJCAR 最佳论文奖后,她反而陷入了巨大的迷茫,不知道下一个有价值的三线问题在哪里。随后疫情爆发,她陷入了长达近一年的抑郁(Depression)与停滞状态,完全无法做研究。

在这段低谷期中,导师 Clark Barrett 给予了她极其罕见且温暖的支撑: * **无压力的陪伴**:Clark 完全不在乎论文产出或研究进度,只关心她的精神状态与心理健康。 * **经费支持与疗愈**:他安排盛颖做轻量级的助教(TA)和上课,甚至在她回国休养疗愈的半年里,**从未中断过她的科研经费**。

一年后走出现在状态的盛颖,迎来了学术上的高光时刻。在做 Sequence 相关的证明时,她经历了极其痛苦的过程:推导了 20 多页的证明,来回修改了四五次,其中有两次因发现底层逻辑存在微小漏洞,导致后面几周的推导全部作废,不得不全部推翻重写。然而,当最终完全写通时,这种成就感无可比拟。导师 Clark 甚至称这篇论文的证明是他“过去一年里最大的 Highlight”。

* **对程序语言的深刻理解**:形式化验证让盛颖打交道 20 年的程序语言有了全新视角。她指出程序语言存在深刻的 Trade-off(权衡):**接近数学的语言更易被验证和形式化;而接近硬件的语言则更灵活、高效,符合人类编程与硬件映射的直觉**。 * **离开该领域的原因**:虽然形式化验证具备深刻的数学美感,但其工业落地成本极高、应用场景太窄,无法产生足够大的现实影响(Impact)。盛颖渴望“离真实世界更近一点”,因而决定转向 AI。

---

[15:00](https://www.bilibili.com/video/BV1GaM968E6T?t=900s) 承认天性:拒绝妥协与接受“ADHD 手册”

在从形式化验证转向 AI 的过程中,盛颖再次经历了长达一年的“学术空窗期”。她解释说,外人看到的“一年成果”,往往只是她在最后三个月里暴发产出的,而前九个月她完全处于迷茫和探索的自由状态。

在这段反复探索的历程中,盛颖深刻认识并接受了自己的天性特质: 1. **无法妥协与勉强**:她无法按照世俗规则去伪装或妥协,对于不感兴趣的事情“能做,但绝对做不好”;只有被一个问题深度吸引时,才能发挥出极致的能量。 2. **理解与和解 ADHD**:在了解 ADHD 的各种症状后,盛颖彻底完成了与自己的和解。她不再逆着自己的短板对抗,而是将 ADHD 视为自己的“使用手册”——**“顺着自己的天性去做事情”**。 3. **心流的触发机制**:盛颖的极度专注(Focus)呈两极化。当被一件事情或竞技游戏(如带输赢机制的对打、球类运动)吸引时,她会进入完全听不见外界声音、忘记时间极度沉浸的心流状态;而对于不感兴趣或不够吸引的事物(甚至包括看《甄嬛传》),她完全无法集中注意力。

> “看电视看了一半,突然不知道为什么,论文里一直想不通的点突然 echo(回响)出来,意识到这可能是一个突破点……暂停,谢谢《甄嬛传》!”

* **关于“灵感与心流”的趣事**:盛颖提到自己在硕士期间做理论研究时,大量时间在打游戏和看电视剧。有一次卡关已久的数学难题突破口,竟然是在看《甄嬛传》看到一半时突然在脑海中闪现的。

---

[20:00](https://www.bilibili.com/video/BV1GaM968E6T?t=1200s) 竞赛圈、天分与真正的“科学家”定义

作为曾经获得全国青少年信息学奥林匹克(NOI)银牌、并在纽约拿到 ACM 区域赛冠军的选手,盛颖谈到了对“竞赛圈”、“天才”与“天分”的独特见解:

* **努力 vs. 天分**:盛颖更加赞同天分的重要性。但她对“天分”的定义非常特殊——**“当外界所有人都不把研究当回事、不觉得研究伟大、甚至赚钱极少时,你依然发自内心地想去做它,这就是你的天分与真兴趣所在。”** * **发 Paper 不等于做研究,更不等于科学家**: * **发 Paper**:本质上是一门可以被掌握的套路和技能,类似于“命题作文”。只要掌握了学术体系的规律,就像打工人一样可以稳定产出论文,甚至不需要真正懂现实问题。 * **做研究(Researcher)**:是一项职业。绝大多数教授和学者都属于此类,他们享受解决问题的过程,但其研究未必具备颠覆性。 * **真正的科学家(推动人类边界者)**:盛颖设定了极高的标准——**“如果不是因为这个人,这项突破或知识边界的拓展会延迟很长时间才会发生”**。这群真正推动人类知识边界的人极度稀少(例如图灵奖得主 Geoffrey Hinton, Yann LeCun, Joshua Bengio 等)。

---

[25:00](https://www.bilibili.com/video/BV1GaM968E6T?t=1500s) 谷歌实习与大模型潜力的早期震撼

2022 年夏季,出于向 AI 领域转型的决心,盛颖前往谷歌(Google)实习,加入了 Google X 内部孵化的 AI for Code(NF4Code)项目组。

当时业界尚未经历 ChatGPT 的全民爆发(处于 AlphaCode、CoPilot 刚问世,内部测试 Lambda 的阶段)。传统软件工程领域试图将传统的程序分析(Programming Analysis)工具与 AI 结合,但盛颖从形式化背景的角度敏锐地发现:**传统的程序分析工具在现代大模型面前显得苍白无力,大模型完全不需要显式的推理规则,其展现出的泛化能力直接覆盖并颠覆了传统技术**。

* **被大模型所 Shock**:尽管当时的模型仅能生成一两百行代码,但这次实习彻底震撼了盛颖,让她坚定了“大模型就是未来”的信念,并全情投入到大模型系统的研究中。

---

[30:00](https://www.bilibili.com/video/BV1GaM968E6T?t=1800s) SGLang 的诞生与开源推理引擎的演进

从谷歌实习归来后,盛颖在 PhD 的最后两年全面转向 LLM Inference(大模型推理系统)的研究。针对从学术界到工业界的推理需求,她发起了 **SGLang**。

#### SGLang 与 VLLM 的历史起源与差异 * **渊源**:盛颖早年也是 VLLM(如 vLLM 论文)的核心贡献者之一。当时她的团队与伯克利团队有着相似的 Idea,随后选择将研究 Merge 进 vLLM 项目。但随着开源项目的演进,盛颖希望探索更多元、更具通用性与创新性的架构,从而孵化出了 SGLang(以及此前探索的 SLoRA、Punica 等项目)。 * **侧重点差异**: * **SGLang**:更早地押注于 **Scale-up(大尺度扩展)** 方向,重点解决大规模生产环境(Production Ready)、千卡/万卡乃至更高规模集群下的大模型 Serving 问题。 * **vLLM**:更早地关注于长尾模型的支持、社区覆盖度以及广泛的生态适配。 * **趋势**:两者在发展路线中交替领先、相互学习,并不断补齐各自的短板。

在伯克利访问期间,盛颖曾与 Databricks 联合创始人、伯克利教授 **Ion Stoica** 共事五个月。Ion Stoica 对“Making Impact(产生影响力)”的极度追求深刻影响了他的学生们。然而盛颖指出,自己的价值观与 Ion 略有不同:

> “我不在乎 Making Impact 本身,也不在乎某种观点是不是由我来推动的……我更在乎的是,那些我认为正确的事情,最终有没有在这个世界上发生。”

---

[35:00](https://www.bilibili.com/video/BV1GaM968E6T?t=2100s) 加入 xAI:极简政治与极致的自由支持

2024 年 10 月,刚博士毕业的盛颖选择加入埃隆·马斯克(Elon Musk)创立的 xAI,担任推理团队的负责人之一,参与构建 Grok 的生产级推理系统。

#### 为什么选择 xAI? 盛颖坦言,在博士毕业之际,作为一名 New Grad(应届生),在传统大厂很难获得足够的 Power 去推动大型项目。而 xAI 给予了她极其罕见的条件——**同时具备“Support(资源与团队支持)”与“Freedom(极高的自主自由度)”**。

#### xAI V1.0 时代的真实工作体验 针对外界对 xAI 管理混乱或高压离职潮的误读,盛颖分享了她亲历的 xAI 早期的真实工作氛围(她称之为 V1.0 阶段): * **纯粹与支持**:大家互相对技术充满敬畏与欣赏,极度 Humble(谦逊)且 Friendly。 * **零办公室政治(No Politics)**:没有任何 People Game 或内耗,所有人目标极其明确,只关注做最重要的事情。 * **极强的战友情谊**:即使在高压环境下,团队成员之间也是彼此照顾、共同克服难题,形成了极其宝贵的战友关系。盛颖甚至表示,如果不是为了让 SGLang 社区更好地生存下去,她绝对舍不得离开 xAI 这样优秀的团队。

---

[40:00](https://www.bilibili.com/video/BV1GaM968E6T?t=2400s) 马斯克的无边界文化与 RadixArk 的管理思考

在 xAI 负责 Grok 推理系统期间,盛颖的团队不仅需要搭建 Engine 底座,还要与 Product 组(部署)、Research 组(RL Rollout 与 Evaluation)无缝对接,并在庞大的算力集群上接受 Full-Stack(全栈)的工程锻炼。

#### 埃隆·马斯克(Elon Musk)带给她的管理启发 1. **无边界文化(No-Boundary Culture)**:在 xAI,部门与组之间没有硬性的物理隔离或 Scope 限制,工程师可以触及系统的任何层面。 2. **重工程师文化与直接沟通**:抛弃复杂的管理层级,一切以技术解决效率为核心。 3. **高强度的“撕裂成长”**:正如健身需要肌肉感觉到酸痛才会生长一样,xAI 的高强度和高压力极大地逼出了工程师的潜能,让人的技术视野和架构能力实现跨越式提升。

#### 关于 RadixArk 规模化(Scale-up)的挑战 谈及如今创立 RadixArk 并管理数十人团队,盛颖总结了从 xAI 组织演变中学到的关键 Lesson: * **从“靠人”到“靠系统”**:在团队规模较小(如几十人)时,依靠优秀的个人能力和文化粘性可以高效运转;但当团队规模扩展到几百人时,文化与个人能力都会变得脆弱。 * **必须主动搭建体系(System Building)**:组织规模化带来的阵痛无法自然抚平,必须极其有意识(Intentionally)地去设计和构建企业管理体系,依靠系统而非单纯依靠个人去支撑业务向前推进。

[045:00] 离开 xAI 与 RadixArk 的成立

[045:00] 盛颖回忆了离开 xAI 并创立 RadixArk 的决定过程。在 2025 年,SGLang 在开源社区迎来了爆发式的增长,大量的需求和合作邀请涌向团队。然而,当时的 SGLang 依然是一个高度去中心化的纯社区开源项目,核心贡献者们全都是“网上认识的网友”。盛颖提到,大家共同工作了近两年,甚至开会时都习惯不开摄像头,完全依靠代码来建立信任与认知。由于核心成员各自都有全职工作,大家只能依靠熬夜、利用假期等业余时间来强行维持项目的运作。随着外部需求的爆炸式增长,这种依靠极度过度拉伸(over-stretched)团队 Bandwidth 的运作模式难以为继,甚至出现了无法按时 deliver 的困境。到了约 7 月份,盛颖产生了极大的焦虑感,担心再不去填充背后的系统性空白,就会让整个开源社区和关注者失望。

[045:00] 最终,盛颖决定放弃在 xAI 即将到手的利益(离开时她刚好待了十个月,离满一年 one-year cliff 拿第一批 vesting 仅差两个月)提前离职。她坦言,当时自己的心理状态已经到了无法专注为 xAI 产生高效率价值的地步,无法接受自己处于“不配继续待下去”的内耗状态。针对金钱的看法,盛颖直言金钱对自己没有“重要性”,但有“必须性”——钱能够作为底气,让解决问题和独立创业变得更容易。

- **社区协作现状**:SGLang 核心贡献者多为长期不开摄像头的“网友”,纯靠代码和极高的热情维持开发。 - **离职契机**:7 月因社区需求过载、团队 Bandwidth 达极限而决定离职创业,放弃了 xAI 仅差 2 个月即可 vesting 的股票收益。 - **关于金钱的观点**:“我没有追逐过它,但它带来的底气是,如果我想创立这个公司,即使赚不到钱,我自己还有钱。”

---

[049:46] 华尔街对冲基金 Two Sigma 的短暂经历

[049:46] 在哥伦比亚大学毕业后、攻读博士学位(PhD)前的半年 Gap 期间,盛颖曾前往华尔街知名量化对冲基金 Two Sigma 工作过半年。她坦言,当时 21、22 岁,纯粹是出于对金融的好奇以及喜欢“跟聪明人说话、做有智力挑战的事情”而加入。尽管金融并非她的人生终极追求,但这半年的体验留下了极好的印象。在她工作过的所有公司中,Two Sigma 的评价极高(与 xAI、RadixArk 并列)。

[049:46] 盛颖特别提到,她非常幸运地碰上了 Two Sigma 最蓬勃发展的黄金时期。当时公司不仅极其拥抱开源和新技术(如 AI、Data),而且内部氛围非常纯粹开放、互帮互助。尽管 Two Sigma 并非传统意义上的科技公司,但它的基础设施(Infra)却是盛颖所经历过最稳定的,且公司整体高度组织化(organized)。这主要是因为其业务模式相对稳定,不需要频繁发生剧烈变动,大家可以安心做长期的技术维护。

- **工作时间**:哥大毕业与 PhD 之间的 6 个月 Gap period。 - **评价**:盛颖将其与 xAI、RadixArk 并列为自己经历过最好的工作体验。 - **技术感受**:基础设施极度稳定且高度 organized,内部崇尚开源与技术分享。

---

[051:30] AI Infra 的定义与工具箱愿景

[051:30] 盛颖科普了 LLM Infra(大语言模型基础设施)的核心概念与 RadixArk 的长远目标。她将 AI Infra 结构化地比喻为一个涵盖全流程的“工具箱”(Toolbox),其中包括传统的推理引擎(Inference Engine)、训练与 Post-training(如 RL)、基座模型(Checkpoints)、Codebase、Toolbox、Sandbox Environment 以及中间状态模型。这个 Foundation 的终极使命,是提供一套源源不断的底层工具支持,让开发者可以根据不同的业务场景、数据形式和 Serve 目标,灵活组合产生最适配的特化模型(例如需要响应极快的小模型,或是需要深度推理的大模型)。

[051:30] 在执行路径上,RadixArk 选择从 Pipeline 最末端的 Inference(推理)和 RL(强化学习)切入。盛颖解释道,随着 AI 渗入现实生活的各个场景,预训练(Pre-training)结束后,模型会进入 Post-training 和 RL 阶段,此时需求开始呈“漏斗状”(Funnel)暴增,不同的企业和场景需要大量衍生模型,非常适合做一套全行业共享的开放技术;而 Inference 则是真正贴近最终用户、运行在硬件上的末端环节。

- **AI Infra 的组成**:包括 Inference Engine、Post-training/RL、Checkpoints、Codebase、Sandbox 及中间状态模型。 - **RadixArk 切入点**:优先 Focus 在末端的 Inference 与 RL(如 Post-training 阶段),进而向上延伸构建完整的 Foundation。 - **技术版图涵盖**:vLLM(内存管理)、H2O(KV Cache 压缩)、S-LoRA(多 Adapter 并发)、Chatbot Arena(测评)、SGLang(结构化生成)等众多细分方向。

---

[054:50] AI Infra 的 Taste、审美与“浪漫关系”

[054:50] 针对做 Infra 所需的“Taste”(品味),盛颖表达了与众不同的深刻见解。她认为无论做 Training 算法还是做 Infra,本质的 Taste 都体现在对细节的精益求精,但更重要的是对系统设计“优美度”的追求。许多以模型或产品为目标的公司,在 Infra 的美感上有所妥协,采用很 hacky、像“豆腐渣工程”一样的方式将系统凑合搭起来;而在盛颖眼中,Infra 绝不仅仅是一个被迫支持 Researcher 跑实验或支持 Product 运行的“Supporter”,Infra 本身就是产品,甚至需要击中人性。

[055:00] 盛颖用“浪漫的关系”来形容自己与 Infra 的情感。她强调,Infra 应该具备美感、稳定且优雅。在 RadixArk 的公司文化中,极度强调 Infra First,绝不为了赶 Timeline 或刷 Benchmark 分数而打临时补丁(patch)。当训练任务卡住或出现系统故障时,RadixArk 允许暂停 Job,深入底层彻底、系统化地解决根源问题,而不是搞工程妥协。“我们希望 RadixArk 的人都是对自己、对作品特别挑剔的人。”

- **Infra 的市场现状**:游戏里“没有输家”,从 Fireworks 到 Together AI,随着市场需求暴增,所有 Inference Player 都在同步增长。 - **美感与妥协**:反对 hacky 的“豆腐渣工程”,主张 Infra 本身就是产品,必须具备设计上的优美与稳定性。 - **RadixArk 文化**:系统问题必须从深层次(systematic)解决,不急于刷 Benchmark,拒绝打补丁式工程。

---

[060:13] SGLang 核心技术:RadixAttention 与 Day-Zero 兼容

[060:13] 盛颖深入浅出地解释了 SGLang 的核心机制之一——RadixAttention。当大量 Request 发送到推理引擎时,如果请求之间存在公共前缀(如多轮对话历史、提示词模板),引擎无需重新计算 KV Cache,而是通过基数树(Radix Tree)对前缀建立索引(Indexing),并映射到 C++ Memory Pool 中实现复用。针对多轮对话及复杂 Agent 场景,前缀复用的需求无处不在。盛颖指出,SGLang 最初的设计(包括前端语言设计)就是为了 Agentic 场景而生的,旨在定义人与 AI 交互的 Interface。

[061:00] 谈及开源社区经常强调的“Day-Zero(第零天)兼容”,盛颖表示这是市场和用户的强烈愿望倒逼的结果。例如在 DeepSeek-V4 发布时,由于其架构在 RL 和算子层面上做了大量创新,团队花了大精力重写了大部分代码和 RL 框架(Miles)的算子实现,实现了第一天的全面支持。对于近期学术界探索的 Latent Space 推理(如 Meta 的 Coconut、Cola-DLM 等),盛颖认为推理引擎本来就是在应对持续的变化,适应变化的能力才是团队的核心。

> "人与 AI 之间交互的 interface……有一天我们会 revisit 这个部分,最终它还是应该是一个 language 的形式。"

- **RadixAttention 原理**:利用 Radix Tree 对 Request 的公共前缀做 Indexing,并与 C++ Memory Pool 映射,实现 KV Cache 的高倍复用。 - **Day-Zero 兼容案例**: DeepSeek-V4 发布当天即实现全面适配,为此重写了 Miles(RL 框架)的大量底层算子。 - **团队竞争优势**:技术变迁速度极快,在 AI 辅助写代码的时代,真正的难点在于“人与团队本身”——团结、谦逊、聪明且努力。

---

[066:05] RadixArk 的远大使命:做下一代 AI(Next Generation AI)

[066:05] 针对同赛道公司(如 vLLM 团队商业化成立的 vLLM 公司/Infra 公司、Together AI、Fireworks AI、Unsloth 等)的竞争,盛颖提出了令人意外的视角。她表示,虽然 RadixArk 拥有 SGLang 这个极强的开源引擎,但 RadixArk 的长远使命并不局限于 Inference 赛道。SGLang 属于整个开源社区,RadixArk 在 SGLang 上没有任何 private fork,完全全开源。Inference 和现有的 Infra 只是 RadixArk 的一个起点和前提条件。

[066:05] 盛颖透露,RadixArk 的终极使命是做“下一代 AI”(Next Generation AI)。它既不是单纯的模型,也不是目前世界上已存在的东西,而是一种全新的形态。因此,RadixArk 与现有的 Inference 服务商(如 Fireworks、Together、Baston 等)并非竞争关系,而是保持和谐与盟友关系,希望用开源底层技术赋能所有人。

- **商业化与开源态度**:SGLang 完全属于社区,RadixArk 保持全开源、无私有分支(no private fork),不靠封锁技术获取利益。 - **未来定位**:Inference 只是起点,RadixArk 终极使命是打造“ Next Generation AI”。 - **行业生态**:将 Hyperscaler、Neo Cloud、Infra Provider 及传统大企均视为合作伙伴与客户,帮助他们具备制造和利用 AI 的能力。

---

[071:43] Miles 框架与从研究员到 Founder 的角色转变

[071:43] 盛颖解释了为什么 RadixArk 在 SGLang 之外还要开发专注于 RL Training 的 Miles 框架。由于 Inference 和 RL 是最靠近用户的两个末端环节,且 RL 内部包含大量的 Rollout Engine,与 Inference Engine 在系统层面上存在巨大的重叠(overlap),因此同时布局这两个模块具备极高的协同效应。

[073:00] 谈到从 Researcher、大厂 Team Leader 到 Startup Founder 的转变,盛颖分享了关于管理与责任的深刻体会。在 xAI 时,尽管她将项目视为自己的“Baby”,但作为小团队 Leader,她既没有 Authority(权力)也没有真正的 Responsibility(责任)——正如 xAI 领导 Tony 和国动曾对她说过的:“Authority and responsibility must match.”(权力必须与责任匹配)。无法做决定,就无法承担责任。

[074:00] 而如今创业做 CEO,做出所有的决定变成了她的义务,所有的成败与背锅责任全在自己一人肩上。面对融资(与 Sand Hill Road 的投资人打交道)和招人等新挑战,盛颖学会了用第一性原理(First Principle Thinking)去理解投资体系与人性。最终,RadixArk 获得了英伟达(NVIDIA)、AMD、英特尔(Intel)三大半导体巨头的罕见集体投资及硬核机构背书。

- **Miles 框架**:针对 RL 训练推出的开源框架,与 SGLang 在系统底层和 Rollout 阶段有深度协同。 - **xAI 历练感悟**:在 xAI 深刻理解了“权责匹配(Authority and responsibility match)”的概念。 - **融资突破**:凭借极高的跑出速度(speed)和技术实力,集齐 NVIDIA、AMD、Intel 三大芯片巨头的战略投资。

---

[080:00] 开源的情结:像空气一样自然

[080:00] 盛颖澄清自己并非刻意执着于开源,开源对她而言是“自然发生”的,如同呼吸的空气。她回忆起自己的成长经历:出生于中部省份江西,小时候想要学习编程和计算机竞赛却没有太多加工好的优质资源,大部分知识全靠从互联网上无偿获取——在 CSDN、各类 Online Judge 平台上吸收不知名陌生人留下的代码和帖子。盛颖动情地说,自己是被全世界不知名的人通过互联网“养大、教会”的,因此分享(sharing)与开放(open)的文化早已深入骨髓,有了新想法不分享出来反而会觉得奇怪。

[081:30] 谈及开源社区的现状,盛颖指出近年来开源获得了更多资本与公众的认可,但也混入了一些“功利主义者”。这些人的存在破坏了原本纯粹的美好,让相信开源的人产生困惑。在闭源与开源之争上,盛颖认为两者将长期共存。她既不支持 AI 被少数几个垄断巨人(如 Anthropic、OpenAI 等)完全控制,也不认为完全无界限的开放是绝对安全的,因为“完全打开时,人性的恶也会被放大”。

- **成长故事**:生于江西,靠早期互联网社区(如 CSDN、Online Judge)的无私分享自学编程,深受开源文化滋养。 - **开源现状反思**:认可开源繁荣的同时,警惕“功利主义者”对纯粹社区氛围的侵蚀。 - **开闭源立场**:主张开源与闭源共存,反对 AI 技术的中央集权化(centralized)。

---

[084:20] 人类与强 AI 共存的未来 & LMSYS 的平权初心

[084:20] 面对“AI 是否应该停止研发”的讨论(如 Dario Amodei 等人的呼吁),盛颖直言“让所有人停下来违背人性”,因为没有一个绝对的上帝能安排所有人按部就班。在可见的未来里,AI 会作为提升生产力的工具取代人类的部分功能,并引发类似于甚至超越工业革命的社会与权力结构动荡。而面对更遥远的未来,盛颖认为阻止 AI 威胁人类的方式绝不是呼吁停止研发,而是“发明发现另一条路径,使得你允许 AI 继续前进,而人类还不会输”。RadixArk 的目标就是赋予所有人制造 AI 的能力(Democratization),构建一个人类与强 AI 健康共存、平等竞争的未来。

[087:00] 最后,盛颖谈到了她与联敏最初共同发起的非营利组织 LMSYS(孵化了 Chatbot Arena 等知名项目)。LMSYS 和 RadixArk 共享着相同的核心价值观——“平权与平等”。盛颖透露,这个初心源于她个人的低谷与高光经历:当一个人处于高光期,做的事情极易被夸大和关注;而处于低谷期时,做出的好成果却很难被看见。LMSYS 的使命就是抹平这种背景与资源带来的差异,保护未建立名声(unestablished)的真实开发者的掌控权,让优秀的项目和真正做事情的人能够被世界看见。

- **人类与 AI 关系**:打造人人可用的 Infra 工具,确保 AI 权力去中心化,构建“人类不会输”的强 AI 共存未来。 - **LMSYS(盲测竞技场 LMSYS Org)初心**:通过匿名盲测等机制抹平背书与资历差异,捍卫底层开发者对项目的掌控权与贡献归属。

[01:30:00](https://www.bilibili.com/video/BV1GaM968E6T?t=5400s) 技术领域的平等与结构性改变

在谈及技术社区中的公平与平权时,盛颖强调,她所理解的“平权”更多是指向所有人——特别是程序员或研究员——提供“相同的机会”。她坦言,自己对平权的执着来自于多重原因:

一方面,这是她天性使然;另一方面,来自于她从小到大切身经历与目睹的性别不平等。她指出,这类性别偏见往往表现为极其频繁、每天都在发生的“微小事件”。单看某一件小事似乎影响有限,但当这些小事乘以成百上千次并叠加到整个群体时,就会凝结成深刻的社会共识(common sense),对当事人造成长期的冲击。

此外,她在学术界的经历也让她看到了结构性的不平等。她坦言,自己发表的一些论文其实质量普通,但仅仅因为她是斯坦福或伯克利的研究者,这些成果就被赋予了某种权威标准;而同期其他研究员类似的工作却可能被无视。虽然自己是这种机制的“获益者”,但正是这种身份给她带来了改变现状的资源与力量。

* **对改变的认知**:盛颖认为,面对如此庞大的结构性问题,个人的力量微乎其微。但她曾对朋友 Solica 表示,哪怕自己只能改变 $1\%$,也愿意用一生去推动这 $1\%$ 的改变。 * **“递归式”传递(Recursive Chain)**:要改变现状,直接去帮助弱势群体往往治标不治本。真正有效的方式是找到那些“同样想要帮助弱势群体的人”,建立起递归式的传递链条(例如“培养那些想要去把学生培养成老师的老师”)。这种改变虽然极度缓慢,但它是坚实(solid)且不可逆的,远胜过表面巨大却不稳固的飞跃(big jump)。

---

[01:35:00](https://www.bilibili.com/video/BV1GaM968E6T?t=5700s) 学术界隐性的性别偏见与“甄嬛传”

谈及学术与竞赛领域的性别偏见,盛颖指出,这种不平等通常不会表现为直接的歧视,而是极其微妙(subtle)的意识层面不对称:

以她从小打竞赛的经历为例,如果男生取得了顶尖成绩,大家会称赞他是“天才”;但如果是女生赢了,旁人就会归咎于“她很努力”、“听话”或是“运气好”。她回忆道,小时候自己在各大赛事中的成绩一直拔尖,优于学校里的同行(peer),但身边的人总会找无数理由来解释“她为什么会赢”——比如“对手状态不好”、“这道题她以前做过”等。在传统语境中,赢本不需要解释,但女生的每一次胜利却都需要被赋予一个外在原因。

这种微妙的偏见在其后的博士学习、研究以及项目合作中一直延续。一旦有男性合作者出现,外界就会质疑“这个 Idea 是不是别人的”。盛颖直言,面对这种无处不在的“甄嬛传”式的内耗与偏见,年轻时她态度更为极端,但如今她深知,唯一的解决办法就是**让女性真正进入 top 0.001% 到 1% 的阶层并拥有权力**,除此之外别无他法,单靠教育无法改变底层逻辑。

* **访谈花絮**:盛颖提及前一天看到节目组制作的深研文档(doc)时大受触动。她坦言很多投资人甚至都没有对创始人做过如此详尽的背景调查。 * **职业本质的思考**:她感叹很多职业在定义里“应该发生的事”(如采访者做深度研究、投资人做深度尽调、PhD 认真做研究)在现实中往往不会自然发生。一个人只要能把职业里本分的事情做完,就已经非常稀有。

---

[01:40:00](https://www.bilibili.com/video/BV1GaM968E6T?t=6000s) 坚持对美好事物(纯粹关系)的信任

回顾自己的求学、开源与融资历程,盛颖表示,尽管每一段经历的开端都充满了挫折与波折,但最终都走向了“教科书般完美”的终点:

* **PhD 阶段**:早期寻找导师并不顺利,但最终遇到的导师堪称教科书般完美。 * **开源项目**:早期屡遭打击,但最终凝聚起了一支极具能量、热情与凝聚力的顶尖团队。 * **融资创业**:刚出来融资时,她对资本市场几乎一无所知,不仅不知道 Term sheet、估值、Seed 轮,甚至连 P12(商业计划书/Deck 页数)等基础术语都没听说过。尽管书本上将投资者与创始人的关系描绘得如“终身友谊”般美好,而现实往往复杂残酷,但她最终选择的领投方和 Partners 再次重现了书本中那种纯粹而美好的合作关系。

盛颖感叹,绝大多数人之所以没有体会到这种纯粹,是因为他们没有坚持走完跌宕起伏的过程,在筛选和等待的途中就放弃了信任。所有美好的东西并不是凭空编造的,但需要足够的耐心去让不理想的沙粒自行脱落。

当被问及在面对这个“草台班子”般混乱、随机的世界时如何做到逻辑自洽,盛颖坦言自己情绪非常丰富(emotional),很多微小的事情都会对她造成巨大的情绪冲击。但她拥有将“情绪影响”与“价值观构建”分离的能力:

> "我仍然会坚信有一个我想看见的世界,但我现在没看见他,只是我还没看见他而已。"

她透露,这种坚守来自于过往正反馈的积累:第一次坚持等待了几个月被验证,下一次等了几年,再下一次等了十年。正是这些反复被验证的经历,让她拥有了极强的心理承受力,去等待正确的事物最终显露。

---

[01:45:00](https://www.bilibili.com/video/BV1GaM968E6T?t=6300s) 贯彻自我意志与终局展望

针对“天分不同导致有些人可能等不到正反馈”的追问,盛颖分享了她对内心情绪与认知自洽的理解:

她认为,即便自己的认知在长达十年的时间里与现实世界严重割裂、处于一种孤立的状态,这种割裂本身也是完全可以接受的(OK 的)。人们往往只是害怕这种割裂感,但只要能够厘清内心的边界(boundary),不违心地妥协,就没有关系。

* **执行自我意志**:世界上没有绝对的正确,每个人都可以有自己的想法。最糟糕的状态不是“犯错”或“不和谐”,而是“失去了执行自己意志的能力”,沦为被别人牵着走或被迫妥协的状态。

---

**【本期尾声与节目总结】**

主持人陈倩在结尾总结道,本期采访录制于 2026 年 6 月初,彼时 RadixArk(Radix Ark)刚宣布融资不到两个月。随着 AI 市场迎来了开源模型的爆发,SGLang 等开源推理引擎作为 AI Infrastructure(AI 基础设施)的核心技术框架,正在成为连接英伟达 GPU、谷歌 TPU 等芯片与各大模型及应用的关键层。节目组也共同期待着盛颖口中那“保密且目前尚不存在的下一代 AI”的到来。

## Notable quotes > [05:00](https://www.bilibili.com/video/BV1GaM968E6T?t=300s) 在那个环境里,人世间的很多挣扎臣服都显得非常没有意义……唯有真实是重要的。数学在那个环境下显得特别的美好和优美,因为它是确定性且绝对化的。 — 盛颖

> [15:00](https://www.bilibili.com/video/BV1GaM968E6T?t=900s) 看电视看了一半,突然不知道为什么,论文里一直想不通的点突然 echo(回响)出来,意识到这可能是一个突破点……暂停,谢谢《甄嬛传》! — 盛颖

> [20:00](https://www.bilibili.com/video/BV1GaM968E6T?t=1200s) 当外界所有人都不把研究当回事、不觉得研究伟大、甚至赚钱极少时,你依然发自内心地想去做它,这就是你的天分与真兴趣所在。 — 盛颖

> [20:00](https://www.bilibili.com/video/BV1GaM968E6T?t=1200s) 如果不是因为这个人,这项突破或知识边界的拓展会延迟很长时间才会发生 — 盛颖

> [30:00](https://www.bilibili.com/video/BV1GaM968E6T?t=1800s) 我不在乎 Making Impact 本身,也不在乎某种观点是不是由我来推动的……我更在乎的是,那些我认为正确的事情,最终有没有在这个世界上发生。 — 盛颖

> [45:00](https://www.bilibili.com/video/BV1GaM968E6T?t=2700s) 我没有追逐过它,但它带来的底气是,如果我想创立这个公司,即使赚不到钱,我自己还有钱。 — 盛颖

> [01:00:13](https://www.bilibili.com/video/BV1GaM968E6T?t=3613s) 人与 AI 之间交互的 interface……有一天我们会 revisit 这个部分,最终它还是应该是一个 language 的形式。 — 盛颖

> [01:13:00](https://www.bilibili.com/video/BV1GaM968E6T?t=4380s) Authority and responsibility must match. — Tony / 国动

> [01:21:30](https://www.bilibili.com/video/BV1GaM968E6T?t=4890s) 完全打开时,人性的恶也会被放大 — 盛颖

> [01:24:20](https://www.bilibili.com/video/BV1GaM968E6T?t=5060s) 发明发现另一条路径,使得你允许 AI 继续前进,而人类还不会输 — 盛颖

> [01:40:00](https://www.bilibili.com/video/BV1GaM968E6T?t=6000s) 我仍然会坚信有一个我想看见的世界,但我现在没看见他,只是我还没看见他而已。 — 盛颖

## Mentioned 盛颖, xAI, SGLang, RadixArk, Grok, LMSYS, Chatbot Arena, 埃隆·马斯克 (Elon Musk), Clark Barrett, Ion Stoica, vLLM, Miles, RadixAttention, DeepSeek-V4, Two Sigma, 英伟达 (NVIDIA), AMD, 英特尔 (Intel), Google X, NF4Code, SLoRA, Punica, H2O, Together AI, Fireworks AI, Unsloth, Anthropic, OpenAI, Dario Amodei, Geoffrey Hinton, Yann LeCun, Yoshua Bengio, 上海交通大学, 哥伦比亚大学, 斯坦福大学, 普林斯顿大学, 加州大学伯克利分校, Databricks, 甄嬛传, 陈倩, 硅谷101

## 弹幕氛围 (Danmaku mood) — 254 条 整体氛围以对嘉宾(盛颖)的崇拜、敬佩与感动为主,后期呈现出强烈的共鸣与升华感。观众在视频前半段对嘉宾的履历、中英混杂口语及主持人提问展开了少量争论与吐槽,但随后逐渐被嘉宾的深刻见解、专注力与真诚所打动,弹幕普遍称赞其为“清醒的天才”,并在结尾部分被彻底“泪目”和“感动”。

**整体情绪**:😊 正面 70% · 😐 中性 20% · 😞 负面 10%

**热议点** - **对嘉宾顶级履历与天才大脑的膜拜** —— “霸气外露,一眼文曲星下凡~~~” - **关于家庭背景、特权与“何不食肉糜”的现实讨论** —— “不需要考虑经济的人,当然可以为所欲为” - **对嘉宾使用中英混杂表达及“叠甲”行为的吐槽与辩护** —— “笑死了,之前每次视频都有弹幕质疑这些英文的,现在搞得都得叠甲了。” - **吐槽采访者/主持人的提问方式与引导** —— “顶刊这段,提问者纠正得过多了,个人感觉有点干扰发言者” - **对开源精神、知识平权与AI技术发展的共鸣** —— “是的,共享是最本真的互联网精神,不该因为资本的打压而被异化甚至遗忘。” - **对社会预设、性别与“祛魅”话题的深刻思考** —— “说得好,从小的差别对待是根源,本质上是社会预设了不同,进而形成不同” - **视频结尾关于“相信”与“信念”的感动升华** —— “理性带来的感性之光”

**代表弹幕** > 我滴妈 膜拜大佬

> 霸气外露,一眼文曲星下凡~~~

> 真的好欣赏也好羡慕她,她就是更有才华有更好家庭的我

> 只有有钱的人才有资格说钱不重要

> 技术名词用原词天经地义。

> 盛颖思想非常深刻,那么年轻就那么深刻,太厉害了!

> 是的,共享是最本真的互联网精神,不该因为资本的打压而被异化甚至遗忘。

> 理性带来的感性之光

> 永远相信美好的事情即将发生

> 看哭了哈哈

> 感谢颖老板给所有人一个可能已经被否定选择!

> 神级采访

[Source](https://www.bilibili.com/video/BV1GaM968E6T)

中文简报

xAI前推理团队负责人盛颖创办RadixArk 通过开源SGLang与Miles框架下放算力基础设施,旨在打破AI中央集权并保障人类在强AI时代的生存空间。 节目深入回顾了盛颖从江西求学、哥大与斯坦福学术探索到走向 AI Infra 前沿的成长全路线。她分享了自己在博士期间经历低谷与抑郁后接纳 ADHD 特质、顺应天性的心路历程,以及在谷歌实习和加入 xAI 参与 Grok 推理系统搭建的实战体验。针对 SGLang 社区需求爆棚的现状,她选择放弃 xAI 未解禁的股票成立 RadixArk,致力于打造更优雅、去中心化的 AI Infra 工具箱与“下一代 AI”,并表达了对开源平权、学术与竞赛界隐性性别偏见的深刻见解。 盛颖认为 AI Infra 绝非单纯的后勤支撑,其本身就是产品并追求优美与优雅;接纳 ADHD 特质后,她选择顺应天性做事,只对能带来深度吸引的问题全力以赴。 (0:00) 经历形式化验证研究的低谷后,盛颖在谷歌实习中受到大模型潜力的强烈震撼,随后全面转向大模型推理系统研究并主导发起了开源推理引擎 SGLang。 (25:00) 加入 xAI 期间,盛颖体验到了零政治内耗与高度自主的工程文化,深刻体悟到“权力与责任必须匹配”的管理原则。 (35:00) 随着 SGLang 社区需求暴增超出业余维系极限,盛颖提前放弃即将归属的股权离职创立 RadixArk,并获得英伟达、AMD 与英特尔等巨头的战略投资。 (45:00) 盛颖参与发起 LMSYS 并致力于推动技术平权,期望通过开放底座赋能所有人,构建人类与强 AI 共存且人类不会输的未来。 (84:20)

Reading summary

SGLang 创始人、RadixArk 首席执行官盛颖认为,AI 基础设施不仅是后勤底座,更是具备独立美学的产品;面对大模型发展,应当通过开源与去中心化重构技术权力,推动技术平权与人类长远共存。 Infra美学追求与SGLang核心技术 盛颖主张 AI 基础设施(Infra)自身就是产品,必须具备优美度与长期稳定性,反对为了赶进度或刷榜而采用打补丁式的“豆腐渣工程”。在 RadixArk 的技术哲学中,系统遇到卡顿或故障时必须从深层次系统化解决根源问题,保持高标准的工程审美。 这一理念贯彻于开源推理引擎 SGLang 的研发中。其核心机制 RadixAttention 利用基数树(Radix Tree)对请求的公共前缀建立索引并映射至 C++ 内存池,在多轮对话与复杂智能体(Agent)场景中大幅复用 KV Cache。此外,团队推出协同强化学习训练的开源框架 Miles,并在 DeepSeek-V4 发布首日通过重写底层算子实现即时兼容,以敏捷的工程组织应对快速演进的模型架构。 RadixArk的商业突围与组织管理进化 2025 年 SGLang 社区需求呈爆发式增长,由于核心成员分散且全职在身,仅凭业余精力维护导致团队带宽逼近极限。为了不让开源社区停滞,盛颖在距离满一年行权(vesting)仅剩两个月时从 xAI 离职创业,成立 RadixArk 并获得英伟达、AMD 和英特尔三大芯片巨头投资的 1 亿美元种子轮融资。 在管理认知上,盛颖吸收了 xAI 的全栈工程锻炼以及“权力与责任必须匹配”的理念。她指出,几十人的早期团队尚可依赖个体才华和文化粘性,但随着组织扩张,必须有意识地构建管理体系,依靠系统而非个人能力支撑业务。她同时强调,SGLang 保持完全开源且无私有分支,推理引擎只是基础设施的起点,RadixArk 的长远目标是探索目前尚未存在的“下一代 AI”。 开源基因、权力去中心化与平权初心 盛颖自幼在中部省份江西依靠早期网络社区与在线平台自学编程,这种受惠于陌生人分享的成长经历使开放协作成为其本能,但她也对涌入开源生态的投机功利主义保持警惕。她认为开源与闭源将长期共存,反对 AI 核心控制权被少数寡头巨头垄断,同时指出无限制的开放同样伴随风险。 她联合发起非营利组织 LMSYS(孵化了 Chatbot Arena 竞技场),旨在通过匿名盲测等机制抹平资历与背景差异,保护未成名开发者的贡献归属。面对强 AI 是否应暂停研发的争论,盛颖认为强行遏制违背人性,有效路径应是将底层工具普惠化(Democratization),使更多主体具备构建和掌控 AI 的能力,形成人类不被技术淘汰的制衡结构。 接纳天性、结构性偏见与对纯粹的坚守 (90:00) 盛颖将自身的 ADHD 特质视作顺应天性的“使用手册”,承认自己在缺乏兴趣时无法妥协,只有进入高度聚焦的心流状态才能迸发极致产出。回顾其在数学、形式化验证及学术低谷期的经历,导师 Clark Barrett 的包容与信任进一步加深了她对纯粹专业关系的信心。 谈及学术与竞赛环境,她指出女性面临着隐性的结构性偏见——胜绩常被归因为听话、努力或运气,甚至面临成果归属的质疑。盛颖认为单一的说教教育难以破除既有社会偏见,唯有让女性真正进入顶层核心掌握实际权力,并通过递归式的链条传递帮助弱势群体。尽管现实环境多有混乱与阻力,她坚持将情绪波动与核心价值观分离,坚信长期专注终能筛选并验证理想中的合作与信任。 AI 基础设施正在成为连接算力芯片与模型落地不可或缺的技术关键层。在开源社区生态与商业化运营的双重诉求下,盛颖如何在持续维系技术优雅性的同时兑现“下一代 AI”的蓝图,仍有待未来技术变迁与市场的长期检验。

Source quotes

[5:00] 盛颖: 在那个环境里,人世间的很多挣扎臣服都显得非常没有意义……唯有真实是重要的。数学在那个环境下显得特别的美好和优美,因为它是确定性且绝对化的。 [15:00] 盛颖: 看电视看了一半,突然不知道为什么,论文里一直想不通的点突然 echo(回响)出来,意识到这可能是一个突破点……暂停,谢谢《甄嬛传》! [20:00] 盛颖: 当外界所有人都不把研究当回事、不觉得研究伟大、甚至赚钱极少时,你依然发自内心地想去做它,这就是你的天分与真兴趣所在。 [20:00] 盛颖: 如果不是因为这个人,这项突破或知识边界的拓展会延迟很长时间才会发生 [30:00] 盛颖: 我不在乎 Making Impact 本身,也不在乎某种观点是不是由我来推动的……我更在乎的是,那些我认为正确的事情,最终有没有在这个世界上发生。 [45:00] 盛颖: 我没有追逐过它,但它带来的底气是,如果我想创立这个公司,即使赚不到钱,我自己还有钱。 [60:13] 盛颖: 人与 AI 之间交互的 interface……有一天我们会 revisit 这个部分,最终它还是应该是一个 language 的形式。 [73:00] Tony / 国动: Authority and responsibility must match. [81:30] 盛颖: 完全打开时,人性的恶也会被放大 [84:20] 盛颖: 发明发现另一条路径,使得你允许 AI 继续前进,而人类还不会输 [100:00] 盛颖: 我仍然会坚信有一个我想看见的世界,但我现在没看见他,只是我还没看见他而已。

Original transcript

[0:00] Hello各位,欢迎来到硅谷101,我是陈倩这期视频播客我们的嘉宾是XAI前推理系统负责人开源推理引擎SGLane的发起人,圣颖圣颖本科毕业于上海交通大学ACM班之后在各大获得了计算机科学硕士学位并且在斯坦福大学获得了计算机科学博士学位他的研究经历横跨算法形式化验证和大模型系统大模型浪潮兴起之后呢他成为了LMSIS开源社区的核心成员具有行业影响力的项目并且创办了推理引擎SGLane之后深影加入XAI并且共同领导GWARC的推理团队将开源研究带入全球最显年的大模型工程实践如今他从SGLane开源生态中孵化出创业公司RedixArc希望把只有少数科技巨头才能够拥有的前沿AI基础设施变成整个行业都可以使用的开放技术底座RedixArc创立之初便完成了1亿美元种资论融资普兹巴尔几乎是集齐了硅谷所有的算力巨头和技术领袖任务Rentzart这种属于是要做下一代AI我想要build的那个未来就是一个跟强力AI共同的未来以模型为目标的这些公司Infra的美感上有所所信因为我跟Infra之间的这个浪漫的关系我觉得Infra它不是一个support角色Infra本身在我眼中就是产品你本身是一个喜欢intense的人吗我是个必须intense的人就你觉得你是ADHG但它不是一个底部它是一个特点它是一个手册我突然知道的就是我应该顺着我的前去做事情一旦获到了这个之后很多事情就迎刃而解一个电视剧看到那一半你突然我怎么突然开始知道怎么解决这个问题了暂停谢谢郑平你还见识什么电视剧吗《正宝传》《正宝传》世界上存在那么纯粹那么好的导师存在那么好的投资人存在那么好的采访者那些好多人都存在但是你要非常相信他你要相信到你身边没有这样的人你还相信他然后有一天跟你一样想起来他有一天会跟你相遇那么这期视频播客啊我建议大家配合我们上一期的解释性视频一起看上个视频呢我们从SGLane的技术入手解释了AI Infra的作用以及软件层怎么能够把硅的极限给炸出来相信对AI Infra的技术比较了解之后呢再来看这期我和盛影的对话可能就会有不一样的感受还有就是呢嘉宾在美国多年谈到技术的时候有些词汇用到英文表达我们也在字幕上给出了翻译请大家多多的等待请不吝点赞 订阅 转发 打赏支持明镜与点点栏目非常感谢盛盈欢迎做客硅谷101感谢你们的采访我看你们是刚刚搬了这个新的办公室是吗对对对一号刚搬过来你们现在大概多少人了现在有40多人扩张会非常的迅速吗其实比我一切的快因为我们事实上我们扩张scope增长的也比想象的快然后各个地方都需要人我们能招进来的人也比我想象的要有更多qualified的candidates所以我们也稍微有点虚招实在是我们已经在控制了今天会讲一讲你整个的学生时代到你之后的研究时代再到你出来在X还有你自己现在startup然后我们可以按照这个顺序来讲首先你其实是大学在上海交大然后上了ASM的荣誉班17年就来到了美国哥伦比亚大学读硕士学位了当时出国是因为大家都要出国选这条路呢确实也是因为大家当时很多人是要出国但是我其实对出国的概念知道的很晚我觉得我从江西到本科的时候是经历了一个很强的cultural shock的一种感觉就是我觉得我身边的人更理解职业发展人生发展他们有更多的规划其实我是处在一个无知状态我觉得我本科刚毕业的时候一开始其实我甚至没有申到什么就是我申请了美国的大学但我其实没有拿到offer一开始当时有一个讲中文大学的PhD的offer然后我接了甚至都已经申请上我就有个君子协议4月15号君子协议都已经过了的第二天我突然收到了各大与国发的一个很普通的研究生就Master Offer他其实是个很普通的Offer就是很多人都能拿到但是我当时就觉得我想接触一些新的东西我想因为那个时候的学术中心还是在美国我觉得我想出去看到哪怕各大的这个Master Program它不是一个特别顶尖的Program但我想看到然后我当时我还跟我爸打电话说啊这个我们前面P-S-U-V能不能毁我还需要交一笔违约金但是我想出去看看我还犹豫了一下然后给我爸打一通电话但我爸非常快就是一分钟就说好你去就交流远近那你说你从江西到上海其实是有一段Culture Shock的那你从上海到美国也是不是经历了Culture Shock也有吧我觉得我确实是每一段都是那个舒适圈打破在早期的经历里但是我在纽约的感受要纽约是很包容的一个城市这个Shock其实不太Shock就是我感到不一样但我觉得极大的被包容了具体体现在其实什么方面呢就是我觉得在纽约当时文化让我觉得没有人盯着盯着我看没有人在乎我穿什么想什么做什么我想要是 [5:00] 我在纽约感受到那个shock更多的是一个不需要被judge也不需要judge别人的shock这个shock是从一个被限制状态到一个完全自由状态的一个对它是个稍微但它其实是个更放松的过程挺好的那我看你在那个各大硕士阶段发表的论文还是比较偏理论的吗主要是测试函数然后现行回归的数学性质后来到了斯坦福度PhD的时候你选择了形式化验证方向那么先跟我们说一下在各大你从事的这些研究其实是很难的吗对你后来的研究有产生任何的影响吗?我刚上研究生的时候是没有想要做研究的但是我第一学习时候上了计算复杂性的课那是觉得很有趣然后我又碰巧教了一些当时的朋友就是当时的博士生朋友然后他们都是做理论的然后我就觉得这个领域非常有意思我就找老师和这些同学们说能不能有一些问题可以研究研究了一段时候觉得很有趣然后也有成果所以自然而然的就到了斯坦福就是你研究生毕业的时候有考虑过我要工作还是说我要申请博士吗我一开始是没有想要申请博士或者说我也没有觉得我不会申请博士但是我没有盯着这个目标去我没有对着这个目标去我觉得它是open的所以我也保留了这个选项探索了一下但我后来发现那个理论的问题非常有意思我自己也非常享受我当时就觉得我甚至也不需要赚很多钱我觉得我想stay poor我想找一个没有人的地方我当时有一次去那个Flinxland我去参加一个workshop然后我当时被那个环境就直接包围了进到Flinxland那个校园那个环境里面我就突然觉得与世无争非常academic跟歌大他也不是有点他就是与世无争进到那里的感觉就是没有就是会觉得你人世间的很多这种大家所在乎的东西平时去挣扎臣服的东西都非常没有意义是学校的环境给你这样的感觉还是说那边的人他的氛围是那样的应该也是还是那个workshop给我带的那个环境加上那个workshop你的人带的讨论的氛围感那个氛围感让我觉得所有事情都是不重要的我觉得人的想法都七情六欲都是不重要的都是甚至看上去有点荒诞的那什么是重要的就是什么都不重要是重要的这是一种是一种虚无你觉得虚无才是它真实的东西就只有真实是重要的这是重要的然后数学在那个环境下就会显得特别的美好特别的优美因为它是确定型而且是绝对化的然后你在跟他打交道的时候没有什么其他东西需要思考它可以让你非常的沉静和focus或者说你可以在这个环境里面进入心流状态思考问题的时候进入心流状态这个心流状态是与人无关与其他所有性都无关大脑被完全的调转起来说进入生理性欲悦我有点描述不出那个感觉我能get到你的意思但是这个状态我觉得非常的纯粹就是很纯粹很像一个会成为一个数学家的人的一个状态但是你后来为什么没有成为一个数学家呢对我当时就是很想成为数学家我当时觉得我就要成为一个数学家我觉得我只想做数学但是事情的发展总是不是那么简单毕竟我还是有生活上的各种干扰到了斯坦福之后第一年也确实没有在我觉得到了斯坦福我就没有那个感觉了我不知道这个是斯坦福不如古林斯坦纯粹吗古林斯坦那个只是一场travel我人在疙瘩但我在疙瘩的时候也能感受到这个氛围我现在觉得是不是西韩和东海岸其实有点这种文化的差异性在西海岸就是慢慢你会感觉到更多的这种关于成功与否的这种noise就是你想要参与世界的推动我又开始觉得我跟世界有关我就觉得我不想跟世界无关但我在东海岸的时候我觉得我希望我跟世界无关我希望我被世人遗忘很不一样的一种感受但我在斯坦福第一年的时候想做理论那个时候斯坦福是有rotation program要配导师配导师配导师之后你才决定你后面五年皮炼世界旅程怎么走前面几期有些人因为各种各样的原因比较复杂各种各样的原因没有没有再遇到很很让我觉得能够进入心流状态的问题也没有跟哪个老师能够双向的都觉得很很exciting可能老师们也觉得我对他的问题不特别感兴趣有一些情况也就是我可能也觉得那个老师我们没有完全match上最后到了第四轮跟我现在后来老师Skark match上的时候就已经进入到一个新的topic了是Clark Barrett教授对吧他其实是做形式化验证的一个方向能不能跟我们的观众来解释一下什么是形式化验证这个领域也很大但我可以简单讲我当时做的一部分的话题一部分的课题我们当时一部分的科技是我们要把就是我们人写出来的代码进行拆解和映射然后把它映射到底层的数学逻辑上你可以把这个代码映射到一阶逻辑你在这个逻辑出来之后你就可以从数学角度去证明你写的这份代码它是不是具备某一个性质我跟具体来说的话我一份代码其实以隐藏的来说我们是有一个东西叫做SpecificationSpark其实是说明了这个代码它满足什么前驱条件它会有什么样的 [10:00] 然后你代表执行晚舟要么都什么样的条件你可以有这样一套语言去描述这个程序然后你要证明的就是如果你在有这个Size的情况下你的代码是不是真的符合了这样一套逻辑从大马映射到这个逻辑formular之后formular直接的证明和推理就是我做的那个领域研究领域SMT Solver做的事情然后我的研究大部分是在SMT Solver的那个Solver本身的优化优化一方面跟efficiency有关一方面跟正确性有关但它更多的是跟你怎么定义语有关就是你定义什么样的语义空间可以去表达你一份代码所做的事情戴斯坦福其实你开始这个深入形式化验证之后我们看到就是开始框框出论文了2020年是拿到了IJCARD的最佳论文奖2022年是拿到了IJCARD的提名后来又是CVC5的贡献者之一是拿到TACAS的最佳工具论文奖太高产了你觉得这段时间你的一个研究的状态是什么样子的其实这个真实的过程比外面看到的这个简历上的内容要要干扁很多其实要boring很多我其实在斯坦福前几年的经历并不顺利一个是我首先刚进来第一年的时候找导师其实就不是很顺利被动地进入了这个行事化方向的领域因为我要读这个PhD所以我才就是需要把这个地方不停地去做研究产出论文是我其实比较被动的状态当然我在做的过程中慢慢地也欣赏到了它的美感后来我慢慢理解这件事情它为什么有意思以及我后来有些更多的思考我觉得它其实还有一个很有意思的未来但是最开始做Polites那篇论文的时候就是我迪斯娜一直看Sviver那一篇非常非常的意外因为我当时是一个完全小白的状态我对这个领域不知道导师给了我一个问题我去解决他而已然后我做完它的时候我也没有任何的认知说什么样是这个领域里最好的paper因为我看的paper还不够多所以这个奖出来的时候我完全没有想到被别人congress的时候得知拿到了这个奖那个是我进这个离发的第一篇论文但是发完这篇论文之后其实我就又重新进入一个很大的状态就是我还是没有找到我想要做的下一个问题在哪儿?一个三线的问题在哪在那篇文章做完之后我记得就进入疫情了进入疫情我其实有长达一年的时间是没有做任何事情的接近一年的时间在一个depression的状态里但我遇到了非常好的导师Clarke非常的supportive他完全理解说我要调整好这个状态他只关心我是不是有一个好的精神状态只关心我是不是能够走出来他没有给我施加任何我需要继续产出论文或者做瑞瑟士的压力他说那我可以去上一些课做一下TA做一些这种很清量级的事情现在时间还回国待了半年一个疗愈期然后我其实没有产生论文但是卡尔从来没有断过我的经费那确实是非常好的导师非常好的一个导师然后我一年之后才慢慢走出来之后才就做了sequence的培训我们前面也有过很多挣扎证明应该是写了20多页吧来来回回改了四五次而且有两次我几乎是全部推翻重鞋的证明已经花了一两个星期推出来的证明世界的证明全部推翻因为你从一开始地方发现有机件错了那个错诸后面所有的后续推理全部是错的所以那个证明从前面要一直fix到全部全部重新去切翻重来但是这个过程走完之后很有成就感最后这个证明完全写完之后笔记开始设想的要复杂的多很多我们都觉得这段证明写出来和这段经历非常的accomplish就是很有满足感我记得那个时候Clarke自己也说那篇paper里的证明是他过去一年的highlight当时也是bathpaper提名但是没有被公开就是大家讨论过最后没有被选上但是很接近如果说我在行事化工作的话这篇paper可能是我觉得最愉悦的一段时间从这篇paper开始开始看见了形式化理论的这个里面的一些深刻的含义和和它的优美之处它的优美之处在哪里呢它让我理解了程序语言设计的几个不同角度吧嗯就是就是形式化的这个方法去设计语言它是从数学的角度去理解程序语言的程序语言我打了很久的交道我打了20年的交道但是我从来没有一这样的角度去看待过它然后它给我一个全新的视角但是你会发现程序语言里面它也有很多的trade off不同角度上有一些语言更接近数学有一些语言更接近硬件你其实很难有一个支点让你一个语言它离数学和硬件都很近接近数学的语言它会更容易被验证更容易被形式化接近硬件的语言会更灵活更高效更接近人的思维习惯就是当你需要编程硬件里面的具体印算的时候那样的Mapping又更直接最后没有再往这个领域继续的走下去是因为什么呢我看到了他的有意思的地方但是我也看见了它这个领域的局限性吧它能够在现实中practically被应用的场景太少了然后你要验证一个程序太贵了但是它能验证的又很少不能产生足够大的影响但是我觉得我想离世界更近一点我还是想要做更接近真实生活的东西当时觉得所以我那个时候就开始探索AI我开始寻求双向转化开始探索AI这个过程 [15:00] 也不太顺利可能我又有一年的时间的空窗期就是你看上去我的publication没有停但其实我中间很多的空窗期派界的空窗期跟你自己定义的空窗期是不一样的对我自己定义的空窗期就是那段时间我没有做任何我其实没有make a progress在我转眼的时候又有大概一年的时间我其实没有任何新的idea我实际上没有做任何事情可能长达一年之后我突然某个时间找到事情可做的之后我三个月缠出了一件事情但是外人看你会觉得那个作品是我过去一年的成果实际上它是我过去一年里最后三个月的成果这九个月我都在这个自由的状态完全不知道自己在干什么的状态里我非常理解这个过程就像我们记者写稿子也是一样的对你那个给我一个月的时间前面29天的时间我都在做research或者是放空或者是采访然后我其实这个稿子就是用一天时间写出来的对所以你看上去比如我形式化在免费费分布的三年时间里面但免费费真正的推动其实他都只花了什么三个月的时间然后这三年里面每年都有九个月不知道在做什么其实你不知道在做什么你可能是在就是在迷茫嘛想去找到你想解决的问题因为我听上来就是说要去找到一个你真正感兴趣的问题并且解决它真的是你的一个driver一个驱动力是的这个是的就是我确实有一些特点就是我没有办法妥协我后来服从了我的这个特点就是我原来在不理解我自己的时候我尝试努力去适应过一些规则但是我后来发现我自己是不能被勉强的就是我没有办法做我不感兴趣的事情没有办法做好我能做但其实我没有办法做好我只有这个事情它让我觉得非常我才有可能把那件事情做好这是一个特别纯粹的一个性格你当时什么时候发现说这个性格就是这样了我必须要去服从我这个性格的这是一个缓慢发展的过程倒也没有某一个时间点突然动物了它是一个我慢慢意识到终于有一天我完全接受它了一个状态我完全接受它可能是在博士的最后最后一两年吧你本身是一个喜欢intensive的人吗我是个必须intense的人从小就是这样的对我觉得从你发PayPal的那个数量和节奏就能看出来对我没有办法就是我哪怕睡觉的时候也会一直做梦就是我没有办法停下来你做梦也会梦到跟你研究或者工作相关的事那肯定会啊肯定会会啊大家都会吧你们时候的梦是完全无关的呀我都是还是挺有关的都是生活就是说明你在睡觉的时候你的前思维其实还是在工作有可能是生活就工作生活但它一般来说都不是不是没有任何关系的东西但肯定会有虚假的成分会有想象的空间但是它不会是毫无关联的我觉得我PSG经历的那段depression的时期就是因为那段时间太无聊了疫情的时候大家都slow down了然后我根本没有办法在一个slow down的环境里面保持我mental的healthness所以就是一定要忙起来然后才能让你健康的运作我不一定要忙起来我不一定要忙起来我master做那个theory研究做数学研究的时候是不忙的那个时候你是很沉浸的因为那个问题他就是你除了看这张纸在那想其实没什么能做的我看上去很闲我每天还我每天可能也就想四个小时然后工作四个小时然后我就去打游戏了其实我master其实打了好多游戏因为那个问题都太难了你只能空想那打游戏的时候也很intensive对吧其实也没有我觉得那个theory非常不一样theory就是有很多灵感你只能等它来其实你没什么的事情可能你只能在那等你等着那一刻来临所以我有大量的时间去打游戏那打游戏转你就灵感来了然后去写一写什么其实我那个当时那个题目做解出来就是在我看电视的时候想到的idea我也不知道为什么但确实那个contact是我看电视剧眼看的一篇paper然后我就看电视去了看了中段的时候不知道为什么那个PayPalit的东西突然回响了echo出来然后突然又想到了PayPalit那个点突然意识到这个地方可能是一个解法突破点那个就是关键点就是你那个问题被解决了就发生的那个瞬间那个是真的是有一个phase transition就是那个是一瞬间的事情就是那个时刻那个问题被解掉了然后你个电视剧看到那一半你突然我怎么突然开始知道怎么解决这个问题了暂停谢谢这个你还记得是什么电视剧吗《正宝传》我真的记得了单神了我一般是在洗澡的时候会有灵感突然记中也会有但是电视剧我觉得我很爽因为就是看电视剧你还是要很沉静的嘛但是就看起来你看电视剧的时候你的潜思维感觉还是在一直在思考一些我会跟我自己和解我是怎么和解的呢就是我以前不知道ADHD这个东西有一天我就慢慢地了解到有个东西叫做ADHD然后我看完那个各种症状深入理解之后我发现好多东西都会被解释就你觉得你是ADHD我确实是我经常看心理医生但它不是一个疾病它是一个特点学习之后我发现好多事情被解释了我就它给我带来最大的帮助是我通过理解它而理解了我自己像是我找到了怎么使用我自己的一把钥匙我突然知道了就是手册有了 [20:00] 对对它是一个手册我突然知道就是我不应该腻着我的那个短处去我不应该逆着我的甜心去做事情我应该顺着我的甜心去做事情他告诉我这件事情然后你一旦悟到了这个之后很多事情就迎刃而解其实你其实很多事情是不要勉强的是没有必要勉强的对对就我前面说的我只能做我喜欢做的事情当你把这个当成真理的时候你就不再跟他对抗了特别特别棒对然后我们两位我刚刚说这个是因为对可能我已经开始有点这个症状就是他的这个特点之一就是我看电视的时候也是不focus的也是不focus的对就我看电视的时候我也会跟不上那个电视的内容我经常要回退OK我经常要往回拉刚刚讲了什么30分钟事情我经常要看四五十分钟才把它看那比如说你自己在做research或者你在工作的时候就是什么样的时候你会非常focus什么样的时候你其实是没有办法focus的呢就是我自己特别被他吸引的时候非常focus他这个是两极化的就是我focus的时候非常focusFocus的时候我会听不见别人叫我的名字不记得时间不知道外面发生的事情会错过很多个meeting然后不focus就是根本没办法focus就是哪怕这事情很重要我也不太focus看甄嬛站都没有办法focus说明甄嬛站不够吸引人他如果够记得我就会非常focus打游戏会非常focus打游戏非常focus有些运动竞技性运动也会他需要非常intense他要非常激烈他要competition就是游戏的话你是对打玩意有输赢球类运动也是你有输赢这个时候的时候我就会非常focus所以你是一个好胜心很强的人我觉得我不是真的很在乎输赢但是我在乎那个intense的感觉我喜欢那个感觉我其实不在乎输赢我游戏可以输大比赛也可以输It's okay我也不会觉得那个我非要赢但是你这个即使吹进去了之后我会很享受那个心流状态就是还是那个我喜欢心流状态你的大脑被抓住然后你就是非常就是心流吧就是人非常focus那个应该就叫心流状态是很享受的所以打游戏研究学习这个上面你都可以获得你的心流状态对学我喜欢的东西可以再提一个你大学的问题然后我们到这个公司上面来就竞赛圈嘛它其实是一个很有那种天才标签的这样的一个圈子对你觉得就是天才这个词在你身上安得多吗就很多人会跟你说啊不懂是一个天才不懂金牌之后都没有我没有拿金牌出现对你是拿了这个全国信息学奥林匹克的银牌但是我记得你好像是在纽约的一个那个区域赛冠军区域赛冠军那个区域赛冠军也是组队就是三个人一个小队也没有说是我个人成就我的队友其实非常强非常运气好有非常强的队友帮我带飞了不是经常肯定有啊但是小说更多一点后来不是经常因为虽然有这些拿了这些奖项但好像其实都不是就比如说银牌不算少还有很多金牌选手呢所以对啊就看你跟谁比嘛但是我在的那个环境里面他们总是有比我更强的那比如说我在SMISMI里面有比我更强有很多比我更强的所以就是你觉得努力这件事情更重要还是天分这件事情更重要我赞同天分你觉得在研究上面天分它主要表现在什么样的方向呢天分是指当外界人不把研究当回事不觉得研究不觉得研究是件伟大的事情的时候你还想做它那就是你的天分那是要兴趣我觉得大部分时候天分和相关性还是蛮强的这么说吧可能很多人想当Visorcher但不是很多人都能研究出来或者解决这个问题只有你能解决这个问题肯定是有你的天分在对 是有天分的但我其实首先不觉得大多数人真的想成为Visorcher我见过太多的人他们想做研究想成为的事是因为他们觉得这件事情酷是因为外界的皇家他们觉得这件事情很酷或者当教授是一个铁饭碗类似的好像就一些原因但这个并不是如果说当所有人都开始觉得当教授是一个被人唾弃的职业的时候他们马上就不会想做了就你这哪能识别出来但是在我当时想要做这件事情的时候其实我是就是比如说我在的环境里面其实大家啊也没有觉得做theory是一件多么伟大的事情然后你赚的钱也很少但是你还是想你还是觉得它有意思我想做的件事情是因为我希望跟别人无关是因为我想是一个irrelevant那个时候才是你真正的所谓的兴趣和天分所在的时候我也不敢说我有天分啊那我毕竟也没有发明过什么也没有什么巨大的数学成就我也不能算有天分你肯定是算有天分的不然的话你paper怎么能发那么多有很多人paper发了很多比我发的paper多的人还有很多那可能是更有天分的发paper只是一个发paper是有套路的什么套路就是发Fibber其实你如果掌握了发Fibber发Fibber本身是一个技能发paper跟做人事实是两件事情发paper跟人们定义的做人事实 [25:00] 和真正意义上的科学家是三件事情OK发 paper 是有透的 你完全可以一个人他根本就不怎么懂人事他也能发很多 发很多 paper就像一个是一个什么 命题作文一样 是不是你套着他那个框去写就可以了吗对就是你只要掌握了这个规则然后你掌握这个体系的规律在同样的规律里面不行的产出你就可以一直发很多的paper但是顶刊也很少吗不少了现在顶刊一年都几千篇上万篇这么多人去投稿的话那顶刊还是算少的对那肯定是有statron的那我可能还是比average要有天分对就是掌握这个套路本身就是一件有天分的事情所以你说发paper跟做研究跟当科学家是三件事情发 paper跟打工人是一样的跟打工人是一样的就是是一个非常平凡的事情OK 做研究跟当科学家这两者有什么区别吗做研究的话就是有很多研究他们其实是不breakthrough的也是不key的但是不是没有价值所以做研究它仍然是个职业它只不过是职业只不过是我作为researcher我喜欢享受做研究所以我在这里做研究而并不是我比别人更有天分我没有天分我也可以是个researcher所以researcher只是一个职业但我所说的科学家这个名词我可能也用错了但我就说还有另一类就真正在推动人类知识边界的人是非常非常少的然后这批人一般来说但我的bar也很高就是在我眼中真的在推动这个推动就是指如果不是他这个事情会晚很长时间发生这个是被我定义的所谓真正的科学推动者就是推动人类边界的这批人这批人就非常非常少绝大多数的教授可能都不是对吧 折校教授还是在第二类是researcher所以Jeffrey Hinton然后Yanlo Quinn还有Joshua就是图林奖的这三个人你觉得他们是科学家吗或者是你定义的第三类人吗应该是吧 不过我没跟他们直接接触过所以我还是不给我直接订问我非常在乎一手信息的我非常在乎true speaking我不想评价我没接触过的人但既然他们世俗成就这么高他们应该是吧你在谷歌实习是什么时候啊二年的暑假吧应该是在谷歌实习了之后你想要转去做AI的还是在谷歌实习之前你就看到了这个方面有非常大的一个前景然后发展很快了我是在去谷歌之前就想要转AI然后我是因为想转AI所以找了那份实习那份实习是AI for code的嘛我之前也尝试了一些其他的纯AI港他们都不收我我都没有拿到机会这个岗位跟program analysis有一点关系因为这个背景被招进去了所以我接触到了AI但我其实是因为想接触AI进去的但是我进去之后发现当时的人们做AI for coding的时候还企图利用一些原来的Programming Analysis里面的technica或者tours 什么的非常的无力其实什么忙都帮不上AI人的幻想说我是不是可以利用一些另外一个领域的工具交叉学科的这种这种希望嘛利用另外一个领域的工具来帮助更好解决这个问题但是我作为从另一个领域过来的人我其实发现这个工具非常的无力当时就是看到了那个大模型已经是coding之初相反我反而看到的大模型其实已经把传统的这个领域里的技术都完全覆盖了那个时候其实还挺早的22年他应该拆GPT他还没有出来但是在谷歌内部大家其实已经看到了这个方向了是吗我估计其他的公司肯定也是有的但是确实差值比还没有出来那个时候是谷歌刚出炮了然后内部有那个Lambda就大家其实有所感觉只是没有到全民爆发的阶段当时好像有个谷歌的程序员他号称Lambda是有意识的就是那个时候那个时候我们还做了个报道然后还讨论了一下这个AI是不是有意识的对就是那个时候我相信很多程序员他们可能也是第一次或者是很新鲜的一个感觉去接触AI他到底是不是有意识的这种讨论在那个时候对其实已经有确实已经很多人是已经看见了那个潜力很大的潜力但是当时的模型潜力离真的生产code还有挺大距离的我记得当时都是做一些生成一两百行的代码当时你们那个小组有多少人了NF4code的那个小组那个也是一个谷歌内部浮化的创业项目我里面就Google X里面全职应该我其实有点不记得但好像一二十个人吧然后那个暑假他们非常激进他们想要尝试很多方向所以他们招了跟全职等量的英特尔让这些英特朗全都去尝试疯狂尝试不同的方向他们希望能从中看到一点东西那后来这个英特朗期结束的时候大家看到了什么东西我觉得当时那批人其实很多人后面还是很多人就还在做口的那段经历对我的印象很大他让我看见了因为我原来是不知道AI是什么什么事情的一个人我之前说看见了AI原来这么的powerful我发现原来根本就不需要什么显示的 reasoning我是被shock到的那个人它让我非常坚定的进入了这个新的topic然后我就要做大模型但大模型其实有很多分支跟不同的vertical但是你选择了做infra的那个赛道为什么呢其实也不是我选择我其实也尝试了那个不是infra栽造的就是分析下算法上的事情但我发现我更适合infra我那边可能没有太成功infra成功了所以最后登上了 [30:00] 都爆发多代infra这一侧做infra跟我的思维习惯更接近它是corism的确定性的基于数学的然后基于代码数学和代码这两件事情我都很熟悉能不能说一下就是你最开始做SGLane是什么样的一个奇迹啊我转了AI之后最后PHD的两年就是在做LM inference相关的很多work这就是我的第一个work嘛连续的一系列work到SRM它类似于成为了一个手官制作我那个时候就是PhD我可以毕业了然后我也觉得我已经做了很多不同角度的维瑟士但他们都比较local实际上是我希望把他们都挤大产一体的一个一个作品所以SGLane的时候我们就开始把它做成开源然后希望走向的是Production Rally这个从一开始就想好了从做SGLane之初就希望它是做成一个Production Rally可以被广泛使用的推定性被大国人国使用的推定性其实你在做SGLane之前VLM已经推出了半年多了你之前其实在VLM也是做了一些项目的对吧就是为什么已经有这样的一个东西你自己还是想要做SGLane呢这个历史也比较长了我在VM的research paper上,这个其实也是我本来自己在做research,然后其实当时我听到有这个VMcham的时候,他VM当时的idea跟我们在思考的另一个idea是,类似的所以其实当时我是被说那既然我们IDLS那我们要不merge进那个项目在我的视角里我是被merge进了比较为那个项目因为我觉得这个项目已经在做了我想做的事情比较为我们做开源其实是Paper之后的另一个节点并不是在Cripper的时候就是一个开源项目真的把它推省开源了之后你就要做很多除了resource之外的就是不仅仅是innovation的事情你要做项目的维护社区的维护还有很多engineering detail的琐事那段其实我就没有太谈论了那我还在做继续做我自己的其他的research包括Slaura,Astron,Failness这些事情就是Serving里面其他的问题我继续在做researchAstron是一个想要把我的思想能够在一个地方继续往上推的地方本来它也是以某一个innovation为起点然后去做成一个general engine但我看来是当时有很多这样的certain engine实际上是其中一个并不是存在我在VM的这个engine里面然后做到一张engine里面那比如说SGLN跟VLM的核心差异性有吗?而是说其实大家都差不多不同的团队做出来的肯定不一样但是差异性它随着就如果你不把时间维度放进去的话他们是会类似的因为相互会学习如果你有好东西一定会相互学习会converage但是你如果把时间放进去的话那每个时刻可能大家会有不同的色重点那比方说实际上在在更早地进军了这个scale up的方向就是把大规模的servingproduction这种千卡级别万卡级别的serving甚至千万卡级别百万卡级别做好的VM可能在这个社区的覆盖lontail模型的支持上做得更早所以大家的focus是有所不一样但是你现在去看到可能两朋友又在互相学习在补气短板你在databricks不是也做过五个月的时间吗当时公司的联合创始人之一Young Stoica对也是之前伯克利的教授他跟你有什么样的合作吗他是我在伯克利visit的时候的教授所以我们在伯克利的时候就一起做了很多的research他对你有什么样的影响呢在专业水平上给我带来了很多inspiration其实我跟Naflika我们他一直保持联系除了是我那个时候的research的一个mentor之外导师之外他也是我可能lifetime的一个mentor就整个那儿他们的一个漫长那样斯多伯还是个很特别的人当然他这么成功那肯定是很特别的一个人你觉得他特别之处在那里他其实是个很立体的人他做很多事情他同时开很多公司然后是一个教授但如果你真的靠近他的话他的骨子里他最自我认同感高的还是教授这个身份就是教授和学生这个是他所有身份自我认同感的如果你追溯到根源这是它的根源所在它很在乎making impactimpact可能是他做所有事情的动力之源他也把这个精神传递给了他的学生他底下的学生和跟台系共识的人可能都受到了这个影响就是making impact但我其实不一样我其实在另一个价值班里面但是我能理解到了这套价值班所以making impact不是你的价值观吗对不是同一类价值观那你的价值观是什么就是我在乎的不是making impact 本身我会在乎一些我想要make的impact如果我觉得有一种impact我有一种价值观我希望它被执行和被推向这个世界那么我就会非常努力地去推动它和希望它发生我会尽一切努力但其实我不是完全care这件事情是不是我推动的别人推动也可以如果有人愿意帮我把这个事情推动That's great但一般来说不会有这样一个人但是我慢慢学会的是我真正自己想做的事情没有人会代劳因为他有他想做的事情别人有别人想做的事情最后你自己真正想做的事情你其实只有自己去坚持不断你只有自己能够能够长时间 [35:00] And she... I was so proud to be in that situation and to let it happen. So this logic is a little different. I'm in the same way. So just in another one's value, making impact is that I hope I have impact, but you're more in the same thing. 对 我更在乎有一些 I think there was a thing that happened. This will make me very opinionated. I have a lot of things where I have a view of my opinion. I hope I don't care about my opinion. But I'm not in care of it if it's my opinion. It's just this opinion. I somehow intrigued it. It's been it吸引. Let's talk about XAI. 一些经历 2024年10月份 你是当时加入了XAI吗 当时为什么选择XAI呢 我当时PHC刚毕业的时候 想要推广视团这个项目 对我so far 从我开始做视团之后 我的整个plan都跟视团景与相关 我当时刚去Dairbase的时候 想要 In this podcast, And I'll be able to develop it. researcher new grad researcher 进去其实也没有太大的 power 我自己也不够成熟 就是你怎么在一个 城市的企业里面 去drive一个比较大的 effort 我还不会这件事情 所以我觉得当时那几个月 尝试没有特别成功 可能也造成了一些影响 但不算特别成功 XAI给的这个机会就是他 I would like to support I and Lien Mim is my husband. He was in XI at that time. And then there's a chance to go to XI to build a build. the inference of the solution and team. So, yeah. It's a support. You have a job of freedom. 同时有support of freedom的时候 我就能做这件事情了 所以我就选择加入X 而且当时应该只有X 才真正给我这两个 我有些其他的机会 有些是只给support 有些只给freedom 确实我觉得能这两个 支持你去做这个事情 跟让你自由地去做这个事情 这个机会其实是蛮罕见的 是不是也是因为XN 那个时候比较早期 所以还有这样的机会 是的 那个时候的XN是什么样子的呢 In your way, I can explain it. I think it's actually a part of my life. 虽然我没有工作特别多年 但是我在很多地方工作过 XI is my memory of the best... XI's the time is my memory of the best. You're so high! I'm so sorry to leave XI's very bad. I'm so sorry to leave XI's because of the needs of the Estrella. I'm so sorry to leave XI's because of the needs of the Estrella. I feel that I need to get out of the new company and let us... I hope that the community will be well-willed. If not because of this reason, I wouldn't be able to leave the XI. I'm not sure I can't. I'm not sure I can't leave the XI. And I think this idea is not my own. Actually, I know that in our former former former employees, many people have had a similar idea. 甚至有些人可能在XI的工作已经 I think it's a little bit of a hold of it because the pressure is strong. But they still keep in the middle of the country, because they don't want to leave this group. My idea is that these people are like a very good team. I think that's the XCI I was in the XI, I was a very good experience just 各个都是人才,里面各个都是人才,大家互相之间也都很support,很friendly,很appreciate,很humble. 这是我当时给我的印象 跟你的价值观很像 I think at XI I can do very much work 没有太多的杂念 And we all are like this Just everyone can be very clear to do things, and you can do things the most important thing. I've been doing so many companies. I've been doing so many companies in the first time, I've been doing a team. I've never had any people game, no politics. But after that, there are a lot of companies. I was 100 people in my career. Just... I think it's a good idea of thinking about the environment. I know how to do things. And my family also thinks how to do things. 大家也会有一些摩擦的很正常 但是是一些就是说不影响团结的摩擦 这些摩擦是不影响 我觉得现在我们在Rashark是带过来这个氛围的 好棒 你把你在XI的时候描述是V1.0 没加入之前是0.0 然后可能现在是多少30 [40:00] 我也不知道大家怎么定义了因为后面就是我也不在了我只能听听大家的说法对但是我能够感觉出有那么几个阶段所以0.0跟1.0的时候是非常美好的对 那个时候伊朗的重心也不在你们身上就0.0的时候应该是伊朗不怎么在意0.0是我听说的 我不在0.0里面0.0的时候伊朗对大家都非常的nice0.0应该是非常非常美好 像一个family一样1.0的时候其实已经开始生长了我已经开始有这个生长痛1.0的中途一种回来了但是我觉得就算在那个时候1.0里面产生的阵痛大家也还是共同克服难关的我没有感觉到军心有什么动摇我觉得大家都非常团结然后也彼此照顾我觉得那个时候是彼此照顾的状态就得了一段战友情的这种感觉这段故事特别珍贵是因为它跟现在大众对XAI的一个认知差距是非常大的因为现在大家的认知说就前段时间XAI的co-found的全部都离开了 either被fire或者被laid off或者自己辞职的就感觉这两个narratives就好像在说两个不同的公司一样确实很不一样因为后面公司大的我觉得XI是没有过那个振动期的是没有过那个从很小的很团结的一个startup变成一个需要靠体制来运转而不是靠人来运转大公司的状态它这个过渡器的阵痛是没有很好的抚平掉所以产生了这些巨大的变化但有天他可能又会找到一个新的solution因为X还在那里新的人员在新的主制教育有限他可能会找到一个新的solution但是就是可能就是一个another company 从轮延上来看的话 但Elon还在 这是最重要的 然后又被SpaceX收了 然后上市了 对吧 那这一段我觉得就是对组织架构的一些振动期 因为你你肯定有你的观察 你觉得对你之后做startup 因为你们现在也是几十个人 对吧 然后可能很快你们会剩百个人几百个人的一个规模 会对你有什么样的less on earth吗有的有的我觉得我们现在就在一个很美好的时期其实我知道我们现在在一个很美好的时期就是这段时间大家会一定会成为他们以后就是我们所有人以后人生中非常争够的一段回忆但是我们也一定会面临那个挑战skill up的挑战对就是你在人少的时候你是可以通过文化通过人的管理去实现运转的但你skill上学了之后其实文化就很脆弱了人也很脆弱了个人能力都会变得很脆弱那个时候你能不能把公司做的能不能把一件事情 drive 好更多的就是看你的system build 怎么样体系 build 怎么样最后是靠体系去支撑呢而不是靠人去支撑呢这个转变可能我其实不知道正确答案因为我没有经历过但是我能学到的lesson就是这个过程要非常的intentionally的事情它不是一个会自然发生的事情它不是一个你只要公司计划有然后往前move然后有scope有事可做你就for granted会得到的东西它不会如果你不pay attention它是会broken它就会broken你当时就是主要任务是什么就是当时你在那个xi比如说给Gwork构建推理系统的时候我们是负责那个engine那一块然后我们也同时服务其他很多组包括products他们会部署做deployment然后我们需要跟他们对接然后他们遇到问题回来会报给我们说你angeline可能有什么事有什么问题我们也要帮忙deployment上的一些协调configuration什么也要跟research team合作research team做evaluation跑RL rollout用的也是我们的Inference Engine,所以我们也要去支持他们这个Workcode里面的各种适配。然后当时那个在XI的时候,因为就是他整个的这个算力系统也是非常的庞大嘛,对吧,然后他后来也买了非常多这样的卡,你觉得就是在整个的过程当中,比如说你是不是在里面受到了Full Stack的训练,然后这对你来说产生了什么样的影响呢?对我觉得在XI的是 机会就是能看到所有的因为当时听一下所以能看到而且XI我觉得伊隆还是赛特一个我很喜欢的文化伊隆有一些他的问题但是他有一些很图书的地方尤其我很喜欢的地方就是伊隆能赛特一个没有没有边界的文化一个没有边界的文化没有边界的文化对就是在XR里面至少我还在的时候我觉得任何事情我都是可以touch到的我不会说大家组一组之间是被隔开的然后你必须限制在一个很小的scope里面只能做这一件事情让你不知道外面发生了什么Next Element是不会这样的然后也没有特别多的people managementNext Element都是technical而且它非常重工程师文化所以你做事情可以非常直接然后这样一个文化就使得我能够看见很多很多个类影和很多个component之间大家是怎么合作的事情是怎么发生的它作为一个整体是怎么发生的这个给我带来非常大的成长因为原来我确实没有办法看到这么多的东西并且在X3因为强度很大压力很大然后人都是被称出来的就是你一定要就是intense你只有就是经历过那个intense你的成长撕裂就像你健身你一定要很累了你感觉到痛了你才肌肉才会成长XR的这个intense它给我们带来的成长就是可能你在那里 [45:00] 待了一年可能在外面是好几年的才能拿到的成长你当时是决定说SGNA想要把它商业化然后去成立RedXR是一个什么样的时机点对这个是因为当时在25年的时候前面有几波浪潮把S上推到了一个还不错的被关注点然后有很多的需求向我们涌过来想要使用和让我们参与一起开发二支的但是我们社区实际上社区是一个虽然最早我们也是大学里面做了一些研究但从很早的时候开始实际上就已经变成一个纯社区项目就是我们的科兴开发者都是网上认识的我们都是网友就跟我小时候那个在网上学习大家可能都没见过面没见过面就现在还是科兴开发者我们已经共同工作了两年了我还不知道他们长什么样子有好几个几个可能也没有好几个有那么几个吧我不知道他们长什么样子下次年会的时候可以把他们请过来我们已经开了很多次会但是从来没有开过摄像头OK然后我们也从来没有要求过摄像开对方开摄像头就大家是有一个默契那个默契就是我只要看到你的代码我就知道你是谁我也只想看到这个地方开所以开摄像头或者是真正的认识对方这件事情不重要还是说大家都是挨人所以不想开摄像头我觉得大家没有挨到完全不想开摄像头没有这么夸张我觉得是他自然到你根本没有想起来这件事情没有说大家拒绝开但是自然到你根本没有想起来这件事情对 实际上是一个这样的社区但是这样一个社区也会导致就是我们大家其实没有那么的有组织纪律性虽然大家都很有热情然后也非常在乎这个项目但是你还是很难说让大家有时间去把项目非常严肃地给它做好做成一个成熟的高质量水准的一个项目水平除非我们有自己的公司变成我们的full time job大家其实有自己的full time job也只是说其他空闲的时间在为这个社区做贡献的对就是晚上熬一下夜呀然后通个小熬呀然后中午再工作一下放假的时候过来洗澡嘛这样子去维持但是我们当时的增长是快到了你不可能用这样的方式去维持那个时候接到的很多需求我们想要去抓住这些机会想要跟对方合作想要deliver一些东西但是我们还是强撑了一段时间但我觉得强撑了那几个月之后发现的就是没有办法deliver就其实大家都是很想deliver的你觉得我们已经不能再stretch了你知道这个team已经不能再stretch了它就是被team的Bandways限制之后没有办法很好deliver都是borderline地空飞过或者甚至没有成功deliver所以到了大概七月份那个时候就已经我觉得我自己的焦虑已经到了一个我觉得如果我们再不出来做这件事情我再不把这个背后实际上的空白就是这个是个中空的状态我再不把这个空白填充的话我们就快要让外界失望了我自己焦虑到了一个我觉得我没有办法再拖的这个状态里所以我从XI出来从XI出来应该放弃了很多金钱上的费报也没有还好吧而且怜悯他在XI他比我多但我确实是没满一年就是我是one year cliff的我出来说是十个月其实我只要再待两个月我就可以拿到我的第一年的vesting所以两个月都不能待对 等不了了等到7月份已经是等了很久了就是其实我可能5月份就已经已经有点受不了了到7月份的时候已经实在受不了了如果不出来的话可能这个社区就两个月都等不了了是吗对这是大概是两个节目就是我的心理状态到了一个我没有办法focus做XI的事情我已经没有很productive的生产我对XI的价值但是我不能忍受自己在一个就是如果我是在XI上班的我就觉得我要对它有用不然我就会觉得我不配在这个地方所以我当时已经到了一个我觉得我不配在继续待下去的那个心理状态但不是我能控制光潮我问一个问题就是你觉得金钱对你有任何的重要性了有必须性没有重要性它的必须性来自于有金钱可以让我解决很多事情更容易这个我可以还是我承认的就我没有追逐过他但是你真的说他不重要吗我也没有到那个程度他能够给你带来的底细就是比如说我想创立这个公司如果有钱我赚不到钱我还自己还有钱这是他对我的意义我让我提一段经历你在哥大毕业之后其实是到了华尔街的一个对冲基金叫Two Sigma对里面是工作了有几个月吧是不是没有到一年有半年那段经历是什么样子的就是在一个华尔街大家觉得说纽约华尔街上纸醉经历然后在一个对冲基金里面跟你之前做研究的这个氛围是不是会完全不一样但我们那个对送基金是一个TAC对我知道但是我当时确实是想要接触金融觉得挺有意思的然后我有一点前男友是学青龙的 这个简调 我一定会帮助 所以当时我确实是对那个 觉得净容挺有意思的 然后有点好奇 就当时量化大家的说法就是那里面的人很聪明 都是那个是好多phd 学物理的 就好多phd 后来那个我们学校 [50:00] 就去练画了就是我不知道为什么就是喜欢聪明的聪明的人说话我喜欢做有挑战的跟智商挑战的事情所以他这个特点他当时吸引我当然这个也是吸引很多其他人的原因那个时候我也就21岁22岁单纯的被中学吸引然后我觉得我要去体验一把我觉得这个事情我要是不体验的话以后我会一直想着他但是我又觉得金融不是我的人生追求我又觉得千天在那完全没啥意思所以刚好PHG中间隔了有个半年的gaff然后完成一个体验挺好的我就去那里做了半年那半年的回忆也非常好如果要我排序的话我工作过的所有公司这是XFIDR2 Sigma哇 评价这么高但是我听说2 Sigma就我在的时候又是它最好的时候我很幸运我每次在都是真的最好的时候后来可能就有些变化但是我在的时候是2Sigma最蓬勃发展甚至拥抱开源他们那段时间2Sigma那段时间是做开源项目的非常拥抱科技也拥抱New Technic AIV Data什么的然后里面的人也是非常的互相帮助然后我没有感受到任何的多余的东西所有人都只是在做事情然后所有人都非常的开放非常open非常非常喜欢试质量也很高然后里面的交道当时交道的很多朋友到现在也还是我的朋友大部分人还继续在华尔街量化里面还是也都会出来开始做AI都有有些出来的有些还在里面Tusima让我看到了一个非常organized的公司的样子至少在当时所以它是非常organized的我当时觉得Tusima非常organized我当时不觉得但我后来去了其他公司之后我再回想我就觉得原来其他地方这么乱对原来其他地方这么乱Tusimma它都不是一个Tag公司但是Tusimma的infra在我跟其他的比起来是最稳定的一个地方有意思就原因是什么呀就公司文化就是这样的吗就让它非常的干净我觉得是它的巨变不多它的业务模式比较稳定所以大家可以在那里一直做maintainance大量的maintainance所以也对于就是做一个金融然后追逐那个return的数字然后赚钱这个事情就在你身边不是priority你只是想体验一下对我只是想体验一下我一开始就知道那不是我的priority体验还不错对体验不错挺好的这个技术稍微给大家去科普一下LLM Infra你们在做什么样的事情你们在解决什么样的问题Infra分好几个模块我们的长远的目标是我们希望整个Infra我非常vague地说我们的这个结构性思考是我们希望RadiSark在一个地方它可以给你提供很好的基础支持让大家根据你不同的使用场景不同的data的形式不同的产品目标和不同的surfing目标然后你有可能希望model它可能解决很简单的问题但是你需要它很快又或者是它要解决一个很难的问题但它可以比较慢你都可以用这套工具源源不断地产生适应你不同目标的最好的模型我们希望把这个foundation做出来这个foundation我统称为infra它会包括传统意义上大家所理解的推理引擎推理和训练post training这些都是大家传统的脑中的keywords我还想在这里其实加一个component就是机座模型也是一种在我看整个这个Foundation里面是包括了所有你需要的Gradients包括了这些Codebase ToolToolbox Sandbox Environment和一些中间状态的模型Chatpoint它们在一起变成一个工具箱你可以在这里进行组合去不断地产生更适用于你的场景和目标的特意化模型那整个这个工具箱这个Foundation是我们要做的Infra的部分现在我们因为要focus一步一步来所以我们现在是focus在inference和rl他们处在你这个生产模型整个park line的末端就假设说我前面已经走完了我的基础模型就pre-training已经做完了我有基本的check point然后现在我开始要适应不同的task我需要做过post training的时候大家开始用RL这个地方已经开始开支三页对吧因为AI进入人的生活的各个方面有不同的场景需求这个时候你开始需要有不是一个模型解决所有问题你可以开始有多次训练产生多个model解决各种各样的问题并且多个企业他们可能对上有自己的模型所以post train而要在这个地方是一个翻奥的状态所以它是比较适合做我们所要的这种给所有人share技术然后做一套Inference上所有人都使用的这样一个模式里的Postream完之后的模型Inference那就更加三老层Inference就真的到了末端模型都已经完成了我Inference我需要让你的模型的就架构和位置都已经有了我希望让你模型在硬件上抛下来抛下来之后可以被有个安德朋友可以被靠到别人可以来别人可以使用这个模型Inference就是在那个更末端贴心用户的部分整个的Infra LAM Serving的这个版图就是中间涵盖蛮多领域的那比如说VLAM是解决内存管理然后HTO是做KivyCache的压缩SLaura是解决这个多Adapter的并发然后Chapel Arena做测评SGLAN做结构化生成就是非常多不同的这个方向那对这部分的研究你是有一个什么样的方法论在解决这个问题完整的这样的一个road map说这些东西 [55:00] 这都是我要一起去解决的还是这些东西是你一步一步的去慢慢地解决这些问题的我觉得是一次性看见的短时间的一下看见了很多问题但你做的时候你得一件一件做Idea肯定是跑得比动作手要快也不是我一个人看见很多人都看见了就是你上完也去看见很多问题然后大家慢慢地把一件事每件事都解决掉但在解决这些问题的时候你觉得有哪个点是最难的啊我觉得没有哪个电视男的就是去做掉就可以了那你的优先集是怎么排序的呀哪一个能给你带来最大的Martin哪一个是最大的bottal neck先解决最大的bottal neck也有一些是dependent比如说你要先解决memory的kcache的这个CPU化问题管理问题然后你才能解决perfect caching的问题所以你觉得现在这些问题完全被解决了吗还是有继续优化的讲那个潜力那肯定总是有油化的潜力那瓦吞生现在有这么多的变种Sparse才可以做更aggressive然后新的innovation不会停止的这一刻其实应该是一个很大的市场但这个市场为什么最开始从开源的生态里面跑出来的呢也不能说是开源跑出来的因为Inference已经很长时间了Inference Provider你看从Fireworks Together这些公司已经存在好几年了这些公司都很不错有很大的使用量而且你看Inference Landscape有这么多的competence对这么多跟Inference有关的公司层出不穷每年都在不停的出但是你会发现这个游戏里没有输家没有输家没有输家就是所有的Inference PlayerInference Provider Player不停的出来有这么多但是没有任何一个因为有competition的存在而削减下去了所有人都是同步增长的我之前其实跟你那个co-founder 邦华聊的时候他就说做infra的人他需要的taste跟做比如说pre-training的这个researcher他的taste是不一样的那比如说做infra的人他的taste是表现在什么样的方面呢我其实不确定是不是真的不一样是吗我觉得本质可能是相通的那你觉得Taste的表现在什么样的方向不论是在做training算法Protraining算法还是在做Infra你做一件事情的时候是不是喜欢精益求精它是很细节的活就因为它这个Efficiency要做得非常非常极致不光是Efficiency就是如果你是追求一个目标的话可能就不在taste这个委员上就是你如果要的是一个endgoendgo和tastetaste其实就是你关注的不仅仅是Andgo并且还有这个endgo的组成就是我的系统不仅能跑我并且知道它是怎么跑起来的它是以一个设计过的well design的形式形态跑起来的还是它是一个豆腐渣工程跑起来他们有可能有同样的end go柳翠茨就是说我更在乎他是一个很优美的形式跑起来的而不是这个很豆腐炸的对很hacky的方式跑起来的那你在乎吗我非常在乎这是Ragisark的文化之一就是我们非常强调这一点我们想要成立ReadyShark想要好好地做一家Infra First的公司因为我觉得在很多其他的我之前工作过的其他地方或者是听大家讨论以Prodot的以模型为目标的这些公司在Infra的美感上有所妥协他们在Infra的功能上还是很追求的但是在美感上是有所妥协的然后Infra的人在整个这个full stack里面可能长期的处于一个被underestimated的状态就他们需要被迫去不停的support其他的component他们需要去support的researcher去很好使用infra工具然后把实验跑起来去迭代他们也需要support的product的人能够把自己的product运行得又稳又快但是Infra自己因为我跟INFRA的之间的这个浪漫的关系我觉得INFRA它不是一个support角色INFRA本身在我眼中就是产品你在设计你在推荐产品的时候因为产品变向用户你会就想我这个产品不是只有功能我会想这个产品美对吧我希望它好看好用被人说喜欢我希望它击中用户心理的痛点用户心理的击中人性我希望产品击中人性但是没有人会说我希望infra击中人形但是从我的视角里看我觉得Infra也是几种人性的它只是没有直接到用户没有那么直接联系而已但实际上它产生了一个深远影响是从底层就开始往上传递我觉得刚才你说两个词我觉得非常有意思第一呢你是说Infra的美第二呢你是说你跟Infra的关系是浪漫的这两个词其实我很少听到我倒是没有仔细想过为什么是这个词但是它自然而然存在于我的脑中就是其实我觉得写音法的人他们都是能理解的就是你写音法之后你追求你会去觉得我这个代码写的我其实不知道怎么更积极的拆解了但是我不是特例我只是one of them其实有一批这样的人他们都很在乎你的infra构建的时候这个系统它优不优美稳不稳定然后他们总是被破去做一些hacky的事情那达成目标其实他们都是会在一个被拉舍的状态里我明白你的意思就比如说其实如果你看一些大厂OpenAI有自己的infra team之前你在XIAXIA也有自己的infra team是不是就是在这种大厂的时候infra team它总是一个supporter的这样的一个角色所以也就是说他有很多你需要去妥协的地方但是如果你自己出来做一个infa native就可以达到你所说的infa first 这种那个 [60:00] 对比如说在Reddy Shark其实我们是反观的比方说我们也有training job但是我们并不是说我需要一个infra的team去一直support这个training job跑得非常的on track我们其实是反过来的我们希望这个training job它可以没有压力他只需要跑然后一旦你春天drop被卡住遇到问题的时候我们希望大家的focus是把这个问题systematic的解决而不是打一个patch上去让这个tendingdrop必须跑drop是可以pause的我们刷分也不着急刷我们也不是非要刷一个非常好的banchmark分数这个在我们这里不是第一优先级但是我们如果能刷高当然是好的我们不会说这事情不重要但是在timeline上它不是source of urgency我们的source of urgency是你的job不能被迭代的时候这个问题本身它应该怎么样从深层次的解决它我们先回去一点点然后让我们的观众更加了解一下就是INFRA的这个赛道比如说我们在基础的细节上面看到这个Reddix Attention它其实是SJLAN的一个核心技术之一嘛是用Reddix数来做这个前缀的缓存然后避免重复的计算KVCache能不能用比较通俗的语言给我们的观众来解释一下这个技术这个技术其实也比较简单嗯就是当你有很多的request 了发到engine这边需要处理的时候如果你的request有一个公共前缀那我们就不需要重新计算这个公共前缀所对应的KPcache而是可以复用就是你第一次一个request进来我已经计算过KPcache第二个request进来如果他们share的话我可以复用已经计算出来的KPcache所以这套memory管理系统就是对前缀的结构共享结构做了indexing和存储首先一个是你对进来的request之间的前缀的关系要建立前缀数来做indexing做完indexing之后你需要把已经计算的kd cache存在CMemoryPool里面然后把这个indexing跟这个CMemoryPool给mapping起来既然它的核心是用重复的前缀但是如果我们假设用户每次发的问题都是全新的没有什么共同的前缀那比如说长文党摘押或者创意写作那是不是这套机制就有一定它的局限性Augentic的场景出现辅大场景的出现大部分都是会有前追共享的因为你只要进入多轮对话你的后面的对话都会要复用前面已经对话的history所以前追复用是大量存在在几乎所有的场景里是不是说agent来了之后这个问题是更需要被解决的或者更需要被优化的他一直都是需要被解决的agent来之后他确实可能被变得更被大家所关注到了其实实际上在刚Paper刚出来的时候如果现在还回去看那个两三年前的Paper我们确实是以agent为入口就是进来说我们为什么要新设计是让这套提起当时还设计了一个frontend的语言都是为了Agentic的Use Case所涉及的因为我们觉得LM AI它会将来成为变得非常powerful之后你需要勾建一套人与AI之间交互的interface在这样的创作之初的动机其实是想要去定义和勾建这套interface让人和AI可以更好的交互但发展到今天因为你的挑战的重点可能Inference就是后端Efferency挑战重点更为突出所以大量的开发精力是移到了就是backend的这个run time的优化但我觉得有一天Some point其实我们还是应该回顾下最初的这个想法就是为什么要DGNS上这个Astron的它structure general是languageAstron原初design的时候是希望它是一个language我觉得有一天我们会revisit这个部分最终它还是应该是一个language的形式这个language它是人与AI之间交互的interface在看你们social media的时候你们经常就说啊这个模型发了之后我们是day zero就是从零天开始兼容的能不能跟我们解释一下为什么这件事情很重要这件事情很重要是市场觉得它很重要我们做事情还是很practical我们做开源哪些事情重要和不重要还是被market所决定的不是完全我们自己定义的我觉得market上人性好像大家就是很希望东西刚出来上我们就能用上这个愿望从user的完一直传递到了优优独播剧场——YoYo Television Series Exclusive我刚刚提到那些influence providerinfluence provider进而又传递到了我们也进而再传递到了模型厂商所以这个面条式的传递它其实满足的就是一个人你想要就跟你发布的产品我要去第一天就是抢购一样的这样的心态比如说前段时间发这个Deep Seek V4发布之后你们马上就是Day Zero兼容对吧达到这个Day Zero兼容你们要去做什么样的事情这个跟模型跟模型的弗达度很相关就是这个V4他们是在而开样上做了很多的创新所以我们其实花了特大的精力团队花了特别大的紧密去做这个模型的支持和各种优化但是我们DeepSeek Deezer支持这一次feature set做的也非常全因为花了很多的时间非常非常多的feature都是第一天就建造的并且我们也是我们第一次有这个RL的DezerMiles是我们的RL框架很多的算子残验一些实现都要重写大部分的code基本上是重写的因为DeepSeek V4的架构设计跟之前已经存在的模型有太多的不一样,是不是就是每一代新的模型出来,其实都是需要有个重新适配的这样的一个过程。 [65:00] 只是说它的模型架构如果变得非常大的话,可能你的这个 effort 就会更大一些,但如果它就是一个一个非常小的一个调整,或者是一个 upgrade 的话就是你这边其实就没有必要去做非常大的一些适配对如果它的架构完全不变的话其实甚至都不用适配如果它只是更新位置的话那甚至几乎不用适配最近有一些这个研究都是探索模型直接在Litens baseman推理而不是竹子去试证token比如说我们看到之前Meta的Coconut还有自己的ColaDLM等等如果这个方向成熟你觉得就是在推理引擎的很多优化假设是不是可能会发生一些变化或者冲写呢如果这个成熟的话那确实很多事情就会变得因为它退理的过程形态不一样了嘛但是我觉得这个也本来就是你写推理引擎的一环世界在变结构在变然后你的视性而愈之在变这是一个本来就持续存在的过程我觉得这个不是变革不是真正的变革本身不同的团队或者是不同的这个AI-infra的player适应变化的能力这个东西重要吗重要我觉得团队更重要再提一句啊这个尤其是现在有AI了AI写代码写得这么快其实你谁身上变一点其实就技术上来说不是真正产生巨大变革的地方技术上总是能做的我觉得真正的难点从来都还是在回归人团队本身人和团队问生那为什么你们的人你们的团队就更好了我觉得我们的人和团队团结 谦逊 又聪明 又努力那可能其他团队也会这么跟我说我觉得其他团队也挺好的呀我觉得大家都挺好的但你每个群体都会有一个自己的最终会形成一个自己的文化大家各有所长你强调的就是公司内部的企业文化是什么样子的我希望大家是focus这个是我们的就是我们追求极高的审美这就把事情做solid我们希望Redstock人都是自己特别挑剔的人都是自己本身特别挑剔的人对自己对自己的作品特别挑剔的人嗯那在今年年初的时候我们看到这个VIM的核心团队呢也是商业化了成立了Infrared公司然后也是融资了一点五亿美元估值八亿美元这个产业之后会有更多的新人对手吗更多的公司会商业化来做这个事情吗我觉得完全有可能而且其实它就是持续不断在发生的就是Infraud和Redisar这两家之后还有新的Infraud的company在不断的涌现谁会变成赢家呢就是核心的新增点团队的新增点会在什么样的方向呢我其实不觉得我们在这个赛道虽然我们有S上S上是Infraud engine但我觉得Redisar的那个长远使命其实是不属于这个菜道的有意思能不能详细来说一下我如果按照前面说话我觉得Red Shark我说的目的是我们想把最好的AI带给大家这是我们非常朦胧的一个目标Rain Shark接下来一年要做的事情三年要做的事情五年和十年其实都讲词会非常的不一样我们最终想要我不想透露我不想discourse但是我可以大概的说我认为Rudshark最终使命是要做下一代AI的下一代AI下一代Next Generation AI我们的本质还是不是单纯的infra implementation意思是你们想要做模型吗也不一定是模型它是下一个形式就我现在就我不讲它是什么但我可以说我们并不是停在这个地方只是说这个inference或者是infra只是一个起点对它是一个前前条件但我们想我们要做的也不是模型我们将来想做的事情不是一个现在世界上已经存在的东西有意思所以我其实不觉得我们跟Existen的这些Inference Player是一个category里面的就是它还不存在在是你觉得它一定会发生的我觉得它会发生然后你先把它走出来或者是我希望它发生我想看到它发生我就很好奇你能跟我说一下我们后期把它逼掉吗不能好对但我可以说就是influence不是我们的它是一个起点它不是这个的长远核心所以我们其实跟其他的influence的company都是保持良好的关系我们那里是全开源的SRM也不是Early Shark的所有物了SRM是Early Shark下面它是属于社区的但是我们公司的所有贡献在上上都是开源的我们是没有private fork我们的面光也很简单我们其实是希望这些东西被所有人使用我们并没有想要通过这个地方制造一个difference然后去获取利益所以公司的命迈是不在这里的其实我们看到其实有不少的做退力引擎的创业公司嘛虽然有些公司他们自己不做引擎但是也是在这个引擎上面去做服务的而且现在铁量也不小了比如说Viston是最近完成了3亿美元的融资估值过11亿美元Fireworks AI现在估值有40亿美元然后Together AI现在呢也是在寻求11亿美元的信融资那同时我们看到这个AWS啊Google这些大的云厂商也是在提供这个托管退力服务整个的AI Infra的生态链最近在发生什么样的事情给我们梳理一下我觉得Inference这件事情其实很早就存在了也发展了很久但是今年AI可能在变得更加成熟就 [70:00] 尤其是Ansofie这个暴眼大家都看到了AI变得更有用之后整个市场的effort可能会有更多的从training转向Infrancer开始需要让它盈利和兑现的时候然后这个转化就会使得Inference市场进一步的本来就已经很Explode现在更大的Explode所以你会看到很多这种与货生产卖出来的各种各样的Inference公司但同时所谓的AI Native的公司他们也开始感受到了你继续使用Existion模型去做Prompting Engineering的局限性与此同时也有更多的公司开始需要利用好自己的Data去做Customization的需求这个需求它从另一方面也在推动RL这一块的实生化一方面你看到有很多的新的infrast公司出来另一方面你发现你会看到一个establishedinfrast公司在往RL那边move在往RL那边扩张我觉得这可能是这一批公司里面最大的两个趋势最明显的两个趋势Baston还有Fireworks也是你们的客户嘛对吧但以后的用户你觉得以后会发展成竞争对手吗我不知道他们有可能觉得我们是某种意义上竞争对手但是我们不把他们当成竞争对手我们是更想和谐相处的一个是我们其实重点重心并不在这个地方不然我们就不会把我们的influence给大家随意使用然后还去支持他们使用第二点是我们因为我们这个开源的意愿我们希望被大家都使用所以我们并不想跟他们成为竞争对手我们希望这些都是我们的盟友然后我们更希望的是focus在AI本身的一些技术迭代上然后我们希望把这些技术可以跟他们所共同发展促成他们的这个业务模式的增长现在你们服务的客户大概是什么样类型的企业或者是他们有没有一个什么比较典型的使用场景可以分享的我们各个HIP的客户都有从这个Data CenterNeo Cloud就是Hyperscaler就这些是Cop就他们有GPU我们帮他们想跟他们一起或者帮他们sellGPU到这些Infra Provider我们其实也想跟他们合作也是希望他们成为我们客户但现在还是一个user的关系在网上到AI这些公司他们想要使用AI Infra去不然train他们的model或者是submodel也好他们也是我们的客户还有一些传统的大公司它不是完全的AI公司但是它想要用AI来助力它原来的业务那我们也希望在这里可以提供一些价值SGLine之后还开发了Miles这个是主要是用在RL上面的你们为什么同时要做Inference跟RL Training因为我们做的是整个AI infraInference和RL是就我刚说它是在最靠近用户的两个末端的步骤所以我们从末端步骤开始布局但是我们要做的是整个能够把AI制造出来的能力这两个东西同时做难度大吗还好因为它俩其实非常相关R1里面很大一部分的挑战实在是Rawad EngineLoward Engine它也是跟它就就是Inference Engine如果RL的话你更多的是要做一些调配上的调配上的工作和可能位置Transfer之类的交水性的工作那scheduling算法也有一些新的东西但是系统层面他们有巨大非常非常大的overlap对你刚刚跟我讲了两个很好的教授嘛非常教科书级别的教授有没有哪个管理者你是觉得你遇到过就是是最好的管理者他们的特质是什么样子的其实管理这个词也很宽繁不同位置的管理者他们的功能也是不一样的管理与被管理它其实也不是一个单纯的管理为管理的关系它其实也是一个职能分工的关系就是一件大事要做成它背后一定要有一个人有一个人他非常非常的跟这件事情绑定他是不遗余力地要推荐事情发生这个人不管是Founder也好是那个CEO也好他可以是任何一个人但是你继续有这么一个人的他以某种形式他跟这件事情被绑定了这个角色的这个人他需要有很清晰的想法知道我们要我们从哪里来我们要去哪里我为什么要做这件事情团队为什么要做这件事情他需要能够有这个坚持并且他要能够看见未来看见一个他想推动的未来也许没有他就不会发生但是一定是一个他能看见的未来有Vision这些东西是最重要的但是你有vision的这个人他并不一定需要具备管理者需要的所有特质你与此同时公司里面还需要的其他的管理者他们又需要执行不同的functionality比方说能够真的把一个细整变成真实变得可执行能够把人与人之间的合作关系掉落得很好这可能都是不同人的功能管理者非常重要然后它的架构制度非常重要但是对但我觉得我现在的想法都很初级我其实现在一个加克力就是处在一个思考这个问题的阶段就是我觉得我们刚刚我们刚好就在一个从我还能一个人看清所有事情到我现在看不清的这个阶段所以我其实最近就是在想这个问题我还没有找到答案我现在看到的都是挑战对那现在这个挑战跟你当时刚加入XAI的时候面临的挑战是相似的吗因为你也说不一样你也说XAI你也是把它看成你的baby看成一个很重要的一个事情嘛那你在孵化它的时候因为你加入XAI的时候它应该还没有Inference Team然后你其实是把它给build up起来的这样的一个很重要的恒心的 [75:00] 你觉得就是在回顾当时你面对的一个局面跟挑战的时候跟现在有什么样不一样吗还是完全不一样的因为毕竟在XI我不是XI的owner嘛就算我想虽然我把它当成baby但其实其他人并不觉得它是我的baby所以我其实并没有被赋能我并没有被empowerOK我有想法我有观察但是我很多事情是改变不了的我是没有办法去做很多决定或者是告诉下人一些的影响他人的决定的那我的责任其实也没有办法扩展到那么大的边界上但是我在XI学的学到了一句话这个XI的那个两个leader就是当时Tony和国动分别跟我说过我不知道他们是不是串通过但他们跟我说同一句话就是说那个那个authority和responsibility要match就我在XI我是没有authority的我只是一个小team leader而已就是我其实没有权利做很多事情所以我就没有责任哦 ok ok所以你自己对你觉得你自己有责任但是我其实没有其实没有我其实没有因为我负不了责我不能决定事情我就负不了责这个事情如果我不能决定该怎么做做错的话我也当不了责做对了就不是我能控制的事情但是现在的话就说这个公司那我要做决定我必须要做决定它变成了我的义务我必须要做决定那它做的好和坏所有的责任全部在我头上如果事情没有做好我就要背锅那当然做好了你会开心做好了其实听不过功了做坏的是我的责任这个就是跟之前的事情完全不一样的角色挑战也是完全不一样的从研究员到大厂再到自己出来这个创业对自己的定位有什么样的转变吗我其实没想过这个问题我觉得我一直都只想我想做什么事情我做件事情能够这样的身份也好资源也好当时的我觉得什么是最好选择我就会去做什么选择但他们都只有一个目的就是我要做我想做的那件事情两年前的时候我可能觉得我想要创造那个未来Professor是一条路两年后的今天我觉得professor这条路走不通我就开始开公司创业不管是我是做professor还是开公司他都只是approach我没有想过这个身份本身意味着什么不是很在乎那个身份但是因为你选择路不一样你要做一些其他的事情来辅佐你最终想做到的事情比如说你现在是一个非常明星startup的founder你要去融资对吧你要去招人你可能要去做一些其他以前你也没有想过要去做的事情所以就是比如说融资跟投资人聊这件事情对你来说是负担吗还是这个事情我觉得这个融资认识我以前确实不懂就是被迫去做的但是认识认识总是要做first principle thinking我如果要做我的目标认识该做那我就去做它就我们当时容资还是挺曲折的具体我就不讲但是挺曲折的但是我现在觉得我经历了这么长时间之后我现在对这个行业有些更多的理解了我其实觉得我在跟他们打完交道之后昨天我们聊完之后我又多了些更多的思考我现在觉得我对投资人有更多的respect我觉得我更理解他们的一些想法为什么整个行业是一个这样的状态对就当然就是Sandhill它有一套它的游戏规则那这套游戏规则我理解其实跟之前做research的时候是完全不一样的你觉得你自己在适应这一套新的游戏规则的我觉得没有真的不一样没有不一样本质逻辑肯定是不一样但是本质逻辑都是就是不同的体系然后还是人还是人性你这根到底还是所有的人性本次我就没有不一样就是你把东西做好你知求的一个真的东西你把它给做出来说出来是吗就是我觉得它体系不一样它的学术界的体系跟投资人体系肯定是不一样的所以你的规则不一样那你这个Makandum不一样你做事的方式肯定不一样但是归根结底它所有的你再次说下去都是人人与人之间是共同的所以当你进入那个体系的时候其实只是要学习那个体系怎么回事怎么运转然后各种利点是怎么样的一个平衡关系然后你如果还是以同样的人的根本作为推理基点的话对这个整个TC的理解还是可以被推理出来这个点有意思就像他Pipper一样它是有套路的对吧你学到了这个套路那其实你很快所有average的东西都是有套路所有common的事情都是有套路最后的这个投资人应该是说结果非常非常好了英语达AMD 英特尔这几个最大的半导体公司都罕见了集体的投了你们除此之外呢你们也是拿到了非常硬核的很多的投资人的背书你觉得他们为什么投你们他们看中了你们的什么我也很想问投资人这个问题对我觉得我很难为他们代言就是他们看中了我们什么但我如果说现在让我sell一下的话那我觉得我们是在这个赛道里面这个跑出速度的玩家我们跑出的速度让大家可以看见我们的未来我们也觉得我们可以有机会创造新的market也有机会去助力现有的market我们可以enable更多的其他的AI公司或者是想要进入AI的公司去enable他们制造AI的能力可以让他们更多的接近AI和利用AI创造更多的价值那么我们如果能提供这部分 [80:00] 价值的话这个就是我们值得被投资的原因他们还是看重这件事情觉得这个事情是关键的我觉得肯定很多人是看这种事情的当然早期投资也有一些也看人吧我其实更喜欢看人的Invest但可能后来可能接下来A轮B轮C轮之后的Emaster就会看数字跟业绩但是我们第一个因为有这个开眼的技术在他们肯定是人和诗一起看的至于他们为什么看中了我就我就不替他们回答然后你为什么对开眼这么执着啊这个是追溯到我其实想纠正一下我觉得我不是对开源执着在乎就是我没有刻意要在乎和执着它其实它是自然发生的当然我从这里获得价值观确实跟我以前的经历有关我出生在江西这样一个中部的省也不是很发达的一个省然后我小时候受到的教育我已经在江西省受到了很好的教育但是你放眼全国甚至国际去比的话那我当时受到的教育还是很很朴素的一段教育经历当时我想要学编程其实没有太多的资源可以学所以我大部分的学习都是从互联网上拿到的计算机那个时候也不是最火的专业计算机竞赛更不是大家追捧的竞赛所以你能够在市面上搜集到的教材或者是各种资源都非常的稀少都是未经加工的所以当时我的学习全都是来自于我去互联网上去看到的那些非常random别人留下的帖子csdn对吧各种当时online judge的那个网上提普我从那些地方学到的东西都是来源于我我不知道是谁的人我最近也不知道他们是谁当时我也不知道他们是谁我只是过去非常词的把代码拿走了我回家研究然后我都不知道写这个代码的人把他使用出来的人是谁我是被被这样一群人被互联网上不知道世界上在哪里的人给给raise起来的就是我是被他们教会的所以sharing open的这个文化它对我来说是一个就像我生活的空气一样存在我也没有觉得我在刻意追逐它但是它对我来说就是一个从我很小的小开始他就一直在我身边的像空气一样我觉得他理所应当你有一个idea你做了一件事情你不分享出来那才觉得奇怪我就是这样一个状态你觉得看元社区在最近几年有发生什么变化吗一个好的变化一个不那么好的变化好的变化是我觉得开业越来越多了就是大家越来越追求开源越来越愿意开源越来越相信开源的价值不管是大家的这个mindset就是人对开源的欣赏还是资本对开源的认可都是上升状态的但是有那么一点不好的问题的话是它的这个追捧上升中也开始掺杂一些其实不是那么纯粹的东西在里面你掺杂一些不是那么纯粹的东西一个是会破坏原来我们所想象的那个开源带来的那个美好的事情本身另一方面是你如果开始有这样的东西存在了会让原来相信这件事情的人变得不那么相信开源里面混进了一些公立主义者这些公立主义者的存在使得那些本来不是公立主义的人分不清楚开源里面的成分哪些是纯粹的哪些是不纯粹的他们的影响呢不仅仅是他们自己这是我可能觉得开源也你在变好的过程中也同时会开始出现的一种balance就是东西总是阴阳总是共存的一种balance大家最近对开B语言之争也聊得蛮多的,你觉得整个AI的走向会慢慢的往前?碧园那边去迁移吗还说以后我觉得还是共存状态我觉得开源不会停而且根据我的了解它也没有停有更多的人一直在想要进来贡献自己的力量但我也不觉得所有东西都应该开源因为嗯你不能没有规则你也不能没有界限就是完全的开放开源这个状态如果如果你没有参杂太多的可套利的空间的话它可以是美好的但你一旦把它完全打开的话人性的恶也会被放大是, see you我觉得两种 argument 都是正确我确实也不觉得AI应该完全的展现在所有人面前它确实有risk我不否认这一点我也不站在AI应该完全被握在一小屁人手上我也不站在那一侧我觉得AI应该均等地被握在不同的人的手中我们想做的就是这件事情就是Red Hat不是纯粹为开源服务的其实就是我们是有开源文化在但并不意味着我们做的所有事情都是开源和为开源服务的我们也为B元模型服务但是我们说的这个decomatization是我们认为开源B元是共存的但是我们希望B元它存在但不centralized但这个怎么实现呢所以我们希望提供这个能创造最好的必须模型的Tortrain让所有人都拥有制造属于你自己的AI的能力但是你制造出来的AI属于你自己Android被个昨天呼吁就是大家都停止AI的研究但是他又下了一个附加条件就是说我现在要make sure大家都停止了我才停止就是你现在comfortable就是这些最强大的模型都被握在这么几个的变远模型的player手中这件事情吗这件事情它能被打破吗你觉得我觉得这件事情很难发生 [85:00] 它是违背人性的你是说就是所有人停下来AI研究这种事情是吗因为你大家没有在你这样一个体系里面大家没有拿到同样的资源吗所有人都想要接受到最好的AI啊所以这个事情就很难发生我不觉得它不正确其实如果说现在有一个非常强力的上帝他下来安排每一个人做什么那事情是可以发生的我不认为那是一个非常差的世界结局就是大家都停了然后安斯洛菲个领先我不觉得这是一个极度差的世界结局但是世界不可能停在哪个地方因为没有这样一个上帝下来可以把所有人安排的按部就班一定会有人要在里面起义所以我觉得它不可能发生那这个事情会往哪里走呢终局可能不知道是不是一个会非常美好就像你说的一个非常decentralized每个人都能有自己的AI的这样的一个终局但是你觉得what's next就是看我往多远的未来去想如果我讲到横远的未来的话我觉得现有的AI还没有强到它会真的完全控制和威胁掉人所以在可见的目前我能够guarantee看到的未来里面人类还是安全的我觉得那如果是这样一个前提下的话大家还是会互相追逐然后AI会变得越来越强但是它这个强是一个productivity上去取代人类的一些功能性的强它不能完全的取代人它只是取代了人类的一些功能但这个变革肯定也是巨大的动荡它会对人类的社会结构权力结构对产生巨大的动荡就是跟过往发生过的每次工业革命一样的一个一些席卷性的这种动荡可能比以往的工业革命更加工业革命但是它是个你可以理解的范畴更远的未来就是如果说AI它真的可以强盗已经开始操控人类他真的已经over人类dominant人类了能够做人类做任何事情如果那些真的能来的话我们是阻止不了的我觉得那些就会来或者说你想阻止他的方式不是通过呼吁所有的人类停止还主持这个事情是不太可能发生的对你阻止他的方式一定是发明发现另一条路径使得你允许AI继续前进而人类还不会输你在这中间想做什么事情吗我觉得我想我想要build的那个未来就是一个跟强力AI共存的未来我们现在说我们要把强力的AI最好的AI带给所有人就人类需要这个公平你不太可能通过一小部分人把好的AI窝在手里其他人都无能来维护表面上的合影这是不可能的如果说AI一定要往前走的话那所有人都往前走所有人都能够去不一定是所有人不是literally所有人但是我说大家都不是被这样抱的而是你如果你是个你有这个小idea潜力你知道往前走的时候你能够接受到最好的人类知识的话你需要在这样一个竞争环境往前走,它是一个健康的与AI共存和大战的状态你现在有这样一个假设然后整个人类他们才能是团结在一起去寻找这个solution所以这件事情是必然的我们不管如果那天发生真的到了有一天你需要让人类寻找一个新的solution的话这个它都是个前提你先要让所有的人类平等共处团结一致然后你才能再寻找一个人类与爱共存的世界LMSIS 你再想说一下那段经历吗LMSIS是我们想 我跟联敏最早一开始想成了一个机构这个机构可以让不同学校的人参与研究Belomis到今天虽然它是一个non-profit然后我们大家都在里面partime的帮一些事情但是Belomis其实是一个我们想要非常严肃做的事情如果说Rajci Sark有一天我希望他永远走下去但如果有一天他不是走到底的话让我记得是那个我终生会做的事业但它跟Redisir有些共同性,就他们的都有个共同的value就是关于平等和关于平权Omsys的评券是来自于我们希望能够孵化优秀的人才做的项目即便他们没有充分的背景没有充分的后台没有充分的branding这个是来源于一些我自己个人经历我经历过低谷的事情很低谷事业经历过很高昂的事情我自己能感受到这里面的difference可能同样是我同样做了一件事情我在高昂的时期做的那件事情非常容易被大家关注到被大家记住甚至被大家夸大但是我在低谷时期做的事情有些也不错但是其实你就你就很难被大家所所看见或者被他认可但我觉得这个difference是没有必要存在的而且它是破坏社会公平竞争结构的Leom Chase希望做的是抹平这个差异希望好的项目真的能够被托取出来并且我们希望Critus能够分到做事情的人身上让可能还没有积累没有establish的人对项目有更强的掌控权保护为establish的真实的开发者的掌控权对象的掌控权我看你在开源社区的时候还做了一些蛮多其他的一些项目就比如说这个LM Arena这个东西其实在行业里面就是影响也是挺大的那段时间就是你其实主要还是一个主线嘛就是说不同的项目这样来推进是吗Arena是当时我们作为Almany Line时间的一个其中一个Found Project我是觉得这个事情挺有意思的然后做了一下然后他意外地得到了挺多的关系 [90:00] 可能大家当时就觉得就排行榜这个事情可能本身它具有一定的娱乐性但是我觉得这个Arena确实是我们开始做的但你真的说把它壮大然后做成公司那确实还是我们后来就是我们把这个项目交给了韦玲他们然后每些新的人也加进来是后面这个新的团队把他们真的做成商业级别规模的一个项目就是刚才你说每个人要公平要平权平权更多的是说相同的机会相同的机会对特别是对于Tech方面的一个怎么说程序员也好或者是Researcher也好就是你对这件事情的在乎是嗯因为什么样的契机或者是什么样的经历可以跟我们分享一下吗一部分是我觉得我好像天生就是这样只有我生下来就是在乎这个事情另一部分可能也是一种延伸就是我觉得我从小到大是我觉得我是经历和看见了很多性别其实我觉得虽然大家回避这个就没有那么这个话题有一定的可征应性就是你怎么鉴定是或者不是但我觉得我还是很明显的说这个事情它存在你无法回避它存在而且我非常切身的经历过无数这样子的例子它每一个例子你单拎出来它都非常小但是他是那种就是一件在你生命中无时不刻每天发生的频繁的小事所以它其实对那些被影响到的人造成的影响不是你听到一个例子的时候说感受到的冲击而是把那一件小事的冲击乘上以便那才是对人生的真实的冲击然后你再把它扩大到整个群体它所造成的这个互动性影响就是common sense的影响刻在所有人共同认知里面的影响是没有办法用一个例子去说清楚的我觉得这个是它造成了我为什么特别在乎平全合合和公平平等这些东西的一个性格特质原因第三个就是我刚跟你讲就是我自己经历过我知道我能感受到就有些包括我自己做的我发的那些paper有些paper其实我觉得也就一般但是那个paper可能就是因为是我发的或者是我一个斯坦福发的我克里发的然后大家就会觉得它是一个标准但其实同期可能有一些跟我做的paper差不多的paper我其实只是个researcher我不是那个科学家但是因为这样一个身份让我这种配备被定义了但是我觉得这个事情它本不应该这样子虽然我是获益者但是当我是获益者的时候我觉得我现在终于有力量可以因为我是获益者我终于有力量把这个事情往外推动一点EMSYS想要以什么样的形式去把这个权利很公平地分给每个人呢很难就是首先我们都知道这是一个结构性问题它不是我能做的或者是这个一个机构能做的我就有一次我跟像Solica聊天我忘记是具体聊了什么内容了但是我跟她说我想改变一些东西她聊到一个什么事情我说这个事情我想改变然后她说你改变不了或者是在问我说你觉得你能改变吗改变了两个然后我就说我不能改变我确实没办法改变但是如果我能改变1%的话我愿意用我的一生去改变这1%一样的答案就是我觉得我改变不了这个挑战对我来说在这个挑战面前我太渺小了但是我觉得我能改变一点点或者是改变我身边的一点点人然后这个一点点人他们会再把这个精神再传递到更多的人身上他就发生一点点面华那我觉得他值得我用一声去做但是这个里面有一个很微妙的地方就是你所说的当我们想要改变事情推广一个价值观或者人家改变身边的人的时候这个传递是非常容易出错的对非常容易出错和被人利用其实真正最后你能够传记的是你是不是能够法就是你要peak的人非常重要有很多人他就不在这个里面他根本就不在这个体系里面所以你不是所有人都可以被他就可以所以你要找的那些人不是打个比方说我现在想帮助弱势群体但不是说我真的去帮助若树群体这事就能被解决解决不了你要解决的是你要找到那些跟你一样想去找到想帮助若树群体的人的人你只能去找到那个能把这个东西散布出去的人而不是直接去做到就比方说哪怕你培养更多的学生成为老师都是不够的你要培养的是想要去培养把学生培养成老师的老师你需要把那个recursive的链条建起来才有用对然后这个事情它会非常的慢它非常非常的慢所以我觉得我做不了多少事情但是但是它的好处是你如果能做到一点它就做到了它不是个会回退的边它不是个会回退的改变它是一个gradual的就是你往前推了它就是往前推了对它至少是solid的一个implement我觉得solid improvement只要它是solid的话就可以如果它不solid但看上去很但是看上去是个big jump但它不solid那你这个big jump是没有意义的就我们平时退项目我也这么跟他们说的我说我不用着急我们不用到那个go但是你要但是我们重要的是你team能不能训练出来一套系统化方法我的每一项 [95:00] 你小步的目纹是不是solid哪怕我就动了一点点比你那个动得很大也不能将来还要退回来要好很多在research界也会有性别歧视吗也不能叫歧视啊其实没有那么严重叫性别不平等这可能都没有到不平等和歧视的地步但是他会有但是这个这个很多小很suttle的这种意识层面的不对称是无处不在的我给你举个微妙的例子就是非差点多微妙这个事情就是微妙到你会觉得它不是个事就打比方说想说主要说我竞赛出生我打竞赛竞赛打得很好如果我是个男生大家就会说我是天才如果我是个女生他就会说他很努力他很听话嗯就是我进攻对他会觉得你获得运气好我小时候经历的是什么就是有一年的竞赛那年我一直是成绩是就是各种大赛比赛都是很好都是顶尖最好的反正至少是比我们学校里跟我PIR的那个人要好很多但是我身边的人会找无数个理由来解释我为什么好他们觉得你赢是不应当的他们不否认他们不会否认但是他们会觉得你就是如果换一个人那个人赢是理所应当的但如果是我赢了他们会觉得你这个赢需要被解释但是你正常情况下一个人赢是不需要被解释的我为什么要去认为他为什么赢呢他厉害呀对啊但是我的每一场赢都要被解释被我都有个原因叫做为什么赢而不是你为什么输这个解释可能是哎他这个他的对手最近状态不好然后下一场他的对手状态又被回来然后下一场是哎他这个体压重了这个体他以前做过但是可能你其实这个人其实我并没有做过但是你就你感受到这个这个这个也不是故意的恶意让人很知心这些微妙的存在也会出现在你之后做研究读博士做项目对是远远不断的也都会一直有这样的存在就是说你赢了你比人厉害大家就会给你找理由说他为什么为什么是他对他们会说我要进去研究一下这个人为什么可以他为什么可以他为什么能发这么多fever因为没有太真还转啊一旦有一个合作方然后这个合作方他是男性谢谢大家别人就会觉得这个idea会不会不是他的啊就是这些很微妙的事情就是你单独去看的时候他们都很小但是我说这是一件持续发生每天发生每分秒再发生的小时而且它会波及到每一个在这个群体里的人Exactly你根本就没有办法跳出这个框架因为一旦你跳出别人就会觉得你小气谁就会觉得你格局小我年轻的时候在对这些人性的态度会更极端一些但我后来觉得我已经觉得没什么好就是这个事情是不需要被讨论的你要解决这一点只有一个方法就是你让所谓的入行酒或者说如果在这个specific咱们的朋友就是女性真正拥有权利初次之外没有别的办法你就是不断去赢就好了对 而且这个权利是所谓的人类的真的top0.001% 0.01% 0.1% 1%里面全部平权他们只有真正获得权利这个事情才会被改变其他所有的一切通过education是达不到任何目标的你觉得在过去十年有好一点点吗还是没有肯定有好一点点吧我觉得是社会是在向前但是这个你如果拆分到不同的方面的话有些地方可能也在也有也不是都在变好对它那个价值观是一个很波动的状态但你整个来说我觉得是在变好好的,我觉得我们cover了大部分的东西,让我再看一看有没有什么问题,你觉得有什么问题我们漏掉的吗?我没有想过有什么问题要问但是我到时结尾的时候我倒是可以有一件事情想说昨天你们过来然后你给我看那个Dog的第一眼我其实当时挺打动的就是那个doc里面已经有很多对我的描述就感觉你们已经对我我不知道这是AI生成的还是人做的没有我们看了很多是人做的挺详尽的就是我觉得很多投我的投资人都没有这么样的去看看过我的经历在我跟他们聊天中我发现他们不了解我的经历他们不了解发生过什么他们可能在别的村面去打听了但是这份Doc还是我当时印象很深刻我觉得包括融资的这段经历给我的一些成长就是很多职业本身我们觉得会做的事情其实它不是自然发生也许我原来觉得一个做采访的人他就应该对被采访者先有一个深度的study但事实上很多的采访者他们并不一定真的会做这件事情然后也许我们觉得投资人他应该对Founder做个很深度的调查但实际上大多数投资人都没有去做深度的调查也许我们觉得一个 PhD 应该好好做研究,大多数 PhD 未必真能好好做研究。有很多事情它在定义里面该发生的其实不会发生。我后来发现,一个人他只要能把职业里面该做的事情做完其实就已经非常稀有我觉得我昨天看那个Doc的时候我不喜欢餐 [100:00] 本来我们也差点就要推掉了但是我昨天看那个doc的时候其实我觉得我愿意好好做一下采访因为我觉得你们做的这个劳动我是respect我就想说一句respect谢谢谢谢我也很respect你然后我觉得就是很多就刚刚聊到的然后我的 phd其实因为有很多波折融资手有很多波折我们这个开软项目做起来也有很多国者但我现在真的要我说结局怎么样的话其实这三段波折或者说过往包括童年很多波折他们的波折之后的那个终点都非常的好我的PHC丁年这个Rotuid找导师不是很顺利但是最后我找到那个导师他是一个教科书班完美的报纸我们这个开源项目一开始也有各种各样的被打击但走到今天我们有了一个就是这么好的团队我们团队大家都这么的这么的有能量这么的有热情还是这么团结我们融资我前面也经历了很多各种各样的事情但我觉得最后我们容纳现在的这些投资人也是教科书班完美的投资人是我在当时刚出来融资之前不在这么应无所知所以我想去学点东西我就去看了一些书然后理解了一下融资的书怎么去融资的书类似吧可能Founder和投资人世界的相关的一些书Foundraising one one差不多然后我想理解这是什么东西那个时候我很多名词都不知道的我不知道什么叫term sheetOK就是我在这样的状态下出了融资的我也不知道什么叫做估值什么叫做sit的我都可能就没有概念很多基地的概念我都不知道都不理解然后p12是什么p12这个词我都没有听说过什么叫p12这是什么要写多少页每页写什么对吧是完全没有概念就是没有概念到P氏大哥这个词我都没听说过腾水的是什么东西有个人跟我说你们有没有拿腾水啥是腾水我在这样的状态里面所以我就去尝试去学到东西但是我从书本里面看到的书本里写的都是美好书本里面告诉我的那个投资人和Founder之间的关系是是一个终身友谊的关系是一个你们并肩作战的关系虽然我早有准备童话总是美好的虽然我早有准备但那个实际上不是这样的现实总是复杂很多但是我最后真的跟我们Payor的投资人这些partners他们又回到了我当初在textbook里面看到的那个所谓的投资人跟founder之间关系舒本也没有骗我们包括我以前PSE之前很多人跟我描述过的PSE导师跟学生之间的关系可能也是过于美好的但是我最后拿到了就是那些美好的描述他们都没有骗我世界上存在那么纯粹那么好的导师存在那么好的投资人存在这么好的采访者但是绝大多数的人他们没有坚持到把那个跌宕起伏的过程走完没有坚持到相信那个好的东西是其实是存在的只是说你要筛选只是说你要有耐心等着它最后显露出来你要有这个耐心让那些其实不是理想状态的杀力自己脱落掉然后很多人可能在中间就开始怀疑了然后放弃了怀疑了放弃了或者是他不再相信借这个机会我其实想说那些好东西都存在所有好的东西都不是编出来但是你要非常相信他你要相信到你身份没有这样的人你还相信他然后有一天那个跟你一样想起来他有一天会跟你相遇嗯坚持这一点特别好刚刚我都有点想流泪你知道吗这一点太好了最后两个问题就是你是一个逻辑如此缜密之人但是就像你说了这个世界上很多东西是乱的或者刷的逻辑是不成立的就很多random的地方就世界是个草台班子就是这件事情能自抢吗还是说你其实是会stuffer的就我在我的逻辑里是自下的我的逻辑不受不受我看到的事情的干扰suffer也有啊就是会suffer就我我其实很emotional我是非常emotional的人其实就是很多很微小的事情会对我造成非常大的情绪影响但是我能够把那个情绪影响跟我的价值观构建分离开比如说我看到了很多事情他们我不想看到我不希望它发生但他们都发生了然后我觉得很不高兴但是我看完他们之后不会导致我觉得那个是正常的我仍然会坚信那个我没看见但我相信的东西是对的我仍然会坚信就像我刚刚说的我仍然会坚信有一个我想看见的世界但是我现在没看见他只是我还没看见他而已就这个事情我可能会相信他几年十年的时间我还相信它在那里这个东西很难被改变但是我过往的经历告诉我他们其实都存在最后我都遇到了他们所以我有很多正反馈但我觉得有很多人是没有看到正反馈的所以你也不能说就是要求所有人都坚持但是我觉得我是心理能力我全都看到正盘会就是我的正盘会是 [105:00] 让我可以在后面的遇到这种为此情况时候坚持得越来越久可能我第一次的时候我等了几个月然后它被验证了下足等了几年它被验证了再下足等了十年它又被验证了但我就知道了它总是能备验证下足可以等二十年再下足可以等就没有人生可能等完了但是我想就是至少我等到了我觉得别人也能等到你有没有想过因为你是对的人你是正确的去做这件事情的人所以你等到了比如说有些人他可能对自己的认知有务他可能不是最正确的那个人他可能不是有天分的那个人可能他等下去就是等不到的就需要找到这个自洽吧就是那比方说我说我等了十年最后等到但是我其实自己的自己的心里的一些认知跟世界一直是不吻合的这十年里我一直都成隔离的存在我觉得也OK我也可以一直就很割裂的存在就算我整个人生都很割裂我也不想脱险就是你能不能找到那个boundary这是重要的就其实这件事情OK就是我想说有这个割裂其实是完全OK的它不会真的很痛苦人们只是害怕而已但如果说有个人告诉你说就这样就这么回事没关系其实就真的没关系但是首先这事上也没有绝对的正确我也不能说我是正确的人大家都是正确的人但我只说每个人都有你自己的想法然后你所谓的正确在别人的眼中不正确也意思OK也是完全OK没有任何问题但是他的唯一重点就是你是不是按照你自己的想法去认知和和行动还是你其实是被别人牵着走的或者你觉得自己在妥协你只要不觉得这件妥协都没关系哪怕你真的错了就错了吧就也没关系但是我非常不喜欢的是就是大家都变成了不能执行自己意志这样是不好的就如果所有人都执行自己的意志哪怕你不和谐那这也是自然存在其实本来就合理好的好的那以上就是我们所有的问题了非常感谢谢谢盛影好那么以上呢就是我和盛影的视频播客栏目了这一期节目呢我们录制于6月初当时RedX Arc刚宣布融资不到两个月的时间AI市场经历了开源模型爆发而SGLine等推理引擎作为AI Infra的重要技术框架正在成为AI时代新的核心技术层连接英美的IMB 还有谷歌 TPU 等芯片与各大模型和应用而我们呢也很期待声音口中保密的目前还不存在的下一代AI是如何的形态那好以上就是这期视频的全部内容了你们的点赞评论还有转发式支持我们贵国101做好深度科技和商业内容的最佳动力我是陈倩那我们就下期视频再见了Bye