前Meta总监田渊栋联合创办AI实验室RSI获融6.5亿美元

前Meta总监田渊栋联合创办AI实验室RSI获6.5亿美元融资 大厂因臃肿同质化在AI自进化研发中落后，其频繁裁员与数据蒸馏逼迫员工在未来三到五年内向独特性自我升级。 本期节目是与RSI联合创始人田渊栋的深度对话。田渊栋详细介绍了RSI集结了Richard Socher、Alexis Dosovitskiy等8位顶尖AI学者的豪华创始团队，以及大厂臃肿导致“团队小型化”的行业趋势；阐述了RSI通过AI自动化科研实现“递归自我提升”的核心愿景，并揭秘了潜在推理（Latent Reasoning）与顿悟（Grokking）的数学奥秘；最后，他深入剖析了Google、Meta、XAI等大厂的组织架构与资本叙事困境，并针对AI引发的失业潮，生动地建议普通人要从“鱼进化成鸟”，寻找自身独特的不可替代价值。 前Meta FAIR研究总监田渊栋联合创立新AI实验室Recursive Superintelligence（RSI），在无产品阶段即获得6.5亿美元融资，估值达46.5亿美元，核心愿景是通过AI实现“递归自我提升”（Recursive Self-Improvement）与自动化科研。 (0:00) 田渊栋认为未来的AI评估将从虚幻的中间指标转向以解决问题为核心的“结果导向”，同时在AI自主修改代码和权重的递归系统里，可解释性（Interpretability）对安全边界评估和显卡算力效率至关重要。 (14:59) 田渊栋将继续在RSI推进连续潜在空间推理（Latent Reasoning）的研究；他指出语言更多是解释而非思考本身，潜在空间在并行推演和高维信息存储上的效率远高于离散的语言Token。 (24:59) 大厂当前面临决策自上而下导致的方向同质化与组织内耗困境，前沿大模型竞争本质已演化为组织架构之争；而小实验室的优势在于极度聚焦和依靠独特的研究品味绕开昂贵算力堆叠。 (54:59) 田渊栋预测AI Research将成为继Coding后的下一个高ROI爆发点；面对大厂加速“蒸馏”员工与自动化失业潮，普通人不能只做被动跳槽的螺丝钉，必须如同“鱼进化成鸟”般寻找独一无二的个人价值并成为独特的数据源。 (70:45)

前 Meta FAIR 研究总监田渊栋与其他七位顶尖研究员共同创立了 AI 初创公司 RSI（Recursive Super Intelligence），在无产品状态下获得 6.5 亿美元融资、估值达 46.5 亿美元。田渊栋认为，大模型演进的核心瓶颈已转向人类研究员的生理极限和大厂臃肿的组织架构，RSI 旨在通过“递归自我提升”推动科研自动化，并探索超越离散语言的连续潜在空间推理。 顶尖人才集结与小团队敏捷范式 (0:00) 据田渊栋介绍，在离开工作近 11 年的 Meta 后，他收到了包括 Anthropic、xAI、微软等多家巨头的邀约，但最终选择以联合创始人身份加入 RSI。核心驱动力在于他观察到大模型研发呈现出“小型化、速度快、摩擦少”的规律，而传统大厂面临自上而下的同质化决策、组织架构臃肿以及繁重的对齐成本，导致迭代效率落后。RSI 拥有包括 Richard Socher、熊蔡明、Tim Rocktäschel、Jeff Clune、Alexis Dosovitskiy 等在内的 8 位专业高度互补的联合创始人，目前团队规模约 25 人，主要分布在旧金山和伦敦，追求扁平沟通与极度聚焦。 递归自我提升与结果导向评估 (14:59) RSI 的核心愿景是“递归自我提升”（Recursive Self-Improvement），即让 AI 代替人类进行数据收集、架构设计与训练对齐等繁重科研劳动，并自主发掘新洞察。田渊栋指出，现有基准测试（Benchmark）存在过度拟合和指标虚幻的问题，未来的评估将彻底转向“结果导向”，直接验证系统最终产出的可用性。此外，在 AI 自主修改代码和权重的递归系统中，“可解释性”至关重要：一方面用于构建安全的人工超级智能（Safe Super Intelligence），划清自由探索与失控的边界；另一方面通过前置评估机制，避免在消耗成千上万张显卡完成训练后才发现问题，从而显著节约算力成本。 连续潜在推理与“顿悟”数学机理 (24:59) 在技术路径上，田渊栋表示 RSI 将延续其在 Meta 主导的 Coconut 研究，将连续潜在空间推理（Latent Reasoning）作为核心技术壁垒。他分析认为，主流的思维链（CoT）虽实用但并非终极范式，人类高阶思考依赖直觉与图像，语言本质上只是对思考结果的离散化解释；潜在 Token 能在高维空间同时存储多重思路并并行推演，在复杂图搜索等任务中效率远超离散语言。关于神经网络从死记硬背跃迁到泛化的“顿悟”（Grokking）现象，田渊栋阐述了其数学机制：通过能量函数分析，当结构化数据量跨越临界点（特定设计下约在 m log m 量级）时，系统能量最低点会由记忆解突变指向泛化解，理解该过程有助于大幅优化训练效率。 科研自动化落地与实验室格局分化 (34:59) 田渊栋强调 RSI 团队注重商业落地，将聚焦于推理效率优化技术授权、科研思维建模自动化服务，以及物理、材料与生物医药等领域的 AI for Science。针对竞争，他指出为垂类场景做定制化模型的初创企业极易被底层大模型升级颠覆，唯有专注于“自我提升”这一底层范式才具备持久壁垒。对比其他新兴实验室，田渊栋认为 Ilya 的 SSI 可能在探索绕过纯算力堆叠的新范式；LeCun 专注的视觉世界模型上限不及具备自指和概念定义能力的语言模型；而 David Silver 的纯无先验 RL 路线在开放领域缺乏明确评估函数且算力消耗过巨。相比之下，RSI 采取务实结合大模型与自我提升的路线。 大厂资本叙事困境与人才竞争演变 (70:45) 田渊栋分析指出，当前 OpenAI 和 Anthropic 等明星企业在产生营收和面临上市要求后，不可避免地从纯粹证明技术突破的“研究实验室逻辑”转向削减成本、追求利润的“资本叙事逻辑”。与此同时，AI Agent 能力已逐步达到大厂 L4 甚至 L5 工程师水准，基础工程岗位的淘汰正在加速。田渊栋用“水变干时鱼要进化成鸟”作比，预测未来 3 到 5 年内频繁裁员或成常态；研究员与工程师若仅盲目迷信 Scaling Law 或充当大机器螺丝钉将极易被替代，唯有具备独特的研究品味，成为探索专有领域的“独家数据源”，才能在技术重构中建立壁垒。 田渊栋断言继 Coding 之后，自动化科研（AI Research）将因极高的商业 ROI 成为行业下一个核心爆发点；然而，如何在脱离大厂无限算力资源的条件下，依靠精准的研究品味和极高的数据生成质量实现真正的自我进化，仍是 RSI 等新兴实验室面临的长期验证课题。

[0:00] 田渊栋: 团队小型化、速度变快、摩擦变少 [14:59] Maximizing the scientific discovery rate [34:59] 预训练的上限决定了 RL（强化学习）的上限 [61:15] 田渊栋: 大家迟早全部都要失业 [70:45] 田渊栋: 一旦你开始有 Revenue 了，我希望有更多人……你有很多 Revenue，但是你还是资本，你靠财很高，怎么办？会不会有这个问题？他们都要上市了嘛，要不然就是削减你的 Cost（成本），为什么把 Sora 关了？要不然你就再多挣点钱。它一定要进入这个叙事之后，那么这个逻辑就可能和以前的一个 Research Lab 的逻辑不一样了。Research Lab 的逻辑就是说我要证明自己很厉害，我做了一个新东西出来，你看没人做过吧，很厉害，超级 Impressive。但是一旦它掉进了资本上的一个……上市要做资本叙事、要做 Revenue、要做资产负债表的时候，你就会回到了之前的商业模式。 [75:15] 练好神功就被踢走 [75:15] 先进生产力与落后生产关系之间的矛盾 [80:15] 田渊栋: 下一天有句话嘛，就是说有人把水弄干了。把水弄干的鱼不在这里……有些鱼把水弄干了，弄干之后呢，其实其他的鱼不停地在跳，但是不停地在跳的时候呢，你会发现水总的来说是越来越少的。所以你永远找不到，你最后一定要变成一个四维生物你才能活下来。所以鱼要进化成鸟，长出翅膀来才能够生存下去。 [80:15] 田渊栋: 大机器上的螺丝钉 [80:15] 田渊栋: 行走的数据源 [80:15] 田渊栋: 如果再不写的话，我的 Idea 就没了，因为已经实现了 [88:15] 田渊栋: 我们现在有乒乓球桌，桑拿房可能还没那么高级

[0:00] 大厂不像多人了所以大家就得找到自己的意义今天的这期视频播客我们来到旧金山城里嘉宾是我们的老朋友了田园洞田园洞作为Meta基础AI研究实验室菲尔前研究总监在去年被裁员之后历经半年他最近是官宣了新动向与其他七位顶级研究员一起创立了新的AI研究公司Recursive Super Intelligence简称RSI融资6.5亿美元估值达到46.5亿美元这个令人瞩目的新实验室想做什么样的事情为什么资本会如此看好它们那么过去半年AI市场的格局迅速变化它又如何看待模型技术的趋势与瓶颈你是正式的官宣来到了RSI半年前接受这么采访的时候其实已经差不多定了很小很精通对白信做成成为一个大的趋势但RSI有八个cobounder在没有任何产品出来的一个前提下为什么觉得资本会对你们买账呢这点一个资本还是看人recurse of self-improvement你们为什么觉得这个方式很关键用AI来优化很多的AI自己的一些东西AI变得更强用AI来做新的发现我们可以增加人类社会进步的速度如果说你们的最终目标是10的话你们现在大概是在一个什么样的阶段也许我们现在在那个1和2的这个位置上你们俩不会从pre-training从头开始做吗是商业化方面对有任何的思考吗连带速度可以披补你们为什么要把自动化AI科研作为第一步我们应该把目标关放得更长远一点如果我们对科学的这个研究的这个过程本身有建模的话那你可以拿来做很多事情你怎么看世界模型我觉得语言跟视觉相比呢语言还是一个更加有信号的东西有一些前沿的路线是想把Diffusion跟LM有一个组合速度上来说肯定会变更快Pre-Training的上线其实是决定了RL 想法学习的上线这也是我的观点所以有可能是错的你说大家迟早全部都要事业的了四和五的这些工程师他们的能力就是AI很多事情其实可以做Coding之后的下一个The next big thing是什么我觉得是AI researchOpenEgg and Dwarvig的一个比拼你会觉得是什么样的一个结果谷歌还能够追上来你觉得XI发生了什么就是说Macha你怎么评价没错大模型就永远赢家应该这么说前沿大模型之争其实最后变成了一个组织架构之争应该说组织架构在这次的技术进展有很大的一个角色Manta最近有点争鸣他们要强制针流远鸣这个事情他吸引大法顶刻炼化然后你就被踢出去的话大家都会开心不太顾及有种感受吧感觉是个大趋势他就相当于一条鱼在水坑里面跳水总来说越来越少了所以我们也找不到你最容易一定要变成一个四位生物你才能活下来那么接下来就跟我走进RSI那以下就是我与田园栋的专访非常感谢园栋欢迎来做客归谷101非常感谢你们又过来我们可以继续下轮的采访现在据我们上次聊的时候其实过了半年的时间然后我知道当时你刚从Manta出来你当时跟我说已经有很多的团队跟公司在跟你接洽了那其实现在你是真实的官宣来到了RSI能不能跟我们说一下为什么最后选了这家公司对应该说这么说吧其实我当时半年前接受咪们采访的时候其实已经差不多定了对,其实应该说是一个比较快速的一个决定的过程吧对,然后呢我其实也有不少人张时联系我应该说就是在10月底到10月初这段时间之内我的手机基本上是被打爆的状态然后我所有的message我就属于不能回复因为太多看不过来对那最后还是选了这个觉得对于现在的就是大模型的这个趋势来说呢应该说团队小型化然后那个团队的那个速度变快然后团队之间的摩擦变少然后很小很近团队把事情做成了成为一个大的趋势有这个趋势之后呢你再在大公司里面再待着呢可能就不太方便对 其实我也经验目睹过很多的这种大团队有大团队的一些问题吧当时也不少的那个大团队先来找我的当时有Astrophic的然后有XAI的有Amazon的Apple的Microsoft但是呢 后来你会发现在过在找我之后的可能大概两三个月之后很多人当时找我的人都走了对 大家看到了很多的这个消息对 当然我也就不易列举了其实这个原因是因为因为对大团队来说,他们组织架构比较臃肿,人比较多,就一定会有问题,对CEO是非常挤,希望这公司能成功,他就会有很多的命令或者指示去到下面去做,但对大团队来说,他就要花很多时间去试试。 [4:59] 就是上面的这个要求然后同时呢对齐下面员工的一些想法和愿望那如果是这样的话呢那这个过程这个速度呢是应该说是远远慢于小团队的这个对齐速度所以你会发现就最近有很多的那个大公司大团队他们平凡的会relog平凡的会裁员会那个改变自己的方向和战略主要原因还是因为这个组织沟通上的速度是根本已经跟不上AI的发展速度所以是这样的原因当时我毕竟在Meta我也待了快11年了所以我也是能亲身都感觉到了这样的一种趋势所以这段时间之内就是正好Meta也给了这个机会那我就去过一个不一样的人生大概是这样的一想法那其实当时来找你的可能也不只是RSI这一家的startup跟Nelup为什么时候选了当时是Richard Suter亲自来找你的然后为什么选择了这一个团队我觉得应该是这样吧就是说一个是这团的刚刚组建所以当时我也跟Richard还有蔡敏还有Tim Brok 都聊过所以我觉得一个是团队刚刚组所以机会应该比较大是一个另外就是说这个团队里面我有两到三个人我以前认识而且其中像Tim Brokchell跟我以前是同事他以前也在那个Meta在Meta伦敦做reinforcement然后我在那个加州这边做reinforcement所以也比较熟吧那同时呢这个团队纲组建所以也是一个很好的一个机会蔡明跟我之前也有很多connection所以有这个connection之后我觉得其实可以尝试一下可以做一下这样的事情那么其他的很多的创成统他们也来找我但很多时候这个机会相对来说是稍微没有那么好比如说他们希望招聘员工或者说希望让我进来做比如说像head of AI或者说head of research这样一个职位那么当然了对我来说要创业的话那你希望做够方的更好一点那当然是有这个机会但RSI有8个Cofounder啊这个还挺罕见的当时是怎么样一个SideUp能不能给我们讲一讲我觉得是这样吧就是说因为每个Cofounder他们的expertise是不一样的他们各自有各自的擅长的地方和比较欣赏别人的地方嘛对吧所以相对来说我们这8个人还是比较互补的有这个互补的基因的话而且大家都是聪明人嘛所以我觉得合作起来其实也比较顺利那么跟我们介绍一下这八个co-founder你们各自分别负责什么样的工作领域呢像Risha Sos大家可能知道他一直是做CEO的角色他之前创立了Metamind然后被Salesforce收购了收购了之后,他在Southforce待了4年做Chief Scientist之后他出来开一个新的公司叫U.com现在也是有盈利,还是不错的现在他又出来为我们这边的CEO然后像熊蔡明之前是跟Richard一起做Metamined的他们被Southforce一起收购了收购了之后,在Richard走了之后总裁名他就成为了Salesforce Research的Senior VP然后在Salesforce带了十年十年多了那么还有比如说像Tim Rockshaw他以前是我在Meta的同事然后他在Meta待了四年之后他就离开了Meta去了Google DeepMindDeepMind它是Project GenryGen 1,2,3的一个Lead然后这个是大家都知道做世界模型的对 然后同时呢它也Lead了一个Team 叫Agent Openness那么这个Team的方向其实应该说跟我们现在做的方向是非常接近的是非常有相关性的对 那么它其实在Google的口碑是非常好的其实我们融资应该说它有很大的一个贡献就是说它其实在Google口碑非常好所以Google Venture当时他们做背调然后就是给了一个非常好的一个分数对然后呢比如说还有Jeff KulonJeff Kulon也是做Agent Open NS这样的一个方向那么他的团队其实在过去的十年里面一直在做这个方向应该说非常投入非常深入然后呢他们最近的篇文章叫AI ScientistThe AI Scientist V2这篇文章其实已经被Nature收录了所以应该说这个方向上它的学术影响力是非常大的像我们这边还有那个Josh TaubinJosh Taubin他是以前OpenAI的早期员工然后他自己出来开公司之后公司把OpenAI收了之后他又回到OpenAI做Agent Science Lead他在Agent这方面有很大的经验然后还有工程上有很多经验 [9:59] 然后呢他就到我们这儿来是这样子那么还有一个像AlexisXC Dolorsky他以前是很早以前是做强文学习的我大概十年多以前就认识他当时呢我们是都是做强文学习的嘛当时有个游戏叫Doom是叫毁灭战士那么我们当时是一个track的第一名然后他是第二track的第一名所以我们通过这个方式呢我们是认识的后来他去了Google做那个Vision Transformer它也是Ring Transformer的一作Ring Transformer是一篇非常有影响力的文章它第一次把那个Transformer带入了这个ComputeVision这个领域然后证明了就是数据量足够大的情况下Transformer在Vision上效果也很好那么这篇文章其实影响力非常大那么它其实是在里面做很大的贡献那么之后呢它离开了Google然后去了比如说一些小公司AI for Science公司那么它现在过来也是给我们做客房的所以应该说还有比如说像那个Tim石天林对吧但是之前Crysta的CPU对吧他在Crysta做了很多年的时间然后把Crysta做成一个非常好的公司那么他现在对这个Recursive对我们这个愿景有很大的很大的这个兴趣然后他就离开了以前的公司他把CTO的事物都辞了到我们这儿来做脸床所以这么八个都是非常顶级的人非常核心的AI researcher跟从业者然后聚集在一起你们不会打架吗我觉得每个人都是非常的有自己想法的人如果你们遇到不同的意见怎么办对我们还是比较民主我们会有很多讨论很多思想上的碰撞和考虑对然后最终呢还是会有一些想法和逻辑大家同意的一起做的所以应该说就是至少目前为止我们的合作还是相当好而且大家都聪明人嘛就是自己和聪明人合作其实应该说是比较省心的大家都希望花很多时间很多精力然后把事情都做好然后把盘做大我觉得这个其实是一个很好的一个状态你们宣布的这轮融资我觉得还是挺让人瞩目的然后6.5亿美元的融资46.5亿美元的估值在没有任何产品出来的一个前提下为什么觉得资本会对你们买账呢应该是这么说吧我觉得资本其实还是看人的最顶级的资本还是看人因为投资融资也好然后比如说最终的商业愿景也好最终的产品也好在AI这个变化非常大的领域里面其实很难在一开始就讲得非常的清楚很多时候是这样你今天说我们要做这个然后过两个月发现谁谁谁又出点新东西那么这个时候团体要怎么应对然后他们是很快的执行力做一件事情出来这个其实是最重要的应该说资本最重要的还是看人的判断人的以前的经历还有人的能力和团队参与之间的一个一个摸合和合作的程度这个是最重要的所以这么多这个钱进来这么多人愿意投资我们其实还是能看中我们以前的履历和我们对于就是这个愿景上的一个投入吧你在其中主要负责的部分是哪些因为我记得上次我们聊的时候你说像一份工作想做工程家前沿研究结合的这样的一个岗位因为我在说这句话的时候我已经知道我差不多要来了所以买了一个伏笔我大概说的时候我心里在想我不能跟你说我不能跟陈倩说我已经加入这家公司了或者说我现在加入这家公司因为这还是保密的但是我也希望给大家说一些比较明确的一个路径所以大概是这样确实我现在来了之后也是大概是这是这样一个结合因为我们这边以前就是像我和蔡明是做modeling做的比较多的那我们还可以继续做这个modeling做一些建模做一些训练后训练这样一些工作对吧然后工程上也有一些东西可以做像Agentic的Hanness我们也会做一些那接下来我们就聊一聊公司聊聊RSI首先你们的这个名字RSI是Recursive Super Intelligence的缩写所以可以看出来这个Recursive它中文叫地归式这个技术是一个关键词非常的重要能不能给我们介绍一下RSI主要想做什么然后Recursive Self-Improvement究竟是什么样的一种方式然后你为什么觉得这个方式很关键我觉得是这样就是Recursive Self-Improvement的意思就是说我能不能用AI来优化很多的AI自己的一些东西然后让AI变得更强动作方式在做财富再踩上去大概是这样的一个逻辑那么具体来说呢就是说我们希望用AI做很多的就是现在需要人工来做的一些事情比如说像科学家发现新的想法新的逻辑发现科学家像那个比如说训练的过程需不需要用AI来做的事情 [14:59] 来做强化用AI来做新的发现这个其实都是在我们这个Recursive里面的那么我们最终的愿景是希望就是有一个很好的系统就是这个系统里面就是我放进去各种各样的计算资源然后输出的时候能输出这个新的知识新的那个新的见解新的这个新的洞察力当然是这样的一个一个东西对所以其实我们Recursive的网站上就说了就maximizing the only discovery rate对不对所以通过这个方式呢我们可以增加人类社会进步的速度然后提高人类社会对新知识发现和新知识理解的一个能力然后目前我们看到比如说千言大模型OpenAI, Anthropical, Google主流做法还是依靠人类去设计模型然后手机数据然后大规模的训练然后人工标注对齐那我听你之前有一些分享你认为说这条路上人类是一个瓶颈然后你们压述的是让AI能够自动化研发过程是不是然后中间能不能跟我们展开来解释一下怎么能实现对因为其实应该说现在人类或者说研究员其实在做研究的时候或者在做AI发现的时候大部分时间还是浪费的也不能说浪费就是说因为人自己的生理极限嘛对吧你要吃喝辣撒你要睡觉所以你没有办法100%时间花在这上面所以很多时候呢就是如果用AI来至少代替或者说用AI来做一些人类认为比较繁琐比较繁重的或者说比较重复性的劳动这肯定是可以的这是第一步那么第二步呢就是说我们是不是能够让AI在这劳动之上能不能就是发现新的自动发现新的一些洞察新的一些那个重要的这样的信息然后用它加速这个AI的整个人类发展的进程那AI系统学会的东西它是一个真正的能力上的提升还是在某个评估指标上的过拧合呢你觉得希望AI最终能达到人类上提升吧对吧因为能力上提升呢就是说可能AI现在能做比如说相对来说本科生能做的事情那么我们希望AI以后能做数字生或者博士能做的事情或者说更高的比如说研究院能做的事情我觉得这样的程度是我们想要打大道的你说benchmark这个事情应该说是这样就是说你刷榜或者说各种榜单是达成这个目的的手段因为这个手段本身是比较虚的或者说是比较高层次的你要把它真的break down或者说把它分解成一步一步的这种小步骤的时候你基本上每一步可能都有一些metric有一些number那么这个就是benchmark所以当这个AI系统它开始自主的去设计实验自主的去评估结果那人类还可以作为一个可靠的评判者吗然后你们怎么去解决所谓的evaluating the evaluator也就是评估者本身也需要被评估的这个必规的难题呢我觉得是这样了就是说至少现在AI还是达不到人的这个评估的那个标准我觉得所以至少在一定程度之内人类还可以作为评估者这个没有问题然后另外一个第二个点呢就是说就是等到AI厉害到一定程度之后呢应该说很多的评估标准变得主观了而不是非常客观比如说你拿AI写code比如说你发现就是AI对于这个就是人类的指令非常的遵循遵循的非常好那已经做得很好那再往上走比如说你要让AI去做一些人类的设计比如说这个代码怎么设计啊怎么怎么安排各个模块之间的关系那么这种问题上来说其实每个人的境界是不一样的那么这样的话你就会有一个subjective的有主观性的这样的一个因素在里面那么这种情况下其实应该说你已经很难有一个正确答案了所以总是每个人其实我有自己的这个想法大家都是对的在这种情况下其实并不存在说人类的能力达不到的水平很多时候是就是依照每个人的想法去完成这种事情那怎么评估呢这个时候其实很难去评估这个数字就是说你可能最终看你最终结果对吧我与其说评估中间的状态不是说OK我加AI或者说人类加AI最终得到一个东西能够让大家喜欢或者说能够完成某件事情那就可以了所以这个评估就成了就是从这个中间的benchmark到最后的这个结果的评估所以这个评估会往后走这是我的一个预测就会变得非常result drivenresult driven那么中间这些过程其实变成了一个非常自由的一个地方就是你可以做一个想做的事情但最终目的是人家AI最终得到一个结果这个结果是想要的那这样的情况下可解释性这件事情还重要吗因为你之前也提到过就是无论skilling最终成功还是失败可解释性都是必须要解决的如果成功我们需要确保超级AI不作恶如果失败我们需要理解为什么模型在某些地方崩溃那比如说在你们RSI的这条路上当AI可以自己修改自己的 [19:59] 代码或者权重AI可以设计出一系列的实验的时候那可解释性这件事情会不会变得更加的困难我觉得这是非常重要的而且应该说比原来更重要一个当然是因为关于Safety的问题对就是我们在launch这个Recursive的时候其实非常注重说我们要做Safe的这个Super Intelligence对不对那么Safe这部分其实一个方案就是说通过可解释来完成因为对如果说你对这模型的那个内部机制有理解和有一些想法的话那你就大概知道这个模型是怎么work的那么这样的话呢你就知道这个模型本身它对于就是将来可能会有什么样的威胁和问题所以这是一番重要的地方然后另外就是说科解释性的本身也提供了一个非常好的一个指标去找到一个那个能够更快的找到我们想要的东西就比如说你要做那个你做这个recursive self-improvements其实它背后是意味着你需要大量的算力组的事情比如说你可能需要花几千块卡或几万块卡比如说训练一个模型那么如果你在对模型本身不理解那你可能只能等到这个模型训练完毕之后你才去预测或者评估这个模型好不好那么这样的话这个速度就很慢如果有可解释性的话呢那我们是不是可以把这个评估放在前面去完成那如果是这样的话那我们是不是能提高这个预算效率所以应该说可解释性在这个过程中拥有很重要的角色所以你们内部还是有人正门去研究会有的那你们的设想是让AI系统长时间的自主运行去追求研究者定义的这个目标同时产生出超出人类预想的新思路但是这个超出人类预想和失去控制之间的边界在哪里你们打算用什么样的机制来保证这条线不会被越过我觉得其实还是一个是重要的可解释性对吧就是说你如果知道这个模型在发现的过程中找到什么东西了然后这个东西你们可以让人来做evaluate这个是一个重要的对吧然后模型本性的机制都可以如果能够被inspect的话那么我们就可以通过这方式然后来判断这个模型究竟是越界了呢还是发现一些新龙现在没有越界这是很重要的你甚至可以用另外一模型去比如说去验证这个模型是不是好的这都是可以的所以就是说应该说在这样的一个就是越难的问题上来说呢就是说我们希望这个模型找到一些人做不到的事情同时希望这个模型安全那这种情况下就是我们不能代替模型去发现新东西那我们就得知道模型是怎么想的模型是怎么去思考的模型是不是有一些疯狂的想法有一些地方是超过了我们想要的它做的事情这个其实就是小科技之心我记得你谈到自己在用GPT5的时候的一些感想然后当时你发现模型能够帮你做很多事但是呢它缺乏高层的人类洞察力和专业知识然后目前呢仍然需要人类去引导但是RSI的路线和目标恰恰是让AI能够自主的提出实验的假设然后自主的验证然后也就是说要自动化对不要人类的洞察力这件事情你怎么解释这后面的矛盾呢还是说现在技术其实已经有进展了然后改变了你的想法应该是这么说吧就是说正因为现在AI做不了所以我们希望AI能做是这样一个逻辑所以你们选了一个更难的这样的一个路径正因为AI做不了那就说OK这就是我们将来研究员能发挥的地方那么我们当然希望开公司让AI能做这事情这个是一个重要的一个点至于就是这个事情本身不是0到1的就不是说是要做不出来就做不出来就不像无人车无人车说你要不在路上100%的路上就撞人了不行对所以就是它其实有很多层次的对吧也许AI今天能写代吗但是AI读不了paper然后明天AI能读paper然后AI还是理解不了这个问题的本质那么后天的话也许AI能理解一点点了但是AI还不能理解太难的问题对它会有一层一层的这个层次上去所以它就有很深的一个阶梯在那里那阶梯到能跑到什么程度我们先并不知道但是我们是能往上爬一点那么每一步呢其实应该说会带来大量的一个应用场景和一些可能的这个方向所以应该说就是这个本身是一个非常信任的一个东西那么对于研究员来说当然是希望永攀科学高峰嘛所以这个肯定是一个很有意思的这些地可以走那如果说你们的最终目标是10的话你觉得我们现在大概是在一个什么样的阶段我觉得我们现在还是在那个1到2到3的阶段吧对吧甚至我可以说我们现在可能就是0.5吧对吧因为这个阶梯应该说非常非常高能有多高这个是不知道的因为它可能会这样就是假设我们希望人类的边界是10对吧也许我们现在在1和2的位置上对吧但是过了边界之后也许好像有100那部分我们是不知道的就是你要翻过那一座 [24:59] 才能看见后面的身有多高是的而且在那个时候其实人类编辑会往上走因为人家AI能力很超过我们以前的人的最优水平像最近Oper AI他们发现了一些能证明一些完全非平凡的定理那么这个事情其实应该说对于以前的人类来说是很难想象的但是现在你会发现正定理把以前定理都正完了它的新闻的评次是越来越快了所以我以后应该会出现这种情况你当时在Meta其实比较重要的工作之一就是Coconut然后这个方法呢就是说让AI在连续的潜在空间里面去做推理做Latent Reasoning然后我很好奇说Coconut的相关研究在RSI里面还会有一个继续的去推进吗然后我也很好奇说就是你怎么想当前的这个Chemervor COT的这个路线以及就是你接下来的研究工作会不会对这个方向有一个积蓄的往前推演对 我肯定还会做的对 这个是没有问题当然具体细节来说我们毕竟是公司嘛所以很多事情我们不能讲太细没关系对 但是我们就是说对我们来说我们如果有个很好的这个machinery就是我们有一个很好的系统能够做自动化的研究啊自动化的那个理解的话那我们可以用这个东西来继续做研究对吧那么这样的话其实我们的研究更像是一个product对吧我们可以说我们的系统非常厉害然后那个我们做着很好的工作来那么这个工作我们本身可以publish我们本身可以拿来就给大家示威说我们很好的结果至于这个东西怎么做出来我们可以做一个黑盒子我们可以说是我们公司的一个secret source然后刚才我们那个也稍微提到了一下就是那个Latant reasoning所以就是你会认为说当前的Chain of Thought的路线是错的吗我觉得当前Chain of Thought的路线不是错的一个是非常实用对吧大家都要用所以肯定不是错的但是我觉得人类在思考问题的时候最终还是需要一个非语言的媒介来做这事情其实至少对我来说我在思考问题的时候其实我并不是需要用语言来做的很多时候是有图像的成分有一些是一些比较那个说评道不明的一个这些思路然后在这个思路里面发现了一个问题然后我把它写下来变成语言所以语言更多情况下是一种解释而不是说是训练的一个或者说思考的过程而且其实我们当时在作品文章的时候我们也发现就是如果通过就是latent reasoning来做思考的话那么这个Reading的Path这个过程应该说还是效率应该比这个语言要高的为什么呢是因为Latant Reasoning就是每个Latant Token它里面可以存的这个信息其实是高于每个语言的Token的Latant Token你可以存很多信息比如说你可以同时存几个不同的思路同时存在一起然后最终呢这里面有一个思路是对的那么你这个路径就出来了但如果你要有语言去想的话你就得人工的去写下来每个数是什么对一个一个出来对所以这个效率就是不一样的所以这个至少在原理上来说只能看到这个不一样的地方那么当然了具体的在实现和最后的运用场景上来说可能还是有各种各样的不一样的地方但是这个方向本身也是很有意思而且现在你会发现就我们之前这篇CoreNatePaper应该说已经有很多的很大很多Citation有很多很多人在这上面做很多拓展当然包括最近有一些LUIC Transformer这样一些结构它本身也是Latent Space然后它也有很好的效果应该说这个方向本身将来应该是有很大的方向很大地方东西可以挖的我觉得也许以后可能是一个有意思的突破点你觉得现在哪一家是比较重视这个方向的我听说Anstrophic的Misos model它用的是Lupy Transformer但我也不知道是真的是假的对 这个是一个可能的路径因为为什么大家说这个呢是因为我们大家看到Misos它在一些图上的搜索的问题上它的效果比之前的模型好很多很多所以有人就在怀疑是不是它用了一些新的架构对当然这个问题你去问叶加勒他是不会回答之前你其实有跟观众分享过顿悟的这个研究对能不能再跟我们展开聊聊然后以及最近有没有什么研究上的新的进展新的进展我就不说了因为我们这边也是比较保密就是说我们不希望有更新进展马上要说出来但是你还是在研究这一块对 做肯定是会做的这个没有什么问题确实应该说这篇文章在发出去之后我收到不少人来信对于说挺有兴趣的而且当时跟我说这篇文章我做了一个extension做了一个拓展然后你帮我看一下其实我也挺开心的有很多的这个有很多的人愿意来找我跟我去讨论这个问题对所以我觉得顿路本身应该说是很有意思的 [29:59] 一个问题就是这个模型怎么样从就是记忆然后突然变成一个泛化这样的过程那么这个过程本身呢是应该说是能解是不是能解开整个神迹网络的训练过程的这个秘密的所在应该是这样子对那么这边然后主要的逻辑就是说我们在一些比较具体的比较那个结构化的数据输入的时候呢就是说你会非常清楚看见这个模型从记忆变成了那个泛化这个过程这过程可以本身可以通过一个比较清楚的这个数学过程来描述比如这里面有个能量函数这能量函数在数据不足的时候它得到的那个最小值都是记忆的解但这个数据足够大到多多一程度之后突然之间这个能量函数的这个结构就变成了泛化的解那么这个过程就是动物的过程而且我们可以知道我们究竟需要多少数据能够到产生这样的一个变化所以这个其实是很有意思的一个过程那么这过程如果理解清楚的话那我们是不是就可以对时间网络的训练过程有更好的理解我们是不是有更好的效率提高这个速度这个的研究其实还是我理解比较早期的阶段我们现在知道多少数据可以对 就是我们有一个就是这边的主要还是比较偏理论嘛就是说就是在这个设计设计下我们可以说如果我们总数据是m平方数量级的我们就需要m log m的这样一个数据就是说可能比线性多一点但是呢也没有太多就比总数据的数目相比的还是少很多的你们俩不会从pre training从头开始做吗我们都在照测试的对因为pre training呢一个也比较好的地方是因为一个是他他本身的这个训练过程呢比较smooth它这个loss curve比较稳定所以其实是一个也是一个挺好的一个方向所以你们什么都会自己做对会有一些就是目前我们还处于这个探索阶段对我们会有一些不同的方向都会去试那在产品方面或者是商业化方面对有任何的思考吗对我觉得这个是我们现在已经有些思考了对应该说我们这个团队呢是一个非常落地的实际的团队就是团队里面应该说有超过半数的人以前开过公司然后也知道就是怎么样落地怎么把产品做好怎么样去满足用户的需求所以其实应该说就是我们内部在聊的时候很多时候就是说话和讲的那个故事和聊的那些内容都非常接地气就是说是非常实际的说这东西是不是能用这个东西是不是能用这个东西是不是可以赚钱或者说可以那个make commercial的那个benefit这个都是在常实际的说这东西是不是能用这东西是不是能用这东西是不是可以赚钱或者说可以那个没 commercial的那个 benefit这个都是在讨论的其实但应该说就是self improvement这个方向呢又会有很多的事情可以做很多的那个东西可以完成比如说对比如说我们是不是能够训练一个模型让拿这个模型的 inference变得很快对吧那其实是不是我们就可以让这个 inference的 speed的 inference的 efficiency变得很高这个是当然是可以的对吧比如说我们找到了新的recipe那么这个recipe是不是可以有更好的结果这个都是可以commercialize的或者说我们对这个模型本身的或对人类在做研究的过程中它的思维方式做一个很好的建模的话那么是不是可以拿它来做一些很难的人类社会人类能做的一些研究我们是不是可以让AI来做这都是可以commercialize的但是现在目前看起来就是说这个方向本身呢应该说还是比较开放的有很多事情可以完成你们现在其实因为八个人嘛然后你们现在有一个非常有共识并且清晰的这样的一个技术的路线图了吗对我们差不多是有一些我之前看有报告说就是你们第一步呢是要训练一个具备五万名博士能力的系统来自动化AI科研本身然后计划呢是在今年年中所推出一个level 1的自主训练系统那比如说在level 1之后肯定还会有level 2 3 4嘛对吧就是大概的这样的迭代速度可以披露我目前是就是现在可能在就是一开始的一年到一年半里面嘛对吧我们会把这系统很好做好然后做深入对然后之后呢我们就想办法让它落地呀找到一些更好的一些use case大概是这样的一个时间我看到那个Sortial之前有在采访说就是说要构建你们要想设想的这个技术可能需要好几年的这个时间才能够完成那在你自己的心目当中这个RSI从自动化部分的科研到真正的地规自我改进再到超越人类的整体的能力每个阶段的时间点大概是什么样子的我们需要多长的时间能够完成这件事情以及呢如果我们要达到这样的突破的话技术上面有哪些是关键的一些信号呢我觉得其实还是要几年的时间嘛就是目前应该说是一个很好的是一点切入的对因为在这个时间在这个时间点内就是大家开始形成的共识就是说以后就是说研究或者说以后就是新的知识获得 [34:59] 发现这个问题呢肯定还是让AI来做因为人一是没有这么时间和精力去看这么多文献然后二是说那个人不像AI那么有大的广播的知识然后又有无情无情的时间和精力然后也可以让一个AI做很多事情就是说你可以有几千AI同时进行所以这个事情呢也可以让AI来做所以这个一定是个趋势这没问题但另外呢就是说这个时间点比较好的地方是因为就是大家现在都不知道怎么做所以也在探索阶段所以像这样的一个时间点呢就是大家有这个excitement同时呢那个大家都不知道怎么做呢是一个很好的节点开始这件事是一个旅程吧旅程非常长但这个旅程可能要持续比如说好几年的时间才能开始有美目有结果这个我觉得是肯定会发生的对大概是这样技术上来说呢应该说就是说这个技术比较好的地方是它到每个层次呢应该说都有一些应用价值不管是在什么地方它不像有些那个方向呢就是说要不全部做出来要不全部做出来不是这样子的像比如说如果你要去找比如说新的材料你要找那个新的什么核聚变或者说超导的这样的一个solution那么这个bet就很大要不就是100%就是你真的成功了要不就是你没有办法成功但是如果是做这个self improvements的话就是它每一步的这个进展它其实都会有一些应用价值所以总的来说应该说这个趋势是比较平缓的所以我觉得这也是一个我对这个技术比较有信心的原因之一就是这点还挺有意思的因为我也想问说你们为什么要把自动化AI科研作为第一步因为就是它这个商业化毕竟还是会更困难一点相比起比如说一些比较2B的落地的一些企业服务或者消费的产品那为什么你们选择这个作为起点而不是一个更容易产生收入的方向因为如果你要想更容易产生收入的方向的话那其实一个问题就是在于就是大家会时刻担心你用的这个为这个产品的收入产生的具体的技术会不会在明天或者在下个月被AI取代这个其实应该说是硅谷或者说是很多投资人的一个很大的一个痛点当然说今天我们可以拉很多人团队我们做一个单独的事情比如说我们要做云陪伴或者说我们要做来三句助手或者我们要为某个垂直领域把一个事情做得很好但是这件事情本身呢就是之前其实应该说在过去的三年里面已经有很多的那个量力证明就是说那个为了某件事情做一个比较特殊化的一个模型做的事情呢也许有一天会被一个大的一个比更加一般化的模型给取代或者说给给给给给给给盖掉所以有这样的一个concern之后呢其实应该说我们应该把目标关放更长远一点对吧就是说我们希望就是在这个范式上花时间花精力这个范式说我自我家自我进化这个范式这范式只要不变那我们的公司立场是不变的那么在这范式之下我们再看有没有什么好的应用有没有什么好的可以商业化的机会我觉得这个是一个比较好的立足点我看到Sucher也在采访中说到希望RSI之后把它的应用范围扩展到物理学 化学然后还有临床 生物学等等那在你们Vision当中RSI未来的一些具体的应用场景是什么样子比如说谁是你们比较想重点Target的用户群体对这个其实是RIF for Science当然是其中的一个因为如果我们对这个对这个科学的这个研究的这个过程本身有建模的话我们知道就是人是怎么样去获取知识人是怎么样去获取信息的怎么样去得到新的假设新的逻辑然后怎么样去验证然后最终怎么样产生一个有意思的没有不平凡的结果过程我们如果建模建得很好的话你可以拿来做很多事情像刚才我们说了AI for Science这样一些方向那么这个本身就是一个很大的一个市场我们可以做然后本身呢另外就是说我们是不是通过这方式能够提高研究的效率然后提高整个研究过程的这个自动化的程度那么这本身能够提高比如说大模型的本身的训练一个效率这本身可能就是也是一个非常重要的一个commercialization的一个方式那其实这个领域竞争也慢慢的变得激烈起来了我们看到OpenAI特别是DeepMind它自己有AlphaFoldAlphaEvolved他们其实也是在做AI for ScienceAI自主科研包括刚才我们提到DeepMind的这个AlphaEvolved已经是能够用LiM不断去变异和组合算法那比如说这和你们的recursive self-improvement有什么样的根本性的不同呢以及你们的差异化优势会在哪里OK我觉得一个当然是大公司和小公司的区别就是说大公司有大公司的这个BAT小公司有小公司的BAT对吧大公司的BAT呢往往是这样的就是说大公司非常多人几万个人然后呢就是说可能有会有一些研究团队做一些就是不同方向的事情 [39:59] 但是呢这个一个是对大公司来说这个BET可能是一万中的一个或者一百中的一个对所以他们不会因为因为这个大BET获了很多资源这个是一个问题然后大公司那些人他们的这个incentive就是说他们这个薪酬结构啊和对于就是目的的这个追求啊就本身呢可能跟小公司也是不一样的小公司说我们的使命或者我们的目的就是要做self-improvement那么如果是这样的一条方向的话那小公司会集中所有的那个能力和所有的资源把所有的事情都花在一个地方把它做出来那么这样的话呢小公司其实应该说是更focus这个是一个重要的点那另外那个Evorm呢其实一个就是说他们还是用AI去优化某个具体的一个比如说一个代码或者什么对吧但是我们这边希望AI来优化自己就是刚才也说到说现在是一个很好的timing很好的时机去做这个事情为什么去年不是好的timing为什么明年不是好的timing为什么今年是最好的探明?应该这么说吧,因为去年这个时候应该AI的coding agent 还没有成熟对吧,因为大家还是在用就是AI辅助coding那么比如像cursor这样子那么用AI辅助coding的话大部分时间你还要写代码然后让AI去审核去修改去重构但是应该说去年年底基本上跨过了这个突变点然后突然之间大家发现让AI来做一件事情然后人去下命令去找一些high level的一些想法这个模式其实是更有效率的所以为什么现在AI coding toolsAI工具现在变得如此的易用或者说如此的普及所以这个时间点是不一样的那么在这时间点过了之后应该说有很大一段时间人整个应该说整个软件工程行业整个科技巨头他们都需要花时间去适应这个过程那么这个过程本身应该说是小公司弯道超车的一个非常好的时机因为大公司可能需要一年是两年的时间去慢慢适应新生产力工具到产生的变化但是对小公司来说特别是如果小公司非常小大家都是很厉害的人他们聚一起就很快能够fake out找到一个方法能够一起合作那么这个过程应该说远远快于大公司这样的适应过程那么在这种情况下也许小公司有这个能力去追上大公司会有很大的这个upside对 所以应该是这样吧那么所以但是如果你再过一年的话可能就已经晚了对吧因为大家都适应了之后呢你再去创业这可能也是一个很大的一个问题我觉得说这个timing非常对就是也是为什么我们最近看见很多New Lab出来很多的核心的研究员从大公司出来以及我们看到很多的VC的资金开始涌向了这些New Lab了那现在看一下就是New Lab的这个版图然后能不能跟我们来分享一下就是你对NeoLab是怎么看的因为我觉得大家是有很多的派别Elia他的SSR然后盐洛坤的AMI Lab然后包括David Silver然后包括那个Thinking Machine Labs就是比如说这四家比较典型的公司那么就是跟我们来分享一下你对他们是怎么看的首先是EliaElia的那个SSR应该说非常保密我们现在都不知道他内部在做什么所以也很难评价吧也很难评价我们现在不知道希望它接下来又会有很大的进展但我们现在并不知道现在内部情况怎么样他们之前的口号是要做SAFE就为它认识对吧就是安全的人工超人工智能但是我们现在并不知道怎么样你觉得它会也是要做模型的对吧但是它可能不会做像GPT或者是像GIMLAI或者是QAWD那么大规模的模型因为它虽然融了很多钱但是可能它的钱也不够支持它去完全做一个新的模型出来这个不好说吧比如说我们发现了一些新的就是这个模型的训练机制也许能够极大的提高训练的速度和效率这些是有可能的这个就是不知道的因为我一直觉得现在AI的训练过程应该说还是不是很有效率的如人发现就有很大的所以他有可能是在研究一个新的范式有可能是这样但是这个我也是在猜因为这些猜测都是基于伊利亚去年的一个访谈他就出来做了个博客然后又没有声音了因为其实很有意思的是伊利亚去年的访谈跟我们之前贵物要领埋我们一起做那个访谈很多东西是很接近的比如说像做researchial test对吧像就是他也在那个考虑比如说就是为什么模型会泛化对吧那么generalizationmemeralization这些东西其实都是有的我很好奇啊就是你们在跟VC聊的时候他们对于这种长期然后也不发什么产品然后就mentally研究 [44:59] 我也不知道他能不能研究出来现在VC的资金对这件事情的tolerance有多高呢就是包括你自己在跟VC聊的时候你怎么感觉这件事情我觉得其实VC很多时候还是投人嘛对 我觉得这是很重要的大家觉得这个人靠谱然后这团队靠谱的话那么至少第一笔的融资应该还是主要是看这些那么之后呢就是说如果还要想融资的话当然希望这团队有进展有一些很有意思的非常让人觉得印象深刻的东西那么才会给你更多的那个融资是这样子所以应该说我们团队的内部尽量还是比较顺利的比较顺利应该说是好于预期吧对所以我们还是很有信心的你们趁一轮这么多前期的run位会有多久其实run位也就一两年两三年的时间吧大概是这样子因为毕竟大部分的那个基准资源还是需要那个钱需要这个资金去投入的对那么如果我们有比较多的资金的话那么会有更多的那个GPU很多资源,然后探索很多事情,这个是我们现在想做的事情你怎么看世界模型?你觉得Yang昆的AMI Lab能做出来吗?Yang毕竟是我以前的老板,应该是这么说吧一我那个Yang这边它是探索一个完全不一样的方向对吧那么这个不一样的方向应该说是一个很有应该说是应该说之前的人探索的那个程度不足的一个方向比如说那个世界模型特别是在那个视频上的在图像上的一个世界模型那么可能怎么跟Robotics能结合这个其实很有意思的问题但因为我对我来说我可能也不做视觉很多年了我现在基本上都是做language所以或者说做一些这个symbolic的和那个neural的一些结合吧应该说就是那么图像这边呢就是我可能不太不太熟悉有批评说觉得JEPA这些视觉模型还是太早太早还要再找到一些新的关键图仆才可以是有一些当然我这边是有一些也不一定这个事情是一个那个非常公正的opinion但是我这边还是有些我评价就是说我觉得语言跟视觉相比语言还是一个更加有信号的东西对像对于世界模型来说就是视觉图像的问题在哪里就是图像它里面这个像素和它们像素间的组合相当于是固定的对吧你现在看到这个杯子这个杯子在那了然后呢我们就知道这个杯子形状是什么样子然后你就知道这些像素组合是个杯子但是对于语言来说语言里面的信息有很多时候可以重新定义的还可以定义很多新的东西比如说你今天说了一半说我们定义新概念吧这新概念是什么意思那么以后这个词可能就会指向之前的所有新概念的那个定义那么所以说语言可以无限欠套它可以自指它可以有很多的这个新的这个信息和新的这个深的这种理解在里面所以我觉得语言应该说它的上限可能会比图像更高一点这个是我的一个观点但是我必须是对的只是这是一个想法我看到现在有一些前沿的路线是想把Diffusion跟LM有一个组合然后去做一些DiffusionLM的东西你觉得那个路线你自己看好吗我觉得这个其实一个速度上来说肯定会变更快其实我们之前应该说在我离开Meta的时候也有一篇文章是做这个的就是怎么样能够让Diffusion叫那个Sandwich那么这个就是说我们能不能以更快的方式来训练比如说那个Diffusion Model用强弯学习来做训练是有一篇文章所以我觉得我们的我的感觉上是这样就是它加速上来说是非常好的能很快的加速然后提高这个decoding的速度但另外一方面呢就是它现在还是没有到这个soda的水平它有很多的问题还是做不到就是像大元模型那样那么厉害所以这个还是有一定距离但是还是一个很好的方向可以去做研究然后你怎么看这个David Silver的Inneffable Intelligence我理解他也是一个专注于RNL相化学习然后他们目标呢也是要打造一种能够通过自身经验自主探索的学习知识的这样的一个超级学习者你觉得他们跟你们有什么一统吗据我所知可能David Sewell他们这边可能更多的像是就是希望完全不用大模型对这可能是跟我们的区别对我们这边还是比较实在就是说如果大模型很厉害我肯定用大模型然后找到更好的方法来训练大模型这都是可以的对那么David他可能更想要做一个就是纯粹是用这个强势习来把这个事情做起来的这样的东西因为David Seuss 大家都知道的就是AFAGO和AFAZERO的那个主要发明人嘛对吧那么AFAZERO其实就是完全没有人类的任何的知识通过做掉踩六脚踩上去的那么他当然希望在大语言模型或者说在新一代的大模型 [49:59] 这个范式下重现这个故事我觉得这是它的一个愿景当然我之前也做过像OpenGo这样的project其实也是就是类似于Alpha Zero这样的就是做到台子的台上去但我觉得围棋毕竟还是一个或者国相其实还是一个比较局限的一个领域然后这个领域里面它的Evaluation的function或者说胜负的评分应该说都是定义的非常清楚的所以可以做到这一点但是在做一个就是比较开放式的方向其实很难做到这一点所以可能需要大量的算力这个算力现在可能很难满足我看到行业里面有种说法是pre-training的上限其实是决定了RL强化学习的上限你同意这样的说法吗这个确实我是同意的我们确实也发现了就是强化学习后训练它的目的它的更大的功用就是说你把原来你排在比如说第200个的答案把它放到第一个去这个方式可以让模型做一些问题做得比较好但这个条件是这个问题一开始答案至少有一个是对的比如说你让它踹个比如说1000次1万是也许大部分答案是错的但是也许有一到两个答案是可以的有这个种子之后呢强化学习可以通过这个种子把它慢慢提到最高通过这个方式呢来提高这个水平那么最终如果种子都没有的话那强化学习在做还是没有用的这是为什么就是强化学习产生的效果是因为在大元模型已经变得比较成功之后才会有这样子如果你只都强调学习的话你其实他没办法去生成一些比较深的东西所以其实我这边是觉得就是大元模型的最关键的地方呢还是他在预训练他预训练他在训练之后呢他里面的各种各样的这个那个表示呢就是涌现出来了涌现出来之后呢这些表示呢其实能够一程度来说就是能够解释那个数据上的一些结构然后一定程度上的发现或者说能够学习数学中或者数据中的一些有意思的这样的一个推理模式那么这些推理模式在强化学习中慢慢的被放大然后最终得到一个答案是这样的方式那么如果前面部分的推理模式没有学习的特别好的话那么后面强化学习再做是没有用的就是它光是来压制强化学习这件事情还是上显示对 这样对吧所以有可能是错的你觉得数据还能怎么样发展吗因为现在其实大家这个模型的这个参数情况已经是穷尽了所有互联网的数据了那接下来大家就是看更多的这种Synthetic Data对吧然后这个数据还能够怎么样更好怎么样从数据上去优化模型的结果呢对我觉得数据上来说还是很重要的就是现在数据应该说很多的大量的那个用户数据大量的那个人类数据都已经被用上了那么接下来一个问题说我们能不能制造一些新的数据就是其实应该说就是最近这模型一波的大的进展很多时候原因是因为我们把推理模型的数据放回了以前的虚拟训练或者说中训练的过程中我们从这方式这个模型变得更强然后呢就达到了一些一个自我进化的一个初步的目的吧应该这么说吧 对吧那么以后你可以想象如果我新的模型更强了之后让它剩下很多数据然后把这些数据放回预训练或者中训练那是模型会更强这也是一种可能性 对吧当然这个过程本身比较慢就是需要花大量的集团资源来做这事那么接下来怎么办呢就是有人就会提出来叫连续学习叫肯定语词论领实际学习那么实际学习就是说我希望新数据放进来之后呢能够学得很深但同时呢不用花那么多代价那所以就是为什么大家会起初概念这样的原因但是我觉得就是最终的目的呢还是就是现在可能数据上数据是一个非常重要的一个点能够很快能够让这个模型变得很强但模型最终变得跟人类一样强或者拿到人类上的效率呢可能还是需要看有没有好的算法有没有好的这个新的这个范式去训练这个模型的人生所以这个肯定是最大的问题当然了就是目前如果按照现在的范式走的话呢数据还是很重要的对因为如果数据的范式不改变那么数据越多确实效果越更好Thinking Machines Lab怎么说呢应该说就是我对他们也没有特别了解应该说是有一些那个我看他们最近是发了一个就是就是Human computer interactionIntactive model对吧这个模型效果也还是不错的有很多的你可以跟他一直的说话然后不用打断他他会一直倾听你的话那么这么这个方式你可以获得可以跟那个模型产生一个独立交互的这样的一个一个一个效果就是持续交互嘛不需要是这个turn by turn而不是持续的交互这个应该说是挺有意思的 [54:59] 那么之后就是他会不会就是走比如跟着Human End的这个公司一样路线这个我就不清楚那这可能是更多侧重于人和AI如何交互这样的一个方向其实我们刚才就是聊了一些就是New Lab大家在压住的路线然后如果我们从一个更加宏观的一个角度去看现在的New Lab的一个发展的话你觉得New Lab大家互乘河到底在哪里然后以及大家最主要面对的挑战是什么我觉得其实最终还是挑战一个我觉得重要的一个点是如何在就是这样一个New Lab的这样一个环境下能产生research结果能产生那个很快的产生一个progress这是重要的因为很多New Lab的那些成员以前都是比如大厂来的或者说是资源丰富的地方来的他们说我们做实验嘛我们就花很多钱把实验做了可能这个实验花了几百个名领或者一个币链但是这都是公司付的钱对所以应该说对于这样的新成立的这样的一个小公司来说像我们这样的Lab来说或者说需要融资的这样的一个实体来说我们非常重非常重要的想法就是说我们怎么能让这个学习过程变得更有效率我们希望整个迭代过程然后整个流程发现更加有意义然后同时能发现新的新的东西这个其实是一个很大的挑战我觉得是这样子所以其实你说我们是不是还会用传统的Skin Law来做这事情这个其实是需要考虑的对就比如说我们以前一些朋友他们在大厂里面在一些资源空间的地方那么对他们来说资源可以是无限的或者说是相当充裕的那么可以用可以做各种各样的方式找到一个很好的这个skin law把事情做成但是对于我们来说我们可能需要思考就是成本啊思考各种各样的那个强调的方法去绕开就是大量的计算资源的这个堆叠然后获得更好的结果可能这是一个很大的挑战很大的挑战如果一个人只有Skin Law这个思想的话可能不太容易成功你还是需要在Skin Law之外还有什么其他的一些新的对问题更深的理解那么就能成功就是要看research test了是的因为你刚才也说小的lab肯定会比大公司跑得更快而且小的公司他们可能押注的技术路线可能目前也是大公司他们现在还没有时间去搞的他们可能现在卷coding啊然后卷fond tier model那你觉得就是你们在压住的这些路线跟open.in然后或者是google他们在压住的路线一定是一个平行发展的一个关系吗他们会不会还是有一天会有竞争然后如果是的话这个竞争会发生在什么样的地方对我觉得首先还是一个平易发展的一个关系吧对吧因为对于那些大公司来说其实我也跟大公司很多人聊过我觉得一个问题是大公司一般现在是有一个趋势是大家去从化原因是因为就是大公司很多的那个方向和方案呢都是让CEO或者说让高层定的但对高层的人来说他们可能会觉得因为他们往去追热点他们会觉得啊这个是我们想要做的事情因为别人也做了或者说别人做得很好了那么这样就会导致就是因为自商而下这个结构这样就会导致大公司之间就是相互之间的统治化比较严重大家做的东西都差不多就比如说Coding Agent火了之后然后大家都做Coding Agent因为所有人都觉得我要AI写代码所以就算是你在大公司里面你想做些不一样的事情你会被这个环境和压力所逼迫然后去做这个跟大公司公司方向有关系的东西所以这个事情其实应该说是一个很大的一个趋势所以最终大公司可能会产生这样的结果就是大公司里面那些人他们没有这个能力不是说没有这个能力是有能力但是没有这个时间没有这个精力去做一些就是跟大方向不一致的东西这非常难了所以其实自然而然小公司他为了能够产生一个很快产生一个效益很快产生一个结果他自然会选择一些跟大公司不一样的方向所以他们是平行的对吧那么只要等到以后就比如说小公司他公司业务做得很好了然后这个方向开始变成一个新的或者变成一个大家关注的一个新方向的时候可能会有竞争但这个是另外一回设计这件事情应该说在历史上已经出现很多次了对吧就像Astrophic一开始做的是代码它做coding的时候其实应该说关注人很少我还记得应该说去年或者说前一的时候大家都在刷什么刷Math我们把AIME提得很高但是当时我记得Astrophic他就在每次 [59:59] 宣布的时候说我们这边不刷这个东西他们的模型放出来的时候没有Mass的Performance Number他们就刷这个Coding他们就把这个Coding刷上去那么最后发现大家发现这种确实能赚钱它是一个很好的商业模式突然之间所有的都拥有过来了所以这个其实是应该说是以后会发生的一个常态吧所以要去小公司的成员就是有这个耐心和有这个眼光做一些方向大公司现在不做但怎么能确保说大公司看到这个机会之后小公司不会被大公司这么多的资源无限的资金然后给盖住其实也很难应该说首先第一个就是你不会觉得大公司真的有那么有效率你想那个你想Google现在也在追追给它coding嘛对对对除了那个anti gravity对那Google的coding其实应该说还没有做得特别好吧对吧还是有一些有一些大公司大公司的毛病这个都是会发生的而且其实应该在在这种事情发生的时候应该说这小公司如果真的成功了那么它已经收了很多的钱收了很多的资金去投入所以那个时候小公司也有很大的Librage你觉得现在你们面临的挑战包括招人吗你觉得现在大家抢人这件事情抢得厉害吗应该说这样我们这么说吧就是说首先一个就是我们公司确实还是比较那个受欢迎的有很多的人愿意投机简历给我们所以我们也挺挺惊讶的就是另外就是大公司招人小公司招人可能不是应该说是在不同的方向上招人对于大公司比如说你说TBD他们花很多钱招人那么吸引的人可能跟小公司吸引的人不一样对吧大公司吸引的人可能是那些就是说我有很强的技术能力对吧但是我觉得这个技术能力对大公司有用的但这能力本身可能不是那么新的这样的一些人对小公司来说可能有些人他们是愿意看我们的愿景我们这个方向是不是在将来会产生一个很大的影响所以这两边的应该说的这个mindset和思路是不同的所以不能说两边相互抢你们喜欢招什么样的人我觉得现在的我觉得感觉上是这样就是有一个是他有一定经验经验比较丰富的因为现在AI空间天之图非常强了对所以很多时候经验和品位和方向是更重要的那另外呢就是说我们希望这些人还是比较hand on的所以就说又有经验同时呢又愿意自己把事情做成的人这两个合起来是比较重要的所以你们不考虑毕业生这个也case by case你觉得现在毕业生还能找到工作吗就因为很多junior的工作其实我理解说你们都可以让agent去做对吧对但是要看嘛就是如果毕业生本身是很厉害的他有很好的工作这工作业界知名大家都觉得这个工作非常好那也是有希望你现在这些年轻的那个researcher聊的时候他们更想去大厂还是更想加入NewLab的这种小一点东西其实我这边有BIOS对吧你说跟我聊的很多人说哎呀我们能不能来我想取META等下去META的话就不会跟我聊了所以其实有一个self selection对所以这是一个点对吧那么大厂也有大厂因为大厂往往大家讨论的是比如工资多少总报是多少然后有多少福利然后多少那个那个钱和股票对吧这样的一个但是对小厂来说很多更多时候谈论可能是比如说愿景方向然后做的工作内容还有是不是有意思这样的一些问题要做成RSI想做什么事情除了你们这个很强的八位联合唱试之外你们还需要多少人然后什么样的一个规模你觉得是会比较舒服的对我们现在是25人左右对吧那之后我们希望能够比如说到40个人吧40个人左右吧对大概是这样的一个规模但是这个也看看这个市场情况变化然后你觉得就是现在整个的就业的版图里面在发生什么样的事情你看到的因为我记得在上次采访里面说你说大家迟早全部都要事业的嘛你觉得半年过去了然后我们现在距离你说的那个场景会更近了吗我觉得是更近了嘛你看Meta最近又裁了一些人对吧就是很多地方都在裁人对啊那个Amazon年初也裁了一些人对吧然后之后也还有其他地方会裁人原因是因为Agent确实是对我觉得一个是AIA确实就效率提高了就是以前的AI能力比如说相当于以前的就是四级或者五级的工程师大概是这样的一个感觉因为一般是营业毕业生刚进大厂的时候叫Level 4这个是Google和Meta的Level然后C年一点的话变成Level 5是这样子那么4和5的这些工程师他们的能力就是AI很多事情其实可以做的了因为有这个 [64:59] 而且四合五应该说是在大厂里面比较多的对所以确实很就是AI agent来之后呢确实有很多的影响对就是我觉得以后可能会越来越多吧那说到这里呢我们接下来来说一说现在主流的这些 Frontier Lab然后特别的想听一下你对他们的一些观察那首先呢我们先来聊一聊这个Antwerpic吧你怎么看这个Andre Karpathy加入Andre Karpathy这件事情的圈内人大家怎么看我觉得一个是说明就是self improvementsautor research非常重要这个我觉得我们也很开心看到这个有意思的进展对吧因为之前Andre Karpathy在那个推特上直播了自己这个做这个autor research这个过程对吧然后把这个图像和把这个report都开圆了那个时间应该说很多人对着非常有兴趣然后也有很多人就是跟随了这个Astrophic的路线然后发现这个Auto Research这个路线可以做很多的优化所以应该说他在这方面他的这个影响力很大然后呢他也明确的跟大家说了就是他去Astrophic是做语情练是做这个Auto Research所以应该说就是这个就让大家觉得就是确实self improvements或者说这个self learning这个方向应该说是主流了或者说大家去承认这个事情是对的我觉得这个是很好的然后Androbic我觉得今年的这个叙事然后这个趋势都非常猛一部分也是因为他上市了一部分也是因为他的商业化确实做得非常增长的非常非常快你觉得它的这个优势能一直延续下去吗因为我们看到OpenAI它其实最喜欢Codex也追得很快我们刚才说到谷歌也出了Antigravity但你觉得就是整个Coding这一块的格局会延续着现在的这样的一个排位吗还是说有机会会出现一些变数的我觉得很难讲因为其实说实在并没有用下来就并没有觉得谁比谁厉害很多很多对吧就比如说Codex 5.5其实我用了之后我觉得挺好的我觉得就是Cloud Code我也在用嘛 对吧都挺好的 但是更有个的问题 对吧就说Cloud Code有些时候会给你hallucinate 对吧我说这个答案是啥呀 就是你给我组结一下给说一大对话 我说这有问题不错啊然后他说是的是的 I'm so sorry就是很快快但是为什么我在没讲之前才就没说出来呢所以有很多地方还是问题不少问题不少对而且其实应该说那个Codex它并没有差我觉得并没有差那个Cloud Code的差太多只要Opener想追就是能力上面还有产品能力上面是能够追上去对我觉得是可以追上去就是看它的执行上的速度多快对所以其实我觉得像Google你说想追也是可以追的嘛你想Google最近他们成立一个strike team他们成立一个team我们就要追coding然后还是那个serge亲自挂帅对所以我觉得就是因为如果一个方向上特别火大家都知道还有商业价值那所有人都会去做它那慢慢就会产生就是各种沟通的方案对所以还有很多开源的比如说像DeepSeekDeepSeek Before我也用了嘛我觉得还挺好的当然他有一个问题是他可能一开始你必须让他预热一下预热一万个token然后他变聪明一点一开始就有点奇怪但是过预热一段时间之后他就从来间就变聪明了然后就可以做很多事当然有些问题说但这些东西应该说都是都是可以解决的吧就是我觉得这事上这么大肯定会有很多人愿意进来大家会知道会飞高的出来到底怎么办法做很好所以接下来这个份额怎么分其实很难讲其实我这边一直有个就是一个concern就是说因为对于用户来说用户并不需要非常强的模型他就他希望这个模型能力有上限就是说他像这模型够用就行了就是这样这是一条边对吧超过这个上线之后对用户来说他也并无所谓他就用他现在觉得用舒服的模型就可以了所以如果大家顿倒知道上线也许大家试试完全是看这个价格了OK就可能会变这样了所以你觉得Coding它的先发优势没有那么的重要其实可能最后还是会有一个打价格战的可能会有这个问题当然一个Counter Argument的时候OK我们也许能看到就是数据费轮的效应对吧先发的人获得很多数据然后训练很好这也是一种可能性对但另外一方面就是说也许大部分写的代码都不怎么样重要的代码还是那些大神门写出来的所以这个费轮能转起来吗也不是很清楚这个Anthroopic的Methos这个模型然后他们自己说太强了 [69:59] 所以不敢发布就真的有这么强吗这个我也不做comment吧因为确实从数字上来说很好对吧是很强对当然你看网上也有很多人在说其实不怎么样其实不强对所以现在也不知道这个就等到发布之后再讲所以你觉得Android模型它强的原因是什么就除了刚才我们说的它可能是用了一个不一样的Vision TrustFormat架构然后有可能它的这个数据上面有些数据给弄到pre-training上面去重新训练就是主要是这两个点这你说后者呢其实大家都在用就是说每个人在用对吧所以后者就说我训练的时候我把推移链的那个结果放到前面那个预训练或者中训练里面去这个大家都在做这个我不觉得是一个很大的一个两创新所以有可能是模型上面有些创新有可能是模型或者训练优化器或者说模型的那个recipe这个不知道因为这部分的信息现在是很少的所以你觉得接下来如果大家还要再继续解锁它模型能力上面的话可能真的是要拼这个模型上面的创新吗?对 我觉得应该是的就是说一个当然是你有更多的卡有更多的那个机箱资源你可以做对但是另外就是说那个我觉得现在在网上就是你这样纯着PinkSkin Law的话很久它是一个指数的这个指数到一定程度之后大家都受不了对吧你要再十倍电力再十倍的资源不可能所以最终一定会撞到一个地方就是希望大家突然回过头来看一下有没有更好的方式来解决问题对所以这个一定会发生所以为什么现在New Lab大家愿意去投资吗也是个原因是现在的模式不可持续然后Coding之后的下一个The next big thing是什么最近很多人问我这个问题你觉得会是什么我觉得是AI researchAI research对就是我觉得我们现在做的能不能让AI变得更强能让AI做一些research做的事情对吧因为Coding为什么能够火我觉得是因为主要因为还是在于就是写code的人或者说写code的RI很高我这个模型很强然后能够做一些本来需要高薪产聘请的人的工作因为有这个所以他才会revenue他才会有收入那么下一波你看就是因为现在大模型的人才也是非常贵的而且可能比鞋扣的人更贵很多那么当然就是能够让这个事情自动化那当然是有很大的ROI的那你觉得AI Research上面的商业化回报会跟Coding一样是有这么大的市场吗这个要看就是你最终的AI Research你发现什么支持对吧比如说你发现了一个AI for Science发现一个新药那就回报了多少对吧你发现了新材料后来就回报了多少对吧你发现了新方法训练模型回报了多少这个都是天文数字当然这些东西就是高风险高回报的事情然后OpenAge和Android的一个比拼你会觉得是什么样的一个结果短期跟长期来看你都可以说我觉得很难现在很难说吧因为OpenAge之前有些问题是有很多的方向它都在做不是不太focus现在看着focus你就很难说两边谁比较好谁比较对吧这个就是问题所以这个我也很难评论就是我们看大家其实对用户来说这个是好事因为通过这方式你有很多可以用而且价格会打下来所以不是坏事接下来就是决定他们胜负手的关键因素是什么谁能够找到更新的办事我觉得这倒不是因为代码本身已经很赚钱了接下来的问题是说谁能够让用户愿意去用他们我觉得这可能是重要的所以还是产品方面的竞争因为他们两家都已经在特别是introfic就是说他们最终他们主要的Fort revenue都已经很高你再往上走revenue一旦有了之后其实这么上来有一个问题就是一旦你开始有revenue了我希望有更多人所以这个其实是一个一个很有意思的一个现象对吧对那其实那如果是这样的话那他们两边就会有这样的一根色比如说Trofic有Revenue有说不然马上就赚钱了那么对外来说你怎么还没赚钱呢对你赚很你有很多Revenue但是你还是资本你这个你靠财很高对对怎么办那么会不会有这个问题他们都要上市了嘛要不然就是削减你的cost为什么把sora关了对吧然后要不然你就再多挣点钱他一定要进入这个叙事之后那么这个逻辑就可能以前的一个reselit lab的逻辑不一样了reselit lab的逻辑就是说我要证明自己很厉害我做了一个新东西出来你看没人做过吧很厉害超级impressive但是一旦它掉进了资本上的一个就是上市要做资本叙事要做revenue要做资产互债负载表的时候你就会回到了之前的商业模式就是说我希望我的公司 [74:59] 有revenue的cost又低的能够稳定赚钱的对所以其实可能赛道就不一样了你们有一天也会遇到这个问题这个我们还早吧然后我们来说一下谷歌然后谷歌这次的IO发布似乎不太理想你觉得谷歌还能够追上来吗然后机会在哪里这个我就不多评论了对我觉得还是我觉得谷歌还是很厉害的还有很多人非常厉害在里面然后愿意做很厉害的事情对所以就要领导层有这个重视的话一定还是不错的因为Google之前从当时Gemini 2Gemini 2.5Gemini 2的时候其实大家一直在说它不行了Gemini 3就很厉害Gemini 3就很好对所以接下来应该还是另外确实我们一个公司也是Google Venture投的好的好的理解理解好然后来说说MataMata在你离开之后是经历过数字的重组然后他们之前是推了这个Milse Park出来你怎么评价Milse Park那其实还不错的就是我也用了一下我觉得应该说首先第一个因为利益相关就是我也有很多我还是有很大的Milse Park股票对吧所以我也感谢披露对我很大买股票所以我也没有办法讲说那个可能说不是很客观我觉得Meta的Muse Park还是不错的还是有很多的特别是动摩泰然后还挺好他的understanding还有一些回答也比较好动摩还不错当然总的来说应该说还是可能比Jemina3还是要差一点然后我看到有评论说Muse Park它是一个为Meta自身产品场景高度定制的这样的一个模型而不是说一个非常强大的一个通用前沿模型那这是不是意味着Maka其实在AI的策略上就完全转向了就是说我完全就不拼这种最强大的general模型了我倒不觉得是这样我觉得它还是一个general的模型对至少它从它内部的这个工作模式来说还是general模型肯定先训练一个更general的模型然后再就是说fine tune for the specific use case这个是更好的就是说他们其实还是没有放弃说我要去那个争夺最强模型的这件事情对啊不然的话就是就Metal也没有必要花很多钱做这个事你觉得他们还有机会吗机会还是有很多吧我觉得应该还有很多的因为毕竟大家还在往前走而且其实大模型一旦有个人训练出来之后不数几个月就会被另外一个超过大模型里面没有永远赢家应该是这么说对吧现在大家都是犬牙交错的往前走所以很难说所以需要的是什么需要有一个人灵光影线那也不是这个还是需要一个团体作战嘛对吧有很多的人大家把事情做好聘在一起就可以对就是大模型很多时候这点上我是挺同意姚淑宇的观点就是我觉得大模型特别是做这种工业级别的然后大厂做大模型很多时候是每个人都在各自赶快上经营业的把它做完然后拍plan通了之后就跑下来就行但如果就每个大厂都这样的话那它差一点在哪里呢那就是看你做多细做多细然后你的工作做得多努力然后事情做得多好一些小的东西有些人注意到了有些人没注意到注意到的人可能就获得一些提升没注意到的人就没注意到没获得提升就是这样子所以你觉得TPT不还是有进会的我觉得还是有的吧对但是也要看他们内部怎么样operateMeta最近有点争议他最近就是宣布一方面是裁了7800人还要同时发生已经很有争议的事情就是他们要强制征流员工这个事情然后说要利用员工的工作数据去训练内部的AI模型这样的话他的AI模型就可以通过观察内部员工完成任务的过程来学习说他现在的能力已经是要好于外包人员了我看蛮多人挺身气质的事情你怎么看这个事情呢确实是军官艾书感觉上说的比较吃火热吧所以大家都会有一些意见是这样子因为如果你觉得你知道你自己在将来一段时间之内就会被蒸馏心情大法顶刻练化练好了之后然后你就被你就被踢出去了的话大家都会开心的对这个其实应该说在做事情上来说应该比较就是不太顾忌原本感受吧这个其实是一个问题对应该说裁员本身的过程中应该说我也会觉得是有这个问题一直在一直有一直存在但不管怎么样它是个大公司大家来了之后比如预言之间是那个院者上购那你来了之后他们有这个条款你就真是有这个条款但是真留员工这个事情感觉是个大趋势了我觉得有一个人看 [79:59] 做的大家都会做所以这个没有什么对和错的事情对吧如果公司觉得为了公司的利益我要把这个事情就希望把公司的所有数据都拿到手然后把这些事情做成这个是无可厚非的嘛因为对公司来说这是我顾问条款之一你来的话就得遵守这个条件但是呢我觉得以后可能大家会发现就这个帧流有没有有多大的用处可能是一个问题可能大部分人会因为有这个条件导致这些人不愿意工作的特别好不愿意把自己最重要的事情给给或者故意在里面买雷或者说买一些奇怪的东西让你去年搞坏掉制造一些叫你偷多什么所以就很难去判断所以其实我也不是很希望员工跟公司有这样的对立现在大家都在往一个方向上走但是感觉在非常high level的角度去看这个事情的时候还是不可避免的可能越来越多的东西公司希望使AI来做可能以后会发展的一个情况就是我公司确实不需要这么多人了是的,这个是客观事实其实我最近也写了一篇blog我也在说web coding的一些或者说AI工具的一些体会嘛确实我觉得用的人会要有手是这样子所以我去年今年年初我写了一篇blog我说以后可能大家都是创业者大家都是co-founders我觉得以后是会发生的因为最终大家就是大厂不选择人了所以大家就得找到自己的意义对吧以前可能是你被教育传来教育了就是四年本科两年硕士五年博士最终你希望你的目的成为一个螺丝钉或成为一个某个大机器的一个零件但是现在已经不像大机器不像你的零件了就是你得自己去寻找自己的意义对吧就变成另外一种就是可能一天那种新的文艺复兴一种你可能回到了以前古希腊的或者说以前的那些状态就是说我们每个人都需要找到自己的自己的想要做的事情那么这个过程其实应该说是一个应该说比较痛苦的过程对但是就是最终可能会不会避免的发生这一天还有多远你觉得我觉得现在就已经在发生了对就是之后大家能找到的那就会找到自己的方向然后可能找到自己的新的模式然后做的挺开心的那就会变成新时代的一个样本就是一个状态对就找不到的话就比较难但是这个就比较难的地方就是整个过程应该说很快发生了可能在将来大概比较三年到五年内就会有很多很多人去面临这样的选择对吧你会发现你去跳到大厂说这个大厂被裁了你跳另外一大厂过来他又被裁了另外他又被裁了到最后因为就是这样他就相当于就是在一条鱼在水壳里面跳但是水就在干对吧对吧下一天有句话嘛就是说有人把水弄干了把水弄干的鱼不在这里对所以这个故事当时是来形容什么四维四维的生物把这个鱼肉变成三维这样的一个伪手打击在这样的过程但是呢这个同样的故事呢可以用来讲现在的事情对吧有些鱼把水弄干了弄干之后呢其实其他的鱼就不停地在跳但是不停地在跳的时候呢你会发现水总来说是越来越少的所以你永远找不到你最后一定要变成一个四位生物你才能活下来所以你只要鱼要进化成鸟长出翅膀来才能够生存下去是的 是这样子所以大趋势是这样子我们再来聊聊XAI你觉得XAI发生了什么就是如果我们按照刚才的这个思路来说我有一个团体我有资源有钱有人才对吧就是我应该能做出来还不错的东西但是就XAI发生了什么我反正听说是这样的就是说确实也跟LAMA4当时情况是比较像的老板还是希望事情很快能发生对但是呢就是说这个压力比较大所以就会导致很多问题导致问题之后呢你就发现查出来的模型可能不达预期啊或者说不是很满意啊那就会有一些问题就是都是这样子就是之前我也说了很多次就是一个组织如果这个组织里面的人他没有这个能力去push back或者说去反驳上面对他要求那么这个呢这个组织的人就只能通过某种方式来顺从这个上面压力但这个一开始这个顺从是可以的但是时间长了之后呢总有一天就会这个上面的人会发现这个组织的delivery跟promise是不一样的那么就会产生问题产生问题之后呢那你就会有一个shock就是很大的一个地震嘛这个地震会带着很多很多结果就比如说就其实那个人说LAMA4跟XCI的结果很像很像对吧就是老板会觉得你们这些人我不相信你们 [84:59] 我们得外面再拉一个人过来然后去做这个事情那么原来这个组织里面的人可能就会比较就经营就比较惨听起来的话就是这种前沿淡模型之争其实最后变成了一个组织架构之争是的应该说组织架构在这次的技术进展中有很大的一个角色应该说本来说是先进生产利益就是和落合生产关系之间的一个矛盾对吧可以这么说可以这么说但是你弱了生产关系不可能一下子就消失而且我们现在都不知道什么是先进的生产关系所以因为弱了生产关系在那了所以就会产生很多矛盾虽然大家说scaling law到头说了很久了但是目前呢其实那前几个大的lab还在继续卷scaling这件事情你觉得我们还能卷多久还是会卷的至少大厂里面还是会卷的有惯性对然后大厂也有资源对吧然后也愿意出钱出力出人所以还是会卷然后大家思维观点还是我们要skill了所以还是会卷一阵子我觉得这个小厂是有优势的因为小厂一个是人少然后特别是有一些人他们有自己的这个belief拼起来之后他会有更新的想法去贯彻下去所以销售可能会比大厂有更多的有希望的地方但Skinler一卷没卷到最后大家卷不动了那就会有其他的方式做出来然后最后能不能跟我们讲一下你现在的工作状态是什么样子的然后你刚刚跟我说公司因为刚开始嘛大家充满了干劲对吧然后公司的这个企业文化大概是什么样子的企业文化应该说还是比较一个是比较就是相对来说说话比较直吧对吧大家都比较direct然后愿意很快的给feedback很快的给大家那个反馈啊然后那个比较technical对大家都是都是就是干活的就是大家愿意坐下来埋头的把事情做好做好之后然后你看这是我的结果然后这是我现在的那个效果然后大家有什么建议和建议什么的对然后相对来说也有比较实在嘛也不是什么太划烧的东西有什么事情我们可以有话直说有话大家就可以把东西摊在桌子上然后大家讨论能不能跟我分享一个你最近觉得还挺开心的时刻的有 其实有不少但是我现在暂时不说吧有没有能说的比较开心的时刻应该说公司的launch比较顺利这个是很开心心的对之前我们准备了也有一阵子了对吧然后融资也很顺利我觉得这个是很不错然后我们在发布之后呢应该感觉上就是正面的这个回复还是很多的大家也很有那个很支持吧这个对公司来说是很好的一个第一步然后大家都会是不是特别是外界的反响应该说还是比较正面我觉得刚才在采访当中你有一句话挺触动我的你说反正你去跳到不同的大厂你发现你水已经没有了反正你都找不到工作那接下来呢就是怎么去找到人生的意义这件事情其实是非常重要是的对于你来说你怎么去找到你人生意义的这个其实我觉得在GPT4刚出来的时候我就写过一份布网我说以后就是大家就独一无二就你们能做一件事情别人做不了的但是只有你能做我说只有你愿意去探索的这个是最重要的对不对然后你在独一无二上越走越远你一找到的你获得的所有的数据都是新的都可以给别人分享这样的话就是你相当于是一个行走的数据员对吧然后你获得所有东西你都可以给大家分享的话你对这个事业是有价值的当然就这只是一个非常个人的体验吧对吧因为每个人其实是不一样的现在还有时间写小说吗这这段时间比较忙比较忙但之后也我会考虑一下最近AI的一些进展你自己的一些思考你觉得对写科幻小说是不是有了新的一些idea我觉得我有了紧情性紧迫感嘛如果再不写的话我的idea就没了因为已经实现了就已经变成现实了对对现在感觉上写小说可能还来就是写的慢的话可能就跟不上现在AI的进展已经到这样的程度你可以让AI把你写剩下的可以帮我写那要有自己的Io所以有办法能够让Io去掉然后能找到自己的想要做的想要写的东西那写的比较好那感谢袁栋然后也期待你们接下来的可以宣布的一些新的进展然后到时候可以再聊聊好的好 感谢陈姐谢谢欢迎来到RecursiveSupon Intelligence谢谢所以你们什么时候搬进来的这个新办公室可能两个多月前吧两个多月前搬进来我发现很多的新那个实验室都是在City在那个旧新店城里面了对对对为什么呀大家都喜欢在城里面不喜欢在南湾我觉得这边就应该是人才密度比较高吧对有很多人有很多的出场公司在这里然后交流一下就没有办法方便对有很多很有意思的事情在发生对现在咱们那个团队有多少人啊现在可能有25个人所以大家都是可以有 [89:59] 工作的吗还是必须要我现在上了就是有三分之二的人在San Francisco还有三分之一的人在这个在伦敦今天是周二下午就是都没有什么人了大家周二在哪周二下午我觉得其实应该还有不少人其实在家里工作但是我们一般一个礼拜我们可能我们可以一个礼拜来个三天我觉得你们采光还是挺好的这个大玻璃窗你的工位在哪里就在那边这就是一个很随机的一个地方没有什么特别说有个地方老板要坐有个地方公众要坐我们都坐在一起这样的话交流起来比较方便所以没有单独的办公室大家都坐在外面你们开会多吗不太多我们的目的当然是不希望开会我希望大家坐下来把事情做成觉得就是跟大厂区别还是挺大的还是挺大的应该说很大的区别我们这边还是希望有事情就是大家做下来很快的交互沟通完之后把事情都做成就好在跟Andre聊的时候他个有个研究员强烈的要求他们在办公室里面放一个桑拿桑拿的一个小房间你看我们这边有一个乒乓球桌做一个桑拿然后需要思考一下这个应该还没有没那么高级我们现在有乒乓球桌对 你打乒乓球吗会打你会打那么可以打了啥可以打我看已经有机器人可以打乒乓球了是索尼E最近有个机器人平常就打得不错那我就先这样那先这样吧感谢大家过来好那以上就是我和天元东对谈的所有内容以及RSI的Office Tour了那我们也会密切的关注包括RSI在内的Neolab的动向以及呢硅谷核心AI研究员的视频播客系列还会继续大家不要忘了关注我们的账号你们的留言点赞和转发是支持我们硅谷要连要做好深度科技和商业内容的最佳动力我是陈倩那我们就下期视频再见了Bye