月之暗面杨植麟推万亿级基础模型K2，以新优化器挑战数据墙

月之暗面杨植麟推万亿级基础模型K2，以新优化器挑战数据墙 通过用L4级模型自主进化来攻克通用智能体的泛化瓶颈，是月之暗面突破物理算力与数据飞轮边际效应的核心技术战略。 在这场深度对话中，月之暗面创始人杨植麟复盘了公司从对话（Chat）向智能体（Agent）及强化学习（RL）的关键范式转变。他详细阐述了新一代基础模型K2如何通过MUON优化器实现巨大的“Token效率”提升，并深入探讨了强思考推理、测试时规模化（Test-Time Scaling）以及通用Agent所面临的泛化瓶颈。杨植麟提出，行业正处于“站在无限开端”的非线性演进期，未来需要以“用AI训练AI”的L4级创新去解决L3级的泛化难题，最终将AI打造为人类文明与技术研发的巨大放大器。 大模型演进由以 OpenAI o1 为代表的“强思考推理模型”驱动，其核心在于内部多次的“尝试与反思”，衍生出扩展思考 Token 长度和扩展交互轮次两个测试时规模化（Test-Time Scaling）维度。 (8:12) 模型公司亲自打造“一方产品”属于正向设计，通过在预设工具和环境中端到端训练模型，其能力上限远高于第三方基于 API 提示工程的逆向拟合。 (14:41) 面对高质量文本数据增长放缓的瓶颈，月之暗面 K2 模型采用基于矩阵正交化的 MUON 优化器，在计算最优实验下相比传统 ADAM 带来接近 2 倍的 Token 效率提升。 (23:18) 通用 Agent 面临的最大挑战是向未见过的长尾工具和 API 泛化，行业正转向“用 AI 训练和对齐 AI”，即借助 L4 阶段的创新能力去攻克 L3 阶段的泛化难题。 (40:00) 组织管理与大模型训练高度相似，管理者需要在直接指导的 SFT 式管理与目标激励的 RL 式管理之间取得平衡，同时建立多维指标防范指标套利（Reward Hacking）。 (83:00)

月之暗面（Moonshot AI）创始人兼CEO杨植麟指出，大模型研发正从单纯预训练与对话范式迈向强化学习与通用智能体（Agent）驱动的演进路线；面对行业“数据墙”，核心突破在于通过优化器革新提升Token效率，并借助“AI训练AI”的L4级创新能力破解L3级智能体的泛化困局。 推理范式演进与测试时规模化 (8:12) 梳理过去一年的技术变革，杨植麟认为大模型行业最本质的变化是以强化学习为核心的“强思考推理模型”与“多轮交互Agent”。前者被他形象地比作“缸中之脑”，通过模型内部串行的“猜想—验证”循环进行自我反思，将原本的采样概率转化为更高的单次解题通过率（Pass@1）；后者则通过连接搜索引擎与代码环境，与外界多轮互动。这两种路径的本质都是“测试时规模化”（Test-Time Scaling），即在推理阶段成倍拉长Token消耗与运行时间，以换取极复杂任务的端到端执行能力。 在产品生态层面，模型公司正密集下场自研一方（First-party）产品。杨植麟强调，第三方开发者搭建脚手架本质上是通过逆向工程去猜测Prompt，而模型公司做一方产品则是“正向设计”，先定义工具与运行环境，再进行端到端的对齐训练，其能力上限明显高于外部拼接。 突破数据墙：K2与Token效率革命 (23:18) 针对高质量文本数据耗尽、多模态无法直接提升文本“智商”的行业瓶颈，月之暗面将K2模型的研发重点放在提升“Token效率”上，即在消耗同等数据量的前提下获取更多智能。团队弃用了沿用十年的ADAM优化器，改用基于矩阵正交化的MUON优化器。在计算最优实验中，MUON使Token学习效率提升接近2倍，但在万亿参数规模扩展中引发了此前未见的“Max Logit爆炸”，最终通过自研裁剪算法平息。 此外，为避免对高质量数据重复学习导致过拟合，团队借助模型改写数据引入新熵，在保留知识的同时增强泛化能力。实验还证明，模型训练无需极端复杂的过程奖励（Process Reward），依靠端到端Reward结合强化学习基建，同样能取得优秀表现。 智能体泛化瓶颈与“用L4解决L3” (40:00) 杨植麟将Agent定义为“多轮运行且调用工具”的系统，并认为当前最大的技术瓶颈在于分布外（OOD）泛化。现阶段的智能体极易在Swe-bench等公开基准上产生过拟合，跑分优异却难掩实际体验的匮乏，无法适应企业未见过的私有接口和长尾工具。杨植麟指出，能力进阶并非绝对线性，解决L3（Agent）的泛化与评估难题，必须依赖L4（Innovator）阶段“用AI训练AI”、“用AI对齐AI”的技术。 在系统实现上，代码（Coding）是连接数字世界的通用语言，也是构建工具的基础，因而成为Agent最核心的子集。但模型架构依然面临冲突：支持百万字超长上下文时，现有的线性注意力（Linear Attention）等架构容易产生偏差并损害推理智商。月之暗面长期坚持闭源基础模型路线，主张Base Model的突破高度依赖原厂密集算力与顶尖人才聚集。 算力Scaling确定性与数据飞轮真相 (63:00) 对于大模型产品尚未形成用户“数据飞轮”的疑问，杨植麟解释，这是由于物理算力（Flops Scaling）与强化学习（RL Scaling）带来的确定性收益过于巨大。RL作为带梯度的On-policy训练，提升效率远超预训练，这导致外部用户数据带来的微弱提升被算力红利所掩盖。大模型对用户反馈中的噪声极为敏感，当前直接扩展算力或提高学习效率依然是性价比最高的技术路径。 杨植麟认为，C端产品的关键价值不在于直接用数据反哺智能，而在于捕捉真实用户需求的分布，将其抽象为高质量的评估基准（Evaluation）以指引模型优化。伴随底层模型智能跃迁，交互范式也在从Copilot演进为完全自主执行的Agent，产品的最终形态始终由底层模型上限所决定。 组织治理中的SFT与RL平衡哲学 (83:00) 杨植麟将科研逻辑映射到创业与团队管理中，提出经验本身无法产生新知识，唯有提出猜想并设计实验才能实现认知跃升。他将团队治理比喻为模型训练中SFT（监督微调）与RL（强化学习）的配比：SFT式管理是直接教导员工执行步骤，但指令过多会抑制团队的自主能动性与创新上限；RL式管理是自上而下设立目标与奖励，鼓励自由探索，但最大的系统风险在于“Reward Hacking（指标套利）”。 如果组织将单一Benchmark或业务指标设为唯一奖赏，员工可能会为了刷高分数而采取扭曲动作，导致实际业务毫无起色。杨植麟总结，管理者的核心职责在于设计具备细粒度观测指标的奖励机制，在以RL激发创新的同时，保留适度的SFT指令以锚定组织愿景，防止战略方向走偏。 杨植麟将通用人工智能的发展视为遵循《无穷的开始》理念的长期过程，主张AI将作为文明的放大器突破知识边界。然而，如何在扩大长文本窗口时不损耗推理智商、如何摆脱公开跑分过拟合并在长尾真实场景中建立鲁棒的泛化能力，依然是月之暗面乃至全球AI团队尚未完全解答的核心挑战。

[0:00] 杨植麟: 问题是不可避免的，但是问题是可以解决的。 [8:12] 杨植麟: 想像一个鱼缸，然后你把一个脑子放在里面……它在自己大脑里面想，它不需要跟外界产生任何的交互，它就能解一道题。 [23:18] 杨植麟: 希望把每一份的数据能够最大化地使用……你同样吃下一样多的数据，你能脑子长得更多，你能得到更多的智能 [40:00] 杨植麟: 用 AI 去训练 AI、用 AI 去对齐 AI [58:00] 杨植麟: 当你模型训完之后，你的产品已经做完了 [58:00] 杨植麟: 不要去损伤它的脑子 [68:00] 杨植麟: 你永远不知道会产生什么新的技术问题，以及这些问题会如何被解决 [83:00] 杨植麟: 提出猜想并设计实验去验证 [88:00] 杨植麟: 不以物喜，不以己悲 [88:00] 杨植麟: AI 是人类文明的放大器 [88:00] 杨植麟: 用泛化的 Agent，用 Innovation，用 L4 去做 L3

[0:00] 想像一个鱼缸然后你把一个脑子放在里面可能下一个突破边界的确实就是你得靠AI因为它是一个巨大的杠杆过去年拼命也是拨风拨骨来回震荡我觉得这个是很重要人类文明的放大器Hello大家好我是小俊今天的嘉宾是月之案面的创始人跟CEO杨志玲就在一年前我们发布了一篇文章叫做杨志玲复盘大模型创业这一年向延绵而未知的雪山前进那么时隔一年我们再次对话哈喽志玲谢谢观众朋友们打个招呼哈喽大家好在你创业第一年结束的时候2024年我们访谈报道的标题是向延绵而未知的雪山前进那现在又过了一年站在现在此刻2025年7月份你最新的感受是什么样的你刚刚提到这个词我感觉都是好像过了很久已经一年多了AI一天人间一年嘛所以可能AI的一年我不知道在人间是多少天所以对感觉确实很多东西发生了很多变化但是我觉得那种感觉就是你刚说的那种雪山的感觉好像倒是差不太多的对就是可能往山顶的这个过程我们又再走了一段距离多远现在行进到哪里了对你现在想就确实模型的进步挺大的对吧就是你可能比如两年前这个写一篇文章都写不太明白然后现在他不光可以写很好的文章他能够连续工作几个小时你完成一个可能很复杂的代码任务我觉得这个东西可能在两年前是很难想象的所以我觉得可能就是在一个爬雪山的过程中吧然后你解锁了一些新的场景你大概知道中间这条路是什么样的但同时就在网上过程中你可能还是观察到差不多的景象就是说接下来的这个网上的这个过程它仍然会有很多未知的这种比如技术问题需要去解决对就是所以我现在可能大概是这样的感受吧更清晰了还是更迷惘就是在这个四下都是血这个地方对我觉得肯定会有很多东西变得更清楚对就比如说可能我觉得在两年之前这个比如说各种强化学习的这种范式怎么去做让模型有更强的推理能力或者有更强的这种agentic的能力我觉得在当时可能没有那么清楚当时可能更多的是说你这个模型的运训练怎么能做得更好然后当时比如还有可能RHF的技术能让他的这个在对话的体验里面做得更好对但是现在我觉得会有新的一些问题可能得到了答案但同时这些新的问题他又展开可能又产生了一些新的别的问题比如说可能我们今天看到虽然你可以做这些强化学习但是你的强化学习可能最终还是依赖于一个很好的评估或者很好的验证比如说你让他去做一个数学题或者一些有test case的编程那可能可以做的比较好但是如果让他去做一个可能更加复杂的端道端道任务有时候你并不非常容易找到这个评估或者衡量的方式所以我觉得现在的这个系统可能会产生一些新的问题就有点像我最近可能看一本书就是这个叫The Beginning of Infinity我其实看了好几遍然后你发现它里面讲的最重要的一个事情就是说它说有两句话要刻在石头上一句话叫问题是不可避免的但是第二句话是说问题是可以解决然后基本上就是说你就可以认为在可能启蒙运动之前这个社会它是一个静态的社会就是大家并不追求创新就是说你可能会用很多神奇的方式去解释你观察到的现象但这些解释它可能是并不是一个好的解释比如说你看到这个天上打雷你会觉得是有雷公对吧然后你看到这个冬天下雪你觉得可能是因为某个神他的心情不好所以下雪了就是你会有很多这种就是不是不好的解释去阐述这些东西所以他整个社会是个静态的社会只有非常少数的人是在真正做这个所谓的科学研究或者说知识的创造所以他其实会是一个静态的结构但是如果是在启蒙运动之后你发现这个社会他变成动态的就是就是你会有很多新的 [5:00] 知识被创造出来然后这个创造过程中呢他就是会比如说你产生了一个知识他就解决了一个问题但解决这个问题的时候你会产生新的问题你的问题是因为因为你的知识边界是在拓展那你就会遇到很多新的问题研发这个AI的过程中我觉得可能恰好就是一个这样的过程就是你解决了比如说强化学习的很多问题但你发现就面临了很多新的问题比如说评估的我刚讲的评估的这些问题或者衡量的问题验证的问题这些问题他可能就我们需要一些新的答案大概是会是这样的一个过程但这个也是非常有意思的一个点就是因为你一直会有新的问题可以去解决然后每次解决一个问题你的技术就是会往上可能再攀升几百米然后就是可能有一天也许我知道有可能这个雪山它有可能没有镜头我不知道我希望它一直没有镜头因为这样的话就是就是所谓的beginning of infinity就是这个意思就是它可能是一座无限的山就是你一直在往上爬然后而且甚至有可能爬到一段时间之后你不一定是自己在爬而有可能是你用AI来爬对吧就是比如说你现在我们也会把就是比如用K2这个模型去做很多可能模型训练或者说数据处理相关的工作这些东西他以前可能都是要人工写代码或者有些同学他不一定会写代码但以前就做不了但是现在比如说很多数据处理或者说模型的一些分析甚至包括模型的一些训练你慢慢又都可以用模型来做对所以那你可能就是可以把这个东西作为一个放大器去更好的去攀登做深对所以我觉得会有这种感觉就是反正你的问题是会持续产生对然后你就持续去解决然后发现有新的问题那如果雪山是无尽的你追求的是什么呢追求就是这个攀登的过程或者说你能一直越爬越高就是你可能原来是在山底下然后爬到A到就是又往上提升了一点然后你能看到的景色会不一样就是然后它是一个动态可能进化的过程然后我们可能想追求的是你就是越爬越高以前我们会固化认为终点就是AGI今天的终点已经不是AGI了是吗那AGI是什么对AGI可能是个方向就是它可能不是某一级台阶说你爬到了这级台阶就突然一夜之间达到 AGI而是说可能它是一个方向比如说我们今天可能在很多领域其实你可能你可以认为它是 AGI就是因为它可能做的比99%的人类可能都更好对吧然后包括就是现在比如很多数学题或者说编程竞赛这些题可能我觉得按照现在提升速度你可以可能预想就是说它会很快有很多问题就可以被充分的解决对然后对但是它可能很难说我是很良知某一个时间点我突然就是我就可以喊一个口号说我们在这个时间前此时此刻此时AGI它跟就是虽然我们用登月来命名公司的名字但它跟登月有一个区别就是登月就是你栽叹月球那一刻你就是对你号称我就达到了对但是可能AGI他就是你不乱做然后而且这里面我觉得两个层面一个是说一方面是技术是一直在提升当然另一方面就是除了技术之外我觉得这个技术对于人类社会的影响它可能是更长周期的事情对那你也可以认为它其实是AGI的一部分就是有点像比如你产生了产生了蒸汽机之后你整个社会的变化它其实是需要花可能几十几百年的时间去消化就是你有一些工作可能不再必要但是你会产生新的工作然后有新的方式可能人会用AI去做更就是每个人都会成为超人就是你可以做更多的事情那这个社会它的工作方式和它的运行效率可能都会发生很大的变化那我们先来回望一下过去年过去年全球大模型在脑海中最重要的几件事情是什么有哪些在人工智能范式级的变化我觉得可能有几个重要的一个是这种强思考的推理模型基于强思考的强化学习对O1O1就是作为第一个做出来这样的一个代表然后我觉得是本质上来讲是他通过让模型在这个过程中去做很多的尝试和反思然后我觉得可能反思是这里面的重点就是反思其实本质上是两种能力一种能力是提出来一个新的猜想你可以认为就是模型在解决一个问题过程中他会不断提出新的猜想 [10:00] 这个猜想呢它会得到一个自我的验证比如说他提出这个猜想之后我到底这个猜想是对的还是错的它其实是需要具备一定的验证能力虽然你不是显示的训练一个验证模型但是它是在这个推理过程中可能隐私的去做了验证然后你可以理解成就是他把这个问题做了很多次每次猜想验证猜想验证然后最后可能就可以得到一个答案对那这个东西就是说它其实会很大程度提升模型的能力是因为你本来只能做一次你本来只能就是我直接给出一个答案那这个答案可能是对可能是错的你并没有这个过程但是你现在可以不断的提出猜想去验证那等于说你其实等价的尝试了好几次那你就可以把pass at k可能变成pass at 1它本质算是一个这样的道理就其实跟人做科研或者解题的过程也很像也是不断提出新的猜想然后去验证的它是一个自由探索的过程它不是一个线性的过程实际上有效的工作方式实际上还是很多时候是比较线性的你如果不考虑比如说我做并行的采样假设我就是做串行的采样它其实是有线性体现在就是说你每次是提出新的猜想这个猜想可能是基于你之前的猜想你已经否定过的猜想然后你提出来一个新的猜想但它会接近更线性的过程但只是说现在你也可以把这个线性的过程去搭配到就是搭配一些可能并行的策略就是你可以比如说你同时采样很多个然后那它就会结合可能并行和串行两种不同的方式但是最近也有一些paper讲就是说你可能串行它的上限是会更高这个可能跟我们的实验结论有些相关所以这个我觉得是一种范式但它还是一个刚中之脑就是说它并不需要跟外界交互刚中之脑对它就是想像一个鱼缸然后你把一个脑子放在里面然后它跟这个外界是没有联系它是这个环境里面的对他是在自己大脑里面想他就一直想他他不需要跟外界产生任何的交互他就他就能解一道题但是有另外一个很重要的方式就是说现在可能基于这种多轮的agent的强化学习的方式或者说你通过这种强化学习技术训练出来这种agentic的这个模型型那他的特点就是说他会跟外界做很多交互比如可能我边思考边去做一些操作然后我可能做很多轮的这个操作我一会儿要用一个搜索一会儿使用一下浏览器一会儿可能写这行代码然后我通过多轮的方式解决了一个问题那他就不再是高通智脑他是跟外界有交互的所以我的下一步行为是根据通过交互得到的外界给我的反馈外界给我的新的状态的更新是有关系的它有交互过程对对对那这两个东西它都指向了同一个东西就是所谓的test time scaling就是你可以在测试的时候或者说在推理的时候做更好的规模化意思就是说比如说我们之前如果在做chat或在做对话的时候你更多的是我只是单轮的输出一个结果我可能让你写篇文章你就写篇文章然后我再让你认色一下你又输出了几百个token他这个token数量是很少的但是不管是刚刚说的这个基于强思考的强化学习还是说这种agent的强化学习它本身上都是一种去规模化在预测的时候的token的方式对就是你不管是说我把轮数打了更多还是说在每一轮里面我有更多的这个思考的token它都是一种去规模化这个token的方式使得说你能去完成更复杂的任务那这个也伴随着就是你的完成时间会更长可能就是你可能现在会花几个小时的时间比如说去做一件很复杂的事情在这个过程中你可能不需要人工的参与他就可以比如把一个代码仓库克隆下来然后把它翻译成另外一种新的语言然后去调试测试然后去把所有的bug都修了然后让他能正常的运行就这样的一个工作可能是可以端到端的去直接完成他就得益于我觉得是这种测试时的这个规模化这两个我觉得都是test time scaling的表现方式吧对然后可能还有一个很有意思的趋势我觉得就是说可能现在会有更多的模型公司去做这种一方的产品对就一方的这种agent产品然后我觉得这个也很有意思因为一开始更多的比如说我们如果看半年前开始的话或者是 [15:00] 去年就会有很多产品它是基于基础模型然后你在上面可能做一些脚手架或者去设计一些工具去更好的让模型去使用然后来搭建一个产品享受模型一出的能力对对然后它本质上在做的一些事情就是说去逆向工程我认为就是去逆向工程这个模型的训练过程就是因为模型训练过程它也是通过各种比如说你可以用Ethropic In-house的环境工具它的交手架可能训练出来的这样的一个模型但它可能没有直接开放给你那你是逆向出来你更接近去拟合它的分布到底你用什么工具它效果会好到底用什么样的System From效果会好到底用什么样的Context Engineering它的效果会好是一个这样逆向的过程但是你发现就是说如果模型公司去做一方的产品它的逻辑是完全不一样的就是你不需要你不太需要这个逆向的过程它更多是一个正向的做法就是我现在先把这些工具可能设计好我的context engineering的方法都设计好然后我就在这个环境里面去训练这个模型所以你的模型天然在你的环境里面就会表现的更好对然后所以我觉得这个是两种不同的思路但可能就是第二种它的上限也许会更高就是你可以更好地去整合这个工具整合这个模型然后你的模型有可能有些解决不好的地方你可以去调整这个工具的设计你可以把它设计的更好然后同时你又可以端到端的去做训练我觉得这个可能也是在可能开发方式上一个其实可能比较大的变量就是我能观察到这几个可能是我感觉比较有意思让大家比较好理解其实你刚才说的那个第一种脚手价就像Mindness这种方式然后第二种就是你们这样的就是Dunit的运讯模型对但我们现在在一方产品上的投入还不算特别多我们现在可能主要还是说做很多还是以模型作为我们的主线对但你可以看到比如像Clock Code或者像ChairGPT Agent这样的东西它其实就是一方的产品然后我觉得应该也会是一个很大的趋势所以可能后面就是看这两种东西它会怎么去配合或者说他们在这个生态里面会是在什么样的他们边界分别在哪里说到主线你看XGPT它设置了LE到L5其实我一直很好奇这里面逻辑就是LE是XBOG第二个是REASONER第三个是Agent为什么有了XBOG和REASONER之后才有了Agent然后为什么后面又是创新者和组织者他们的逻辑是什么样子就是在逻辑模型上它的变化是什么就是它是这个能力一步一步的依赖当然就是现在我觉得实际看起来实际看起来就是说你agent我觉得agent的上限是取决于你有很强的reasoning能力但是好像并不是说你必须比如说我们如果把这个技术发展稍微换个顺序产生你先做出来的agent能力然后再去做现在这个狭义上的reasoning就是说你做这种Long COT的reasoning我觉得实际上可能也是成立的也是成立的对对对而且你可以认为可能cloud的路线它就是bet在这一点上就是我可能在reasoning上做的并不是那么多但是它可能在这个agent上会做的非常好因为它对应的是其实是你技术背后是两种不同的test time scaling的范式你一种scale的是通过这种多轮的方式因为你需要跟外界交互你使用很多次工具所以它是这种多轮的交互你可以scale这个轮次那另外一种是scale就是像我刚刚说的你可能其实并没有什么交互你只是一直在那思考纯确的思考对它是两种不同的我觉得是scaling的维度那我觉得就是说你可以看就是可能比如说你看Cloud很多模型它的reasoning的performance并不是非常高对但是它的agent上的performance是很高的然后我觉得这两个东西它其实并不一定是依赖的关系但是但是有一点就是说如果你想做最好的agent就是想让他几个最复杂的任务那你最终可能是需要你的 reasoning能力也很强对所以它是这样的一个关系就我觉得在研发上它不是必然的顺序但是就是如果你想达到一个东西的最好你需要另外把你要达到agent最好你需要把 reasoning也做到最好然后当你有了agent之后就是他就可以去做一些为什么是对应接下来是innovation我觉得这里面最关键的一个点就是你的模型到底什么时候能参与到模型的开发就比如说我们希望K2能够参与到K3的开发里面那如果你没有这个agentic能力你其实很难做到这个事情但当你有agentic能力之后他就可以去不管是说你提出一些新的想法还是说去做对应的实验然后去分析实验的结果得到一些结论然后去迭代下一版的想法或者去优化一个某一个infra的什么一个性能那这个东西它是需要很强agentic的能力它才能做对所以我觉得innovation其实最大会产生在 [20:00] 你至少会有一个很关键的点就是看你这个模型什么时候能参与到你的你的模型的本身的研发里面对然后但这个东西它跟organization就是它可能也我觉得也不一定是完全线性的关系有的东西其实也是并行的就比如说现在这个组织这个东西它也在对就是我觉得现在已经看到很多这样的趋势了就是当你有一个agent之后你就可以把它拓展成一个multi agent的系统对啊你可以从一个agentfocus来很多个不同的agent让他去做不同的事情然后他很多可以串行然后put a bin行然后再合并起来然后再分成几个不同的task你可能有的去写测试有的去写文档有的去设计就是整体的这个软件的框架他可以有不同的这个分工然后我觉得现在已经在有这样的趋势所以他不一定是线性关系对就是你有可能两个会一起发生但是他确实是我觉得 Reasoning和 Agent 相当于说可能会是 Innovation 和 Organization 的一个前提吧我理解 Reasoning 是 Agent 的前提是因为它能够让语言通过推理在 Agent 中得以放话对 我说如果想去解决一个可能最复杂的 Agent 的问题你肯定如果不会推理在agent中得以放话对比如说如果想去解决一个可能最复杂的agent的问题你肯定如果不会推理是很难但是你假设没有推理的这种方式你还是可以一定程度上做一些agent的任务就不需要推理的任务对就是或者你不需要那么强的推理能力你其实就你不需要说我在思考过程中输出来几千个token去推理一下我当前这个到底我应该怎么做你也可以去通过多轮的交互方式从环境里面得到反馈你写一些测试然后去跑这个测试你也能解决一些相对比较复杂的任务所以我觉得这是为什么现在可能你发现Cloud的模型在有一些场景它会做得更好就是因为我觉得可能你是背后其实对应了不同的技术的这个BAT但最终你是绕不开就是说最终你要做到就是你要往山顶再爬几步的话你还是两个路要它只是一个时间问题然后所以对应就是就是organization和innovation这两个东西也是一样就是你在这里面如果你有不同的技术的bet可能会让你短期的路径稍微有些区别然后这些短期路径的区别可能会有一些影响因为它毕竟你要面对的是一个动态的市场innovation的标志是模型能自我迭代那organization呢organization就是可能就比较简单的思考就是它会是一个multi agent的一个系统然后可能会从现在这个agent变成我觉得现在有很多这样的雏形对然后当然就说你multi agent的系统怎么很好的端到端的训练然后你可能不要去过拟合到某几种agent的类型但它有更好的泛化性我觉得有挑战的可以Organization是雪山的封顶吗我觉得也不是可能它真的就是没有顶就是这几个能力它可能随着时间的发展它都会持续的变得更好就包括推理能力你说推理能力的上限到底是在哪里我觉得今天也不好说虽然你看看起来是L2对吧但是你真正说做到很强很强的推理我觉得今天也还是有很大的空间所以你怎么看L1到L5的分级你把它当做一个什么样的刻度我觉得它是几个可能重要的技术Modestone但是首先它并不一定完全是串行的关系项目我刚刚说的我们会预期说有一个东西它就马上被解决掉然后你去解决下面的问题它可能是会你同时都会在提升我觉得像比如说Reasoning就是你要去你真的要解决一些开放的问题或者说你要做很好的创新你要提出来新的模型架构那你的推理能力可能又需要有更高的要求所以我是觉得可能这几个能力要持续的提升我们来复盘一下23到24年你们的关键决策是当时2月份决定了创业然后开始融资组建团队然后到了下半年Kini上线了然后Bapt了长文本那24到25年这一年呢你的关键的几个重要的决策是什么好问题我觉得很重要的可能技术上就是说你从以预训练和比如说SFT为重点的这样的研发范式转变成就是说以预训练和强化学习为重点的这个方式然后我觉得这个其实你就需要做很多的不管是人才的储备还是做研发方式的改变对然后可能还有就是说可能从对话到agent我觉得是一个重要的范式的改变然后这个东西它会影响我们的实际的工作方式吧我觉得这两个是可能比较重要的方向上的变化过去半年你们推出了K1.5和K2吗这个分别对于Kini意味着什么我觉得K1.5更多的是可能是强化学习这个技术的验证就是我们多感OI是吗对对对我们可能是也是比较 [25:00] 早去在这个技术路线上去做投入然后可能得到一些结果看背后的技术到底怎么做当时我们发现说你可能不太需要太多的process reward或者这种比如value function或者甚至这种可能在训练过程中还有一些副作用我们发现你可能直接用端到端的reward你可以把训练得非常好我觉得这个在早期其实可能还是并不是非常明确然后在这个过程中我们可能是积累了一些强化取习的基建还有它的这个一些算法的一些know howK2的主要的点我觉得是几个一个是说我们希望它是一个非常好的基础模型希望它是一个非常好的base model所以那如果你想有一个更好的base model我们就要去看现在比如说整个领域它的预训练的瓶颈是在哪里然后我们发现就是因为你其实高质量数据的增长其实很缓慢嘛然后多模态的数据你又没有办法很好的去提升文本本身它那个智商你可以认为就是高质量数据它有点接近是一个常数所以在这里面我们希望的是说我们希望把每一份的数据能够最大化的使用就所谓的这个token efficiency就是你希望说你你同样吃下一样多的数据你能脑子长得更多就是你能得到更多的智能会跟之前有一些思路不太一样就是说比如说你现在假设你在这个训练系统里面做很多的这个性能的优化你让它训练更快这个东西也很有价值但是训练更快本身它并不能提升智能的上限因为你的Token还只有这么多你训练更快你最后只是说我在更短的时间内完成这个训练但它的模型的效果并不一定会变得更好所以这个是所谓的训练效率或者说Computer efficiency上的优化这个可能之前有一些人做那我们现在更多的是希望说去提升它的Token efficiency就是把一份数据当成好几份来用比如说所以我们很关注的像比如说MUON的优化器MUON优化器就是这个东西它很有意思就是它对Toke Efficiency的提升是比较大你可以认为就是说像ADAM这样的优化器可能已经用了10年然后大家一直都在用所有就是大部分的模型都会用ADAM来训练但是它的2K efficiency并不够好并不是把每个元素独立的去考虑比如说一个矩阵的参数它会考虑他们之间的dependency然后通过这种方式你其实是可以更好的有更好的学习效率也就是说你学同样一份数据你能得到更多的智能比如在我们早期的实验如果你是在Compute Optimum的情况下你基本上会有一个两倍的提升也就是说你学一份数据就等于别人学两份数据等于你用ADAM学两份数据所以假设你有30T的高质量的token那你等价就是变成你现在有60T的高质量的token但它还是那么多数据对对对但是它学了之后它的脑子会长得更快为什么对就因为它的学习效率高因为你的优化器更好就是说他会他所谓就是他会吸收的更快就是你都是为一样多的数据但是他就吸收的更好所以你的压缩率会会涨的更快你的Loss会降的更快OK对这个是你原创吗没有优化器没有优化器是Keller提出来的一个东西我们在上面做了很多的优化让他能够在很大规模的这个语言模型去适配和训练比如说我们之前其实有一个Moonlight的工作就是让它能够第一次在有一定规模的语言模型下去训练然后大家后来就是说我们那个在去进一步规模化的过程中我发现有很多新的坑比如说你发现它的Max Logit可能会有这个爆炸的这个问题这个只是在少规模的实验上你是很难得到对但是你在大规模的实验上你可能会遇到这样的问题然后可能我们就提出来一些新的比如说Clipping的方式去解它让它能够在一个非常大规模的情况下仍然能够很好的去训练这个是很重要的就是因为你的Token虽然有限所以你希望每一份Token能产生可能更大的价值对然后包括就是说我们也会对数据做很多的这种rephrase的操作就是因为高质量的数据你比如说你有30T token那是其实里面高质量数据可能更少你可能有几十币或者几百币这样很高这样的数据但你希望它能很好的使用对所以我们就是对这些数据可能做了一些改写的操作让它能够更好的被模型吸收 [30:00] 有更好的泛化对我读了你们这个技术报告你们尝试一个模型改写信用数据深圳新的预料那这个具体的改写过程是什么样的改写策略是什么样的这个其实你没有提如果你同一份数据学很多次它可能泛化不一定那么好对就是它可能会有一些这个会有一些固拟合的问题对然后所以我们希望就是说你通过这个改写让它有一定程度的泛化改写有一定程度泛化对对对所以这个可能是一个主要的思想反正具体改写的方式可能会有非常多种就是我们可能找到一种就是说在实验里面它的效果比较好但是觉得这个空间也很大就是我觉得可以有非常多的研究的机会你怎么看到一种观点就是说改写和库中其实没用我能够写出来知识说明知识本身就在里面没有新知识除非改写的时候用到其他方法这个是一个很好的问题就是可能确实跟你的改写方式也有关系言论上就是看你有没有新的商的输入新的商的输入对对对所以我觉得这个他对改写的方式是有一些要求的但我觉得我们今天也不一定是就是说一定是最好的改写方式就是我觉得这里面还有很多可以去探索的空间回到刚刚讲的点就是我们说这个KKL这个模型我觉得一方面是希望它成为一个好的base model然后我们会很希望去提升它的token efficiency这些是我们可能对应的设计包括就是去加更多的这个通过更大的吸数度去加更多的参数那它的token efficiency也会更高因为你参数多了之后你虽然学一样多的数据但是你也会吸收就是你会吸收得更好因为你有更大的这个对就反正你通过实验你可以验证它确实有更好的Token Efficiency然后所以这个是很重要然后第二个就是我们希望它是一个好的有好的Agentic的能力对强化学习或者说对于这个工具和环境的这个模拟让它能有比较好的泛化性就是我是觉得对于对于一个Agentic模型来讲可能现在最大的挑战其实是在模型的泛化上对就是就是因为现在的RL技术我觉得它的局限性在于说不管你的训练任务还是你的评价指标它很多时候都是单点的比如说你就训SweetBench它提升SweetBench然后我觉得它是一个基本上很确定的东西但是你的指标提升上去之后并不意味着你的模型的泛化会变得更好对然后所以我们也尝试去可能解决一部分这种泛化的问题吧就是我们不希望说他过拟合到某一些工具或者过拟合到某一些环境或者过拟合到某一些具体的任务上对但这些任务可能是很好的观测但是我们不希望去过拟合他而且这个问题可能在Agent的训练里面它更加严重就是相比于可能之前的对话模型它的好像它的这个泛化是一个更大的挑战为什么不在precha里面去选我觉得这个也是接下来我们想探索的东西对就是你有可能会有一些更多的agentic能力是可以在预训链阶段去这可能提高泛化性吗也取决于你的这个取决于你的做法就是取决于这个比如说你的数据的分布是不是足够的广泛以及就是有没有很好的方法去评估就是我认为现在整体的评估还会是一个瓶颈就是它是阻碍你的agent模型变得更加绊化的一个很重要的瓶颈所以你会慢慢观察到就是说你现在其实agent能用的benchmark不是非常多然后你在那些benchmark上如果观察到一个分数它其实很多时候它并不是对这个能力的反应它其实也比较片面这个其实我觉得是可能大家要去想办法解决的一个问题这里面可能有一种前提的伺书就是说我们还是用更AI native的方式去训练AI就是说可能我们希望让模型参与到更多的训练过程里面就是因为这样比如说如果你的AI能够做很好的alignment research能够做很好的对齐研究理论上它可能会有更好的泛化你就不仅仅只是在优化一些单点的任务我觉得这个是A成下一步可能非常重要的一个点就是他今天可能还不像对话一样有这么好的繁华性对这会是接下来可能雪山上的这个几百个台阶有可能是这个接下来K1.5是跟着OpenApp跑然后K2是在抢跑是吗我觉得整体就是说肯定我们还是也是借鉴了很多技术上的这个方向但是在这里面我们也希望能有一些自己的创新比如说至少我们可能是公开的所有能看到的资料里面就是说第一个去使用我们这种非ADAM的或者说基于这种矩阵证交化的方式去做这个新的优化器然后在这么大规模的模型上去训练我觉得这个还是一个创新的地方然后包括可能我们一些agent数据的做法至少在公开可查的资料里面也是比较早去做的 [35:00] 我觉得这个空间会越来越大就是当就很有意思就是说当你越往上爬的时候你发现就是你的空间是在变大首先它token在变多你完成同一个任务的token是在变多的所以它的问题的复杂度是变得更复杂就像刚刚讲的就是问题不可避免但是问题总可以被解决就是说你这个不可避免的问题看起来会比之前可能更多一些所以你的研究空间可能会更大对这是我现在的一些直观的一个感受KR是怎么理想的筹备了多长时间筹备可能比较长时间了这里面很多涉及到很多技术可能我们从去年就开始在研究一个技术就比如说你像Milong Clips这样的技术它需要经过一个比较长的周期你一开始可能就是做一些非常早期的实验然后你发现这个想法好像有一些前例对吧就我们会有一些小的实验能够去验证这个想法的前例到底有多好你有这个想法之后他其实到你最后能够去把它放到一个万一模型里面去训练他只是要经过很长的周期你要通过不同的scaling 实验去验证它的有效性然后像我说的就是可能有一些问题你只有当你scale到一定的规模之后才会发现所以整个东西这个周期其实是比较长当然就如果你看你只看这个模型本身它的它这个训练从开始按下那个训练的按钮到结束那其实时间倒没有那么长但是你整体的研发其实是需要更前置做很多事情才能最后保证你这个训练是一个比较顺利的过程Agentic LL Arm这个的Buds是什么时候开始也要做很多的积累对就是可能像大概只是说你不同时间点的做法可能会不太一样比如说你一开始可能并不一定非常端着端着去做但是可能你积累一些环境和数据但你到后面可以更端着端着去做长话学习那你中间需要很多基建还有很多这个数据的积累的过程但这个东西它肯定很难说你一两个月做的非常好也是需要时间积累的就我整体觉得就是大模型或者相关的这些技术它是挺需要时间积累的还是要做时间朋友就是你要不断积累这个东西然后它是相对我觉得技术的曲线还是有点抖效的并不是说我今天想做就能把它做出来所以什么时候立下呢就首先我们可能去积累这些技术一年前就是一年前开始积累各种技术我觉得对然后但是你说K2这个东西肯定是那就是最近几个月我们决定要去训一个这样的模型然后把哪些技术用上我觉得大概是这样的一个决策但是你不是说我今天想训这个模型OK然后我们再重零去搞很多东西那可能就不是两三个月能解决的问题为什么立这个项我觉得也很正常因为我们就一直训练下一代模型那你其实无非就是决策我下一代模型到底是我到底是要加入哪些技术然后你期待它是一个什么样的模型就跟现在我们也会去考虑我们K2之后下一代模型到底长什么样这个是一个持续要思考的决策的问题然后你可能每次就是看现在你工具箱里面其实又多了很多新的东西那你到底要把哪些东西拿出来用就是有一个这样的过程那你们做研究和做训练的团队是分开的吗就是他们是一个什么样的过程就是因为一年前就已经开始研究这些技术了那到真实训练这是一个团队在做这件事情吗对对其实是一个团队在做对就是因为因为这东西它很难分开就是比如说你在实际训练过程中你会遇到这个问题如果你之前都不了解你没有办法去解决它所以实际上这两个并不会分开黑度过程中有遇到什么挑战没有就是我们遇到就是那个MIRON你去训的时候它就会炸那我们那个都有画一些图在那个paper里面就是说你那个Mathology就会长得非常高然后就是我们认为这个东西对训练的稳定性有影响你可能训久了他很多就所谓的这个内科指标不正常的话其实对模型的上线是有害的对然后我们就是说等于是我又回过头去revisit去重新看这个问题然后去去修复它因为这个东西是你在小规模实验上没有办法预测的因为小规模上我们没法复现这个结果对他就是不会有这个爆炸的问题然后其他的基本还好因为其他的我们都在小规模上做了很多实验然后他基本上也是可以迁移的所以问题就不是很大就唯一有这个是你小规模上验证不了所以你需要在scale过程中再去临续解决那你在KR训练过程中最重要的几个knowhow是什么几个knowhow是写在paper里了就是我们都很open的就是主要的东西写在paper里面因为我们还是想跟更多的跟 [40:00] 去分享我很好奇你会怎么定义agent以及怎么对agent进行分类好问题其实像我刚刚说的它可能是一个从一个刚中之脑变成可以跟世界交互因为所谓agent它其实就是最重要的特征就是它可以去多轮的使用工具我觉得两个一个是多轮一个是工具多轮就是你能做很多次这是一种test time skating的方式然后工具就是其实你是连接这个脑跟外部世界的一个方式比如说你用搜索引擎那你就可以把这个模型跟整个互联网连接起来然后你如果就是你可以写代码那你就可以把这个脑跟这个数字因为这个数字世界基本所有自动化都可以用代码描述那你就可以让它拥有这种自动化的能力所以我觉得这两个是我想象中可能这个agent的特征那接下来就会有越来越多的工具那你会有长尾的一个分布吧就是这个模型如果翻画的好的话他就不只是使用一些常见的工具他可能可以使用非常个性化的工具比如说假设你今天要有一个就是非常具体的问题比如说你想让这个模型能够访问公司内部的一些数据库或者你个人的一些文档然后能够甚至是访问一些这个定制的API让他能完成某些业务的操作比如说去退票啊或者就是去下一个订单啊这种就是他应该是能够泛化到他没有见过的工具上对然后所以我一直在想说我觉得agent现在可能最缺的其实是这种泛化的能力但如果你有更好的泛化的话那其实所谓的比如说之前大家在讨论各种垂直的agent他可能就不一定非常需要就是因为当你这个通用agent他能去泛化到常委的工具上那基本上你很多领域专有的问题但是可以直接用这些工具去解决的你只是每次给他加不同的工具比如就像我说的你加你可能这个定制的数据库定制的API定制的这些文档的接口什么的你就可以完成一个非常垂直的一个agent对他的这个股市性就会长很多然后多轮主要是你可以做test time skating就是你可以做很复杂的任务不只是只是做一次就像对话模型一样我就只是出出来一轮但他现在是可以做不同的事情就跟人一样就是人每天的工作其实就是你可以认为他就是一个多轮使用工具的序列本质上你是希望把人的序列给它拟合进去但你又收集不到这样的数字化数据的话那你就可以用强化学习来构造就是它本质上是在模拟人的行为但它也是一个很通用的它是一个对你也不能说叫模拟人对叫模拟人的行为可能不太准确就是因为它只是一个通用的什么叫它是通用的所以不是模拟人人也很通用对人也是通用人是一个所谓的universal constructor就他主要目的不是去模拟人他主要目的是通用就是说他这个形式化就是这个定义本身他是通用他可以完成几乎所有的任务对所以这个可能才是这个设计的目的就是说他跟人的做法类似这可能只是一个只是一个刚好的结果并不是说设计这个系统的目的就是数据飞机是为了能够当做一个交通工具它并不是为了像鸟样能飞对 所以我们有这个agent的系统它更多的是通用general purpose的一个智能就是你是跟这个目标对齐但它刚好跟人是一样的相似的 刚好跟人是相似的怎么提高通用性要看出到什么方法没有对 我觉得这个是一个很难的问题就是我觉得今天agent的范化有一个风险就是会陷入到可能有一些benchmark的过拟盒里面但是现在有可能缺少很好的benchmark所以我觉得这个会是接下来的挑战但我觉得可能有一些解法就是如果我还是觉得如果能用更多的用AI去训练AI那一定从头上缓解这个问题什么时候能做到用AI训练AI现在的瓶颈是什么现在其实已经有一部分你是可以这样做但是就是你希望他有更多的这样去做对就是也现在很多还是要靠人的设计就是到Innovator那个阶段了所以这很有意思就是说他其实有可能不是线性你要用一些Innovation的方式去解决你的agent问题对因为今天你的agent算化不够所以你要用Innovation的方式解决他就是你要用L4的技术去解决一个L3所以我觉得L1到L5的定义有可能他真的不是线性对就是又回到刚刚说的那个点就是你没有这个很好的innovation没有用AI去训练或者AI对齐AI的方式的话他可能这个agent他就是很难做到特别好的方法比如你今天发现就是你人工定义了一些task然后你就fit那个task但是你在别的你可能看不见的task像他就不可能有可能表现没有那么好然后但是你只fit那些task [45:00] 你就只刷那几个task分其实很多时候用户或者说你在一些更OOD的场景里面他的体感就是没有那么好我是觉得现在这个领域其实面临就是可能这个benchmark不够用或者benchmark失效然后agent的犯化有问题这样的一个阶段为什么数学代码是相对容易犯化的领域其实也没有就是你如果做强化学习但现在我觉得会有一样的问题就是对于这些任务然后当然就是说强化学习本身它的泛化性要比比如做SFT要好就是因为你在这过程中有更多的on policy的sample就是你从模型本身去sample它学出来的东西sample现在看起来是更好泛化而且你有负梯度就这两个东西会导致从赤小冬证据上来看它的泛化会好但是它的泛化还是有限度的就比如说你今天假设在某一种类型的数学竞赛上做到99分那你别的数学问题可能会提升五个点但是他很难直接也做到99分就是你如果不做对应的RLO的任务进去的话他就很难直接做到这样的一个分化性我是觉得也仍然有一样的问题就是你说做数学题他也仍然有一样的问题就是他是被分布所制约的一个东西就是说你还是种瓜德瓜种豆得豆但是我们希望就是现在就是我觉得整体的RL或者Post Training还是需要有更多的AI来让他能够摆脱这种种瓜德瓜这样的一个情况会不会摆脱不了会不会就是提高不了防患性就是还是回到刚才说的嘛就是问题是不可避免那问题是可以被解决所以就是你每次会往前推进你犯话就是会变得更好它可能是一个它不一定有尽头对就是你只会有更好的犯话所以对于Asian来说任务环境非常重要怎么定好的任务怎么定好的环境你在探索过程中有没有什么思考就回到刚才讲就是说就是你一种方式就是说我给定一个模型然后我就设计一些环境去逆向去拟合这个模型然后那你可以就是现在你可能正向的设计假设你是一方的做你就正向的设计一些工具环境然后让模型在这个环境里面去提升可能很重要的还是说让这个设计有更好的通用性就他能做很多的任务就是他不应该是说为了某一些任务去专门的设计这个工具环境然后当你的这个设计足够通用的时候然后你有模型去在这个过程中去学而不是可能反过来去拟合这个模型我觉得这样可能会是一个更好的做法我注意到一点就是一般他们觉得在任务设计上你设计一个足够有挑战的任务这样这个任务可能会做出有本质的新的方法但是你们的这个K2其实是用的一些中的难度人物这是有什么思考吗这个会带人通用性吗会就是他那他也是一个爬山的过程就是你不能一上来就让他去证明一个就是还没有人证明过的数学问题然后他可能这个sample efficiency就会非常非常低所以现在感觉比较好的方式就是说其实强化学习如果你搭配好的sample策略它本身上是一个影视的课程学习的机制希望他就所谓curriculum learning就是你希望他从合适难度开始学然后学完逐渐去提升他的难度而不是你一上来就学非常难因为那样的你的采样效率很低就基本上学不到什么东西可能算力都会被浪费掉对但这个挑战还是说今天的很多任务我觉得它还是来自于比如说人类存量的数据或者说人去设计的一些任务而不是就这里面可能AI native的部分还比较少所以会带来刚刚说的繁华性的问题Coding Agent和Tone Agent是什么关系Coding可能是一个比较垂直的就或者说它是一个子级然后你只要把两个工具用得足够好你就能做大部分的事情最后还是希望说能够不光只是做Coding包括现在我们去训练这个模型我们也不是说让它只能做Coding因为它的局限还是会有一点局限性Coding是相当于一个环境相当于人类的熟对它是任务的一个子集对但它可能是很重要的一个子集这个相对对于agent来说比较容易的任务是吗比较好验证所以比较好学习对但是它还是会有一样挑战就比如说我刚刚讲的这个繁华性的问题它还是会我觉得即便是Coding Agent它也会面临一样的挑战然后Coding是很重要的一个子集是在于说就是它代表了可能数字世界的自动化你今天假设或者你想创建一个新的工具因为现在很多agent他的工具集合是一个固定的对然后如果你想创建一个新的工具他本质上是写一段写一段或者一大段代码来实现或者如果你今天想做更好的比如说上下文管理或者所谓context engineering这东西 [50:00] 背后对应的也是一个工具这个工具可能也用代码来实现就是代码在这里面它有一个独特的位置独特的作用但是并不是说你做了Coding Agent就足够因为很多比如今天大家用有很多不是程序员的人他会用Clock Code去做很多他的任务你是一个律师或者你是一个产品经理或者你是一个设计师你也会用Clock Code去做一些事情是因为你的模型是一定程度上有一些泛化它不仅只是会写代码所以你们是要做通用agent模型并不是说要做一个coding的模型我们还是希望能就是做通用的模型从写代码到操控整个数字之间你觉得agent还缺乏什么能力一是我觉得首先现在这些高频的工具使用也还不够好能力上还有很大的空间然后这一方面也是说现在缺少一些更好的benchmark来观测就是你可能Sweetbench现在也可能马上会有saturate就会饱和然后有很多bench它不够好不够真实的反应就是实际的用户体验然后所以我觉得高频高频工具本身会有空间然后长尾的工具就是在一些可能你没有见过完全OD的怎么有更好的方法我觉得高频工具本身会有空间,然后长尾的工具,就是在一些可能你没有见过完全OFD的,怎么有更好的方法,我觉得也是可能很重要需要解决的问题。你自己最看中能提升agent能力,这是哪几个关键能力?长期来看让它的能力提升。像我们刚刚说的,就是可能希望能用innovation这层的一些技术,去提升agent这层的能力。所以希望我觉得这个可能是很重要的一个方向Long ContextLong Temporary重要吗Long Context也很重要就是因为现在就是有很多任务你128K256K这种Context完全是解决不了你需要可能比如百万级别这样或者甚至更多但是你又需要在这个级别下你的脑子还非常好用就是它不能只是说长但是你可能脑子还得非常好用就是你的你的资深还得非常高对所以这个对于模型的训练是挑战是很大的就是你要让他希望你的压缩率足够高所以你的模型可能要足够大嗯然后同时你又希望他也比较长所以就是这两个东西他是天然会存在一些冲突那你需要可能需要更好的架构但是有一些架构可能你发现就是他在更长的context下可能效果会有提升但是你短的context有可能又不一定会有提升或者甚至会有下降所以就会有很多这种可能架构上的一些平衡的问题对但这些问题可能也会接下来逐渐被解决我觉得它是有一些解法对所以这个也很重要这个可能是一个capture上的一个支持还有就是我觉得现在的RL训练方式肯定也会有很大的提升空间比如说当你要训练一个很复杂的multi agent的系统的时候那你只用端到端的reward可能就不太够但中间的reward怎么产生是不是能摆脱一些人工的设计我觉得也会是很有意思的挑战我有一个就是我回看我们去年对话我有一个问题非常想问你就是你去年说开源会落后于碧源因为开源的方式跟以前不一样以前所有人都可以贡献到开源因为开源本身是中心化的开源的贡献很多没有经过算力验诊那必源会有人才聚集和自分秘聚是一个对市场整合所以领先者不会太远了只有落后者才会这么做但是你今天太远了对因为我们还不是绝对我们还没有做到非常就是完全的领先有一些判断上其实基本上是这样就是说你确实你的模型出来之后就是这个社区他能贡献一些东西比如说你在推理测可以做很多事情你可以让这个模型有更多人免费给你serve让它有更多人去用但是确实你要贡献到模型本身的把这个模型本身变得更好好像还只能是你原厂自己来做当然就是说现在如果是放在这个你如果看Base Model是这样但是就是说你如果基于这个开模型去做很多Poge Training特别是Agentic的Post Trending的话有可能会有会产生出来一些新的机会就比如说假设你现在想非常想去做一个就是比如说法律相关的这个Agent然后你是一个比如说你是个创业公司想去做这个事情那你完全可以GKR然后在你的定制你的这个工具集合下面你可以寻出来一个Specialized的Agent然后他在你关注的场景下表现得非常好我觉得存在这样的机会但它更多的是可能去赋能这个就是更多的可能下午的应用就是你可能很难说把这些东西再变成说你的主模型这个base model的提升这个可能还是目前还是很难我觉得大概是这样吧我觉得这个问题可能可以动态的观察就是说开闭源之间的关系你们会长期选择开闭吗我觉得这个是一个我们希望长期去做的事情但我们不一定是说只做 [55:00] 我们会希望能够去跟社区去分享你像你刚刚说的技术的know how对吧然后我觉得这个是可以去加速就是我们我们往把技术再往下去提升的一个很重要的一个点就是大家可以不完全就是竞争就是你可以有一些合作或者甚至就是说你所有开源的公司它会形成一个生态就是说你能更好把这个技术往下去推进就你这雪山可以爬得更好然后reach to the top也不一定所有东西都是开源比如说假设我们现在跟某些公司有一些合作就是它不一定是说你所有东西都要开出来但是我们可能会希望能持续的去开放一些好的技术所以这是一个技术体系的信仰还是说是一个市场博弈的策略我觉得客观的说是都有就是而且可能都有好处但最终我们是希望说能通过这个东西让这个技术可能更安全更快的达到一个更好的水平开遍原的生态会怎么演进你觉得最终开源和遍原全球会剩下几家我觉得不会很多就是或者说整体来说但几家肯定还是会有的我觉得整体来说其实你如果去看过去两年我觉得这个趋势还是比较明确就是你还是这个市场会逐渐的更集中更聚焦对更收敛你可能一开始有几百个到几十个到几个我觉得几个可能是最终一个比较稳定的数我觉得现在看起来是一个大概率的事情你们属于开源那一边的还是必源这一边的像我刚刚说我们可能会持续的去开但是并不是所有东西一定都会完全的开我觉得选择新的是一个这个很多可能我们要动态的去观察对但是我们肯定是希望能够长期去分享更多的技术为什么中国公司都开源了也不是都自己也就没开对我觉得客观的说还是就像我刚刚讲就是说你可能有市场博弈的因素我觉得这个对社区来说是一个好事就是说然后你开源的可以互相借鉴那你可以去加速做到收塔我觉得它是一个很好的方式去年你提到一个很多的词是有概率的非公式你今天有概率的非公式是什么好问题我觉得就是可能像我刚刚讲的就是几个接待比较重要的技术的点比如说怎么去提升Asia的繁化我还是觉得可能是一个非常重要的问题然后这里面可能我们希望看能否在技术上有一些新的东西然后包括我们去做优化器这东西我觉得在我们做出来之前但我现在不知道是不是至少在我们做出来之前因为没有人在做这个东西所以它是一个它也是做成了一个非公司就是因为之前所有人都会使用ADAM所以我觉得这个也算是一个比较重要的因为它对Token Fusion 实际提升确实很大所以使得我们现在可以有一个比较好的Base Model那这个Base Model我们后面就可以有更多的Post Training去把它所有的上线所有的性能去压榨出来我觉得这些其实都是你怎么看AI时代的产品支持你因为做KINI做了很长时间你觉得做比如说做AI谁的产品跟做移动互联网产品会不一样吗我只能说说AI的产品因为移动互联网没有做过但是就是以前就很喜欢说模型级产品对对对我觉得这个现在还是没有变化还是没有变化就是比如你在假设你现在做一个agent产品你在做的时候其实需要把模型跟工具和这个context去结合起来然后但是你发现就是在训练模型的时候你基本上已经要把这套全部搭好你才有办法训练这个模型对吧所以当你模型训完之后你的产品已经做完了就是你在上面做一些可能交互的东西我觉得也肯定也有很大的价值但是可能他是最后的这锦上添花的这一步就是你的模型的性能他已经在这个过程中然后打磨好了然后跟这些工具和环境已经有非常好的适配所以它是它是在训练之中完成的就是你训练好了之后你的产品就基本上已经做差不多因为你去年说现在的开的方式也没说你要做一个巨大的系统就像比如说21世纪初Google做的信息柬索系统那你今天对于AI时代这个巨大的系统你有没有什么想象有更多的想象吗就像比如说以前的搜索引擎系统和以前的推荐引擎系统但它都是适配于不同的时代的我觉得现在的系统复杂性在于你想就想让这个模型变得通用就是通用它会带来很多的复杂性但你一方面可以认为它是变简单的你一方面也可以认为它变复杂就简单在于说你只要把所有东西都放在同一个模型里就你不需要维护那么多模型你不需要搞一堆的这个routing的策略对吧就是它从概念上来讲或者说有一些工程实现上来讲它是变简单的但是另外一方面就是它也会变得复杂就是你反正你如果希望它很通用那你就希望说这个模型在各种场景下它都可以工作比如说你做agent的模型你不你不希望它只在你的工具极下能工作你希望说别人用 [60:00] 这个模型它在别的工具及甚至你没有见过的工具或者说工具不同的定义不同的实现方式它都能工作这个其实就是要求是很高然后你可能比如agent里面它现在可能会有几种不同类型的任务你不管是coding的agentsearch agent还是可能一些其他的agent就是你要把它放在同一个通用模型里面那他就可能会有这个会有一些打架的问题就是你可能也许你的工具定义不一样或者你的数据的pattern不一样就是你把它做成一个通用模型的过程它其实是有很多的技术挑战但是如果你不做成通用的模型它的翻话性又没有那么好你只能做一件事情而且特别是现在就是因为你agent它是需要很多步的完成任务即便程序员它也不仅只是写代码对吧然后或者说写代码里面它也不仅只是做SuiteBench所以你当然就是你要做很通用的东西或者说真正可用的东西随着你的步数变多它对于通用性的要求是会更高我是觉得它的系统复杂性主要是体现在说你在训练这个模型的过程中需要让它是足够通用的而不是说去拟合到某一些单点的能力上对你拟合到单点的能力上你可能会你可能会benchmark分数看起来很好但是你实际上就是你的通用性可能是不够对就是我觉得这个是现在这个系统我自己能观察到比较大挑战还有包括有个例子就是说比如你想往这个模型里面加多么态的能力那你就需要让这个多谋态能力不要去损伤他的脑子而且你希望就是在多谋态的模式下只是能够不损伤是吗对对就是你能不损伤已经很好了你希望在多谋态的模式下跟你这个文本模式下你希望他能共用一个脑子就是他能在多谋态的模式下也能把他文本的那个智商给激发出来而不是他就进入另外一部分的参数那他可能就是完全丢掉了原来他文本里面学习的部分所以就是你做一个通用的模型他就会面临这样的挑战就是当你有各种模态各种任务类型各种还有agent reasoning chat这些东西他要全部合到一起我觉得是存在这样的一个挑战然后而且你现在不光是SFT你要做RLRL的时候你就可能这个挑战就会进一步的加重就是这个是相比就是说你只做就就是通用的Pretraining是相对比较好做的就是你只要把所有的文本就是放在一起它基本上不会有太多的问题但是你越到PostTrain后期越到RL它的这个问题会更加严重我觉得这是它的系统复杂性你看搜索引擎系统其实是构建在PC回应网之上的然后推荐引擎系统是构建在手机上就是移动回应网上你觉得新的节点在哪里这个时代AI时代有超级节点在哪里对他肯定会跑在很多数据中心里所谓的Jensen经常说的这个AI factory但肯定还会有很多终端我觉得终端可能还是有些可以服用现在的有一些可能会有新的可能会带生新的交互办事肯定会Chat是一种就是你如果两年前看Chat是一种新的交互方式因为之前可能没有说人跟机器这种对话但现在可能Asian他其实也有很多新的交互方式比如你让他一步只是一个任务然后你又可以看中间的结果它其实也是一种交互方式但可能接下来还会有更多比如说当你有一个multi-agent system那它的交互方式会怎么样就可能你会随着能力的边界去变化对然后比如说你看coding这个东西coding一开始你有copilot然后copilot之后有cursorcursor之后有Clock Code但你其实每一代交互都会发生变化然后你发现这个交互它其实是随着模型的变化而变化基本上就当你有新的一代模型然后它能力提升了很多你就发现你的交互可以改了就你不再需要说我单个的人去点我要不要accept一个修改而是说我可以去多步的去执行一个agentic coding的任务所以你的交互会翻变然后当然今天可能CrowCode的交互它也不是终极形态就是因为你的模型还会提升提升之后它的交互就会持续变化我觉得是一个这样的过程今天Scanning Law你觉得还没有方法Scanning Law对Scanning Law就是有数据墙我觉得这个肯定是一个客观的事实然后就是说那你突破这个数据墙你就是要提高Token Efficiency就像我刚刚说的为什么我们会去做提高Token Efficiency的事情就是因为你肯定数据墙是存在的然后同时你要scale更多的computer到这个RL上各种各样的RL的任务上但 somehow我们现在观察就是其实模型变好的速度并没有在减少我觉得甚至是在加速为什么AI产品都还没有形成数据飞轮就是因为基于算力的scaling [65:00] 太强大了其实算力的scaling太强大了就是我觉得这是一方面就是说你比如说你先scale pre-training然后你又scale rr 的scaling它的效率又比 pre-training要高很多因为它是on policy带伏提度的训练所以它的scaling的效果其实效率是更高的所以当你有很高的scaling效率的时候就是你发现你直接scale这个computescale这个flops它带来的提升是非常非常大所以你会显得其他带来提升很小这个是一方面另一方面就是说所谓的数据飞轮它是很依赖于外界环境的feedback然后这个feedback我们不希望它有太多的噪声但现在可能上号就是还没有完全说这个问题做得非常好就是因为你噪声就大模型的学习它对噪声是比较敏感它跟可能传统的比如说推荐系统有点不太一样它是噪声很敏感的现在看起来还是就是说基于这个flops的scaling是更有效当然说这个平衡什么时候会产生变化也有可能就是说你通过新的交互去让你收集到的信号的噪声能够去减少对对但是这需要就是创造一种新的交互对对对但是你这个交互要适配模型能力的发展你的交互不能超越模型能力你应该在当学模型能力的这个范围内去设计一个好的交互但是我觉得这个是值得尝试只是说今天可能我看来会觉得说可能你去scale那个flops那个维度或者说提升它的学习效率它还是更确定性更高而且看起来更有效的一个方法如果说像比如说严谨姐说用户数据无法提供模式的智能那好像今天就没有必要做2C产品了我们就一门心思提升智能就好了这个东西要看怎么看就是你可能还是要有一定量就是你得大概知道说这个我觉得这样就说你可能没有办法直接去使用一些比如说用户的反馈直接拿去训练但是你有一定的用户量的好处是在于说你知道整体的这个比如说需求的分布是什么样你大概知道就是说有哪些可能是用户用的好哪些用的不好然后你再把这个东西抽象成可能一些比如说evaluation然后去优化这个模型如果你这个模型完全没有人用那你可能都不知道往哪里去优化另外就是说也要看你这个用户的商业价值对就是因为我觉得现在其实又到了一个新的分水岭就是说你的用户其实是有可能能产生商业价值比如说你就看OpAi它其他用户其实产生的商业价值是很大可能占了它的这个应收的比较大的比例对然后特别是现在你可能有很多agent的产品它能端上端上产生很多价值所以你用户可能现在所以也要看你是什么用户如果普通的去闲聊问一下天气他可能不一定说有那么大商业价值但如果你是很多agent的这个专业的用户那他可能是已经本身就是一个很好的生产力的价值可能这个事情他又不完全一样了你的产品有什么新的想法没有我觉得更多还是想模型怎么做因为我觉得像我刚刚讲的就是模型训好了这个产品他就已经基本上做的差不多了模型及产品我觉得他今天还是成立的今天还是成立的我们还是会沿着这个方式一直在做有人会说Kini是要从当然你不认可你们是中国要做中国的OpenAI以前但是他们会这么看你们是要做中国的OpenAI是不是要变成想做中国的Authropics是有这样的一个转换吗我觉得很难这样定义吧就是因为中美他不太一样而且今天我们更多的还是得站在全球的视角去思考这个问题我觉得做中国的什么什么可能本身它不一定非常成立我觉得还是其实简单一点就是说我们希望还是继续爬山我觉得就是爬山做时间的朋友然后跟community一起说去加速技术的推进我觉得这是我们想做的事情那我们聊聊商业模式你怎么思考的API是好生意吗我觉得现在就是明确商业模式一个对一个API一个是说可能一方产品觉得这两个可能我们也都会去做一些尝试当然我觉得今天可能最主要一层级还是继续把模型做得更好我觉得这个还是可能首要目标但是你在把这个模型做得更好的过程中对比如说你在某些方面领先了那它其实确实是有这个会有这个商业化的空间因为我觉得今天整体的市场规模其实涨得很快就是可能头部的公司有几十亿三百亿美元的这个AR而且是在快速增长可能每一个每一两个季度 [70:00] 能翻个两三倍这样的情况我觉得这个肯定我们是会动态去观察然后可能做一些尝试吧对但是可能最主要还是说得比如说你你如果模型真的能做到比如OPUS的水平然后会甚至甚至做得更好那这个空间肯定会更大所以我们会花更多时间去把效果做得更好有你们用户说他们很喜欢KIMI但是很担心KIMI不赚不到钱嗯怎么办你们能赚到钱吗对就是你还是先投资然后我觉得能不能赚到钱取决于你的模型效果就是怎么样我现在觉得就因为我觉得市场它是一个其实已经一定程度上被验证的市场然后也在快速增长像我刚刚说的所以我觉得还是专注把技术做得更好然后这些东西我觉得其实可能确定性反而是更高的开火了你心情有什么变化吗也没有就是还好就是说我觉得这个还是一个漫长的旅程就是你是反正要持续做下一代的模型反而还是回到刚刚那个刻在石头上两句话就是说你会产生新的问题然后就去解决它然后这个是这个是可能是最有意思的部分这个旅程就是创业旅程有什么意料之外的完全意料之外的我觉得还好就是说基本上所有的困难什么这些我们也有预料到只是说具体是什么困难的我觉得最有意思的点是你永远不知道会产生什么新的技术问题然后这些新的技术问题会怎么样被解决我觉得这个是最有意思的部分就是这个是你基本上很难预测如果能预测它就不是那么创新对但我觉得这个是最有意思的就是你会永远遇到新的问题你现在生活是什么样子的生活节奏现在就是可能睡的比较晚了不太一样的就是可能每天不一样但是反正然后但也还好就是花很多时间去看怎么把模型训练更好所以你的时间主要投入在模型训练上我觉得是吧对就是但模型训练是个很抽象的概念就是说我觉得我觉得里面很重要的一个是就是你的技术一些技术的战略就是我觉得这个是可能公司战略里面最重要的一部分就是你的技术战略就是你现在下一步到底是哪些要做哪些不要做因为这个技术空间很大那你总是要选一些东西去重点去做去年选择的是什么比如说我觉得我们在很多东西上的bet还是有效而且比较早的比如说像去做Long COT的我们是反应比较快然后去做没有优化器然后去做更大规模的betraining然后去比如去做这个做一个可能第一个open的agentic的模型我觉得这些可能都是一些技术的bet然后或者技术的决策我觉得这个东西基本上会至少决定五六成的公司的走向但你要做很好的决策还是需要很多证据支撑就是我们还得做很多实验所以你得了解很多具体的实验的结果就是到底这个东西是什么样那个怎么样跟接下来可能会怎么样发展这个东西它你不能拍脑袋就是还是得知道更多的信息我觉得这也是花很多时间然后第二个就是说可能具体的技术上这些角色里面最纠结的是哪个花时间最长思考我觉得最重要就是说你接下来要做什么不做什么对就是刚才说的那些角色里面其中哪一个是花时间最长时间思考的也还好因为我觉得这个东西它关键是一个收集数据的过程就是你做实验然后看这个实验是不是扎实然后通过这个东西结合就是你对这个一定的技术理解然后去判断就是很多时候其实你只要数据足够充分它的这个判断也是比较显然的接下来我们也在想也在做一些实验还是有很多东西可以做我觉得至少说现在K2的它的性能潜力其实还没有被完全压榨出来因为我们之前放的我觉得更接近是一个更接近是一个base model这样的东西我觉得接下来我们可以加更多的post training的flops就是我觉得它的上限应该会比现在还会高很多肯定就是我们还会去做下一代的模型下一代的模型就是我觉得应该可以有再更多的提升就是背起模型对然后但这些具体怎么做我们现在就是也会就是通过一些实验来决策也会加多么泰吧对多么泰肯定是比较确定你刚刚一直说多么泰其实只要不干扰症呢就已经很好了是吧对对但本身多么泰但你多么泰能力也要做好多么泰的能力本身要做好也不容易对就是里面有很多的工作然后你怎么让他能够去借鉴这个文本的脑子而不是自己单开一个脑子就是比如说你MOE里面你experts假设你有20个experts他专门在做多么态你可能不希望这种情况出现这样的话你可能你可能说出来多么态是个傻的多么态对我们希望他是个聪明的多么态 [75:00] 下面有什么重要的里程碑在基础上里程碑泛滑性 maybe是一个对我觉得是我觉得agent泛滑性可能是最重要的我觉得今天是一个没有完全被解决的问题你们解决了一部分了没有解决了一些对对什么knowhowknowhow我们写在paper里了对对对你可以去尽可能构造更多的多样的数据我觉得也不只是这个我觉得还是尽量可能避免说你通过强化学习的方式但是你就只拟合到了几个任务上因为就是还像我说的就是因为benchmark现在比较局限所以你优化benchmark它就会导致说你的你的Io任务就会就会可能坍缩到几个单点上但这个其实是我们不希望就你翻在你没有观测的东西上它可能就掉了非常多这个我们现在也在可能希望想更多的办法去解决我觉得这个会很重要然后像刚刚说的这个long context的支持我觉得肯定我们也会继续看怎么做就是在在他智商很高的情况下还能有更长的context我觉得这个会是一个很重要的问题就现在很多long context的架构它还是会影响你的智商但我们不希望它影响智商就是希望你什么Long Context架构会影响智商比如说你如果做Linear Attention你纯粹的Linear Attention你可能它就是会影响智商因为这个架构会有一些Bias这个Bias可能在一些场景下效果没有那么好但这个是一定程度上也可以被解决的问题模型公司和做Agent产品的公司长期来看他们的关系和边界是在哪里这个问题我也没有明确的答案就只能说今天看起来就是一方的产品有个好处就是它可以做垂直的整合因为我可以把模型放在这里面训练所以我的模型跟工具它是融为一体它不是说分开来做然后再去逆向工程但是因为有非常多的agent的空间就是我感觉一方产品不一定做得过来对吧就是所以有可能是如果能找到一些空间比如说你这个工具的实现它是需要非常多的领域的know how或者说你的evaluation是可能一方产品根本不会考虑的东西考虑不过来的东西那我觉得是有机会我觉得有像K2这样的开源的模型然后你就说大家可以在上面去微调那你更容易产生出来就是也有一些可能这种specialized agent垂直 agent的可能性我觉得这个可能性还是还是一定程度上可能会存在那要看你通用模型能通用到多的程度了对但是你不管多通用就是说你总还是有一些工具你要做所以你有可能你也不一定是要去做那模型而是说你把这个工具做得非常好然后但这个工具你如果是做得太通用你可能就会就是跟一方的这个产品会overlap到即会比较大对那这个就是可能你还是做垂直整合优势更大但是如果你这个工具是一个我就是专门针对一个东西去做然后甚至我这个工具是别人做不了的比如说我今天如果掌握了一些线下服务的入口那我这个工具就是我这个下订单或者成交这个工具是别人根本做不出来的那你也有可能是能产生一些独特的价值当然我觉得也存在另外一种可能性就是说当你这个一方产品或者说你这个通用的agent它的流量或者商业模式足够成熟之后你很多这种专有的本来垄断的工具它也会愿意去接入进来因为它的整体的商业化效率会更高对但商业化效率的提升我觉得是需要一些时间的对所以那在这个时间窗口内你可能其实专有的agent也会有空间对但我觉得最终就是通用的通用就是他为什么通用能工作是因为他整体的商业化效率会更高所以今天甚至包括我觉得很多内容平台你最终有可能你把内容接到这个通用agent里面你的商业化效率是会比今天更高这个是有可能但他可能要花很长时间像minus这种公司或是你的客户还是你的经营对手在生态上来说我觉得还很早期就是你很难判断它到底有怎么样而且就是可能这个产品本身也会演进对所以我觉得短期内它可能更多的会是这种合作的关系是可能是大于竞争的但是未来它确实会演进所以像比如说就有点像Cloud和Cursor的关系那Cursor它可能要动态的变化它可能也得在产品策略上有些动态的调整他可能就需要去一方面是说能不能有一些模型的能力我的技术研发的曲线还是很陡峭的另一方面就是说他能不能有一些就是比如别人做不到的工具或者环境这个我觉得都是一些现在没有办法直接回答的问题但只能说现在看起来就我觉得一方的整合优势是应该 [80:00] 是存在的你形容K2是哪个山峰K2本来就是一个可能是世界上最难判断的山峰刚好这个名字有点重合这是你故意选的这个名字吗对 但刚好也是刚好也是K2但我们也希望说首先它不是终点因为它不是最高的山峰它可能是最难的因为我觉得就是说你可能因为现在有很多范式的转变你可能从对话到这个agent然后可能你的best model的scale也进一步变大就是它本身它肯定存在难度那就是所以就刚好反正跟这个好像有点关联这结果超出你预期呢差不多吧反正就因为基本上你这个模型训的怎么样其实在过程中就已经知道了就是它并不会说好像有一些惊喜或者惊讶会用到你的aha moment吗也还好因为很多东西它是可以被预测因为我觉得更重要的是预测的能力因为你虚拟式模型一是需要周期二是需要有成本所以我们希望在早期尽可能多的就是把所有能预测都预测到唯一的没有预测到的就是刚刚说的MaxLogic的问题但那个确实没办法就是因为你小规模它是预测不了其他的我觉得都是我们希望尽可能本来预测好所以你说的东西都是在都是验证清楚的情况下然后在scale那你其实scale的成功率是比较高的你怎么看张向宇说那个next token prediction的本质缺陷你觉得到这个吗我不太理论他的意思是说随着模型规模扩大对话能力知识量和情商都在变强但是推理能力尤其数据的表现是肩上身后平缓然后再扩大反而下降所以他觉得就是用更大的模型比如说做数学问题倾向于跳步不老实他觉得这个是Nestoken Prediction的本质缺陷对但是你可以对所以要搭配可能强化学习的skating我觉得就是确实如果你今天不做强化学习他的这个模型他很难说很聪明或者像数学题这种他不一定做的非常好就是但确实我觉得更大的base他的强化学习的上限还是会更高对对就是因为因为他的知识更多就是本质上是说去激活一个推理的办事让他能把那个知识解锁出来然后把那个对就是他上限会更高但是你要搭配一个RL去激活世界模型怎么看一种说法说做世界模型是造世界做agent是造人所以最后像我刚刚说的用AI训练AI有点这个意思就是你有一个很好的世界模型你就模拟这些东西它就是用AI训练AI的方式它的泛化就有很多就是我觉得这个有可能是去通往更好的泛化的一种可能性你的一个投资人说第一次见你的时候你就开始讲GPT10可能长什么样你现在觉得GPT10长什么样还会有GPT10吗我当时说了什么就是他对你印象很深的原因就是因为你第一次见他你就开始说你说的不是GPT4GP5长什么样子你说的是GPT10长成我不知道他你说的什么OK所以他对你印象深OKOK对我觉得但是我觉得我们今天其实已经好像实现了之前预想了很多东西比如说比如说你真的能完成几个小时的这种任务嗯觉得这个这个发展还是很快的对然后但我觉得整体就是你就是逐渐见更多的就是逐渐见更多的evaluation然后然后去突破这个繁化的过程吧其实我我倒是觉得这个好像相对来说还是比较明确的建议valuation上面你们有获得什么认知没有我们也在探索就是你刚刚说的世界模型你可以认为它是这里面的一部分对但是怎么实现我觉得现在还还需要更多的实验对过去年对组织有新的想法没有新的思考没有好问题我觉得现在就是最近在想一个事情就是说有有几个东西它好像有点联系在一起就是如果你看我们去做科研或者说创造新知识的过程它很像一个强化学习的过程就是说有一种理论是说叫经验主义说能得到新的知识是从经验来的然后后来当然有很多观点就是认为不是这样就是其实人类在这个地球上已经存在非常非常多年但是可能你三四百年之前没有任何人说其实地球是个球就是一直在这个经验里但是你并不知道事实是什么样所以经验并不能直接给你这个知识而是你提出了这个猜想就是说你观察到一些东西但你提出猜想说我认为这个球可能 [85:00] 然后我想各种办法去验证它包括现在训练这个神经网络你可能观察到你几十万个内科指标你观察到有些内科指标可能不太对那你直接观测你并不能给你新的支持你只是说我提出来一个猜想它为什么会这样然后我再设计一些实验去验证它所以这个是现在可能我们觉得比较好的当然就是可能所有好的科研的方式都是这样但这几个东西好像三方式相通的就是说因为你发现就是你好像管理一个团队他也是这样的方法就是你是要用IL的方式去管理对但这个是Tim天天跟我讲的就是说你觉得要用这个IL的方式去管理而不是用SFT对当然现在你发现好的技术你做IL的时候你其实也希望加一部分SFT因为SFT是很好的鲜艳就是所谓的PTX loss然后你不希望这个模型可能飞太远对但是你又要管住自己的手就是说你不能SFT太多SFT太多你的这些同学他就会失去主观能动性然后就没有办法创新了这个点我现在反正我也在做一些实践好像看起来有一果然后但是核心是掌握SFT和RL的平衡SFT就是你是直接给他就是说这个东西应该这样这样这样做RL就是说你给他一个从上而下RL就是给他一个奖励就是说如果做成这样那他可能是好的那可能更多时候他是反映在目标上然后就我觉得这两个东西他可能需要一些平衡然后可能比如说以RL为主对就是然后通过一部分的SFT去防止它就是非太远你还是要有一些鲜艳去控制或者防止它遗忘掉一些东西我觉得这些好像某种程度都是连接在一起就是Rio好像是一个很本质的东西就是好像你的组织在做创新那本质上也是一个Rio但这个其实就是说你在Rio过程中你定这个奖励或者定这个指标它并不是非常简单的一个事情就比如说如果你只是最后说我就是要把所有的benchmark做得很高那你可能就会出现很多overfitting的问题对吧就是因为你所有人都会不择手段的把那个分子给弄上去但是弄完之后你发现这个模型好像还并没有变好就是有可能会出现这样的问题所以这个奖励的定义就很重要对或者说这个奖励的定义也需要你很了解这个具体的细节是怎么运作的不然的话就它就会出现reward hacking什么定义reward的这个是一个很重要的课题有什么想法呗就还是你建立更多观测指标然后尽可能不要去过你对所以就是就是我觉得是一定程度有效就这样你才有更好的方法然后不会被不会被hack对就是用RL管理团队的方式最大问题就是你容易被hack就是你hack的那个reward然后大家看起来都各种那个好像结果都很好但是实际上并没有达到你最终的想要的就这个是它的风险然后你用SFT管理团队的风险就是大家失去创造力对所以最后你是这几个东西它一定程度的这个balance但这个我也在学习我觉得今天肯定不是说做到很完美的情况但是可能也要逐渐去学习和理解这个事情你过去你有很低落的时刻吗我觉得还好就是更多就有些东西会work有些东西不work会有解决一些问题会有新的问题产生像刚刚说的所以我觉得就是不断在这个过程中我觉得只要你觉得这个东西是有意思的你就一直想去做下去你对CEO这个生股有没有新的理解我现在最新的理解就是怎么去把握这个IRL和SFT还有WebHacking之间的平衡就是对我觉得这个可能很重要其实过去年听你也是拨风拨股来回震荡你在这个其中你的心态是什么样的你需要平衡自己的心态吗心态就是反正做时间的朋友真实人的心态不会这么简单的我觉得就是你会有高点和低点像你刚刚说的对吧然后我觉得可能很重要的是还是说你就喜欢做这个事情然后想把它做好所以你也不用想别的东西你就想怎么把它做好所以好像也比较简单我觉得没有什么特别复杂就是很多很多复杂性都是人为强行加上去的实际上并没有那么复杂那你对人性有多的理解我觉得这个东西也还是需要时间的打磨吧我觉得就是我觉得不敢说你有那么深入就你只能说是在自己的这个故事里面你不断的感受说自己到底是什么样的一个人然后你希望你为什么要做这个事情对吧然后我觉得可能是不断去思考这些问题你是一个什么样的人你为什么要做这样的事情就是觉得有意思 [90:00] 这就是所以对就是我当然就是是什么有意思呢是做实验有意思做科研有意思就是去做AI有意思寻找这个真相过程去不断发现新的问题解决它的这个过程那你也可以解决别的问题为什么解决这个问题呢对对对就是因为这个问题它很重要就或者说哪个问题很重要就是我觉得AI很重要就是因为这个问题我也问过Kimi他跟我说这个东西是他说这个东西是人类文明的放大器我觉得很有道理就是又回到那个the beginning of infinity就是你从启蒙运动到现在人类一直在找到新的方法去突破这个知识的边界但是可能下一个突破边界的确实就是你得靠AI因为它是一个巨大的杠杆然后比如你今天在任何一个前学科你要花几十年的时间二三十年的时间你才能学到最前沿的知识但是AI可能一夜之间他就能学会然后那你就往下去做新的突破就他会成为一个metascience我觉得这个是这是很重要人类文明的放大器我觉得他有可能摧毁人类文明吗我觉得这点上我觉得还是就我觉得首先这个风险肯定你不能说它不存在但是我们可以有很多事情去做就是你不管是说更安全的对齐还是说就是更好的社会的机制就是我觉得这些东西都是比如说就是当他可以做一些事情的时候那他其实很有可能会比如创造出来一些新的工作那我们需要有一些方法去完成这个过渡那最终就是可能这个技术的进步对对我其实exactly问过Kimi这个问题就是说他说虽然有这样的一个风险但是我们可能不能放弃这个事情因为你如果放弃这个事情你就等于放弃了人类文明的上限就是你不知道他上限能做到什么样对就是有一点阴烟废实的这种感觉但是我承认就是说我们得做很多的事情去特别是你今天其实看到很多AI能力我觉得是有点震惊的就是因为你根本半年前你都想不到现在能做到这样的程度需要做很多的事情而且同时我认为就是可能人的独特价值在这个过程中它还是会持续存在就人的体验人的情感这些东西它是没有办法被AI去替代所以可能我会有不同的活法但是就希望应该是能活得更好什么样不同的活法我之前觉得人的一生可能有几个不同意义就是可能创造体验和爱然后当然这个每个人不一样这个是我对我来说但我觉得创造可能创造里面的很大一部分也许有可能AI是可以做的我还是很享受这个过程但是你不得不承认就是说有一天你可能会有很多的创造性的工作是AI去做但是我觉得后两条就是说可能他还是会是以人为中心那如果他创造拿走了的话他就把生产力拿走了这无所谓因为人可以享受这个生产的结果就是如果我们有一个好的机制的话还需要改变社会的机制对对但它也是一个缓慢的过程它不会是说你一两年做完它可能是要一二十年逐渐的去调整你会频繁的跟Kini聊天吗当然就我要测试模型你会跟他聊一些很深刻的话题吗有时候会或者很自我的话题有时候会比如说会聊什么除了刚才说的那些也还好就是还有一些是这个工作时辰的问题你的今天听力的成功概率是增大了还是失败概率增大相比于什么时候相比于一年前我觉得是增大了因为我们成功摆概率成功概率对对因为我觉得就是就你只要没往上爬你的成功概率都会变大因为会有一些人就不会去爬了但你恐惧掉下去我觉得肯定就肯定会有恐惧但是恐惧很多时候它是会就是更多的可能是还是还是关注就是当前这一步然后能做什么有时候可能想这个问题是更重要的你觉得过去你也没有走弯路肯定有就像我刚刚说的就是你在这个过程中会有很多很多决策有一些是技术决策有一些是比如说业务的决策我觉得很重要的是说就是一个公司在这个过程中可能去逐渐调整的能力就像比如说知识创造也是这样的一个过程就是你不可能创造出来知识所有东西都是对的就是你会发现有的东西它也是错的但是它在一定时间内可能是对的然后但他一定时间内可能是错的但他当他是错了之后你只要去做调整比如说像牛顿做的很多东西他当时是最好的理论但是他不是完美的理论他有错误他在一些场景下就是完全错误的理论你这个万有引力需要有一些别的解释你需要有一些这种相对论的解释又通过这个时空的扭曲去解释我觉得 [95:00] 就是我觉得组织的进化或者一个公司的发展它是一个动态的过程然后任何的中间点在某些时间是对的有些时间可能是错的这个也是Kimi告诉我的就是说他任何中间状态都会成为被批评的对象反正类似这个意思就是说我觉得你总是会有这个时代的局限性我感觉然后可能更重要的是说你怎么在这个过程中去我觉得一是说投入一些可能一定不变的比如说你的人才和技术的积累然后另一些就是说在这个过程中去适应和调整就是你能够针对不管是说就是这个反馈信号或者你这个环境的状态变化然后去做一些决策调整我觉得这两个东西是很重要的到底做AI时代产品是不是跟互动产品完全不一样因为互动产品就会通过投入去扩大DAU扩大市场规模但是AI产品它很不一样就是它模型能力提高了然后提高了那个BAR以后它自然就可以获客但是获得课也不知道用来干嘛所以我不知道这个怎么平衡呢对他有时候也不一定那么自然我觉得取决两个变量哪个大但是你确实如果你是在技术快速发展的阶段你很难说透过投入的方式去赢得这个战争我觉得取决于两个变量哪个大但是你确实如果你是在技术快速发展的阶段你很难说透过投流的方式去去赢得这个战争我觉得是很难的但它可能更多的是一个辅助的手段只是说你这个辅助手段跟你的主要的手段之间它到底什么样的一个配比它可能是需要动态调整的一个关系对吧然后也取决于就是说你现在的战略化的进展或者说你的这个PMF到底有多强就是它可能不同时间点它是有不同的策略就是甚至这个策略也许你在过一两年你发现它又是一个好的策略我觉得也不一定就是我觉得我们是用更open的心态去看这个东西但是可能在每个时间点是我觉得最重要的看哪个是最大的变量我觉得这个是一个挺重要的事情OK 今天最大的变量依然是智能对 对 就是还是爬山还是爬山我一直问你各种的情绪你都说还好 还好 还好所以最近一次或者最近两次吧如内自嗨是什么情境是为什么呀我觉得不以物喜不以己悲这是这是我然后跟你说是吧很难做到对对但是说我觉得是避免一些情绪化的决策所以你会情绪化吗可能多少肯定会因为你是一个人嘛但是就是我是说可能避免一些情绪化的决策最终落实到决策和执行上还是要更理性一点你自带成长是什么过去一点我觉得是说认识到一个点就是说问题是不可避免的它会一直存在然后持续解决新问题我觉得最重要可能也是最有意思我觉得这个是一个心态上的一个变化对然后他当然他可能会改变你很多做事情的方式这是一种正面的方式我不知道怎么理解但是可能差不多你今天一年前更新奋吗对因为我觉得有两个因素一个是说一方面也更适应这种状态所以他会兴奋值减少但另一方面就是说你发现AI的进展很快就是你现在能力又提升了所以兴奋值又增加所以我觉得基本上可能维持在一个比较稳定的水平我问你最后几个快问快答一个群球范围的你喜欢的食物食物拉面为什么好吃一个少有人知道但必须知道的知识点我好像不太擅长回答这个问题记住所有读过的书推荐两本必读书哦这有一本我刚刚一直在讲的对就推荐这一本心目中你想AI进程的几篇论文是什么最重要的最重要几篇论文最重要几篇论文就是back propagation然后可能Transformer我觉得肯定算然后可能GPTGPT3然后当然有一些是Building Block我觉得也很重要像比如ResNet我觉得也很重要它可能是这个泛化的基础然后Adam但现在可能还有Mule基于当下的认知一个最关键的Bet最关键的BED用范化的Agent用Innovation用L4做L3最近的动物是什么不知道我感觉我脑子已经糊了我已经把一年的话都讲了太基酸物的局限性