陈天桥旗下Apodex预判半年内跑通AI自我进化

陈天桥旗下Apodex预判半年内跑通AI自我进化 AI自我提高的终极瓶颈在于缺乏科学品味与自我验证能力，导致模型在多轮迭代中发生递归漂移。 节目深入剖析了AI自我进化的技术底层，指出代码能力与长程任务支撑了RSI的实现，而克服“递归漂移”的核心在于引入多智能体协作与自我验证机制。作为陈天桥主导的硬核求解器公司，Apodex致力于通过培养AI的“学术品味”与提问能力，让大模型摆脱迎合人类的偏好偏差，攻克人类未解的科学难题。专家预测最快半年内将跑通自我进化的首次闭环，但要实现持续可靠的递归提升仍需克服目标跑偏等诸多挑战。 由陈天桥出资创立的 AI 公司 Apodex 将自身定位为“Heavy Duty Solver”，主攻面向前沿未知科学挑战的“发现模型”，专注于在无标准答案的领域自主提出假设并完成验证。 (0:02) AI 独立执行无监督长程任务的时长上限约每 7 个月翻倍，远超摩尔定律，而编程（Coding）能力则是支撑模型自我诊断、造数及底层训练的通用元能力底座。 (6:48) 大模型自我进化的最高护城河在于后训练阶段，Apodex 采用多 Agent 团队对抗与上下文隔离机制构建验证闭环，以拦截推导错误不断累积导致的“递归漂移”。 (19:11) 嘉宾预测 AI 最快在半年到一年内跑通后训练自进化的首个闭环；团队通过陈天桥制定的“AI 宪法”注入顶级科学家品味，未来模型有望像 AlphaZero 一样形成自主的科学探索品味。 (57:25)

Apodex 首席科学家李辈滨与杜少雷指出，AI 预计将在半年到一年内在后训练阶段跑通单次自进化闭环，但在迈向长程多环递归自我提升时，核心瓶颈在于如何通过验证机制与学术品味把控防止模型“递归漂移”。 长程任务与代码能力驱动递归自我提升 (6:48) 硅谷当前讨论的递归自我提升（RSI）与以往自进化的根本差异，在于大模型应对超长程任务能力的突破。以 Anthropic 的数据为例，模型无需人类监督的可持续任务时长从 Claude 3 Opus 的约 4 分钟、Claude 3.7 Sonnet 的约 1.5 小时，跨越至 Claude 4.6 Opus 的长达 12 小时，业界普遍判断该无监督时长上限大约每 7 个月便会翻倍。模型自我训练在底层高度依赖代码能力，代码的编写、数据清洗、算法重构与底层基础设施优化共同构成了模型自我提升的通用元能力底座。 后训练与多 Agent 架构构建核心技术护城河 (19:11) 在自进化的三条实现路径中，相比门槛较低的脚手架层（Harness）与多处于玩具型任务的预训练层，后训练阶段构成了最高的护城河。该阶段要求模型具备自我诊断缺陷、自主生成针对性数据配方、训练自身并完成严格验证的闭环。针对单体模型在长上下文下注意力聚焦效果衰退的物理上限，杜少雷指出，引入多 Agent 分工协作、上下文隔离、长短期记忆及全局裁决的 Agent 团队范式，仍具备不可替代的技术壁垒，不会被通用底座能力的提升轻易抹平。 以硬核求解与顶级科学家品味打破谄媚偏见 (34:19) 由陈天桥出资主导的 Apodex 将自身定位为攻克未知科学难题的“Heavy Duty Solver”（发现模型），首期切入生物医药等领域，而非做通用对话或多模态生成。针对主流模型因大众 RLHF 标注而普遍存在的谄媚与对冲行为，Apodex 放弃大众偏好数据，直接由陈天桥参与撰写“模型宪法”，并引入顶级科学家的反馈数据进行后训练对齐。李辈滨与杜少雷认为，培养模型提出根本性未知假设的学术品味，如同导师指导博士生，是让 AI 从解题家跨越为科学家的核心。 递归漂移风险与员工蒸馏的人工热启动 (57:25) 自进化的最大潜在隐患在于递归漂移与目标对冲，即模型在无监督迭代中可能因隐蔽妥协或错误推导导致后续路线崩溃。李辈滨预测，跑通材料科学编程等领域的单次自进化闭环需半年至一年，而完全攻克多环递归漂移仍需 2 至 3 年。目前团队目标是将漂移率从普通模型的 10% 逐步降至 1% 乃至 0.01%，以将人工抽查周期拉长至数月。现阶段仍需依赖“员工蒸馏”这类机制，将研究员审查 Agent 输出的决策过程注入模型作为安全热启动，直到模型未来发展出完全自主的评估与推理品味。 当前 AI 自进化闭环仍高度依赖顶级科学家的品味输入作为热启动与纠偏手段；长远来看，如何确保自主进化的模型在完全脱离人类干预后不发生价值与目标偏离，并在未来的公共 AI 中平衡少数精英与大众的价值观，仍是悬而未决的课题。

[14:29] 甚至有测试代码，测试用例写得太宽会让错的代码通过，写得太紧又会惩罚对的代码。虽然仍有微小漂移风险，但代码领域的递归漂移相对来说更容易被控制。 [36:18] 李辈滨: Discovery 的瓶颈，第一就是未知领域其实很难有标准答案，也很难找到这种 Simulation Environment 得到可信的验证。 [38:49] 杜少雷: 我们一定要追求顶点，解答这些最本质的问题，所以这个甚至要写在模型宪法里。 [46:30] 杜少雷: 如果用户说错了，我们要去纠正他……这样的细节就是通过 Verification 或者 Agent Team 整个的形式去反驳他。

[0:02] 哈喽 大家好 [0:03] 欢迎收听《硅谷101》 [0:05] 我是泓君 [0:06] 最近Anthropic它承认了一件事 [0:09] 他们现在80%的代码 [0:11] 已经不是人写的 [0:12] 是Claude自己写的 [0:15] 这家全世界最谨慎的AI公司 [0:19] 同时发出了一个警告 [0:21] AI可能很快就要自己设计 [0:23] 自己去训练下一代的AI了 [0:26] 他们管这个叫做递归自我提升 [0:29] 英文是RSI [0:31] 也是硅谷今年对模型能力最热的 [0:34] 讨论方向之一 [0:37] 今天这集节目我们的含金量高了 [0:39] 我们请到了两位 [0:40] 真正正在做这件事情的研究员 [0:44] 他们所在的公司叫做Apodex [0:46] 背后是陈天桥出资创立 [0:49] 并亲自主导的 [0:51] 这家公司给自己的定位也非常特别 [0:54] 他们不做图片生成 [0:56] 不做视频生成 [0:57] 只做一件事 [0:58] 他们自己叫做 [0:59] Heavy Duty Solver [1:01] 意思是专啃那些没有标准答案 [1:04] 人类自己都不知道从哪下手的难题 [1:08] 他们管自己想做的模型叫做 [1:10] Discovery model（发现模型） [1:12] 不是从已知的信息里面找答案 [1:15] 而是要提出 [1:16] 人类还没有想到过的假设 [1:19] 然后自己想办法去验证它 [1:21] 去解决这个世界上 [1:23] 还没有被解决的科学难题 [1:26] 这也是为什么这家公司叫Apodex [1:29] 因为词源就是希腊语里的 [1:31] 证明和论证 [1:34] 如果AI真的可以教自己 [1:36] 人类科学家还剩下什么 [1:38] 让我睡不着觉的一个问题就是 [1:41] 我们怎么知道 [1:42] 这个模型在自我进化的时候 [1:44] 它没有跑偏 [1:47] 同时Beibin也在这集节目里面 [1:49] 讲到了他自己蒸馏自己的想法 [1:53] 这个在过去职业生涯里 [1:54] 曾经每天都在跟马斯克 [1:56] 跟陈天桥讨论技术问题的研究员 [2:00] 我采访的时候 [2:01] 有那么一瞬间觉得 [2:02] 他下一刻就工作不保了 [2:04] 于是我问他 [2:06] 我们假设真的把Beibin蒸馏了 [2:09] 你会担心自己失业吗 [2:10] 说不担心肯定是假的 [2:12] 但即使我担心 [2:14] 我其实还是乐观的 [2:16] 那这集我们就站在 [2:18] AI自进化的分界点上 [2:20] 与两位一线的研究员 [2:22] 聊一聊硅谷模型的核心发展趋势 [2:25] 以及未来模型 [2:26] 能不能超越人类顶尖科学家的水平 [2:30] 真正地去提出问题 去发现问题 [2:33] 下面就请收听我们今天的节目 [2:38] 今天跟我在一起的两位嘉宾 [2:40] 一位是Simon杜少雷 [2:42] Simon你好 [2:42] 你好 [2:43] Simon是华盛顿大学 [2:45] 计算机系的副教授 [2:46] 同时也是Apodex的首席科学家 [2:49] 负责训练与推理方向 [2:52] 还有一位嘉宾是 [2:53] Apodex的首席科学家 [2:55] 负责代码与自进化方向的李辈滨 [2:58] 哈喽 Beibin你好 [2:59] 你好 [3:00] 欢迎两位 [3:01] 我们刚刚提到了 [3:02] 今年有一个词很火 就是RSI [3:05] 我发现其实这个大模型 [3:06] 它的预训练 后训练 [3:08] 包括它的核心的训练方向 [3:10] 它可能是每年都有一些 [3:12] 新的方向出来 [3:14] 我记得前几年 [3:15] 我们在聊的最火的是 [3:16] DeepResearch 深度研究 [3:18] 再到Coding 代码方向 [3:20] 今年就到了自进化 [3:22] Self-evolve的方向 [3:23] 首先想请Beibin跟Simon [3:26] 大家一起来分析一下 [3:27] 这后面其实是几个不同的方向 [3:29] 还是说它有一个核心的主线 [3:33] 在主导这个模型往哪个方向走的 [3:35] 我感觉从训练的角度来看 [3:38] 其实是同一个能力在提高 [3:40] 其实都是推理的能力 [3:42] 长链推理的能力 [3:43] 还有就是在环境中进行一些探索 [3:46] 执行一些动作 [3:48] 获得了这个信号之后 [3:49] 再进行下一步的探索 [3:51] 不管是在DeepResearch [3:53] 还是Coding这些环境下 [3:55] 其实它的内核都是一样的 [3:56] 只是它的方向有一些细微的区别 [4:00] 我们说的自我进化这个概念 [4:02] 其实并不是一个新的概念了 [4:04] 我就不说远的 [4:05] 在八九十年代 关于AI [4:07] 和machine learning（机器学习）的 [4:08] 自我进化 [4:09] 我就光说 [4:10] Language model（语言模型）的 [4:11] 自我进化 [4:12] 其实往前推的话 [4:13] 也可以推到大概三年前左右 [4:16] 那个时候Google就有一篇论文 [4:18] 叫做“LLM as Optimizer” [4:20] 就是说用大语言模型 [4:23] 当作一个优化器 [4:24] 可以优化不同的东西 [4:26] 当时我在AutoGen那边 [4:28] 也有和同事出一个类似的概念叫做 [4:32] Agent optimizer（智能体优化器） [4:33] 就是说智能助手可以自己进化 [4:36] 自己优化自己 [4:38] 只不过这两年大家发现模型的能力 [4:40] 越来越强了 [4:41] 它可以自我优化的东西越来越多了 [4:44] 就比如说Anthropic [4:45] 有八成的代码是可以自己写的 [4:47] 训练模型不管是从哪个角度来说 [4:50] 从合成数据的生成 [4:52] 自然语言数据的清理 [4:53] 还是自我训练学习的代码 算法 [4:56] 以及infra 底层代码 [4:58] 其实它都是一种代码的形式 [5:00] 一旦模型的写代码能力变强了 [5:03] 用它来进行自我提升 [5:05] 自己训练自己 [5:06] 其实是非常自然的一件事情 [5:08] 所以我并不觉得突然今年 [5:11] 大家发现我们要自我学习 [5:13] 自我进化 [5:13] 让模型自己训练自己 [5:15] 其实早在两三年前 [5:16] 大家已经开始慢慢地做这件事情了 [5:19] Beibin 你之前的背景是 [5:20] 一直在关注 [5:21] 模型的自我进化这条线是吗 [5:23] 你要不要简单介绍一下自己的背景 [5:25] 对 我最开始是在微软研究院那边 [5:29] 做多智能体的合作 [5:30] 当然那个时候我们不叫做自我进化 [5:33] 因为那个时候智能体 [5:35] 都是一个比较新的概念 [5:36] 所以大家一般对外说 [5:37] 都是说智能体 [5:39] 但是实际上我同事的一些工作 [5:41] 就已经开始进行一些自我进化的 [5:43] 当时我们叫做agent optimizer [5:45] 和teachable agent [5:46] 智能体可以教智能体 [5:48] 下一次再做类似的事情的时候 [5:50] 可以用哪一些技能 [5:51] 和现在的我们说的 [5:53] Skills这个概念有一点像 [5:54] 但那个时候大家用的概念 [5:56] 还是比如说context management [5:59] 或者是prompt engineering [6:00] 就是上下文管理 [6:02] 以及prompt engineering [6:03] 就是工程学怎么样修改prompt [6:06] 后来我去了Meta和xAI [6:08] 在xAI的时候 [6:09] 我们就已经开始关注Agentic RL [6:13] 就是通过强化学习 [6:14] 来加强智能体的一些能力 [6:17] 比如说用工具的能力 [6:19] 写代码的能力 [6:20] 当时还有个概念叫做MCP Tools [6:22] 当然现在也非常火 [6:23] 用MCP工具的这些能力 [6:26] 所以我们其实在早期 [6:27] Simon和我大概一年前左右 [6:29] 就发现了 [6:29] 其实模型提高自己 [6:31] 是非常可行的一件事情 [6:33] 包括我们当时做的一些 [6:35] 强化学习的数据生成 [6:36] 其实有很大一部分是代码写的 [6:39] 到今年年初的时候 [6:41] Andrej Karpathy [6:42] 发表了关于AutoResearch [6:43] 就是自己进行科研的一个项目 [6:46] 突然一下这个概念就爆火了 [6:48] 对 我觉得非常好的自我进化的总结 [6:51] 今年说到模型的自我进化 [6:53] 跟往年来说模型的自我进化 [6:55] 有什么不一样的地方吗 [6:57] 我觉得今年大家再提到RSI的时候 [7:00] 他说的是一种递归自我提升 [7:03] Beibin你要不要跟大家解释一下 [7:05] 这个概念 [7:05] 以及比如说我们说这个概念的时候 [7:08] 是不是说以前 [7:09] 我们在让AI进化的时候 [7:11] 考官还是人 [7:12] 现在考官逐渐变成AI了 [7:15] 它是不是在解决更难的问题 [7:17] 对的 这是一个非常好的问题 [7:19] 其实自我进化 [7:20] 如果大家想象成是一个圆环的话 [7:23] 比如说模型自己找问题 [7:25] 自己出题 自己解答 [7:27] 自己训练自己 [7:28] 那RSI里面的R就代表是 [7:30] Recursive 递归式 [7:31] 就有点像垂直的递归式 [7:33] 慢慢慢慢向上增长 [7:35] 这一点确实是跟以往的一些自进化 [7:39] 有一点点不一样 [7:40] 当然这一个想法也不是新的 [7:43] 今年跟往年的最大的区别就是在于 [7:46] 模型的能力变强了 [7:48] 比如说Anthropic发表的论文 [7:51] 或者是说发表的博客 [7:52] 有提到80%的代码是它们写的 [7:55] 他们可以做 [7:55] 人类大概一天左右时间做的事情 [7:59] 这个能力上来了之后 [8:00] 因为它是可以完成非常长程的任务 [8:03] 所以在一个长程的任务里面 [8:04] 这个模型可以提高自己好几遍 [8:06] 不像过往的 [8:07] 比如我们说LLM as Optimizer [8:10] 或者是agent optimizer的时候 [8:12] LLM只会一次可能优化自己 [8:14] 大概两三个小时 [8:16] 因为你优化太久了 [8:17] 它可能因为自己的偏差 [8:19] 或者自己的能力不足 [8:21] 就很难继续往下迭代 [8:23] 因为它可能会犯一个小错误 [8:25] 那个小错误会自我积累 [8:26] 越积累越大 [8:27] 到之后就没有办法进行自我的迭代 [8:30] 而今年为什么这个recursive [8:32] 这个R出来了 [8:33] 因为大家发现这个模型 [8:34] 可以进行很长程的任务 [8:36] 所以它可以让这个模型 [8:38] 自己recursive 多提高几遍 [8:40] 对 我看这篇文章里面有一个数据 [8:42] 就是说2024年3月份 [8:44] Claude 3的opus [8:45] 它可以完成人类约4分钟完成的任务 [8:49] 一年后 就是3.7sonnet [8:51] 就可以处理需要1.5小时处理的任务 [8:54] 又过了一年 这个Claude4.6 opus [8:57] 可以处理长达12个小时的任务 [9:00] 整个我们看到大模型的改进速度 [9:03] 是在翻倍的 [9:04] 而且这个比我们计算机领域的 [9:06] 经典的摩尔定律 [9:07] 它的翻倍的速度还要快 [9:09] 是的 当然这个业界 [9:11] 各家都有不同的说法 [9:13] 但是好像大家比较接受的判断是 [9:15] 这个模型能做到的事情 [9:17] 对于人类时间来说 [9:18] 每7个月会翻一倍 [9:20] 对 您刚刚提到RSI [9:23] 它可以处理长程任务 [9:25] 我们理解这个长程 [9:26] 是不是可以理解成 [9:27] 它是一个需要很多个步骤 [9:30] 很多个环节来互相印证的 [9:33] 一系列任务 [9:34] 假设我给一篇音频的文字稿 [9:36] 给到模型去校正这个事实性的错误 [9:39] 这只算一步 [9:40] 但是比如说它能从开始的规划 [9:43] 一直到最终 这个播客做出来 [9:45] 这中间可能有十几个步骤 [9:46] 它能把每一个步骤都做好 [9:48] 长程任务是指这个意思吗 [9:50] 是的 我说的长程任务是这个意思 [9:52] 当然不同的人对长程的定义 [9:54] 也有点不一样 [9:56] 但是大体方向大家都同意这一点 [9:58] 就是模型可以自己 [10:00] 在人类不监督的情况下 [10:02] 可以工作很长 [10:03] 像您刚刚说的对于播客文件处理 [10:05] 比如说这个模型 [10:06] 可以先剪切一下这个音频 [10:08] 自己听一遍 [10:09] 发现哪里剪得不对 重新剪 [10:12] 这样可以循环几次 [10:13] 然后就可以进行到下一个点 [10:15] 这种任务可能平时对一个人类来说 [10:18] 可能要花20个小时 [10:19] 或者30个小时可以做完 [10:21] 在这个时候 [10:22] 如果我们的模型 [10:23] 可以在人类不监督的情况下 [10:25] 把这个任务完成的话 [10:27] 我觉得它就完成了这个长程的任务 [10:30] 它是怎么做到的呢 [10:32] 这里就有非常多的技术细节 [10:34] 首先就是在模型的架构上 [10:37] 可能就要进行一些创新 [10:40] 比如说传统的 [10:41] Self-attention（自注意力机制） [10:42] 其实是一个O(n²) [10:44] 就是我们在算法领域说的是一个 [10:47] Polynomial time（多项式时间）的算法 [10:49] 所以当我们的tokens [10:50] 比较多的时候 [10:52] 特别是在100万个上下文的时候 [10:54] 模型首先就是在推理的时候 [10:56] 就会花非常多的资源 [10:58] 这个我们有很多现成的解法 [11:00] 就比如说GDN GDNv2 [11:02] DeepSeek-V4 Pro [11:04] 它也有自己的一套架构 [11:06] 第二就是训练数据 [11:08] 我们要100万上下文 [11:10] Inference support（推理支持） [11:11] 其实不是特别难 [11:12] 我们只要把模型训练好了 [11:14] 放到SGLang或者vLLM里面 [11:16] 给它参数都设置好 [11:18] 它可以支持100万上下文 [11:19] 甚至更多的上下文 [11:21] 但是如果你的模型 [11:22] 没有在这种非常长的数据下 [11:24] 进行训练的话 [11:26] 那它可能就是我们所谓的 [11:28] Out of distribution（分布外） [11:29] 因为100万上下文 [11:30] 是非常非常长的一个概念 [11:32] 就大概《哈利·波特》 [11:34] 好几部书放在一起 [11:36] 而我们的代码 [11:37] 即使是最大的代码仓库 [11:38] 也很难会填满 [11:40] 来满足这100万的上下文 [11:42] 所以在预训练和后训练的 [11:45] 数据处理上 [11:46] 也是非常大的一个挑战 [11:47] 第三点就是infra（基础设施） [11:49] 也是一个难度 [11:50] 不仅是说在 [11:51] 测试时的Infra [11:53] 而且是在训练时候的infra [11:55] 因为你要如果让这个语言模型 [11:57] 就直接输出 [11:58] 100万个token的话 [11:59] 我们需要 [12:00] 比如说在GPU上 [12:01] 做一些什么样的优化 [12:02] 在kernel（内核）上 [12:03] 改一些什么样的代码 [12:04] 这些也是非常困难的事情 [12:06] 所以这个就是 [12:07] 为何训练这种长程任务 [12:09] 相对于普通任务 [12:10] 会是指数级的难度增长 [12:13] 了解 了解 [12:14] Simon有补充的吗 [12:16] 还有就是真想解决长程问题的话 [12:18] 可能从agent架构上 [12:20] 也可以有很多可以做的 [12:21] 因为即使是我们有100万的上下文 [12:25] 可以处理 [12:25] 但是真正长程的任务 [12:27] 可能都还是不止100万 [12:29] 这个时候我们还是需要 [12:31] 比如说在有限的上下文里 [12:33] 处理甚至无限的上下文 [12:35] 那怎么做呢 [12:36] 还是需要一些比如说agent技术 [12:39] 记忆的技术等等 [12:40] 去处理这种超长程任务 [12:42] 所涉及的超长上下文这样的问题 [12:45] 我们听起来很简单 [12:46] 但是这个中间可能涉及到了 [12:48] 很多具体细分的技术体系 [12:51] 之前我记得Beibin你有讲过 [12:53] 训练一个模型其实本质就是 [12:54] Data数据 infra基础架构和算法 [12:58] 这三件事 [12:59] 其实这三件事 [13:00] 都高度地依赖写代码 [13:02] 所以我们今天看到像Claude [13:04] 它能表现出这么强的 [13:06] 基础模型的研发能力 [13:07] 主要是因为它coding能力的提升 [13:10] 自进化的能力 [13:11] 它也是跟coding的能力 [13:12] 是紧密相关的 [13:14] 我可以这样理解吗 [13:15] 对 我基本上同意这个看法 [13:18] 对 所以coding它会变成 [13:20] 所有模型的一个标配的底座 [13:22] 我觉得它会变成 [13:24] 大部分模型的标配底座 [13:26] 但并不是所有模型的 [13:29] 比如说聊天型的模型 [13:30] 可能不太需要写代码的能力 [13:33] 当然了 聊天型的小模型 [13:35] 可能也是通过一个大模型 [13:37] 进行蒸馏的 [13:38] 所以它后面这个大模型 [13:39] 需要非常大的 [13:41] 比如说reasoning推理能力 [13:43] 需要自我进化 [13:44] 所以能自我进化 [13:45] 来蒸馏到小模型里面 [13:47] 所以它背后的这些大模型 [13:49] 肯定还是需要高度优化 [13:51] 写代码的能力的 [13:52] 我可不可以理解成单纯的聊天还好 [13:55] 因为现在我们其实都在讲 [13:56] 怎么让agent完成一系列的事情 [13:59] 如果一旦涉及到了多步骤 [14:01] 让agent去完成 [14:02] 不同的复杂的任务的时候 [14:05] Coding能力就会变得特别关键了 [14:07] 是的 没错 [14:08] 因为coding其实 [14:09] 写代码不仅是写代码本身 [14:12] 而且可以通过写代码训练自己 [14:14] 另外它在coding里面 [14:16] 要进行的归纳 演绎 [14:18] 这些逻辑推理的基本的思想和算法 [14:21] 其实也可以帮助模型 [14:22] 在其他的一些方向上 [14:24] 进行优化和generalize（泛化） [14:26] 就是可以泛化到其他不同的领域里 [14:29] 我发现在学术界 [14:31] 其实自我进化 [14:32] 它还有一个很根本的障碍 [14:35] 我看大家起了一个学术的名词 [14:37] 叫做递归漂移 [14:38] 它的意思就是说 [14:40] 模型在自己去生成 [14:42] 它的训练数据的时候 [14:44] 它推理的错误 [14:45] 会在一次的错误中 [14:46] 一代一代去累积 [14:48] 就比如说有的时候 [14:49] 我们看它给我们的一个答案 [14:51] 这个答案的结果可能是对的 [14:53] 但是它的推理过程可能是错的 [14:57] 在这种让它自我进化的过程中 [14:59] 它就会把这个错误一代一代累积 [15:02] 最后可能进化的结果就越来越歪 [15:05] 这是两位在真正的训练模型中 [15:08] 遇到的一个比较根本性的难题吗 [15:10] 我非常同意这个看法 [15:12] 这个现象 [15:13] 其实也是我们大家一直有注意到的 [15:16] Apodex有一个不一样的地方 [15:18] 就是我们比较注重verification [15:21] 就是自我验证 [15:23] 模型自己在训练自己的时候 [15:25] 如果它的验证有任何的漂移 [15:28] 或者是bias（偏差）的话 [15:29] 会对结果造成不好的影响 [15:32] 因为它可以累积起来 [15:33] 所以我们在做 [15:35] 比如说写代码和做数学计算的 [15:38] 这些任务的时候 [15:39] 我们比较容易验证 [15:40] 可以通过rule-based（基于规则） [15:42] 就是可以通过跑一套测试代码 [15:44] 来确定它有没有对 [15:45] 所以在代码领域 [15:47] 相对来说更好解决 [15:48] Recursive drift（递归漂移）的问题 [15:50] 当然了 如果对代码领域 [15:53] 有了解的一些专家 [15:54] 可能还会发现 [15:55] 即使是有test script（测试脚本） [15:56] 即使有test code（测试代码） [15:58] 它其实偶尔还是会发生漂移 [16:01] 比如说test case（测试用例） [16:02] 不管是人还是AI [16:03] 在写测试代码的时候 [16:05] 可能偶尔会太宽 偶尔会太窄 [16:08] 太宽的时候 [16:09] 可能会让错误的解题代码通过 [16:12] 但如果太紧的话 [16:13] 有时候会惩罚写得对的代码 [16:15] 所以这种情况下 [16:16] 也是还会发生细微的递归漂移 [16:19] 但是它会简单很多 [16:22] 我其实很好奇 你们怎么去做验证 [16:25] 因为我知道 Apodex验证 [16:27] 其实是你们主打的一个核心功能 [16:30] 因为我去试用了一下你们的产品 [16:32] 之后我是有收到一封邮件 [16:34] 这个邮件的标题非常有意思 [16:36] 它叫做很多AI系统生成答案 [16:38] 而Apodex验证它们 [16:40] 后来我才知道 [16:42] 原来你们公司的名字Apodex [16:44] 它是源自于一个希腊语 [16:45] 它的意思就是证明跟论证 [16:48] 所以相当于你们从成立的开始 [16:51] 就把验证 较真写到了名字里面 [16:54] 验证这一步 我们有很多套方法 [16:58] 因为不同的领域 [17:00] 确实需要不同的验证方法 [17:02] 比如说代码 [17:02] 一般来说 [17:03] 你可以用单元测试进行验证 [17:06] 当然你怎么写 [17:07] 有时候会过宽 有时候过窄 [17:09] 这是另一个很难的问题了 [17:11] 数学可以通过证明 [17:13] 证明现在有Lean [17:14] 这样的formal（形式化） [17:16] 验证的方法去验证 [17:18] 但不得不说 还是有很多的问题 [17:21] 其实是更多依赖于人的一种判断 [17:23] 甚至都并不是一种 [17:25] 100%正确或不正确 [17:27] 这种时候我们其实是依赖一个 [17:30] Agent系统 [17:31] 去做我们现在Apodex 1.0的验证的 [17:34] 我们管这个叫 [17:36] Agent Team（智能体团队） [17:37] 大概就是说把一个问题 [17:39] 最开始会分解 [17:41] 我们会有不同的子agent [17:44] 有的是去解决这个问题 [17:46] 我们会有另一个子agent [17:47] 单独地去验证另一个子agent [17:50] 写出来的解法 [17:51] 之所以要分成两个子agent [17:53] 还是因为上下文的问题 [17:55] 不要让一个agent干所有事情 [17:56] 分成两个agent [17:57] 它其实效果会好很多 [17:58] 这是一个细节 [18:01] 而且一定要拆成两个agent [18:02] 同时两个agent [18:03] 给它的指示也不太一样 [18:05] 除此之外 [18:06] 还有一些比较重要的技巧 [18:09] 我们最好是有一些冗余 [18:12] 同一个问题 [18:13] 你让不止一个agent去做 [18:15] 我们会得到不止一份答案 [18:17] 其实这个冗余的思想在计算机里面 [18:20] 有很长的历史了 [18:21] 但我得到不止一个答案之后 [18:22] 我们会让一个全局agent [18:25] 去判断一下哪个agent [18:27] 反馈的答案更准确一些 [18:29] 这样会比只用一个agent [18:30] 去解一个方面的任务 [18:32] 会效果好很多 [18:34] 这是从agent方面 [18:35] 我们有这些设计去做一些验证 [18:38] 在训练的时候 [18:39] 我们也会专门针对验证 [18:40] 去训练一些（能力）了 [18:42] 比如说我们会让agent去判断一下 [18:45] 不同信息源搜集的信息 [18:47] 哪些是更靠谱一些 [18:49] 哪些不靠谱一些 [18:50] 比如说一个论坛上的 [18:51] 可能就不如教材上的 [18:53] 关于同样的问题靠谱了 [18:56] Beibin有补充吗 [18:57] 另外我们在进行强化学习的时候 [19:00] 我们的裁判 [19:01] 也会在训练的过程中一起学习 [19:04] 这样可以避免模型学会一些 [19:07] 不好的行为 [19:08] 可以避免它进行一些奖励黑客 [19:12] 因为现在我们说市场上的很多公司 [19:14] 他们可能都在做RSI [19:17] 也都在做验证 [19:18] 大家觉得在这么多的模型公司里面 [19:22] 该怎么去判断一个公司 [19:24] 这一块的能力是不是真的强 [19:26] 它是一个技术问题 [19:28] 还是一个 [19:28] 比如说我把更多的精力跟时间 [19:31] 投入到这 [19:32] 它是一个意愿的问题呢 [19:34] 我觉得两个问题都是 [19:36] 首先技术问题肯定是需要有的 [19:39] 因为在自我递归和自我进化的时候 [19:42] 如果它底层的代码 infra [19:44] 或者是训练代码有问题 [19:46] 技术不达标的话 [19:47] 这个是肯定做不成的 [19:48] 另外 意愿也是很重要 [19:50] 有一些公司可能还没有意识到 [19:53] 自我进化的 [19:54] 一些需要强化的点在哪里 [19:57] 对 真要判断一个公司的技术能力 [20:00] 可能还是需要去了解一些细节 [20:03] 自我进化这方面其实有很多种 [20:06] 比如说我就在harness [20:08] 这个脚手架上进行进化 [20:11] 有的是在预训练的 [20:13] 各种配方上进行进化 [20:15] 有的是在后训练 [20:17] 包括搜集数据 [20:19] 以及后训练的一些配方进行进化 [20:21] 如果真的想判断一个公司技术水平 [20:24] 我觉得还是要深聊一下 [20:25] 看看他们到底是在哪方面 [20:27] 据我们了解 说实话 [20:29] 在脚手架上进行进化 [20:31] 是护城河比较低的 [20:33] 一个原因吧 确实它的成本比较低 [20:36] 因为你基本只用调API [20:38] 你就可以自我进化这些harness [20:40] 这些脚手架了 [20:42] 所以这方面即使是开源社区 [20:43] 包括学术界也有很多的结果 [20:45] 据我了解 [20:46] 学术界包括开源社区 [20:48] 做得也都不错 [20:49] 当然公司里可能会有更多的资源 [20:51] 但其实这些技巧上 [20:53] 可能细节上 [20:54] 即使不用那么多资源 [20:55] 你可以做得很好 [20:56] 但如果真的要涉及 [20:58] 比如后训练 [20:59] 这样自我进化比较难的一些方向 [21:01] 确实你需要很多的资源 [21:03] 跟这些公司聊的时候 [21:04] 可以知道 [21:04] 他们比如说是通过什么样的方式 [21:06] 去进行后训练一些进化 [21:08] 预训练这方面 [21:10] 现在可能大家看到的都是一些 [21:12] Auto research（自动化研究） [21:13] 比如说什么自动去训练 NanoGPT [21:16] 这些确实都是一些 [21:17] 比较玩具型的一些任务 [21:20] 因为它们这个模型都比较小 [21:22] 你可能调一个更好的优化器 [21:24] 更好的超参数等等 [21:26] 这些也是最近的 [21:27] 自进化的一些paper [21:29] 但真正把这个 [21:30] 能不能scale（扩展）到产品级 [21:33] 或真实大模型 [21:34] 其实是需要特别了解的 [21:36] 如果他们光说 [21:37] 我是在一个公开的一些 [21:39] Auto research [21:40] 一个benchmark（基准测试）上 [21:41] 我怎么怎么样 [21:42] 其实这个并不是代表什么 [21:45] 讲得特别好 [21:46] 你们现在是怎么做的 [21:47] 或者说你们一个理想式的目标 [21:50] 未来会怎么做 [21:51] 现阶段是有哪些路径可以去达成 [21:54] 我们其实在自我进化的时候 [21:57] 把它分成了不同的阶段 [21:59] 我们有预训练和后训练阶段 [22:02] 预训练阶段的话 [22:03] 就是在数据的采集 清理上面 [22:06] 会进行不同的自我进化的一些方法 [22:09] 在后训练里面 [22:10] 自我进化可能更加有效一点 [22:12] 因为我们在一个模型出来 [22:14] 经过了后训练之后 [22:16] 我们才知道 [22:17] 它会有一些什么样的问题 [22:20] 所以我们的后训练自我进化就包括 [22:23] 诊断自己有什么症状 哪里不达标 [22:25] 然后基于自己的诊断 [22:27] 来造不同的训练的配方 [22:30] 第三步 拿到自己训练的数据和配方 [22:33] 来自己训练自己 [22:35] 在其中需要verify [22:36] 就是验证自己每一步做的是否正确 [22:39] 最后回到第一步 [22:40] 再诊断自己有什么缺陷 [22:43] 另外在脚手架harness上面 [22:46] 我们也有一些自进化 [22:48] 同时在脚手架和后训练 [22:50] 因为它其实挺难解耦的 [22:52] 所以模型在后训练上进化之后 [22:54] 我们的脚手架 [22:55] 也会进行一个新的进化 [22:57] 你可以把它想象成两只不同的脚 [23:00] 左脚会踩一下 右脚会踩一下 [23:02] 让这个模型往前跑 [23:03] 我理解刚刚根据Beibin你说的 [23:06] 你们所有的三种方式 [23:08] 预训练 后训练 [23:09] 包括整个Harness的环境 [23:10] 全部会用到 [23:11] 对的 因为我们公司 [23:13] 其实就是把自我进化 [23:15] 当作是主要的方法论 [23:17] 所以我们在每一个方面 [23:18] 基本上都会用到自我进化的思想 [23:21] 难怪你们可以把验证 [23:23] 写到你们的整个的 [23:24] Slogan里面 [23:26] 这个我稍微补充一下 [23:28] 一个是验证能力是非常重要的 [23:32] 验证能力里其实一个是 [23:34] 像代码这些 [23:36] 你可以去formally（形式化地） [23:38] 去这种验证 [23:39] 还有很多的时候是模型本身的 [23:42] 我们管它叫元能力 [23:43] 或者叫meta能力 [23:44] 包括判断这个答案对不对 [23:47] 分析现在模型的问题 [23:49] 根据模型的一些output（输出） [23:51] 这些是一些这种元的能力 [23:53] 这个是需要特别去训练的 [23:56] 还有一点我想强调一下是搜索能力 [23:59] 尤其对于后训练是非常重要的 [24:01] 因为后训练绝大部分的方法 [24:05] 就是说你发现你的模型有什么缺点 [24:09] 假设你的模型已经可以判断出来 [24:11] 当前这个模型有什么缺点 [24:12] 那么你需要去针对性地造一些任务 [24:15] 以及对应的答案 [24:17] 去提高模型这个能力 [24:18] 造任务其实非常依赖于搜索能力 [24:21] 基本上你造任务 [24:22] 还是需要去网上搜索对应的一些 [24:25] 不管是语料 还是代码 [24:27] 或者相关的资料 [24:28] 然后造出对应的题目 [24:30] 所以search搜索本身 [24:31] 是一个非常重要的能力 [24:32] 这个也是我们为什么 [24:34] 最开始先去做DeepResearch [24:36] 因为DeepResearch [24:37] 是一个非常general（通用）的能力 [24:39] 其中搜索可能是一个 [24:40] 非常本质的能力 [24:41] 因为它就代表了 [24:42] 当你模型需要提高哪个能力的时候 [24:44] 它可以指引你 [24:45] 或找到对应的这些数据 [24:47] 去提高对应的能力 [24:49] 对 你刚刚提到了 [24:51] DeepResearch [24:51] 现在应该是你们现在 [24:53] Apodex放出来的这个版本中 [24:55] 目前最强的一块 对不对 [24:56] 但这应该只是第一步 [24:58] 是的 就像我最开始说的 [25:01] 自进化 你最开始有一个 [25:03] 先做DeepResearch [25:05] 相当于你可以收集目前已有的信息 [25:08] 以及当前模型的能力 [25:10] 你可以制定一个计划 [25:11] 你去写代码 [25:12] 去提高自己的模型 [25:14] 你得到一些反馈 [25:16] 再做DeepResearch [25:17] 就可以这样 [25:18] Recursively（递归）的提高 [25:20] 所以DeepResearch [25:21] 是一个比较重要的一环 [25:24] 我了解到Apodex [25:25] 你们的这个模型 [25:26] 是在通义千问的基础上 [25:28] 做后训练做出来的 [25:30] Simon你要不要跟大家讲一下 [25:32] DeepResearch它的训练范式 [25:34] 它有发生一些什么样的变化 [25:35] 比如说通过预训练 [25:37] 做出来的DeepResearch [25:38] 跟通过后训练 [25:39] 做出来的DeepResearch [25:41] 它有什么不一样 [25:42] 为什么你现在会先选择后者 [25:44] 因为我们公司也是刚建立 [25:47] 所以我们先开始从一个开源的模型 [25:50] 就是千问3.5上进行后训练 [25:53] 得到目前的一个模型 [25:55] 后训练上我们会有一些 [25:57] 原子能力特别的提高 [25:59] 比如说模型最开始做计划 [26:01] 这个我们会生成特别多的 [26:04] 对应的数据 [26:04] 去专门提高模型这样的能力 [26:07] 另一个能力就是搜索能力 [26:09] 搜索能力也是我们造了很多 [26:12] 对应的题目 [26:13] 针对性地去提高模型的这些能力 [26:15] 还有就是说跟Agent Team结合 [26:18] 我们去造了一些题目 [26:20] 这是就像Beibin说的 [26:21] 左脚踩右脚这样一种感觉 [26:24] 我们需要Agent Team [26:25] 和数据一起开发 [26:27] 达到最后的效果 [26:28] 这是我们主要后训练做的事情 [26:30] 当然有了预训练之后 [26:32] 我们这个模型会越来越强 [26:35] 预训练我们也是正在开发之中 [26:38] 之后也会从预训练的角度 [26:40] 去做DeepResearch [26:41] 包括去训模型 [26:43] 是的 我们公司最后会有一个 [26:45] 完整的链路 [26:46] 就是从预训练开始 [26:48] 到最后成品 到产品都会有的 [26:51] 我注意到你们现在是在好几个 [26:53] DeepResearch的榜单上 [26:55] 都拿了第一名 对吧 [26:57] 是的 [26:58] 要不要讲一下 [26:59] 这些包括BrowseComp [27:02] 这是OpenAI的 [27:03] 一个benchmark（基准测试） [27:04] 还有DeepSearchQA [27:06] Frontier Science [27:07] 这些都是Frontier Lab [27:10] 出的benchmark（基准测试） [27:11] BrowseComp其实它更关注的 [27:13] 就是搜索能力 [27:14] 它就搜索特别刁钻的一些问题 [27:17] 比如说我要搜索一本书 [27:19] 它是几几年之前出的 [27:21] 它的首字母是什么ZY [27:23] 大概这样的一些问题 [27:25] 这方面我们是SOTA [27:28] SOTA就是最高水准的意思 [27:30] 就是比包括闭源模型都要好一些 [27:32] Frontier Science更多的是 [27:34] 给你一个实际中的科研问题 [27:38] 你能不能制定一个计划 [27:40] 一步一步地该怎么做 [27:41] 大概是这样一类的问题 [27:43] 这个它会用一个 [27:44] LLM-as-a-Judge（语言模型作为裁判） [27:45] 去判断一下你这个合理不合理 [27:47] 当然 [27:47] 他的原来的benchmark（基准测试）里 [27:49] 有很多具体的判别标准 [27:51] 去看你生成的合理不合理 [27:53] 这两方面我们都是说深入了研究 [27:56] 而且造出了对应的题目 [27:58] 去提高我们模型的能力 [28:00] 还有一方面就是我们之前讨论过的 [28:03] Agent Team整个的范式 [28:05] 包括verification 验证 [28:08] 还有最后有一些冗余 [28:10] 通过更多的冗余去判断 [28:12] 得到一个更全局的结果 [28:15] 去最后生成一个答案 [28:17] 这整个的系统 [28:18] 是让我们拿到了SOTA的水平 [28:21] 我看见像这种一般是能上网的模型 [28:25] 它有的时候它那个答案 [28:26] 不是AI推理出来的 [28:28] 可能是因为它是搜索到了 [28:31] 它就会有一些失真 [28:33] 所以我注意到 [28:33] 你们自己在做评测的时候 [28:35] 还是专门把这种能搜到答案的网站 [28:37] 给屏蔽了 是吧 [28:38] 自己去做的 [28:39] 是的 这还是一个现在 [28:42] 尤其搜索类问题的 [28:43] 一个general（普遍）的问题 [28:44] 因为这个benchmark只要它公开了 [28:46] 那么它的答案大家也知道 [28:49] 你可能直接在GitHub上 [28:51] 新生成一个页面上面 [28:52] 把答案放上面 [28:54] 那我新的一个模型 [28:55] 直接就可以搜到这个答案 [28:57] 那我就算做对了 [28:58] 但这样并不是真正benchmark的目的 [29:00] 这个Benchmark目的还是 [29:01] 比如说去考验你一个 [29:03] 叫深度搜索的这样的一个能力 [29:05] 所以我们一般还是会看一下 [29:07] 我们自己生成的答案 [29:08] 是不是进行了一些作弊的行为 [29:10] 如果有这种作弊行为 [29:11] 我们会把比如说GitHub屏蔽掉 [29:14] 但有些榜单 [29:15] 其实已经污染得比较厉害了 [29:16] 干脆后来也就不报了 [29:19] 对 我注意到 [29:20] 你们在DeepResearch的后训练环节 [29:23] 其实你们相当于是用一个 [29:24] 整个的agent的团队 [29:26] 去替代单个agent的验证的 [29:29] 然后你一个比如说复杂的任务 [29:31] 你能调动上百个子的agent [29:34] 你会认为是一个聪明的AI [29:36] 反而干不过一个 [29:38] 会相互check（检查）的团队吗 [29:40] 对 我非常相信这一点 [29:42] 因为这是目前我认为是 [29:44] 基于Self-attention（自注意力）结构的 [29:46] 一个本质问题 [29:48] 而且我认为即使你用 [29:50] Linear Attention（线性注意力） [29:51] 这样一些新的结构 [29:52] 应该也解决不了超长上下文 [29:55] 这样的问题 [29:56] 上下文越长 [29:57] Attention的注意力效果就越差 [30:00] 所以你单个模型 [30:02] 至少在目前的技术范式下 [30:04] 它还是有上限的 [30:05] 当然这个跟人类也很像 [30:07] 就是说人的脑子它还是有限的 [30:09] 所以你才需要纸笔 [30:10] 把一些信息记录下来 [30:12] 然后之后你再调用它 [30:13] 至少在近期 [30:14] 我其实不太相信你用一个agent [30:16] 能解决特别特别长的上下文的问题 [30:19] 所以这种时候你就需要多个agent [30:22] 以及记忆力机制 [30:23] 比如多个agent去解决不同的问题 [30:25] 包括记忆机制 [30:26] 把这些信息保存起来 互相分享 [30:29] 整个的一个系统 [30:30] 去解决一些超长程的问题 [30:33] 所以你觉得现在 [30:34] 我们说到DeepResearch [30:36] 它的能力的话 [30:37] 它的工程能力跟模型能力 [30:39] 谁更重要呢 [30:40] 我认为这两个属于 [30:43] 1+1大于2的一个结果 [30:46] 你当然可以一直去强化模型能力 [30:49] 而且模型能力 [30:50] 我认为现在还是可以继续提高的 [30:52] 但是当模型能力 [30:54] 达到一定程度的时候 [30:55] 你稍微做一些agent上面的优化 [30:58] 你可能就一下子大幅提高这个能力 [31:01] 当然你agent这工程它总是有限的 [31:04] 或者说agent harness [31:05] 脚手架上的提高总是有限的 [31:07] 这个时候你还是需要一些 [31:08] 模型能力的本质提高 [31:10] 进一步提高DeepResearch [31:12] 或generally（总体上） [31:12] 整个这个系统的能力 [31:14] 所以我觉得这两个基本上是一个 [31:16] 1+1大于2的一个感觉 [31:18] 我虽然知道你们主要是在做模型的 [31:20] 但是想替创业者问一个问题 [31:22] 我们说之前大家在创业的时候 [31:25] 最担心的一个问题就是说 [31:27] 你的模型的基础能力一升级 [31:29] 基本上所有这些干agent的 [31:32] 干垂直方向领域的 [31:33] 它的能力 [31:34] 很快就会被这个模型的基础能力 [31:36] 给覆盖掉 [31:37] 如果按照我们刚刚讲的 [31:39] 一个聪明的AI [31:40] 由于attention（注意力）的 [31:41] Transformer（架构）的 [31:42] 整个架构上的一些限制 [31:43] 它反而干不过一个 [31:45] 相互check（检查）的能力 [31:46] 是不是说现在一个 [31:47] 能把工程能力做到极致 [31:50] 把很多个子agent [31:52] 它用得非常好的团队 [31:54] 它也具备自己一个非常深的护城河 [31:58] 不太容易被模型智力的提升 [32:00] 给覆盖掉 [32:01] 我基本上是同意这一点的 [32:03] Agent系统本身 [32:04] 我们也是经过大量实验才验证出来 [32:08] 我们这个目前的系统是比较合理 [32:09] 而且是效果很好的 [32:11] 如果一个创业团队 [32:12] 真的是证明了自己 [32:14] 在用整个agent系统 [32:16] 达到了一个非常好的效果 [32:17] 那肯定他们之前 [32:18] 也是做了大量的实验去验证 [32:20] 这个确实是非常work的 [32:22] 但是怎么说 [32:23] 这个领域相对也比较卷 [32:25] 能做这种实验的团队可能也不少 [32:29] 因为这个并不是说 [32:31] 训练一个模型 [32:32] 确实还是需要很多资源 [32:33] 但是去调或者做agent相关的实验 [32:37] 还是相对来说需要的资源少一些 [32:39] 你基本上只要调API就可以了 [32:42] 当然有些垂直领域 [32:43] 其实你可以越做越深了 [32:45] 包括金融法律 [32:46] 确实还有些具体领域的知识经验 [32:50] 其实还是挺有意义的 [32:52] Beibin有补充的吗 [32:53] 往后退一步想的话 [32:55] 如果一个模型 [32:56] 或者说一个 [32:56] Single agent 单智能体能做得很好 [32:59] 如果我们把它harness [33:01] 设计得更好的话 [33:03] 来多个智能体一起合作 [33:05] 可以把这个问题做得更深更好 [33:07] 所以我觉得在垂直领域 [33:09] 做这种Agent Teams [33:11] 或者是做脚手架的公司 [33:13] 未来肯定还是有发展的 [33:14] 而且是有非常多的机会的 [33:17] 就是有一点要注意 [33:18] 因为现在模型的发布非常快 [33:20] 可能每个月都会有一两个 [33:22] 比较强大的模型出来 [33:23] 所以有了新的模型 [33:25] 可能这个脚手架的设计 [33:26] 也要微调一下 [33:27] 因为新的模型会有新的一些能力 [33:30] 有自己的一些品味 [33:32] 模型自己的一些行为都会不太一样 [33:35] 所以这个脚手架调一调 [33:36] 可能会做得比以前还要好 [33:38] 这个也是我们在之前 [33:40] 做自我进化的时候发现的 [33:42] 为什么在后训练 [33:43] 以及在做这个脚手架的时候 [33:45] 很难解耦 [33:46] 如果你的模型能力 [33:47] 或者是说训练数据稍微变一下的话 [33:50] 那它对新的脚手架的适应能力 [33:52] 可能也会有一些微微的改变 [33:55] 你可能可以设计出更好的 [33:56] 1+1大于2的效果 [33:58] 或者是说模型变强了 [33:59] 你的脚手架变得也很强 [34:01] 然后放在一起 [34:02] 可以打出一个爆炸性的效果 [34:05] 听起来现在还是一个 [34:06] 行业很卷 很辛苦 [34:07] 要时刻跟着模型迭代 [34:09] 去更新自己架构的这样的一个行业 [34:12] 对的 我同意 [34:13] AI行业一周 [34:14] 可能相当于传统行业一个月 [34:17] 甚至一个季度 [34:19] 接下来可能是聊到 [34:21] 我最兴奋的一个板块了 [34:22] 就是Apodex 它是要做 [34:24] discovery model（发现模型）的 [34:26] Simon 你要不要跟大家先介绍一下 [34:28] 整个Apodex [34:29] 它是一个什么样的模型 [34:31] 它其实是大家很关注的 [34:33] 陈天桥先生创建的 [34:34] 他是说自己要去做一个 [34:36] 让AI做发现 做科学 [34:38] 这样的一个模型 [34:39] 对 我们的长期愿景是 [34:42] Heavy Duty Solver [34:44] 我们强调的是解决很难的问题 [34:48] 而不是比如说一个聊天机器人 [34:51] 这样的大模型初期的一些应用 [34:54] 我们的手段是通过自我进化 [34:56] 这是我们一直在强调的 [34:58] 我们相信大模型最终是能解决 [35:01] 人类之前解决不了的这些问题 [35:04] 从经济的角度来说 [35:06] 现在大部分的模型厂商 [35:08] 都是在卖token [35:10] 但我们相信 [35:11] 真正通过大模型去解决了一些 [35:13] 人类没有解决的问题 [35:15] 那么解决问题本身所创造的价值 [35:18] 应该是远大于卖token的价值 [35:21] 所以我们陈天桥陈总这边的目标 [35:24] 就是说我们直接去解决最难的问题 [35:26] 从经济上来说 [35:27] 我们可以得到 [35:28] 直接解决最终问题的价值 [35:30] 从问题角度来说 [35:31] 我们现在考虑的领域 [35:33] 包括生物 材料科学等等 [35:36] 我们这边也有一个专门的团队 [35:39] 我们叫Heavy Duty Discovery [35:41] 就是专门去找到最难的问题的 [35:45] 一个团队 [35:46] 我们会针对性地 [35:47] 比如说进行模型训练等等 [35:49] 去解决那些最难的问题 [35:51] 比如说你刚刚提到的 [35:53] 你们内部有一个 [35:54] Heavy Duty Discovery的团队 [35:55] 他们现在具体是在找哪些问题 [35:58] 现在你们第一步想要切的 [35:59] 是生物医药领域 对吗 [36:01] 是的 第一步是生物医药 [36:04] 包括制药 靶点发现 老药新用 [36:08] 也包括疾病诊断 [36:10] 很多问题确实是 [36:11] 非常具体领域的问题 [36:13] 所以我们需要一个专门的团队 [36:14] 去找到什么样的问题 [36:16] 是合适去解决的 [36:18] 那很期待你们的下一步 [36:20] 我觉得我们可以说一下 [36:21] 让这个模型解决问题 [36:24] 我发现其实你们也给自己的定位说 [36:26] 你们要做的是 [36:27] discovery model（发现模型） [36:28] 而不是generative model（生成模型） [36:29] 中文说就是 [36:30] 你们要做的是发现的模型 [36:32] 而不是生成模型 [36:34] Beibin你要不要跟大家解释一下 [36:36] 这两个模型 [36:37] 它在根本上的区别是什么 [36:39] 对 让模型提出一个假设 [36:42] 其实并不是特别难的 [36:44] 但是难的就是 [36:45] 提出的这个假设特别的 [36:47] Out of distribution（分布外） [36:48] 就是可能在 [36:49] Pretraining data（预训练数据） [36:50] 在网上比较难找到 [36:52] 或者说比较难想到的一个假设 [36:54] 这是第一 [36:55] 第二个更大的难点是说 [36:58] 我们要怎么样验证这个假设 [37:00] 当然这个跟怎么样做Verification [37:02] 怎么样自我验证 [37:03] 也是强相关的一个部分 [37:06] 所以如果我们把discovery [37:07] 切细来看的话 [37:09] 第一 需要非常有创新性 [37:12] 能提出新的假设 [37:13] 第二 需要能判断这个假设成不成立 [37:16] 当然这里 [37:16] 也有很多不同的方法可以做 [37:18] 比如说可以用 [37:19] DeepResearch的方法 [37:21] 收集已有的信息 [37:22] 找更好的假设 [37:24] 也有可以用写代码或者是 [37:26] Self verification（自我验证）的 [37:27] 这些方法来跑一些实验 [37:30] 如果我们能在计算机上 [37:31] 跑一些比如说模拟的话 [37:33] 也可以让我们对这个提出的新假设 [37:35] 更加有信心 [37:37] 所以discovery的瓶颈 [37:39] 第一就是未知领域 [37:40] 其实很难有标准答案 [37:42] 也很难照这种 [37:43] Simulation environment（模拟环境） [37:45] 得到可信的验证 [37:46] 所以self-evolution（自我进化） [37:48] 是我们通向 [37:48] Heavy Duty Solver [37:49] 和discovery的一个主要方法 [37:52] 对 我们在说到 [37:53] Discovery model的时候 [37:55] 刚刚你提到了 [37:56] 我们要做很多假设 [37:58] 然后要去求证 [37:58] 其实这让我想到了 [38:00] 科学领域最基础的一个方法 [38:02] 就是八个字 [38:03] 大胆假设 小心求证 [38:05] 我觉得这其实也是我自己 [38:07] 开始做记者 做报道的时候 [38:09] 一直在贯彻的一个价值观 [38:11] 就是要大胆假设 提出傻的问题 [38:14] 然后再去求证思路跟这个问题 [38:16] 是不是对的 [38:17] 但是同时 [38:18] 如果我们把这个交给模型的话 [38:20] 大家以前一直对这个模型的印象 [38:22] 就是说一个模型它能从网上 [38:25] 从人类现有的知识库里面 [38:27] 找到已知知识的答案 [38:29] 就已经很不错了 [38:31] 现在模型的智力 [38:33] 怎么样才能够让它做到 [38:35] 理解贯穿人类的知识 [38:37] 同时还能提出问题 [38:39] 因为我觉得这个已经不是说 [38:41] 在让AI去做一个解题者了 [38:43] 这个更像是让AI去做一个科学家 [38:46] 它能够提出问题 发现问题 [38:48] 这个是很难的 [38:49] 对 你刚刚提到的这些 [38:51] 其实是现在的一个难点 [38:53] 因为怎么样训练一个 [38:55] Generative model（生成模型） [38:56] 其实市面上已经有非常多的 [38:58] 可行性方法了 [38:59] 相关的recipe和训练配方 [39:01] 其实也是特别成熟的 [39:03] 但是如何让这个模型 [39:05] 进行一些假设和discovery [39:07] 这个其实是大家还在调 [39:09] 没有完全调通的一件事情 [39:12] 回到刚刚你说的一点 [39:14] 怎么样像科学家一样 [39:15] 在未知中提出问题 [39:17] 这里也可以再往下切细一点 [39:20] 比如说在写代码这个领域 [39:22] 比如说SWE-Verified [39:24] 这种类型的题目 [39:25] 其实我们都是在训练模型 [39:27] 怎么样做一个解题家 [39:29] 但是会提问其实是一个 [39:31] 我们叫做的Meta能力 [39:33] 更高维的一个能力 [39:34] 这个其实也涉及到了 [39:36] 我刚刚说后训练的 [39:37] 一个loop（循环） [39:38] 就是要自我诊断 [39:39] 然后再自我造题 [39:41] 然后再自我训练 [39:42] 你要怎么样在这个模型 [39:44] 现在的回答里面 [39:45] 或者是所有收集的这些信息里面 [39:48] 怎么样诊断出 [39:49] 哪里的能力有问题 [39:51] 或者是哪里的hypothesis（假设） [39:52] 需要往深入更看一下的话 [39:54] 这个是我们接下来 [39:55] 会注重的一个领域和方向 [39:58] 对 在学术界大家都知道 [40:00] 有好的论文跟灌水论文 [40:03] 其实我们也想培养模型 [40:05] 变成一个真正的好的科学家 [40:07] 那么你就需要培养一个 [40:09] 非常好的taste 就是学术品味 [40:13] 你提出一个新的问题 [40:14] 肯定是需要先做DeepResearch [40:17] 找到已有的知识 [40:18] 但是你提出什么样的问题 [40:20] 其实是仁者见仁 智者见智的 [40:23] 你可以提出一个比较 [40:24] 我们叫 [40:25] Incremental（增量式）的问题 [40:26] 它可能比较容易 [40:28] 但是你可以发一个论文 [40:29] 但你也可以提一个比较本质的 [40:31] Fundamental（根本性）的问题 [40:32] 它可能不是那么（容易）解决 [40:34] 但解决了它 [40:35] 真的是能让科学有所突破 [40:38] 所以这个也是我们之后 [40:39] 会进一步训练模型 [40:41] 就是说让它有更好的学术品味 [40:44] 其实训练方法上 [40:45] 可能还是需要跟人类 [40:47] 最顶级的科学家去对齐 [40:50] 这些陈天桥陈总这边 [40:51] 其实也是经常会让我们 [40:53] 和一些顶级的科学家一起去讨论 [40:56] 甚至他们提供一些insight（洞见） [40:58] 或者数据等等 [40:59] 去帮助我们模型有更好的品味 [41:02] 我觉得其实两位也是顶级的科学家 [41:04] 顶级的科学家 [41:05] 大家觉得他们有什么样的共性 [41:08] 比如说我们从他们身上学到的特质 [41:11] 怎么把它转换成一种计算的方法 [41:15] 或者说是跟AI交互的方法 [41:18] 这块大家有什么样的思考吗 [41:20] 我们一般说 [41:22] 什么样的是一个顶级科学家 [41:23] 一般不是看他有多少篇论文 [41:27] 一般是看他最好的论文 [41:29] 质量有多高 [41:31] 所以我们一定要追求顶点 [41:33] 解答这些最本质的问题 [41:34] 所以这个甚至要写在模型宪法里 [41:37] 具体实操上 训练方法上 [41:39] 可能还是目前已有的一些 [41:41] 比如说RLHF 这种人类偏好 [41:45] SFT 监督学习 [41:47] 或者RL（强化学习） [41:48] 这里可能一个最简单的方法 [41:50] 当然就是偏好了 [41:51] 比如说你问一个科学家两道题 [41:54] 他一般是能判断出来 [41:56] 哪个是一个灌水题 [41:57] 哪个不是一个灌水题 [41:58] 你应该让模型去多提一提非灌水题 [42:01] AI现在能判断 [42:03] 哪个是灌水题 [42:04] 哪个是非灌水题吗 [42:05] 只要经过这方面的训练 [42:06] 我觉得还是没什么问题的 [42:09] Beibin你觉得 [42:10] 在跟一些顶级科学家交互的过程中 [42:12] 你有学到什么 [42:14] 以及你觉得这些思想 [42:15] 怎么可以用到模型的训练中去 [42:18] 我想来想去 [42:19] 可能还是品味这一个词 [42:21] 其实AI马上就能进行自我进化了 [42:24] 我对这一点非常坚信不疑 [42:26] 要么是接下来半年 [42:28] 要么是一年 [42:28] 反正在接下来两三年内 [42:30] 肯定自我进化就会成功了 [42:33] 在那个时候 [42:33] 我们还需要顶级的AI科学家干嘛呢 [42:36] 或者是说 [42:37] 我们还需要人类干嘛呢 [42:40] 想来想去就是品味这个（词） [42:42] 因为训练这些不同的模型的时候 [42:44] 我发现了这个品味是真的 [42:47] 同样读完一篇论文之后 [42:49] 你可以想到一个非常小的改进 [42:52] 或者你可以想到一个 [42:54] Substantial improvement [42:55] 就是一个非常长的 非常大的假设 [42:57] 但是要干非常多的活 [42:59] 要迈非常大的步子才能解决的问题 [43:02] 这是一个非常好的例子 其实 [43:05] 我现在觉得 [43:05] 即使是市面上最好的模型 [43:08] 它的品味其实也是远低于 [43:10] 一个普通的AI科学家的 [43:13] 这也是为什么 [43:14] 现在AI写代码写得很好 [43:16] 但是还是不能把模型的训练 [43:18] 全部自动化进行起来 [43:20] 所以我觉得接下来 [43:21] 不管是作为一个 [43:22] 人类AI顶尖的科学家 [43:24] 还是说作为一个researcher（研究员） [43:26] 一个engineer（工程师） [43:27] 在训练这个模型 [43:29] 都是需要把控模型的品味的 [43:31] 这个其实是非常难的一件事情 [43:34] 因为如果大家用过 [43:36] 很多不同种类的模型 [43:37] 大家会发现 [43:38] 所有模型其实有一些通病 [43:41] 它们或多或少都挺喜欢拍马屁的 [43:45] 一个喜欢拍马屁的模型 [43:47] 其实很难提出一个大胆的假设 [43:50] 另外除了拍马屁这个缺点之外 [43:53] 它其实还是有一点 [43:55] 我们叫做hedging behavior [43:56] 或者是一些对冲的行为 [43:58] 就说这也对 那也对 [44:00] 对 用户你说得非常对 [44:02] 刚刚是我的疏忽 [44:03] 但是我说得也没有错 [44:05] 你说得更全面 [44:06] 你想要问其他的问题吗 [44:08] 就我们可以看到这些AI模型 [44:10] 经常会用这样的方法 [44:11] 来回答用户问题 [44:13] 所以我们在训练 [44:15] 不管是说verifier（验证器） [44:16] 还是self-evolve（自我进化） [44:17] 还是discovery的时候 [44:18] 都会对模型的提出假设能力 [44:21] 进行一个后训练 [44:22] 就比如说 [44:22] 这个diagnosis（诊断）里面 [44:24] 但是这也是有另外一个缺点 [44:26] 就是我们怎么样能保证 [44:28] 我们训练的新的模型 [44:29] 不会出现鸡蛋里挑骨头的 [44:31] 那种行为呢 [44:32] 这就是要品味来平衡 [44:34] 就是模型不要拍马屁 [44:36] 也不要鸡蛋里挑骨头 [44:38] 能真的是实打实地 [44:40] 提出一个非常好的假设 [44:41] 然后再像您说的 [44:43] 就是小心验证 [44:44] 把它验证出来这个假设 [44:47] 你刚刚提到了模型拍马屁 [44:49] 用户说什么 它什么就是对的 [44:50] 我确实发现 [44:51] 我在用很多模型的过程中 [44:53] 这是我觉得最痛苦的一部分 [44:55] 就是它不会给你一个事实性的答案 [44:57] 它给你的永远是迎合你的那个答案 [45:00] 这一块是不是跟在训练模型的时候 [45:02] 把这个模型的参数往哪边调 [45:05] 给它注入什么样的人格特质 [45:07] 是有一定关系的 [45:09] 而且每一家模型 [45:10] 其实我觉得大家的风格 [45:12] 细微上都会有一些不一样 [45:14] 对 当然我们Apodex [45:16] 因为不做聊天模型 [45:17] 所以可能会稍微好一点 [45:19] 就是因为我们不管是哪家公司 [45:21] 在后训练的时候 [45:23] 或多或少地会有一个 [45:24] RLHF（人类反馈强化学习）的 [45:25] 一个阶段 [45:26] RLHF它的来源数据 [45:28] 基本上是用户投票的数据 [45:30] 就有点类似于 [45:31] LMSYS Arena那种形式 [45:33] 也有可能是模型训练公司 [45:35] 自己让员工去标的一个 [45:37] Preference 偏好数据 [45:38] 人不是完美的 [45:40] 所以人类作为本身 [45:41] 就会可能有特殊的偏好 [45:43] 比如说偏好 [45:44] 说好话拍马屁的模型答案 [45:46] 可能偏好写得非常强的答案 [45:49] 可能偏好格式上非常的结构化 [45:51] 像有非常多章节 非常多列表的 [45:54] 一个Markdown的格式 [45:55] 即使这个Markdown [45:57] 它本身没有什么实际的意义 [45:58] 就是因为这种人为的一些偏差 [46:01] 才会让这个模型 [46:02] 有不同的拍马屁的行为 [46:04] Apodex因为想做 [46:06] Heavy Duty Solver [46:07] 所以我们不会用 [46:09] 网上大众的这些人类的偏好 [46:12] 来训练这个模型 [46:13] 所以可以或多或少地 [46:15] 避免些许这样的问题 [46:16] 未来我们在训练这个模型的时候 [46:19] 肯定是想要最顶尖的人类 [46:21] 来标这些偏好数据 [46:23] 或者是说给不同的模型答案打分 [46:25] 确保公正公平 [46:27] 也可以从数据源头 [46:28] 稍微解决这些问题 [46:30] 我觉得这几个方向都还挺重要的 [46:33] 你刚刚提到了 [46:34] 既不要拍马屁的模型 [46:36] 也不要鸡蛋里面挑骨头的模型 [46:38] 可能不做拍马屁（的模型） [46:39] 因为你们不做ToC的用户端 [46:41] 这个对你们来说是稍微简单一点的 [46:44] 不做鸡蛋里面挑骨头这一块 [46:47] 你会有经验吗 [46:48] 以及我们知道了两个不 [46:50] 那要做什么样的模型 [46:52] 要把什么样的人格 [46:54] 注入到这个模型里面 [46:55] 大家有什么样的想法吗 [46:57] 对的 刚刚我们其实是聊的品味 [47:00] 我把左和右两个不打出来 [47:02] 中间就是我们要的 [47:03] 就是要有品味的 [47:05] 不管是这个模型通过research [47:07] 找到了一些相关的信息 [47:10] 还是通过写代码得到了一些答案 [47:12] 有了这些所有的原始材料之后 [47:15] 这个模型要通过自己的思考 [47:17] 自己的推理 [47:18] 来给出一个相对比较合理的解释 [47:22] Agent Team（智能体团队）的话 [47:23] 其实也能稍微把这个问题解决一点 [47:27] 拍马屁这个事情 [47:28] 我们其实在做的就是说 [47:30] 用户让我们做的事情 [47:31] 但如果我们觉得不合理 [47:33] 那么我们应该告诉用户 [47:35] 我们不应该去拍马屁 [47:36] 我们其实是有一整个系统 [47:39] 去达到这样的目的的 [47:41] 包括我们的Constitution AI [47:44] 就是说我们这个宪法概念 [47:46] 应该是Anthropic几年前就提出来了 [47:48] 这个给我们整个模型 [47:50] 定义了一个性格 [47:51] 这个我们都是把这种性格 [47:53] 训练在模型的权重里了 [47:55] 去实现它 当然还有很多 [47:57] 比如说我们注重真实性 [47:59] 比如说如果用户说错了 [48:00] 我们要去纠正他 [48:01] 那这样的里面的细节 [48:02] 就是通过验证 verification [48:05] 或者Agent Team整个的形式 [48:07] 或多或少会去验证 [48:08] 用户说得对还是不对 [48:09] 然后我们会去反驳他 [48:11] 至于什么样的问题是好问题 [48:13] 就是不在鸡蛋里挑骨头 [48:15] 这个确实是一个品味问题 [48:17] 这可能你甚至让我们去写一个宪法 [48:21] 或者写一个文档 [48:22] 告诉你什么是好问题 [48:24] 什么是不好问题 [48:25] 也是很难写出来的 [48:27] 这方面更多的还是通过 [48:29] 和顶级科学家去聊 [48:31] 以及顶级科学家提供的一些 [48:33] 比如说偏好数据等等 [48:34] 去培养这样的品味 [48:36] 其实这个也是和 [48:38] 平时我们在学校培养PhD [48:40] 是一样的 [48:40] 比如他们来问我们 [48:42] 是什么样的一个题目值得做 [48:44] 什么不值得做 [48:45] 我们也会告诉他 [48:46] 确实我们公司有这种 [48:49] 能接触到各行各业的 [48:51] 顶级科学家的资源 [48:52] 这是非常重要的一点 [48:53] 所以这也是陈天桥陈总 [48:56] 从一开始的一个愿景 [48:57] 就是说我们从一开始 [48:58] 就要做Heavy Duty Solver [48:59] 所以我们就需要和顶级科学家 [49:01] 进行对齐 [49:02] 然后去培养这样的品味 [49:04] 这点提得特别好 [49:06] 我确实知道陈天桥先生这边 [49:07] 跟很多主流顶级科学家 [49:09] 都保持着非常密切的联系 [49:12] 我在想 因为人类的顶级科学家 [49:14] 这个数据量的样本是非常小的 [49:17] 我们说大模型 它大很重要 [49:19] 就有scaling law（规模化法则） [49:21] 顶级科学家人工去判断的 [49:23] 品味标注的数据 [49:25] 跟用更大量的数据去训模型来比 [49:28] 在里面它能贡献的 [49:30] 核心的比例是多少呢 [49:32] 因为它的数据样本还是很小 [49:34] 是的 [49:35] 从数据这个角度来说 [49:36] 预训练方面确实需要大量的数据 [49:39] 所以才有scaling law [49:40] 后训练相对来说需求会少一些 [49:43] 而且现在已经有更多的方法 [49:45] 去把一个人类的品格或者性质 [49:48] 总结出来 [49:49] 比如说Meta最近 [49:51] 也是在蒸馏员工等等 [49:53] 其实也在蒸馏 [49:54] 他们的性格或行为习惯 对吧 [49:56] 所以其实最近越来越多的 [49:58] 还是说把人类的一些品格 性格 [50:02] 去总结出来 [50:03] 还是慢慢地可以做到的 [50:04] 这也是一个比较新的方向 [50:06] 就是说一个个体他的能力 性格等等 [50:10] 能不能用一些自然语言 [50:12] 或者说一些方式 [50:14] 把它转化到 [50:15] 让大模型可以去利用起来 [50:19] 我记得在音乐模型刚刚兴起的时候 [50:22] 就是Suno的那一波 [50:24] 当时我有问 [50:25] 做这个音乐模型的科学家 [50:28] 我说Suno做的歌太一般了 [50:30] 我觉得它就是一个大街上的口水歌 [50:33] 我说它能做出像周杰伦 [50:36] Taylor Swift [50:37] 这些非常好的 [50:39] 有很好品位的歌曲吗 [50:42] 他当时给我的答案是 [50:43] 他说可以 [50:44] 但是这个事情它不是受限于技术 [50:46] 它是受限于版权 [50:47] 因为版权的因素 [50:48] 他们不敢拿 [50:49] 顶级音乐人的歌曲去训练 [50:51] 所以他们用的 [50:52] 就都是那种版权库里面 [50:54] 一些简单配乐的歌 [50:56] 但是如果你真的用这些 [50:57] 人类最精华 最好的歌曲去训的话 [51:02] 他觉得是完全可以训出来的 [51:04] 如果我们说 [51:05] 用顶级科学家的品味去训模型 [51:07] 是不是也是同样的道理 [51:09] 对的 我很同意这一点 [51:11] 我们人类也是从 [51:13] 比如说一个婴儿开始 [51:15] 最后有的就成为了顶级科学家 [51:17] 尤其成为顶级科学家这条路 [51:18] 其实也是别人给他的这些反馈 [51:21] 告诉他什么是好的 什么是不好的 [51:23] 而且得到的数据也并没有那么多 [51:25] 我们还是相信通过顶级科学家 [51:28] 给我们的这些指导 [51:29] 我们可以拥有顶级科学家的品味 [51:33] 对 然后我注意到 [51:35] 其实想让AI去做科学家 [51:37] 自己去做发现的模型 [51:39] 几乎也是所有的 [51:40] 现在我们说顶级模型公司都在做的 [51:42] 比如说OpenAI它已经把 [51:45] 能自己扛下一个大型研究课题的 [51:47] AI研究员 [51:48] 定成了未来几年的头号目标 [51:51] DeepMind它创立的那天起 [51:53] 它也是为科学而生的 [51:55] 我们之前讲过DeepMind的 [51:56] 创始人的历程 [51:57] 大家有兴趣的话 [51:58] 可以回听一下我们那一期的播客 [52:01] AlphaFold它还拿了诺奖 [52:03] 现在包括Gemini [52:05] 它也是说自己要去做多智能体的 [52:07] Co-scientist [52:08] 就是共同合作开发的科学家 [52:11] 同时Anthropic它的Dario [52:13] 他也想要有一个国家级的 [52:16] 科学家的天才 [52:17] 所以我听上去 [52:19] 现在所有的顶级模型公司 [52:21] 都想去做科学家 [52:23] 都想让AI去做发现 [52:25] 去提出好的问题 [52:27] 你们觉得Apodex [52:29] 它的核心优势是什么呢 [52:30] 我觉得不做ToC类的模型 [52:32] 应该也可以算是一个核心优势 [52:34] 因为它可以去调一个模型的权重 [52:37] 还有其他的吗 [52:38] 就这个战场是相当激烈的 [52:40] 你们进入了最激烈的战场 [52:41] 这个我很同意 [52:43] 但这个战场的首先价值是很大的 [52:45] 因为它真正解决了 [52:46] 一种难的科学问题 [52:48] 它是有很大意义的 [52:49] 另外科学问题 [52:50] 其实还是一个非常广的 [52:52] 因为这个世界上有那么多学科 [52:54] 其实你解决其中几个问题 [52:57] 就已经足够说是一个很大的突破了 [53:01] 所以我觉得不止一家公司 [53:02] 可以成功了 [53:03] Apodex这边的优势 [53:05] 我觉得就是我们比较专注 [53:07] 一是就像你说的 [53:09] 我们不是一个聊天机器人这样的模型 [53:11] 我们基本也不取悦用户的 [53:13] 一些特别的偏好 [53:15] 其实到现在大模型的整个发展 [53:17] 比如说训练的各种方法 [53:20] 或者这些配方算法什么的 [53:22] 大家也都知道的大差不差 [53:24] 更多比拼的就是一种执行力 [53:26] 以及整个组织架构 [53:28] 我觉得我们这边自上到下 [53:30] 从陈总那边开始 [53:31] 他自己也是一个非常非常卷 [53:33] 整天会和我们进行交流 [53:35] 整天会和AI进行交流 [53:38] 并且给我们不管从方向上 [53:40] 还是一些其他方面 [53:41] 都是提供很多指导以及帮助 [53:43] 我们下面执行力都很强 [53:45] 因为我们还是一个非常小的 [53:47] Startup culture（初创文化） [53:48] 所以我们还是比较专注 [53:49] 就做好这一件事情 [53:50] 做一个Heavy Duty Solver [53:52] 我觉得从组织形式上 [53:54] 我们还是和大厂 大公司相比 [53:57] 有很大优势 [53:58] 我们这边摩擦也比较小 [54:00] 交流成本也很低 [54:01] 这些或多或少都是很重要 [54:03] 对于一个大模型公司 [54:05] 能快速发展的关键 [54:07] Beibin有补充吗 [54:08] 我其实做所谓的 [54:09] AI for science（AI赋能科学） [54:10] 这个概念已经做了有十多年了 [54:13] 我在读博士之前 [54:14] 就在做AI for science [54:16] 当时主要是在医疗行业 [54:17] 和自闭症用AI [54:19] 其实刚刚你说的 [54:20] 现在很多公司都开始往 [54:22] AI for science做 [54:23] 我其实觉得并不是一个竞争 [54:26] 反而我觉得看到的是希望的曙光 [54:30] 因为过去十几年来说 [54:31] 科学技术或者说IT技术 [54:34] For science（科学研究） [54:35] 其实是没有太多真实 [54:37] 非常scalable（可扩展）的成果的 [54:39] 但是因为LM（语言模型） [54:40] Generative model（生成模型） [54:41] 和discovery model（发现模型）的 [54:43] 技术的提升 [54:44] 我觉得在未来 比如说5到10年 [54:46] 真的做出非常有科研价值 [54:49] 和现实意义的成果 [54:50] 是有非常大的希望的 [54:52] 这个世界上所有的科研问题 [54:54] 是无限的 [54:56] 或者是说有价值的科研问题 [54:58] 也是无限的 [54:59] 但是我们人的精力是有限的 [55:01] 整个世界的GPU也是有限的 [55:04] 要怎么样在有限的 [55:05] Resource和资源里面 [55:07] 找到最有价值的问题去解决 [55:10] 这个才是最重要的一步 [55:12] 所以Apodex有一个HDD团队 [55:15] 叫做Heavy Duty Discovery [55:16] 这个团队 [55:17] 我们是有全职的员工 [55:19] 跟不同的顶级科学家交流 [55:21] 再从几千个科研问题里面 [55:23] 找到最有价值的问题来做 [55:26] 这个可能是我们Apodex [55:28] 和市面上一些其他不同公司的 [55:30] 一个比较大的区别吧 [55:33] 我觉得你这一点讲得特别好 [55:34] 真的是我们说 [55:36] AI for Science [55:37] 科学问题它是无穷无尽的 [55:38] 刚刚我们提到了生物医药 [55:40] 我们之后还会有一期 [55:42] 会专门聊DeepMind [55:43] 他们是怎么去做 [55:44] 自己的生物医药大模型的 [55:47] 那DeepMind这条线也很有意思 [55:49] 它从最早去解决蛋白质怎么折叠 [55:53] 到现在它是预测 [55:55] 药物和蛋白怎么结合的 [55:57] 而且我觉得它也只解决了 [55:59] 新药研发流程上偏上游 [56:02] 就是计算预测的这一段 [56:04] 它离真正把药做出来送进临床 [56:07] 中间还是有一个巨大的空间的 [56:09] 但是光就这一段 [56:10] 它已经是撑起30亿美元的融资了 [56:13] 所以哪怕我们说都做生物医药 [56:16] 它这个里面的问题也是无穷大的 [56:19] 所以科学问题还是很广阔的 [56:21] 包括我们之后还说有什么物理问题 [56:23] 探索太空的问题 材料的问题 [56:25] 对 无穷无尽 [56:26] 对的 另外我再补充一点 [56:28] 就是我们Apodex [56:30] 不是做AI for Science [56:31] 只不过AI for Science [56:33] 跟Heavy Duty Solver [56:34] 有非常大的重叠的地方 [56:36] 所以我们就会聚焦上 [56:38] 比如说医药领域和生物领域 [56:41] AI for Science [56:42] 跟Heavy Duty Solver [56:43] 这两个你能不能简单解释一下 [56:45] 你们做的方向上的区别是什么 [56:47] 现在有很多模型 [56:48] 它们叫垂域模型 [56:50] 就他们真的是会用大量 [56:52] 某一个具体领域数据 [56:53] 去训练这个模型 [56:55] 在这一个领域里的能力 [56:57] 但我们这边的 [56:58] Heavy Duty Solver [56:59] 我们还是一个比较通用的模型 [57:02] 我们会强调一些特别的元能力 [57:05] 包括验证能力verification [57:07] 包括分析能力 搜索 [57:09] 还有计划planning这样的能力 [57:10] 这些元能力 [57:11] 我们相信是对真正的一些难题 [57:14] 都是有意义的这些能力 [57:16] 这是我们会去着重训练的 [57:17] 但我们不太会 [57:19] 针对某一个特别的领域 [57:21] 比如说生物 我们会放50%的data [57:23] 这个是我们不会去做的 [57:26] 刚刚Beibin你提到的有一个小细节 [57:29] 我非常感兴趣 [57:30] 就是你说AI还有半年 [57:32] 它就能完成自我的进化跟提升了 [57:34] 这句话我当时觉得很有意思 [57:36] 但是你能不能详细地解释一下 [57:38] 它是什么意思 [57:39] 我说的半年是说最快可能半年之内 [57:42] 能开始把闭环跑通 [57:44] 闭环的话 [57:45] 我觉得难度最大的其实是 [57:47] Post training（后训练） [57:48] 我觉得在半年之内 [57:49] 它这个闭环能跑出一环 [57:51] 如果说RSI [57:52] 这个R是recursive（递归） [57:53] 要跑很多很多环 [57:54] 但我觉得它跑完一环 [57:56] 应该是半年到一年左右就能做完 [57:58] 就比如说我们这个模型 [58:00] 可以在随便一个领域 [58:02] 比如说 [58:02] Coding for material science（材料科学编程） [58:04] 可以在这里面发现自己写的代码 [58:06] 会有什么问题 [58:07] 会造很多这样的训练环境 [58:09] 和训练数据 [58:10] 在此基础上自我验证 [58:12] 是否这道题训练完之后是有提升 [58:15] 以此迭代 [58:16] 它这样迭代一个loop 一次循环 [58:19] 我觉得半年之内应该是能成功的 [58:22] 因为Anthropic在这几个月 [58:24] 也发过一篇博客文章 [58:26] 说大概80%的代码是（它）写的 [58:28] 但是现在有一些问题 [58:29] 这个问题 [58:30] 即使是现在市面上最强的模型 [58:32] 也没有完全解决 [58:34] 但是从我们最近的 [58:35] 一些观察和训练的结果来看 [58:38] 我觉得很快就会有一些突破了 [58:40] 他指的问题是什么 [58:41] 就是没有解决的问题 [58:43] 当然这个问题有很多 [58:45] 但我觉得让我睡不着觉的 [58:47] 一个问题就是 [58:48] 我们怎么知道 [58:49] 这个模型在自我进化的时候 [58:51] 它是满足人类的需求 [58:54] 它没有跑偏 [58:55] 这个跑偏可以是说 [58:57] 在安全上面的跑偏 [58:58] 也可以是说在目标上的跑偏 [59:01] 如果我们只是简单地说 [59:03] 你给我造一个更好的 [59:04] 做材料科学的一个模型 [59:06] 或者是一套算法 [59:08] 它可能真的造出来了 [59:10] 但是它在你没有观测的一些点 [59:12] 就比如说成本 [59:13] 或者是说在一些其他的 [59:15] 比如说疏水性这种性能上 [59:17] 可能会有非常大的一些妥协 [59:20] 这个是我比较担心的 [59:21] 因为人和人交流的时候 [59:23] 一般说需求会说得比较的模糊 [59:26] 但是特别是在训练模型的时候 [59:28] 如果你跟模型 [59:29] 或者是说这个evolution（进化） [59:30] 说得比较模糊的话 [59:32] 它可能就会 [59:33] 这个用户让我迭代写代码的能力 [59:36] 但我这边碰到了一个瓶颈 [59:38] 但是不管怎样 [59:39] 让我换一个方法来达到这个目标 [59:42] 我们要对模型这个行为 [59:44] 进行一个监控 [59:45] 是让我觉得最大的一个问题 [59:47] 你觉得现在某种程度上 [59:49] 这两个问题 一个是安全 [59:51] 一个是它达到目标不择手段的 [59:53] 这两个能力 [59:54] 这两个问题现在解决了吗 [59:56] 我个人看来还是没有解决 [59:58] 但我还是一个非常乐观的人 [60:01] 所以我觉得 [60:01] 应该是很快就会有解决方法了 [60:04] 你刚刚提到 [60:05] 这是一个让你睡不着觉的问题 [60:07] 从你的角度来说 [60:08] 有哪些方向的解决方案 [60:10] 会让你现在觉得稍微安心一点 [60:12] 我们当然能想到的 [60:13] 一个是穷举尽可能多的可能性 [60:15] 但是这个看起来是不是有点笨 [60:18] 对 这里也是为什么 [60:19] 我们还没有完成全自动化 [60:21] 我其实现在做的最多的一件事情 [60:24] 就是在每天工作时间 [60:26] 读这个模型的输出 [60:27] 和读智能体的每一步的操作 [60:30] 确保它每一步的操作 [60:31] 或者是说整一个大概 [60:33] 都在我可以理解 [60:34] 可以控制的范围之内 [60:36] 一旦我发现 [60:37] 比如说它这里有一些 [60:38] 比较蠢的一些行为 [60:40] 或者是说我感觉有一点不太对的 [60:42] 一些解决方法 [60:43] 我就会赶快停下这个智能体的循环 [60:46] 稍微手动地改一改 调一调 [60:49] 让它进行进一步的一个提升 [60:51] 这个就是刚刚我们说到的蠢方法 [60:54] 但是我现在是手调 [60:56] 未来能不能有一个智能体代替我 [60:58] 帮我做手调 [61:00] 就是现在大家提的很火 [61:02] 也是很搞笑的一个概念 [61:03] 就是员工蒸馏 [61:05] 能不能把我每天做的事情 [61:07] 蒸馏到这个智能体里面 [61:08] 或者是甚至蒸馏到 [61:10] 这个模型的capability（能力）里面 [61:12] 我觉得这个想法 [61:13] 虽然说大家是说笑话 [61:15] 但我觉得是可行的 [61:16] 如果我们在三个月之内 [61:18] 能把我 或者是说我的同事 [61:20] 蒸馏到Apodex的模型里面 [61:22] 或者是我们的脚手架里面 [61:24] 其实有很多 [61:25] 我们现在每天在做的事情 [61:27] 不管是读代码 改代码 [61:29] 还是读模型的输出 [61:31] 读智能体的输出 [61:32] 都是能加速自我进化 [61:34] 自我迭代的流程的 [61:35] 我们假设 真的把Beibin蒸馏了 [61:38] 你会担心自己失业吗 [61:40] 说不担心肯定是假的 [61:42] 但是即使我担心 [61:43] 我其实还是乐观的 [61:45] 当然了 不同的人有不同的例子 [61:47] 什么有汽车代替马车的例子 [61:50] 有什么AT&T自动转接机的例子 [61:53] 但其实我觉得这一次 [61:55] 可能跟之前的工业革命 [61:57] 有点不太一样 [61:58] 我确实有点担心自己会被代替 [62:01] 我记得非常非常清楚 [62:02] 2021年我就开始有这个担心了 [62:05] 当时是GPT-3年代 [62:07] 连GPT-3.5都没有 [62:08] GPT-3被微软放到了 [62:10] GitHub Copilot里面 [62:12] 当时我打了一个函数的名字 [62:14] 它能把整一个函数给我补全 [62:17] 当时我还在读博士的最后一年 [62:19] 我就觉得 [62:20] 我整个人就瘫在椅子上了 [62:22] 我觉得完蛋了 我毕业即失业 [62:24] 我整一个PhD [62:26] 整一个博士学的东西 [62:27] 它都能一行帮我补全 [62:29] 那我以后是不是就没工作了 [62:31] 但是你看现在五年之后我还在这里 [62:33] 我还有工作 [62:34] 只不过我日常每天做的工作不一样了 [62:37] 我不再一个函数一个函数地写代码 [62:40] 而是我会在更高的一个维度 [62:42] 更高的一个层面 [62:44] 监控不同的智能体写代码 [62:46] 所以 对 [62:47] 这个模型会取代我今天做的事情 [62:50] 但它不一定能取代 [62:51] 我五年之后会做的事情 [62:53] 对 你刚刚提到了 [62:55] 你每天在给模型 [62:56] 去评判它的质量行不行 [62:58] 然后去再做验证的这些工作 [63:00] 如果未来有了一个 [63:02] 假设Beibin的AI agent [63:03] 它可以带你去做 [63:05] 监督 校验 验证的环节以后 [63:08] 那其实相当于 [63:09] AI就开始自己变成了一个考官 [63:13] 它所有的行为 [63:13] 都是在模仿你的行为 你的品味 [63:16] 你的价值观 [63:17] 去做类似的判断 [63:19] 那是不是说 [63:20] 当有了这样的一个AI以后 [63:22] 整个这一套就是 [63:24] 让AI去验证的RSI [63:26] 它的闭环就跑通了 [63:28] 这就是你说的 [63:29] 还有半年的时间可以做到 [63:30] RSI的SI（自我提升）就跑通了 [63:33] R可能还要再多花个一年 两年 [63:36] R是什么 [63:37] R是recursive（递归） [63:38] 就是把它这个迭代起来 [63:40] 因为现在即使我们跑通了 [63:41] 我们每一次迭代之后 [63:43] 或者说每几次迭代之后 [63:44] 我们其实还是要人为地去看 [63:47] 有没有recursive drift [63:49] 漂移的问题 [63:50] 所以半年 一年 [63:52] 我们可以解决这个循环 [63:53] 但是没有办法完全地解决漂移 [63:56] 但是我还是有信心几年之内 [63:58] 这个漂移的问题 [63:59] 也可以把它完全解决 [64:00] 现在我们把这个漂移问题 [64:02] 可以不停地缩小 [64:03] 假设现在普通的模型 [64:05] 每一次可以漂移10% [64:07] 如果我们能把这个漂移降到1% [64:10] 那就会很好了 [64:11] 但是我们未来的目标 [64:12] 是把它降到0.1% 甚至0.01% [64:16] 这样我们可以非常有信心 [64:17] 这个模型自我迭代 [64:19] 比如说3个月 6个月之后再回来看 [64:22] 它有没有超过 [64:23] 相当于我们monitor（监控） [64:24] 我们监控的周期不需要这么频繁了 [64:27] 了解了解 对 [64:29] 那这个应该是整个业界 [64:31] 基本上是一个共识 [64:32] 大家都在往这个方向走 [64:34] 你觉得在整个走的过程中 [64:36] 其实我们刚刚提到了 [64:37] 现在AI自我进化最后的一道坎 [64:40] 一个是提出问题的品味 [64:41] 一个是判断结果可不可信 [64:43] 其实这两个方向你们都在押注 [64:45] 一个是发现 一个是验证 [64:48] 你觉得这个品味它是谁的品味 [64:51] 它是科学研究员的品味 [64:53] 还是说它是创始人的品味 [64:55] 这之间它是怎么互相体现的 [64:58] 这是一个很好的问题 [64:59] 我觉得现在来说 [65:01] 大部分是AI研究员的品味 [65:03] 但是研究员的品味是被 [65:06] 我们叫做indirectly（间接地） [65:07] 被创始人的品味影响的 [65:09] 因为陈天桥陈总 [65:11] 他在选择研究员的时候 [65:13] 肯定会根据自己的品味选择研究员 [65:16] 但是这一些我其实都不担心 [65:19] 因为品味没有对或者是错的区别 [65:22] 也没有好或者坏的区别 [65:23] 就只有适合和不适合的区别 [65:26] 这是第一 [65:26] 第二是不管怎么样 [65:28] 这个模型 [65:29] 虽然说现在是用我们的数据 [65:31] 或者是说 [65:31] 我个人来监控这个模型的行为 [65:34] 但是未来我相信 [65:36] 我们把这个线放长一点 [65:38] 放到五年之后 [65:39] 可能我们的品味 [65:40] 对这个AI模型的影响会越来越小 [65:43] 就像AlphaGo在最初训练的时候 [65:46] 是受到训练数据 [65:47] 或者是说棋谱的影响很大 [65:50] 但到AlphaZero出来之后 [65:52] 它已经不是从人类的品味中 [65:54] 学习这个技术了 [65:55] 而是会自我品味 自我回放 [65:58] 自我推理来学习 [65:59] 它有自己独特的一套品味 [66:03] 所以AI会在它整个过程中 [66:05] 再通过RSI这个R形成自己的品味 [66:08] 没错 我觉得我们的品味只是一个 [66:10] 我们如果放在训练这个语言里面 [66:13] 叫做warm start（热启动） [66:14] 就只是给它热启动了一下 [66:16] 以后AI会有自己的品味 [66:19] 你刚刚提到了陈天桥先生 [66:21] 对Apodex的品味 [66:23] 具体他在工作上 [66:24] 主要是关注在哪些方向 [66:26] 他怎么样去保证 [66:27] 大家研究的焦点 [66:28] 始终是在一些重要的问题上 [66:31] 这也是一个很好的问题 [66:33] 陈总在战略方面有非常多的把控 [66:36] 也经常跟我们开会聊和研究 [66:39] 以及对齐我们的所有的战略方向 [66:42] 因为我们都有不同的背景 [66:44] 比如说我之前做过很多年的 [66:46] AI for Science [66:47] Simon之前做过很多年的强化学习 [66:50] 我们总会把之前在学校 [66:52] 或者是说学术界的一些习惯 [66:55] 带到Apodex [66:56] 这个时候陈总就可能会发现 [66:58] 我们的一些押注 [67:00] 可能和公司的大战略方向 [67:02] 不是特别对齐 [67:03] 这个时候陈总一般都会跳进来 [67:05] 跟我们开个会 [67:06] 指出我们的一些错误 [67:08] 或者是哪里偏离了公司的使命 [67:10] 会把我们掰正到正确的道路上 [67:13] 能举一个具体的小例子吗 [67:15] 比如说 [67:16] 我们Heavy Duty Solver [67:18] 本身它应该有很强的推理能力 [67:21] 所以当你碰到一个问题的时候 [67:23] 你应该先去把这个问题分解 [67:25] 再去进行搜索 搜集相关的信息 [67:27] 再去总结这些信息 [67:29] 然后去给出答案 [67:30] 这是比较合理的 [67:31] 一个Heavy Duty Solver [67:32] 或者一个比较强的 [67:34] 注重推理能力模型的行为 [67:37] 但是我们之前很多的时候 [67:40] 为了注重它的搜索能力 [67:41] 所以我们放入了很多 [67:43] 搜索的相关的数据 [67:45] 模型的行为 [67:46] 会上来就去进行搜索 [67:48] 而不是上来先去仔细思考 [67:50] 这样的问题 [67:51] 把它分解成一些子问题 [67:52] 然后再进行搜索 [67:54] 所以这从行为上 [67:55] 陈天桥陈总自己去用这个模型 [67:57] 他就能看出来 [67:58] 这个模型的行为并不是真正的 [68:00] Heavy Duty Solver的 [68:01] 这样的一个行为 [68:02] 所以从这个时候 [68:03] 我们就要去改变这个方向 [68:05] 首先我们要去改行为 [68:06] 不管从数据 [68:07] 还是从agent等等形式上 [68:09] 这里也涉及到我之前说过的 [68:11] 我们模型的宪法 [68:12] 基本上也是陈总自己制定的 [68:14] 这个我们也是用到了 [68:15] 比如说模型的训练 [68:17] 各种调优里面 [68:18] 都会用到陈总参与撰写的 [68:20] 这个Constitution（宪法） [68:22] 了解 之前我知道两位 [68:24] 马斯克也是大家的老板 [68:26] 你们觉得马斯克的风格 [68:28] 跟陈天桥先生的风格 [68:29] 有什么不一样吗 [68:31] 我觉得他们性格来说是比较类似的 [68:34] 但是陈总他的眼光 [68:37] 或者是说对看待问题的方法 [68:39] 跟马斯克很不一样 [68:41] 比如说陈总非常注重 [68:43] AI for science [68:44] 或者是说 [68:44] Heavy Duty Solver [68:46] 马斯克其实之前 [68:47] 跟我们说过非常类似的话 [68:49] 当然他的原话不是heavy duty [68:51] 他会用一些其他的术语说 [68:54] 但是说的话和做的事 [68:56] 其实不太一样的 [68:57] 就比如说大家可以看到 [68:58] 马斯克特别喜欢 [69:00] 在X和推特上发文 [69:02] 他经常用AI做一些小的 [69:05] 比如说画一些图 [69:07] 或者是回答一些问题 [69:08] 马斯克对这些非常上心 [69:11] 他甚至之前可能会每一周 [69:13] 都会问一下Grok for X [69:15] 发展进步得怎么样了 [69:16] 所以他其实是非常注重 [69:18] Chat的这个功能的 [69:19] 但是陈总就是 [69:21] 他说的和做的其实是非常一样 [69:23] 他口上说非常看重 [69:25] Heavy Duty Solver [69:26] 那他的重点 [69:27] 就是 Heavy Duty Solver [69:28] 他对做聊天模型 视频生成 [69:31] 图片生成 一点兴趣都没有 [69:33] 所以这个我觉得是非常对齐的地方 [69:36] 非常专注 [69:37] 对 陈总这边基本上从头至尾 [69:40] 一直就是强调 [69:41] 做Heavy Duty Solver [69:42] 也跟我们说像图片 视频生成 [69:45] 和这个目标基本上是正交的 [69:48] 所以我们根本就不做这些方向 [69:50] 谢谢大家 [69:51] 我觉得这期非常精彩 [69:56] 在聊完这集节目的时候 [69:57] 我始终在想品味的问题 [70:00] Simon的那句 [70:01] 顶级科学家不是看发了多少论文 [70:04] 而是看最好的那篇论文的质量有多高 [70:07] 他其实点出了一个更大的问题 [70:09] 就是说如果现在AI的品味 [70:12] 它是从人类顶级科学家 [70:14] 那里的热启动的 [70:16] 那么这个品味它本质上可以说 [70:18] 还是被少数人去塑造的 [70:20] 那么未来这些面向更加普罗大众的 [70:24] 比如说这些ToC的AI [70:26] 它们到底应该代表谁的价值观呢 [70:29] 关于AI的哲学思考 [70:31] 也是我们这个时代急需的讨论 [70:33] 大家有什么样的评论与想法 [70:36] 欢迎给我们留言 [70:37] 播客的听众可以通过小宇宙 [70:39] 苹果播客 喜马拉雅 [70:41] 蜻蜓FM Spotify 来收听我们 [70:43] 视频的听众可以通过 [70:45] 哔哩哔哩和YouTube [70:47] 搜索“硅谷101播客”来找到我们 [70:49] 我是泓君 感谢大家的收听