Scale与ALE学者揭秘数商淘金热 私有资产与RL环境重塑千亿估值

Scale与ALE学者揭秘数商淘金热：私有资产与RL环境重塑千亿估值 随着纯文本标注红利见顶，AI数据商核心壁垒已转向采购真实工业资产与搭建长程强化学习环境，但在基准测试失效与数据造假博弈下，持续研发而非资产囤积成为生存唯一解。 节目深入剖析了AI数据服务商从传统“看图打标”到提供Rubric评分标准和强化学习（RL）交互环境的范式转移，并探讨了不同基因数商（招聘平台派、众包派、合成派与垂类经纪商）的竞争壁垒。两位嘉宾揭开了评测基准（Benchmark）与卖数据之间既互相依存又暗藏利益冲突的商业闭环，指出好评测应反映核心通用认知缺陷或真实应用场景，而非单纯刷榜。对话还探讨了垂直私域数据采购面临的版权天价与合规困境、大模型实验室依赖外部数商的组织原因，以及长程自我改进（RSI）、奖励作弊防范和SWE-bench等基准失效背后的深层技术挑战。 AI数据交付形态正从早期的文本打分与静态Rubric全面转向可执行的强化学习（RL）沙盒环境，要求智能体能够在虚拟环境中调用API与真实工具并接受多维验证。 (10:44) 大模型数据初创企业估值暴涨，AfterQuery在不到半年内估值飙升10倍达32亿美元，而老牌数商Scale AI与Mercor估值已分别迈入290亿美元与100亿美元俱乐部。 (1:07) OpenAI停止报告SWE-bench Verified分数，揭开了评测中任务设计缺陷与深层代码数据污染并存的行业顽疾，导致单纯刷榜不再能客观反映前沿模型的实际工程能力。 (48:20) 私募股权基金（PE）正在探索新的套利模式：通过收购传统垂直行业公司并部署AI降本，同时提取企业内部沉淀的高价值私有数据资产高价转售给大模型厂商。 (54:01)

大模型训练数据赛道正从通用文本与人工打标，转向构建高门槛的强化学习（RL）交互环境与专业工作流；何允中与孙一铀指出，在数商估值狂飙背后，行业正面临真实私域数据采购艰难、评测集污染失效以及顶尖专家激励机制博弈等深层挑战。 交付范式演进：从静态打分到强化学习沙盒 (10:44) 随着静态文本与专家评分细则（Rubric）红利见顶，大模型训练重心正向具备工具调用能力的智能体（Agent）转移。数据公司的核心交付物已从简单的文本评分卡，进化为集成了真实文件系统、隔离运行网络与 API 依赖的交互式强化学习（RL）沙盒，验证逻辑也从主观核验拓展为程序化状态探测与混合验证机制。 针对外界关于工作流与代码数据的讨论，孙一铀与何允中强调，绝大多数复杂行业的业务工作流（如工业制造中的 3D 建模）并非脱离代码，而是通过底层 API、脚本或扩展协议操纵真实工具。代码是 Agent 的执行媒介，现实专业工作流有 95% 以上在本质上都可以被定义和转化为代码交互问题。 评测与卖题的共生闭环及其数据污染危机 (20:03) 评测（Benchmark）在衡量模型能力缺陷的同时，也形成了“出题立威、顺势卖题”的商业闭环，甚至诱发个别数据商打包出售测试集以套现。孙一铀警示称，Benchmark 应面向未来难题，而训练数据解决当下能力补充，将测试集变现不仅摧毁评测公信力，更会直接污染客户模型。何允中认为，具有长期投资回报率的评测应当反映通用认知缺陷或贴合高价值真实业务场景。 针对 2026 年 2 月 OpenAI 停止汇报 SWE-bench Verified 分数的行业事件，何允中指出该基准失效的主因不仅是数据污染，更是任务设计缺陷：测试脚本过于死板、描述歧义导致出现大量“假错误”，顶尖模型在 6 个月内仅从 74% 微增至 80%。当基准的剩余差距由题目质量而非模型推理能力决定时，榜单便失去了横向对比的标尺意义。 私域数据高墙：垂类采购困境与资本并购 (35:50) 在生物制药、游戏开发及严肃工程等非公开领域，数据采购面临极高壁垒。孙一铀透露，团队为 Agents’ Last Exam（ALE）采购一款数千玩家体量的游戏源码时，对方开出了两三百万人民币的高价；而基于《自然》子刊梳理出的 3000 多个生物学工作流子节点中，现有公开评测的覆盖率尚不足 10%，数据获取严重匮乏。 面对私有数据的结构性稀缺，大模型实验室受限于研发排期与客户利益冲突，难以深入陌生行业自建数据体系。何允中披露，这促使私募股权（PE）机构衍生出新业态：通过收购具备深厚壁垒的传统企业，引入 AI 流程降本提效，同时提取沉淀多年的专有业务数据高价转售给数商，开辟出双重溢价的退出路径。 专家供给瓶颈：名利激励分流与防造假博弈 (50:02) 获取各行业顶尖专家的隐性经验是数据生产的上游核心。孙一铀分析，商业数据平台主要依赖每小时 100 至 200 美元的劳务报酬，受限于预算与时薪天花板，难以打动殿堂级专家；学术评测项目（如 ALE）凭借开源声誉与论文署名权聚合了高水平专家，但也面临个别贡献者利用 Agent 批量伪造数据以换取署名的道德风险。 对于专业领域潜伏极深的虚假数据，依赖同行复审成本极其高昂。何允中提出，行业未来需要设计机制更协同的激励体系，例如引入“工作量证明”（Proof of work）逻辑，强制要求专家提交全流程实操轨迹与操作痕迹，使伪造成本显著高于真实劳动，从而在源头上抑制数据造假。 何允中与孙一铀总结认为，数据公司无法依赖用户网络效应“躺赚”，必须依托高强度的研发能力构建持续追踪最新模型瓶颈的工程飞轮；随着大模型深潜进入高壁垒工业场景，如何理顺顶尖智力的供给激励与中立采购闭环，将决定整个人类专有经验被 AI 吸收的最终上限。

[7:46] 刘冰（何允中转述）: 你赶紧进来，我好把具体细节讲给你听，我们好好做些研究 [14:08] 何允中: Rubric 与验证机制所注入的领域知识及能力上限，必须始终大于待训练模型本身 [17:31] 孙一铀: 人负责决策，Agent 负责执行 [27:27] 何允中: Q&A 是最简单的一个场景，我们花了那么多心血做了更复杂的 benchmark [38:53] 何允中: 你可以花多点钱把这个数据买断 [52:56] 孙一铀: 代码是智能体的“手与脚”，绝大多数复杂业务工作流最终都能够划归为 Coding 问题 [54:01] 何允中: 如果未来 5 到 10 年 AI 依然保持高速演进且不撞墙，全面深挖并变现各行各业核心数据的产业，其商业体量可能与大模型行业本身平起平坐，成为全球最庞大的两大核心支柱产业 [55:12] 何允中: 昨天的黄金数据明天可能就沦为废纸，没有任何厂商能够安稳享受永久的杠杆

[0:00] 节目开始之前 [0:02] 跟大家分享一个 [0:03] 我们《硅谷101》 [0:04] 即将在湾区举办的黑客松活动 [0:07] 今年硅谷101将在我们的年度活动 [0:09] Alignment 2026上举办 [0:11] STORY101 LAB AI视频创作挑战赛 [0:15] 让影视创作者和AI科学家们 [0:18] 在现场一起探索 [0:19] AI到底能给讲故事 [0:22] 带来哪些新的可能 [0:24] 无论你是已经在用AI拍片的 [0:26] 专业团队 [0:26] 还是想要尝试的新手 都欢迎参加 [0:29] 比赛设有探索组和专业组 [0:32] 我们也会提供免费的workshop培训 [0:35] 优胜作品 [0:36] 还有机会赢得丰厚的奖金 [0:37] 并在千人线下活动中展映 [0:40] 活动时间是10月10号到11号 [0:43] 地点在Sunnyvale的 [0:45] Plug and Play Tech Center [0:47] 报名链接 [0:48] 我们已经放在本期节目的 [0:49] Shownotes里面了 [0:50] 另外我们Alignment 2026的 [0:53] 活动本身的报名 [0:54] 也在持续进行当中 [0:56] 这次我们邀请了 [0:57] 来自OpenAI 英伟达 [0:59] Menlo Ventures Cerebras等等 [1:01] 公司和机构的嘉宾 [1:03] 期待在线下和大家对话 [1:07] Hello 大家好 [1:08] 欢迎回到《硅谷101》 [1:10] 我是Yiwen [1:11] 很多投资人 [1:12] 在和我们聊天的时候都提到了 [1:14] 他们最近很关注的一个赛道 [1:16] 那就是数据 [1:17] 随着模型能力的不断提升 [1:19] 模型公司对训练数据的需求 [1:22] 也变得越来越复杂 越来越具体 [1:24] 硅谷因此出现了一批 [1:26] 增长很快的数据公司 [1:28] 专门为这些模型公司提供服务 [1:31] 比如由三名20多岁的年轻人创办的 [1:33] AfterQuery [1:35] 今年4月宣布A轮融资的时候 [1:37] 估值还是3亿美元 [1:38] 到了9月 新一轮融资 [1:40] 就已经把它的估值推到了32亿美元 [1:44] 不到半年 涨到了10倍之多 [1:46] 创下了YC旗下公司 [1:48] 从启动到成为独角兽的最快纪录 [1:52] 那我们更熟悉的几家大型数据公司 [1:54] 估值也已经达到了百亿美元的级别 [1:57] 去年Meta入股Scale AI的时候 [1:59] 给出的估值超过290亿美元 [2:02] Mercor去年10月这轮融资的估值 [2:05] 也达到了100亿美元 [2:07] 但这些高估值背后的数据生意 [2:09] 到底是怎么做的 [2:10] 外界其实很难看清 [2:12] 所以 我也很好奇 [2:13] 这些公司究竟在卖什么 [2:15] 模型公司 [2:16] 又为什么愿意给那么多钱呢 [2:19] 过去提到数据标注 [2:20] 大家很容易想到给图片打标签 [2:23] 给模型的回答打分 [2:24] 这些人工标注 [2:26] 现在 数据公司还需要请来 [2:28] 各类行业专家 [2:29] 把他们的知识和工作经验 [2:31] 转化成AI可以学习的任务 [2:34] 其中一类重要的数据 [2:35] 是请专家写清楚 [2:37] 一个回答 一份工作成果 [2:39] 到底满足哪些条件才算好 [2:42] 这套评分标准 [2:43] 也就是我们经常听到的 [2:45] Rubric（评分细则） [2:46] 再往前一步 [2:46] 数据公司还要搭出 [2:48] 让AI实际动手的环境 [2:50] 配上任务 工具和反馈机制 [2:52] 让它在里面操作软件 反复尝试 [2:55] 并且根据结果学习 [2:57] 这就是强化学习环境 [2:59] 也就是我们经常听到的 [3:01] RL environment（强化学习环境） [3:03] 与此同时 新的AI评测也层出不穷 [3:06] 从金融 法律等等垂直领域 [3:08] 到让Agent完成一整套工作流程 [3:12] 模型要参加的考试是越来越多了 [3:15] 但榜单上的分数提高了 [3:17] 究竟代表哪些能力变强了呢 [3:19] 针对榜单做优化 [3:21] 什么时候会让模型更好用 [3:24] 什么时候又会变成单纯的刷分行为 [3:27] 这期播客 [3:28] 我们就想把这些问题聊清楚 [3:31] 我请来了两位 [3:32] 非常适合聊数据这个话题的嘉宾 [3:34] 分别是在Scale AI [3:36] 负责后训练和评测研究的何允中 [3:39] 以及加州大学伯克利分校的博士后 [3:42] Agents’ Last Exam （ALE 智能体终极测试基准） [3:43] 项目的研究者孙一铀 [3:45] 以下就是我们的对话 [3:50] Hello 允中 [3:51] Hello 一铀 [3:52] 欢迎来到《硅谷101》 [3:53] 大家介绍一下自己吧 [3:55] OK 我叫允中 [3:56] 现在在Scale AI [3:57] 负责post-training（后训练） [3:58] 和evaluation（评测）research [3:59] 大部分人关注我们 [4:00] 可能是看我们发布的 [4:02] Benchmark（基准测试） [4:02] 还有一些RL data recipe的文章 [4:06] 但是实际上我们其实也是 [4:08] 给整个大模型行业提供数据 [4:11] 还有一些方法论的支持 [4:13] 有一点像整个行业的 [4:14] 一个外包数据research团队 [4:16] 观点都是个人观点 [4:17] 不代表Scale AI [4:19] 也跟客户没有关系 [4:21] 谢谢允中 我是一铀 [4:23] 我现在在UC Berkeley读博士后 [4:26] 现在关注的是 [4:27] Agent evaluation（智能体评测） [4:28] 这个方向 [4:29] 我们最近推出的工作就是 [4:30] Agents’ Last Exam （ALE 智能体终极测试基准） [4:32] 目标是构建迄今为止规模最大 [4:35] 覆盖面最广的智能体评测基准 [4:37] 是由Berkeley RDI [4:39] 和300多位行业专家 [4:40] 共同领导和牵头的 [4:42] 是希望能够衡量 [4:43] 智能体在有可验证结果的长期 [4:46] 具备经济价值任务中的一些表现 [4:48] 目前的话 [4:49] 公开的任务大概有150多个 [4:50] 覆盖了50多个细分的行业 [4:53] 我们目标在下一次发布中 [4:54] 直接放出1000多个任务 [4:56] 在每个领域上做得更深一些 [4:58] 我们可能几个月内 [4:59] 就会发布V2的版本 [5:01] 允中要不要给我们讲一下 [5:02] 现在市面上的 [5:03] 因为其实也有林林总总的数据公司 [5:06] 你觉得大致的一个分类是什么样的 [5:09] 这里面有几个大的玩家 [5:10] 还有一些新秀 [5:12] 有一些几个人的作坊 [5:14] 在我看来最有意思的是 [5:15] 大家基因可能不太一样 [5:17] 比如说有做招聘出身的 [5:19] 像是什么Mercor Handshake [5:21] Scale AI是这种传统数商 [5:22] 从众包网络出身的 [5:24] 也有一些新的是做合成的 [5:27] 还有在最新的一些 [5:29] 可能是某一些领域公司 [5:31] 转行做数据了 [5:32] 这里面值得说一下是这个具身 [5:34] 具身现在的行业状况 [5:36] 是有很多做模型的公司 [5:37] 暂时没赚到钱 [5:38] 但是它花了大量精力 [5:40] 投资做素材 [5:41] 就顺便做起了素材生意 [5:43] 很多各行各业的人 [5:45] 也发现了自己的数据的价值 [5:46] 然后转行来做这么一个数据公司 [5:49] 我觉得大致有这么几个分类 [5:51] 几个大的玩家 [5:52] 比如说像是Mercor Surge AI [5:54] Scale AI [5:54] 基本上试图什么东西都能cover [5:57] 除此之外 其实一些新秀玩家 [5:59] 把一些领域做得比较好的 [6:00] 像是什么BigCode或者Snorkel AI [6:03] 他们可能是比较偏research（研究） [6:05] 跟engineering（工程）一点的 [6:06] 我猜测他们主要生产代码 [6:08] 或者是tool call（工具调用） [6:09] 这一类的环境 [6:10] 就是抓住了今年的这么一个风口 [6:12] 另外我还看到一些小的公司 [6:13] 他们可能是解决了一些 [6:15] 垂直领域的问题 [6:16] 甚至他们可能不像我们 [6:17] 是做标注数据的 [6:18] 就是一些broker（数据经纪商） [6:20] 比如说可能是好莱坞的一个人 [6:21] 他有特别多的版权数据 [6:22] 他知道怎么把这东西卖出去 [6:24] 就是有林林总总的不同领域的东西 [6:27] 然后现在可能在最新兴起的 [6:28] 就是做这些垂直领域 [6:30] 把一个领域做得特别好 [6:31] 可能是由一些领域的专家组成的 [6:34] 大概是这么几个分类 [6:35] 我会觉得说机会还很多 [6:38] 大的数商有大的数商的优势 [6:40] 就是想进入一个领域 [6:41] 有比较多的资源 [6:43] 我觉得整个饼是越来越大 [6:45] 你讲到说像Mercor Surge AI [6:46] 这样的公司是所谓的招聘公司 [6:48] 这个能不能再给我们具体讲一下 [6:50] 招聘是一个什么样的商业模式 [6:52] Surge AI应该不是 [6:53] 但是Mercor是做招聘起家的 [6:56] 它有自己的一个自动AI面试的 [6:59] 这么一些产品 [7:00] 它可能主打的重点就是 [7:03] 我能够在比较短的时间内 [7:05] 找到足够量的专家 [7:06] 有这么一个专家网络 [7:08] Surge AI我觉得更多的是 [7:10] 把这个东西in house（内部来做） [7:11] 这里反正有一些取舍吧 [7:13] 基本上每个数商 [7:13] 可能都需要面临这么一些取舍 [7:15] 就是说如果我是自己 [7:17] 完全全职培养的人 [7:19] 那他肯定能力强一点 [7:20] 但是这个灵活度就不够 [7:22] 产能可能会差一点 [7:23] 如果是更多地依靠众包的网络 [7:26] 可能我的灵活性大一点 [7:28] 但是每个人的质量就比较难保障 [7:30] 这里面就涉及到一些质检的问题了 [7:32] 比如说像Scale AI [7:33] 这些公司的一些优势 [7:34] 就是说我们有一些质检的经验 [7:36] 不光是在数据上 也在人上 [7:38] 允中要不要讲一下 [7:39] 你是什么时候加入Scale AI的 [7:41] 在当时到现在整个市场 [7:43] 你觉得对于数据的需求 [7:45] 有发生什么变化吗 [7:46] 对 故事还挺好玩的 [7:48] 当时我是在Meta入股之前 [7:50] 签的offer [7:52] 我一到人就走了 [7:53] 所以我经历了整个大模型行业开始 [7:56] 不管从人才的战争 [7:58] 还有薪酬体系都开始 [8:00] Go crazy的这么一个故事 [8:02] 当时我来之前 [8:03] 我的老板刘冰跟我说 [8:05] 有这么一个技术 [8:06] 各个家lab（实验室）都在做 [8:07] 但每个人都做得不太一样 [8:09] 说你赶紧进来 我就能跟你讲 [8:11] 我们在这里好好做些研究 [8:13] 然后我来了 [8:14] 那个时候是 [8:14] Rubric data（评分细则数据） [8:15] 那个时候还比较新 [8:16] 可能一年多之前 [8:17] 现在Rubric感觉已经过时了 [8:19] 大家都在讲 [8:20] RL environment（强化学习环境） [8:21] 各种各样的东西 [8:22] 就是这一年确实经历了 [8:24] 非常多的变化 [8:25] 其实我们关注这个话题 [8:27] 也是因为大概从2024年到现在 [8:30] 感觉整个对于数据的一个需求 [8:32] 发生了一个比较大的变化 [8:34] 因为2024年之前 [8:35] 我们在聊数据的时候 [8:37] 大家想到的很多还是人工标注 [8:39] 就是一些比较基础的数据 [8:42] 我们会需要非常多的数据 [8:44] 来做pre-training（预训练） [8:44] 来训练模型 [8:46] 但是从2024年 [8:48] 其实Mercor之前有提到过 [8:49] 是因为Deep Search的兴起 [8:51] 导致整个行业转移到了一个所谓的 [8:53] Agentic data（智能体数据） [8:54] 我们会需要 [8:55] 像你刚刚说的rubric（评分细则） [8:56] 包括RL环境 [8:57] 现在就是更多真实工作流数据 [9:00] 能不能帮我们先梳理一下 [9:01] 这几个概念 [9:02] 我们先讲一下这个行业从 [9:04] Crowdsourcing data（众包数据） [9:05] 就是这些人工标注数据到 [9:08] Agentic data（智能体数据） [9:09] 这个中间是经历了 [9:10] 一个什么样的变化 [9:12] 对 首先说明一下 [9:13] Pre-training（预训练） [9:14] 还是很重要的 [9:14] 不过就确实 [9:15] 从我身边的人的兴趣来说 [9:17] 大家经历了一个转向 [9:19] 大家觉得pre-training [9:20] 感觉干得有点无聊了 [9:21] 就是再继续Scale调数据配比 [9:23] 那个时候是o系列模型出来了 [9:25] 大家都在做reasoning（推理） [9:26] 发现这RL跑通了 [9:28] 一下子大家兴趣都在RL上 [9:30] RL比较有意思的一个问题就是说 [9:32] 我需要一个可验证的信号 [9:34] 可验证的信号在代码或者数学 [9:36] 尤其是最早的推理模型 [9:38] 是从数学上做出来 就很简单 [9:40] 我这个选择题答错答对了就知道了 [9:42] 或者就是一个数字算出来 [9:44] 但是之后大家就在想说 [9:45] 那我数学可以做RL了 [9:47] 我在其他领域呢 [9:48] 比如说像是这些什么医疗 金融 [9:50] 或者就是更基础的指令遵循 [9:52] 这里我能不能做RL [9:54] 这里它存在的一个问题就是说 [9:56] 它是有一些客观标答的 [9:58] 不像在之前的一个阶段 [9:59] 大家做RLHF（基于人类反馈的强化学习） [10:00] 就是reward model（奖励模型） [10:02] 可能没什么标答 [10:03] 只是把大家的喜好学出来 [10:04] 这里面其实是有个标答 [10:06] 只是它这个标答它比较不结构化 [10:08] 就好像我去答历史考题 [10:10] 历史考题是有标答的 [10:12] 但是每个人的写法可能都不太一样 [10:14] 就我很难做这个 [10:15] Pattern match（模式匹配） [10:16] 就是说A B C D检查你有没有答对 [10:18] 这个时候就是一个 [10:19] Rubric（评分标准）的方式 [10:20] 相当于我让一个TA（助教） [10:21] 拿着教授写的打分规则来给你打分 [10:24] 因为这个打分规则是提前标好的 [10:27] 是教授写的 [10:28] 所以这个TA也不需要特别聪明 [10:30] 这是整个大模型数据中的 [10:31] 一个核心概念 就是叫 [10:32] Weak-to-strong supervision [10:34] 就我能不能用弱模型来监督强模型 [10:36] 那它这里成立的条件就是说 [10:38] 我有个专家把他脑海里的知识 [10:40] 给写下来了 [10:40] 这样弱的模型拿着它改卷子就行了 [10:43] 这就是rubric data（评分细则数据） [10:44] 这个东西应该是火了很长一段时间 [10:46] 当然现在还很重要 [10:47] 但是这里面 [10:49] 很快就把各个专家领域的rubric [10:51] 而且比较容易获得的 [10:52] 收集得比较干净了 [10:53] 看到比如说像 [10:53] Mercor或者Surge AI的崛起 [10:55] 其实跟这一块的专家rubric有关系 [10:57] 但是再往前走 [10:58] 就大家需要动手了 [10:59] 比如说现在做这种代码模型 [11:01] 或者像一铀他们做的ALE [11:03] 虽然它不是做代码 [11:04] 但它需要“动手” [11:05] 要解各种各样的问题 [11:06] 这个时候 它就不再是说 [11:08] 我只是验证你一个聊天的输出了 [11:10] 那我需要是在一个Agent的 [11:12] Setting（环境）之下 [11:13] 那我可能需要给它一些工具 [11:16] 还有一些更复杂的验证方式 [11:17] 它还包含了rubric [11:18] 但是可能我需要一些 [11:20] 检查这个环境里面的变量 [11:22] 是不是执行了 [11:22] 这个数据库是不是写入了 [11:24] 或者被删除了 [11:25] 甚至如果像是我生成一些文档 [11:27] 里面可能有些图 [11:28] 这个东西我还是需要rubric [11:30] 但是我需要一个agent来检查 [11:31] 它就变得更加多样了 [11:33] 现在可能大家追求的 [11:34] 比较大的一个方向就是环境 [11:36] 它不光是我标注好的 [11:38] 一些打分规则了 [11:39] 而是说我可能包含了一整套 [11:41] 我要做什么 [11:42] 在什么样的环境里面做 [11:43] 包括了它需要的一些工具 [11:45] 需要执行的一些沙盒 [11:47] 以及还有一套跟task比较相关的 [11:50] 验证方式 [11:50] 验证方式非常的多样 [11:52] 比如说有这种 [11:52] Programmatic check（程序化检查） [11:54] 有这种rubric [11:55] 还有preference（偏好） [11:56] 我让人选我比较喜欢哪一种 [11:57] 这里面我暂时还没有形成 [11:59] 特别大的共识 [12:00] 我又看到有点像当年rubric时代 [12:02] 每一家要的东西都不一样 [12:03] 比如说像什么 [12:04] Terminal-Bench（终端任务基准） [12:05] 他们就不要rubric [12:06] 他们就是纯programmatic [12:08] 这里面也有不同的流派 [12:09] 还挺有意思 [12:10] 这个很有意思 [12:11] 一铀 你要不要从ALE的具体的例子 [12:13] 来跟我们讲一下需要哪些要素 [12:16] 其实我跟允中的看法 [12:17] 有一点反过来了 [12:18] 允中认为现在rubric [12:20] 差不多已经做到头了 [12:22] 但我的看法是 [12:23] 我觉得rubric这一块 [12:24] 意思专家那种主观的判断题 [12:26] 其实还做得远远不够 [12:28] 我可以先从ALE的初衷讲一下 [12:30] ALE是当时建立的初衷 [12:31] 就是跟允中讲的一样 [12:33] 就是我们怎么样把 [12:34] Vibe coding（氛围编程） [12:35] 迅速发展的这趋势 [12:36] 推广到vibe everything [12:38] 当时vibe coding [12:39] 为什么发展那么快 [12:40] 就是因为当时有非常非常多的 [12:42] Benchmark（基准） [12:43] 都在coding这个领域 [12:44] 而且coding [12:45] 它比较容易verify（验证） [12:46] 它是一个确定性的rubric [12:48] 大家为了刷这个榜 [12:49] 所以在coding这上面发展非常迅猛 [12:52] 那么用同样的思路 [12:53] 我们如果在其他的各个领域上 [12:55] 尤其是工程 [12:56] 能够客观打分的这些领域上 [12:58] 能够建立各种各样的这样评测体系 [13:00] 你去刷分 [13:01] 但你只要刷的是有益的分 [13:03] 是有意义的题 [13:04] 那它模型带来的提升 [13:06] 对于人的日常工作来说 [13:07] 就是实打实的提升 [13:08] 所以这就是我们当时 [13:09] 想建立一个这样的初衷 [13:11] 当然世界上大家职业各式各样 [13:13] 实在是太多了 浩如烟海 [13:15] 所以我们只是说 [13:16] 在第一个版本里面 [13:17] 给出了一个相对来说 [13:18] 覆盖面比较广的初次的一个尝试 [13:21] 然后我们还会继续努力 [13:23] 希望把这个覆盖得更广一些 [13:25] 到某一天希望它能成为真正的 [13:26] LAST EXAM [13:27] 就当你解决这个benchmark的时候 [13:29] 基本上就能解决人类社会 [13:30] 在某些领域的真正的有益的问题 [13:33] 我同意一铀的观点 [13:34] 各个领域的训练 [13:35] 肯定是远远没有到头的 [13:37] 很多东西都可能还没有被 [13:39] Rubric的方式表征出来 [13:40] 所以这里面还有很大的空间 [13:42] 可能我刚刚说rubric到头了 [13:44] 更多的是个行业趋势 [13:45] 就这种静态的单轮或者多轮聊天 [13:48] 出一个文本 [13:49] 然后用rubric来检查它 [13:50] 就是纯知识类的 [13:52] 甚至也不是说到头了 [13:53] 因为毕竟还有不同的lab [13:54] 每家的水平都不一样 [13:56] 只是说今年的一个大趋势 [13:58] 是在做这个coding [13:59] 然后coding逐渐转向了 [14:00] Knowledge work [14:01] 大家要动手了 [14:02] 这个时候 就是纯这种文本的rubric [14:04] 我看到需求量小了一点 [14:06] 但还是很大 [14:07] 还是有很多东西没解决 [14:08] 就允中刚才提到了 [14:09] 对于很多这种文本式的输出 [14:11] 比如说它文章写得好不好 [14:13] 你可能有些这样打分的点 [14:14] 但是事实上对于工程领域的 [14:16] 一些产出 [14:17] 其实有很多的评测 [14:19] 我们确实发现了 [14:20] 除非你把输入固定得特别死 [14:22] 不然它的输出 [14:23] 其实有非常非常多的可能性 [14:25] 我举个例子 你让它生成一个游戏 [14:27] 甚至有些数学解法它都不是唯一的 [14:29] 那这种情况下 [14:30] 如果你给一个确定性的评判 [14:32] 就是你一定要跟你这个 [14:33] Ground truth（标准答案）来对比 [14:34] 那很多时候就会造成 [14:35] 不一致的这个问题 [14:36] 所以说很多时候说 [14:38] 我们怎么样定义这个rubric [14:40] 让它能够兼容这种多式多样的输出 [14:43] 其实这也是我们在构建benchmark中 [14:45] 遇到的问题 [14:45] 也是未来想要去 [14:46] 思考解决的一个方向 [14:48] 稍微抛砖引玉一下 [14:49] 我的一个想法就是 [14:50] 未来的这个发展趋势可能会 [14:52] 比如说人类他对于一些好玩 好看 [14:56] 他没有办法把它固化下来 [14:58] 成为一个可以被量化的指标 [15:01] 比如游戏好不好玩 [15:02] 但实际上有些游戏的入门教科书里 [15:05] 其实是有各种各样的评判的方式 [15:07] 比如说它奖励曲线是不是平滑 [15:09] 符合大脑的多巴胺的 [15:10] 它是有科学的指标 [15:12] 可以去量化这个好玩 [15:13] 和好看这个东西 [15:14] 但我目前在现在的这benchmark上 [15:16] 我还没有看到一个 [15:17] 做得特别完整的 [15:18] 公开出来的评测体系 [15:20] 因为这个东西难度也确实非常高 [15:22] 因为需要专家的 [15:23] 更加更加深度的参与 [15:24] 所以这一点我也想看看 [15:26] 允中那边关于在数据公司里 [15:27] 有没有看到这一个趋势 [15:29] 或者怎么去解决这一类的问题 [15:31] 对 这个问题特别好 [15:32] 这也是每天我们在绞尽脑汁的问题 [15:35] 其实整个rubric [15:37] 或者整个大模型的验证体系 [15:39] 我觉得它整体上是有这么一个思路 [15:41] 大家希望左脚踩右脚 [15:42] 就是当我的模型变强了 [15:44] 我这个验证器也变强了 [15:46] 验证器变强了之后 [15:47] 我就可以允许一些更复杂的rubric [15:50] 就比如说如果我是一个 [15:51] 很弱的验证器 [15:52] 那么我就只能写一些 [15:54] 就是一个傻子都能看出来 [15:55] 就知道是对还是错的这个rubric [15:57] 但是 随着这个模型能力的提升 [16:00] 那我的rubric [16:00] 就可以写得越来越模糊 [16:02] 可以把更多的知识 [16:03] 交给验证器来解决 [16:04] 但是我觉得这里总体的一个思路 [16:07] 还是说这个rubric加上验证 [16:09] 这两块加起来的知识和能力 [16:11] 应该比我要训练的模型要多 [16:13] 不然就达不到训练模型的目的了 [16:15] 那么就回到 [16:16] 比如说像是这种做video game [16:18] 这种特别特别主观的东西 对吧 [16:20] 我觉得未来可能是这样的 [16:21] 你可能很难把它以很显式的条件 [16:24] 一条一条写下来 [16:25] 一个好的游戏是怎么样的 [16:27] 它可能有多种多样的可能 [16:28] 所以这个时候我的rubric [16:29] 就会被迫写得更加模糊 [16:31] 这个东西 [16:32] 就by the way [16:32] 其实不是我们想要的 [16:34] 就通常来说我们会建议 [16:35] 这个rubric写得越严谨越好 [16:37] 但是在某一些领域 [16:38] 你可能就必须要写得很模糊 [16:40] 这个时候需要验证的模型 [16:42] 来自己做一些主观的判断 [16:43] 那这个验证的模型 [16:44] 我觉得甚至有可能是 [16:46] 我要训练一个 [16:47] Reward model（奖励模型） [16:48] 我知道 比如说在不少lab里面 [16:50] 当然这不是客户透露给我们的东西 [16:52] 是我自己的一些经验 [16:53] 比如说生图 生图它有两个部分 [16:56] 一个是Instruction following（指令遵循） [16:57] 有没有遵循我的这个要求 [16:58] 比如说我图里面有猫有狗 [17:01] 有一个背景板写了哪几个字 [17:03] 这个时候我是会有rubric [17:04] 我就写这里要有一只猫 [17:05] 那里有只狗 [17:06] 甚至我跑一下OCR（光学字符识别） [17:07] 把那个字提出来 [17:08] 然后看看是不是我想要的那几个字 [17:10] 就这一块是属于rubric [17:12] 但是还有一块 [17:12] 就是说这个字要写得好 [17:14] 这个猫要是一只可爱的猫 [17:17] 这种东西就是我可以写成rubric [17:19] 但它非常主观 [17:20] 那我可能甚至专门训练一个模型 [17:22] 就这个模型它可能 [17:23] 掌握了一些人类的主观体验 [17:25] 这些东西可能跟rubric结合在一起 [17:27] 大概率这个问题如果要解决的话 [17:29] 可能是这么一个混合的方向 [17:31] 因为我们刚刚好像把rubric和环境 [17:33] 这两个事情 [17:34] 好像是放在对立面来说的 [17:35] 但是听起来 [17:36] 一 它们是可以结合在一起使用的 [17:38] 二 有没有一些任务 [17:39] 是用rubric来做会比较好的 [17:42] 或者用环境来做比较好的 [17:43] 我觉得这个肯定是不能拆开来讲的 [17:45] 环境或者说任务数据 [17:47] 它只是一个执行的基准 [17:48] 但是rubric是最终用来打分 [17:50] 用来奖励模型做得好还是不好 [17:53] 所以它肯定是相辅相成 [17:54] 又必须结合在一起来看的 [17:55] 我个人更希望 [17:57] 去从一个任务分类的角度去看 [17:59] 而且人和agent这两个角色 [18:02] 如何去合作 [18:03] 它分别担任一个什么角色 [18:05] 这也很重要 [18:06] 我们从历史上来看 [18:07] 就是从最早期 [18:07] Vibe code刚出来的时候 [18:08] 就大家用cursor [18:09] 其实就是一个 [18:11] 人类也是参与在执行这个代码当中的 [18:13] Agent它只负责执行很小的 [18:15] 一个模块的一些写代码 [18:17] 后来随着agent能力越来越强 [18:19] Agent就你给它一个非常模糊指令 [18:20] 它能够完成一个非常大的 [18:22] Project（项目）的时候 [18:23] 那这个时候人和agent角色 [18:25] 又产生了一些变化 [18:26] 那现在它可以大致分成这两类 [18:28] 就是人负责决策 [18:29] Agent负责执行 [18:31] 人把你决策的东西说得越清楚 [18:33] Agent就能做得更好 [18:35] 基于这两个分类 [18:36] 我们来看rubric该如何去设计 [18:38] 如果我们需要agent参与的角色 [18:40] 它只是执行 [18:41] 就你如果把一个任务说得很清楚 [18:43] 它的输出基本上是固定的唯一性的 [18:45] 那这个东西rubric [18:46] 它就是一个确定性的rubric [18:48] 它打分的话 [18:49] 就是完全可以基于 [18:50] 你自己做出来的一个成品 [18:51] 来进行打分 [18:51] 因为它一般会有 [18:52] Ground truth基准数 [18:53] 如果咱们讨论未来数据需要什么样 [18:55] 就是当人的决策的这部分 [18:58] 会不会也被agent所慢慢去取代 [19:00] 那这一部分就是我觉得会回到 [19:02] 之前允中说的 [19:03] 大家现在反而没太重视这些rubric [19:05] 因为决策很多是非常模糊 [19:08] 很难去量化 [19:09] 而且允中说 [19:10] 你对一个具体的domain（领域） [19:11] 猫可不可爱 [19:12] 你可以train一个这样的verifier [19:14] 但是对于一个 [19:15] 尤其是一个上市公司 [19:16] 一个领导层的一个决策 [19:18] 你该如何去train一个reward [19:19] 它每天的任务都在变 [19:21] 你很难去收集到足够的数据 [19:24] 让你来训练出 [19:25] 这样一个reward model [19:26] 来替你做这样的决策 [19:28] 所以我个人认为 [19:29] 在这一块的模型的发展 [19:30] 还有很长的路需要去走 [19:32] 而且这可能是会成为 [19:33] 一个未来发展趋势 [19:34] 这里我特别同意 [19:35] 就比如说ALE的这个方案 [19:37] 我觉得就是面向未来 [19:38] 比如说像这个猫可不可爱 [19:40] 比如说我要是在这个Meta [19:42] 我有一些用户行为的反馈 [19:43] 我可以训这个模型 [19:45] 但是公司的决策 [19:46] 我就很难收到这些数据了 [19:48] 比如说像ALE这种 [19:49] 就让大家把以往做过的东西 [19:51] 还有决策交起来 [19:52] 其实是一个方案 [19:53] 我会觉得以后收数据可能是 [19:55] 大家怎么样找到好的激励方式 [19:58] 让大家把一些重要的东西交出来 [20:00] 尽量地能够回溯 [20:01] 当时这些重要的决策 [20:03] 非常有意思 [20:03] 我想再追溯一下评测的 [20:05] 近几年的整个一个发展 [20:07] 以及它和卖数据之间的关系 [20:09] 因为其实我和两位私下都聊过 [20:11] 就是卖benchmark和卖数据 [20:13] 这两件事情 [20:14] 大家都觉得不能混为一谈 [20:15] Scale AI之前推出了 [20:17] Humanity’s Last Exam [20:18] 就是HLE这个评测 [20:20] 能不能给我们讲一下这个评测 [20:23] 以及你觉得它和数据之间 [20:25] 是怎么样联系起来的 [20:26] 这是个好问题 [20:27] 我觉得从原理上来说 [20:29] 评测它体现的是模型 [20:31] 距离我们想要的理想状态中间的gap [20:34] 就是它更多的是一个科学研究 [20:38] 这么一个基准 [20:38] 就是我想要模型在哪 [20:39] 它现在没到哪 [20:41] 但是这个事情跟卖数据联系起来 [20:43] 也比较有意思 [20:45] 因为很多时候 [20:45] 它提升这个模型能力的数据 [20:47] 和它榜单的评测方式是息息相关的 [20:50] 这里面可能比较难的 [20:51] 是找到一个平衡 [20:52] 如果我就生产大量的 [20:54] 跟这个榜单差不多的数据 [20:56] 那么它可能就在 [20:58] Bench-maxxing（刷榜） [20:59] 但是 就是这个大模型训练 [21:01] 还是有各种各样的维度 [21:02] 确实如果我想要提升某一类的能力 [21:04] 我需要抓住某一个维度 [21:06] 那么就是说它跟benchmark [21:08] 肯定是有一定的相关性 [21:10] 这个是大家需要找到的一个平衡 [21:12] 因为大家对AGI的期待太高了 [21:14] 觉得人能做到的事情它都能做到 [21:16] 那么就是说我在各种各样的领域 [21:17] 都可以想到一些方式 [21:19] 构造一个benchmark [21:20] 然后发现它这个模型 [21:22] 距离你想象当中还有一些差距 [21:24] 通常构造这个benchmark的人 [21:26] 对于这一块的领域可能认识比较深 [21:28] 就自然会给他一定卖数据的权威性 [21:31] 大家会比较相信你手上卖的数据 [21:33] 这个生意就这么产生了 [21:34] 我相信 一铀应该也 [21:36] 就ALE现在做得火的benchmark [21:38] 应该也有不少人想问你卖不卖数据 [21:41] 或者是有可能VC也想找你投资 [21:42] 结果逐渐逐渐地就成了一个生意 [21:44] 我觉得就是也有好有坏吧 [21:46] 就是说这个生态 [21:47] 其实也还比较野蛮发展 [21:49] 有多少是在做科学 [21:50] 多少在做bench-maxxing [21:52] 我觉得确实需要仔细权衡一下 [21:54] 但是这确实是有很多的利益驱动 [21:56] 所以现在是个挺繁荣的市场 [21:58] 对 这里的话 [21:59] 我也是要给大家敲个警钟 [22:02] 因为允中提到了 [22:03] 现在做benchmark的人 [22:04] 会收到各种各样的诱惑 [22:06] 就是要去把benchmark数据去卖了 [22:08] 我甚至我私下听到 [22:09] 是有一些数据公司 [22:10] 它踩了这个红线 [22:11] 就是它把自己在做评测的数据去卖 [22:14] 当然这个是 [22:14] 大家千万不能碰的一条线 [22:16] 不能让你做的生意 [22:18] 污染你这个benchmark的权威性 [22:20] 不然的话 [22:20] 你不仅毁了你的benchmark [22:21] 也毁了其他人的模型 [22:24] 我个人认为benchmark和卖数据 [22:25] 这两个东西角色是不一样的 [22:27] 在这个生态系统里的地位是不一样 [22:29] 我认为benchmark面向的是未来 [22:32] 做数据面向的是现在 [22:34] Benchmark是面向于未来 [22:35] 大家还希望这个模型公司 [22:37] 去解决目前还没有解决的什么问题 [22:40] ALE 其实我们在今年1月份 2月份 [22:42] 做的时候 [22:43] 我们特别害怕benchmark做得太难 [22:46] 导致这个benchmark失去意义 [22:47] 因为当时的模型 [22:48] 很多基本上平均分只有10%到20% [22:51] 大部分题目它都只有拿到零分 [22:53] 我很担心这样的评测它会失去意义 [22:55] 但事实上没有必要担心这个事情 [22:57] 因为benchmark本身就是要 [22:58] 面向于未来的模型去做的 [23:00] 数据的话更多是去解决 [23:02] 这个benchmark所产生的一些需求 [23:04] 所以说 更说是现在 [23:05] 大家在刷这个榜单 [23:06] 怎么样去把这东西做好 [23:08] 我认为benchmark-maxxing（刷榜） [23:10] 它有好有坏 [23:11] 你只要面向了它这个数据 [23:12] 它不是直接污染你这个benchmark [23:15] 你这个benchmark [23:15] 刷的又是有意义的一个榜单 [23:17] 只要这个benchmark [23:18] 和人的真实用户的体验非常接近 [23:20] 我觉得这bench-maxxing [23:21] 它不一定是一个贬义词 [23:23] 对 bench-maxxing [23:24] 这件事其实特别有意思 [23:25] 因为一方面 [23:26] 我们确实需要一个评测的基准 [23:28] 另一方面你又不希望模型公司 [23:30] 为了刷评测而去刷评测 [23:32] 我觉得这里很自然就产生一个问题 [23:34] 就是什么样的评测 [23:35] 才是有意义的评测 [23:37] 因为我们现在一周就感觉可以看到 [23:38] 很多新的benchmark [23:40] 比如说从模型公司的角度来说 [23:42] 他们应该怎么样去选 [23:44] 去刷哪些评测 [23:45] 或者把哪些评测作为他们下一步 [23:47] 提升模型能力的目标 [23:49] 从你们供应商 [23:50] 还有researcher的角度来看 [23:52] 你是怎么样去看待这件事情的 [23:54] 我觉得做模型能力提升 [23:56] 最大的ROI还是我要放在能力上 [23:59] 这些能力提升了 [24:00] 它应该是惠及各个benchmark [24:02] 当然就可能有些人有不同观点 [24:04] 因为就对于一些模型厂商来说 [24:06] 应用也非常重要 [24:07] 就比如说如果我的这个benchmark [24:09] 是比较贴近一个应用场景 [24:11] 他们其实有动机 [24:12] 就把这个场景做好 [24:13] 对他们也是有益的 [24:14] 最有意义的事情是 [24:15] 大家至少口头上还是奔着AGI去的 [24:18] 那我应该考虑 [24:19] 哪一些核心的认知能力 [24:21] 是我需要提高的 [24:22] 那么它体现在benchmark上 [24:23] 就是说我可以看到一些泛化性 [24:25] 如果我做了一个提高 [24:26] 它只涨这个 别的都不涨 [24:28] 那么可能有一些不好 [24:29] 所以就回到一开始的问题 [24:31] 未必是说怎样的一个benchmark [24:32] 是最好的 [24:33] 还是说不同的benchmark [24:34] 它测试了不同的东西 [24:36] 我可能要关注的是 [24:37] 哪一些共同的能力 [24:39] 能够让它们一起提升 [24:41] 而不是说我只专注于 [24:42] 优化同一个benchmark [24:44] 另外再回到benchmark本身的问题 [24:47] 我倒是觉得除此之外 [24:49] 大家确实会关心一些 [24:50] 贴近场景的benchmark [24:52] 如果这些场景是大家在意的 [24:54] 它确实反映了这个用户体验 [24:56] 这也是个好benchmark [24:57] 它未必是那么universal [24:58] 未必是那么大的朝着AGI去的 [25:00] 但是它就确实体现了大家的体验 [25:03] 在这个角度上来说 [25:04] Benchmark肯定是有千奇百怪 [25:06] 就你总会找到一个场景 [25:08] 我觉得可能是两个要素 [25:09] 就是说这个场景的这个gap [25:11] 它是不是体现了 [25:12] 一个非常具体的能力的缺陷 [25:14] 如果只是因为这一个场景 [25:16] 一些场景知识不太懂 [25:17] 同时这个场景又不太重要 [25:19] 就是我在一个犄角旮旯里面 [25:20] 我解了一个什么很奇怪的智力题 [25:22] 出了一个benchmark [25:23] 这个能力提升了 [25:25] 未必代表这个模型 [25:26] 本身的认知能力提升了 [25:28] 那么可能 [25:28] 就不是一个好的benchmark [25:30] 另外一块就是说 [25:31] 就算不反映核心的能力 [25:33] 它至少反映一个大家在意的场景 [25:34] 比如说现在特别火的 [25:35] 是personal assistant（个人智能助理） [25:36] 就是现在这个Muse [25:37] 这是一个很具体的场景 [25:38] 大家都希望有这么一个东西 [25:40] 那么这个benchmark [25:41] 它甚至未必测的是模型本身 [25:43] 它可能还测了 [25:44] 你的harness [25:45] 最后这个benchmark [25:46] 它甚至不是为了卖模型的训练数据 [25:48] 而是告诉你我的harness错在哪 [25:50] 可能我可以做些工程优化 [25:52] 就是贴近大家需求场景的benchmark [25:54] 也是好的benchmark [25:55] 所以在我看来 [25:55] 一个是反映了核心的认知能力 [25:58] 一种是贴合场景 [25:59] 当然两个都有的话是最好的 [26:01] 我觉得最重要的 [26:02] 现在大模型公司很看重的一个 [26:04] 就是benchmark的分布 [26:06] 大家应该可能都听说过 [26:07] Artificial Analysis [26:08] 这个评测体系 [26:09] 他们其实做的事情很简单 [26:11] 就是把各家benchmark [26:12] 给不同的权重 [26:13] 然后把它综合到一起来 [26:14] 得到一个分数 [26:16] 但这样它就存在一个问题 [26:17] 它分布的这个权重 [26:19] 是不是真的是大伙需要的权重 [26:22] 这个权重以什么方式去进行迭代 [26:24] 这个都是挺主观的一个事情 [26:25] 大家质疑的更多不是这个模型本身 [26:28] 而是质疑这个榜单本身 [26:29] 我现在倾向于认为大家 [26:31] 可能benchmark还不够好 [26:32] 做到大家心目中要的 [26:33] Distribution（分布）那种级别 [26:35] 很难达到一个ground truth [26:36] 所以现在很厉害的模型厂商 [26:37] 比如Anthropic或者OpenAI [26:38] 他们都会倾向于 [26:39] 去自建一个评测体系 [26:41] 来让它更接近他们心目中的分布 [26:44] 只不过第三方的验证 [26:45] 可以让他们对外发布的时候 [26:46] 更有说服力一些 [26:48] 当然比如说允中说的 [26:49] 一个垂直领域的肯定是非常重要的 [26:51] 因为这个就是面向一类群体 [26:53] 它这个分布就是那个群体 [26:55] 需要每天在做的事情 [26:56] 如果他能把那个分刷高了 [26:57] 比如金融 法律 [26:58] 他们律师每天做的事情 [26:59] 就能把那个做扎实了 [27:01] 那他们法律 [27:02] 只需要看这一个benchmark就足够了 [27:04] 第二点就是允中提到了 [27:05] 有些benchmark [27:06] 它并不能代表真实的认知 [27:08] 比如说之前有一些benchmark [27:09] 它是测agent智力的 [27:11] 就是玩那种小游戏 [27:12] ARC Challenge（抽象推理挑战） [27:12] 那种游戏 [27:13] 对 ARC-2 ARC-3这种 [27:14] 对 是 他这个benchmark的初衷是说 [27:17] 觉得能解这些游戏 [27:19] 是人类的一个智力的体现 [27:20] 但是没想到这个智力 [27:23] 其实也是可以做得特别特化 [27:25] 我一个小模型也能把它搞出来 [27:26] 还挺有意思 [27:27] 那有没有什么 [27:28] 特别niche的benchmark [27:30] 但是可能大众不太了解 [27:32] 但其实是非常有用的 [27:33] 测试这个模型能力的例子 [27:35] 我可以举个我们的例子 [27:36] 我们有一些benchmark [27:38] 可能不太经常出现在大家的榜单上 [27:41] 比如说我们前一阵子做的 [27:43] Drug Discovery（药物发现） [27:44] 还有一个 [27:45] 跟AI tutor（AI辅导）相关的 [27:46] 它可能关心的 [27:47] 是一个比较小的垂直领域 [27:49] 但是跟我和各个lab在交流 [27:51] 负责相关领域的团队 [27:53] 他们通常就会有这么一个人 [27:54] 他们会看市面上 [27:56] 跟他领域相关的评测 [27:57] 他都会把它收回来 [27:58] 另外一个就是说这个benchmark [28:00] 最后上不上榜单 火不火 [28:02] 其实也有很多随机因素 [28:04] 比如说AA就有一个很好玩的事 [28:06] AA用了我们做的一个榜单 [28:08] 叫SWE-Atlas [28:08] 我们当时是做了几个 [28:10] 不同风味的SWE-Test [28:12] 其中有Q&A [28:13] 就是代码仓库问答 [28:15] 还有代码重构 还有写Test [28:17] 只不过我们是分三个阶段推出的 [28:19] 所以Q&A先推出 [28:21] 推出之后 [28:22] 我们还没来得及把另外两个推出 [28:23] 把它们合在一起 [28:25] Somehow 那个Q&A [28:26] 就先被AA捡去了 [28:28] Q&A上了AA之后 [28:29] 大家就开始刷这个东西 [28:31] 突然间就这一块需求就变大了 [28:33] 我们当时很不理解 [28:35] Q&A是最简单的一个场景 [28:37] 就是我们花了那么多心血 [28:38] 做了更复杂的benchmark [28:41] 结果就是因为可能是时间关系 [28:43] 还有的时候是某一个lab用了 [28:45] 可能是碰巧它的分好 [28:47] 这里面其实是有一些随机因素 [28:49] 就是你在这个榜单上 [28:51] 就大家tech report上看到的东西 [28:52] 有一定随机性 [28:53] AA搜这些榜单有一些随机性 [28:56] 最后就是你没看到的东西 [28:57] 其实背后可能也有人在用 [28:59] 就这个生态其实水还比较深 [29:00] 还比较复杂一点 [29:01] 明白 一铀 其实我还想再问一下 [29:04] 就你刚才提到的 [29:05] 大家对于Artificial Analysis [29:06] 这样榜单的质疑 [29:08] 你觉得说是不接近于 [29:10] 大家理想中的分布 [29:11] 这个分布现在有没有一个共识 [29:14] 因为我理解每个模型公司 [29:16] 对于分布的需求 [29:17] 其实也是不太一样的 是吧 [29:19] 如果是在这种情况下的话 [29:20] 我们怎么样去理解 [29:22] 这个理想状态下的分布 [29:24] 它是应该比较接近真实世界的 [29:26] 这样一些任务 [29:27] 还是说是别的分布 [29:28] 我觉得真实的分布 [29:30] 其实本质上就是大家的用户体验 [29:33] 就是世界上假设说存在这样一个 [29:35] Ground truth [29:35] 就真实的分布的真实的打分 [29:37] 其实有点类似于 [29:38] LMArena 这种模式 [29:40] 假设说你每天 [29:42] Prompt这个agent的时候 [29:43] 你能够有多条模型一直在执行 [29:46] 然后给它们打分 [29:47] 这是最真实的评价 [29:48] 但是这个现实生活中 [29:50] 能够做到这样的榜单 [29:51] 有以下几种因素 [29:53] LMArena之前做好 [29:54] 是因为之前的QA它这个很快 [29:56] 它开销很低 [29:58] 你给它一个问题 [29:59] 它能够几秒钟之内给你个答案 [30:00] 你很快就能进行打分 [30:02] 但现在在agent的时代 [30:03] 一个长程任务动辄几个小时 [30:05] 一个用户也没有那么多的超能力 [30:07] 每次执行一个任务 [30:08] 都连着开几个agent一起去执行 [30:11] 也没有个机制去反馈 [30:12] 把它收集起来 [30:13] 所以说大家的评价 [30:15] 很多都是一个偏主观的 [30:16] 他很难拿到这样一个 [30:17] 真正的ground truth [30:18] 但如果说有哪家公司或者有一家 [30:20] 有某种方式解决了这个问题 [30:22] 那肯定很厉害 [30:23] 但我相信他们大模型公司内部 [30:25] 肯定是有这样一个机制的 [30:27] 就是让他有几个版本的模型 [30:29] 然后有一些用户 [30:30] 他是真实用了这个东西 然后去测 [30:32] 我的意思是 [30:33] 假设有这样一个Distribution（分布） [30:34] 然后你这个评测的分数的分布 [30:36] 接近于这个东西 [30:37] 那它就是一个很好的benchmark [30:39] 对 我听到一些比较有意思的 [30:41] 很多评测benchmark [30:43] 跟我线上做A/B test（A/B测试） [30:45] 测出来结果是不一样的 [30:47] 就是用户的反馈跟评测 [30:50] 其实有时候不太一样 [30:51] 甚至很难说哪个好 [30:52] 因为用户有时候也比较主观 [30:54] 像这种聊天的 [30:56] 你可能给他特别多 [30:57] 这种factual（事实保真）的东西 [30:59] 相比给他很多这种 [31:00] Clickbait（点击诱饵） [31:00] 就说他爱听的话 [31:02] 可能这个结果也不一样 [31:04] 所以这块还是挺复杂 [31:05] 对 是这样的 [31:06] 就像Claude Code [31:07] 我觉得在LMArena上 [31:09] 分数一直遥遥领先 [31:09] 就是因为我觉得Claude Code [31:11] 它有个特点 [31:11] 就是尤其中文用户或者英文用户 [31:13] 它给出来的这个 [31:14] Output format（输出格式） [31:15] 更贴近于人们心目中想看到的 [31:17] 就非常好容易去理解 [31:18] 相反的是Codex [31:19] 它可能执行得更细致一点 [31:21] 但是输出的东西 [31:21] 就没有人那么容易去 [31:23] 相对的没那么理解 [31:24] 所以说稍微吃了点亏 [31:26] 但我个人体验用户下来 [31:27] 他们俩可能是不相上下 [31:28] 其实我个人还更偏好于 [31:30] OpenAI那边一点 [31:31] 因为它做得更细致 犯的错误更少 [31:33] 所以这个确实也是 [31:34] 很主观的一个事情 [31:35] 去怎么定义好这个distribution [31:37] 所以在这种情况下 [31:38] 模型公司还会把benchmark [31:40] 视为判断自己模型能力的 [31:42] 一个标准吗 [31:43] 他们肯定也是在乎外部的评价 [31:45] 不同模型公司 [31:46] 我是说先说美国那几家大的 [31:47] 他们肯定是倾向于自建为主 [31:49] 就是自家的evaluation团队 [31:51] 因为他们有这个能力去建 [31:52] 但是对于一些比如说刚成立的 [31:53] 或者相对没有那么有名气的 [31:55] 一些frontier labs（前沿实验室） [31:56] 或者它不是头部的frontier labs [31:58] 他们肯定是会非常依赖于 [31:59] 外部的评测 [32:00] 因为它内部的评测团队 [32:02] 可能没有那么有经验 [32:03] 或者那么完善 [32:04] 或者说他们的人力资源 [32:05] 更希望投入到模型的训练 [32:07] 和开发当中 [32:08] 而不是去直接利用 [32:09] 所以每个公司的策略 [32:10] 都不太一样 [32:11] 其实我的个人判断是说 [32:13] 当一个产品逐渐成熟之后 [32:15] 或者当你积累了 [32:16] 一定体量的用户之后 [32:18] 最后你其实关心的还是用户增长 [32:20] 比如说我之前其实做了很多年 [32:22] 在Meta做搜索跟推荐 [32:24] 逐渐地就变成了一个 [32:25] 类似搜索推荐的问题 [32:26] 就你看了什么样的指标 [32:27] 跟用户增长最相关 [32:29] 最后就朝着赚钱的方向走的 [32:32] 现在可能真正能够 [32:33] 评测到这个能力的lab不太多 [32:35] 需要一定的用户体量 [32:37] 可能在这个聊天的场景 [32:38] 就比较成熟了 [32:39] 但是在这些agent的场景上 [32:42] 能做到这个程度就更复杂一点 [32:44] 大模型可能跟传统搜推 [32:46] 不太一样的地方就在于说 [32:47] 它的场景很复杂 [32:48] 就算我能够在这个chat场景 [32:50] 做好很好的这个A/B test [32:51] 甚至训这个reward model [32:53] 来朝用户喜欢的方向发展 [32:55] 我总会有新的东西出来 [32:56] 而且大家一直在看新的东西 [32:58] 比如说现在大家都在卷科学发现 [33:00] 科学发现 [33:01] 我不可能有足够量的科学家 [33:02] 给我显著的A/B test的结果 [33:05] 必须还是要依靠场景 [33:06] 构造benchmark [33:07] 我会说因为大家对这里的 [33:08] 应用场景的期待太高了 [33:10] 场景增长的速度 [33:11] 赶不上我在这个领域 [33:12] 用户沉淀的速度 [33:14] 还是有大量的需求 [33:15] 要依靠这个benchmark [33:16] 来做评价标准 [33:17] 但我会觉得在某一些领域 [33:19] 沉淀下来之后 [33:20] 大家会有更多的线上评测体系 [33:22] 可能会像这种传统的互联网增长 [33:25] 看看哪些指标跟用户的 [33:26] DAU（日活跃用户）增长更相关 [33:28] 对 能不能深入讲一下 [33:29] 数据采购这件事情 [33:31] 我觉得就是有几个点非常有意思 [33:32] 第一 你提到了刚才有很多小的公司 [33:35] 其实是现在一个创业机会 [33:37] 这也是为什么我们看到很多 [33:39] 最近兴起的一些四五个人 [33:41] 甚至两三个人的这些数据创业公司 [33:43] 拿到了非常高的估值 [33:45] 这是不是就是因为他们的目标 [33:47] 就是这些非常垂直的领域的数据 [33:50] 对 我觉得这里可能有几块问题 [33:53] 首先我觉得最近兴起的 [33:54] 这些RL environment公司 [33:57] 其实更多的是在做合成 [34:00] 因为整个数据行业 [34:01] 已经从找人标注 慢慢地过渡 [34:03] 你要交付的是一整套环境 [34:05] 然后这个环境可能需要大量的 [34:07] 这些工程工作在里面 [34:09] 很多在这些合成的技术栈上 [34:11] 做得比较好的一个小团队 [34:13] 其实可以比较短的时间 [34:14] 交付大量的合成环境 [34:16] 这未必是不好的 [34:17] 就合成它有时候你也可以 [34:19] 基于一些强的模型 [34:20] 或者说基于一些半成品的 [34:22] 这些artifact（产物） [34:24] 是可以做出一些好东西来的 [34:25] 现在这里是一块增长 [34:26] 但是再往下走 [34:28] 这里面比较有意思的就是说 [34:29] 这个东西之所以能成立 [34:31] 因为大家今年的主题是在卷代码 [34:33] 软件行业是最奇怪的一个 [34:35] 就它非常的open [34:37] 有大量的公开资料 [34:38] 而且我们生产数据的公司 [34:40] 同时大家都懂代码 [34:42] 所以就这个比较好解决 [34:43] 让一些小的团队有很多机会 [34:45] 给自己造很多数据 [34:46] 但是我觉得再往后面走 [34:48] 比如说这些其他领域的垂类 [34:51] 就更复杂了 [34:51] 这里面我会看到有一些公司 [34:53] 他们可能解决两个不同的问题 [34:55] 比如说像我们做后训练数据 [34:56] 其实在我看来是两个问题 [34:58] 第一是采购 [34:59] 就是我要把原材料买回来 [35:00] 就好像ALE让大家上传 [35:02] 这是一个比较新的激励机制 [35:04] 然后加工 [35:05] 加工就是我们再把它标注 [35:06] 或者是通过一些agent pipeline [35:08] 把它做成适合大模型训练的环境 [35:11] 在这个垂直领域问题上 [35:13] 其实采购变得越来越复杂 [35:15] 就甚至代码领域 [35:16] 其实采购一些私域的代码仓库 [35:18] 谁能把这个问题解决好 [35:19] 其实就是一个巨大的优势 [35:21] 那么在垂直行业 [35:22] 比如说我如果是做芯片设计的 [35:25] 我可能要把整个芯片设计的环境 [35:27] 给造出来 [35:27] 可能当中涉及到一些商业软件 [35:30] 那我怎么样 [35:30] 把这些商业软件的版权拿到 [35:32] 把它包在这里面就是一个问题 [35:33] 还有一个就比如说 [35:34] 做DevOps（开发运维） [35:35] 我要是一个系统工程师 [35:37] 我要操作什么AWS之类的 [35:39] 我知道有个公司 [35:40] 做了一整套AWS模拟器 [35:42] 每一个垂类的环境 [35:44] 都有一些很深的东西 [35:45] 你可能要采购 可能要定制软件 [35:47] 大家抓住一两个垂类 [35:48] 把这个东西做好 [35:49] 其实创造了很多新的机会 [35:51] 明白 因为刚才我们提到 [35:53] 这些垂直场景 [35:54] 比如说在 [35:55] Drug Discovery（药物发现） [35:56] 这些生物医药方面的 [35:57] 还有一些具体行业的评测下面 [35:59] 我们可能没有足够的场景 [36:01] 或者没有足够的好的评测 [36:03] 在这种情况下 [36:03] 我们有足够的好的数据吗 [36:06] 这里其实有一个难点 [36:07] 每个领域它都是需要一些人 [36:09] 把他的专业知识吐出来之外 [36:10] 我还需要这个领域的东西 [36:12] 像药物发现 [36:13] 我可能需要很多私有的数据库 [36:16] 就这里面我觉得是目前这个行业 [36:18] 一个大的卡点 [36:20] 就是你先要能把这东西买到 [36:21] 你知道大家手上有什么 [36:22] 才能把它做成benchmark [36:24] ALE其实很大程度上 [36:25] 是在解决这个问题 [36:26] 对 ALE就是希望大家能够 [36:28] 以众包的方式 [36:29] 让专家把之前 [36:30] 自己做过的project交上来 [36:32] 当然这里面有一些不符合规范的 [36:34] 我们都筛掉了 [36:35] 因为他们甚至把一些 [36:36] 非常非常撕*的东西都交上来了 [36:38] 比如说什么法院的一些证据什么 [36:40] 就是非常 [36:42] 对 然后我们尽量把这个都筛掉了 [36:44] 比如说我们现在在V2中 [36:45] 我们也尝试去收一些数据 [36:47] 比如说Steam上的一个游戏库 [36:48] 就游戏开发的一个任务 [36:50] 它一个那种名不见经传的 [36:52] 大概几千人体量的一个 [36:53] MOBA（多人在线战术竞技）类的游戏 [36:55] 它要价能要到两三百万人民币一条 [36:57] 我觉得哪家数据公司 [36:59] 或者别人做benchmark [37:00] 都没有这个财力去做这个事情 [37:02] 就是这个游戏公司 [37:03] 会要价要到两三百万 [37:05] 对 要这个游戏的源码 对 [37:07] 就比如说很多公司想要 [37:09] 采一些游戏的视频 [37:10] 然后做些标注 [37:11] 游戏视频可能是版权数据 [37:13] 这里有一个巨大的采购问题 [37:15] 我觉得这里是一个商业机会 [37:17] 我现在其实看到不少startup [37:19] 在解决这些问题 [37:19] 就其实大的数商 [37:20] 我们自己也在投入做一些 [37:22] 采购方面的工作 [37:23] 但是总体上来说 [37:24] 我觉得这里还有巨大的问题 [37:26] 没有被解决 [37:27] 有哪些现在非常热门的垂类 [37:29] 是数据非常少的 [37:31] 我会说至少医疗算一个 [37:34] 只是数据比较敏感 [37:36] 谁能拿到大量的病例数据 [37:38] 那就非常有优势 [37:40] 对 因为其实也有很多新闻讲到说 [37:42] 可能在法律或者金融的这些领域 [37:44] 会有一些之前离职的员工 [37:46] 可能会去分享他们的工作流 [37:48] 不过可能工作流数据 [37:49] 和像医疗数据里面这些病人的data [37:52] 还是不太一样 [37:53] 是的 各个领域 [37:54] 我觉得甚至现在大家之所以都在说 [37:57] 金融 医疗 [37:59] 这些因为跟大家比较息息相关 [38:00] 大家多少还懂一点 [38:02] 其实这个世界上有很多 [38:03] 我都不知道的行业 [38:04] 就是你真的要跟他们聊才知道 [38:06] 就比如说我才知道 [38:07] 就做这个药物研发 [38:09] 大家还会交易这些分子 [38:11] 一个分子还能倒腾几套 [38:12] 这里面还要做 [38:13] DD（Due Diligence 尽职调查） [38:14] 所以可能没有做 [38:15] 只是因为大家不知道 [38:17] 对 就是我们在做ALE V2 [38:18] 想要把 比如说一个领域做深的时候 [38:20] 我们会尝试先捋一个领域 [38:22] 它会有哪些工作流 [38:23] 会有一个树状这样结构 [38:25] 尤其在生物学这一方面 [38:27] 然后我们基于 [38:27] Nature publication（《自然》出版物） [38:29] 它会有自然的分类 [38:30] 它对子学科分类 [38:32] 然后把这个树展开到第三级的时候 [38:35] 大概有3000个节点 [38:36] 然后我们也做了一下工作 [38:38] 就是把现在已有的市面上的life [38:40] 和bio的benchmark [38:42] 已经覆盖了多少 [38:43] 做了一个统计 [38:45] 大概是可能10% 5%都不到 [38:47] 甚至它连一个成型 [38:48] 覆盖面完全的一个benchmark [38:50] 市面上都没有 [38:51] 更别说是针对这个去做相应的数据 [38:53] 明白 那像我们刚刚提到的 [38:55] 这些做合成数据的小公司 [38:58] 他们能赚钱的周期有多长呢 [39:00] 因为听起来好像都是 [39:01] 这几年新出现的这样一些公司 [39:03] 这些数据它的生命周期有多长呢 [39:06] 这是个好问题 [39:07] 至少现在需求还是挺大的 [39:09] 未来很难说 [39:11] 比如说这一波coding卷完了 [39:12] 他们需要新的品类 [39:14] 大家 你能不能抓住下一个机会 [39:16] 而且下一个机会 [39:17] 可能跟你现在的运行模式不太一样 [39:19] 比如说我自己会觉得采购会很重要 [39:22] 采购能力比较差的可能就比较难 [39:23] 或者就像一铀他们 [39:25] 你可能有些新的激励机制 [39:26] 让大家把东西交进来 对吧 [39:28] 所以可能以前的一个激励机制 [39:30] 是招聘平台 [39:31] 或者就给你一个小时工 [39:33] 但是以后可能有新的激励机制 [39:35] 就谁能把这些东西玩得转 [39:36] 可能会继续有一些优势 [39:38] 这个地方我想问允中你的看法 [39:40] 因为我个人认为 [39:41] 随着模型的能力越来越强 [39:43] 模型公司自己内部创造数据的能力 [39:46] 也越来越强 [39:48] 这一点你认为这个饼是越来越大的 [39:50] 但有没有可能会出现一个情况 [39:52] 这个饼面向于非头部公司的机会 [39:55] 反而是门槛是越来越高的 [39:57] 入场券是越来越难拿的 [39:58] 比如说数学这块领域 [40:00] 之前的话 [40:00] 大家只需要去影印那些奥数课本 [40:03] 就能够去批量造出大量的数据 [40:05] 但这些数据现在基本上是零价值 [40:07] 所以你是怎么看待这个趋势 [40:09] 就未来的数据公司的 [40:11] 这个发展方向 对 [40:12] 我会觉得从第一性原则上来说 [40:15] 还有巨量的问题没有解决 [40:17] 你要想这个世界上 [40:18] 还有多少东西没被蒸馏干净 [40:20] 是巨大的机会 [40:21] 但是如果你就看 [40:23] 现在大家是怎么运行的 [40:24] 这个事情当然会越来越难 [40:26] 因为越来越多的这个玩家进来了 [40:28] 我觉得大家如果只盯着 [40:29] 我手上的工作 [40:30] 这个一定是越来越难做的 [40:32] 就算这个lab不自己做 [40:34] 越来越多的竞争对手进来 [40:35] 你的margin（利润率） [40:36] 也会越来越低 [40:37] 所以在我看来 [40:38] 一个好的数商其实最后解决的 [40:40] 是个研发问题了 [40:41] 就好像一个软件公司一样 [40:42] 我要提前投入未来大家需要的东西 [40:45] 赚到钱之后我再投入下一个东西 [40:47] 在lab本身 我有个暴论 [40:48] 可能lab未必有最好的基因 [40:51] 来解决数据的问题 [40:53] 这里面可能有几块 [40:54] 比如说合成数据 [40:55] 合成数据其实按理说 [40:58] 很多就是这个lab research的 [41:00] 本职工作了 [41:01] 尤其是搞后训练的 [41:02] 大部分时间都花在搞数据上了 [41:04] 就是买数据 核数据 [41:05] 验证数据 洗数据 [41:07] 但是这个领域你会觉得 [41:09] 为什么外面的人会有机会 [41:11] 今年的这一波增长 [41:13] 都来自于一些懂行的人 [41:14] 在外面把这个数据合了再卖回去 [41:17] 所以这个事情是存在的 [41:19] 我觉得一方面 [41:19] 是因为大模型公司现在有太多的钱 [41:21] 就是你自己造 [41:22] 外面买其实也不矛盾 [41:24] 但是在更长远上来说 [41:26] 其实有很多问题 [41:27] 可能模型公司没有太好的基因解决 [41:29] 比如说 如果我要采购 [41:31] 我要把一些行业的东西先采购回来 [41:33] 蒸馏出来 [41:34] 这个时候我会觉得大的lab [41:35] 可能未必有那么大的优势 [41:37] 它甚至可能会有一些 [41:38] Conflict of interest（利益冲突） [41:39] 比如说一方面 [41:40] 把你的这个FDE（前线部署工程师） [41:42] 派到了人家企业里面 [41:43] 然后另一方面你有一拨人 [41:45] 在搞这个企业数据 [41:46] 那么我会觉得如果我是一个企业 [41:48] 我是不太放心把我的数据交给你的 [41:50] 出于这些原因 [41:51] 有一些东西可能lab不太适合自己做 [41:54] 它可能还是需要第三方的这个人 [41:55] 帮他做一些采购 [41:57] 或者深入到一些行业领域里面去 [41:59] 我会觉得一个数商真正要做的事情 [42:01] 是在研发 [42:02] 看看未来还有哪些行业是重要的 [42:04] 这些行业有哪些东西我要值得投入 [42:06] 把东西买回来 [42:07] 然后我自己先投入R&D（研发） [42:09] 把这个行业的问题给研究清楚 [42:11] 然后再把它做成benchmark [42:13] 或者数据 [42:14] 甚至证明这个东西的有效性 [42:16] 然后我再转手卖给lab [42:18] 从lab来说 [42:19] 就是大家的 [42:19] Deadline（截止日期）都很死 [42:21] 如果我是一个lab的research [42:23] 如果你让我花半年的时间 [42:24] 来解决一个行业 [42:26] 可能有时候大家其实没有自由度 [42:28] 就是这个时候你看到 [42:29] 那边有一个数商说 [42:31] 我把那个行业的东西搞清楚了 [42:32] 你要不要 [42:33] 大家通常都会看一眼 [42:34] 所以我觉得其实长期来说 [42:36] 拼的还是一个研发能力 [42:37] 你觉得这个趋势 [42:39] 对于大模型公司来说会持续吗 [42:41] 因为现在模型公司里面 [42:42] 也有自己的数据团队 [42:44] 但是你觉得他们更愿意 [42:45] 去从第三方那里收数据 [42:47] 而不是自己去造环境 造数据 [42:50] 这里我觉得可能不矛盾 [42:51] 因为最后模型公司最高的优先级 [42:53] 还是把东西做好 [42:55] 如果他们自己能生产好的数据的话 [42:58] 有可能会倾向于自己生产 [43:00] 只是现在大方向上来看 [43:02] 这个世界上还有太多的工作流 [43:04] 没有被折腾清楚的 [43:06] 那么对外部数商的依赖 [43:08] 我觉得是长期存在的 [43:10] 甚至就是一个大模型实验室 [43:11] 自己可能未必 [43:12] 想要投入那么多的资源 [43:14] 做得这么重 [43:15] 可能更prefer灵活一点 [43:16] 缺点就是说大家可能希望 [43:18] 更多的东西是第一方的 [43:19] 不希望所有人 [43:20] 都能从数商中获得这些能力 [43:22] 所以就从这个角度来看 [43:24] 会有一定的动机自己研发 [43:26] 就比如说现在可能很多labs [43:28] 它在做这个 [43:28] Expert matching（专家匹配） [43:29] 就是说你把人派到我这里来 [43:31] 就也有这么一些趋势 [43:32] 我自己也会觉得说 [43:34] 现在有太多东西没有被解决了 [43:35] 不管是谁把这些问题解决了 [43:37] 那他一定是有赚钱的机会 [43:39] 这个东西可能跟在哪里发生 [43:41] 不是很有所谓 [43:42] 现在是机会多 [43:43] 饼在越变越大的这么一个阶段 [43:45] 但这也是大家对于数据 [43:46] 一直有的一个问题 [43:47] 也就是说如果一个第三方供应商 [43:50] 把同样的数据卖给不同的模型公司 [43:54] 那它中间怎么样去区分呢 [43:56] 这里通常来说 [43:57] 有个比较简单的解决方案 [43:59] 就是说你可以花多点钱 [44:00] 把这个数据买断 [44:02] 你觉得对于模型公司来说 [44:03] 在数据供应商 [44:04] 收到那么多数据的情况下 [44:07] 他们怎么样去使用这些数据 [44:08] 这个流程能不能给我们讲一下 [44:10] 就这里面一般来说 [44:11] 它是有一些比较固定的训练方式的 [44:14] 我们把它叫 [44:15] Training recipe（训练配方） [44:16] 就比如说像是比较简单的这种数据 [44:19] 我可能就是直接SFT（监督微调） [44:21] 就是我把对的答案给它就行了 [44:23] 然后像是rubric这一种 [44:24] 它可能就是在做强化学习 [44:26] 因为就是不停地 [44:27] 有一个模型在给它打分 [44:29] 比较有意思的是现在这些RL环境 [44:32] 比如说最近大家在卷的 [44:33] 一些特别长程的任务 [44:35] 现在今年的一个主题 [44:36] 是RSI（递归自我改进） [44:37] 就是recursive self improvement [44:39] 它其实是个buzzword（热词） [44:40] 就是说AI自己研发自己 [44:42] 那大家最近就在看那些 [44:44] 我跑一把可能要跑个几天 [44:46] 一个星期 [44:47] 其中你可能要有个GPU [44:48] 真的在上面模型训模型的任务 [44:50] 这里的训练方式 [44:51] 其实就开始变得有一些模糊了 [44:54] 我们也在一起研究 [44:56] 这里面的训练方式要怎么搞 [44:57] 但是我自己就觉得 [44:59] 这里面其实还没有太多的共识 [45:01] 所以还有很多有意思的空间 [45:03] 就对于数商来说 [45:04] 有时候也不完全是 [45:05] 造一个模拟的task这么简单 [45:08] 你还要考虑到他 [45:09] 模型公司拿去要怎么训 [45:11] 针对他怎么训 [45:12] 可能还要有一些定制 [45:13] 对 这一块我也比较好奇 [45:15] 如果说你就是为了bench-maxxing [45:16] 就是你拿ALE的一些任务 [45:18] 你直接去训练 [45:20] 就类似做一批这样的数据 [45:21] 那你怎么保证这个数据它训练出来 [45:24] 它模型能力 泛化能力能够提升 [45:27] 能够被迁移到其他的任务上去 [45:29] 这个东西有没有一些比较系统化 [45:32] 科学化的方法来做这样的验证呢 [45:34] 如何在不训一个模型基础上 [45:35] 能够评判这个数据 [45:37] 能给模型带来怎样的提升 [45:39] 对 我觉得这里其实有一些技术 [45:41] 比如说现在如果我要造一个环境 [45:44] 大家最怕的就是 [45:45] Reward hacking（奖励作弊） [45:46] 就它有捷径 [45:47] 如果明明我没有完成这个task [45:50] 我可能是使了一些手脚 [45:52] 结果我的分可以打得很高 [45:54] 就是我训出来这个模型 [45:55] 肯定会变成一个耍滑头模型 [45:58] 这种东西肯定是不希望发生的 [46:00] 那么通常来说我会有一些技术 [46:02] 我可以用agent [46:03] 来做red team（对抗性测试） [46:05] 之后我会让一些比较强的模型 [46:06] 来试试看 [46:07] 能不能在这个task里面找到捷径 [46:10] 另外就是这里面很多 [46:11] 是我自己的个人猜想 [46:13] 不代表Scale AI或者任何客户 [46:15] 就是说在训练这些东西的时候 [46:17] 很多benchmark [46:18] 我们可能只关心 [46:19] 最后有没有完成这个任务 [46:20] 就是我们的验证器 [46:21] 是围绕这些东西设计的 [46:23] 但是我怎么样完成它 [46:24] 这些东西可能也会在模型训练里面 [46:26] 有一些关键作用 [46:27] 一个比较trivial（琐碎）的例子 [46:28] 就是说budget（预算） [46:30] 就比如说我训模型的时候 [46:31] 我会关心它是不是 [46:32] 消耗了过多的token [46:34] 或者用了这些步数 [46:35] 那么我们在训练它 [46:37] 比如说在拿ALE的模型数据 [46:38] 训练的时候 [46:39] 肯定我最后reward会很复杂 [46:42] 不是说我把这东西解出来就行了 [46:43] 我可能还关注它消耗了多少资源 [46:46] 最后可能是在各种各样维度的 [46:48] 检查 reward 防止它作弊 [46:51] 这些东西结合起来 [46:52] 才能完成一个训练的recipe [46:54] 其实就感觉也没那么简单 [46:56] 这些可能是训练数据 [46:57] 更多要考虑的问题 [46:58] 就是说我这些数据 [46:59] 能不能导出一个比较好的训练方式 [47:02] 能不能讲一下像RSI [47:04] 或者因为刚才 [47:05] 我们也提到很多Neo Lab [47:06] 像在这些情况下 [47:09] 做这些训练需要的数据 [47:10] 有什么不一样吗 [47:11] 或者需要的定制有什么不一样吗 [47:13] 通常来说 [47:14] 最常见的定制其实是难度 [47:17] 大家做benchmark的时候 [47:18] 一般来说至少希望它不那么饱和 [47:21] 那就意味着越难越好 [47:22] 但也不一定 [47:23] 就像一铀说的 [47:24] 也不要就完全解不出来 [47:26] 就是benchmark的难度 [47:28] 更多的是一个 [47:29] 客观地反映我这个行业难度的事情 [47:31] 但是在我训模型的时候 [47:33] 需要做一个特化就是说 [47:34] 这个难度对它的模型要适中 [47:37] 我们有时候会做这个事情 [47:38] 模型厂商会把它 [47:39] 甚至还没有发布的模型给我们 [47:42] 然后我们帮它筛数据 [47:43] 这个题目对它来说不能太难 [47:45] 也不能太简单 [47:46] 因为现在做这个强化学习是说 [47:48] 让模型在上面自己试 [47:49] 如果试对了的话 [47:50] 它就能学到一些东西 [47:51] 那我给它题太难了 [47:52] 它啥也做不出来 肯定就不行 [47:54] 所以在这个难度上会做一些适配 [47:57] 然后另外可能我们会做一些 [47:59] 轨迹采集 [48:00] 就比如说 [48:01] 如果你把你的模型的轨迹给我们 [48:03] 我们可能把这些轨迹采集出来 [48:05] 然后帮你做一些筛选 [48:07] 甚至我们想办法用人 [48:08] 给你搞一些可以解这些问题的轨迹 [48:11] 这样你可以拿回去 [48:12] 不需要做强化学习 [48:13] 你可以直接照着这个轨迹 [48:14] 做SFT（监督微调） [48:15] 针对它的训练需求 [48:17] 其实也有一些特化的这种工作 [48:20] 好 接下来还想再聊一下 [48:21] 数据污染的这个问题 [48:22] 因为今年2月的时候 [48:24] OpenAI就宣布停止报告它在 [48:27] SWE-bench Verified里面的分数 [48:29] 这个其实也是一套评测 [48:31] 具体来说 就是让AI修复 [48:33] 真实开源软件里面的项目问题 [48:35] 再通过这个测试来判断 [48:37] 它有没有修好 [48:38] 当时 OpenAI主要是指出了两类问题 [48:41] 一类是它测试本身可能会有缺陷 [48:44] 比如说有的功能上 [48:45] 正确的解法也会被判错 [48:47] 另一类就是数据污染 [48:49] 这个我觉得很有意思 [48:50] 他们发现是在特定提示下面 [48:53] 模型能够复现部分题目原本的 [48:56] 人类修复代码 [48:58] 也就是说 [48:58] 模型很可能在训练过程当中 [49:01] 就已经接触过相关内容了 [49:03] 所以这个分数就变得有点难解释了 [49:06] 我想问一下两位 [49:07] 是怎么理解数据污染这个问题的呢 [49:09] 就SWE-bench这一类数据 [49:10] 其实有一个问题 [49:11] 它可能甚至还不是污染 [49:13] 就是它task可能就做得不够好 [49:16] 比如说有时候有一些错误是假错误 [49:19] 比如说可能我的测试脚本 [49:21] 要求得太多了 [49:22] 或者是我的task没讲清楚 [49:24] 有这么一些类型的原因 [49:27] 另外一个污染可能是说 [49:30] 模型预训练的时候 [49:31] 把这些东西都训练进去了 [49:32] 这里面其实是有一些技术 [49:34] 可以检测到这些东西 [49:36] 我想这ALE上面 [49:37] 应该会有一些这种经验 [49:38] 要不然他说不采用SWE-bench [49:40] 是连SWE-bench Verified [49:42] 也不采用 [49:43] 就是当一个benchmark它 [49:45] 我印象中它是在过去的6个月内 [49:47] 只从74%提升到了80% [49:50] 剩下那些问题 [49:51] 可能是脚本写得太严苛了 [49:54] 或者它的题目本身就是不可解 [49:56] 或者是会有各种各样的问题 [49:57] 它剩下的可能20% [49:58] 都是集中在这个问题上 [49:59] 那这个benchmark [50:00] 本身可能就失去了它对比的意义 [50:02] ALE也没有解决一个问题 [50:04] 这个也想跟允中探讨一下 [50:06] 当一个专家他本身提交上来的材料 [50:09] 本身是错的时候 [50:10] 我该如何去预防这个问题 [50:13] 这个是我们真实发生过的 [50:14] 因为我们专家五花八门的 [50:15] 当然这样的人很少 [50:17] 他是为了提交这个任务 [50:20] 为了拿到作者（署名） [50:21] 因为我们的奖励机制 [50:22] 就是你提交了这个东西 [50:23] 我们接纳了你这个任务 [50:24] 你就能被纳为作者列表的一部分 [50:27] 确实是有人为了提交而提交 [50:31] 他甚至起了agent [50:32] 去合成一堆乱七八糟的数据 [50:34] 甚至有些数据交上来 [50:35] 我就肉眼看出来他就是编的 [50:38] 这个东西是确实是对我们的工作 [50:39] 造成了很大的困扰 [50:41] 这是个特别大的问题 [50:42] Scale AI总是有人 [50:43] 总是可以靠人解决的 [50:45] 这里有个特别有意思的问题 [50:47] 比如说一铀提到了 [50:48] 我给他这个authorship（署名权） [50:49] 是一种奖励机制 [50:50] 那会带来一定的问题 [50:52] 比如说就Scale AI [50:53] 那更原始的 [50:54] 比如说我就给你小时工 [50:55] 那大家也有一些偷懒作弊的方案 [50:58] 我会觉得这个奖励机制 [51:00] 是个特别特别难的问题 [51:01] 长远来说 [51:02] 比如说我的目标是把人类 [51:04] 都蒸馏干净 对吧 [51:05] 怎么样设计一个好的奖励机制 [51:08] 把大家的目标都align（协调一致） [51:09] 我觉得这里其实有特别大的空间 [51:11] 这里可能是个巨大的 [51:13] Research area（研究领域） [51:13] 我自己心中可能有一些方案 [51:15] Proof of work（工作量证明） [51:17] 就比如说我要求你把做这个东西的 [51:19] 一整段工作流程全部都录下来 [51:21] 你必须要做到多少时长 [51:23] 或者怎么样 [51:24] 不同形式的问题 [51:25] 它有不同形式的奖励和验证机制 [51:28] 这里面其实有很多玩法 [51:29] 值得大家探索 [51:30] 这里面其实也涉及到一个更大的问题 [51:32] 就是很多数据 [51:33] 它本来也就是公开数据 [51:35] 就是网上的一些资料 公开代码 [51:37] 这些东西 [51:38] 所以这些数据是不是本身就注定了 [51:41] 会有污染 [51:41] 一般是怎么样处理这些情况 [51:43] 其实最简单的污染 [51:44] 你直接其实问agent 它都能找到 [51:47] 公开数据其实还好检测 [51:49] 我觉得最难的是编造数据 [51:50] 比如说让你去做一个化学模拟 [51:52] 就它根本就没有跑过这个任务 [51:54] 它自己编了一套似是而非的东西 [51:56] 你没有个几个月 [51:57] 根本查不出来这个问题 [51:58] 因为它看上去很真 [52:00] 什么时候能发现这个问题 [52:01] 当所有的agent [52:02] 它的能力 [52:02] 基本上远超这个问题本身的时候 [52:04] 他发现所有的答案 [52:05] 他们都是做出来是一样的 [52:07] 但是跟这个真实答案是不一致的 [52:08] 这个时候 我们就会查出问题 [52:10] 但这个周期会非常长 [52:12] 然后你让另外一个专家 [52:13] 去验证这个问题 [52:13] 它成本又非常非常高 [52:15] 因为它本身这个问题 [52:16] 它都是要专家花一个多礼拜 [52:18] 或者两个礼拜才能做出来 [52:19] 对 然后那个验证的专家 [52:21] 你要保证他 [52:22] 对 验证的专家 [52:23] 他本身也会为了一些东西 [52:25] 偷奸耍滑说这个东西它就是对的 [52:27] 所以每个涉及到专家评测 [52:29] 都会有这个问题吗 [52:30] 对 都会有 [52:30] 众包的benchmark为什么难做 [52:32] 就是难做在这里 [52:33] 人性是非常复杂的 [52:34] 是 我觉得这里 [52:35] 他可能甚至验证是一环 [52:37] 我自己觉得确实在奖励机制上 [52:39] 比如说 如果你就让他在那 [52:42] 老老实实待着做12个小时 对吧 [52:44] 你给我合假数据 [52:45] 你也要把每一步都给我交出来 [52:47] 要求你必须做这么多的动作 [52:49] 那他可能就没有那么大的动机 [52:51] 给你合假数据了 [52:52] 这些是比较值得研究的方向 [52:56] 很有意思 [52:57] 其实我本来是想问一下 [52:59] 真实工作流的数据 [53:00] 但是听下来大家现在还是在卷 [53:02] Coding数据 是吗 [53:03] 不是在做真的workflow（工作流） [53:05] 因为我理解是 [53:06] 比如说像Mercor这样的公司 [53:07] 就是有在卖一些 [53:08] 真的workflow的数据 [53:10] 但是听起来coding [53:11] 现在还是这个赛道最卷的 [53:13] 其实你怎么定义真实工作流的数据 [53:15] 就真实工作流的数据 [53:16] 本质上它都能够被划归到 [53:18] 一个coding的问题 [53:19] 就比如说对3D建模这个问题 [53:21] 其实有很多 比如说FreeCAD什么 [53:23] 它都是提供了现成的API [53:25] 让你去做这个事情的 [53:26] 就是这不是传统意义上的coding [53:28] 就是让你去写一段代码 [53:29] 去解一个LeetCode这种coding题 [53:30] 它是用coding [53:31] 去解决真实workflow [53:33] 所以说只要有足够的 [53:34] MCP [53:35] API调用 [53:36] 它其实本质上95%以上的 [53:38] 任务都能够被划归到 [53:40] Coding的问题上来 [53:41] 对 就是可能有一些小的 [53:43] 可以看它这个task本身 [53:45] 是要的什么东西 [53:46] 它涉及到的一些环节是什么 [53:49] 能把它归结到 [53:50] 不同领域的工作流上去 [53:51] 但是就我同意一铀说的 [53:53] 现在 因为你让agent来做事情 [53:55] 代码就是它的手跟脚 [53:57] 所以它其实归根结底 [53:59] Coding肯定是其中的一环 [54:01] 明白 你们觉得在私有数据 [54:04] 需求依然很大的情况下 [54:06] 未来的数据公司 [54:08] 会不会从卷采购本身变成卷并购 [54:11] 就是去收购一些垂直领域的公司 [54:14] 对 不评论Scale AI [54:16] 我是听说有一块很大的 [54:17] Private equity business（PE业务） [54:19] 就是说以前大家是flip公司 [54:21] 现在flip公司的一个新的方式 [54:23] 就是说我买了这个公司 [54:24] 我用AI让它提效 [54:26] 把一些人裁了 [54:27] 之后把这个公司的价值做上去 [54:29] 再把它卖了 [54:30] 现在就多了一层 [54:31] 就是除了我买这个公司 [54:33] 可以把它重组打包 [54:35] 用AI提效之外 [54:36] 我还能把它的数据发掘出来 [54:38] 就它数据还能卖一些钱 [54:39] 所以就是让这些 [54:41] 整个买公司的行业又多了一个玩法 [54:44] 就很自然地大家 就是数商 [54:46] 或者就传统做 [54:46] Private equity（私募股权）的公司 [54:47] 也在看这个数据怎么能够卖钱 [54:50] 然后就兴起了一整个领域 [54:52] 我甚至觉得说 [54:53] 如果真的未来 比如说5年 10年 [54:56] 还是这个速度发展 [54:57] 大家还没有遇到瓶颈的话 [54:59] 把各个行业的东西都给拿出来 [55:01] 可能这个东西跟大模型本身 [55:04] 就是世界上最大的两个行业 [55:05] 当然这是比较极端的 [55:06] AI doomist view（AI末日论观点） [55:08] 可能会导出这么一个世界 [55:11] 是的 但是听起来 [55:12] 其实数据行业本身 [55:13] 也是在变化得非常快 [55:15] 因为就像我们刚才提到 [55:16] 从这个rubric data [55:17] 到RL环境的这样一个变化 [55:19] 所以有什么信号 [55:21] 会让你觉得有某一个领域 [55:22] 或者某一个赛道 [55:23] 它可以持续地增长吗 [55:25] 我会觉得就首先 [55:27] 还有很多没有解决的问题 [55:28] 机会还是很多的 [55:29] 另外一方面有越来越多的 [55:31] 玩家进来了 [55:32] 比如说每年都有很多新的Neo Lab [55:34] 资本市场还是以这个方式运作的话 [55:36] 就这个饼是越来越大的 [55:38] 但是这个数据变化很快 [55:39] 不太像是一个 [55:40] 我可以躺在一个地方 [55:41] 一直吃老本的生意 [55:42] 数商要疯狂地迭代自己 [55:45] 最后可能是拼大家的R&D的能力 [55:48] 或者说谁能把 [55:49] 这个R&D的能力本身固化 [55:51] 做成一个flywheel（飞轮） [55:52] 我有一个流水线 [55:54] 可以一直在发掘新的东西 [55:56] 也许这个是未来最大的优势 [55:57] 但是就总体上来说 [55:58] 我会觉得现在是百花齐放 [56:00] 未来机会还很多 [56:01] 这我也是从一些地方听说 [56:03] 数商的估值空间 [56:05] 一般没有传统的公司来得大 [56:07] 就是因为它很难把这个杠杆保持住 [56:09] 然后让你以很轻松的方式 [56:11] 在一个积累的用户量情况下 [56:13] 就能躺在那里吃老本挣钱 [56:15] 就像Facebook Google的 [56:17] 一些生物一样 [56:17] 它已经有积累大量用户 [56:18] 它就能躺在这些APP上赚钱 [56:20] 但数字生意 [56:21] 领导者必须持续地去思考 [56:23] 下一步在哪里 持续去迭代 [56:25] 因为模型迭代速度太恐怖了 [56:27] 你觉得你们现在在做ALE 2.0的时候 [56:30] 最难的是什么 [56:31] 我觉得学术上相对容易一些的 [56:33] 比他们Scale AI 在做商业上 [56:35] 因为他们给我们的数据 [56:36] 很多都是无偿的 [56:38] 但是我能够想象得出 [56:39] 我如果是一家数商 [56:40] 要去收这个数据 [56:41] 这些都是天文数字 [56:43] 就那些收上来的原始的项目和代码 [56:45] 而且很难找到一个很好的奖励机制 [56:48] 让这些专家 [56:49] 能够自愿地把这个交上来 [56:51] 我拿Mercor他们官网上的 [56:52] 给专家的一个小时的价格来算 [56:55] 比如说制造业的工程师 [56:56] 大概是可能一两百刀一个小时 [56:59] 这种价格就限定了 [57:01] 它不可能招到特别特别高级的工程师 [57:03] 但是为什么学术界好做 [57:05] 因为我们能够自然而然地 [57:06] 吸引到一些这种级别的人 [57:08] 来帮我们收集数据 [57:10] 因为他们不求钱 [57:11] 他们图的是 [57:12] 大家一起把这个事情做好 [57:13] 图的是个名 [57:14] 所以说这个奖励制度不一样 [57:16] 就导致你能吸引到的人不一样 [57:18] 你的上游是不一样的 [57:19] OK 很有意思 [57:21] 好 那我们就到这里结束吧 [57:22] 谢谢允中 谢谢一铀 [57:24] 参加我们的节目 [57:24] 谢谢Yiwen [57:25] 谢谢 [57:30] 好 以上就是我们这期播客的 [57:32] 全部内容了 [57:33] 国内的听众可以通过小宇宙 [57:35] 苹果播客 网易云音乐 [57:37] 喜马拉雅 QQ音乐 蜻蜓FM [57:39] 荔枝FM来关注我们 [57:42] 海外的听众 [57:42] 可以通过苹果播客和Spotify [57:45] 或者在YouTube上 [57:46] 搜索《硅谷101》播客来关注我们 [57:49] 我们部分的文字稿 [57:51] 还会收录在《硅谷101》的 [57:52] 微信公众号上 [57:54] 谢谢大家 我们下次再见