前谷歌专家曹原拆解AI4S爆发背后的计算与验证瓶颈

前谷歌专家曹原拆解AI4S爆发背后的计算与验证瓶颈 物理世界验证成本与概念抽象能力是AI从工具跨越到自主科研与AGI的核心障碍。 对话从 Jeff Dean 等谷歌高管离职创业切入，系统梳理了 AI4S、AI4AI 与递归自我改进 (RSI) 的逻辑关系。曹原剖析了当前 AI 在科学研究中从“假设生成”到“物理世界实验验证”所面临的瓶颈，并指出现阶段物理验证成本与因果机制缺失是核心障碍。探讨还延伸至 AI 在数学与物理领域的应用，指出“概念抽象”与“溯因推理”或许是 AGI 难以跨越的最后一英里。最终，曹原从哲学认识论的角度呼吁自上而下的第一性原理思考，并预测 AI 独立做出诺奖级科学突破仍需 20 至 30 年。 Jeff Dean 离职创办 Discovery Loop，标志着 AI for Science (AI4S) 成为科技巨头与顶尖科学家的下一个核心赛道。 (0:00) 曹原认为谷歌时代远未结束，谷歌拥有从底层芯片、算力、模型到分发渠道的全栈 AI 要素，仅需在管理与敏捷度上进行调整。 (2:40) AI4AI 与 AI4S 在本质逻辑上高度一致，均以 AI 模型作为研究员；而 RSI（递归自我改进）则是驱动二者自我循环迭代的方法论。 (15:01) AI4S 在 2026 年爆发的关键在于 AI 代码与数学推理能力的成熟，以及 Agent harnessed 工作流与记忆管理机制的突破。 (18:11) 科学研究的“问题定义”仍需由人类科学品味主导，而物理世界（湿实验）的验证成本与反馈周期是当前 AI4S 发展的最核心瓶颈。 (25:00)

前 Google DeepMind 资深研究科学家曹原在与《硅谷101》对话中指出，随着推理与工程驾驭系统的成熟，AI for Science (AI4S) 正在催生新的科研范式，但物理世界的验证成本与高阶抽象能力的缺失构成了通往真正科学发现的关键瓶颈。 组织重组与大厂在科学赛道的路线分歧 (0:00) 2026年8月 Jeff Dean 离职创办 Discovery Loop 专注于科研自动化，反映出巨头在大规模模型研发与前沿科学探索间的张力。曹原分析，谷歌集中资源推进 Gemini 项目打破了以往研究团队的独立模式，但其涵盖底层 TPU、工具链至产品的全栈生态依然稳固；Demis Hassabis 卸任 CEO 转任董事长则更利于聚焦长远科学目标。与此同时，OpenAI 提出在2027年前实现自动 AI 科学家，但经历了前负责人离职与团队并入 Codex 的优先级摇摆；Anthropic 则通过 Claude Science 平台及引入诺奖得主 John Jumper 发力垂直领域。在上市与商业变现压力下，巨头短期内不得不优先倾斜 Coding 等快速盈利赛道，从而为垂直领域的创新实验室留下了空间。 闭环落地的物理瓶颈与自动化实验室 (18:11) AI4S 之所以能在 2026 年爆发，得益于模型在代码与数学推理层面的突破，以及智能体架构和记忆管理系统的成熟。然而，科学研究从软件环境（In silico）跨越到物质世界时面临极高阻碍。在生物制药等高标准化领域，引入 AI 进行靶点筛选和分子设计可显著降本增效，但材料科学等领域流程极度碎片化，使得通用模型难以快速通吃。物理世界验证的核心制约在于周期漫长与高昂成本。解决路径一方面依赖于类似 Google DeepMind 合作的 A-Lab 或云端机器人实验室（AutoLab）来机械化执行标准实验，另一方面则依赖于增强 AI 的长程推演与历史经验分析能力，减少盲目物理试错的频次。 因果缺陷与大模型的逻辑局限 (42:59) 纯粹依赖统计相关性的大语言模型在应对科学逻辑时存在先天缺陷，模型常受语序等表面表征干扰，在需要干预变量的 Do 演算中容易失效。曹原指出，科学发现需要构建能反映真实物理演化规律的“世界模型”，而非仅停留在文本概率层面。为了克服连接主义神经网络对训练数据边界的依赖，曹原发起的 Unreasonable Labs 主张将神经网络与符号主义（如形式化验证规则）结合。这种神经符号架构通过显式逻辑和数学规则自上而下地校验模型提出的假设，兼顾直觉生成的灵活性与形式逻辑的严格性。 形式化验证与概念创造的不可逾越之壁 (71:18) 在数学与物理推导中，纯自然语言容易在复杂场景下掺杂谬误，顶尖学者与前沿机构正依赖 Lean 等形式化语言进行编译验证。然而，自动形式化翻译难度极大，且依赖 Mathlib 数学库的覆盖度。曹原认为，若问题限定在既定的表征空间内，AI 可以通过大范围搜索与强化学习策略求解；但真正的科学飞跃在于“概念抽象”与“定义全新数学对象”（如微积分或黎曼度量）。这种从具体现象提炼高度抽象概念的过程可能超越了图灵机的计算范式，是大模型自发演化极难攻克的理论障碍。 溯因推理瓶颈与自主诺奖级突破展望 (93:28) 人类科学史上的偶然发现（如牛顿由苹果落地发现引力）依赖于溯因推理（Abductive Reasoning），即从反常现象反推出潜在因果机制的能力，而目前 AI 仅擅长给定前提推导结论的演绎推理。随着 AI 生成解答的泛滥，陶哲轩等学者提出的“证明过剩”现象暴露了人类验证带宽的严重匮乏。缺乏人类审美与洞见的穷举式证明虽具备实用价值，但在科学美学层面贡献有限。曹原预测，虽然利用 AI 辅助科研已能产生商业回报，但要实现 AI 独立做出诺贝尔奖级别的科学发现，攻克因果机制、连续学习与长程记忆至少仍需 20 至 30 年的时间。 AI 作为通用目的技术正在重构科研工作流，但在缺乏可信赖性与可解释性的前提下，全盘替代人类反而会推高验证与纠错成本；人类的核心价值依然在于定义前沿问题、赋予科学洞察以价值判断，并对真实结果行使终极审判权。

[61:25] 曹原: AGI肯定不说就是这么一个文件，就是这么一个固定死的 checkpoint……它一定要是在不断地跟用户互动，或者是在它执行任务的过程当中，不断认识到自己的错误，然后持续地去更新自己。 [71:18] 曹原: 连这么伟大的数学家……都没法确定自己证明结果对不对。最后他就找他的朋友和合作者，把相关的数学定理人工转换成形式化生成 Lean 语言。突然有一天编译通过了，就证明这个证明是对的……你只有非常严格地把它翻译成逻辑上可以推导的方式，只能相信逻辑和计算机。 [78:46] 曹原: 概念抽象的过程，我认为可能是 AGI 的最后一英里（last mile）。这个 mile 可能是永远无法逾越的……这个过程我认为甚至都不一定是在图灵可计算这个意义下面。 [85:44] 曹原: 如果我去听钢琴演奏……告诉你这钢琴是个机器人演奏的，我保证它按键的力度、长度都是完美的……你肯定就不想去听。因为你想听的不只是一个结果、音色本身，而是这个钢琴家自发的情感状态，这能让你产生共鸣……数学也是一样，光看到证明结果对不对固然重要，但如果没有特别有意思的发现，就像机器人弹钢琴一样，没有能够打动数学家的洞见。

[0:00] 8月第一周 [0:01] 谷歌灵魂人物Jeff Dean宣布离职 [0:03] 带着其它几位高管出走成立Discovery Loop公司 [0:07] 致力于加速生命科学及其他行业的研究进程 [0:10] 在硅谷 这标志着AI for Science这个赛道 [0:13] 开始爆发 [0:15] 科学和技术怎么用AI自动去推动 [0:18] 这是太重要的topic（课题） [0:19] 不仅是对一个组织 对一个公司 [0:20] 对一个社会 甚至对一个国家 [0:22] 人类社会发展最终是由科学和技术来推动的 [0:24] 就在众多数学家、物理学家、生物学家 [0:27] 加入OpenAI和Anthropic等顶尖AI实验室之际 [0:30] AI正在改变人类研发科学的范式 [0:34] OpenAI宣布模型Astra [0:35] 推导出了10道人类长期悬而未决的数学难题 [0:38] Anthropic未发布科研版Claude [0:40] 将黎曼猜想的相关零点下界从41.6%推进至67.2% [0:46] 同时 AI在生物制药、材料、物理等领域 [0:49] 都在迅速将科学前沿快速推进 [0:52] 而AI自进化 形成研发闭环 [0:54] 是科研加速的核心 [0:56] 但这中间 人的角色 稍显尴尬 [1:00] 它能不能达到一个模型到实验的闭环 [1:02] 也就是我们说的这个loop（闭环） [1:04] 最难 对于AI for Science [1:04] 肯定是verification（验证） [1:05] 它是一个瓶颈 [1:06] 一旦这个瓶颈被打破了 [1:07] 你就可以很快地迭代 [1:09] 数学从一个证明稀缺的时代 [1:11] 已经进入到了一个证明过剩的时代 [1:14] 人类不能理解的发现是没有意义的吗 [1:17] 它只能有部分意义 [1:18] 不是结果正确就一定正确 [1:20] 你需要去理解 然后去评判 [1:23] 如果这个AI我们承认并且接受 [1:25] 它是一个黑盒 [1:26] 并且心安理得地去接受它产生的结果的话 [1:29] 这会造成很多困难 [1:30] 如果这个结果不是完全可解释的话 [1:33] 概念抽象的过程 [1:34] 我认为可能是AGI的 [1:35] 最后的last mile（最后一英里） [1:36] （AI）要想拿诺贝尔奖的话 [1:37] 要很长时间的 [1:38] 很长时间是多久 [1:39] 我觉得至少得二三十年 [1:40] 你觉得“符号主义”能够解决这件事情吗 [1:43] 所以我们就希望在外面有一层 [1:44] 就是说有一套机制 [1:44] 能够帮助它产生一些新的不一样的想法 [1:48] 大家好 欢迎收看硅谷101 我是陈茜 [1:51] 这期视频播客我们来聊聊AI for science [1:53] 加入我们的嘉宾 [1:54] 是谷歌DeepMind前资深研究科学家曹原 [1:58] 我们这期从AI科学自进化的方法论 [2:00] 聊到AI数学和AI物理的应用 [2:03] 到了最后甚至还聊到了一些哲学问题和人类的意义 [2:07] 挺有意思的 [2:08] 也欢迎大家在评论区和我们讨论 [2:10] 以下 就是我和曹原的视频播客 [2:20] 曹原 非常欢迎你来做客《硅谷101》 [2:22] 要不要跟我们的观众介绍一下你自己 [2:24] 大家好 我叫曹原 [2:26] 我原来是Google DeepMind的科学家 [2:29] 我也是AI一个startup（初创企业） [2:30] 叫Unreasonable Labs AI的 [2:32] co-founder（联创） [2:33] 我们的startup（初创企业）主要是做 [2:35] AI for knowledge creation（知识创造） [2:36] 以及AI for Science [2:38] 和R&D（研究与试验发展）的一些研究 [2:40] 我们今天录制的这个时间特别巧 [2:41] 因为就在昨天 Google的Jeff Dean宣布说 [2:44] 他要带领一队的科技高管出来 [2:47] 然后自己做一个公司叫做Discovery Loop [2:50] 他们其实也是想做一些 [2:51] AI for Science之类的 这样的一个事情 [2:55] 我看很多人的评论很唏嘘 [2:57] 说这是一个时代的结束 [2:58] 是另外一个时代的开始 [3:00] 我理解说结束的时代是Google的时代 [3:02] 开启的时代 [3:03] 可能是一个新的AI for Science的 [3:05] 科学研究的时代 [3:07] 可以这样理解吗 [3:08] 我觉得这个事情应该从几个方面去解读 [3:10] 第一个就是说Google里面有很多人才 [3:12] DeepMind很多人才 [3:13] 然后有很多团队 [3:14] 在过去可能几年前 [3:16] 每个团队可能各自关注一些课题 [3:17] 互相不是特别干涉 [3:19] 但是从三四年前 [3:22] Gemini这个项目开始之后 [3:23] 因为Gemini毕竟是一个最大的项目 [3:25] 也是很重要的项目 [3:26] 这种项目需要集中力量办大事 [3:29] 从那个时候开始 [3:30] 这个对于整个人员组织和项目的管理 [3:33] 带来很大的一些挑战 [3:35] 所以不可避免的 [3:37] 内部会有些冲突 [3:39] 第二个背景是说 [3:41] 我相信大家也可以看到 [3:42] 在过去的半年左右 [3:44] Gemini的表现可以说不尽如人意 [3:49] 今年年初的时候 [3:50] 你说Gemini 3.1 Pro可能还算 [3:52] 在这个排行榜上 [3:53] 还可以算是比较好的 [3:54] 一个language model（语言模型） [3:55] 但是过去的三四个月 大家可以看到 [3:57] 不管是Anthropic还是OpenAI [3:59] 包括中国很多开源公司 [4:01] 他们的模型能力在突飞猛进 [4:03] 但是相比来说 Gemini整个3.5 Flash [4:05] 以及最新的3.6 Flash [4:08] 表现来说应该是比较平平的 [4:09] 而且大家都非常期待3.x的Pro [4:13] 目前还没有正式发布 [4:14] 总体来说就是Gemini这个进度非常落后 [4:17] 在这种情况下 在商业模式上去追赶 [4:19] 比如说像Anthropic他们 [4:21] 以coding agent（编程智能体）为主的 [4:23] 这么一个新兴的能力 [4:24] 要把这个商业的模式转向那个方向的话 [4:26] 其实还是有很大困难的 [4:27] 第三个就是Jeff Dean和Oriol Sanjay和Quoc [4:32] 他们做这个Discovery Loop [4:33] 这个课题本身其实就是能够让AI [4:36] 自己去做知识开发 知识的发现 [4:39] 以及做自动科研 [4:42] 这个其实跟我们的创业公司 [4:44] 当时想做的方向是非常一致的 [4:47] 我就是说这个其实是有一定的逻辑上的 [4:49] 非常顺理成章的延展性的 [4:51] 因为AI发展到现在这个阶段 [4:53] 在过去的两三年带来数学和编程这些东西 [4:56] 这可能是大家过去两年最关注的 [4:58] 关于AI智能能力的一些体现 [5:00] 能够自动写代码 [5:01] 能够解决一些奥林匹克数学问题 [5:03] 那么自然可以想象说 [5:04] 等到这些问题解决之后 [5:07] 下一个能够让AI的智能得到爆发的 [5:11] 能够产生巨大效益的或者是产生一些 [5:15] 帮人类解决更大问题的这个话题是什么 [5:17] 很显然就是能够把数学和代码这些能力 [5:20] 推广到更广泛的科学知识发现 [5:23] 这个能力上面 [5:24] 所以 从今年开始大家可以看到有很多 [5:27] 关于knowledge discovery（知识发现） [5:28] AI for Science [5:29] 然后recursive self-improvement（递归自我改进） [5:32] 这样的一些startup（初创企业） [5:34] 我相信像Jeff, Oriol, Sanjay和Quoc [5:37] 这样一个明星团队 [5:38] 他们出去做一个startup（初创企业） [5:39] 一定是想做这么一个领域的新标杆 [5:42] 能够成为一个新的Neolab（新型实验室） [5:45] 这样的一个设想 [5:47] 但是另一角度来讲 [5:48] 所谓一个新的时代开启 [5:50] 然后Google可能是转向了或怎么样的 [5:53] 我认为这个言过其实 [5:55] 因为Google它拥有所有 [5:57] 能够把language model（语言模型） [5:58] 做好的要素 [6:00] 不是说 不可能因为一两个人 [6:03] 哪怕是这些领导层 它的变动 [6:07] 这公司做不下去了 对不对 [6:09] Google可能是这些大的科技公司里面 [6:12] 拥有所有做好AI的全栈要素的 [6:15] 这么一个公司 [6:16] 从底层的芯片到infrastructure（基础设施） [6:19] 数据中心 到工具链 [6:21] 然后到模型层 人才 数据 [6:23] 再到上面产品的分发 到整个产品栈 [6:26] 覆盖非常广泛的消费者产品的分发渠道 [6:30] 全都有 完全不依赖于外部生态系统 [6:33] 所以不是说Google做不好 [6:35] 而是说在优先级上面 [6:37] 以及资源的投入上面需要做些调整 [6:41] 但我相信Google依然以后会 [6:42] 把这个能力做上去 [6:43] 我觉得还是很好奇 [6:45] 因为你刚才说了Google内部也有 [6:47] 对AI science（AI科学）研究的队伍 [6:50] 这个方向也是之前DeepMind的前CEO [6:54] 现在已经不是CEO了 [6:56] Demis Hassabis非常看重的方向 [6:57] 甚至他们也是独立主导了 [7:00] Isomorphic Labs这家公司 [7:02] 为什么Google留不住 [7:03] 包括你还有Jeff 这一群科学家 [7:05] 在Google内部去做AI4S这件事情 [7:08] 首先我想说的是 [7:09] 在湾区 在硅谷这地方 人员之间 [7:12] 现在目前这几个科技前沿的公司里面 [7:15] 这个人员流动其实是非常频繁的 [7:16] 不光是Google [7:17] 对我个人来说的话 [7:19] 我之所以能够想出来做这样的一个事情 [7:22] 是因为我们之前也是在做Gemini [7:24] 我们也是一直在做模型迭代 [7:26] 然后做后训练这些东西 [7:27] 但是我觉得我一直在去想一些 [7:29] 关于更深层次的 就是一些关于智能 [7:32] 怎么能够把这模型做得更智能 [7:34] 如果你要是想实现这个AGI目标的话 [7:37] 目前现在这个模型 [7:38] 的确是可以做好数学和写代码 [7:40] 这样的一些工作 [7:42] 但是很明显有些能力还是缺失的 [7:44] 比如说如果你真的想让它做好科学问题 [7:46] 想让它去解决科学问题的话 [7:48] 它的创新能力 [7:49] 它能够提出新假设 验证新假设 [7:51] 然后不断自我更新的这些能力 [7:54] 还是远远没有到达能够帮助人们 [7:56] 指数性增长科学知识的这么个水平 [7:58] 所以在这个方面 [8:00] 为什么会有这个缺失 对不对 [8:02] 然后怎么样能够进一步改进这个模型 [8:05] 使得它能够帮人类做出更好的一些事情 [8:08] 所以我决定可以出来试一下 [8:11] 这是我当时出来时候的动机之一 [8:14] 那Jeff Dean为什么要带人离开呢 [8:16] 能不能猜测一下 [8:18] 我觉得Jeff Dean在Google [8:20] 是一个传奇式人物 [8:21] 不光是在Google [8:22] 整个业界都是传奇式人物 [8:24] 对 [8:24] 他对早期的Google 一直到现在 [8:26] 整个Google可以说是 [8:27] 大部分因特网级别的这么一个基础设施 [8:31] 都是从他的一些工作开始的 [8:33] 从最早的MapReduce [8:34] 到Spanner到BigTable [8:35] 之后创立Brain Team, TensorFlow [8:37] 最早的深度学习框架之一 [8:39] 到Google TPU 再到最后的Gemini [8:42] 所以的确是非常传奇的一个人物 [8:44] 然后跟他出去的其他几个同事 [8:48] Oriol和Quoc都是早期Google Brain的成员 [8:51] 他们已经共事了很长时间了 [8:54] Sanjay是Google的元老 [8:55] 其实是跟Jeff Dean [8:56] 基本上是在一个时间进来的 [8:58] 也是跟Jeff Dean合作了很长时间的伙伴 [9:02] 所以他们都是相互之间非常了解 [9:04] 我原来在办公室也经常可以看到 [9:06] Jeff Dean和Sanjay他们 [9:09] 经常peer coding（结对编程） [9:10] 就是两个人在一起写代码 [9:11] 他们每周有一天是必须就Jeff会（写代码） [9:14] 是非常hands-on（亲力亲为）的 [9:15] hands-on（亲力亲为） 对 [9:16] 两个都在写代码 [9:17] 所以我现在非常自然地说 [9:19] 如果他们想自己出去做些事情的话 [9:21] 这个是很顺理成章的一个组合 [9:23] 他们非常了解 [9:24] 而且都有非常强的技术背景 [9:26] 目前其实不仅是Jeff Dean离开了 [9:28] 我们在早之前的时候看见John Jumper [9:31] 也就是AlphaFold联合的发起人 [9:34] 为此获得了诺贝尔奖的这名科学家 [9:37] 也是加入了Anthropic [9:38] 为什么Google留不住这批科学家呢 [9:40] 因为我之前以为 [9:41] Google是最重视AI4S的 [9:44] 这条道路的 [9:44] 之前Demis Hassabis [9:46] 他其实是主导了这条路线 [9:48] 所以最近接二连三的这个 [9:50] 而且是核心人物的离开 [9:52] 让我还挺惊讶的 [9:53] Google现在内部 [9:55] DeepMind肯定是最高的优先级 [9:56] 是要把Gemini做好 [9:59] 做到SOTA（业界最佳水平） [10:00] 做到跟Anthropic 跟OpenAI齐平的位置 [10:03] 齐平或者是更好 [10:05] 所以很多的工作重心 [10:07] 短期内的优先级必须往那个方向去转 [10:10] 包括像Jumper [10:11] 包括原来一些做AI4S的人 [10:12] 他们的工作重心也会有变动 [10:15] 所以在这么大一个团队 [10:17] 然后有这么大优先级的项目情况下 [10:19] 你不可能让每一个人都非常满意 [10:24] 在Google有这么多人才 [10:25] 每个人都想做自己的事情 [10:26] 都有自己的一些想法 [10:28] 所以能够让 [10:30] 有这么多人才 [10:31] 怎么能够让每个人的能力和他们的诉求 [10:34] 得到最大的体现 [10:36] 最好的安排是非常（有）挑战的事情 [10:39] 我认为Google其实已经在这方面 [10:41] 做了很多优化和做了很多调整 [10:43] 能够让他们每个人发挥自己最大的潜力 [10:49] 肯定在这过程当中 [10:51] 管理团队和科学家和工程师都在思考 [10:53] 和不断地更新 迭代这个过程 [10:56] 在管理上有很多挑战 [10:57] 但是我相信这个状况还是在变好 [11:00] 你觉得在变好 [11:01] 我觉得在变好 对 [11:02] 怎么去评判它在变好 [11:04] 我觉得就是 你不能再按照原来 [11:06] 像现在做大模型 做这样的东西 [11:09] 它是非常需要快速迭代 [11:10] 然后需要持续更新这么一个过程 [11:12] Google要做的是革自己的命 [11:14] 然后能够把这个Gemini团队 [11:16] 做得像一个startup（初创企业）一样 [11:19] 尽快地把智能先补上去 [11:21] 这就要求管理团队需要做很多的调整 [11:24] 对于在人员安排上 [11:26] 在每个人的 他们所能做的这个 [11:29] 包括整个项目怎么安排 [11:30] 这个是一定要有一些自我革新的勇气 [11:35] 我相信Google也在意识到这一点 [11:37] 而且会做这个事情的 [11:38] 是不是接下来有可能 [11:40] 有一些新鲜的血液进来 [11:43] 可能也会带来一些新的变化 [11:45] 就比如说我们看一下Meta [11:47] 它有了Alex Wang进来之后 [11:49] 现在已经是有一些改善的迹象了 [11:51] 就最近的Muse Spark [11:53] 然后包括他们最新出的这些 [11:54] coding（编程）的模型 [11:55] 外界反馈还挺不错的 [11:57] 肯定会有变化 [12:00] 但就是说做一个模型有几个因素 [12:02] 有几个要素 [12:03] 人力、人才 然后数据、算力以及 [12:07] 我觉得大家可能忽略的一点 [12:08] 就是整个项目管理 [12:09] 整个软的设置 [12:11] 每一个项其实都会有一些不同的 [12:12] 都会需要一些改进 [12:14] 这是一个持续迭代更新的过程 [12:17] 对于Meta来说 [12:18] MSL（Meta Superintelligence Labs） [12:19] 可能将近一年能够做到这个水平 [12:20] 其实已经是挺不容易的 [12:22] 但是接下去怎么能够 [12:24] 从这个水平做到SOTA [12:26] 越往后做肯定是越难 [12:27] 越往上去挑战越难 [12:29] 你从0分做到80分 [12:30] 相对来说可能你是可以 [12:32] 在一定时间内赶上来的 [12:33] 但是如果你要从80分做到100分 [12:35] 甚至超过100分 [12:36] 这个是有更大挑战的 [12:38] 我觉得Google之前 [12:38] 其实已经做到了这个层面上 [12:40] 就是怎么能够再进一步往上 [12:43] 做到最好的这个位置 [12:46] 这是需要花很多功夫 [12:47] 而且要协调很多资源 [12:50] 需要大家能够非常有效地去安排各项工作 [12:53] 需要很快迭代才能做到这样的事情 [12:55] 那你觉得AI for Discovery, AI4S [12:58] 还依然是谷歌非常着重去押注的方向吗 [13:01] 还是会是 [13:02] 对 你看前两天Sundar发的邮件里面 [13:06] Demis虽然说从DeepMind CEO的位置（退下来） [13:09] 但是他还是主管一个AGI和science的部门 [13:14] Google是在所有的AI科技公司里面 [13:16] 可以说是在science里面最早布局的 [13:19] 然后布局得最广最深 [13:21] 这个生态体系 [13:21] 可以说做得最好的一个公司 [13:22] 科学和技术怎么用AI自动去推动 [13:25] 这是太重要的topic（课题） [13:26] 不仅是对一个组织 对一个公司 [13:28] 对一个社会 甚至对一个国家 [13:30] 人类社会发展最终是由科学和技术来推动的 [13:32] 现在有这么一个工具 [13:33] 这么个聪明的AI的模型 [13:35] 你必须要把这东西能力推上去 [13:36] 在这个层面上是不可能说完全放手的 [13:40] 还是会有很大的课题 [13:41] 只是短期内可能会有一些priority（优先级） [13:42] 一个优先级的调整 [13:43] 而且我相信Demis [13:44] 虽然说他现在转为做Chairman（董事长） [13:46] 但是他一定会在上面继续做很多努力 [13:47] 可不可以说Demis现在是退后一步 [13:50] 是因为他不太想管商业化的事情 [13:52] 跟产品的事情 [13:53] 但是他还是会非常地专注在 [13:55] AI4S这一块上面 [13:57] 我认为这是其中一个原因之一 [14:00] 我相信Demis他 [14:02] 一直是一个比较看重长远的发展 [14:04] 特别是在这个技术方面 长远发展 [14:06] 而且他个人的气质更像一个科学家 [14:08] 而不是说像一个CEO这样的 [14:11] 主管产品或商业这些东西 [14:13] 而且DeepMind跟Brain Team当时合并 [14:17] 很大程度上就是因为 [14:19] 要尽快能够把Gemini做上去 [14:20] 能够能赶超GPT这样的一个努力 [14:23] 但是在此之前 [14:23] 你可以看之前整个DeepMind [14:25] 在伦敦当时 [14:26] 从大概2015年前后 [14:28] 收购到合并之前 [14:29] 所有这些Alpha系列 [14:30] 都是以科学研究为主 [14:33] 之后的很多效益 [14:35] 包括很多像产品上的落地 [14:36] 那都是因为有这些先驱的科学研究的成果 [14:40] 包括现在AI for RSI（递归自我改进） [14:42] 比如说AlphaEvolve [14:44] 能带动很多算法的更新 [14:46] 能够（带动）自动算法更新 [14:47] 像AlphaFold更不要说了 [14:48] 已经拿到诺贝尔奖了 [14:49] 那就商业化成这个Isomorphic Labs [14:52] 所以我觉得谷歌有能力也有这个责任 [14:54] 去进一步推动一些长远的科技 [14:57] 和研究上的发展 [14:59] 我觉得Demis是非常适合这个角色 [15:01] 同时我们看到其他的AI前沿公司 [15:04] 包括OpenAI 还有Anthropic [15:05] 其实也是把AI for Discovery [15:07] 还有RSI这部分 [15:09] 放成了他们重点的布局方向 [15:11] 但是在我们来聊这三家公司之前 [15:13] 我们要不要给大家把几个概念给梳理清楚 [15:18] 因为最近大家肯定会听到非常多的关键词 [15:21] 是AI4S, AI4AI [15:23] 还有RSI（Recursive Self-Improvement） [15:27] 我们能不能把这三个概念给大家解释一下 [15:29] AI4S或者是AI4AI [15:31] 都是把AI这个模型当作一个研究员本身 [15:33] 去研究科学问题 [15:36] 或者研究AI本身自己的问题 [15:38] 大家想想 如果是像AI for AI的话 [15:40] 我这个模型已经很聪明了 [15:41] 然后我怎么能够发挥这个模型的聪明才智 [15:45] 来改善这个模型自己本身的一些能力 [15:48] 比如说 如果你给它一个要求 [15:50] 你给它一个任务说 [15:52] 你能不能用最少的资源 最少的GPU [15:55] 在限定的预算情况下 [15:57] 能够把这个模型训得最好 对不对 [15:59] 当然人可以去做 [16:00] 但是如果能够让AI自己去做的话 [16:02] 它可能在尝试很多新的想法 [16:06] 新的一些实验方面 比人做得快得多 [16:09] 它可以比如说 它看了一下 [16:10] 你目前这个模型的codebase（代码库） [16:13] 然后它发现 你这个参数可以调得高一点 [16:16] 它会生成一个proposal（提议） [16:18] 生成一个建议说 [16:19] 你先试一下把这个参数调高点 [16:22] AI 因为现在 [16:22] 它作为智能体的能力已经很强了 [16:25] 它可以去写段代码 [16:26] 把这个提议去实现 [16:29] 然后自动去写代码 [16:31] 把它放到一个沙盒里面去跑这个实验 [16:33] 去训这个模型 [16:34] 然后观测这个模型生成的最后结果 [16:37] 它的训练结果 [16:38] 拿到这个结果之后 作为一个反馈 [16:41] 然后再提出下一步 [16:42] 我发现这个 [16:43] 你把这参数稍微调高一点之后 [16:44] 模型效果变好了 [16:46] 那我是不是应该往这个方向 [16:46] 继续再推进下去 [16:48] 根据这样的反馈 [16:49] 进一步生成下一步的它的建议 [16:53] 一轮轮迭代之后 [16:54] 你可以看到它这个模型的性能 [16:56] 在不断地一步步提高 [16:58] 这就是一个自我不断回归的过程 [17:02] 所以这是像AI4AI [17:03] 这么一个非常简单的应用 [17:05] 当然现在有人是用AI for AI [17:07] 有些初创公司在探索能不能找出 [17:08] 跟Transformer不一样的一些架构 [17:11] 因为这可能需要很多搜索 [17:12] 很多新的想法放进来 [17:15] 也有人在探索说 [17:16] AI4AI 能不能找到一个 [17:18] 不需要Backpropagation（反向传播算法） [17:19] 就是反向梯度传递的新的优化算法 [17:23] 所以如果用AI去研究问题 [17:27] 它可以更高效地去搜索很多不同方法 [17:30] 试很多方法 [17:31] 而且整个loop（闭环）都自我完成 [17:33] 同样的 对于AI for Science只是换个问题 [17:36] 只是说你用AI去做些科学上的问题 [17:39] 但整个方法差不多 [17:41] RSI就是 [17:43] RSI不是一个task（任务） [17:44] 它是一个方法 [17:45] 就像前面说的 [17:46] 我能够不断自我迭代 [17:47] Recursive Self-Improvement [17:49] 不断用自我迭代方法去更新这个任务 [17:52] 或者更新这个proposal（提议） [17:54] 以至于它能够不断自己 [17:55] 把这个任务越做越好 [17:57] 所以这是这些概念的一些差别 [18:00] 其实AI4S跟AI4AI都是类似的 [18:03] 只是它们的目标不一样 [18:04] 然后RSI它是一种方法 [18:06] 它可以用在AI for AI [18:08] 也可以用在AI4S上面 [18:10] 好 这个非常的清楚了 [18:11] 下一个问题就是说 [18:12] 为什么在这个时间点 [18:14] 特别是在 现在是2026年的8月份 [18:17] 为什么在这个时间点 [18:18] AI for Science爆发了 [18:20] 我也理解 [18:21] 它可能也不是一夜之间就爆发的 [18:22] 而是之前有一个缓慢的进展过程 [18:25] 我们看到包括谷歌的AlphaFold [18:27] RoseTTAFold等等一系列模型的进展 [18:30] 那么在此时此刻 [18:32] 哪些技术你觉得是成熟了 [18:34] 然后让AI4S [18:36] 可以在这个时间点爆发了 [18:38] 前两年AI的发展 [18:39] 最能够体现这个推理能力和智能的 [18:41] 就是代码和数学这两个问题 [18:43] 这两个问题到位之后 [18:45] 如果它自己AI能够很可靠地写代码之后 [18:47] 同时你这个AI 这个agent（智能体） [18:49] 整个智能体 [18:50] 所谓harness（挽具/驾驭系统） [18:51] 就是它外面怎么能够帮AI [18:53] 一步步完成工作流这么一个设置 [18:56] 这个体系成熟之后 [18:59] 你就可以让这个AI [19:00] 去做更复杂的一些科学问题 [19:04] 就比如说 如果你要去跑一个生物实验 [19:08] 你需要这个模型 [19:09] 第一个 要提出一个假设 [19:11] 下一个实验该跑什么实验 [19:13] 这是模型需要一个推理能力 [19:15] 根据目前实验的观测推导下一个 [19:18] 这是第一步 [19:19] 第二个 如果它模型 [19:21] 实验跑出结果之后 你把数据收到了 [19:23] 那我自己要写一些代码 对不对 [19:24] 要分析这个数据是不是跟我预期的吻合 [19:27] 这是第二步 [19:28] 那就需要这个模型要有很强的代码能力 [19:30] 第三个就是生成完代码之后 [19:32] 你怎么样自己去更新 [19:34] 如果分析出来这个数据 [19:36] 可能数据有些异常 [19:37] 它需要去分析 [19:39] 一步步去分析这个数据为什么会有异常 [19:41] 我是不是前面这个提议里面有些问题 [19:44] 不断去自我迭代这么一个过程 [19:47] 所以这都需要你这个模型本身 [19:48] 它的推理能力 数据分析能力 [19:52] 然后数学 写代码能力 [19:54] 以及整个agent loop（智能体循环） [19:55] 就整个循环能力 [19:57] 包括怎么样去管理记忆 [19:59] 就是你每次跑完之后它会有记忆 [20:01] 你必须把之前的观测 [20:02] 放到一个记忆的管理容器里面 [20:05] 这些能力到位之后 [20:06] 你才可以更好地去做science问题 [20:10] 因为science面太广 而且问题太复杂 [20:12] 可能要比coding（编程）和math（数学） [20:14] 更挑战一点 [20:16] 所以现在就是一个天时地利人和 [20:18] 该到了我们去用AI for Science的时候了 [20:21] 我们看到AI4S当中 [20:23] 也有很多不同的细支 [20:24] 我现在看到大家讨论最多、最聚焦的 [20:27] 也还是在材料、生物制药 [20:29] 还有可能AI for Semiconductor（半导体） [20:31] 也就是AI设计芯片这几类上面 [20:34] 为什么呢 [20:35] 哪个Science topic（课题） [20:37] 它有最大的吸引力 [20:39] 是由几个因素决定的 [20:40] 市场的潜力 市场的规模 [20:43] 然后是不是适用于AI去做 [20:45] 它对AI去做Science研发能力的迫切性 [20:48] 在什么地方 [20:49] 以及于它能够做得好 [20:51] 传统上来讲 [20:53] Biology（生物学）、Biotech（生物科技） [20:54] 或者是Life science（生命科学） [20:55] 或者是Drug discovery（药物发现） [20:57] 有很大市场 [20:58] 这跟AI其实没关 [20:59] 一直都是这样的 哪怕在 [21:01] 它本来市场就是大的 [21:02] 就很大 对 [21:02] 最有潜力的 [21:03] 这是第一点 [21:04] 第二点是说 在生物、制药这方面 [21:08] 它相对来说整个流程比较标准化 [21:11] 已经比较结构化了 [21:13] 而且它数据很丰富 [21:15] 整个流程相对来说比较容易 [21:17] 让AI去处理这么个流程 [21:20] 这是第二点 [21:21] 第三个就是这些 [21:23] 比如说制药厂 [21:24] 特别是做些新药的开发 [21:26] 这周期非常长 [21:27] 它的成本非常高 [21:29] 比如说你开发个新药 [21:30] 它需要测试很多很多种kit [21:32] 可能的一些新的分子结构 [21:34] 然后在里面挑出一些lead（先导化合物） [21:36] 最有可能的一些 [21:37] 这只是第一部分 [21:38] 之后有些比较可靠的分子结构 [21:42] 你还得去进行临床试验 一些药物开发 [21:45] 而且有很多监管的过程 [21:47] 整个周期可能要花费好几亿美金 [21:51] 等到它能够最后被批准 [21:52] 可能几年就过去了 [21:54] 怎么能够用AI在这个过程当中自动化 [21:57] 或者是能够减少成本 [21:58] 这对于这些pharma（制药公司） [22:00] 对于这些药物厂商来说 [22:01] 是非常有吸引力的一个课题 [22:03] 所以总体来说肯定是生物和药物开发 [22:07] 创投上是比较大的 [22:07] 而且比较诱人用AI去做的 [22:10] 这么一个有吸引力的科学话题 [22:12] 但是对材料来说 [22:13] 它也有很大的市场 [22:16] 材料在生活当中方方面面都会碰到 [22:18] 但是跟药物相比的话 [22:20] 材料的市场就非常细 [22:24] 你很难说捕捉到这个价值用在什么地方 [22:27] 你可以有金属材料 [22:28] 有皮革材料 有生物材料 [22:31] 或者是用在半导体制造上面的一些 [22:33] 或者稀土材料等等 [22:35] 它的划分会非常细 [22:37] 整个开发流程也是根据应用的不同 [22:40] 也不太一样 [22:41] 所以这就导致说 [22:42] 虽然它有很大的市场 [22:43] 但是因为它的市场细分太碎 [22:45] 所以你很难说用一个相对比较标准的方法 [22:48] 去处理这样的问题 [22:50] 而且即使你发明一个新材料 [22:52] 你说你发现一个新材料结构 [22:53] 然后一个新的材料分子 [22:55] 这只是第一步 你之后怎么样 [22:57] 比如说把在下游的这些生产环节 [23:02] 你用在什么地方 [23:03] 你给材料发明出来 用在什么地方 [23:04] 然后给谁去制造这个材料 [23:07] 最后怎么样去包装等等 [23:10] 它的价值链会比较碎 [23:12] 你很难说一下子用AI捕捉到这所有价值 [23:14] 所以这就导致 材料也是很大的市场 [23:17] 但是它可能跟药物开发和生物相比 [23:19] 会相对小一点 [23:20] 其他一些领域 不管是 [23:22] 像芯片设计也好 [23:23] 包括像用AI做电池设计 [23:25] 或者是像量子计算这些东西 [23:26] 这都是一些新兴的 [23:28] 很多存在探索阶段的一些努力 [23:31] 至于它能不能 [23:32] AI在多大程度上帮助这些东西做好 [23:34] 我觉得现在很多公司在探索不同的方向 [23:36] 我有一个问题 [23:38] AI4S它本质上解决的是什么问题 [23:41] 是对现有科学的研究进行一个加速 [23:44] 还是说去发现新的问题 [23:47] 就是说它是提效还是去发现 [23:49] 这取决于AI for Science这个模型它的角色 [23:53] 这里面有几个角色 [23:54] 第一个是Co-Scientist [23:55] 我就是帮助科学家去加速科学家的发现 [23:58] 但我自己不一定提出新的一些方法 [24:01] 就比如说Claude Science这个平台 [24:02] 它其实就是workbench（工作台） [24:03] Workbench就是像编程的这么一个IDE [24:06] 这么一个集成环境一样的 [24:07] 它上面有很多工具 [24:08] 你可以去做分析 [24:09] 然后你可以跟这个（模型）进行对话 [24:11] 然后给出你一些建议或怎么样的 [24:14] 去跑些实验 做些模拟 [24:15] 但是整个过程当中 [24:17] 不一定AI模型自己去提出一些新的知识 [24:19] 但它可以加速科学家对于实验的一些设计 [24:24] 一些数据的分析 [24:25] 总之就是能够让你这个科学的流程 [24:27] 整个研发流程变得更容易点 [24:28] 这是第一种 [24:30] 第二种 的确是AI可以提出一些 [24:31] 自己的新的发现 [24:33] 就比如说像DeepMind之前的AlphaEvolve [24:37] AI能够自己发现新的算法 [24:38] 更不要说像AlphaFold这种 [24:40] 能够帮助产生一些新的蛋白质结构 [24:42] 能够AI自主产生知识的 [24:44] 这是第二类 [24:45] 这取决于用在什么场合 [24:47] 然后用在什么领域 [24:48] 以及你这个模型是用在某个垂类里的 [24:52] 还是说作为一个一般性的模型 [24:54] 放在一个agent loop（智能体循环）里面 [24:56] 它所扮演的角色是不一样的 [24:57] 那接下来我们把AI4S的 [25:00] 一些具体的步骤给大家拆分开来 [25:03] 我们看一看AI具体在里面 [25:05] 有什么样的应用跟研究 好不好 [25:07] 包括如果你们作为一个科学家 [25:10] 你们要做research 要做研究的话 [25:12] 其实有 比如说问题的定义 [25:14] 有表征 有建立预测 [25:16] 还有验证 做实验等等 [25:19] 比如说我们从最开始开始 [25:20] 就是问题定义这个上面来看的话 [25:23] 你觉得AI在中间扮演的一个角色 [25:25] 是什么样子的 [25:26] 我觉得问题定义必须是人来定义的 [25:28] 我认为AI目前它还做不到说 [25:29] 自己有这个品位去找出合适的问题 [25:31] 然后定一个合适的问题自己去做研发 [25:34] 这个我觉得目前是比较难的 [25:36] 问题的定制 [25:36] 所以为什么人类科学家还是要在这个 [25:39] 他是不可取代的 [25:40] 他必须能够给出一个问题 [25:42] 然后告诉你要解决什么问题 [25:43] 哪些动机是重要的 [25:44] 这个是需要人来给定的 [25:46] 但是可能AI可以通过 [25:48] 你给它一个初始的问题 一些初始的提示 [25:50] 它可能可以通过搜索一些文档 [25:52] 帮你做些分析 [25:53] 帮你改善这个问题 [25:55] 怎么样去结构化这个问题 [25:57] 这个是AI可以做的 [25:58] 但它主要是一个辅助性的作用在这个地方 [26:01] 但现在什么样的问题适合去让AI来研究 [26:05] 这个问题是人现在需要去挑选的 [26:08] 就比如说什么样的问题适合AI去研究呢 [26:11] 任何可以计算的问题 [26:14] 很容易去被验证和计算的问题 [26:16] 这个是最适合AI去完成的 [26:17] 说白了就是 [26:18] 你多大程度上能够很干净地 [26:20] 去建模这个过程 [26:21] 比如说像AlphaFold [26:23] 这个问题定义非常明确 [26:25] 你给定一个氨基酸序列 [26:26] 然后给出一个三级结构 [26:28] 这种问题它是非常结构化的 [26:30] 相对来说AI通过计算是可以解决的 [26:33] 而且 另外一个说 [26:35] 验证上面比较容易的一些问题 [26:36] 因为在整个AI for Science里面 [26:39] 可能最难的一环就是怎么样去做验证 [26:42] 因为你不像说AI4S [26:43] 不是像AI for coding（编程） [26:45] 或者是for math（数学） [26:46] 因为AI for coding（编程）和math（数学） [26:47] 你一旦数学给出证明 [26:50] AI给出证明 [26:50] 你马上可以判断它是不是对的 [26:53] 这是非常快的 [26:54] 或者你写一个代码 [26:55] 它对不对马上就可以知道 [26:56] 但是对于很多科学问题 [26:57] 你说你申请个新的药物 [27:01] 可能不到最后上市之后 [27:02] 你真的不知道它效果会怎么样 [27:05] 虽然是有很多模拟 [27:06] 所以终极问题不一定是马上能够 [27:08] 用AI4S这个东西很快解决 [27:10] 但是它当中一些步骤 [27:11] 如果说你可以通过一些模拟 [27:13] 一些simulation tool（模拟仿真工具） [27:15] 计算出药物的一些特性 [27:17] 然后它是不是稳定 它会不会有些副作用 [27:20] 这个是比较适合用AI去做的 [27:22] 所以AI能够 [27:23] 你产生东西 能有多快地去验证 [27:26] 取决于你这个AI for Science能够多快迭代 [27:28] 所以这个可验证性是非常重要的一个指标 [27:31] 能不能给我们举些例子 现在不合适 [27:33] 或者说还没有办法用AI来解决的科学问题 [27:36] 这个我觉得太多了 [27:40] 我觉得可能反过来讲 [27:41] 哪些问题适合用 [27:42] 就像前面说的 [27:43] AlphaFold是适合的 [27:44] 对 适合 [27:45] 但是比如说像OpenAI之前用GPT-5 [27:47] 跟Ginkgo Bioworks [27:49] Ginkgo Bioworks是美国剑桥的一家 [27:51] 用机器人做实验的实验室 [27:54] 他们把GPT-5跟实验室结合在一起 [27:57] 能够完成一个完全自动化的 [27:58] 做实验 然后给出反馈 [28:00] 给出验证的这么一个过程 [28:02] 这个过程是完全适合用AI去做的 [28:04] 他们可以就是说 [28:06] 比如说他们当时是拿GPT-5提出一些配方 [28:12] 怎么样去生成新蛋白质的配方 [28:15] 当然很多很多 几千种配方 [28:16] GPT需要提出下一个配方 [28:18] 它最可能的一些配方应该是什么样子的 [28:21] 能够尽量降低成本 [28:22] 这种问题是适合AI做的 [28:24] 但是大部分可能科学问题 [28:27] 目前还不能用AI做 [28:29] 因为AI4S [28:30] 跟AI for coding（编程）和math（数学） [28:31] 不一样的地方 [28:32] 就像前面说的 [28:33] 很多地方是你需要物理验证的 [28:34] 但是如果你这个 [28:35] 除了像材料 生物 [28:36] 相对来说还是有一些机制 [28:38] 可以让你去验证这个情况之外 [28:40] 大部分 很多的科学问题 [28:42] 无法很快得到验证的话 [28:43] 你是没法用这个AI来解决的 [28:45] 没有办法验证是因为人 [28:48] 还是受制于人（去验证）的时间 [28:50] 对 不光是人 [28:50] 而且它的复杂度 它的成本 [28:52] 都是很大问题 [28:52] 你说AI生成一个新的 [28:54] 核聚变的装置或怎么样 [28:56] 你要做这实验 [28:57] 其实它的成本和代价是非常高的 [28:58] 你能够做的问题 [28:59] 只要能够是通过数字化模拟的 [29:00] In silico（计算机模拟） [29:01] 就是在数字环境里面模拟的 [29:04] 这些可以做 [29:05] 但是你最终还是要走向物理世界 [29:07] 最终要验证 [29:08] 这东西 不是说不能做 [29:10] 而是说它的成本和收益 [29:12] 目前很不明朗的情况下 [29:14] 可能大家没有特别大动力去做 [29:16] 但是最终的话 我觉得就是 [29:17] 这一步是逃不掉的 [29:18] 你毕竟要走向science [29:20] 必须突破信息极限 走到物理世界 [29:22] 因为整个宇宙最基本的几个要素 [29:24] 信息、物质和能量 [29:27] AI for math和coding [29:28] 都是在信息层面 [29:30] 然后哪怕AI4S [29:31] 它可以提出一些新的proposal（提议） [29:32] 新的一些 包括模拟都只是在信息层面 [29:35] 但是你要想做science [29:37] 你必须走到物质层面 [29:38] 然后你必须要做一些实验 [29:40] 就是到湿实验的环境 [29:42] 对 湿实验环境 [29:43] 所以这些就是需要很大投入 [29:45] 而且我觉得这也是很多人 [29:46] 在探索的一些事情 [29:48] 但是现在湿实验还没有办法被赋能 [29:51] 或者被提效 [29:52] 现在最提效的 [29:53] 还是说在前面的simulation（模拟） [29:55] 这是目前迭代最快的一个环节 [29:58] 但是有很多工作能够让湿实验提效 [30:00] 一个就是说 就像Ginkgo Bioworks讲的 [30:04] 能够让机器人自动地去 [30:05] 所谓AutoLab（自动化实验室） [30:06] 或者是Cloud Lab（云实验室） [30:06] 能够让它自动去完成这个实验 [30:08] 只要这个GPT给它一个指令 [30:10] 它可以自己 [30:10] 机器人帮去做实验 [30:12] 这是第一个 [30:13] 机器人做实验是什么意思 [30:14] 就是一个机器人它像一个研究员一样 [30:17] 拿着管子 [30:18] 对 滴试管 [30:20] 滴试管 [30:20] 类似这样的一些 每个操作 [30:22] 如果你一个操作是标准的话 [30:24] 它可以用机器人去完成这个指令 对 [30:27] 所以有些是云端实验室 [30:29] 云端机器人操作时 [30:30] 你就call（调取）一个API 它就给你做这个实验 [30:34] 它就是远程的一个完全自动化完成的实验 [30:36] 然后我还看到就是说 [30:38] 如果要让AI来解决科学问题 [30:40] 其实表征这个事情非常的重要 [30:42] 因为有一些问题是适合 [30:45] 把科学对象转化为合适的表征的 [30:48] 就比如说AlphaFold里面 [30:49] 蛋白质常见的一个表征就是氨基酸序列 [30:52] 还有三维结构 还有图结构 [30:54] 所以回到这个AlphaFold的案例上面来说 [30:57] 这就让蛋白质结构 [30:58] 变成了能够被机器理解的这样一个议题 [31:01] 有没有什么问题是很难 [31:02] 或者是无法被表征的 [31:04] 我觉得首先要分清两个概念 [31:07] 目前用AI做Science [31:11] 主要来说有两种模型 [31:12] 一个是通用的模型 [31:13] 就像那个GPT Codex这样的 [31:15] GPT上这些模型 [31:16] 然后它去驱动整个Al for Science [31:18] 这个推理的过程 [31:19] 然后自己给自己分析数据等等 [31:20] 这需要很强大的一个通用模型去做 [31:22] 第二个是垂类本身的模型 [31:25] 就像这个AlphaFold [31:26] 或者是像GNoME这种做材料的 [31:28] 或者是MatterGen这种 [31:30] 或者做天气预测这种 [31:31] 这只是做某一个领域的一个模型 [31:33] 只是这个领域的专家 [31:34] 但它其他什么也做不了 [31:35] 你不能把这个模型又放到一个通用的 [31:38] 像所谓orchestrator（总调度） [31:39] 就像“实验室主管”这么一个角色 [31:42] 去驱动整个科研的流程 [31:45] 不同的模型 [31:45] 它对于表征的要求是不一样的 [31:48] 通用模型的话 它什么都可以表征 [31:50] 就像GPT或者Gemini [31:52] 你给它一个语言的描述它作为一个输入 [31:54] 或者你给它一段代码 [31:54] 或者你给它这些 [31:57] 像JSON [31:57] 一个实验室数据的JSON [31:59] 一个格式化输入 [32:00] 这个模型通过pre-training（预训练） [32:02] 和post-training（后训练） [32:03] 它对任何格式的多模态表征 [32:05] 都可以去内化 [32:06] 都可以去理解这样的一些表达方式 [32:09] 但是如果你说像AlphaFold这样的 [32:11] 它只能给某一个领域 [32:14] 所以它只能接受氨基酸序列 [32:16] 加上一些DNA [32:17] 或者加上一些附加的metadata（元数据） [32:21] 所以它就没法去做超越这个领域之外的 [32:24] 一些推理能力 [32:26] 的确就是说 这个是区分 [32:28] 你这个模型能表征什么样的东西 [32:30] 能够接受什么样的一些数据 [32:31] 那取决于你这个模型所属的位置 [32:34] 在整个平台上所属的位置 [32:36] 那些GPT上的 [32:38] 可以作为一个大的实验室主管 [32:40] 我来告诉你该做什么 [32:42] 像某个领域专门的这些模型 [32:44] AlphaFold也好 GNoME也好 [32:45] 它就是作为一个专家 [32:47] 你可以调用这工具 [32:48] 但是至于说哪些问题没法表征的 [32:51] 我觉得这可能是 [32:53] 相对更大的一个话题 [32:54] 这个是跟AI本身自己的能力 [32:56] 就说哪些问题是AI自己没法表征的 [32:58] 非常抽象的事情 [32:59] 哪些东西是没法通过一个向量 [33:02] 或者是通过一个逻辑来刻画的 [33:06] 但凡你有办法 [33:07] 把一个数据转换成一个字符串 [33:09] 某种模态的一个表示 [33:11] 或者是一些embedding（嵌入向量） [33:13] 那些向量也好 [33:14] 你只要能够把你的数据数学化 [33:16] 或者是格式化 [33:18] 变成一个具有结构的输入的话 [33:20] 这样的问题都是可以表征的 [33:22] 但是如果你说 [33:23] 如果有些东西是没法测量的 [33:26] 大脑的状态或怎么样的 [33:27] 这个东西没法表征 [33:28] 如果你没法测量就没法表征 [33:30] 这我觉得是一个AI本身的问题 [33:31] 并不是特别 [33:34] 只是对于AI for Science的一个问题 [33:35] 比如说我们到了表征之后 [33:38] 这个机器它其实是OK [33:40] 我知道我要去研究这个问题了 [33:42] 那它接下来会建立一系列的预测模型 [33:45] 还有比如说逆向设计 [33:46] 这样的一个环节 [33:48] 这个环节是怎么运作的 [33:49] 比如说给定一个疾病的靶点 [33:51] 然后让AI去生成可能可以结合的分子 [33:56] 这样的一个案例 [33:56] 这个例子是专门的一个 某个领域垂类的 [33:59] 比如说像专门做药物开发的这个模型 [34:02] 这个是你给定靶点 [34:03] 它肯定生成一个输出 [34:04] 但是对于一些一般性的模型 [34:07] 就像整个（总调度） [34:08] 来协调实验室主管GPT这样一个模型的话 [34:11] 它就是一个通用的预测模型 [34:14] 你给定它任何的之前的实验记录 [34:16] 然后一些分析的数据 [34:19] 以及你各种要求 [34:20] 它作为agent（智能体）输入 [34:22] 作为一个生成模型 [34:22] 它可以生成下一个实验的设置 [34:25] 下一个proposal（提议） 这样的 [34:26] 那来讲讲实验的部分 [34:30] AI它自己会挑选什么样的实验来做吗 [34:32] 这是一个搜索的过程 [34:34] 就是整个AI模型的 [34:35] AI模型它会提出不同的 [34:38] 可以说每一步采样出不同的一些方案 [34:40] 你要有个机制来决定 [34:42] 哪个方案是下一步它需要挑选的 [34:44] 然后去做实验的 [34:47] 一般来说 比如说这是一个搜索过程的话 [34:49] 你可以想象 把这个搜索过程当作一个树 [34:51] 根据之前树上的每一个节点 [34:53] 都是之前的 [34:54] 或者说目前已经探索过的一个方案 [34:57] 然后你要决定哪个方案是最有希望的 [35:00] 从这个方案再往下去做实验 往下推 [35:03] 这样的话你需要对每一个树上的节点 [35:05] 去给个分数 [35:07] 如果说一个节点是配方一 [35:09] 另外节点是配方二 [35:11] 这个模型发现配方一 [35:14] 根据之前的实验好像效果还不错 [35:16] 这个分数可能在这方面会比较高一点 [35:19] 但是它也不能完全说只考虑配方一 [35:21] 因为目前实验只做到一半 [35:23] 你不能说 只根据一部分的观察 [35:25] 就把这条线推到底 [35:27] 把这个方案推到底 [35:28] 所以它需要有些explore（探索）的过程 [35:30] 比如说也分配给配方二一些概率 [35:33] 它可以想到配方二 [35:34] 所以每一个节点的分数有多重要 [35:36] 决定下一步该做什么 [35:39] 都是有它这个节点当前的价值 [35:43] 以及它有多大的概率还没有被探索过的 [35:47] 这几个不同的分数组合起来的 [35:51] 所以根据最后这个综合的分数 [35:53] 它可以决定哪个最值得 [35:55] 下一步去开发的一个方案 [35:59] 那这个定义是什么呢 [36:01] 怎么让它去平衡多种因素呢 [36:03] 其实你刚才讲到 [36:05] 我知道业界有两种概念 [36:06] 一个叫exploitation [36:08] 也就是说选择当前看起来最好的一个候选 [36:11] 然后还有一个叫exploration [36:13] 就是说选择不确定 [36:14] 但是可能会带来新发现的一个候选 [36:17] 我觉得人去选的话都已经挺难的了 [36:19] 机器怎么选呢 [36:20] 你给它带来的一个评价体系是什么样子的 [36:23] 人在选的时候会有直觉 [36:25] 就是你每一个 [36:26] 你会觉得哪个方案更可能可行 [36:29] 把这个直觉翻译成算法的话 [36:32] 就是所谓的一个value function（价值函数） [36:35] 根据当前的状态它有多大潜力去 [36:38] 或者是它最终会大概 [36:40] 按照期望来说会有多大的回报 [36:42] 这个其实跟post-training（后训练）里面 [36:44] Reinforcement learning（强化学习）的算法 [36:46] 都是一致的 [36:47] 总是要平衡exploitation [36:49] 和exploration的两者关系 [36:51] 我既不能说只找一个目前最好的方法 [36:55] 一直往上推 [36:55] 因为它可能是局部最优的 [36:57] 但我也不能把它忽略掉 [36:58] 因为它可能的确是很好 [37:00] 所以每一个节点它的价值 [37:04] 取决于直觉给它多少分数 [37:07] 就是它未来的价值可能有多少 [37:09] 这是给它很重要的一个分数 [37:10] 但是同时在搜索的时候你要考虑到 [37:12] 你目前能看到的价值之外 [37:13] 它之前那些搜过的路径 [37:15] 是不是已经被用了很多次了 [37:17] 如果之前那些路径已经被用了很多次的话 [37:20] 那你就应该考虑试一下其他的 [37:22] 采样一些其他不同路径 对不对 [37:24] 不然的话你总是往这条路径上搜 [37:25] 所以它最后一个分数永远是一个直觉分 [37:27] 相当于是一个所谓value function（价值函数） [37:29] 加上之前的路径 [37:33] 有多少次已经被采样过了 [37:35] 综合一下 给出一个比较靠谱的分数 [37:38] 你刚才讲到那个实验 [37:40] 其实AI4S能够押注下一阶段 [37:44] 非常重要的一个标准就是 [37:45] 它能不能达到一个模型到实验的闭环 [37:48] 也就是我们说的这个loop（闭环） [37:50] 那你想想 刚才你也讲到说 [37:52] 如果我把机器人能够引入来做实验 [37:54] 那它整个过程就不需要人了 [37:56] 相当于是机器人自己提出假设 [37:58] 然后我去做实验验证这个假设 [38:00] 然后再从我的实验结果里面 [38:02] 提取下一轮实验 [38:03] 接下来要做什么更好的实验 [38:05] 然后再继续提出假设 再做实验 [38:07] 这样的话 [38:08] 这个过程就成为了一个recursive（递归的） [38:11] 不需要一个人的自我进化的过程 [38:13] 这个可能是真正能够加速科学 [38:16] 去更快地发展的这样的一个方式 [38:19] 那么在这个过程当中 [38:21] 你觉得怎么去建立这样的一个闭环 [38:24] 闭环很重要 像你前面说的 [38:26] 说实话之所以像 [38:28] Anthropic Claude coding Agent（编程智能体） [38:30] 它之所以能够 [38:32] 可以说是目前最成功的一个商业闭环模式 [38:35] 能够产生指数性增长的 [38:36] 在AI应用里面 [38:37] 这个AI coding（编程） [38:38] 就是因为它有这个闭环 [38:40] 你程序员写一个程序 [38:42] 它马上可以验证完 [38:43] 验证完告诉你这个对不对 [38:45] 你完全不需要等待 [38:46] 或者是接受外界的一些干涉 [38:47] 你就可以自己决定 [38:48] 这样的话 作为一个用户 [38:50] 你可以对整个coding agent（编程智能体） [38:52] 有一种信任 [38:53] 你可以把整个任务都交给它 [38:55] 而且你是完全可以去验证的这么一个过程 [38:57] 这个闭环是很重要的 [38:59] 但是AI for Science里面闭环很难 [39:02] 因为它是涉及到物理世界 [39:03] 它需要你做实验 [39:05] 这个东西不像你写coding（代码） [39:07] 这么容易去验证 对不对 [39:09] 所以总体来说 在闭环这个环节 [39:13] 说白了怎么样能够更快获得实验数据 [39:16] 获得实验的验证 [39:17] 如果理想上能够 [39:18] 一分钟获得一次实验验证的话 [39:19] 那这个问题就解决了 [39:20] 我可以生成无数个数据 [39:21] 然后我直接去训就行了 [39:22] 我这个问题就解决了 [39:23] 但是在大部分的物理实验环境中 [39:25] 是不太可行的 [39:27] 所以要么就是把它 [39:29] 如果在这个 [39:30] 我觉得现在很多发展的方向就是 [39:32] 能够把它（做成）自动实验室 [39:34] 如果这个实验室操作流程 [39:35] 比较标准的话 [39:36] 你可以把它完全用机器人来替代 [39:37] 这个是很多美国这边的公司都在做的事情 [39:41] 如果说不是一个标准流程 [39:42] 比如说你经常需要流程 配方 [39:44] 或者整个操作改变的话 [39:47] 你就需要一个具身智能 [39:48] 需要比较通用的一个机器人 [39:50] 帮你去做这样一个事情 [39:52] 这可能是比较久远的事情了 [39:53] 但不管怎么 [39:54] 自动化实验室肯定是一个 [39:56] 相对来说比较能看到的方案 [39:58] 这是第一点 [39:59] 第二点的话 [40:00] 怎么样能够尽量减少物理实验 对不对 [40:03] 如果你闭环的瓶颈在于物理实验的话 [40:06] 你很难做或者是做的成本高 [40:08] 你必须要让它实验做得越少越好 [40:10] 而且每做一次实验 [40:11] 都保证它希望结果好 [40:13] 而且这个实验的设置要对 [40:15] 这就是在AI本身智能上面 [40:17] 需要提高的东西 [40:18] 如果现在AI为了产生一个新的 [40:20] 符合要求的蛋白结构 [40:21] 我要跑10次实验才能达到这个结构 [40:23] 那你必须要 [40:25] 为了降低成本 形成闭环的话 [40:27] 你要把这个智能提高 [40:28] 让它只跑两次实验就可以做到一次 [40:31] 所以对于这个数据分析能力 [40:32] 对于这个实验历史的管理 [40:35] 怎么样从过去历史当中失败的经验 [40:38] 去做分析 [40:38] 能够找出下一个更好的方案 [40:41] 这对智能本身的要求是要更高的 [40:43] 所以我一直觉得说 AI4S [40:45] 它不是说把science当作一个应用 [40:47] 而是AI and Science [40:48] 就是你为了能够让AI [40:50] 更好解决science问题 [40:51] AI本身能力跟science结合的能力 [40:54] 都要同时加强 [40:56] 你如果AI推理能力还不够特别好 [40:58] 你如果每次做的假设 [41:00] 还是有很大的出入的话 [41:01] 你不可能真正形成这么一个 [41:04] 相对来说比较闭环的工作环境 [41:06] 你刚才说的第一点 AI自动实验室 [41:08] 那个还挺有意思的 [41:09] 因为我看到Google DeepMind [41:11] 它之前跟伯克利还有劳伦斯 [41:13] 伯克利国家实验室 [41:14] 它有个叫A-Lab的合作 [41:17] 你知道那个案例吗 [41:18] 这可能是比较早的一个案例 [41:20] A-Lab是挺早的一个（案例） [41:21] 而且当时应该用的比较早的一个模型 [41:23] 还不是Gemini [41:24] 但的确是 自动实验室这个概念 [41:27] 也是很早就有 [41:28] 并不是说最近的大模型才有的 [41:30] 我之前看他们说 [41:31] 那个在17天内执行了353次实验 [41:35] 获得了57个目标中的36个 [41:38] 这个实验室现在还在继续地 [41:40] 肯定在 对 [41:42] 你觉得现在它的壁垒 它的难点在哪里 [41:45] 是不是还是物理的机器人那一块 [41:47] 如果从物理自动实验室这块来讲的话 [41:50] 那的确是一个机器人的操作流程 [41:52] 和机器人本身发展的一个 [41:55] 这是另外一个课题 [41:56] 怎么样能够让机器人 [41:58] 特别是在某个领域 [41:59] 专业的机器人能更快地操作 [42:02] 完成一些实验 然后降低成本 [42:04] 所以为什么的确是 [42:04] 整个AI for Science它设计很多体系 [42:06] 不光是一个模型本身的能力 [42:08] 而且为了加快实验 [42:11] 你要让机器人本身的具身智能 [42:14] 它的精确度、它的速度都要提高 [42:17] 你可以想象未来 真的形成闭环了 [42:19] 如果很快能得到结果的话 [42:21] 那你这个机器人本身就要很强大 [42:24] 所以这一系列都是一个体系里面的 [42:27] 那目前看起来 [42:30] 非物理的那一块 [42:31] 它的进展是要快于物理的那一块 [42:34] 可以这么说 [42:35] 非物理这块 in silico（计算机模拟） [42:36] 这些simulation（模拟仿真）什么的 [42:38] 它的确比较好验证 [42:39] 你可以衡量它的进步 [42:41] 而且的确是 [42:42] 因为它好衡量 [42:43] 的确可能发展起来更快一点 [42:44] 但是也有很多新的AutoLab（自动实验室） [42:48] 自己就是机器人 [42:49] 不一定是通用机器人 [42:50] 就是专门某个环节做机器人 [42:51] 这个其实也是有很多发展 [42:53] 特别是在美国很多一些新的初创公司 [42:55] 都在做这个事情 [42:57] 尤其是在医药领域 [42:58] 你觉得用AI去发现因果机制 [43:01] 这件事情能做到吗 [43:03] 肯定可以做到 [43:04] In causality这个causal modeling（因果建模） [43:06] 其实是历史很悠久的一个课题 [43:09] 在很早的时候 [43:09] 像Judea Pearl 他们这些 [43:11] 已经有很多因果模型做这些事情了 [43:14] 但是我觉得可能 [43:15] 现在的AI4S [43:16] 这个语境下面 [43:17] 要发现因果机制 说白了就是 [43:19] 怎么能让language model（语言模型） [43:20] 让这个model（模型） [43:21] 能够分清correlation（相关性） [43:23] 和causation（因果性）之间的差别 [43:24] 这个的确是 可以说目前 [43:26] 的确是语言模型一个弱点之一 [43:28] 我不能说 [43:28] 我个人感觉是 [43:29] 现在语言模型 [43:30] 它在这方面还不是说做得特别好 [43:32] 因为有很多研究和分析 [43:35] 你如果是给一个语言模型 [43:36] 它一个推理的问题 [43:37] 你把这个前提 [43:38] 这么说 它推理出来结果是对的 [43:41] 但如果把这个前提稍微改一下 [43:42] 或者是稍微把这个措辞 [43:43] 或者前后语序顺序倒一下的话 [43:46] 但是整个意思不变 [43:47] 但language model（语言模型） [43:48] 生成的结果是错的 [43:49] 因为language model（语言模型） [43:50] 在训练数据过程中 [43:51] 它一般只看到过某一种形式的训练样本 [43:54] 说白了 大部分训练数据样本 [43:56] 可能只是告诉你 [43:57] 这个正确的描述该怎么样描述 [43:59] 或者最常见描述该怎么样描述 [44:00] 它从来没有见过说 [44:01] 换种方式的描述是怎么样的 [44:04] 所以这个时候 [44:04] 如果你人为地把它换一个说法 [44:07] Language model（语言模型） [44:07] 很不习惯的一个说法 [44:08] 它就会出错 [44:08] 因为它没有在数据库里面 [44:09] 这种事情是很多的 [44:11] 所以为什么 [44:12] 对 的确是因果机制 [44:14] Language model（语言模型） [44:15] 本身是要提高的 [44:16] 这就是为什么 像Yann LeCun [44:18] 他们强调要做世界模型 [44:20] 你不能说这个language model（语言模型） [44:22] 它只是训在表面的text（文本）上面 [44:24] 因为文本上面 [44:25] 永远是说人把最常见的一些说法 [44:28] 或者是只给你看到正面例子 [44:30] 但反面例子反过来说的话 [44:31] 它不会在文本里面出现 [44:33] 但是如果你能学到个世界模型 [44:34] 学到整个物理 [44:35] 内部的一些规律的话 [44:37] 那它是独立于你怎么样表征的 [44:39] 你怎么样去描述这个事情的 [44:40] 如果世界模型能够做到这点的话 [44:42] 那它对于因果关系的掌控 [44:45] 可能要远远好于目前的 [44:46] Language model（语言模型）本身 [44:47] 基于文字上的描述 [44:48] 这样一个因果关系的推理 [44:50] 所以最近也有一些新的初创公司 [44:51] 也是在探索一些新的 [44:53] 能够训练language model（语言模型） [44:55] 更好地去捕捉因果关系的一些努力 [44:58] 所以说的确是一个很重要的课题 [45:00] 我个人感觉是 [45:01] 目前language model（语言模型） [45:02] 大部分情况下 按照正常的描述方法 [45:05] 它可以理解这个因果关系 [45:07] 但是如果是一些反常的 [45:10] 或者说你需要一些介入的 [45:12] 比如说万一我把这个变量动一下或怎么样 [45:15] 有些所谓Do-Calculus（Do演算） [45:17] 如果我万一把某个值调高一点 [45:21] 它会产生什么结果 [45:22] 或者如果我把某个条件去掉 [45:24] 它会产生什么结果 [45:25] 有这样的一些干涉的话 [45:27] 它还是做不到 [45:28] 很多情况还是做不到 [45:29] 因为它真的是没有一个特别完善的 [45:32] 物理的理解过程 [45:34] 就是预测相关性 [45:37] 其实这是大语言模型现在可以做到的事情 [45:40] 就比如说X跟Y 高度相关 [45:44] 但是如果科学它需要一个非常确定的 [45:47] 精密的、certain（确定）的 [45:49] 一个呈现跟statement（表述） [45:51] 比如说X是通过机制M导致Y的 [45:55] 现在如果光靠语言去表征的话 [45:59] 它其实很难去把这个逻辑关系、因果关系 [46:02] 给非常确定地建立起来 [46:04] 可以这样理解吗 [46:05] 我觉得就是不可靠 [46:07] 它不是说不能 [46:08] 很多情况下language model（语言模型） [46:09] 它也是可以做因果关系的 [46:11] 不然的话 [46:11] 它有很多推理问题是没法完成的 [46:13] 但问题是可靠性 [46:14] 它可靠不可靠 [46:15] 完全取决于你怎么样去表述这个问题 [46:17] 或者表述这个结论 这个前提 [46:20] 如果你的表述方法 [46:21] 跟它训练数据里面的表述方法不太一致 [46:24] 或者是一些新的没见过的现象 [46:26] 那这个模型就蒙了 [46:27] 它不一定能够把这个因果关系提出来 [46:29] 所以为什么 [46:30] 的确是需要一些更底层的（判断） [46:35] 模型它对于因果关系的判断 [46:36] 不应该基于你语言的表述 [46:38] 而是应该基于你整个对物理建模的掌控 [46:42] 刚才我们提到了 [46:43] 整个AI for Science Loop当中 [46:46] 会涉及到的一些具体的细分的环节 [46:49] 你觉得这个环节当中 [46:51] 有没有哪点我们漏掉的 还想补充的 [46:53] 可能一个 我觉得可以提一下的是 [46:56] 整个loop（闭环）它怎么样自我改进 [46:58] 像Recursive Self-Improvement（递归式自我改进） [46:59] 你怎么样能够让这个loop（闭环）自我改进 [47:01] 或者说你这个loop（闭环）怎么样建立 [47:02] 前面我们大概讲的是一个 [47:04] 相对来说比较简单的 [47:05] 你给个问题 [47:06] 给个proposal（提议） [47:08] 跑实验拿到数据做分析 [47:09] 这个loop（闭环）是非常简单的 [47:10] 但是你比如说如果像 [47:13] 你要去 再做AI4AI [47:16] 或者是你要去训个新模型 [47:18] 可能这个loop（闭环）本身也需要改进 [47:21] 有个Meta-recursive（元递归）的过程 [47:24] 除了在改进模型本身 [47:27] 或者是在改进做实验这个流程之外 [47:31] 怎么样安排它这工作流 [47:32] 或者怎么样去 在什么时候让它 [47:35] 自己去更新自己的代码 [47:36] 这些Meta-recursive（元递归） [47:37] 或者是Meta Agent（元智能体） [47:39] 也是目前在探索的一些问题 [47:41] 你不能说一直只依赖一种 [47:43] 所谓agent（智能体）这个harness（挽具/驾驭系统） [47:44] 怎么样能让它串起workflow（工作流） [47:46] 随着不断地观测 不断地迭代 [47:50] 你要把自己整个工作流程也要改进 [47:54] 这是Meta-recursive process（元递归流程） [47:56] 所以我觉得这方面是非常重要的一个话题 [47:59] 你觉得中间有哪步是最难的 技术上 [48:02] 最难 对于AI for Science [48:03] 肯定是verification（验证） [48:04] 它是物理世界上 [48:05] 这么说吧 [48:05] verification（验证）可能是最重要的一步 [48:07] 但是如果你verification（验证）做到位了 [48:09] 哪怕你用最简单的AI4S方式 [48:12] 它可以完成很多问题 [48:13] 就像前面提到的 [48:15] 如果你一分钟就可以拿到一次数据 [48:17] 做物理实验拿到数据 在理想情况下 [48:20] 那你可以生成无数个数据 [48:21] 然后你马上就可以 [48:22] 重新post-train（后训练）一个模型 [48:23] 然后像训代码或者是数学一样 [48:25] 这个问题就解决了 [48:27] 至少你verification（验证） [48:29] 可能是很重要的一环 [48:30] 它是一个瓶颈 [48:31] 一旦这个瓶颈被打破了 [48:33] 你就可以很快地迭代 [48:34] 但是这不代表这个问题解决了 [48:37] 最难的一部分可能是你AI本身 [48:40] 能不能提出新的一些见的 [48:42] 就是你这个模型 [48:43] 再怎么提出新的方案 [48:45] 我再怎么去做推理 [48:46] 如果它永远只是局限于目前 [48:49] Essay（论文）能够知道一些知识 [48:51] 它没法提出新的一些设想 [48:52] 或者是新的一些更有阶跃性的想法的话 [48:57] 大部分情况下这个loop（闭环） [48:59] 只是在不断调一些参数 [49:00] 或者不断试一些配方 [49:02] 或者排列组合这样的话 [49:03] 它能够达到的能力极限 [49:04] 肯定是有限的 是比较低的 [49:06] 所以怎么样能够让AI产生更有创意的 [49:10] 但同时又是合理的想法 [49:11] 这其实是我觉得目前还很不够的一个地方 [49:14] 就比如说前段时间 [49:15] 诺贝尔得主Jennifer Doudna [49:17] 就是那个做基因编辑的人 [49:20] 接受采访时 人家就问她 [49:21] 你们用不用AI帮你们做实验 做一些科研 [49:25] 她就说我们也用 [49:27] 但是我们从AI给我们的 [49:30] proposal（提议）里面 [49:31] 没有一个它的proposal（提议） [49:33] 是我们之前不知道的 [49:34] 它生成很多proposal（提议） [49:35] 没有一个是我们不知道的 [49:36] 可能有些地方是平时我们忽略的 [49:37] 但是这些基本上现有知识都有的 [49:40] 现在论文里面或什么样 我们都可以知道 [49:44] 所以说能不能提出一些既有创新性 [49:47] 但同时又是可行的方案 [49:49] 这个我觉得是很困难的一个问题 [49:51] 这不光是在智能本身上 [49:55] 需要建模的一个新的挑战 [49:57] 所以要让AI真正可以 怎么说 [50:00] 下一步能够有这个突破性的科学上的帮助 [50:04] 就是要解决去discover（发现）这件事情 [50:07] 对 [50:08] 而且discover（发现） [50:09] 是很挑战的一个流程 [50:10] 目前的AI for Science [50:11] 它可能可以在它的表征空间里面 [50:14] 已有的概念里面 [50:15] 进行排列组合 然后去搜索 [50:17] 然后给你设计一些新的实验方案或怎么样 [50:20] 它通过排列组合已有的概念 [50:22] 的确可以给你解决一些 [50:24] 可以说很大一部分问题 [50:25] 这效率已经远远比人类高了 [50:26] 但是 如果你要真的是 [50:29] 让AI以后能够自动生成一个 [50:31] 像诺贝尔奖级别的科学过程 [50:34] 一个科学结果的话 [50:35] 这整个discovery（发现）过程 [50:38] 我觉得是目前AI远远做不到的 [50:40] 人类是怎么样发现知识的 [50:41] 怎么样把科学知识提取出来的 [50:44] 你先要接收perception（感知） [50:47] 感官的一些输入 [50:48] 你观察人 做实验观察数据 [50:50] 这只是第一步 [50:51] 这是经验的输入 [50:53] 但是输入完之后 [50:54] 你必须要能够形成概念 [50:56] 就怎么样 [50:57] 比如说你看到一个人 [50:58] 一推这个车 这个车就往前走了 [51:01] 这是你观察到一个表面现象 [51:03] 然后你要提取一个概念说 [51:05] 是力 力量 [51:06] 他一推 车往前走 [51:08] 而且你要把它符号化 [51:10] 生成一个F 这么一个 [51:12] 第三 如果你为了得到一个科学的理论 [51:16] 你要把它凝结 抽象成一个公式 [51:19] 就像牛顿第二定律F=ma [51:21] 力量等于质量乘以a [51:23] 等于说你必须要把最原始的观测 [51:28] 抽象成概念 [51:29] 最后再形式化成这么一个理论体系 [51:32] 这整个discovery（发现）过程 [51:34] 我认为AI是非常困难的一件（事情） [51:37] 目前来说 对AI还是非常困难的事情 [51:38] 所以我觉得 AI4S [51:41] 目前只是在某种限度之内 [51:43] 在已有的这个表征空间里面 [51:45] 它可以去进行一些不同的探索 [51:49] 但并不是说真正能够产生新的一些理论 [51:52] 或者是知识 [51:53] AlphaGo 它的第37步 [51:55] 就“神之一手”的第37步 [51:57] 它那个算发现吗 [51:59] 它也是发现 [52:00] 它肯定是发现 [52:00] 它是个新的发现 [52:01] 但它这个发现的模式是把现有的内在表征 [52:04] 比如说重新去排列一下或者组合一下 [52:07] 原来可能它不一定是在最大 [52:11] 或者是比较大的概率这个路径上面 [52:13] 它突然有一步采样到一个 [52:15] 之前不常见的路径 [52:17] 它是一个发现 肯定是新的 [52:19] 但不代表它创造出这个新的概念 [52:21] 我看你自己的公司Unreasonable Labs [52:24] 你们提出来一种解决方案 [52:26] 是“大语言模型+符号主义” [52:29] 你觉得“符号主义”能够解决这件事情吗 [52:32] 我不能说是解决问题 [52:33] 但是我们想做的是 [52:34] 至少可以解决目前 [52:37] Language model（语言模型） [52:37] 本身的一些弊端 [52:38] 我们的出发点就是 [52:40] Language model（语言模型）还不足以 [52:42] 产生更多的一些新的想法 [52:43] 能够更好推动一些科学发展 [52:45] 因为language model（语言模型） [52:45] 它的整个宇宙 [52:46] 就是由这个训练数据决定的 [52:49] 训练数据里面如果展现出来这个思维模式 [52:52] 是language model（语言模型） [52:52] 可以吸收进去的 [52:54] 各种数据或怎么样的各种推理过程 [52:57] 它只能学到这一步了 [53:00] 但是如果你真的是做科学发现的话 [53:02] 按照定义来讲的话 [53:03] 如果你要做科学发现 [53:06] 你要发现东西 [53:07] 肯定不是在现有的知识里面的 对不对 [53:09] 那你怎么能够 [53:10] 让这个language model（语言模型） [53:11] 从一个固定的 [53:13] 而且可能是过去的这些数据里边 [53:16] 发现新的东西 [53:17] 能够产生未知的这些东西 [53:19] 这可能是非常难做到的 [53:20] 不是说一定不可以 [53:22] 只是这个概率可能非常非常低 [53:24] 因为这个新的知识 [53:25] 肯定没有在现有的训练数据里面 [53:29] 以高频率出现过 [53:30] 所以我们就希望在外面 [53:31] 有一套机制 [53:31] 能够帮助它产生一些新的不一样的想法 [53:35] 这套机制 你要让它起作用 [53:37] 那肯定就不能是 [53:38] 另外一个language model（语言模型） [53:38] 不能又是搞个数据 训个模型 [53:42] 不然的话 [53:43] 就又跟language model（语言模型）一样了 [53:44] 所以我们想做的就是说 [53:47] 所谓“符号主义” [53:48] 大概讲一下 [53:50] “符号主义”是个非常宽泛的概念 [53:51] 对 跟我们不太熟悉这个概念的观众 [53:54] 可以解释一下 [53:55] 对 这个“符号主义”是人工智能很早就开始的一个 [53:58] 可能早期人工智能就开始沿用的一个概念 [54:01] 当然它是非常宽泛的概念 [54:02] 但简而言之 就是写规则 [54:04] 如果有些知识 有些东西 有些现象 [54:07] 你是可以很明确地写出来的 [54:09] 是先验的 不需要通过数据来描述的 [54:13] 或者来学习的话 [54:14] 那你就把它写成符号 [54:16] 写成公式或者是一个规则 [54:19] 就比如说If-Then规则 [54:20] 这样的一个逻辑规则 [54:22] 你不用数据都可以知道的 [54:24] 这是你先验的可以去规定的 [54:26] 如果你知道A>B、B>C [54:28] 那么A>C [54:29] 这种东西是完全可以事先就写出来的 [54:31] 你不需要学 [54:32] 所以这就是 [54:33] 不管是“符号主义”还是“连接主义” [54:35] “连接主义”说白了就是神经网络 [54:38] “连接主义”就是你需要学习 [54:41] 因为它这个表征是用一个向量 [54:44] 去分散式表征 你必须用 [54:46] 不像“符号主义”说我就手写出来 [54:47] 比如说你用符号把它这个知识表达出来 [54:50] 但是“连接主义”是你要用这个向量去自己学 [54:54] 可能里面每个元素 它的意义 [54:56] 是根据你观测收到的数据自己学出来的 [55:00] 这两个就是“符号主义”跟“连接主义”的区别 [55:03] “符号主义”的好处就是说 [55:05] 你可以先验地去写一个东西 [55:07] 而且它很精确 [55:08] 你像数学和代码 其实都是符号 [55:10] 包括可能目前的 [55:12] Agent Harness（智能体挽具/驾驭系统） [55:12] 它整个工作流程都是你先验指定的 [55:14] 就是你第一步干啥 第二步干啥 [55:16] 万一出现什么情况 [55:18] 你要什么时候去调用Memory [55:19] 这个都是先验规定的 [55:20] 这肯定都是属于“符号主义” [55:21] 它是你先验的话 [55:22] 你可以去设计出这个东西 [55:24] 但是它的问题就是说 [55:26] 它作为一个知识表征的方法 它很脆弱 [55:29] 比如说如果你要表征一个概念 [55:32] 说什么是猫 [55:33] 你怎么样表达猫这个概念 [55:34] 你给个图像我怎么知道这是不是猫 [55:36] 如果你要用符号去表示 [55:39] 或者是规则去表示的话 [55:40] 你可以说 [55:41] 如果一个动物它有两个尖尖的耳朵 [55:44] 然后长了胡子 [55:47] 毛茸茸的 [55:48] 有这么一套规则 这就是猫 [55:50] 但是问题是 [55:51] 它这样的表征是非常脆弱的 [55:53] 如果你 [55:54] 你没有办法用纯语言去形容一只猫 [55:58] 就是你没法用一套逻辑去规定很多东西 [56:00] 没法用非常刚性的逻辑去刻画整个宇宙 [56:05] 因为我们语言沟通当中 [56:07] 很多现象都是非常模糊的 [56:11] 猫这个照片 你换一下 [56:14] 如果猫正好在低头或者是猫正好在 [56:16] 它跟你逻辑上的规定就不一样 [56:18] 所以它就非常脆弱 [56:20] 这是符号学为什么没有被用 [56:22] 没有变成主流 [56:23] 对 当时没有变成主流 [56:25] 那怎么办 [56:26] 就是让模型自己去训 [56:27] 就像这个“连接主义” [56:29] 让这个神经网络自己训 [56:32] 去学习这个猫的特征 [56:34] 然后就学成这么一个向量 [56:36] 这样的话你来一个新的猫的照片 [56:37] 它只要跟这个向量对比 [56:38] 它如果足够相似的话 [56:40] 我认为这就是个猫 [56:41] 所以“符号主义”跟“连接主义” [56:44] 它各有特点 各有长处 [56:47] 但是的确是在像Deep Learning（深度学习） [56:50] 就是一个“连接主义” [56:51] 特别是涉及语言 [56:52] 自然语言这个层面的话 [56:55] 包括图像识别 [56:56] 有很多模糊或者是有歧义的东西 [56:59] 你必须要让模型自己学出来 [57:01] 你们的这个路线是LLM（大语言模型） [57:03] 结合“符号主义”的一个混合解决方案 [57:06] 它是怎么去运作的 你觉得 [57:08] 所以我们就是说像前面说的 [57:10] 如果你要在LLM（大语言模型）外面加一层东西 [57:12] 能够帮助它产生新的想法的话 [57:14] 我们想把这些不同的 [57:17] 比如说所有的这些人类知识 [57:19] 把它用一些规则能够给串起来 [57:24] 而且能够提出一些新的 [57:25] 这样的话 比如说有些概念 [57:29] 是在这个论文里面提出来的 [57:31] 它跟另外一个论文是有什么关系 [57:34] 你可以把它给连接起来 [57:35] 这些是可以用这些符号逻辑去表达出来的 [57:38] 等于说你可以把不同领域的知识 [57:40] 通过这么一个表达式 [57:42] 可以把它给串起来 [57:43] 这些东西是你很难从训练数据里面 [57:47] 去发现的 [57:47] 因为有这么多知识 [57:49] 有这么多概念 [57:53] 然后它之间的关系 [57:54] 这个是不太可能从数据里面提到的 [57:56] 而且每天有很多新的论文出来 [58:00] 你不可能说每天去训一个 [58:01] 新的language model（语言模型） [58:02] 所以它可以帮助我们 [58:05] 能够更好地提取出知识之间的一些骨架 [58:08] 它们之间推理关系 [58:10] 以及它们之间怎么联系的 [58:11] 这些东西可以作为一个模型的新的直觉 [58:16] 给它生成一些在它概率范围之外的东西 [58:20] 就是说小概率的一些事情 [58:23] 但是现在我理解说 [58:25] 还是在比较早的一个研发阶段是吗 [58:27] 主要的瓶颈是什么 [58:29] 我觉得是平衡创新性 novelty（创新性） [58:32] 它的新想法的创新性和可行性之间 [58:37] 说实话 你要让一个模型创新的话 [58:39] 是很容易的 [58:40] 哪怕就随便采样 [58:41] 或者是给它任何扔一个单词 [58:43] 它都可能生成一个不一样的想法 [58:44] 但问题是 你这个创新的想法必须要可行 [58:47] 而且是必须要合理 对不对 [58:49] 你不能随便瞎说一些东西 [58:52] 怎么能平衡创新性和合理性 [58:53] 这是一个比较挑战的事情 [58:55] 说白了 你提出新的想法 [58:58] 你要证明它这个东西 [58:59] 的确是跟你这个问题比较吻合的 [59:01] 而且是可行的 [59:02] 而不是说是随便为了创新而创新 [59:05] 你觉得“符号主义”有可能会重新复兴吗 [59:09] 不能说复兴 因为的确是 [59:10] 我们看到世界很多东西都是非常有歧义的 [59:13] 我不认为说这个“符号主义”一定（能复兴） [59:15] 我认为是不太可能说是替代“连接主义” [59:17] 因为神经网络毕竟它非常强大 [59:19] 大家看到这个language model（语言模型） [59:21] 都是按照这个方式训的 [59:22] 但是 有一些东西 [59:24] 可能是用符号来加速的或者说来加强的 [59:28] 比如说最终可能有98%的是“连接主义” [59:32] 但2%的是“符号主义” [59:33] 其实现在这个AI for math（数学） [59:35] AI for coding [59:37] 它就是一个neuro-symbolic（神经符号） [59:38] 符号跟连接主义拼在一起的这么一个结构 [59:41] 比如说求解数学问题 [59:44] 你原模型先生成一个数学证明 [59:50] 这可能是neural network（神经网络） [59:51] 这是“连接主义”的一部分 [59:52] 但是你这个证明对不对 [59:54] 我就要用形式化证明的工具 [59:57] 像这些Lean之类language（语言） [59:59] 去验证这东西对不对 [60:00] 这套东西完全是符号的 [60:01] 跟这个神经网络是没有任何关系的 [60:05] 所以这已经是一个 [60:07] 神经网络跟符号相联系的这么一个例子 [60:10] 这两部分都很重要 [60:11] 我觉得不管是符号还好 还是连接也好 [60:13] 它们的本质是说 [60:15] 这个符号是一个先验的 [60:17] 你不用数据 你可以指定东西 [60:20] 而“连接主义” 这个神经网络是 [60:22] 你必须通过大量经验去学到东西 [60:25] 这个就是说 [60:26] 我觉得跟很多历史上的一些哲学上讨论 [60:30] 都是相关的 [60:31] 这都是关于人怎么样去认知这个世界的 [60:34] 一些讨论 [60:34] 就比如说在历史上的古典哲学里面 [60:38] 大陆的唯理派和英国的经验派 [60:40] 像弗朗西斯·培根 [60:41] 像他们John Locke这些 [60:42] 他们认为人的认知是完全来自经验的 [60:45] 我这个大脑就是空白 [60:47] 你给我看到什么样的输入 [60:49] 我大脑就映射这个输入 [60:50] 我的世界完全就是由外界的感官输入 [60:53] 经验材料来决定的 [60:55] 对应到今天的人工智能语境 [60:58] 那就是大模型 [61:00] 我一开始初始的时候 [61:01] 它就是一个随机的模型 什么都没有 [61:03] 但是我经过万亿个这么多token的训练 [61:07] 它完全是由这些感官输入 经验输入 [61:10] 来决定这个模型的智能的 [61:11] 这完全就是一个经验派 [61:13] 在当今语境下的一个映射 [61:16] 但是另一方面 [61:17] 唯理论就觉得人怎么样去理解这个世界的 [61:21] 完全是由大脑一些先天的结构决定的 [61:24] 就是我怎么样 [61:25] 你像笛卡尔说“我思故我在” [61:27] 我先有个结构 然后我再去理解这个世界 [61:29] 完全是不依靠经验 [61:31] 不依靠感官输入来决定 [61:32] 我怎么样去理解这世界的 [61:34] 这两派 一个是先验的 一个是后验的 [61:38] 但是他们一直发展到 [61:40] 像德国古典哲学家康德 [61:43] 他觉得两个都不对 [61:46] 我要把它们统一起来对不对 [61:47] 所以康德就提出 经验是提供材料的 [61:52] 但是你看到这些东西 感官输入都是材料 [61:56] 怎么样能够对你产生意义 [61:59] 那是你需要有个先验结构 [62:00] 人脑里面总是有些先天的结构 [62:02] 使这些感官输入有意义 [62:04] 不然的话 [62:05] 你不管看到的是一个圆球还是一个轮胎 [62:10] 对你来说只是一个随机的输入 [62:12] 但你感受不到它是一个圆的这么一个概念 [62:15] 所以康德就觉得 人有先验 [62:18] 大概他觉得有12个范畴这样的 [62:20] 先天综合判断有这么先验的结构来 [62:23] 比如说是对时间 空间 物体 [62:26] 因果关系等等一些先验的结构 [62:27] 来阐释这个世界 [62:28] 来阐释这个感官 [62:29] 这部分完全是先验的 纯粹是理性的 [62:32] 他觉得这两个东西必须结合在一起 [62:35] 才能够产生人的智能 [62:37] 人才能产生知识 [62:39] 这是到了康德 [62:40] 然后再到后来黑格尔 [62:41] 他觉得康德说得也不对 [62:44] 你不能说把理性和感性和经验对立起来 [62:47] 不是说是两分的 [62:48] 应该是辩证统一的 [62:50] 就是说你要不断地持续更新 [62:53] 你不能说一个概念一旦树立起来了 [62:55] 像先验树立起来了 [62:56] 一直就是恒定不变的对不对 [62:59] 所以要不断地进行自我否定 [63:01] 要变成不断持续更新 [63:03] 映射到今天的这个语境 [63:05] 到人工智能产品语境 [63:06] 那就是持续学习continual learning [63:07] 你这个模型训完之后 [63:09] 最终AGI肯定不说就是这么一个文件 [63:11] 就是这么一个固定死的checkpoint [63:14] 所有的参数都刻在里面了 [63:16] 你说这是智能 [63:18] 肯定这个不可能是这样子对不对 [63:20] 它一定要是在不断地跟用户互动 [63:23] 或者是它执行任务的过程当中 [63:25] 要不断认识到自己的错误 [63:26] 然后持续地去更新自己 [63:28] 能够让自己变得更加智能 [63:31] 整体来说 我的意思就是 [63:33] 不管是“符号主义”还是“连接主义” [63:35] 这个东西其实 [63:35] 这是在人工智能语境下讨论的概念 [63:38] 但是其实他们的这些讨论话题跟古典哲学 [63:44] 其实都是一脉相承的 [63:46] 只是说不同的时期 不同的人 [63:50] 他考虑问题的视角不一样 [63:51] 但是他们都讨论同一个问题 [63:52] 那就是人怎么认识这个世界的 [63:55] 知识怎么产生的 [63:57] 只是说古代的科学家 [63:58] 他们用的不是计算语言 [64:00] 但是我认为这些探讨都是一致的 [64:03] 这段挺好的 [64:04] 但我们拉回来一点点 [64:05] 到我们现在的资本市场上面来 [64:08] 我们看到现在三大AI巨头 [64:10] 我们刚才讲了Google [64:12] 还有OpenAI、Anthropic [64:13] 它们也都是最近在狂招科学家加入它们 [64:17] 做AI4S这件事情 [64:19] 这三个公司它们各自选择的方向 [64:21] 有什么样的不一样 [64:22] 它们各自押注的或者它们切入的那个点 [64:24] 有什么样的不一样 [64:25] 能不能跟我们来展开分析一下 [64:28] 我觉得很明显 在这三公司里面 [64:30] Google肯定是布局最早 [64:32] AI for Science布局最早、最广 [64:35] 可以说是研究路径最多的一个公司 [64:39] 很早就有这些 这个毫无疑问 [64:42] 所有的Alpha系列 [64:42] 包括最新的一些Co-Scientist [64:45] Gemini for Science这些努力 [64:47] 所以像Anthropic和OpenAI [64:51] 它们当然意识到AI4S的重要性 [64:54] 所以它们花了很多投资在这里面 [64:57] 你比如说OpenAI [64:59] 它们其实也是很早就开始 [65:01] 像GPT-5发布的时候 [65:02] 它们就拿GPT-5去 [65:03] 已经有个White Paper（白皮书） [65:04] 就是拿GPT-5这个模型去解决各种问题 [65:06] 数学、计算机科学、生物等等 [65:08] 说已经可以解决很多科学问题了 [65:11] 它们也有一些非常 [65:12] 可以说非常激进的计划 [65:14] 比如说要公开地 [65:18] 宣布说在2027年 好像 [65:20] 之前要有一个自动的AI科学家 [65:23] 它们有这样一个目标 [65:25] 然后它们也会 [65:27] 包括像前面说的 [65:29] OpenAI GPT和Ginkgo Bioworks [65:33] AutoLab（自动化实验室） [65:34] 进行闭环这么一个实验 [65:35] 这可能是一个目前为止最使人信服的 [65:38] 而且是效果最好的闭环实验 [65:40] 这是OpenAI它们做的 [65:42] 它们也就是在GPT这个模型上面 [65:45] 去专门为了生物化学 好像材料也有 [65:50] 专门去把GPT模型 [65:51] 适配到这个新的领域里面去 [65:53] 等于生成了一个新的 [65:55] 可以进行生物和化学等等 [65:57] 这些话题推理的这么一个模型 [66:00] 叫GPT-Rosalind [66:01] 还有就是最近它们刚刚发布的这个Astra [66:03] 新的Astra模型 [66:03] 它们论文说10个前沿数学问题 [66:05] 它们在数学上面很成功 [66:06] 虽然我看到有些科学家有一些争议 [66:09] 对 没错 [66:10] 这是一个怎么样能够让数学更可靠的问题 [66:15] 但是不管怎么样 [66:15] 没事 AI for math我们待会来讲 [66:17] 我们先说OpenAI在那个 [66:20] 它们其实 我认为是非常激进的 [66:23] 想迎头赶上的这么个问题 [66:25] 但是我觉得 它们可能也有个问题 [66:28] 就是在AI4S布局上的一个问题 [66:29] 就是说它们的priority（优先级） [66:31] 它们的优先级 [66:33] 我觉得还是可能有些混乱 [66:36] 因为它们之前 [66:37] 负责AI for Science的负责人Kevin Weil [66:39] 他原来是做AI4S lead（部门负责人） [66:41] 也招了很多物理学家什么做这个事情 [66:44] 但是Kevin Weil [66:46] 4月份的时候 还是5月份的时候 离职了 [66:48] 所以说他们目前 [66:49] 离职之后就把之前的 [66:51] AI for Science的一些effort（进展） [66:52] 全都并入到Codex里面去 [66:55] 等于说是希望用一般性的 [66:59] GPT模型和agent（智能体） [67:00] 来解决各种科学问题 [67:03] 这是他们的一些赌注的方向 [67:05] 能够让GPT变得更足够强大 [67:07] 以至于它能够解决更多的科学问题 [67:10] 而不是说专门去 [67:11] 但是他之所以有这么一个举动 [67:13] 是因为他们也要想迎头赶上 [67:15] coding（编程）的能力 [67:16] 要赶上Anthropic [67:17] 他们要把这个资源整合 [67:18] 要把这个优先级扳正 [67:22] 但是OpenAI它自己已经有很多产品线了 [67:26] 它们可能扩张 可能比较快一点 [67:29] 比如说不光是GPT [67:30] 还想做ads（广告） 还想做硬件 [67:33] 然后也想做企业的版本 [67:37] 所以一旦你这个产品的战线拉长之后 [67:39] 你怎么样能更好地去做 [67:41] AI4S的这么一些前沿的投资 [67:44] 我觉得这可能是在优先级上面 [67:46] 或者是在管理上面 一些战略上面 [67:48] 是需要讨论一些方向的 [67:50] 对于Anthropic来说 [67:51] 我觉得它们可能相对来说是比较后来居上 [67:53] 这么一种感觉 [67:54] 它们最近发布了Claude Science这个平台 [67:57] 不到一个月 [67:58] 但这个平台本身 [67:59] 其实也是拿一般的Claude模型驱动的 [68:02] 它只是一个界面 [68:03] 或者说它把不同领域的 [68:06] 特别是生物和化学领域等等的数据库加上去 [68:09] 一些工具加上去 [68:11] 把这个界面专门针对科学家的工作流程 [68:14] 定制化一下 [68:16] 但它本身并不是 [68:17] 像我们之前讨论的 [68:18] 并不是说能够帮它更快产生一些 [68:20] 自己产生新知识或什么 [68:21] 它只是一个产品 一个平台 [68:23] 但是的确是Claude在这个研究上面 [68:25] 也做了很多的努力 [68:27] 比如说它们之前很早就 [68:29] 几个月前就有拿Claude [68:31] 做那个vibe physics（氛围物理） [68:32] 用Claude去帮助物理学家 [68:35] 去推导数学新的物理结论 [68:36] 一些数学的方式 一些模型等等 [68:39] 也包括它们自己也发布了一些benchmark（基准测试） [68:42] 像什么 [68:43] BioMysteryBench（生物信息学基准测试） [68:44] 类似这样的 [68:45] 在生物方面的一些Benchmark（基准测试） [68:47] 但是我觉得 [68:48] 包括它们最近把John Jumper挖过去了 [68:50] 很明显它们也希望能够在生物和医药领域 [68:53] 会有些更大的押注 [68:56] 因为这的确是市场很大的一个方向 [68:58] 所以我觉得它们是在迎头赶上 [69:01] 但是我觉得它们也在探索的阶段 [69:04] John Jumper过去之后 [69:05] 你觉得他负责的职位是什么 [69:08] 因为我看到他的职位 [69:09] 现在好像还没有公开出来 [69:11] 我觉得比较顺其自然的这么一个安排 [69:13] 肯定是要把Anthropic里面 [69:15] 科学方向往 [69:17] 能够在生物和医药方面去加强 [69:20] 像OpenAI它已经发布了GPT-Rosalind [69:23] 它等于是往生物和化学方面 [69:26] 定制这么一个GPT模型 [69:28] 能够做很多这方面的推理 [69:29] Anthropic可能是目前唯一一个 [69:30] 在OpenAI、Google和Anthropic [69:32] 可能是目前唯一一个 [69:33] 没有说特定领域里面的 [69:35] 这么一个模型的公司 [69:38] 它们可能需要专门给生物和医药 [69:42] 做这么一个领域 [69:44] 垂直的小模型 [69:46] 像John Jumper这样的人 [69:46] 是特别适合做这样的事情 [69:48] 我觉得可能是这方面会有一些安排 [69:51] 但那个可能也不是它们的重点 [69:55] 目前来看肯定 我相信 [69:57] 它们目前肯定是要上市 [69:59] 或者商业上的一些 [70:00] 是coding（编程）是最重要的 [70:01] coding（编程）最重要 [70:02] 而且随着中国开源的模型突飞猛进 [70:05] 肯定对它们造成很大威胁 [70:07] 在这种情况下 [70:08] 它们怎么样去平衡这个优先级 [70:10] 这依然是一个战略和管理上的（问题） [70:13] 对 还挺有意思的 [70:14] 因为我们刚才说到这三大AI公司 [70:17] 现在虽然它们都在布局AI for Science [70:20] 但是AI4S [70:21] 不是它们现在的最优先级别 [70:24] 它们现在最优先级别还是coding（编程） [70:26] 还是商业化 还是把模型做大 [70:29] 那这样来说的话 [70:30] 是不是Neolab（新型AI实验室）或者是创业公司 [70:33] 反而有一些先手的机会呢 [70:36] 对 这就是大公司总是有它盲点 [70:38] 而且大公司总是有创新者窘境 [70:40] 就是innovator dilemma（创新者窘境） [70:42] 它一旦挖出一条商业化的明确路径 [70:46] 它肯定不愿意马上放掉 [70:47] 或者说把业绩换到其他方向去 [70:49] 肯定要等这个路径稳定之后 [70:51] 再去投资些其他东西 [70:52] 所以我觉得这是可以理解的 [70:56] 这是一个science（科学） [70:57] 和AI recursive self-improvement（递归式自我改进） [71:00] 一定是一个长远来说 [71:01] 战略上必须投资的一个方向 [71:03] 没人敢去落后的 [71:05] 但是短期内 [71:07] 肯定还是以商业优先 [71:10] 你必须要保证上市的一些工作能够到达预期 [71:14] 所以 但我相信它们这个方向 [71:16] 是不会放掉的 [71:17] 其实我们刚才举的很多案例还是生物制药 [71:20] 材料这个方面的案例 [71:22] 那我们再来聊聊AI for math（数学） [71:24] 还有AI for Physics（物理） [71:25] 物理跟数学方面的一些AI的发展 [71:27] 因为这两个最近我看大家讨论得也挺多 [71:30] 特别是在数学上面 [71:31] 除了邓煜跟王虹获得了菲尔兹奖之外 [71:34] 就是AI for math的领域 [71:36] 其实也有很多的进展 [71:39] 数学是AI相对容易攻破的领域吗 [71:42] 我不认为很容易 [71:43] 但是取决于你什么样的数学 [71:45] 数学这个有很多 概念很宽泛 [71:48] 可能目前有两家比较突出的数学 [71:51] 就是AI for math的初创公司 [71:54] 一个是Axiom math AI [71:55] 另外一个是Harmonic AI [71:57] 当然他们的方法可能都差不多 [71:59] 也有这样的一些比较前沿的探索 [72:01] 在怎么能够让AI能更好地做math（数学） [72:03] 以及怎么样能够让math（数学）去市场化 [72:06] 比如说做些可验证的一些领域 [72:08] 做EDA（电子设计自动化） [72:09] 或者做软件设计 或怎么样 [72:11] 但是他们的方法可能都会相对比较相似点 [72:15] 我觉得就说AI for math [72:17] 它能解决什么样的问题 [72:20] 取决于数学库 [72:22] 就是Lean这个language 它数学库 [72:23] 因为肯定先大概讲 [72:25] 就是比较 [72:27] 特别是做比较复杂的math（数学） [72:28] 它这个过程是 [72:29] 你得让language model（语言模型） [72:31] 先去提出一些比如说证明的 [72:33] 数学证明的一些方案 [72:35] 但是language model（语言模型） [72:36] 它自己不知道这个数学证明过程是不对的 [72:38] 那你怎么办呢 [72:39] 你必须把这个证明先自动地去 [72:43] 形式化成一个叫Lean的language [72:45] Lean的语言 [72:46] 你Lean如果一旦这个语言编译通过了 [72:49] 那这个数学的结果一定是对的 [72:52] 那就是证明language model（语言模型） [72:53] 它提出的东西是对的 [72:54] 但这样的话 [72:55] 这里面有好几个环节是个瓶颈 [72:58] 第一个就是说 [72:59] 你language model（语言模型） [73:00] 本身要足够强大 [73:01] 它能够提出这么一些可能的一些证明方式 [73:03] 或者是新的数学上的一些结果 [73:05] 这是第一个 [73:06] 第二个 你自动化这个形式化过程 [73:08] 怎么样用自然语言描述这个数学结果 [73:11] 或者是用数学符号描述数学结果 [73:13] 转换成Lean这样的一个language [73:15] 这个转换过程 [73:16] 翻译的过程不是特别容易的 [73:18] 这也是像Axiom AI和Harmonic AI [73:20] 它们花很多功夫在做的事情 [73:23] 第三个就是说 [73:24] 你如果为了解决更多更难的数学问题 [73:28] 你需要Lean它语言本身 [73:30] 它的数学库mathlib [73:31] 能够包容很多很多 [73:33] 相关的已有的人类数学知识 [73:35] 这些材料必须都已经在那里 [73:36] 不然的话它没法拼起来 [73:37] 那这过程还要花很多功夫 [73:39] 就是怎么能够把人类的已有的数学知识 [73:42] 更多地放到 加到mathlib里面去 [73:45] 所以这几个要素决定就是说 [73:47] 你这个AI for math能够走多远 [73:51] 但是Lean是一定需要的吗 [73:53] 因为我看到OpenAI它其实 [73:56] 国际数学奥林匹克里面 [73:57] 它其实就强调说 [74:00] 它们的模型直接可以输出自然语言证明 [74:03] 而不需要Lean了 [74:04] 对 Lean不是必要的 [74:05] 但是你要做 一本正经认真做数学 [74:08] 或者做数学家级别的数学 [74:11] 你是需要Lean的 [74:12] 对于像奥林匹克竞赛这种 [74:16] 奥林匹克竞赛就它可能用到数学 [74:17] 你比如说高中参加数学竞赛 [74:19] 它可能用到数学知识不一定会特别多 [74:21] 不一定会特别深 [74:22] 它考察的是你这个参赛者他的 [74:24] 比如说创新的这个创能力 [74:25] 能不能找到一个就是非常复杂的构造 [74:28] 一个过程的这么一个能力 [74:30] 但你可能涉及到数学知识 [74:32] 包括整个证明过程本身 [74:33] 不一定会特别复杂 [74:34] 它可能几页 [74:35] 一两页是肯定是可以写出来的 [74:37] 所以在这种情况下 [74:37] 你language model（语言模型） [74:38] 它自己就生成这个 [74:39] 就只要你训这个模型训得好 训到位 [74:41] 它用自然语言生成这个结果 [74:44] 很大程度上是可以可信的 [74:44] 而且IMO（国际数学奥林匹克） [74:45] 毕竟只是一个考试 [74:47] 你很快就递交这个结果 [74:49] 你就可以验证这个东西对不对 [74:50] 这是作为考试的设置 [74:52] 这个没什么太大问题 [74:53] 但你可以想 [74:54] 如果是你今天让这个AI [74:55] 去做王虹这样的级别 [74:56] 一个证明100多页 [74:58] 你怎么 [74:58] 你如果language model（语言模型） [75:00] 生成100多页的数学证明 [75:01] 全是自然语言 [75:02] 它没有办法保证这个东西是正确的 [75:05] 所以你如果为了让AI [75:07] 做职业的数学家做的事情 [75:09] 做非常复杂的证明的话 [75:10] 你为了保证这个结果是绝对正确 [75:12] 你必须还是要把它转换成Lean这个语言 [75:17] 所以这也是 [75:18] 就可能是当代最伟大的数学家之一 [75:21] 叫Peter Scholze [75:22] 这么伟大的一个数学家 [75:23] 是非常的神童这么一个数学家 [75:25] 解决很大一个问题之前 [75:26] 他自己都对自己的证明 他自己都很怀疑 [75:28] 就是这个东西到底对不对 [75:30] 他跟很多 [75:31] 也跟他的合作者讨论很多次 [75:33] 没有人说很确定说这个结果 [75:34] 他证明过程对不对 [75:36] 那怎么办呢 [75:37] 连这么伟大数学家 这么聪明的数学家 [75:39] 好像2018年就拿过菲尔兹奖了 [75:41] 他都没法说确定 [75:42] 他这个自己证明结果对不对 [75:44] 那最后怎么 [75:44] 他就找他的朋友和他的合作者 [75:47] 只能把他的之前这些所有相关的 [75:50] 一些数学的定理 或者是定义 [75:52] 一些引理等等 [75:53] 人工地去转换成形式化 [75:55] 生成这个Lean语言 [75:57] 突然有一天 等到他们全部转完之后 [76:00] 一下子这个（Lean）编译通过了 [76:02] 就证明这个东西是 这个证明是对的 [76:04] 因为一旦是这个东西 它一定是对的 [76:06] 形式化证明 [76:07] 当时Peter Scholze非常兴奋 [76:09] 说明这个结果是对的 [76:11] 所以就是即使是最顶级的科学家 [76:13] 他在处理非常复杂的数学问题时候 [76:16] 依然是很难确定这个东西到底对不对 [76:19] 你只有非常严格地把它 [76:21] 你只能相信逻辑和计算机 [76:23] 你一旦计算机说是对的 它一定就是对的 [76:26] 这样的例子不止一个 [76:27] 还有一些其他例子 [76:28] 就是你必须用这个 [76:29] 为了证明这东西对不对 [76:30] 你必须把它翻译成逻辑上的一些 [76:32] 可以推导的 可以保证正确的一个方式 [76:34] 但是把它转换成形式化的Lean的话 [76:38] 它需要花很长的时间 [76:40] 对 人工要转换是要很长时间 是的 [76:41] 可能我当时我记得好像他们至少花了 [76:44] 一两年 好像 [76:45] 因为好像是去年我记得 [76:47] 谷歌它在参加那个国际奥赛的时候 [76:50] 它好像是说给选手的时间就两天 [76:54] 结果他们把它转换成Lean的语言的时候 [76:57] 就花了三天时间 [76:58] 也就已经超过了可以允许他们花的时间了 [77:01] 是的 是的 [77:02] 为什么要花那么长时间 [77:04] 因为你这个结构化语言 这个Lean [77:06] 它是你要把你这个数学当中相关 [77:10] 所有的相关的一些概念 [77:11] 和所有需要用到一些定义 [77:14] 之前一些定理 怎么怎么的 [77:15] 所有的这些都需要非常严格地 [77:17] 按照它这个type language（类型化语言） [77:20] 转换过去 [77:20] 这是一个非常深入过程 [77:22] 你如果之前你在证明一个定理过程当中 [77:25] 如果你用到有些数学的概念 [77:27] 或者有些数学的证明步骤 [77:30] 是不在他这个library（库）里面的 [77:32] 你就得去定义 [77:34] 就是你必须把这整个推导过程当中 [77:35] 所有的碰到的这些数学相关的一些东西 [77:37] 全都形式化 [77:38] 所以这是会花很多时间 [77:40] 那现在是不是 [77:41] 现在有两种并行的发展路线 [77:43] 第一就是 是不是模型越来越强大之后 [77:47] 越来越复杂的问题会不太需要形式化 [77:50] 或者不需要Lean的这种方式 [77:51] 还有一种方式就是说 [77:52] 能不能把人转Lean [77:54] 或者是Lean转自然语言的这个过程 [77:55] 把它更加的快一些 [77:57] 或者更加的efficient（效率） [77:59] 给加速化 [78:00] 我觉得如果真的是让AI [78:01] 做很严肃的专业的数学问题 [78:03] 那肯定还是要用Lean 这个毫无疑问的 [78:05] 所以这个瓶颈就是 [78:06] 你怎么能够让这个翻译的过程 [78:09] 更高效、更快速 [78:11] 这就是你要训那个 [78:12] Language model（语言模型） [78:12] 能够让它自动地就是 [78:14] 像机器翻译一样的 [78:16] 你要把英语翻译成法文 [78:18] 你要翻得更准确 而且绝对不能出错 [78:21] 那就是要把你数学的表达翻成Lean [78:25] 这个是必经的一个路径 [78:27] 如果你要真的是为了出专业数学的话 [78:29] 但如果说只是一般地做相对来说 [78:31] 就像考试或者是 [78:33] 比较小的一些设置情况下 [78:36] 你自然语言是承接证明 [78:37] 你自己可以验证的 [78:38] 那你也不一定要用Lean [78:40] 但这样的话你就需要 [78:41] 把这个language model（语言模型） [78:42] 在这个数学上面训得非常好 [78:43] 所以还是得要模型更强大才可以 [78:46] 我看到现在数学界 [78:47] 有教授把现在的数学问题分成了几个等级 [78:51] 第一类的问题 [78:51] 就是博士生花几个月 [78:53] 就能够解决的练手问题 [78:55] 第二类 就是再高一级别 [78:58] 普通期刊级别的问题 [78:59] 职业数学家花一两年就能攻破的问题 [79:02] 第三类 是数学的四大顶刊级别的问题 [79:05] 第四类 就是菲尔兹级别的问题 [79:08] 比如说王虹她解决的挂谷猜想 [79:11] 第五类 是最高级别的 [79:13] 就是所谓的超菲尔兹级别的问题 [79:16] 就是说你不用完全解决 [79:17] 但是你的研究把它往前推了一大步 [79:20] 你有一个重大的推进 [79:22] 就能拿菲尔兹奖 [79:24] 现在一个问题就是说 [79:26] AI到了第几个级别了 你觉得 [79:28] 我觉得按这个级别定义 [79:31] 我觉得很难去界定 [79:33] 就是可能这个不是一个很好去衡量 [79:36] AI把数学能解决什么问题的一个尺度 [79:39] 我觉得可能更合适的一个尺度是说 [79:41] 不管你有多难的数学问题 [79:42] 如果它这个数学问题本身 [79:44] 不需要产生一些新的数学对象 [79:47] 或者产生新的一些数学定义 [79:48] 说白了就是你这个数学问题的结论 [79:50] 是可以通过已有的这些数学的定义 [79:52] 和已知的一些数学的证明引理等等 [79:55] 可以推导出来的 [79:56] 说白了就是你这个表征空间是固定的话 [79:58] 这个是我相信可能就是不管你这个多难 [80:00] AI总是 如果模型足够强的话 [80:03] 它是有可能把一个证明或者一个解 [80:06] 给搜索出来的 [80:07] 只要它搜索的强度足够大 [80:11] 有可能是完全可以把这个解搜索出来的 [80:12] 因为你不需要创造新的概念 [80:14] 所以它还是个搜索的问题 [80:15] 对 你还propose（提出）一个数学证明 [80:17] 它就是个生成的过程 对不对 [80:18] 就是你生成一系列数学公式 [80:20] 那也就是一个在推理时候 [80:21] 生成不断去搜索的这么一个过程 [80:23] 哪个证明它可能 [80:25] 这概率更好、更高 [80:26] 或者是它的所谓的reward（奖励） [80:29] 可能更大 [80:29] 这永远是一个搜索过程 [80:31] 所以你觉得数学它是一个证明的科学 [80:36] 不光是证明 [80:37] 我觉得其实恰恰相反 [80:38] 就证明肯定是很重要的一部分 [80:39] 它不是需要发明的科学 [80:42] 其实数学是更重要的是 [80:43] 我觉得可能是更要发明的过程 [80:44] 因为没有概念 没有数学 [80:46] 对数学定义的这个过程 [80:49] 就是以数学对象发明 [80:50] 数学对象 [80:51] 以及对这个数学对象定义的过程 [80:53] 是不可能有数学的 [80:55] 你最简单的从最早这个数的概念本身 [80:57] 你先要定义数 [80:59] 然后你才能定义这个加减法 [81:01] 然后你才能定义 [81:02] 如果任何的数学的这些定义里面 [81:06] 用到都是数学概念 [81:07] 你说微积分 [81:08] 积分、微分什么意思 对不对 [81:10] 或者是线性代数里面这个特征值什么意思 [81:14] 或者是微分几何里面黎曼度量什么意思 [81:16] 这些都是概念 [81:17] 一个好的数学家 [81:18] 更重要的事情是他能够找出 [81:20] 或者是定义出非常优雅的一个数学的概念 [81:22] 一个对象 [81:23] 抽象出一个数学的本质上的定义 [81:27] 这可能 你如果有个很优雅的 [81:29] 很优美的一个数学定义 [81:31] 可能远远比你推导出这个过程更重要 [81:33] 没有一个合适的数学对象 [81:35] 你是没法推导出数学的一个过程的 [81:38] 如果你去学线性代数 [81:39] 你光看到一堆矩阵 [81:41] 但是如果你没法 [81:42] 从这当中抽象出这么一个概念叫特征值 [81:46] 那你是没法精确地捕捉到矩阵 [81:49] 它内在的一些结构 [81:52] 所以这个过程 [81:53] 怎么能够在这些数学对象里面 [81:55] 抽象出、定义出这么一个新的对象 [81:58] 一个数学的定义 [81:59] 这个才是我觉得对数学来说 [82:02] 可能是最优美的一部分 [82:03] 或者是最需要洞见力的一部分 [82:05] 这个部分AI可以做到吗 [82:07] 我不认为它可以做到 [82:08] 永远都不行 [82:09] 甚至我个人是觉得它 [82:12] 我觉得这部分甚至都不是一个 [82:14] 就是怎么样能够抽象出概念的过程 [82:15] 是一个可计算过程 [82:16] 可能有些证据 [82:17] 但是让AI自己去推导出一些新的概念 [82:21] 或者是抽象新的概念 [82:22] 是非常困难一个问题 [82:23] 且不要说在数学领域 [82:25] 让这么复杂的一些关系之间 [82:28] 让它能够提出一些新的概念 [82:29] 哪怕最基本的一些数的概念 [82:31] 如果你可以想象一个语言模型 [82:34] 如果它从来没有在数学上面训过 [82:38] 它不知道有没有这个数的概念 [82:39] 就像原始人一样的 [82:40] 原始人如果看到三只鹅、四只鸟、五棵树 [82:44] 你这个原始人已经可以开始算数了 [82:46] 可以有这个数的概念了 [82:47] 它可以定义出阿拉伯数字 [82:50] 抽象出这个数的概念 [82:51] 这个数的概念可以用于任何物体 [82:53] 不一定是鸟 [82:53] 什么物体都可以用这个数的概念 [82:55] 但是如果你说你给AI只是看这几个物体 [82:58] 三只鸟、四只鹅等等 [83:00] 它是不可能提取出数的概念 [83:03] 我是很难想象有一个程序说 [83:05] 你给它这么一些感官输入 [83:07] 它能够提出这样概念的 [83:09] 所以这个概念抽象的过程 [83:11] 我认为可能是AGI的 [83:12] 最后的last mile（最后一英里） [83:13] 最后的一步 [83:15] 这个mile可能是永远无法逾越的 [83:17] 这个过程我认为甚至都 [83:18] 不一定是在图灵可计算这个意义下面 [83:20] 都不一定是 [83:21] 一个图灵可计算的这么一个过程 [83:23] 这也是为什么 [83:24] 我觉得人脑在最底层 [83:26] 它并不一定是一个图灵机 [83:29] 不是跟图灵机等价的这么一个过程 [83:31] 你觉得数学是人类表达逻辑的 [83:33] 一个精准的语言 [83:35] 还是宇宙客观规律的一个结构本身 [83:39] 这是很大一个问题 [83:40] 而且我觉得这个问题 [83:41] 不管是回答什么问题 [83:42] 这是没法验证的 [83:43] 没法证伪的 [83:45] 因为你不可能让上帝告诉你 [83:47] 我这个宇宙是用数学造的 [83:49] 但是这个问题就是一个多世纪前 [83:51] 数学家讨论数学本质的问题 [83:53] 它到底是发明的还是发现的 [83:54] 是整个宇宙本来就是有数的概念 [83:56] 还是人们人为发明数的概念 [83:58] 而且当时有这么几个看法 [84:00] 一个是叫所谓“直觉主义”、“形式主义” [84:03] “逻辑主义” [84:04] 就是数学到底是什么 [84:05] 它到底只是一个形式系统 [84:07] 还是一个逻辑系统 [84:09] 还是一个人类创造出来的直觉系统 [84:12] 这个东西没有定论 [84:13] 到今天可能永远都没法定论 [84:15] 就像我前面说的 [84:15] 这不太可能去证明的 [84:16] 但是如果非要我去选一个边的话 [84:20] 我觉得可能数学是人创造出来的 [84:23] 而不是说宇宙本身是个数 [84:25] 就像您刚才说的 [84:26] 人看到了两只鸭、三只鹅、四只鸡 [84:32] 把它的概念抽象出来 [84:33] 用数学公式变成了一种语言表达 [84:36] 对 这是一部分 [84:37] 但是另外一部分就是说 [84:39] 因为数学作为一个逻辑体系 [84:42] 它永远不是自洽的 [84:43] 就上世纪非常有名一个定理 [84:45] 可能是数学史上最重要的一个定理之一 [84:48] 叫哥德尔 Kurt Gödel [84:50] 他证明了一个定理叫“不完备定理” [84:52] 任何一个足够强大的形式逻辑系统 [84:54] 总有一些事实是对的 [84:56] 但是你是没法去证明的 [84:58] 去验证的 [84:59] 就是验证 [85:00] 如果这个宇宙 [85:01] 我不相信这个宇宙本身 [85:02] 它有不自洽的地方存在 [85:04] 如果宇宙跟数学是完全一一对应的话 [85:07] 人类创造这个数学 [85:08] 是形式体系一一对应的话 [85:10] 那这宇宙有些地方是不自洽的 [85:12] 我认为这个是很难去理解的 [85:14] 因为宇宙它就是一个自在之物 [85:16] 它就是个存在之物 [85:17] 它不需要去描述 [85:18] 它一定就是说自己该什么样是什么样 [85:20] 数学作为一套逻辑体系 [85:21] 它之所以有这么一些矛盾 [85:23] 永远不可能调和的矛盾 [85:25] 那是因为它是人造的一套 [85:28] 发明的这么一套逻辑体系 [85:29] 一旦是人造的东西 它就麻烦 [85:31] 因为它不是这个本体本身 [85:32] 它不是这个物自体本身 [85:33] 它是一套逻辑 [85:35] 是套符号和人为定的规则 [85:39] 所以它会有些逻辑上的矛盾 [85:41] 这只是我个人的一些（想法） [85:43] 这东西没法验证 [85:44] 我看主攻AI for math的数学家陶哲轩 [85:47] 最近也出来做了很多的演讲 [85:49] 他其中有一个观点 [85:51] 是数学从一个证明稀缺的时代 [85:54] 已经进入到了一个证明过剩的时代 [85:57] 其中的一个例子 [85:58] 就是说现在很多的网站 [86:00] 它其实会收录很多 [86:02] 之前人类解不出来的数学难题 [86:04] 现在很多网站的这些题下面已经堆满了 [86:07] 几十份AI生成的解答 [86:09] 但是没有任何的人类专家 [86:10] 愿意去接盘验证这个事情 [86:13] 就是说有可能我们很多的难题已经 [86:16] AI找到了答案 [86:17] 但是人类没有时间 [86:19] 没有bandwidth（带宽） [86:20] 没有精力或者没有能力去验证 [86:22] 这个东西就觉得还挺讽刺的 [86:24] 所以不是结果正确就一定正确 [86:27] 你就算它验证出来 [86:29] 自动验证出来是对的 [86:30] 作为人来说 [86:31] 你需要去理解 然后去评判 [86:34] 人有价值判断 [86:35] 这个东西到底是 [86:36] 这个验证证明过程是不是有它的价值 [86:38] 有个洞察力 [86:39] 我觉得可能打一个不是特别恰当的比方 [86:43] 比如说如果你要去听音乐会 [86:44] 如果你想听一个钢琴演奏 [86:45] 如果我告诉你这钢琴是个机器人演奏的 [86:48] 我保证这个机器人它按键的力度 [86:51] 它的长度都是完美的 [86:53] 按照作曲家规定来弹的 [86:55] 我就不想去听 [86:56] 对 你肯定就不想去听 [86:57] 即使这个音色其实是绝对完美的 对不对 [86:59] 但是如果你知道它是个机器人 [87:01] 你就不一定想去听 [87:02] 但是同样的 [87:02] 如果是一个钢琴家去弹的 是个人弹的 [87:05] 你就愿意去听 [87:06] 因为你想听的不只是说一个结果 [87:09] 只是这个音色本身 [87:10] 而是这个钢琴家本身自发的 [87:12] 这么一个情感的状态 [87:14] 这是能够让你产生共鸣的 [87:15] 让你产生一些 [87:17] 打动你的一些东西 [87:19] 它不是说只是一个结果 [87:20] 不是说整个音乐本身 [87:21] 你知道这是人他自发地产生这些东西 [87:24] 这个我觉得是对于科学来说 [87:25] 就是我光看到这个证明的结果对不对 [87:28] 这个当然很重要 [87:30] 但是如果你去检查这个结果论证过程 [87:33] 它里面没有一些特别有意思的 [87:36] 或者说没法特别容易阐释的一些发现的话 [87:39] 即使结果再对 [87:41] 可能数学家觉得 [87:42] 这个就像机器人弹钢琴一样的 [87:44] 它没有能够打动数学家的一些洞见 [87:46] 这样的话 对于数学的贡献来说 [87:49] 并不一定是特别大 [87:50] 所以我觉得人的价值判断 [87:53] 永远是很重要的一部分 [87:56] 人类不能理解的发现是没有意义的吗 [87:59] 它只能有部分意义 [88:00] 就是作为一个工具性 [88:02] 如果这个发现 [88:03] 它作为一个工具 [88:03] 就是我这个结果是对的 [88:06] 工具性上面它是有意义的 [88:07] 比如说1970年代 [88:09] 就已经有四色问题证明了 [88:10] 就是地图 它最多你只要用4个颜色 [88:12] 无论如何就可以把这个地图都给标出来 [88:14] 最多只要4个颜色 [88:16] 这个是一九七几年 [88:18] 就可以用机械化计算机来证明了 [88:21] 它结果肯定是对的 [88:21] 但是这个证明过程是很乏味的 [88:24] 它基本上就是一个列举的过程 [88:26] 从工具角度来讲 [88:27] 这个结论它是可以用来画地图 [88:30] 你可以拿这个结论去 [88:32] 肯定是对的 [88:32] 你可以只要用4个颜色去画地图 [88:35] 但是从价值角度来说 [88:37] 从数学本身的价值角度来说 [88:39] 它可能不一定有特别大的价值 [88:40] 因为它不是 [88:41] 不一定有一些新的定理 [88:43] 或者是特别深刻的一些洞见性给抓出来 [88:47] 所以它是不是有价值 [88:50] 完全取决于是不是有用 [88:52] 完全取决于你怎么样去评判 [88:54] 从哪个角度去评判这个 [88:55] 是从工具角度去评判 [88:56] 还是从价值角度去评判 [88:59] 对 因为我看到有一些 [89:00] 反对用AI去做数学的人说 [89:03] 知道答案不是最重要的 [89:05] 而是中间的思考跟推导 [89:07] 这个是最重要的 [89:09] 但是现在AI因为直接给答案很容易 [89:11] 反而中间的推导思考跟过程 [89:14] 还有细节是更难的 [89:17] 我们现在的大模型它就是一个黑盒模型 [89:20] 我们其实不知道它是怎么去运作的 [89:23] 也没有办法被直接地观察到的 [89:25] 虽然现在白盒模型的发展也在推进 [89:27] 但是还是很缓慢 [89:29] 如果这个AI我们承认并且接受 [89:32] 它是一个黑盒 [89:33] 并且心安理得地去接受它产生的结果的话 [89:37] 这对我们的人类社会或者是我们人类 [89:40] 会带来什么样的改变吗 [89:42] 我觉得这会造成很多困难 [89:45] 如果这个结果不是完全可解释的话 [89:47] 自动驾驶就是 [89:49] 但自动驾驶是一个单独的task（任务） [89:50] 单独一个 [89:52] 如果你从这样的 [89:53] 如果只是对单独一个task（任务）来说 [89:55] 哪怕是最早期的计算器 [89:57] 它已经可以 [89:58] 你也不知道它在计算什么 [89:59] 它就是给你一个标准数字 对不对 [90:01] 这个都已经可以 [90:02] 这个是完全可以信赖的一个东西 [90:04] 但是如果在一些可能 [90:05] 就像你前面说的 [90:06] 如果结果正确 [90:07] 像哪怕就现在今天写代码这个任务 [90:11] 现在的确是AI可以写很多代码 [90:13] 而且写出代码都正确 [90:14] 但是维护代码的成本和时间反而更高了 [90:18] 因为它写出很多代码 [90:20] 连工程师自己都看不懂 [90:21] 它结果应该是对的 [90:22] 但是维护起来特别困难 [90:23] 因为我得先理解你AI写的代码 [90:25] 什么地方出bug我都不知道 [90:26] 我得先看懂 [90:27] 你没法去debug（调试） [90:28] 没法去debug（调试） [90:29] 你根本看不到 [90:29] 那只能让AI自己去debug（调试） [90:31] 对 但是这一轮迭代 [90:32] 又把代码搞乱 [90:33] AI毕竟是个 [90:35] 基于目前language model（语言模型） [90:36] 它毕竟是个随机机器 [90:37] 哪怕你同样一个写代码任务 [90:39] 你第二次跑它 [90:40] 它可能生成代码就已经不一样了 [90:41] 因为它是随机采样的 [90:42] 所以这种不确定性 [90:43] 造成很大trust（信任问题） [90:45] 就是你没法很相信它 [90:46] 所以如果它的过程是没法可以跟它互动的 [90:50] 或者说是人力介入这么一过程的话 [90:53] 你把所有的事情都交给它 [90:55] 你是很难去对它产生信任的 [90:57] 而且你之后 [90:58] 去维护它工作的努力和成本会很高 [91:02] 因为你没法理解 [91:03] 你怎么去维护 [91:05] 所以我觉得人的介入肯定还是 [91:08] 在目前这个阶段肯定还是必要的 [91:10] 对 但是人又太有限了 [91:14] 不管是脑力还是体力 [91:16] 太有限了 [91:16] 就像我们刚才说的 [91:18] 这么多份数学的答案已经挂在网上了 [91:21] 但是科学家没有时间去验证 [91:24] 所以这就为什么也有人说 [91:26] AI没法取代人类 [91:27] 反而让工作的岗位增加了 [91:30] 因为肯定需要更多人去维护 [91:31] 或者是更多人去看数学这样 [91:33] 所以会有更多 [91:34] 去验证AI答案的工作岗位会出来 [91:37] 如果它在可靠性上面 [91:39] 或者是可解释上面很差的话 [91:42] 它一定会让整个经济运行成本会更高 [91:46] 因为你如果哪天AI真的能够替代 [91:49] 80%经济的有价值的活动的话 [91:52] 如果每个活动都需要人类去介入 [91:54] 去验证的话 [91:56] 还不如不让AI去做这事情 [92:00] 所以为什么可信赖性和可解释性 [92:02] 可以基于人类介入是很重要的 [92:04] 我们再说一下物理 [92:06] 就是AI for Physics [92:07] 它跟数学问题是类似的吗 [92:10] 还是不一样的 [92:11] 数学肯定是物理的一部分 [92:12] 很多物理上的一些定律 [92:13] 或者是新的结论推导 是不一样的 [92:15] 但是物理跟数学最大不一样的地方是 [92:19] 数学只是在逻辑空间 [92:20] 它只要生活在逻辑世界就可以了 [92:22] 完全就是人类定义出来的 [92:23] 一套逻辑空间里面 [92:24] 是理想世界 [92:25] 物理必须要走出逻辑世界 [92:27] 走向物质世界 [92:28] 你必须要去验证 [92:29] 你必须要去跑实验 [92:30] 所以AI for Physics [92:32] 它可能现在可以帮 [92:33] 比如说一些物理问题 [92:35] 求解一些偏微分方程 [92:37] 去推导一些新的 [92:38] 像Anthropic他们那些之前的 [92:40] 推导一些新的结论等等 [92:42] 那是从数学角度 [92:44] 从形式逻辑角度去推出一些结论 [92:48] 但是如果你说你要让AI [92:50] 去发展一些新的物理的理论的话 [92:53] 你要去验证的话 [92:54] 这还是得走向物理世界 [92:57] 当然AI for物理它的概念很广 [93:00] 你物理可以说是求解方程 [93:03] 但是也有说像一个初创公司叫PhysicsX [93:06] 他们是专门做物理世界模型的 [93:10] 也是世界模型 [93:10] 就是把不同 [93:11] 比如说流体力学 空气力学这些 [93:14] 专门的一些现象做成一个世界模型 [93:16] 这样的话 他可以预测 [93:18] 说白了就是在这个领域 [93:19] 在这个task（任务）上面是怎么样去 [93:22] 这样的工作可能还是有用的 [93:25] 但是目前这方面工作还比较少 [93:28] 我发现“发现”这个词非常的有意思 [93:32] 或者“发现”人类历史上的很多故事 [93:35] 非常的有意思 [93:36] 因为它们都存在着一定的随机性 [93:39] 比如说流传的一个很广的故事 [93:41] 就是牛顿他被苹果砸了头 [93:44] 他研究出了万有引力 [93:46] 但是这个故事它其实是 [93:47] 我觉得大家有点夸张了 [93:49] 他其实没有被砸到头 [93:50] 但是确实可能看到了苹果掉落到了地上 [93:52] 给他了一些灵感 [93:53] 但是他在看到苹果之前 [93:55] 可能已经是有非常非常久的一个研究了 [93:58] 还有一个案例 [93:58] 我最近在看一本书叫《十亿美元分子》 [94:02] 它当中就聊到一个案例 [94:04] 就是比如说我们人类做手术 [94:06] 它用的一些抗免疫手段的 [94:09] 这个叫环孢素 [94:10] 它最初就是从挪威的土壤里面非常随机 [94:15] 发现了当中的一种真菌 [94:17] 所以我们可以看到人们的发明或者发现 [94:22] 很多都是大自然的巧合 [94:24] 或者是突然大自然给了我们一些东西 [94:27] 我们是被given（给予）的 [94:28] 这样的一些灵感在里面 [94:30] 有了很随机的一些发明跟发现 [94:33] 但是感觉AI它的整个的 [94:34] Discover（发现）的过程是完全不一样的 [94:36] 它没有任何的随机感在里面 [94:39] 随机不随机是一个事情的发生 [94:41] 但是一旦随机事件发生之后 [94:44] 你要能够发现这个事情背后的规律 [94:48] 这里面需要有一个所谓 [94:50] Abductive reasoning（溯因推理、归因推理） [94:53] 就你一个事情发生在你身上 [94:54] 比如说一个苹果掉我头上了 [94:56] 这是个随机事件 [94:57] 但是人类可以 [94:58] 就说像牛顿 [94:59] 他可以从这个事件当中来想象 [95:02] 什么原因导致这个随机事件发生 [95:05] 拿这个作为触发 [95:06] 他可能就会发展出一套物理体系 [95:09] 但是目前AI可以做得最好的就是 [95:11] 人类整个推理的模式 [95:13] 一个是演绎推理、归纳推理 [95:17] 像归因推理 [95:18] 就是把现象能够推出它这个可能原因 [95:20] AI能做得好的 [95:21] 目前可能最多就是演绎推理 [95:23] 就给你这个前提 [95:24] 像数学这样的 [95:25] 我定理和定义都给你 [95:26] 你能不能推导一个新的结论 [95:28] 这是逻辑上相对来说比较容易做到的 [95:31] 但是像溯因推理 [95:32] 给定一个现象 [95:33] 你能不能想象一个合理的解释 [95:36] 以至于它能够把这个解释 [95:38] 泛化到其他现象里面去的 [95:40] 还是像前面一个问题一样 [95:41] 这是抽象能力、想象能力 [95:43] 而且是个世界模型 [95:44] 这都是目前AI做不到的 [95:46] 而且我觉得甚至在未来的很长时间 [95:48] 都做不到这些事情 [95:50] 所以这个的确就是像在任何抽象层面上的 [95:53] 这些智力活动 [95:54] 在我看来都是AGI的最后一个 [95:56] Last mile（最后一英里） [95:57] 之前很多人说数学是无用之美 [96:00] 就是人类研究数学这件事情是属于人类的 [96:03] 是美好的中间的推断过程 [96:05] 大家非常享受这样的一个推断的过程 [96:07] 那些公式 那些问题 [96:09] 它可能研究出来 [96:11] 也对人类的科技进展或者商业化活动 [96:14] 没有太大的帮助 [96:15] 但是这是属于人类的东西 [96:17] 那你觉得之后这个会变化吗 [96:20] 不管是数学也好 [96:22] 还是像美学、艺术、哲学 [96:25] 这些东西你要从效用角度来讲 [96:27] 它都是无用之物 [96:28] 你说你家里面挂个画有什么用 [96:30] 一点用没有 [96:31] 但是没有这些无用的一些功夫 [96:34] 所谓无用之大用 [96:35] 如果没有这些思想过程 [96:37] 如果没有美学上的一些概念 [96:40] 或者是像数学你纯粹是作为一个好奇 [96:42] 作为一个纯粹精神上的一些乐趣 [96:43] 而推导出来的话 [96:44] 你是没有办法去推导物理的过程 [96:47] 其实可能最美好的东西 [96:48] 都是从无用的东西开始 [96:49] 都是从人类的好奇心和心智的好奇心 [96:52] 和对美的追求来开始的 [96:54] 不管是艺术也好 [96:55] 还是文学或者怎么样 [96:57] 一开始都是没什么用的 哲学也好 [96:59] 但是无用不代表它不会对未来产生影响 [97:03] 你在整个思考的过程当中 [97:05] 它对你大脑状态的改变 [97:08] 以及对你这个世界认知都会改变 [97:11] 它其实也是有用 [97:11] 只是说这个有用你不是马上能感知到的 [97:14] 所以我觉得一般说来 [97:15] 任何的理论科学或者是 [97:17] 不管数学好 特别是纯数学 [97:19] 还是像人文领域的艺术、哲学 [97:23] 这都是属于所谓无用之大用 [97:27] 如果从实用主义的角度来看 [97:29] 你觉得现在AI for math [97:30] 或者AI for Physics [97:32] 能够在什么样的程度上 [97:33] 去帮助人类的技术加速呢 [97:36] AI for math在很多应用场合 [97:37] 其实都可以 [97:38] 不管是像前面说的 [97:39] 求解一些科技领域的方程也好 [97:42] 还是像Axiom AI或者是Harmonic AI [97:45] 就是数学的初创公司 [97:46] 他们比如说拿数学去论证过程 [97:48] 去做芯片的验证 做程序验证的话 [97:51] 任何验证领域 [97:52] 在这个程度上面都已经可以有些应用 [97:56] 和产品化的一些前景 [97:58] 在任何可计算的一些领域 [98:01] 包括像你要是推导一个新的物理的 [98:05] 一些规律或怎么样的 一些方程 [98:07] 你让AI去推导 [98:09] 一定范围之内 [98:09] 肯定可以比人类速度更快 做得更高效 [98:12] 在这些可控的环境里面 [98:14] AI for math对于整个科学发展肯定是有帮助的 [98:16] 毕竟很多科学是需要数学化的 [98:19] 你只要给它足够的一些前提和条件 [98:21] 然后给它一些合适的语境 [98:22] 它是可以提出很多新的数学观点的 [98:24] 包括哪怕是最近 [98:26] 可以说当代理论物理最伟大的物理学家 [98:31] Edward Witten 他就是提出弦理论的 [98:33] 他最近 好像前不久就发了 [98:34] 在arXiv上还写了一个论文 [98:36] 就扔了个论文 [98:37] 他在论文里面写了一个 [98:39] 好像是footnote（脚注） [98:40] 说我这个论文这一段 [98:42] 是Claude帮我想出来的 或者怎么样 [98:46] 哪怕是在最艰深的 [98:47] Edward Witten在这个层面的 [98:49] 这些新的研究成果 [98:50] 都已经有AI在帮助他加速这样的一个过程 [98:54] 所以你可以想以后只会说这样的现象 [98:56] 会越来越普遍 [98:57] 那你觉得我们现在离AI创造出新的概念 [99:01] 那个moment（时刻） [99:02] 那个时刻还有多远 [99:04] 这取决于你怎么样定义这个概念 [99:05] 概念是非常宽泛的 有很具体的概念 [99:09] 就像我们前面可能提到的 [99:10] 具体的一些事情 [99:12] 你通过聚类就可以解决的 [99:14] 如果一个表征可以映射到 [99:15] 或者说所谓grounding（落地） [99:16] 就是能够接地到这个世界的观测上面的 [99:19] 那我叫聚类 [99:19] 你看到五把椅子 [99:21] 你可能聚类椅子 [99:23] 再来第六把椅子 [99:24] 因为它整个特征都差不多 [99:26] 你就可以意识到类似的一个聚类 [99:27] 这已经是个概念 [99:28] 任何一个聚类 或者说一个概率的流形 [99:30] 这个流形它就是一个概念 [99:32] 这种是可以 早就可以做了 [99:34] 但是难是难在 [99:36] 像前面创造数学里面抽象的一些概念 [99:39] 一个概念可以用在无穷场合 [99:41] 但这无穷场合它每一个场合都是 [99:44] 拥有稳定的一个相似性的 [99:46] 这种抽象概念我觉得是很难 [99:49] 甚至可能永远没法用计算程序来做到的 [99:53] 所以我看见有很多很多层次 [99:55] 这是从具体的到抽象的 [99:58] 在某一层之上就很难去做到 [100:02] 聊得特别好 [100:03] 我觉得今天我们好多的问题 [100:04] 聊着聊着就开始聊哲学问题了 [100:06] 有很多的人工智能专家 [100:09] 很多物理学家 [100:10] 他们后来 [100:11] 研究研究着科学 [100:12] 就开始研究哲学问题了 [100:14] 对 你往下想肯定是越想越不明白 [100:18] 就是这道理 [100:19] 越想越不明白 [100:20] 真的是这样 [100:21] 你觉得现在研究AI的人 [100:24] 大家应该去多看看哲学的书吗 [100:26] 现在AI的发展 [100:27] 在很多历史的哲学的发展过程当中 [100:29] 都能找到它的缩影 [100:32] 因为哲学探讨的问题就是 [100:33] 认知论就是探讨人类怎么样认知世界的 [100:37] 从最早的柏拉图 所谓理念世界 [100:40] 就是你肯定从来没有说 [100:41] 一辈子看到一个完美的圆 [100:44] 不管是轮胎也好 还是盘子也好 [100:46] 它都不完美 [100:46] 但是你从这些不完美的观察当中 [100:48] 你可以看到提出个理念世界 [100:50] 就是一个完美的概念 [100:52] 从很早的时候就有这么一个讨论 [100:55] 它其实就是关于人怎么样去产生知识的 [100:58] 怎么样去抽象这些概念的 [101:01] 所以你可以看 [101:02] 整个哲学发展这根线跟AI的发展线 [101:05] 包括跟认知科学发展线 [101:07] 它很多讨论的问题其实对象是一样的 [101:09] 只是用不同的语言 [101:11] 从不同的角度去探讨这问题 [101:12] 但是整个对象都是一样的 [101:14] 只是不同的镜子去照同一个事物 [101:18] 你觉得AI从业者应该多想想大问题吗 [101:24] 什么叫大问题 [101:25] 就比较top down（自上而下）的 [101:26] 就是刚才你说的从上往下思考的问题 [101:29] 对 我觉得的确是 [101:32] AI的确是目前非常热的 [101:34] 可能是科技界最热的一个topic（课题） [101:36] 谁都想在这上面做AI相关的话题 [101:41] 做很多工程上改进 [101:42] 想怎么样去做set up（配置） [101:43] 怎么样去应用 [101:44] 怎么样去把技术给落地 [101:49] 这当然是很重要的一个步骤 [101:51] 把这个技术给铺开来 [101:52] 但是大部分目前的这些应用 [101:55] 或者是所谓的研究 [101:57] 都是自下往上的这么一个视角 [101:59] 别人告诉我Transformer有用 好使 [102:02] Scaling law（缩放定律）还没失效 [102:04] Harness你得好好搞 [102:06] Infra（基础设施）要把它（建好） [102:09] 这些东西都是别人告诉我的 [102:12] 你把这种功能做好 往上推进 [102:14] 我就可以把这产品发布 [102:16] 但是这个对于短期内商业化 [102:18] 和AI落地来说当然很重要 [102:20] 但是我觉得在这些快速变动的研究之外 [102:26] 你还是要有些立意更高的研究 [102:30] 如果你实际思考 [102:31] 从上往下思考 [102:32] 就是从第一性原理 智能是什么 [102:35] 人类怎么样去认识世界的 [102:37] 你要反过来想 [102:37] 到底有哪些特性是目前AI做不到的等等 [102:41] 你这么一倒过来想的话 [102:42] 你就会发现很多事情AI都做不到 [102:45] 而且还需要很多的研究 [102:47] 而且不光是在AI领域 [102:49] AI是计算机 它就是个计算程序 [102:52] AI其实就是一个 [102:54] 计算最终目的就是自动化一些事情 [102:57] AI是自动化人类的思考过程 人的智能 [103:00] 但是计算能够自动的东西不只是智能 [103:03] 它可以自动物理过程、进行建模 [103:06] 进行自动过程等等 [103:08] 所以你要从这个角度 [103:10] 从更一般角度来讲 [103:12] 说白了就是计算角度来讲的话 [103:14] 它能够最终做到什么事情 [103:15] 在AI之外 [103:16] 如果有朝一日AI能接近人类水平了 [103:20] 计算还能做什么事情 [103:21] 这个一想的话 [103:22] 还有很多很有意思的一些话题 [103:24] 所以总之我觉得的确是 [103:26] 在AI目前狂热的状态下面 [103:29] 有很多有意思的 [103:31] 或者是很重要的一些落地 [103:33] 但是也不可避免地会产生很多浮躁 [103:35] 和一些比较肤浅的见解 [103:38] 所以还是需要一些从上至下的思考 [103:42] 你觉得在现在AI这么狂热的情况下 [103:46] AI4S的这条路 [103:48] 我想象中它肯定会更慢一点 是吗 [103:52] 它的商业化 它的研发过程 [103:54] 因为感觉它是一个非常长期主义的事情 [103:56] 它解决的问题 其实我们刚才也聊到 [103:58] 很多问题其实是更难或者更有挑战性的 [104:01] 它可能的商业化没有办法像比如说 [104:04] AI for coding [104:04] 或者是比如说data（数据）行业 [104:06] 其他行业落地那么快 [104:08] ARR（年度经常性收入） [104:09] 每年都能翻好几番 [104:11] 在这个行业里面 [104:12] 资本现在是一个什么样的心态 [104:14] 不管是大公司也好 [104:15] 还是Neolab（新型实验室）创业公司也好 [104:17] 接下来的一个发展的速度会是什么样子 [104:19] AI4S已经可以是有落地的空间 [104:23] 已经有很多落地的应用了 [104:24] 比如说是药物开发 [104:25] 哪怕你最后不是说 [104:27] 已经可以卖最终AI生成药 [104:28] 但是你当中生成的各种环节 [104:29] 各种什么靶点 [104:31] 那些分子结构 [104:32] 已经可以拿出去商业化了 [104:33] 当中一些中间的产物 [104:34] 所以我觉得是 [104:35] AI4S不能一概而论 [104:36] AI4S肯定有很多层面 [104:38] 有些层面是已经可以市场化的 [104:41] 但是如果我们的目标是说 [104:43] 达到诺贝尔级别的科学成果的话 [104:47] 那肯定还是有很长的路要走 [104:48] 在这个层面上 [104:49] 它就不是说AI4S [104:50] 它不是说是把science作为一个应用 [104:53] 假设是AI已经足够强 [104:54] 把science作为应用 [104:55] 而是AI and Science [104:57] 就是你不仅要做science [104:58] 但你在做这么难的问题之前 [105:00] 你得把AI自己的能力得提高 [105:01] 像你AI要有更强的抽象能力 [105:05] 有更强的推理能力 [105:07] 有更强的做实验的写代码能力等等 [105:10] 你如果这点做不到的话 [105:12] 你更上层的science是做不到的 [105:14] 这个层面上的确会是一个比较长期的主义 [105:18] 它不只是科学问题 [105:18] 它是一个AI本身基础研究问题 [105:20] 而且我一直觉得就说 [105:21] Science不只是一个AI的应用 [105:23] 而是它应该能够促使AI本身 [105:26] 发展更好的一个刺激 或者一个催化剂 [105:29] 一个模型 [105:30] 如果它在很难的science问题上做好的话 [105:32] 它在其他的问题上面也应该可以做好 [105:35] 而且可以比现在模型做得好 [105:36] 不管是写代码层面上 [105:37] 还是做这个推理层面上 [105:39] 因为你能把这么难问题解决的话 [105:40] 这模型本身就已经很强了 [105:41] 所以它不只是一个应用 [105:43] 而是作为一个驱动力 [105:45] 能够发展出更好的AI [105:46] 所以商业化路径 [105:48] 它不是一刀切这么一个判断 而是分层的 [105:52] 有些层面是商业化 [105:55] 各种这么多实验室 [105:56] 这些公司都已经可以商业化了 [105:58] 但是你要想拿诺贝尔奖的话 [106:00] 这个就是要很长时间的 [106:03] 很长时间是多久 [106:05] 这就很难说 [106:06] 10年 20年 [106:08] AlphaFold已经拿过了 [106:09] 但这个不是AI自动发现 [106:11] 但是我觉得 [106:13] 你要在这个层面上拿诺贝尔奖的话 [106:15] 我觉得至少得二三十年 [106:17] 说白了你要能够在目前的AI范式上 [106:20] 还要加强它一些目前没有的能力 [106:24] 且不要说它能够凭空创造出一些新的概念 [106:27] 或者是一些抽象东西 [106:28] 你能把目前已有的这些实验的结果 [106:31] 能够进行正反推理 [106:33] 就是这些因果推理 [106:35] 像前面说的 [106:36] 这目前是没有的 [106:37] 怎么样能够处理长期记忆 [106:38] 我做过无数实验 [106:39] 我怎么能够把这么多实验 [106:41] 相关的一些记忆给提取出来 [106:43] 怎么样能够不断地继续学习 [106:46] 能够把一些目前前沿的 [106:48] 这些topic（课题）能解决 [106:49] 可能就已经五六年过去了 [106:50] 然后你再去做些科学实验的话 [106:52] 这个肯定会比现在AI更强 [106:54] 但这至少我觉得还得要花很多时间 [106:57] 对 比如说二三十年之后 [106:59] 它能够得诺贝尔奖了 [107:01] 对于我们的产业来说 [107:03] 对人类社会来说意味着什么 [107:05] AI是一个meta technology（元技术） [107:07] 它是一个元技术 [107:08] 或者是 [107:09] General purpose technology（通用目的技术） [107:11] AI本身它是个大脑 [107:12] 它可以AI加任何东西 [107:15] 所以不光是说AI加science [107:16] 或者technology [107:17] 你也可以说AI加business [107:18] 如果你真有这么智能一个东西 [107:21] 它肯定不会说只解决科学问题 [107:24] 它可以帮你 [107:25] 可以作为像代理CEO这样的这么一个角色 [107:27] 在任何人类社会、经济社会的各个角度 [107:31] 它都可以做得比现在做的更好 [107:32] 就像OpenAI或者是微软 [107:34] 他们所谓的AGI的定义 [107:37] 它能够以百分之多少的准确率 [107:39] 做完百分之多少的人类经济上 [107:41] 有价值的一些工作 [107:42] 如果AI4S做到这个程度 [107:44] 说明这个模型在这么难的问题上 [107:46] 已经做了这么好的话 [107:47] 它一定可以在其他不同领域也会做更好 [107:51] 所以我一直觉得说AI for Science [107:52] 作为一个非常难的挑战性的话题 [107:54] 它是作为一个AI本身发展的驱动力 [107:56] 而且模型变得这么强之后 [107:58] 一定可以让其他所有的相关的经济活动 [108:00] 也会变得更高效 [108:03] 好的 那还有什么问题你想补充吗 [108:06] 没有了 [108:07] 好 谢谢曹原 [108:08] 谢谢陈茜 [108:10] 以上就是我与曹原对AI for Science这个话题的对话了 [108:14] 这个话题其实拆分开来 [108:16] 里面有很多值得深聊的子话题和垂类 [108:19] 我们也会继续关注 [108:21] 但其实这次对话给我印象最深的 [108:23] 还是几个对人类价值和事物本质的探讨 [108:27] 在不久的未来 [108:28] AI一定会在各个科学的领域上帮助人类 [108:31] 去破解很多的疑难问题 [108:33] 帮助我们将前沿科学再往前推进一步 [108:37] 而一旦理想中的AI进行自进化 [108:40] 完成模型到实验的loop闭环 [108:42] 将带领人类去到我们从未达到的高度 [108:45] 而那个时候 我们必须要更清楚人类的价值在哪里 [108:49] 是定义 是验证 是应用 还是拥有最终的审判权 [108:54] 有一点是确定的 [108:56] 那个时候的世界和我们的现在的世界会很不一样 [109:00] 好 以上就是我们这期视频播客的全部内容了 [109:03] 你们的点赞 留言和转发 [109:05] 是支持我们硅谷101做好深度科技和商业内容的最佳动力 [109:09] 我是陈茜 那我们下期节目再见 bye～