谷歌DeepMind纪怀新：AI终局拼单位能力成本

Silicon Valley Vector 硅谷坐标

基础模型能力终将商品化，开源通过思维链逆向缩小差距，商业价值将不可逆地流向顶层消费级应用与底层全栈芯片算力两端。

AI-assisted summary of Silicon Valley Coordinates x Google DeepMind VP of Research Ed H. Chi: The Future of Personalized... — original source. Check the original for full context.

Source published: 2026-10-18

Key ideas

通用助理正从问答搜索向替用户执行操作演进，但由于缺乏可靠的确认闭环与支付安全保障，真正落地的核心在于能否通过以极低容错度为标准的“Grandma Test”。 (1:49)
谷歌在 AI 竞局中的核心壁垒在于从自研 TPU、Token 超算工厂到消费级产品的全栈能力，长期商业竞争的终局是比拼单位成本所交付的能力（capability over cost）。 (13:10)
Memory 研究的瓶颈不仅在于 1M-2M 的容量上限，更在于认知层面的排序机制（ranking）；面对存储硬件短缺，长线架构可借助更充沛的算力来替代部分内存开销。 (19:00)
开源模型曾通过思维链（Chain-of-Thought）逆向蒸馏逼近闭源，如今前沿实验室正隐藏推理链并构筑多模态壁垒，断言开源将迅速抹平差距仍为时尚早。 (22:59)

Detailed notes

## Background 本期视频由 YouTube 频道《Silicon Valley Vector 硅谷坐标》于 2026 年 10 月 18 日发布。内容记录了主持人曹卿云在华源科技协会（HYSTA）第 27 届年会期间，对 Google DeepMind 研究副总裁、《思维链》（Chain-of-Thought）论文作者之一纪怀新（Ed H. Chi）的独家专访。访谈围绕消费级 AI 与通用助理的发展瓶颈、谷歌在全栈与成本控制上的护城河、记忆（Memory）机制的本质、开源与闭源的博弈，以及 AI 时代下人类学习数学的意义展开探讨。

## TL;DR 纪怀新指出，消费级通用助理正从被动问答演进为具备行动能力的代理，但受限于权限与错误容忍度，行业仍需通过严苛的“祖母测试”；其核心护城河不在于单一功能，而在于全栈整合能力与极致的单位算力成本（capability over cost）。他剖析了记忆机制（Memory）的研究瓶颈，指出其本质是高维信息排序而非单纯的数据存储，并可通过以算力换存储来对冲短期硬件短缺。此外，纪怀新认为开源模型通过思维链逆向工程迅速缩小了与闭源的差距，但多模态与加密思考仍构成深厚壁垒；面对 AI 攻克顶级数学难题的现状，他以 AlphaGo 普及围棋为例，乐观坚信 AI 工具不仅不会让数学消亡，反而能大幅降低门槛、激发人类纯粹的好奇心与创造力。

## Atmosphere & style 访谈氛围专业深邃且充满理性的思辨张力，既有顶尖前沿实验室科学家的严密逻辑，又有面向产业落地的务实敏锐。纪怀新在对话中娓娓道来，语言平和笃定，善于用“买苹果算术题”、“高尔夫球推理”以及“祖母骂机器人”等形象生动的日常隐喻，将深奥的数学对偶、Transformer 上下文瓶颈和全栈商业战略拆解透彻。主持人引导敏锐自然，与嘉宾形成富有沉浸感的学术与行业共鸣；整场对话既直面行业局部泡沫的冷酷现实，又在终局探讨中洋溢着对技术普惠和人类求知欲本质的乐观温情。

## Bulletin - [01:49](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=109s) 通用助理正从问答搜索向替用户执行操作演进，但由于缺乏可靠的确认闭环与支付安全保障，真正落地的核心在于能否通过以极低容错度为标准的“Grandma Test”。 - [13:10](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=790s) 谷歌在 AI 竞局中的核心壁垒在于从自研 TPU、Token 超算工厂到消费级产品的全栈能力，长期商业竞争的终局是比拼单位成本所交付的能力（capability over cost）。 - [19:00](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1140s) Memory 研究的瓶颈不仅在于 1M-2M 的容量上限，更在于认知层面的排序机制（ranking）；面对存储硬件短缺，长线架构可借助更充沛的算力来替代部分内存开销。 - [22:59](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1379s) 开源模型曾通过思维链（Chain-of-Thought）逆向蒸馏逼近闭源，如今前沿实验室正隐藏推理链并构筑多模态壁垒，断言开源将迅速抹平差距仍为时尚早。

## Key takeaways - [00:00](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=0s) 学术界与工业界正从过去的搜索与推荐系统，转向以复杂推理、复杂记忆架构和递归式自我提升（RSI）为核心的研究方向。 - [01:49](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=109s) 通用助理从信息检索迈向代理执行（如订票、购物）时，核心瓶颈在于确认机制与资金权限的不可逆性，预计未来半年到一年交互界面会更明晰。 - [05:23](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=323s) 消费级 AI 的真正成熟需要通过“Grandma Test”：只有当普通用户对机器人抱有极高期望并因其犯错而苛责时，才证明通用助理真正融入日常生活。 - [04:01](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=241s) 通用助理不仅需要解决数学物理等逻辑难题，更要在截然不同的现实垂直领域（如高尔夫装备与原理理解）具备泛化推理能力。 - [10:23](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=623s) 大模型与小模型的资源分配是一个两难权衡：超大模型部署与数据成本极高，不能仅凭狂热的 Coding 信仰盲目堆叠参数，必须兼顾轻量化与端侧工具调用。 - [13:10](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=790s) 所有长远经济学考量最终都会收敛到 capability over cost；谷歌依靠自研 TPU、Token 超算工厂及全栈布局，旨在以最低成本稳定交付前沿模型能力。 - [14:59](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=899s) 针对大厂巨额 Capex 与商业回报周期，谷歌采取多层对冲的“双重保险”策略，从芯片、架构到应用同步推进，以 5 到 10 年的长远周期对抗短期波动。 - [16:29](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=989s) 内存与计算具有对偶转换关系，面对 DRAM/NAND 供应链短缺，可通过算法与网络架构优化以算力替代存储；同时人类记忆本质是一种动态程序而非单纯的数据提取。 - [19:00](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1140s) Memory 的关键瓶颈本质上是一个排序（ranking）问题，而非把所有过往信息一股脑全部唤醒，模型需要学会在特定语境下精准激活高相关性记忆。 - [21:37](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1297s) 当基础模型推理能力逐渐被商品化（commoditized）后，商业价值将向两端分流：向上流向高粘性的应用交互层，向下流向拥有极致能效的底层算力工厂。 - [22:59](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1379s) 开源模型曾借助思维链逆向复制闭源的推理模式，但随着前沿实验室隐藏加密思考过程并加深多模态融合壁垒，两者的差距短期内难以被轻易抹平。 - [24:37](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1477s) 当前 AI 在物理智能与视觉推理上存在局部泡沫，仅靠代码生成难以支撑数千亿美元的 Capex，长远来看具有最大增量空间的依然是消费级市场。 - [29:20](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1760s) 如同 AlphaGo 推动围棋普及和 LLM 带动搜索量增加一样，AI 攻克高阶数学难题不会终结人类的学习，反而会降低准入门槛，让探索动机回归纯粹的好奇心与热爱。

## Detailed walkthrough ### [00:00](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=0s) 开场与回顾：从搜索、推荐到思维链

纪怀新（Ed H. Chi）回顾了自己在华源科技协会（HYSTA）年会 Panel 上的分享。过去 30 年中，尤其是前 20 年，行业与学术界的研究重心高度集中在推荐系统（Recommendation）与搜索（Search）领域；而过去 10 年，随着神经网络的兴起，研究者逐渐掌握了利用“下一个 Token 预测”（next token prediction）以及“思维链”（Chain-of-Thought）激发机器基础认知与推理能力（reasoning）的路径。纪怀新指出，下一步学术界需要深入探索的是更复杂的推理（complex reasoning）、更复杂的记忆（memory）机制，以及递归式自我提升（RSI, recursive self-improvement）等核心学术议题。

- 纪怀新过去 30 年的核心研究轨迹：前 20 年专注搜索与推荐，近 10 年深耕神经网络、思维链与认知推理。 - 未来学术与工程探索的核心方向：复杂推理、复杂记忆架构与 RSI（递归自我提升）。

---

[01:49](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=109s) 通用助理：从问答走向替你做事

从个性化（Personalization）的角度切入，大型语言模型（LLM）在消费级服务（Consumer Services）中最先落地且规模最大的形态是搜索，即从传统搜索演进为“AI 模式搜索”（AI mode search）或问答形态。近来硅谷热议的 Instinct 以及刚发布的 Use Spark（或类似个人助理产品），均试图从被动的“问答”迈向真正的“通用助理”——即让模型主动替用户执行任务，例如订机票、订旅店或在线购物。

然而，这类应用涉及极深的数据与资金权限，业界此前受限于模型的可靠性（reliability），普遍不敢轻易把信用卡权限托付给通用助理，生怕发生助理随意扣款、到处乱买的失控状况。当前行业仍处于早期探索期，核心难点在于确认机制（confirmation），例如帮用户订购机票后，到底买对了还是买错了，这类闭环数据尚未完全成型。纪怀新预测，在未来 6 个月到 1 年内，通用助理与 AI 模式搜索之间的边界与交互界面（interface）将会变得更加明晰。

```mermaid flowchart TD accTitle: 消费级 AI 从搜索演进到通用助理的路径 accDescr: 展示了从传统搜索到 AI 搜索，再到具备执行能力的通用助理的发展阶段与当前面临的权限瓶颈。

subgraph Phase1["第一阶段：信息检索"] A["传统搜索 (Search)"] --> B["AI 模式搜索 / 问答 (AI Mode Search)"] end

subgraph Phase2["第二阶段：行动代理"] B --> C["通用助理 (Universal Assistant)"] C --> D["订机票 / 订酒店"] C --> E["电商购物 / 自动支付"] end

subgraph Challenges["核心瓶颈"] F["权限与资金安全 (信用卡乱刷)"] G["可靠性与确认机制 (买对还是买错)"] end

C -.-> F C -.-> G ```

---

[04:01](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=241s) 推理能力跃迁与多领域泛化挑战

回顾大模型的推理进化速度，技术演进令人瞩目。在三四年前撰写《Chain-of-Thought》论文时，研究人员还在尝试让模型解答“买了 5 个苹果又买了 6 个苹果一共有几个”之类的小学数学算术题；而到了今天，前沿模型已经开始尝试攻克像纳维-斯托克斯方程（Navier-Stokes equations）这类物理和数学领域最顶尖的难题。

然而，通用助理（Universal Assistant）中的“通用”二字，要求模型不能仅仅精通数学。纪怀新以自身爱好举例说明：“我个人是一个高尔夫球爱好者，那么他对高尔夫球的原理、equipment understanding、杆、球这些的，他到底有多少推理的能力呢？这些又是跟数学不一样对吧。”打造消费级应用的前提，是全面评估与理解模型在截然不同的现实垂直领域中所具备的真实推理层级。

---

[05:23](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=323s) 通用助理的护城河与“Grandma Test”

在消费级 AI 领域，真正的护城河并非简单的代码或界面形态，而是用户体验以及用户对错误的容忍度。无论是聘请现实中的真人私人助理，还是使用 AI 通用助理，人们对关键决策失误的容忍阈值极低；只要 AI 犯下一次严重错误，用户的信任就会彻底崩塌。这也是目前消费端落地节奏相对保守的核心原因。

为了定义通用助理何时真正成熟，纪怀新提出了一个形象的标准——“Grandma Test”（祖母测试）：“当你有一天，你的 grandma 指着你的机器人骂她说你怎么这么笨，你就知道说这个所谓什么叫做通用助理的时代真的到了。”纪怀新解释道，只有当祖母对机器人的能力产生极高的预期，并把它的失误视作严重问题而愤怒斥责时，才证明通用助理真正融入了普通人的日常生活；而目前无论是学界还是工业界，都还在摸索和试探这一能力的边界。

---

[07:05](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=425s) 谷歌做消费级 AI 的优势：硬件与服务的解耦

从消费级生态系统来看，AI 的演进主要拆分为硬件（Hardware）与软件/服务（Software/Services）两个维度：

1. **硬件维度**：业界存在端侧模型与云端模型交互（on-device vs. non-device interaction）、内存瓶颈以及供应链协同等挑战。消费级硬件的未来走向目前仍是一片空白，孕育着大量探索机会。 2. **软件与服务维度**：消费级软件的交互逻辑正在发生范式转移。行业早已不再关注传统的可下载单机软件或下载 App，而是聚焦于云端服务。用户接入通用助理的终端入口究竟是手机、智能眼镜还是全新形态的硬件设备，目前尚未形成定论。

纪怀新反思了当下的移动端交互体验：“像比如说我们手机为什么现在还是我整天还需要去想着说我 App 有没有更新啊干嘛，这种就是 15 年前我们在 worry 的这种问题，通用助理之后不应该你要整天在那边 download app 到这个机器人身上对吧。”因此，整个消费级服务生态目前仍处在极其初期的探索阶段。

---

[09:21](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=561s) 现象级产品的来源与生态演进

当被问及未来的现象级消费级产品究竟会诞生于谷歌、Meta、苹果这类软硬件巨头，还是从初创公司（Startup）杀出重围时，纪怀新认为具体出自何方反而并不关键。从科学家与研究者的视角来看，最引人入胜的课题在于该产品将以何种形态普及，以及何种交互界面（interface）才是真正符合人类直觉的人机互动方式。他更希望整个市场能维持一个健康的竞争生态，让巨头与初创公司共同探索这一广阔的技术空间。

---

[10:23](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=623s) DeepMind 的模型竞争力：大模型与小模型的权衡

针对 DeepMind 在前沿实验室（Frontier Labs）竞争格局中的定位，纪怀新阐述了模型研发的资源分配策略。面对有限的算力与工程资源，团队必须长期权衡：究竟该把精力投入到底层超大模型（ultra-sized model）的极限推理能力上，还是分配给轻量化小模型（small model）与应用端工具调用（tool use）的工程打磨上。

在硅谷尤其是旧金山，部分持有“AGI Pill”狂热信念的人信奉“软件吞噬世界”（software took over the world），认为只要模型攻克了代码生成（coding），AI 就能全面接管软件并解决一切，从而不惜代价地堆叠超大尺寸模型。然而，从实际落地、终端手机运行、工具调用等应用分发角度来看，超大模型的部署与数据成本高昂得令人难以承受。纪怀新指出，无论是大厂内部还是行业整体，在大模型与小模型之间的资源分配始终是一个极其艰难的平衡题。

---

[13:10](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=790s) 谷歌的护城河：全栈架构与最便宜的 Token 成本

纪怀新强调，谷歌绝不可能放弃对前沿顶尖模型的研发。谷歌用户对技术抱有天然的期待，同时自研模型代表着企业的技术主权（technology sovereignty），这种核心能力无法依赖开源权重或第三方系统。

谷歌在 AI 竞赛中最坚固的护城河在于全栈整合能力（Full Stack）： - **业务顶层**：拥有全球规模的消费级产品与应用矩阵。 - **底层基础设施**：向下贯穿至超大规模数据中心（hyperscaler）、Token 工厂以及自研 TPU 芯片。

纪怀新直言：“我们在公司里面可以做到 deliver the capability for the cheapest amount of cost。在这个整个 area 里面，很多人还没有看到 cost，但是所有经济学的东西，都是 capability over cost，这是毋庸置疑。”当各家模型的极限能力差距逐渐收敛时，谁能以最低的成本稳定交付单位能力，谁就掌握了最终的商业定价权与生存权。

```mermaid flowchart TD accTitle: 谷歌 Full Stack 全栈竞争力与成本控制架构 accDescr: 展现了谷歌从硬件芯片、超算中心到大模型和消费级应用的全栈架构及其带来的单位 Token 成本优势。

subgraph Layer1["消费与应用层"] App["消费级应用生态 (Search / Workspace / 通用助理)"] end

subgraph Layer2["模型研发层"] Model["DeepMind 前沿模型 (大模型复杂推理 + 小模型工具调用)"] end

subgraph Layer3["基础设施与计算层"] Factory["Token 工厂 / 超大规模算力调度 (Hyperscaler)"] Chip["自研算力芯片 (TPU)"] end

Chip --> Factory Factory --> Model Model --> App

classDef core fill:#e1f5fe,stroke:#0288d1,stroke-width:2px; class Chip,Factory,Model,App core; ```

---

[14:59](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=899s) Capex 与 ROI：着眼 5 到 10 年的长远账本

针对市场普遍担忧大厂资本支出（Capex）激增、现金流承压，而 AI 应用端的商业化回报（ROI）尚未大规模显现的现状，纪怀新认为短期与长期视角的经营逻辑截然不同。

“你如果是很 short-term 的 company，你就会只是想这是 quality、accuracy 这样子的问题；你如果是一个长远的公司，在投资的眼光是以 5 年、10 年这样子在计算的话，你就会开始在想说 what's in the future？你这个真正的该 optimize 的 metrics 是什么东西？不见得只是 capability，而是 capability over cost 这样子的问题。”纪怀新分析道。谷歌的核心打法是在关键技术链条上进行“双重保险”（double insure）：在模型端、应用端、芯片架构以及全栈上下游同步推进创新，从而在长周期的技术震荡中对冲风险。

---

[16:29](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=989s) Memory 研究与存储短缺：以算力换存储

针对当前半导体供应链中 DRAM、NAND 以及机械硬盘（HDD）全面短缺的现状，纪怀新从计算机科学本质进行了解读：内存（Memory）与计算（Computation）之间始终存在着数学上的对偶与转换关系。在拥有长远投资规划的前提下，企业完全可以利用更多的计算来替代部分内存需求，不必对短期的硬件供应链波动产生过度恐慌。

当前的记忆（Memory）前沿研究绝非仅停留在硬件和供应链层面，而是深入到底层算法与网络架构设计中： - **神经网络架构减负**：探索降低模型内存与带宽占用的新型设计。例如 Kimi 推出的 Delta Attention 架构，其与传统的全注意力（Full Attention / $\mathcal{O}(n^2)$ Attention）以及稀疏注意力（Sparse Attention）在内存开销上展现出完全不同的表现。 - **KV Cache 与上下文管理**：关注推理阶段的 KV Cache 优化与个性化记忆调度。 - **认知的本质**：人类认知学中的 Memory 绝非静态无生机的存储提取介质，它本身就是一种“程序”（a program for programming the AGI machinery），时刻处于动态变化中并指导后续行为。因此，DeepMind 的研究团队投入了极大精力去探索 Context Buffer 内部的信息重构与整理。

---

[19:00](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1140s) Memory 最大的瓶颈：它本质是一个 Ranking 问题

纪怀新直指当前模型在记忆维度上的两大核心瓶颈： 1. **容量瓶颈**：当前基于 Transformer 的大模型，Context Buffer 极限大约只能做到 100 万到 200 万 Token（1M-2M），这一容量面对真正的通用助理需求“完全不够”。 2. **认知认知瓶颈**：学术界与产业界依然普遍把 Memory 狭隘地当成“存储与检索”（memory retrieval）的数据库机制，未曾从认知科学的角度理解其筛选本质。

许多计算机专业出身的人常常陷入误区，认为机器拥有无限存储，因而无需像人脑那样进行主动遗忘与压缩。纪怀新明确反驳了这一观点：“memory 其中一个最重要的 problem，事实上是一个 ranking 的问题。就是说你在想，比如说我如果随便讲一个 location，我说 Paris，那你记得你去巴黎的时候有什么样的记忆？这事实上是个 ranking 的问题，而不是说一拥而来把所有 Paris 的东西全部都唤醒。”如何在高维记忆库中对相关信息进行精准排序，是解决通用助理记忆机制的核心所在。

---

[20:59](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1259s) Memory Layer：创业公司还是大厂的主场？

当前市场上涌现出大量专注于打造专用“Memory Layer”（记忆层）的初创公司。纪怀新指出，在硬件架构与存算一体（结合 memory 与 computation）领域，确实存在一些大厂之外的新颖探索，但大厂内部同样在紧密推进。随着学术界与工业界对记忆机理认知的加深，未来几年内存与计算协同架构必将迎来突破性进展。

---

[21:37](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1297s) 如果今天创业：价值流向何方？

在基础模型能力逐渐商品化（commoditize）的大背景下，纪怀新给出了对创业格局与价值流向的研判：当最顶尖与相对落后的基础模型之间的性能鸿沟被拉平时，模型的绝对推理能力将不再构成最牢固的壁垒。

在此趋势下，商业价值将加速向价值链的两端分流： - **前端应用层（Application）**：护城河取决于用户粘性（sticky）、锁定效应（lock-in）以及无摩擦的交互体验。 - **底层算力与工厂（Hyperscaler / Token Factory）**：护城河取决于能源利用效率、芯片自研设计，以及存算比调优带来的极致低成本。

```mermaid flowchart LR accTitle: 基础模型商品化下的价值流动趋势 accDescr: 模型层能力平平化导致商业价值向应用层和超算云端两端分流。

A["基础模型能力 (Model Capability) 逐渐平坦化 / Commoditized"]

A -->|"价值向上流向"| B["应用层 (Application)"] A -->|"价值向下流向"| C["基础设施层 (Token Factory)"]

subgraph AppMoat["应用层壁垒"] B --> B1["用户粘性 (Sticky)"] B --> B2["生态锁定 (Lock-in)"] B --> B3["卓越交互体验"] end

subgraph InfraMoat["超算层壁垒"] C --> C1["极致能源效率"] C --> C2["自研芯片能效"] C --> C3["最低单位 Token 成本"] end ```

---

[22:59](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1379s) 开源追赶闭源的秘密，与《思维链》论文的关联

针对开源模型与闭源 SOTA 模型的差距演变，纪怀新披露了开源模型得以快速逼近闭源前沿的关键技术机制：

“开源模型之所以能够追上这个闭源的模型，其中一个原因就是因为我 co-author 这个 Chain of Thought 这个 paper。他们用 Chain of Thought 的方法来发掘这个 model 里面的思维链，它的思考模式是怎么样子的，然后用这个思考模式来复制拷贝这个推理的方式。”

为了防止推理逻辑被轻易逆向蒸馏，目前各大前沿实验室正致力于将模型的推理链与思考过程进行隐藏与加密，以此大幅增加外部复制与抄袭的难度。此外，多模态能力（multimodality capability）等全新技术栈同样具有极高的工程壁垒与复杂的跨模态融合机制，短期内很难单纯通过文本蒸馏被开源轻易追平。因此，纪怀新认为断言“开源必将迅速抹平与闭源的差距”是一种相当不成熟的论调。

---

[24:37](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1477s) 局部泡沫与代码之外的下一个增长点

对于 AI 行业是否存在泡沫的争议，纪怀新认为不能一概而论。整体市场具备强劲的技术支撑，但不同细分领域确实充斥着不切实际的期望（unrealistic expectations）： - **物理智能（Physical Intelligence）**：市场当前给予了过高的阶段性预期。 - **视觉推理（Visual Reasoning）**：许多现有多模态模型在真正的视觉复杂推理任务上表现极差，远未达到理想状态。

旧金山主流的“代码即一切”理论存在明显局限。若认为仅靠 Coding Agent 解决软件编写就能解决全人类的所有问题，AI 的演进空间就会被严重低估。

针对商业化变现的下一个风口，虽然当前 OpenAI 与 Anthropic 的主要收入来源于企业级（Enterprise）订阅服务与代码工具，但纪怀新明确表示长远来看极为看好**消费级（Consumer）市场的爆发**。这也是他选择坚守谷歌的核心驱动力，因为消费级互联网服务正是谷歌数十年积累的最深护城河所在。

- 资本与估值风险：仅靠单一的代码变现难以支撑整个行业数千亿美元的 Capex，必须依靠消费级场景打开增量空间。 - 视觉与多模态：真正的多模态视觉推理仍处于破局前夕，存在巨大的未开垦技术空间。

---

[26:47](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1607s) 未来一两年的消费级硬件形态

面对未来一至两年的消费级产品形态，纪怀新跳出单一公司视角，从全行业维度进行了前瞻：行业内部正在激烈辩论未来的主导交互界面是演化成一个全能的“超级 App”（Super App），还是全面颠覆现有的智能手机形态。

硬件终端存在多维度的进化可能： - **穿戴式形态**：智能眼镜、智能耳环、AI 耳机乃至智能衣物的全方位交互革新。 - **家居智能设备的二次激活**：前些年停滞不前的智能音箱以及所谓的“智能冰箱”，在过去受限于自然语言理解与算力，体验欠佳；但在通用助理技术的加持下，仅需一块屏幕与互联网连接，就能赋予传统家电强大的自主智能，其实施难度与实用性已与七八年前不可同日而语。

---

[28:11](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1691s) 科学家的兴奋点：从小学算术到千禧年数学难题

从科研人员的视角出发，纪怀新对当前的 AI 创新浪潮感到无比振奋，他感叹当下“Creativity seems to be everywhere”（创造力无处不在）。

他生动地对比了技术发展的非线性跨越：几年前团队在推演思维链（Chain-of-Thought）原型时，模型面对“1+1=2”、“买了 5 个苹果又买了 6 个苹果一共几个”之类的小学应用题，解答准确率仅仅只有 33%；而如今最先进的超大前沿模型，已经能够涉足千禧年大奖难题（Millennium Prize Problems），尝试求解纳维-斯托克斯方程这类极度复杂的数学与物理高维系统。人类目前对模型能力的想象空间依然过于局限，未来其认知能力的拓展边界将远超大众预估。

---

[29:20](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1760s) 孩子还需要学数学吗？来自 AlphaGo 的启示

面对“AI 连顶级数学难题都能解决，孩子是否还有必要花时间苦学数学”的普遍育儿与教育焦虑，纪怀新借由近十年前 DeepMind 研发 AlphaGo 的往事作出了引申。

当年 AlphaGo 击败人类顶尖棋王时，舆论界一片哀嚎，普遍断言“人类以后再也不用下棋了”。然而现实的发展却恰恰相反，国际象棋与围棋在人机大战之后不仅没有消亡，反而借助 AI 辅助迎来了全球范围内更深入的研究、教学革新与普及潮。纪怀新以此作为镜像，暗示技术能力的跃迁并不等于人类传统智力训练的终结。

[30:00](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1800s) AI 时代的数学与探索：从围棋启示到人性的求知欲

针对大模型解决复杂科学与数学问题后“是否还会有人学数学”的普遍担忧，纪怀新（Ed H. Chi）借由围棋的历史给出了截然相反的乐观判断。当年 AlphaGo 击败人类顶尖棋手后，外界曾悲观预测围棋这项古老运动将走向消亡，但事实证明，之后研究与下围棋的人反而变得更多。纪怀新指出，数学领域很可能会迎来完全相同的轨迹：“这意思就是说数学我觉得也一样，很多人会觉得说这下子我们 Navier-Stokes equation 都用这个方法来解决了，那么以后没人想要念数学了，我觉得有可能是刚好相反，会有更多人会觉得数学这么的 interesting，我想要去研究它。”过去推动科研的动力往往偏向对知识边界的探索（exploration），而未来探索数学的动机将更多转向对底层逻辑的理解（understanding）以及纯粹的乐趣（entertainment）。从事相关研究的人，其驱动力会更加纯粹地来自内心深处的求知欲（curiosity）。

```mermaid flowchart TD accTitle: AI 赋能高门槛学科的正向循环 accDescr: 展示 AI 如何通过降低工具门槛，激发更多人纯粹的兴趣，从而带动学科的繁荣。

subgraph Barrier ["传统高门槛模式"] A["高昂的学习成本与资源门槛 (需请名师/寻找同等棋力对手/艰涩公式)"] end

subgraph AITool ["AI 介入赋能"] B["普及化工具与辅助分析 (如手机端高水平围棋 App、数学 AI 工具)"] end

subgraph NewDemographic ["受众拓展与驱动力转变"] C["吸引多元人群介入 (文科生/更多年轻学习者)"] D["动机从功利边界探索 转向纯粹求知欲与趣味"] end

A --> B B --> C C --> D ```

这种工具层面的普及大幅拉低了高门槛学科的准入壁垒。主持人提到，以往数学门槛极高，但如果能把 AI 当成强大工具，即便是文科背景的学习者也能借此去解决更复杂的问题、激发更多创造力。纪怀新以学围棋的过程做类比：过去学棋必须花费重金聘请教练老师，还要耗费大量精力寻找棋力相当的对手切磋；如今任何人在手机上就能下载棋力极高的 AI 应用程序随心练习，这不仅没有扼杀围棋，反而带动并激励了大量小朋友投入学习。这种现象也同样发生在搜索引擎上——大语言模型刚爆发时，不少声音预言搜索引擎将失去存在意义，但 Google 实际观察到的却是各类 Search Application 的使用需求在持续增加而非缩减。纪怀新强调，尽管新技术势必会重塑现有社会结构，但他对此始终抱持乐观：“当然我不否认它是会改变很多我们现在既有的这样子的 structure，但是也有新的 possibility。”

- **从功利探索走向纯粹热爱**：科研与数学的驱动力逐渐从“突破知识边界的实用考量”演进为追求理解、享受过程与满足好奇心。 - **降门槛带来的普及效应**：围棋在 AI 辅助软件普及后吸引了更多年轻棋童，数学在获得 AI 这一强力杠杆后，也能让非理工科背景的人群发挥更广阔的创造力。 - **技术共生而非替代**：类似 LLM 出现后搜索引擎应用不降反升，AI 解决高阶难题（如纳维-斯托克斯方程等问题）不仅不会终结该学科，反而会激发起更广泛的关注与探索潜能。

## Notable quotes > [05:23](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=323s) 当你有一天，你的 grandma 指着你的机器人骂她说你怎么这么笨，你就知道说这个所谓什么叫做通用助理的时代真的到了。 — 纪怀新

> [13:10](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=790s) 很多人还没有看到 cost，但是所有经济学的东西，都是 capability over cost，这是毋庸置疑。 — 纪怀新

> [19:00](https://www.youtube.com/watch?v=32Eb2jUWJtQ&t=1140s) memory 其中一个最重要的 problem，事实上是一个 ranking 的问题。 — 纪怀新

## Mentioned 纪怀新 (Ed H. Chi), 曹卿云, Google, Google DeepMind, 华源科技协会 (HYSTA), 思维链 (Chain-of-Thought), AlphaGo, OpenAI, Anthropic, Meta, Apple, Kimi, Delta Attention, Navier-Stokes equations, TPU, Instinct, Use Spark

## Video description 9 月 26 日，华源科技协会（HYSTA）第 27 届年会，硅谷坐标专访 Google DeepMind 研究副总裁 Ed H. Chi（纪怀新）。他是思维链（Chain-of-Thought）论文作者之一，过去 30 年做推荐、搜索，到今天研究推理与 memory。

我们问了他： · Consumer AI 和通用助理现在走到哪一步？护城河是什么？ · Google 在 AI 竞争里靠什么？为什么说最后拼的是 capability over cost？ · Memory 研究最大的瓶颈在哪里？为什么 memory 本质是一个 ranking 问题？ · 如果今天出来创业，价值会流向哪里？开源和闭源的差距会变大还是变小？ · AI 泡沫在哪里？AI 都会做数学了，孩子还要学数学吗？

【章节】 00:00 开场 00:33 Panel 回顾：从推荐、搜索到思维链 01:49 通用助理：从问答走向替你做事 04:01 消费级 AI 的未来：推理能力三四年走了多远 05:23 通用助理的护城河：grandma test 07:05 Google 做消费级 AI 的优势：硬件与服务 09:21 现象级产品会从哪里来 10:23 DeepMind 的模型竞争力：大模型与小模型 13:10 Google 的护城河：full stack 与最便宜的 token 14:59 Capex 与 ROI：capability over cost 16:29 Memory 研究与存储短缺 19:00 Memory 最大的瓶颈：它是一个 ranking 问题 20:59 Memory layer：创业公司还是大厂 21:37 如果今天创业，价值流向哪里 22:59 开源追上闭源，与思维链论文有关 24:37 AI 泡沫在哪里 25:53 Coding 之后的下一个机会 26:47 未来一两年的消费硬件 28:11 科学家视角：从小学算术到最难的数学题 29:20 AI 时代孩子还要学数学吗

【嘉宾】 Ed H. Chi（纪怀新）｜Google DeepMind 研究副总裁，思维链（Chain-of-Thought）论文作者之一

【采访】曹卿云｜《硅谷坐标》主持人

【出品】硅谷坐标 Silicon Valley Vector × 华源科技协会 HYSTA

【文字版】微信公众号「硅谷坐标」｜音频：小宇宙 / Apple Podcasts / Spotify 搜索「硅谷坐标」

嘉宾观点仅代表个人，不代表所在机构。

#Google #DeepMind #EdChi #AI #通用助理 #硅谷 #谷歌 #Muse #个人助理 #模型 #AI应用 #思维链 #memory

[Source](https://www.youtube.com/watch?v=32Eb2jUWJtQ)

中文简报

谷歌DeepMind纪怀新：AI终局拼单位能力成本基础模型能力终将商品化，开源通过思维链逆向缩小差距，商业价值将不可逆地流向顶层消费级应用与底层全栈芯片算力两端。纪怀新指出，消费级通用助理正从被动问答演进为具备行动能力的代理，但受限于权限与错误容忍度，行业仍需通过严苛的“祖母测试”；其核心护城河不在于单一功能，而在于全栈整合能力与极致的单位算力成本（capability over cost）。他剖析了记忆机制（Memory）的研究瓶颈，指出其本质是高维信息排序而非单纯的数据存储，并可通过以算力换存储来对冲短期硬件短缺。此外，纪怀新认为开源模型通过思维链逆向工程迅速缩小了与闭源的差距，但多模态与加密思考仍构成深厚壁垒；面对 AI 攻克顶级数学难题的现状，他以 AlphaGo 普及围棋为例，乐观坚信 AI 工具不仅不会让数学消亡，反而能大幅降低门槛、激发人类纯粹的好奇心与创造力。通用助理正从问答搜索向替用户执行操作演进，但由于缺乏可靠的确认闭环与支付安全保障，真正落地的核心在于能否通过以极低容错度为标准的“祖母测试”（Grandma Test）。 (1:49) 谷歌在 AI 竞局中的核心壁垒在于从自研 TPU、Token 超算工厂到消费级产品的全栈能力，长期商业竞争的终局是比拼单位成本所交付的能力（capability over cost）。 (13:10) Memory 研究的瓶颈不仅在于 1M-2M 的容量上限，更在于认知层面的排序机制（ranking）；面对存储硬件短缺，长线架构可借助更充沛的算力来替代部分内存开销。 (19:00) 开源模型曾通过思维链（Chain-of-Thought）逆向蒸馏逼近闭源，如今前沿实验室正隐藏推理链并构筑多模态壁垒，断言开源将迅速抹平差距仍为时尚早。 (22:59)

Source quotes

[5:23] 纪怀新: 当你有一天，你的 grandma 指着你的机器人骂她说你怎么这么笨，你就知道说这个所谓什么叫做通用助理的时代真的到了。 [13:10] 纪怀新: 很多人还没有看到 cost，但是所有经济学的东西，都是 capability over cost，这是毋庸置疑。 [19:00] 纪怀新: memory 其中一个最重要的 problem，事实上是一个 ranking 的问题。

Original transcript

[0:00] 开源模型之所以能够追上这个避原的模型其中一个原因就是因为我co-author这个Chain of Thought这个paper他们用Chain of Thought的方法来复制推理的方式当有一天你的大妈指著你的机器人骂她说你怎么这么笨你就知道说通用助理的时代真的到了所有AI的东西最重都是能力超过价这是无容之一你怎么看就是定卖在放弃的蜡笔的竞争力这个是一个很好的问题Ed 很高兴今天来参加采访,我想问一问,今天你在panel上讲了哪些信息,能跟我们recap一下吗?当然好,我今天最主要的focus的地方就是让大家知道说过去这30年来特别是前面20年我们focus的地方很多时候都是recommendation跟search的东西但是过去10年我们现在因为神经网路的关系已经知道怎么样子用next token prediction跟Chain of Thought的方法来发掘机器能够做一些基本的认知跟 reasoning这样子的一些推理那从知识链这个部分思维链这个部分能够做出一些思考的动作这个由来跟他里面的理念是怎么样子开始的所以今天跟大家分享就是这里面基本的认知跟怎么样子去想下一步的更 complex reasoning更complex的这个memory的问题啊或者是这里面RSI recursive self-improvement的问题这怎么样子去思考这方面的这个以后的学术研究嗯嗯对啊今天我们想跟您探讨一下就是您关于这个consumer ai 呃这个方向最近硅谷这边很火的一个instinct还有刚刚release的这个use spark啊我们都觉得个人助理似乎又是让大家在这边又开始掀起了新一轮的讨论对您是怎么看个人助理这样的产品的从Personalization的这种个人化的这种这个角度来看的话呢事实上Google比如说我们的这个AI mode search的这个capability他原本是在Consumer Services这边大概是LM application最大的一层事实上是从Search这边开始然后变成AI mode这样子的一个搜寻或者是说问答这样子的一个趋势那么Muse或者是说Instinct这样子的他们是想要从问答这个方面通用助理也就是说他甚至于可以帮我们做一些事情比如说订机票啊订旅店啊或者是买东西啊这方面的direction去发展那这个部分因为有很多这种权限的问题之前呢大家这个reliability还不够高很怕说我们把信用卡给了通用助理,结果他到处乱买东西的情况会发生。所以2026年刚开始的时候,这种open cloud的一个exploration,让大家慢慢的了解这方面的technology。然后已经有一些小厂跟大厂在explore这方面的通用助理,service的一些exploration。我个人认为事实上我们还是在一个恨初期的阶段因为像有很多的这种譬如说confirmation就是说好啊你帮我买机票结果买对还是买错啊这种问题我们事实上都还没有真正的看到一些新的data出来那我预测大概这六个月到一年之间的时间我们会把这个通用助理跟刚才讲的这种AI mode这样子的一个search的之间的关系跟interface会搞得更清楚一点你们就是Invasion的未来这样的一个消费级的AI的应用它是什么样子的以我个人的观点来看这不代表我们Google公司的观点我是一直觉得说AI因为它的推理能力已经一直不停的在加强人想想看我们三四年前在写Chain of Thought这篇paper的时候,我们是在solve这种小学生的数学问题,到了今年我们是在solve这种navier strokes equation这样子物理或者是数学里面最困难的一些问题。所以通用助理这个Universal这个部分比如说他在产品上面的一些推理上 [5:00] 我个人是一个高尔夫球哀好者那么他对高尔夫球的原理equipment understanding 杆球这些的他到底有多少推理的能力呢这些又是跟数学不一样对吧所以我们在做这方面的应用的时候一定要了解这整个这个模型对不同领域的这种推理的能力达到了什么样子的一个level其实我们感觉这个个人助手现在这样的一个东西很简单,它有时候就是在这个text message 里面,或者是一个 app 的形态。您觉得就是这种好的个人助理,它的护城河是什么?胡承河我觉得很多人会认为特别是在Consumer这边常常真正的护城河就是所谓的用户第一个他对这个产品的体验他感觉因为这个地方为什么很多人比较conservative一点的原因是因为他只要犯过一个很严重的错误,你可能就会对他改观这跟我们不管他是不是AI做的通用助理还是真正用金钱去请一个私人助理回到家里面或是在公司里面你对他做出错误的决定或者是行为的时候的容忍度是有多高的这种问题我在之前在台湾我参加过另外一个podcast的时候,我就提出一个叫做grandma test的一个concept。就是说,当你有一天,你的grandma指着你的机器人骂他说你怎么这么笨,你就知道说这个所谓什么叫做通用助理的时代真的到了。因为...Grandma对通用助理的 expectation 非常的高然后他犯了错误变得非常的严重的时候你就会觉得说这个是有问题的对吧所以我们现在正在那个不管是产品这边也好或者是说从科学的角度来说也好我们正在正在explore这个boundary你觉得跟现在市场上的已经有的这些竞争对手来比,谷歌的优势是什么?在做消费者AI产品?你以consumer这边的整个ecosystem来讲的话,实际上它是分成software跟hardware这两块,有很多公司它现在focus的事实上是在Hardware这边比如记忆体这些问题产业联的这些问题Hardware这边是看起来还有很多exploration的opportunity原因其中一个就是on-device vs.non-device的model的interaction问题那这一块呢就是hardware以后特别是consumer hardware 这一块以后会怎么走我认为还是一个很大的一个空白的一个一个时代然后另外一边呢是属于software software我们现在当然都是在讲 services 而不是downloadable software downloadable app 这样子的一个concept一个渠道而大家能够进入一个通用助理这样子的一个environment还是说是经过手机还是会经过智慧严禁还是会经过什么样子的一个 device所以这个Services这边就Software这边在某种程度上我们现在已经这一两年来已经看到一些很新颖的一些新的比较大胆的一点的这个exploration但我觉得我们并没有得到任何结论像比如说我们手机为什么现在还是我整天还需要去想著说我APP有没有更新啊干嘛这种就15年前我们在 worry 的这种问题通用助理之后不应该你要整天在那边 download app 到这个机器人身上对吧所以我觉得这个consumer services这边基本上我们也还是属于一个比较起步的阶段如果以后有一个现象级的这样的一个消费级的产品,你觉得会是像谷歌Meta还是像Apple这样做硬件呢?或者是一个初创公司,你觉得可能是最后是哪里出来了?我觉得从整个生态系统来讲的话,这个地方是从哪儿来可能有时候反而不那么重要。明儿是说他怎么样子普及怎么样子才是正确的一个跟人互动的一个interface的这个问题这个才是从科学家的角度来看发展这方面 [10:00] and it's like a researcher there. I think This is the most interesting part. If you have some companies in the market, they may be able to buy a big deal. I think from the stock market or from From the development of the development of the development of the development, I hope this is a healthy ecosystem. So that the industry can explore this space. - About DeepMind, we saw DeepMind has been a lot of changes in the world. And the machine has been a lot of changes in the world. How do you think DeepMind? Google's this kind of platform in the entire Frontier Lab competition. This is a very good question. Of course, we are still in We have developed a lot of models that we have developed. We have developed a lot of models that are small. We have to use the tools that we have used to use. We have talked about the tools that we have used to use. We have used to use small models, not large. The good is to use the tools that we have used to use. It's a better way to do it. We've been talking about this time, the focus of energy is a little bit smaller. We hope that we can improve the use of the tools. So we have developed a little bit of a design, so we can take a look at it. So, AGI's goal is to continue to pursue the goal. Google's plan to give AGI's goals? Yes, I think From the entire system development of this whole process, If you have a lot of resources, how much you can put in application development, how much you can put in the large-scale model or the more powerful推理 capability model? How to do this information? This is a long-term perspective. It's not just a single answer. Because the people who are called AGI pill, especially in San Francisco, they think software took over the world. If I have coding software, I will take over the world. So this will cause you to It's a big model, ultra-sized model, which is a great model. But from the topic we talked about, the application of the distribution, or the device on the phone, the tools, and the things that are not completely visible. At least I don't want it to be ultra-sized model, because the data needs to be too high. The big and small model of the big and small model is the same as the company. I think 分布都是一个难止 Do you think DeepMind and other frontier labs are the best? I think we're just a good person. We're just a good person. We're just a good person. We're just a good person. We're just a good person. I think I can use another angle to look at Google users will have a期待 I hope that our design is not used for people, or for open weights. Our hope is that Google will have this technology. This is a Sovereignty of this kind of taste. From this perspective, Google is not going to give up on model development. This is not going to happen. But Google has a good advantage. You just asked about it. It's a full stack company. We are in the company's company and applications. But we are going to go down to hyperscaler, token factory, and chip. This is the most cheap token of the token. We have the cost of the most low. We can control these. is the most important thing to do. If the capability of the model is being reduced, the cost control is the cost control. can deliver the capability for the cheapest amount of cost. In this entire area, many people haven't seen cost. But all economic things [15:00] 都是capability over cost 这是无容置疑大家会担心比如说像房间LAB都已经投了很多的carpacks 今年明年更夸张特别像谷歌这样的大厂的现金流也被弄成拖成了负的我们看到可能cloud这块的revenue是丢起色的margin也在增强然后但是就是AI的这块应用的收入可能还没有看但我刚听您说就是之后谷歌的这个focus也是会把它的应用把这个应用的IOI可能会再去往好没错你可以这样讲就是说从一个长远的角度来看这个问题的话就像我刚刚讲的你如果是很short term的company你就会只是想这是quality accuracy这样子的问题你如果是一个长远的公司在投资的眼光是以5年10年这样子在计算的话你就会开始在想说what's in the future?你这个真正的该optimize的metrics是什么东西?不见得只是capability,而是capability over cost这样子的问题。谷歌最厉害的地方事实上就是这个他等于在技术上面或者在很多其他地方他都会 double insure他就是这边如果有这个可能这边投如果有这个可能这边投所有地方他都有一些投资所以他是一个比较怎么讲他不是说他不肯 innovate 而是说他所有的地方都在 innovate所以我们不是只是在模型上面innovate, application也innovate,chip方面也要innovate整个的full stack我们都在做innovation因为您现在也在做这个memory方面的研究我们知道谷歌的哲学是能存的东西就尽量存然后现在整个memory的supply chain又出现一个短缺DRAM包括LAND还有HDD可能都是整个都是短缺的那你们去怎么balance这个对这个部分从computer science的角度来讲的话我们知道从以前的做过的research都知道说memory跟computation之间事实上它是有个转换的就是有时候你有一些东西是用更多的memory有时候你是用更多的computation那你如果有一个很长远的这种investment plan的话你就比较不会担心一时的这个memory的短缺因为你可以用computation来代替所以现在做memory的research 事实上并不只是整个供应链 hardware这方面的问题而是说我们计算方法需要用多少的memory,需要用多少的memory bandwidth然后里面的神经网路它的design是不是应该降低它的memory requirement?或是甚至于计算的方法,像Kimi所做出来的model他们叫做Delta Attention Model的用法跟Full Attention Order and Squared Attention 跟 Sparse Attention Model的Memory的用法又不一样那这只是在讲这个sequential transaction model里面 memory 的的东西而已我们还没有聊到甚至于像比说个人化里面的这个Memory的问题 KV Cache的Memory的问题然后还有另外就是说我们现在所谓的Memory常常是在讲硬体或者是软体里面一些记忆我们所谓记忆的东西但是事实上从人类认知学的角度来看Memory的话Memory也是一种program它并不只是memory不只是一个没有活的东西它是一个不停在变然后它是一个在指导嗯事情该怎么样发生它是一个program for programming the AGI machinery 的一个东西所以我们做research 的时候有在注意不只是这个低层的memory的运用是像比如说这个context buffer里面的这个整理讯息在context buffer里面的这种research我们也都花很多精力在那现在最大的bottle neck在哪里现在我们Memory的现在整个研究最大的挑战在那里我会个人认为觉得说从Transformer的Model的角度来讲的话,我们现在最大的Context Buffer大概可以做到1 million or 2 million token这样子的一个规模那么事实上这个是在我看来是完全不够的所以这个是一个 bottleneck另外就是说我们对memory的看法又是像我们刚刚讲的就是它只是一个存根提取memory retrieval这样子的一个机制的东西而已而并不是把它想成memory从人的认知学或者是我们思考能力的角度来看memory事实上是非常非常重要的对吧它不是只是一个retrieval的东西嗯在 research [20:00] 这个角度也是一个bottleneck大家还没把memory这个东西给想清楚是对对感觉好像人脑的这个可以就是做主动遗忘他可以学到新的东西可以把原来东西再压缩这个东西基本上是模型现在没错那很没错那所以念过Compute Science的很多人就会觉得说那机器的memory就不需要这样想啊他不需要忘记东西但事实上并不是这样子的因为你你很多人觉得这个memory是你记得还不记得的一个问题事实上memory是一个ranking的问题什么是最重要的这个才是真正Memory的最重要 memory 其中一个最重要的 problem 事实上是一个 ranking 的问题就是说你在想比如说我如果随便讲一个 location 我说 Paris那你记得你去巴黎的时候有什么样的记忆这事实上是个ranking的问题而不是说一拥而来把所有Paris的东西全部都换对像Memory现在有很多这些创业公司它也是在做专门做这个Memory Layer你觉得像这个Memory这么重要的一件事情就这件事情是会startup公司来做还是感觉是基本上都是大厂来做现在也有一些在硬体那边的话就是有一些在想怎么样子把memory跟computation结合的一些新一点的idea并没有在大厂里面做但当然大厂大厂也有人在做这方面的东西我觉得Memory跟Computation之间的relationship我觉得再过来这几年可能会有一些新的development如果您今天要出来创业您觉得最好的创业方向是什么?这个好问题我觉得现在感觉上是有一个趋势就是说模型的capability 感觉上有一点点开始在commoditize如果在这种情况下我不是意思是说他完全被capotized,但是他只要被更flatten一点就是说最好的模型跟最差的模型之间的gap比较低一点的话它造成的情况就是说 value creation会往application跟Token Factory这两边跑因为大家都在找护城河嘛那你当你model capability 并不是最强的护城河的时候你的护城河得往其他地方去找那Application这边的话可能就是比如说用户的Lockin Sticky是这种问题然后刚刚讲的就是说用起来这种体验有多好的这种问题那么Hyper Scaler那边的话呢就有很多是跟Cost有关对吧你能源的使用量你的chips design好不好然后你memory跟computation之间的relationship有没有搞好有多少将来会是在所以以我的观点来看的话这些都还是open question非常的exciting对就像比如说您的观点你怎么看这个开源模型跟闭源模型现在我们知道这开源模型就是追赶的都很紧嘛但你未来看这个gap 是会变大还是变小这个问题非常的有意思的原因是开源模型之所以能够追上这个避原的模型其中一个原因就是因为我的paper我的co-author这个Chain of Thought这个paper他们用Chain of Thought的方法来发掘这个model里面的思维链它的思考模式是怎么样子的然后用这个思考模式来复制考贝啊这个这个推理的方式那么现在大厂里面就有很多的work在想办法把这个推理链思维链把它藏起来藏起来的话让他复制的可能性就会更低那事实上不只是这个问题我认为模型在往前走比如说multi modality capability这个都是很难复制的所以我觉得很多人好像讲的像是这个已经是个定论式的我觉得我个人认为这个是不大成熟的想法看起来是会有一些capability会因为这种蒸馏的方法而变得更 commoditized,但是有一些capability是目前为止是看不出这种 commoditization 的有很多的debate现在对大家好像觉得就是open source model他们能做的事情越来越多了然后留给Sota模型能够monetize的空间就更小是不是能撑起这样的一个估值和撑起这样的一个大的capx您会担心吗我觉得这个就是为什么有些人 [25:00] 我在想说如果我们AI这个部分有一部分的Market是泡沫性的我并不会觉得整个Market是一个泡沫性的东西但是它肯定在不同的地方有不同的泡沫像比如说Physical Intelligence那边可能有一些unrealistic的这种 expectation然后刚刚讲的multi modality这一块我们的Visual Reasoning capability很多的model都是非常糟糕的那所以你就可以看得出来这是为什么跟大家的这种信念不一样你如果觉得software took over the world, 那我们solve software用agent的方法 solve software problem,所有的问题就解决了那如果你有这样子的perspective的话那我刚刚讲的很多东西就不apply对吧但是如果你觉得说你solve了software你还是没有solve所有的问题的话那我们还有很多戏可以唱对您觉得因为现在的好多的这种就是我们看到了Frontier Lab他们在Coding上已经有很多的商业化的变现您觉得下面一个更加一个Sighting的机会可能是哪些领域呢谢谢大家刚刚讲的就是说有很多现在的应用都是像比如说Entropic和OpenAI这边的有很多上次是Enterprise 里面有很多的一些 subscription 的 revenue我挺看好在往前走consumer的崛起那当然从这边龙头的角度来讲为什么我还留在Google 继续在Google做事原因就是因为这个consumer services 这边事实上一直是Google最强的一个地方那当然这个不代表将来没有新的space对吧所以这个是大家拭目以待的地方对我们我们接下来该期待什么什么样的产品就是谷歌比如说在未来的一年或两年之内有一些什么我们可以期待的AI的产品我会从整个industry的角度来回答这个问题吧我会觉得说现在已经开始有一些人在嗯讲讲直一点的话就是说他们在想着说将来将会是一个super app这样子的年代呢?还是说我们整个手机都会改变呢?或者甚至于说我们佩戴身体上面佩戴的眼镜啊耳环啊或者是这个耳机啊都会有有很大的变化甚至于衣着上面的一些改变然后家里的我们之前做的这种智慧音箱的东西做做做怎么做了这个四四五年突然好像没人在做了然后以前还喊着什么有智慧的冰箱啊什么之类的对吧你这个从从私人通用助理的角度来看的话你冰箱上面要放个荧幕然后连这个internet如此而已的东西你就能够把整个智慧给做起来这比这个七八年前要做简单多了对吧所以consumer hardware这边我实际上还是我觉得还是相当的exciting的我问题问完了有什么您觉得想要补充的吗?没有啊我觉得你问的问题都很好我觉得作为一个科学家我觉得非常exciting的地方就是大家都可以看得出来不管是在 enterprise 这边也好consumer 这边也好就是这个Creativity seems to be everywhere.那我在刚刚在台上的时候也分享就是说我们当年在做China Thoughts 方面的研究的时候只是在South中小学生的问题1+1=2然后买了5个Apple再买了6个Apple是有多少个Apple?5+6是11这样子的问题当时我们的model都这种accuracy也只做到33%现在我们才刚刚经历最大的模型现在是可以 solve 这个Mellinian price的数学的问题Navius Strokes Equation那从这个角度来看的话就是说我们现在能够想像的这个 capability肯定是是还不够的,它还是会继续再 expand。这是对科学家来讲是一个非常 exciting 的事情。很多人觉得现在AI已经可以把数学都这么好,我们比如说现在如果要从小培养的孩子,他的时间应该花在数学上吗?还是应该把更多精力去放一些AI解决不了的问题上面?我觉得你问这个问题很有意思的地方,就是说我们快要10年前发展这个Alpha Gold的时候在Google发展Alpha Gold的时候就很多人跟齐王对决之后就说完了人类以后不下棋了好 [30:00] 我后来反而下棋的人更多了想要去研究围棋的人更多了这意思就是说数学我觉得也一样很多人会觉得说这下子我们never stroke equation都用这个方法来解决了那么以后没人想要念数学了我觉得有可能是刚好相反会有更多人会觉得数学这么的 interesting 我想要去研究它因为之前可能有一些motivation是为了exploration, what is the boundary of knowledge,这样子的一个motivation,但现在有很多的motivation是跟understanding有关,或者是跟 entertainment 或乐趣有关所以去执行像这种数学这方面研究的人我觉得以后可能会更从内心的那种curiosity在做这方面的研究有没有可能就是说以前数学是门槛是很高的那如果是把数学能够通过AI把这数学当成的工具但有很多可能就是文科生也可以去利用这样的工具去解决更多更更create你像以前学围棋的话你得去请教练请老师然后还要找跟你骑力相同的朋友们一起下骑,然后花很多时间,现在你拿个手机你就可以download一些相当不错的这种微骑力的application他反而带动了很多围棋界的一些学习的小朋友啊也都在用这些软体所以他事实上反而激励了很多人那跟刚刚讲的那个Search Engine也有关系那个我们当时就有很多人会觉得说啊这下子这个大语言模型来了这个Search Engine没那么 relevant没有 Google 反而看到很多这个Search的Application反而是在增加而不是在减少所以我觉得还是有一些optimism的当然我不否认它是会改变很多我们我们现在的既有的这样子的structure但是也有新的possibility非常感谢非常非常感谢谢谢