Claude
硬性启闭的思考开关正在被淘汰,开发者应通过精力旋钮协同调节思考、工具调用与文本开销,并在编程场景优先采用Extra High档位以兼顾智力与成本。
AI-assisted summary of The thinking lever — original source. Check the original for full context.
Source published:
Key ideas
- 测试时算力(Test Time Compute)不仅适用于软件开发,在多智能体搜索、计算机操作(Computer Use)及学术推理中,允许模型在单任务上消耗更多 Token 与时间同样能显著提升输出表现。 (0:11)
- 自适应思考(Adaptive Thinking)摆脱了早期单向线性思考与交织思考的僵化流程,让 Claude 能在工具调用、进度汇报与方案推演之间按需、动态地随时开启思考。 (10:07)
- 相比二元粗暴的思考开关,Effort Dial 能将思考、工具调用与文本输出三者联动协同;针对缺乏基准评估的编程任务,官方推荐优先选用 Extra High 档位作为性价比甜点。 (13:20)
- 架构选型新准则提出:追求快速首字延迟(TTFT)与低成本时优先选小模型;追求智力表现与快速尾字延迟(Time to Last Token)时,优先选大模型搭配低努力设置(Low Effort)。 (19:41)
Detailed notes
## Background 该视频由官方频道 Claude 于 2026 年 5 月 8 日发布在 YouTube 平台。视频简介指出,自适应思考(Adaptive thinking)与精力控制机制为开发者带来了全新的决策维度,即针对特定任务 Claude 究竟应当推理多久;本次分享系统探讨了思考预算(thinking budgets)、精力档位(effort levels)以及在成本、延迟与质量之间的多维权衡。
## TL;DR 来自 Anthropic 研究团队的产品经理 Matt Bleifer 深入剖析了测试时算力(Test Time Compute)的缩放规律,并展示了思考时间延长如何显著提升模型在复杂工程任务中的表现。演讲详细梳理了思考、工具调用与文本三大 Token 桶的功能分工,阐释了从固定线性流程、交织思想到全面自由的“自适应思考”(Adaptive Thinking)演进历程。针对实际落地,Matt 提出了利用精力旋钮(Effort Dial)替代生硬的思考开关,并深度探讨了“大模型低精力”与“小模型高精力”的架构选型权衡。最终建议开发者坚持以评估曲线和转录记录为准绳,在缺乏严密测试集的编程场景中优先将 Extra High 作为兼顾顶级智能与性价比的默认配置。
## Atmosphere & style 整场演讲兼具前沿学术研究的严谨与一线工程落地的务实,Matt Bleifer 逻辑清晰自洽,将深奥的推理调度机制拆解得条理分明。通过单向街红绿灯仿真的视觉质感跃升,以及低精力模式下 Claude 玩《宝可梦》展现出的“极速通关”狡黠策略,原本枯燥的 Token 与延迟指标变得极为生动具象。现场始终洋溢着开发者硬核研讨的极客氛围,既传递出对长程多步骤复杂问题终极求解的工程雄心,又给出了极其接地气的实战选型法则。
## Bulletin - [00:11](https://www.youtube.com/watch?v=OXJO4LldSnc&t=11s) 测试时算力(Test Time Compute)不仅适用于软件开发,在多智能体搜索、计算机操作(Computer Use)及学术推理中,允许模型在单任务上消耗更多 Token 与时间同样能显著提升输出表现。 - [10:07](https://www.youtube.com/watch?v=OXJO4LldSnc&t=607s) 自适应思考(Adaptive Thinking)摆脱了早期单向线性思考与交织思考的僵化流程,让 Claude 能在工具调用、进度汇报与方案推演之间按需、动态地随时开启思考。 - [13:20](https://www.youtube.com/watch?v=OXJO4LldSnc&t=800s) 相比二元粗暴的思考开关,Effort Dial 能将思考、工具调用与文本输出三者联动协同;针对缺乏基准评估的编程任务,官方推荐优先选用 Extra High 档位作为性价比甜点。 - [19:41](https://www.youtube.com/watch?v=OXJO4LldSnc&t=1181s) 架构选型新准则提出:追求快速首字延迟(TTFT)与低成本时优先选小模型;追求智力表现与快速尾字延迟(Time to Last Token)时,优先选大模型搭配低努力设置(Low Effort)。
## Key takeaways - [00:11](https://www.youtube.com/watch?v=OXJO4LldSnc&t=11s) 测试时算力扩展通过增加模型在单个任务上的思考时长和 Token 消耗来提升解决复杂问题的能力,成为当前推理模型演进的核心动力。 - [02:18](https://www.youtube.com/watch?v=OXJO4LldSnc&t=138s) 在 Opus 4.7 交通模拟实验中,从 Low 到 Max Effort 消耗提升达 10 倍,换来了从粗糙且有明显 Bug 的原型到引入微观车流动力学模型的质的飞跃。 - [05:31](https://www.youtube.com/watch?v=OXJO4LldSnc&t=331s) 测试时算力消耗被明确划分为三大 Token 桶:负责内部推导的思考 Token、与数字环境互动的工具调用 Token,以及面向用户沟通的文本 Token。 - [07:47](https://www.youtube.com/watch?v=OXJO4LldSnc&t=467s) 算力缩放伴随延迟增加与成本上升,开发者需通过 Effort Dial 划定权衡偏好,并利用任务预算(Task Budgets)设立硬性 Token 上限以规避失控风险。 - [10:07](https://www.youtube.com/watch?v=OXJO4LldSnc&t=607s) 推理模型架构经历三代演进:从早期的“思考-工具-文本”单向线性流水线,到支持工具间插推导的交织思考,最终进化为时序完全自由解耦的自适应思考。 - [11:29](https://www.youtube.com/watch?v=OXJO4LldSnc&t=689s) 自适应思考并非后台模型路由器或外部开关,而是赋予 Claude 在执行每个单步动作时自主决定是否及如何消耗思考 Token 的权利。 - [13:20](https://www.youtube.com/watch?v=OXJO4LldSnc&t=800s) 二元的思考开关仅是生硬掐断或开启底层能力,而 Effort Dial 才是协同调节思考深度、工具调用频率与文本详实度的正确控制杠杆。 - [15:07](https://www.youtube.com/watch?v=OXJO4LldSnc&t=907s) 开发者应绘制“努力程度-性能”评估曲线;在 Low Effort 模式下 Claude 虽会寻找“抄近道”策略节省 Token,但在宝可梦测试中证明其同样具备高超的速通智力。 - [17:59](https://www.youtube.com/watch?v=OXJO4LldSnc&t=1079s) 针对缺乏详尽评估的通用场景,High 档位是多数智力敏感任务的基准首选,而 Opus 4.7 引入的 Extra High 则是目前 Claude Code 和代码任务的最佳平衡点。 - [19:41](https://www.youtube.com/watch?v=OXJO4LldSnc&t=1181s) 大模型搭配 Low Effort 往往能在极短的尾字生成时间内提供超越小模型高努力档位的智力输出,而小模型的核心优势在于极致的首字延迟与海量批处理成本。 - [21:37](https://www.youtube.com/watch?v=OXJO4LldSnc&t=1297s) 实践的核心建议包括尽可能开启思考能力、绘制评估曲线结合人工研读 Transcripts,以及在代码任务中默认首选 Extra High 档位。 - [23:06](https://www.youtube.com/watch?v=OXJO4LldSnc&t=1386s) Anthropic 对 Claude 的长期北极星愿景是算力自治:用户仅需设定宏观质量底线与成本预算,由模型完全自主完成算力的动态调度与分配。
## Detailed walkthrough ### [00:11](https://www.youtube.com/watch?v=OXJO4LldSnc&t=11s) 推理时算力(Test Time Compute)的缩放与推理模型
来自 Anthropic 研究团队的产品经理 Matt Bleifer 开场向观众介绍,本次分享的核心是探讨 Claude 如何在推理阶段(Inference Time)利用计算资源——即所谓的测试时算力(Test Time Compute),以此来分解并攻克软件工程中最棘手的挑战。在过去几年中,大型语言模型领域最关键的突破之一,就是测试时算力的扩展,这也催生了大家熟知的“推理模型”(Reasoning Models)。
在传统的模型训练中,扩展算力通常意味着用更多的数据、更长的时间窗口来训练参数量更大的基座模型。而在推理阶段,算力扩展的逻辑如出一辙:赋予模型更多的时间去推敲问题。Matt Bleifer 展示了两张评估图表:左图显示,从 Haiku、Sonnet 升级到 Opus,随着模型智能水平提高,其在 Agent 编程评估(Agentic Coding Evaluation)中的得分显著攀升;而右图则证明,即便使用同一个 Opus 模型,只要让它在单个问题上投入更多的工作时间,其表现也会随着算力消耗的增加稳步提升。Matt Bleifer 强调,这种规律并不仅限于写代码:“If we can allow models to spend more time working on a problem, they can achieve better and better results.” 无论是 Agent 搜索、计算机操作(Computer Use),还是博士级别的学术推理,延长思考时间都能换来更卓越的输出质量。
- **预训练扩展对比推理扩展**:训练时依赖更大参数量、更多数据与更长训练步数;测试时则通过允许模型在单个任务上消耗更多 Token 和运行时长来提升解题能力。 - **跨领域通用性**:该现象不仅适用于软件开发,也普遍存在于复杂学术论证、计算机界面操作(Computer Use)以及自主网络搜索等知识工作场景。
---
[02:18](https://www.youtube.com/watch?v=OXJO4LldSnc&t=138s) 实践对比:Opus 4.7 单向街红绿灯模拟实验
为了摆脱单纯看图表的抽象感,Matt Bleifer 展示了一个非常直观的物理仿真测试案例。他给 Opus 4.7 输入了同一个提示词:“创建一个单向街交通灯路口的逼真汽车行驶模拟”,并通过调节“精力调节旋钮”(Effort Dial)观察不同算力消耗下的仿真产物。
在低精力(Low Effort)设定下,Opus 4.7 仅花费了约 50 秒,消耗了约 4,600 个输出 Token。生成的模拟程序基本可用:车辆沿着单行道行驶,遇到红灯也会停下。但整个系统的图形粗糙,交通流极其单一,甚至出现了一个荒唐的设计漏洞——Claude 把红绿灯立在了马路正中央。尽管如此,这勉强算一个“功能及格”的原型。随后,Matt Bleifer 将精力档位调至高(High Effort)。此时模型的工作时长和输出 Token 均翻了一倍,但模拟质量有了肉眼可见的飞跃:街道上出现了不同款式的车型,红绿灯被聪明地移至路边,Opus 甚至主动植入了“智能驾驶员模型”(Intelligent Driver Model),让每辆车能够根据前后车距动态调整行车策略。最后,当精力旋钮被拧到最大(Max Effort)时,Opus 4.7 的耗时与 Token 开销均达到了低精力模式的 10 倍,换来的是逼真的动态驾驶路线、极具质感的图形表现以及精致的信号灯建模。Matt Bleifer 由此展望道:“As we continue to scale test time compute further and further, Claude isn't just going to work for seconds or minutes or hours on a problem. It's going to work for days, weeks, months, even years, spending tokens to try to solve some of humanity's toughest challenges.”
| 档位设置 (Effort Level) | 耗时与 Token 开销倍率 | 核心特征表现 | |:--- |:--- |:--- | | **Low(低)** | ~50 秒 / ~4,600 输出 Token(基准 1x) | 车辆单向行驶并停车;图形简陋,交通流单一;红绿灯被错误地放置在路面正中央。 | | **High(高)** | 约 2x 耗时 / 约 2x 输出 Token | 车辆类型丰富;红绿灯移至路侧;引入智能驾驶员模型(IDM),支持微观车流避让。 | | **Max(最大)** | 约 10x 耗时 / 约 10x 输出 Token | 图形渲染与动画细节最佳;车流动力学高度逼真;整体构建最为完善成熟。 |
---
[05:31](https://www.youtube.com/watch?v=OXJO4LldSnc&t=331s) 测试时算力的三大 Token 桶:思考、工具调用与文本
Matt Bleifer 解释道,广义上的测试时算力是指 Claude 在推理阶段为解决问题所消耗的任意 Token。但在实际工程架构中,这些被消费的 Token 可以被清晰地划分到三个不同的功能桶(Buckets)中:思考 Token、工具调用 Token 以及文本 Token。
```mermaid flowchart TD accTitle: Claude的三大Token类型 accDescr: 展示Claude在测试时算力中消耗的思考、工具调用与文本三大Token桶及其作用。 subgraph S1["内部认知"] A["思考 Tokens<br/>(Thinking Tokens)"] -->|"思维链推导 / 草稿纸"| A1["步骤规划与方案评估"] end subgraph S2["外部交互"] B["工具调用 Tokens<br/>(Tool Calling Tokens)"] -->|"执行搜索 / 读写文件"| B1["连接环境与系统API"] end subgraph S3["用户沟通"] C["文本 Tokens<br/>(Text Tokens)"] -->|"中间进展 / 最终总结"| C1["人机信息传递与应答"] end ```
第一类是思考 Token(Thinking Tokens),这是构成推理模型内部心智的核心构件。正如 Matt Bleifer 所定义的那样:“Thinking tokens represent Claude's internal monologue.” 它是模型的独立私密草稿纸,让 Claude 能够开展逐步的思维链推导(Chain of Thought)、对比多条备选方案,并在行动前完成推演。第二类是工具调用 Token(Tool Calling Tokens),代表了 Claude 与数字世界互动的手足,无论是为了获取 Code with Claude 开发者大会信息而发起网络搜索,还是在软件开发中执行文件的读取、修改与保存,皆依赖此类 Token。第三类则是文本 Token(Text Tokens),负责在任务进行中向终端用户推送进度更新、在任务结束时整理操作摘要,或者直接回答用户的简单咨询。这三者相辅相成,共同构成了现代智能体解决复杂任务的底层工作流。
- **思考 Token(Thinking)**:模型的内心独白,充当思维草稿纸,负责做多步骤拆解、假设检验与逻辑纠偏。 - **工具调用 Token(Tool Calling)**:与现实环境产生实质交互的媒介,覆盖了从网络检索到跨文件系统重构代码等数以百万计的外部接口。 - **文本 Token(Text)**:直面最终用户的沟通渠道,兼顾了过程透明度通知与终态交付汇报。
---
[07:47](https://www.youtube.com/watch?v=OXJO4LldSnc&t=467s) 权衡与控制杠杆:Effort Dial 与 Task Budgets
既然消耗 Token 能提高产出质量,为什么不能把每次推理都拉满?Matt Bleifer 指出,测试时算力是一把双刃剑,任何 Token 的支出都会直接转化为用户的双重成本:真金白银的账单支出,以及漫长的等待时间(Latency)。为了平衡这种矛盾,Anthropic 为开发者提供了精细化的控制机制,让用户能够主动干预或约束 Claude 的消费行为。
用户主要可以通过两种机制来表达约束意图。首先是精力控制旋钮(Effort Dial)。Matt Bleifer 概括道:“Effort is a way for you to tell Claude how you want it to trade off time, cost, and quality when responding to your task.” 无论是优先快速反馈还是优先终极品质,旋钮能直观传递用户的偏好权重。其次是最新推出的“任务预算”(Task Budgets)功能。开发者可以通过设定明确的 Token 阈值,给复杂的长程任务强行设定安全边界。例如,开发者可以要求 Claude 去开发某项完整的代码功能,但前提是消耗不能超过 100,000 Token,一旦超标必须暂停并向人类确认。Matt Bleifer 预测,未来的预算控制将进一步拓展到时间(Time)和成本(Cost)维度;在模型动辄连续运行数天、数周乃至数月的长周期未来,给系统配置明确的阶段性对齐检视点(Check-in)将变得至关重要。在这类外部约束输入之后,Claude 的内部调度器需要自行权衡,决定如何在思考、工具调用与文本之间合理分摊预算。
- **时间与资金的双重压力**:算力缩放直接拉长用户等待结果的延迟,且与 API 费用强绑定。 - **精力旋钮(Effort Dial)**:在时间(Time)、成本(Cost)与质量(Quality)之间划定三元权衡偏好。 - **任务预算(Task Budgets)**:为智能体行动设立硬性上限,例如规定在达到特定 Token 消耗(如 100k)时强制暂停并向用户汇报。
---
[10:07](https://www.youtube.com/watch?v=OXJO4LldSnc&t=607s) 推理范式的演进:从线性执行到交织思考与自适应思考
在获得用户的精力设定与预算限额后,Claude 如何安排这三类 Token 的输出时序,决定了其实际表现的上限。Matt Bleifer 梳理了推理模型架构演进的三大阶段:
```mermaid flowchart LR accTitle: 推理架构的三代演进流程 accDescr: 从早期单向线性流水线,到交织思考支持多轮工具调用,再到自适应思考无缝任意组合。 subgraph G1["早期线性模式"] direction LR L1["思考"] --> L2["工具调用"] --> L3["文本交付"] end subgraph G2["交织思考 (Interleaved)"] direction LR I1["工具A"] --> I2["思考反馈"] --> I3["工具B"] end subgraph G3["自适应思考 (Adaptive)"] direction LR A1["文本致意"] --> A2["按需工具"] --> A3["自由思考"] end ```
早期的推理模型采用单向线性的运行结构:先消耗一整段思考 Token 完成全部推理规划,随后按部就班地发起工具调用,最后吐出用户可见的文本。这种刻板流程的弊端显而易见——模型在看到工具执行的返回结果后,缺乏再次深思的机会。为此,Anthropic 此前上线了“交织思考”(Interleaved Thinking),允许模型在工具调用之间随时穿插思考:调用工具、拿到返回数据、评估结果并继续思考下一步动作,从而实现了动态的决策闭环。而最新发布的“自适应思考”(Adaptive Thinking)则是这一理念的终极形态。Matt Bleifer 解释道:“In this new paradigm, Claude is free to think whenever appropriate.” 在该模式下,思考的时间点、思考体量以及三类 Token 的排列顺序完全解除了预设枷锁。Claude 可以先用一段文本向用户确认收到了指令,紧接着调用工具拉取日志,继而在解析报错时启动深度思考——全凭任务当前的最优收益动态自适应组合。
[11:29](https://www.youtube.com/watch?v=OXJO4LldSnc&t=689s) 自适应思考的本质:不是模型路由,而是赋予思考自由
在完整的交互流程中,Claude 可以调用工具、向用户汇报最新进展、继续调用工具,如此往复,直到输出最终工作成果。对于不需要复杂推导的简单提问,Claude 完全可以选择不消耗任何思考 token。在实际应用中,努力程度(effort level)设得越高,Claude 思考的频率和时长通常就越显著,但这完全取决于具体的 Prompt。演讲者打了个生动的比方:如果当场在观众席抽问一个人“2 + 2 等于几”,无论要求对方“稍微琢磨一下”还是“深度思考很久”,对方实际花费的时间基本上是一样的;但若是要求进行一项极其复杂的学术调研,低努力与高努力下的思考差异就会极其惊人。
演讲者特别澄清了一个常见的技术误解:自适应思考(Adaptive Thinking)既不是一个模型路由器(model router),也不是一个自动思考开关。系统并没有在后台分析用户输入的难度,然后据此切换到“思考版模型”或“非思考版模型”。演讲者对此强调:“Rather, it's the difference between telling Claude, 'You must spend at least one thinking token at the start of this response.' and telling Claude, 'You can spend thinking tokens whenever and however needed in order to solve this problem.'” 这种机制的核心在于让 Claude 在任务执行的每一个单步中都拥有自主决定是否思考的权利。自 Claude Opus 4.6 发布以来,官方的所有基准评测都基于自适应思考运行;它作为最大化发挥模型智力水平的设置,在性能上达到或超越了交织思考(interleaved thinking),同时带来了明显更优的用户体验。
- **动态介入机制**:自适应思考并非静态二选一,而是贯穿在“思考 -> 调工具 -> 回复更新 -> 最终输出”循环的每一步中。 - **基准测试标准**:自 Opus 4.6 起,Anthropic 全面转向自适应思考作为核心智力评测配置。
---
[13:20](https://www.youtube.com/watch?v=OXJO4LldSnc&t=800s) 思考开关 vs. 努力程度转盘:重新定义人机协作的控制杠杆
从历史习惯来看,很多用户往往把思考开关(thinking toggle)当成调节工作力度的旋钮。无论在 Claude.ai 还是 Claude Code 中,只要希望 Claude 多花时间深挖问题,大家就会本能地点开思考开关,期待它交出更优质的答卷。这种直觉虽然合情合理,但开关本身其实是努力程度调节器(effort dial)的一种极其拙劣的替代品。通过开关控制,你并不是在告诉 Claude 它该多拼命地工作,而是在生硬地开启或掐断模型的某项核心底层能力。正如演讲者所指出的:“You're constraining how it's allowed to work, not how hard you want it to work.”
相比之下,努力程度转盘(effort dial)才真正契合“多花 token 换取更好结果”的初衷。它不是孤立地去扳动某一项特性,而是将思考(thinking)、工具调用(tool use)以及最终文本输出(output text)作为一个整体协同联动。这就像对待工具调用一样,人类不会僵硬地下令“必须搜索”或“绝不搜索”,而是让模型根据手头的问题自行判断搜索时机,这正是赋予 Claude Agent 特性的关键所在。在现实团队协作中也是如此,管理者绝不会命令同事在回答问题时“开启或关闭内心独白”,而是会告知这项任务的重要程度,再由同事自行决定需要投入多少心力以及采取何种行动。
```mermaid flowchart TD accTitle: Effort Dial Multi-dimensional Control accDescr: Diagram showing how an effort dial simultaneously controls thinking, tool use, and text output compared to a rigid binary toggle.
subgraph BinaryToggle["传统思考开关 (Thinking Toggle)"] direction TB T1["开关状态: 开 / 关"] -->|"硬性限制模型核心能力"| T2["仅强制插入思考 Token"] end
subgraph EffortDial["努力程度转盘 (Effort Dial)"] direction TB E1["设定努力级别 (Low -> Max)"] --> E2["协同自适应分配"] E2 --> E3["思考深度 (Thinking)"] E2 --> E4["工具调用频率 (Tool Use)"] E2 --> E5["输出内容详实度 (Output Text)"] end ```
---
[15:07](https://www.youtube.com/watch?v=OXJO4LldSnc&t=907s) 评估曲线与“Claude 玩宝可梦”的速通惊喜
为了让开发者更好地选择努力程度,演讲者给出了系统性的实践建议。首要原则是在具备条件时务必运行评估(evals)并绘制表现曲线:以总 token 数、耗时或成本为横坐标,以性能得分为纵坐标。通过这条“努力程度曲线”,开发者能清晰直观地权衡不同档位的投入产出比。对于大多数受限于智力上限的任务,提升努力程度能立竿见影地提高成绩,但边际递减效应同样存在。开发者可能会得出不同的结论:“The relative improvement in performance between extra high and max is not worth the difference in tokens that I will spend, and so extra high is a better setting for my use case.”
与此相对,低努力设置(low effort)能显著压缩耗时并节约大量 token,但代价是模型完成任务的彻底程度会受到限制。演讲者提醒,在低努力模式下,Claude 会千方百计地节省 token,有时甚至会采取一些出人意料的“抄近道”行为;因此除了盯着评估分数,团队务必养成亲自抽检交互记录(transcripts)的习惯。有趣的是,低努力设置也带来过令人惊喜的发现。在团队设计的经典基准测试“Claude 玩宝可梦”(Claude Plays Pokémon,运行原版《宝可梦 红》)中,设定为低努力的 Claude 展现出了惊人的“速通”(speedrun)策略:它主动绕过训练家对战以节省步数,靠平时囤积的消耗品就地回血而不浪费时间折返宝可梦中心,并且疯狂使用避敌喷雾(repel)以最快速度穿过洞穴。正如演讲者感叹:“It takes a certain amount of intelligence to figure out how you might minimize token spend in order to get through these levels as fast as possible.” 这表明低努力并不等同于低智商,在特定目标下它反倒展现出极高明的算计与策略。
- **评估曲线绘制要点**:横轴对比总 Tokens / 响应时间 / 实际调用成本,纵轴标注准确率或特定业务表现指标。 - **低努力设置警示**:模型会本能地最小化 Token 开销,可能出现省略步骤、过度简化的 shortcut 行为,必须人工审查 transcript。 - **宝可梦红测试表现**:低努力并不等于笨拙,Claude 会自主组合道具储备与避战手段,以纯粹的速通逻辑优化路径。
---
[17:59](https://www.youtube.com/watch?v=OXJO4LldSnc&t=1079s) 努力程度档位推荐法则:从 Low 到 Max 的选型指南
在缺乏严密评估集或刚开始搭建原型时,演讲者整理了一套通用的选型经验法则:
| 努力程度档位 | 核心特点与适用场景 | 实践建议 | |:--- |:--- |:--- | | **Max** | 面向最棘手的超级难题,能榨取极限性能 | 边际效益递减明显,切勿默认其为最佳性价比选择,需严格验证是否物有所值 | | **Extra High** | Claude Opus 4.7 引入的新档位,代码编写与 Agent 任务的最佳甜蜜点 | 当前 Claude Code 及 Claude.ai(针对 Opus 4.7)的默认档位,在不失控的前提下最大化智力输出 | | **High** | 完美平衡 Token 消耗与推理质量 | 智力敏感型任务的标准首选推荐基准线,建议从此档位起步测试 | | **Medium** | 成本敏感型业务首选 | 愿意牺牲微量推理深度以换取显著更快的生成速度 | | **Low** | 范围极其狭窄的任务或极致追求低延迟的工作负载 | 适合快速操作,但需实际验证其是否会出现过度省略的行为 |
演讲者强调,虽然评测基准是终极裁判,但“High”通常是绝大多数严肃业务探索的最佳起点,向上或向下微调均有据可依。
---
[19:41](https://www.youtube.com/watch?v=OXJO4LldSnc&t=1181s) 架构权衡:大模型低努力 vs. 小模型高努力
演讲在最后探讨了推断期计算(Test-time compute)与训练期计算(Training-time compute)的权衡。既然两者都能在性能、速度和成本之间实现调节,开发者面临的核心抉择便是:究竟该用小模型,还是该对大模型应用低努力级别?
演讲者给出了清晰的选型标准。如果业务场景对智力要求极高、但同时又严苛限制响应速度,那么“大模型 + 低努力”是极佳组合。以交通信号灯模拟任务为例,Opus 4.7 在低努力级别下消耗的输出 token 与 Haiku 4.5 在最大努力级别下基本相当,耗时仅微幅增加,却交出了高出几个维度的出色表现。反之,若业务首要目标是压低成本且任务本身智力门槛不高——例如海量批处理文本分类、信息抽取或基础内容摘要——小模型则是无可替代的首选。此外,小模型在首字延迟(TTFT)方面具备天然的物理优势。演讲者将这一权衡提炼为一句精辟的技术准则:“The way that I think about this is use small models for a fast time to first token, use bigger models at lower effort for a fast time to last token.”
```mermaid flowchart LR accTitle: Model Size vs Effort Decision Matrix accDescr: Decision flow showing when to choose a small model versus a large model with low effort based on latency, intelligence, and cost.
Start["业务需求评估"] --> CheckType{"核心优化目标?"}
subgraph SmallModelBranch["小模型优先 (如 Haiku)"] direction TB SM1["极低首字延迟 (TTFT)"] SM2["大规模批处理成本优化"] SM3["基础任务: 分类 / 抽取 / 摘要"] end
subgraph LargeModelBranch["大模型 + 低努力 (如 Opus + Low Effort)"] direction TB LM1["高智力需求 + 严苛总耗时"] LM2["极快尾字延迟 (Time to Last Token)"] LM3["复杂逻辑下的高性价比表现"] end
CheckType -->|"极低 TTFT / 低成本 / 基础任务"| SmallModelBranch CheckType -->|"高智商要求 / 追求总完成速度"| LargeModelBranch ```
- **高智力 + 敏捷响应**:采用如 Opus 4.7 的低努力模式,以低 Token 消耗换取大模型的基础推理底座,优化尾字完成时间(Time to Last Token)。 - **轻量处理 + 极速起跑**:采用如 Haiku 等轻量模型,保障极致的首字推送速度(TTFT)并大幅缩减海量调用预算。
[21:37](https://www.youtube.com/watch?v=OXJO4LldSnc&t=1297s) 评估曲线与三大核心实操建议
在模型选型与配置优化的最终考量上,讲师再次强调了全方位评估的重要性。在条件允许的情况下,开发者应当针对不同的模型类型以及多种思考强度等级(Effort Levels)分别绘制评估曲线(Eval Curves)。通过对比不同组合下的实际表现,开发者能够清晰地权衡延迟、成本与质量之间的关系,进而挑选出最契合自身具体业务场景的最优解。
在结束演讲之前,讲师梳理并总结了三项最关键且具备可操作性的核心建议:
1. **尽可能开启思考能力(Enable Thinking)**:思考机制是 Claude 运行逻辑的核心所在,它为模型提供了必要的“内心独白”与推理空间,使其能够最高效地梳理并解决复杂问题。如果开发者希望微调模型在特定问题上投入的思考时间,推荐通过调整 Effort Levels 或设置 Token 预算(Thinking Budgets)来引导模型的推理行为。 2. **坚持用 Evals 数据说话并研读输出记录**:讲师自嘲这里自己“像个复读机”,但建立基准评估确实是不可替代的关键步骤。开发者应当绘制多维度的性能曲线,在不同努力程度设定、预算上限及模型之间展开测试,以此找到最理想的平衡点。同时,讲师特别提醒大家绝对不能偷懒,必须亲自深入查阅实际的模型输出转录文本(Transcripts),直观了解推理细节。 3. **针对编程与软件工程任务的默认经验法则**:如果团队暂时没有精力构建严密的评估体系,又必须立即在代码开发类任务中做出选择,讲师给出的明确建议是直接选用“Extra High”档位。讲师评价道:“这是一个相当出色的配置,在展现极高智能水平的同时,带来了极佳的性价比。”
关于思考模式的不可或缺性,讲师在总结第一条建议时坚定地指出:“只要有可能,就开启思考功能,为 Claude 提供推理的空间;正如我所言,思考确实是 Claude 运作机制的核心,它为模型赋予了空间和内心独白,使其能够尽可能高效地攻克你的难题。”
```mermaid flowchart TD accTitle: 开发者选择 Claude 思考配置的决策路径 accDescr: 流程图展示了在有基准评估和无基准评估两种情况下,开发者如何选择 Claude 的思考与努力程度配置。
subgraph EvalPath ["有评估体系(推荐路径)"] A["定义业务用例与质量要求"] --> B["构建基准评估 (Evals)"] B --> C["跨模型与努力等级绘制评估曲线"] C --> D["深入分析推理转录文本 (Transcripts)"] D --> E["平衡成本、延迟与质量做出选型"] end
subgraph QuickPath ["无评估体系(快速决策)"] F["代码与软件工程任务"] --> G["直接选择 Extra High 档位"] G --> H["兼顾顶级智能与高性价比"] end ```
- **第一建议(开启思考)**:思考是 Claude 解决复杂逻辑的基础架构,借助 Effort Levels 和 Budgets 能够精确调控其思考时长。 - **第二建议(依赖评估)**:必须横向对比模型类型、思考预算与 Effort 挡位,且定量跑分必须与定性阅读 Transcripts 相结合。 - **第三建议(快速决策)**:在缺乏评估环境的编程与软件工程(SWE)场景下,优先默认选用 Extra High。
---
[23:06](https://www.youtube.com/watch?v=OXJO4LldSnc&t=1386s) Claude 的北极星愿景与未来展望
谈及技术演进的终极目标,讲师分享了研发团队为 Claude 设立的“北极星”(North Star)愿景:他们希望 Claude 未来在接收到任务时,能够展现出极其卓越的算力自主调度能力。在理想状态下,开发者只需明确设定一个质量底线与预算上限,Claude 便能全权接管后续决策,自主计算并动态匹配算力,为具体的业务场景交出性能最强、效率最高的结果。
讲师坦言:“整体而言,我们对 Claude 的北极星愿景是让它在接到需求时能够极其出色地分配算力,你只需设定质量门槛和预算,Claude 就会自行搞定剩下的一切,并为你的应用场景提供最佳性能。”
目前推出的自适应思考(Adaptive Thinking)、努力程度控制档位(Effort Levels)以及思考预算机制,都只是朝着这一宏伟方向迈出的关键一步,但这一切仅仅是个开端,后续还将有大量前沿能力陆续发布。演讲最后,讲师对现场听众表达了真挚的感谢,并热情邀请对推理控制感兴趣的开发者在会后私下交流,共同探讨技术细节与极客话题。
- **长期北极星定位**:模型完全自主实现自适应算力分配,用户仅需输入“质量期望”与“预算约束”两个宏观参数。 - **当前阶段地位**:当前的 Effort Levels、Budgets 与自适应思考功能是实现算力自治的基石性开端。 - **后续规划**:Anthropic 团队后续将推出更多围绕动态推理控制与算力调度的进阶功能。
## Notable quotes > [19:41](https://www.youtube.com/watch?v=OXJO4LldSnc&t=1181s) The way that I think about this is use small models for a fast time to first token, use bigger models at lower effort for a fast time to last token. — Matt Bleifer
> [07:47](https://www.youtube.com/watch?v=OXJO4LldSnc&t=467s) Effort is a way for you to tell Claude how you want it to trade off time, cost, and quality when responding to your task. — Matt Bleifer
> [00:11](https://www.youtube.com/watch?v=OXJO4LldSnc&t=11s) If we can allow models to spend more time working on a problem, they can achieve better and better results. — Matt Bleifer
> [05:31](https://www.youtube.com/watch?v=OXJO4LldSnc&t=331s) Thinking tokens represent Claude's internal monologue. — Matt Bleifer
> [10:07](https://www.youtube.com/watch?v=OXJO4LldSnc&t=607s) In this new paradigm, Claude is free to think whenever appropriate. — Matt Bleifer
## Mentioned Matt Bleifer, Anthropic, Claude, Claude Opus 4.7, Claude Opus 4.6, Claude Sonnet, Claude Haiku, Claude Haiku 4.5, Claude Code, Claude.ai, Code with Claude, 宝可梦 红, Intelligent Driver Model (IDM)
## Video description Adaptive thinking and effort controls give developers a new decision: how much should Claude reason for a given task? This session covers thinking budgets, effort levels, and the cost, latency, and quality tradeoffs involved.
[Source](https://www.youtube.com/watch?v=OXJO4LldSnc)