AI Engineer
AI模型在上下文占用逾40%时即坠入推理能力骤降的“愚钝区间”,工程团队须通过调研与规划阶段的主动事实压缩,防止思考外包将微小理解偏差放大为海量垃圾代码。
AI-assisted summary of No Vibes Allowed: Solving Hard Problems in Complex Codebases – Dex Horthy, HumanLayer — original source. Check the original for full context.
Source published:
Key ideas
- 针对 10 万名开发者的调研显示,当前 AI 编程工具常让开发者陷入对上周生成的“垃圾代码”不断返工的死循环,在复杂遗留(Brownfield)代码库中尤为脆弱。 (0:13)
- 大模型在上下文窗口占用突破约 40% 水位线时会坠入“愚钝区间”(Dumb Zone),认知与推理能力呈断崖式衰减,过度堆砌 MCP 工具往往加剧这一退化。 (4:38)
- HumanLayer 提出“频繁主动压缩”驱动的 RPI(研究-规划-实施)工作流,仅由 3 人团队用 8 周重构开发管线,在 30 万行 Rust 代码库中成功交付合规代码,将吞吐量提升 2 至 3 倍。 (1:40)
- 代码库中离底层实际代码越远,文档与注释中的“谎言密度”越高,团队应放弃维护易过时的静态长文档,转向由子 Agent 针对任务现场按需压缩真实代码。 (13:57)
- 行业正面临严重的组织断层:初中级工程师用 AI 大量生成技术债代码,资深 Staff 工程师疲于擦屁股而排斥 AI,唯有自上而下重塑 SDLC 才能适应未来 99% AI 代码时代。 (19:09)
Detailed notes
## Background 本内容由 AI Engineer 频道于 2025 年 12 月 2 日在 YouTube 发布,主讲人为来自 HumanLayer 的 Dex Horthy。视频简介指出,当前 AI 编程工具在处理复杂的存量生产代码库时往往表现挣扎,导致开发者陷入无休止的代码返工与技术债;演讲通过分享团队在 30 万行代码库上的实战经验,提出了名为“频繁主动压缩”与“研究-规划-实施”(RPI)的核心上下文工程方法,旨在不依赖未来超级模型的前提下最大化现有 AI 的交付效能。
## TL;DR Dex Horthy 深入探讨了为何现有的 AI 编程工具在大型遗留代码库中容易沦为“垃圾代码制造工厂”,并指出了模型在上下文水位超过 40% 后坠入推理能力衰减的“愚钝区间”(Dumb Zone)以及轨迹污染等核心痛点。他破除了为子智能体拟人化设定的误区,提出子智能体的本质在于隔离上下文,并倡导推行“研究-规划-实施”(RPI)三阶段工作流,通过频繁的主动上下文压缩(Intentional Compaction)将模型牢牢锁定在高效的“聪慧区间”。此外,他强调代码库中离运行代码越远的地方“谎言密度”越高,开发者绝不能把关键思考外包给 AI,而必须在杠杆率最高的设计与规划环节深度介入,从而化解高级工程师与初级开发者在 AI 交付时代的组织脱节与协作阵痛。
## Atmosphere & style 整场演讲风格硬核、犀利且极其务实,彻底剥离了 AI 淘金热中的浮夸炒作与“10倍生产力”话术。Dex 的表达直击要害甚至带着一丝极客的嘲讽,不仅毫无顾忌地指出当前 AI 工具产生的代码垃圾和死循环困境,还直接挑战了“规范驱动开发”被过度包装的空洞概念。现场氛围紧张而充实,从实战翻车坐回白板的反思,到面对组织文化断层时的呼吁,给人一种置身顶级工程团队复盘现场的真实厚重感。
## Bulletin - [00:13](https://www.youtube.com/watch?v=rmvDxxNubIg&t=13s) 针对 10 万名开发者的调研显示,当前 AI 编程工具常让开发者陷入对上周生成的“垃圾代码”不断返工的死循环,在复杂遗留(Brownfield)代码库中尤为脆弱。 - [04:38](https://www.youtube.com/watch?v=rmvDxxNubIg&t=278s) 大模型在上下文窗口占用突破约 40% 水位线时会坠入“愚钝区间”(Dumb Zone),认知与推理能力呈断崖式衰减,过度堆砌 MCP 工具往往加剧这一退化。 - [01:40](https://www.youtube.com/watch?v=rmvDxxNubIg&t=100s) HumanLayer 提出“频繁主动压缩”驱动的 RPI(研究-规划-实施)工作流,仅由 3 人团队用 8 周重构开发管线,在 30 万行 Rust 代码库中成功交付合规代码,将吞吐量提升 2 至 3 倍。 - [13:57](https://www.youtube.com/watch?v=rmvDxxNubIg&t=837s) 代码库中离底层实际代码越远,文档与注释中的“谎言密度”越高,团队应放弃维护易过时的静态长文档,转向由子 Agent 针对任务现场按需压缩真实代码。 - [19:09](https://www.youtube.com/watch?v=rmvDxxNubIg&t=1149s) 行业正面临严重的组织断层:初中级工程师用 AI 大量生成技术债代码,资深 Staff 工程师疲于擦屁股而排斥 AI,唯有自上而下重塑 SDLC 才能适应未来 99% AI 代码时代。
## Key takeaways - [00:13](https://www.youtube.com/watch?v=rmvDxxNubIg&t=13s) AI 编程工具在全新项目(Greenfield)表现惊艳,但在老旧复杂代码库(Brownfield)中往往沦为技术债制造机,导致大量代码搅动与返工。 - [01:40](https://www.youtube.com/watch?v=rmvDxxNubIg&t=100s) 上下文工程的核心目标是通过精细化管理上下文窗口,在现有模型能力下彻底终结垃圾代码(No Slop),实现高杠杆交付。 - [02:53](https://www.youtube.com/watch?v=rmvDxxNubIg&t=173s) 在原有对话窗口死磕纠错会导致“轨迹污染”,模型会将错误与被斥责的历史模式固化为最高概率的续写趋势;果断放弃旧窗口或主动压缩是关键。 - [02:53](https://www.youtube.com/watch?v=rmvDxxNubIg&t=173s) 以主动压缩(Intentional Compaction)替代盲目纠错,将跑偏或冗长的调试轨迹浓缩为精炼的 Markdown,让新 Agent 直接锁定精准文件与行号。 - [04:38](https://www.youtube.com/watch?v=rmvDxxNubIg&t=278s) 上下文窗口在超过 40% 水位后即进入“愚钝区间”,推理与工具调用准确率暴跌,因此必须杜绝启动时向环境无节制倾倒 MCP Schema 和元数据。 - [06:35](https://www.youtube.com/watch?v=rmvDxxNubIg&t=395s) 子 Agent 的本质不是用于模拟前端、后端或 QA 的拟人化角色扮演,而是用于隔离和分流上下文,在探索巨量文件后仅向父级交还极简结论。 - [06:35](https://www.youtube.com/watch?v=rmvDxxNubIg&t=395s) RPI 工作流将开发清晰划分为研究、规划和实施三大阶段,确保每个步骤都在高推理质量的“聪慧区间”内进行。 - [08:38](https://www.youtube.com/watch?v=rmvDxxNubIg&t=518s) AI 无法替代思考,只能放大思考或放大思考的匮乏;遇到底层复杂的架构与依赖重构时,开发者仍必须退回白板重新理清逻辑。 - [10:45](https://www.youtube.com/watch?v=rmvDxxNubIg&t=645s) “规范驱动开发”(Spec-driven Development)已陷入典型的语义扩散困境,充斥着互不相通的宽泛解读,失去了明确的工程实操指导价值。 - [12:14](https://www.youtube.com/watch?v=rmvDxxNubIg&t=734s) Agent 类似《记忆碎片》主角,缺乏预先初始化的上下文就会凭空胡编;但全量载入 Monorepo 又会导致迅速坠入愚钝区间,必须采取渐进式展开(Progressive Disclosure)。 - [13:57](https://www.youtube.com/watch?v=rmvDxxNubIg&t=837s) 代码库中存在“谎言密度阶梯”:底层实际代码谎言最少,外部与内部文档谎言最多;因此需使用子 Agent 进行按需纵向切片来“压缩真实”。 - [14:42](https://www.youtube.com/watch?v=rmvDxxNubIg&t=882s) 代码评审的根本目的在于团队成员之间的心智同步(Mental Alignment),在代码膨胀时代,技术主管应将精力转移至审查浓缩设计意图的“规划文件”。 - [16:12](https://www.youtube.com/watch?v=rmvDxxNubIg&t=972s) 规划文件中直接内嵌关键代码片段能够大幅压低执行期偏航率,使模型的代码落地变得机械化、高可靠且可预测。 - [17:02](https://www.youtube.com/watch?v=rmvDxxNubIg&t=1022s) 错误在流水线中具有指数级放大效应:单行坏代码只是局部问题,规划漏洞会派生百行坏代码,而调研阶段的认知偏差会导致整个项目彻底报废。 - [17:48](https://www.youtube.com/watch?v=rmvDxxNubIg&t=1068s) 上下文工程应与问题规模精准匹配:改动按钮颜色直接对话,跨仓库大型需求则必须严密执行从独立调研到细化规划的完整压缩循环。 - [19:09](https://www.youtube.com/watch?v=rmvDxxNubIg&t=1149s) 开发团队面临认知断层:资深架构师排斥 AI 并疲于清理垃圾代码,初中级工程师无节制依赖工具,技术管理者必须自上而下推进文化与流程重塑。
## Detailed walkthrough ### [00:13](https://www.youtube.com/watch?v=rmvDxxNubIg&t=13s) 复杂代码库与 AI 编程工具的“垃圾代码”困境
Dex Horthy 登台开场,回顾了自己在 2025 年 6 月 AI Engineer 大会上备受好评的演讲《12 Factor Agents》(十二因子智能体),该演讲是大会历史排名前八的热门分享之一,也正是从那时起他首次提出了“上下文工程”(Context Engineering)这一概念。随后,他谈到了 6 月大会上由 Igor 主讲的另一场让他印象极深的分享——该研究对涵盖各规模企业的 10 万名开发者进行了大规模调研。
调研得出的核心结论相当残酷:在软件工程中使用 AI 时,开发者在绝大多数情况下都在进行大量的返工(rework)和代码库反复搅动(churn),AI 在复杂任务和现存的老旧代码库(Brownfield Codebases)中表现极差。正如 Dex Horthy 所指出的:“basically you are shipping a lot more but a lot of it is just reworking the slop that you shipped last week.”(基本上你确实发布了更多代码,但其中很大一部分只是在对上周发布的一堆垃圾代码进行返工。)
这种工具的分化在现实中十分明显:如果开发者是在做全新的绿地项目(Greenfield Project),比如随手搭一个轻量级的 Vercel 前端仪表盘,AI 表现堪称惊艳;但如果让它去碰一个拥有 10 年历史的遗留 Java 代码库,场面就会彻底失控。这完全契合了 Dex 自己的实战经验,也印证了他与众多创始人和顶尖工程师交流时的共识——当前的 AI 编程工具往往沦为“技术债制造工厂”。业界普遍的消极态度要么是“这东西根本行不通”,要么是“也许等未来模型变聪明了才行”;而上下文工程正是为了打破这一被动局面而生:如何在不依赖未来超级模型的前提下,通过科学管理上下文窗口,把现有模型的能力榨取到极致?
[01:40](https://www.youtube.com/watch?v=rmvDxxNubIg&t=100s) 团队重构开发流程与“无垃圾代码”目标的诞生
Dex 坦白承认,自己初次接触 Claude Code 时的体验非常平淡,觉得它充其量只是在交互界面(UX)上好了一点点,并不能真正解决深层工程问题。但在随后的两个月里,HumanLayer 团队探索出了一套突破性的方法体系,将产出吞吐量(throughput)提升了 2 到 3 倍。代码产出速度之快,甚至倒逼这个仅有三名工程师的微型团队花费了整整八周时间,彻底重写和重构了内部所有的软件构建与协作流程。
这个被称为“无垃圾代码”(No Slop)的工作流在 2025 年 9 月的 Hacker News 上引发了病毒式传播,数以千计的工程师涌入 GitHub 下载并使用他们开源的“研究-规划-实施”(Research-Plan-Implement,简称 RPI)Prompt 体系。Dex 归纳了这套体系倒逼自己确立的核心工程目标: 1. **解决复杂遗留系统问题**:AI 必须能够在庞大、复杂的 Brownfield 代码库中稳定运行; 2. **彻底拒绝垃圾代码(No more slop)**:不再把时间浪费在给 AI 擦屁股和无休止的修修补补上; 3. **保持心智对齐(Mental Alignment)**:人与智能体必须对工程状态具备相同的认知; 4. **高杠杆消耗 Token**:有意义地将最繁重的认知负担卸载给 AI,最大化释放工程杠杆。
[02:53](https://www.youtube.com/watch?v=rmvDxxNubIg&t=173s) 从盲目纠错到主动上下文压缩(Intentional Compaction)
Dex 深入剖析了面向编程智能体的高阶上下文工程。他指出,最原始、最幼稚(naive)的编程智能体使用方式是一个令人绝望的死循环:给智能体一个任务,它做错了,人类指出它哪里错了并试图重新引导它;接着它再错,人类再纠偏,如此往复,直到把整个上下文窗口彻底耗尽,或者开发者精疲力竭、直接崩溃放弃。
很多开发者在摸索早期会学会一种稍显聪明的做法:一旦发现对话彻底偏离轨道,就果断放弃当前窗口开一个全新的对话上下文,带着相同的 Prompt 和任务重新开始,并明确告诉智能体:“上次我们走那条路彻底走不通,这次换一条路,千万别再碰那个方向。”而判断何时必须立刻重开的标志性信号,就是屏幕上跳出 Claude 典型的道歉模板套话——“If you see this, it's probably time to start over, right? This is what Claude says when you tell it it's screwing up.”(如果你看到这段话,大概就是该重新开始的时候了,这就是你在告诉 Claude 它搞砸了时它的典型回复。)
为了比“推倒重来”更进一步,Dex 提出了**主动压缩(Intentional Compaction)**机制。不论当前智能体的工作轨迹是否完全跑偏,开发者都可以要求它把当前臃肿的上下文窗口提炼、浓缩为一个精炼的 Markdown 文件。开发者对这份摘要进行快速审查、标注后,新启动的智能体便可直接读取它无缝进入状态,省去了每一次重新检索文件、梳理调用链路以及理解代码库脉络的巨大开销。在上下文中真正挤占宝贵空间的内容包括: - 盲目寻找和遍历文件的大量目录与内容倾倒; - 代码控制流分析的历史轨迹; - 多次尝试编辑文件产生的大段代码差异; - 测试和编译构建失败抛出的巨长输出日志; - 行为不规范的 MCP(Model Context Protocol)插件向窗口中疯狂倾倒的大量无序 JSON 数据和 UUID。
一次优秀的主动压缩,应当只留下最核心的骨架:当前任务聚焦的精确文件路径以及与问题紧密相关的具体代码行号。
```mermaid flowchart TD accTitle: 上下文工程的演进阶段对比 accDescr: 展示了从盲目纠错、重开窗口到主动压缩三个阶段的工作流演进对比。
subgraph Naive["低效模式:盲目在原窗口死磕"] N1["下达任务"] --> N2["智能体犯错"] N2 --> N3["人类指出错误并纠偏"] N3 --> N4["智能体再度犯错"] N4 --> N5["耗尽上下文 / 崩溃放弃"] end
subgraph Reset["进阶模式:推倒重来"] R1["发现跑偏 / 收到抱歉提示"] --> R2["抛弃旧窗口,新开上下文"] R2 --> R3["携带避坑提示重新 Prompt"] end
subgraph Compaction["高阶模式:主动上下文压缩 (Intentional Compaction)"] C1["已有上下文工作分析"] --> C2["指令要求压缩为精炼 Markdown"] C2 --> C3["人类快速审查与补充标记"] C3 --> C4["启动新智能体:直接对准精准文件与行号干活"] end ```
[04:38](https://www.youtube.com/watch?v=rmvDxxNubIg&t=278s) 上下文执念、轨迹污染与“愚钝区间”(The Dumb Zone)
为什么工程师必须对上下文窗口产生近乎偏执的控制欲?Dex 澄清了一个在 YouTube 上被网友挑刺的技术细节:LLM 并非真正的纯函数(Pure Function),因为它们具有内在的非确定性(Nondeterministic),但它们在本质上是绝对无状态(Stateless)的。
> “the only way to get better performance out of an LLM is to put better tokens in and then you get better tokens out.” —— Dex Horthy
在智能体循环的每一步中,无论是挑选工具还是决定下一步代码动作,都存在成百上千种正确的可能与同样成百上千种错误的歧路;而唯一能够左右模型当下输出的物理依据,就是截至目前进入窗口里的全部 Token。因此,上下文工程必须针对以下四个维度进行全面优化: - **正确性(Correctness)**; - **完整性(Completeness)**; - **体积尺寸(Size)**; - **轨迹趋势(Trajectory)**。
Dex 特别强调了“轨迹污染”这一隐形杀手。许多人向智能体抱怨、甚至在 Prompt 里大发雷霆:“我叫你做 A 你做错了,我狠狠纠正了你,然后你又做错,我又把你痛骂了一顿。”此时模型根据无状态的统计规律审视对话历史时,只会得出这样一个因果推论:“好的,之前我犯了错,人类骂了我;紧接着我又犯错,人类接着骂我。那么在这场对话接下来概率最高的下一个 Token,就是我必须再犯一个愚蠢的错误,好让人类继续痛骂我。”负面的纠错纠缠不仅没有让模型变聪明,反而将错误的行为模式固化成了最强的续写概率。倒推过来,上下文中破坏力最大的毒药按严重程度依次是:**错误信息** > **关键信息缺失** > **过量的干扰噪音**。
引用研究员 Jeff Huntley 的洞见,Dex 提出了一个极具警示意味的工程术语——**愚钝区间(The Dumb Zone)**:
> “just the more you use the context window, the worse outcomes you'll get.” —— Dex Horthy 援引 Jeff Huntley
以 Claude Code 常用的约 16.8 万 Token 上下文窗口为例(扣除输出和系统保留区域),当上下文占用突破大约 **40%** 的临界水位线时,模型的认知表现和复杂任务推理能力就会出现断崖式衰减。如果工程团队安装了大量 MCP 工具,动辄在环境启动时就把巨量的 Schema 和冗余信息灌满上下文,那么智能体从起跑那一刻起就是在“愚钝区间”里负重挣扎,绝不可能得出高质量的工程解法。
```mermaid flowchart LR accTitle: 上下文水位与智能体表现示意图 accDescr: 横轴展示上下文窗口 Token 消耗百分比,说明在 40% 水位线以下是聪慧区间,超过后便坠入愚钝区间。
subgraph SmartZone["聪慧区间 (The Smart Zone)"] S1["0% - 40% 水位"] S2["逻辑推理清晰<br/>精准调用工具<br/>极少幻觉与垃圾代码"] end
subgraph DumbZone["愚钝区间 (The Dumb Zone)"] D1["40% - 100% 水位"] D2["边际收益递减<br/>轨迹受历史噪音污染<br/>遗忘关键上下文与频繁胡说"] end
S1 -->|"超过 40% 警戒线(MCP堆砌/长历史)"| D1 ```
[06:35](https://www.youtube.com/watch?v=rmvDxxNubIg&t=395s) 子智能体的本质与 RPI 工作流的三大阶段
如何巧妙地规避“愚钝区间”?Dex 首先破除了业界对“子智能体(Sub-agents)”的巨大误区。他直接开炮呼吁停止对智能体进行无意义的人格化角色扮演(Anthropomorphizing roles): > “If you have a front-end sub aent and a backend sub aent and a QA sub aent and a data data scientist sub aent please stop. Sub aents are not for anthropomorphizing roles. They are for controlling context.” —— Dex Horthy
子智能体的真正杀手级用途,在于**隔离和分流上下文**。当需要在庞大的代码库中查找某项功能如何运作时,父智能体可以分叉(fork)出一个纯净的子智能体上下文。子智能体可以在自己的沙盒中完成巨量文件的搜寻、逐行通读和全局梳理,承受成千上万 Token 的上下文消耗;但在完成探索后,它只需向父级智能体交还一行极度精炼的信息(例如:“你需要修改的逻辑在 X 文件第 Y 行”)。父智能体仅需打开这一份文件,即可在保持极小上下文尺寸的同时立即投入核心工作。
而在子智能体机制之上,更高层、更稳定的工程实践叫做**频繁主动压缩(Frequent Intentional Compaction)**。这套被称为 **RPI(Research - Plan - Implement,研究-规划-实施)** 的三阶段方法,其核心宗旨是让整个开发流程**永远停留在聪慧区间(Smart Zone)**内运作:
| 阶段 | 核心任务与操作重点 | 输出形态与防错设计 | |:--- |:--- |:--- | | **1. 研究(Research)** | 全面理解现有系统如何运行;定位出全部相关文件;绝对保持客观中立,严禁擅自开始改写代码。 | 输出结构清晰的研究报告,指明核心机制与相关文件,完全开源可查。 | | **2. 规划(Plan)** | 极其详尽地拆解每一个实施步骤;强行要求包含确切的文件名与精确代码片段;明确规定每次代码修改后必须执行的测试验证指令。 | 包含实际代码片段的详尽计划书;细化到连“世界上最笨的模型都不可能搞砸”的程度。 | | **3. 实施(Implement)** | 严格对照既定计划逐项执行变更;每次操作后运行测试验证,并随时清除无用记录,自始至终将上下文控制在低水位。 | 整个流程中最枯燥、机械化、最不容易出错的代码落地步骤。 |
为了验证这套方法并非闭门造车的玩具,Dex 找到与自己共同主持播客的好友、Boundary ML 的 CEO Vaibhav,决定在真实高难度的复杂场景中对其进行极限压力测试。
- **核心数据点与引用事实**: - Igor 的调研样本量覆盖了全球各类型公司中超过 **100,000** 名开发者。 - HumanLayer 整个核心工程转型仅由 **3** 人团队耗时 **8** 周完成,换取了 **2-3 倍** 的实际吞吐量提升。 - 标准上下文窗口按约 **168,000** Token 估算,**40%**(约 6.7 万 Token)被界定为坠入“愚钝区间”的经验警戒线。
[08:38](https://www.youtube.com/watch?v=rmvDxxNubIg&t=518s) 现实代码库实战验证与复杂问题的边界
Dex Horthy 讲述了他们在大型已有代码库(Brownfield Codebase)中进行实战验证的经历。他们曾尝试直接向一个长达 30 万行 Rust 代码的编程语言代码库发起单次修复(One-shot fix)。整个播客过程大约持续了一个半小时,他们生成了大量的前期调研材料,随后发现质量不好并将其废弃;接着他们制定了规划,并在有调研和无调研的两种情况下对比了生成方案。到了周二早上,该项目的 CTO 甚至在不知道这只是播客表演的情况下看过了 Pull Request,并表示代码看起来很不错,会包含在下一个版本中。这证明了核心上下文工程在庞大的 Brownfield 代码库中切实有效,产出的并非 AI 废品代码(Slop)。
随后,为了验证解决复杂高难度问题的能力,Dex 与仍持怀疑态度的 Vib 合作,在一个周六连续工作了大约 7 个小时,直接向 BAML 交付了 35,000 行代码,其中一个核心 PR 在一周后成功合入。虽然其中包含修改行为后重新生成的 Golden Files 等代码生成内容,但产出极其惊人,Vib 估算这 7 个小时完成了平时需要 1 到 2 周才能做完的工作量。
然而,这种方法并非没有边界。Dex 随后同好友 Blake 尝试从 Parquet Java 中移除 Hadoop 依赖,结果遭遇了彻底的滑铁卢。面对错综复杂的依赖陷阱,原有的调研与规划完全崩溃。他们不得不扔掉所有的产出,重新坐回到物理白板前,梳理系统各个部分到底应该如何拼装。这一失败揭示了 AI 辅助编程最根本的底层真相:“AI cannot replace thinking. It can only amplify the thinking you have done or the lack of thinking you have done.”(AI 无法替代思考;它只能放大你已经完成的思考,或者放大你思考的匮乏。)
- 30 万行 Rust 代码库的修复 PR 被项目 CTO 认可并计划纳入下个版本。 - 7 小时内向 BAML 提交 35,000 行代码,工作效率达到传统开发的 1 到 2 周水平。 - 尝试移除 Parquet Java 中的 Hadoop 依赖宣告失败,最终逼退回白板重新推导架构。
---
[10:45](https://www.youtube.com/watch?v=rmvDxxNubIg&t=645s) 规范驱动开发的语义扩散与失效
当人们追问这种方法是否属于“规范驱动开发”(Spec-driven Development)时,Dex 明确给出了否定回答:“No, spec-driven development is broken. Not the idea, but the phrase.”(不,规范驱动开发已经坏掉了。不是这个想法本身坏了,而是这个短语坏了。)它缺乏清晰定义。许多开发者所谓的 Spec,充其量只是一个更详细的 Prompt 而已。
Dex 引用了 Martin Fowler 早在 2006 年提出的经典概念——语义扩散(Semantic Diffusion)。行业总是先提出一个定义良好的好术语,随后众人蜂拥而上,赋予它上百种不同的含义,最终导致这个词彻底失去意义。正如“Agent”经历过从“一个人”、“一个微服务”、“一个聊天机器人”到“一个工作流”,最后被 Simon Willison 拉回原点概括为“循环调用工具”(Tools in a loop)。“规范驱动开发”也正在遭受相同的宿命:有人认为它是写更好的提示词或 PRD;有人认为它是可验证的反馈循环与背压机制;有人借用 swyx 的观点将其视为把底层代码当汇编、人类只看 Markdown 的过程;有人认为只是编码时挂几个 Markdown 文件;甚至还有人把它当成开源库的使用文档。过度炒作与语义泛滥,使该词汇在工程实践中变得毫无指导价值。
---
[12:14](https://www.youtube.com/watch?v=rmvDxxNubIg&t=734s) Agent 的入职培训与渐进式上下文展开
与其沉溺于概念,不如落实到今天切实可行的战术步骤。Dex 借用电影《记忆碎片》(Memento)来比喻上下文工程:主角每天醒来毫无记忆,必须靠阅读自己身上的刺青来推断自己是谁、在做什么;AI Agent 也是如此,如果你不给它做好入职培训(Onboarding),它就会开始凭空胡编乱造。
在处理复杂代码库时,常见策略是在仓库中提供入职上下文,把整个代码库的信息预先压缩好提供给 Agent。但随着代码库膨胀(例如面对 500 万行的 Monorepo),单份文档要么过长,要么必须舍弃关键细节。一旦将庞大的背景全部塞进上下文,Agent 在刚了解完系统如何运作时,就已经耗尽了黄金注意力区间(Smart Zone),随后在执行工具调用时直接跌入性能退化的“迟钝区”(Dumb Zone)。
为了解决这一问题,团队往往会尝试“渐进式展开”(Progressive Disclosure),将文档分片下沉到仓库的各级目录中:在根目录放全局文件,在子目录放局部的细化上下文,让 Agent 沿着调用链路按需拉取,从而为工具交互预留足够的 Smart Zone 空间。
```mermaid flowchart TD accTitle: 渐进式上下文加载流程 accDescr: 展示了 Agent 在不同目录层级按需加载上下文并进行工具调用的过程
subgraph RepoRoot ["仓库根目录"] RootCtx["根目录上下文 (Root Context)"] end
subgraph SubDir ["功能子目录"] SubCtx["局部上下文 (Sub-context)"] end
subgraph AgentRuntime ["Agent 运行时空间"] SmartZone["Smart Zone: 仅加载必要的高密度上下文"] ToolExecution["Dumb Zone 避障: 保留充足 Token 执行工具调用"] end
RootCtx -->|"引导载入"| SmartZone SubCtx -->|"按需下沉拉取"| SmartZone SmartZone -->|"维持高推理能力"| ToolExecution ```
- 未经背景初始化的 Agent 具有高度幻觉风险,必须依靠显式的上下文刺青锚定行为。 - 全量单文件引入会导致上下文超载,提早耗尽模型的 Smart Zone。 - 分层级按需加载(渐进式展开)能在控制单次上下文长度的同时支持大型项目。
---
[13:57](https://www.youtube.com/watch?v=rmvDxxNubIg&t=837s) 内部文档的“谎言密度”与按需压缩真实
分层文档方案带来了一个致命缺陷:它极易过时。每当系统发布新功能,庞大的内部文档都需要经历缓存失效、重新验证和全局重建。虽然可以借助 AI 将其自动化,但在实际软件工程中,团队往往根本无法维持这种纪律。Dex 抛出一个引人深思的反问:在实际代码、函数名、注释和文档这四者之间,Y 轴所代表的到底是什么?现场有人回答是代码垃圾(Slop),Dex 指出:“It's actually the amount of lies you can find in any one part of your codebase.”(它实际上是你在代码库任何一个部分所能找到的谎言数量。)离真正运行的代码越远,谎言的密度就越高。
因此,更好的方案是抛弃静态文档维护,转向“按需压缩上下文”(On-demand compressed context)。当需要跨越多个模块(如 SCM Provider、Jira 与 Linear 的集成)构建功能时,人类工程师只需给出少许方向引导(Steering),通过一条调研 Prompt、Slash 命令或 Skill,派发多个子 Agent 对特定业务路径进行纵向切片(Vertical Slices)。这些子 Agent 现场读取底层的真实代码,快速提炼出一份针对当下任务的“调研文档”(Research Document)。这个过程本质上是在“压缩事实”(Compressing truth),确保后续决策完全建立在未经腐蚀的真实代码基础之上。
| 代码库组成要素 | 真实性程度 | 谎言密度 (Lie Density) | |:--- |:--- |:--- | | **实际代码 (Actual Code)** | 绝对真实(代码即运行时事实) | 最低 | | **函数名称 (Function Names)** | 基本真实(可能随重构产生语义漂移) | 较低 | | **代码注释 (Comments)** | 经常过时,易产生误导 | 较高 | | **外部/内部文档 (Documentation)** | 极难保持同步,充斥陈旧假设 | 最高 |
---
[14:42](https://www.youtube.com/watch?v=rmvDxxNubIg&t=882s) 规划杠杆与代码评审的核心:心智同步
调研完成后是规划阶段。规划(Planning)是实现杠杆的关键,它的本质是“压缩意图”(Compression of intent)。工程师将调研结果与 PRD 或 Bug 工单相结合,提炼出一份步骤极其精确的规划文件(Plan file)。
Dex 强调了代码评审(Code Review)常被忽视的真正目的:它不仅仅是检查代码语法的对错,更根本的是团队心智对齐(Mental Alignment)——让团队所有人对代码库正在发生什么改变、为什么改变保持步调一致。在大模型工具介入后,代码产出呈数倍爆发,技术负责人很难每周深度逐行审查成千上万行的新增代码,但他们可以高效阅读“规划文件”,提前捕获设计缺陷并掌握系统演进轨迹。他以 Mitchell 的实践为例:Mitchell 将整个 AMP 交互线程附加在 Pull Request 中,向评审者展示完整的提示词、中间步骤以及最终构建通过的记录,使评审者能够看清整个推理过程,而不仅是 GitHub 上铺天盖地的一面绿色代码墙。
- 代码评审的核心价值在于维护团队对架构演进的心智同步,而非纯粹的人肉找茬。 - 面对 2 至 3 倍的代码交付膨胀,高层技术负责人通过审查高密度“规划文件”保持掌控力。 - 在 PR 中附带完整的上下文生成旅程与测试验证凭证,能显著降低审查摩擦。
---
[16:12](https://www.youtube.com/watch?v=rmvDxxNubIg&t=972s) 包含代码片段的规划设计与拒绝外包思考
为了获得更强的心智杠杆,人类必须对模型能否正确执行具备高置信度。如果规划文件只写了抽象的自然语言描述,人类评审员根本无法预判它最终会写出怎样的代码。因此,团队反复迭代后的最佳实践是:在规划中直接包含实际要变更的精细代码片段(Code snippets)。
这里存在一个工程权衡曲线:当规划文件越详细、包含具体的代码片段时,模型的执行可靠性(Reliability)会直线上升,但可读性(Readability)和编写成本会下降。每个团队都需要根据自己的代码库在这一曲线中找到平衡甜点区(Sweet spot)。
Dex 再次严肃告诫所有开发者,绝对不要把思考外包给大模型:“Don't outsource the thinking. I've said this before, this is not magic. There is no perfect prompt. You still will not work if you do not read the plan.”(不要把思考外包出去。我之前就说过,这不是魔法。没有所谓的完美提示词。如果你不亲自去读规划,这套体系依然无法运转。)整个流程必须建立在构建者与 Agent 紧密的双向反馈之上——人类工程师必须审视正在生成的规划,在进入自动化执行前把好逻辑关,必要时甚至邀请同事对规划本身进行同行评审。
- 规划文件内嵌关键代码片段能极大压低模型在执行期的偏航概率。 - 规划长度与可读性、执行可靠性构成典型权衡曲线,需根据项目场景寻找平衡点。 - 人类开发者必须始终守在控制回路中,主导设计意图并逐字审查规划方案。
[17:02](https://www.youtube.com/watch?v=rmvDxxNubIg&t=1022s) 别把思考外包出去:人机协同的核心杠杆
人类在循环(Human-in-the-loop)中的介入,正是让“调研、规划、实施”(Research, Plan, Implement)流程产生实际价值的核心所在。Dex Horthy 引用了 Jake 的博客文章指出,开发者的首要任务是确保每一个环节的准确性,因为错误的放大效应在分层管线中是指数级递增的。一条糟糕的代码不过是一条糟糕的代码,但在规划阶段的一个漏洞,可能会直接衍生出上百行烂代码;而在调研阶段的一个偏差——例如彻底误解了系统的运作机制或关键模块的所在位置——整个开发任务就会彻底泡汤,直接把模型推向完全错误的方向。因此,无论是在团队内部协作还是与外部用户打交道时,最关键的原则始终是把人类的精力与关注点,转移到整条管线中杠杆率最高的环节上。
在工具的选择和使用习惯上,必须警惕虚假的繁荣。Dex 特别告诫大家:“不要把思考外包出去(Don't outsource the thinking)。”市面上充斥着各种自动化工具,动辄生成堆积如山的 Markdown 规范文件,仅仅是为了在表面上让开发者自我感觉良好。正如 Dex Horthy 所警告的那样:“如果你能从这场演讲中带走一件事,那就是:一条糟糕的代码就是一条糟糕的代码,而计划中的一个坏部分可能会变成一百行糟糕的代码,至于一条糟糕的调研结论——比如对系统工作机制和位置的误解——会让你的整个项目彻底报废。”
```mermaid flowchart TD accTitle: Error Amplification in AI Pipelines accDescr: Diagram illustrating how errors escalate from research to planning and implementation.
subgraph Pipeline["开发流程与错误放大效应"] direction LR R["调研阶段错误<br/>(理解偏差/找错模块)"] -->|"放大导致"| P["规划阶段漏洞<br/>(产生系统性缺陷)"] P -->|"派生多达百行"| I["实施阶段坏代码<br/>(直接污染代码库)"] end
H["开发者深度校验<br/>(高杠杆核心介入点)"] -.->|"重点纠偏"| R H -.->|"审核确认"| P ```
- **错误扩散层级**:单行错误代码(局部影响) $\rightarrow$ 规划逻辑缺陷(引发数十至上百行错误实现) $\rightarrow$ 调研事实偏差(系统架构与位置理解错误,导致整个任务彻底方向跑偏)。 - **警惕过度形式化**:避免使用只负责大量堆砌 Markdown 文档却缺乏真正可验证推导的辅助工具。
---
[17:48](https://www.youtube.com/watch?v=rmvDxxNubIg&t=1068s) 上下文工程的量级匹配与 RPI 实践法则
在实际工程中,并不是所有改动都需要全套严格的“调研-规划-实施”闭环。针对轻量任务过度设计也是一种资源浪费;如果只是修改一个按钮的颜色,直接向 Agent 下达自然语言指令即可;如果是中小型单功能点,一份简单的规划即可满足需求;而一旦面对跨越多个代码仓库的中大型需求,就必须严格执行深入调研、沉淀上下文并据此构建实施计划。能够解决的复杂问题上限,完全取决于开发者愿意执行多少上下文工程的精简压缩(compaction)。
对于如何判断该注入多少上下文工程,Dex 给出的答案非常朴实:它没有公式,完全依赖大量的刻意练习(reps)。开发者必然会反复搞砸——有时把上下文做太大导致窗口污染,有时又做太小导致信息缺失。关键在于选定一款工具持续深耕,而不是在 Claude、Codex 或 Cursor 等工具之间来回倒腾去追求所谓的“极值配置”。尽管社区已经把这套方法定名为“RPI”(Research, Plan, Implement),Dex 本人虽然不喜欢生造缩写词,但也坦然接受了这个标签。正如 Dex Horthy 所总结的:“并没有什么完美的 Prompt,也没有灵丹妙药。如果你实在想要一个更时髦的词,你可以把它叫做‘驾驭工程’(Harness Engineering),它是上下文工程的一部分,关乎你如何与 Codex、Claude、Cursor 等工具的集成点对接,以及你如何定制你的代码库。”
- **问题复杂度与上下文压缩投入**: - **简单改动**(如调按钮颜色):直接与 Agent 对话,无需繁琐规划。 - **小功能开发**:构建单次轻量级规划即可实施。 - **跨多仓库的中大型功能**:严格执行独立调研阶段,压缩信息生成设计文档后再进行编码。 - **工具使用建议**:切忌在各种编程大模型与 IDE 插件之间“反复横跳”,认定一个主力工具不断积累真实工程手感。 - **核心本质**:无论是被称为 RPI 还是 Harness Engineering,精髓始终在于通过上下文压缩(Context Compaction),始终让模型保持在高效严谨的“聪明区(Smart Zone)”。
---
[19:09](https://www.youtube.com/watch?v=rmvDxxNubIg&t=1149s) 编码 Agent 的普及与 99% AI 代码时代的组织断层
在技术演进的前瞻上,纯粹的编码 Agent 技术本身终将被商品化(commoditized),随着开发者逐渐掌握这些技巧,工具层面的壁垒会迅速抹平。真正横亘在整个行业面前的严峻挑战,在于组织、工作流程以及软件开发生命周期(SDLC)如何重构,以适应一个“99% 的代码由 AI 交付”的未来。如果无法从架构和流程上完成这种转型,技术团队将陷入停滞,因为当下工程团队内部正在形成一条显而易见的认知鸿沟与协作断层。
这条鸿沟具体表现为:主任工程师与架构师(Staff Engineers)往往不愿意深度采用 AI,因为这些工具在面对深水区架构时并不能给他们带来倍数级的效率提升;反观初级与中级工程师,则因为 AI 能够快速补齐技能短板而对其高度依赖。但这种无节制的依赖往往伴随着劣质代码(Slop)的滋生,导致资深工程师每周都在花费大量时间去清理上一周通过 Cursor 等工具批量生成的垃圾代码,从而对 AI 工具产生越来越深的抵触情绪。Dex 强调,这既不是 AI 的过错,也不是中级开发者的过错,深度的文化变革极其艰难,必须由技术管理层自上而下地强力推行。针对这一行业痛点,HumanLayer 正在全力打造一款 Agentic IDE,旨在帮助各类规模的技术团队以工程化的方式,安全平稳地完成向 99% AI 代码生成的全面过渡。正如 Dex Horthy 在演讲最后向技术管理者们大声疾呼的那样:“这绝不是 AI 的错,也不是中级工程师的错。文化的转变确实非常艰难,如果要起效,它必须自上而下地推动。所以,如果你是公司的技术负责人,选定一款工具,带头去练习吧。”
- **团队协作断层(Engineering Rift)**: - **Staff / 高级工程师**:AI 提效有限,拒绝深度介入,疲于对 AI 产出的劣质代码擦屁股,抵触情绪日益累积。 - **中初级工程师**:过度依赖 AI 工具来掩盖技术薄弱点,缺乏全局上下文控制,源源不断地产出缺乏规范的代码。 - **应对之道**:管理层必须主动建立适配 AI 原生时代的新型 SDLC 与代码审查规范,把文化重构作为技术战略推行。 - **团队动向**:HumanLayer 团队正加速招聘,全面开发面向未来 99% AI 代码吞吐量的全新 Agentic IDE。
## Notable quotes > [08:38](https://www.youtube.com/watch?v=rmvDxxNubIg&t=518s) AI cannot replace thinking. It can only amplify the thinking you have done or the lack of thinking you have done. — Dex Horthy
> [04:38](https://www.youtube.com/watch?v=rmvDxxNubIg&t=278s) the only way to get better performance out of an LLM is to put better tokens in and then you get better tokens out. — Dex Horthy
> [00:13](https://www.youtube.com/watch?v=rmvDxxNubIg&t=13s) basically you are shipping a lot more but a lot of it is just reworking the slop that you shipped last week. — Dex Horthy
> [06:35](https://www.youtube.com/watch?v=rmvDxxNubIg&t=395s) If you have a front-end sub aent and a backend sub aent and a QA sub aent and a data data scientist sub aent please stop. Sub aents are not for anthropomorphizing roles. They are for controlling context. — Dex Horthy
> [17:02](https://www.youtube.com/watch?v=rmvDxxNubIg&t=1022s) 如果你能从这场演讲中带走一件事,那就是:一条糟糕的代码就是一条糟糕的代码,而计划中的一个坏部分可能会变成一百行糟糕的代码,至于一条糟糕的调研结论——比如对系统工作机制和位置的误解——会让你的整个项目彻底报废。 — Dex Horthy
## Mentioned Dex Horthy, HumanLayer, AI Engineer, Claude Code, Igor, Jeff Huntley, Vaibhav, BAML, Boundary ML, Blake, Parquet Java, Hadoop, Martin Fowler, Simon Willison, swyx, Mitchell, Jake, Cursor, Codex, Rust, Java, MCP
## Video description It seems pretty well-accepted that AI coding tools struggle with real production codebases. At AI Engineer 2025 in June, The Stanford study on AI's impact on developer productivity found:
A lot of the ""extra code"" shipped by AI tools ends up just reworking the slop that was shipped last week.
Coding agents are great for new projects or small changes, but in large established codebases, they can often make developers less productive.
The common response is somewhere between the pessimist ""this will never work"" and the more measured ""maybe someday when there are smarter models.""
After several months of tinkering, we've found that you can get really far with today's models if you embrace core context engineering principles.
This isn't another ""10x your productivity"" pitch. I tend to be pretty measured when it comes to interfacing with the ai hype machine. But we've stumbled into workflows that leave me with considerable optimism for what's possible. We've gotten claude code to handle 300k LOC Rust codebases, ship a week's worth of work in a day, and maintain code quality that passes expert review. We use a family of techniques I call ""frequent intentional compaction"" - deliberately structuring how you feed context to the AI throughout the development process.
In this talk, I'll share what we've learned since first sharing these techniques back in August, and some educated predictions on what's coming in the next 6-12 months for software engineers.
Speaker: twitter.com/dexhorthy
Timestamps: 00:00 intro: complex code 01:40 context engineering 02:53 advanced context 04:38 context obsession 05:55 dumb zone concept 07:26 context management 09:37 complex problem solved 10:45 semantic diffusion 12:14 onboarding agents 13:57 internal docs lies 15:03 mental alignment key 16:12 code snippet plans 17:38 don't outsource think 18:45 rpi: smart zone 19:46 cultural change hard
Hey - I'm Dex, and I'm hacking on getting AI coding agents to solve hard problems in complex codebases at HumanLayer. Before this I was working on APIs for agent orchestration and Human-in-the-Loop, and wrote the April 2025 essay "12 factor agents" that first coined the term Context Engineering. I've been coding since high school, when I built tools for NASA researchers to navigate the south pole of the moon. Enjoyer of tacos and burpees (not necessarily in that order).
---
Watch along with the corrected transcript, summary, timestamps and resources on this talk's official AIE page: https://ai.engineer/talks/rmvDxxNubIg-context-engineering-for-complex-codebases
Join our upcoming AI Engineer conferences (see https://ai.engineer landing page):
- AIEi Shanghai, November 5–6 — the first for meeting top Chinese labs and engineers - AIE CODE in SF, November 10–12 — the top AI Coding conference returns - AIEi Sydney, December 7–8 — the first AIEi run alongside NeurIPS 2026 in Sydney
---
[Source](https://www.youtube.com/watch?v=rmvDxxNubIg)