Ai4
大模型本身是研发中最廉价的环节,真正决定系统质量与账单的是代码左侧的上下文架构与标准化缓存,盲目堆砌顶配模型只会导致高昂的实时推理浪费与偏执推演。
AI-assisted summary of AI-Driven Software Lifecycle Evolution at FanDuel — original source. Check the original for full context.
Source published:
Detailed notes
## Background 该视频由 Ai4 频道于 2026 年 8 月 15 日发布在 YouTube 上,演讲嘉宾为 FanDuel 的 AI 负责人 Bryce Macher。简介指出内容主要探讨如何通过以 Agent 为核心的软件开发生命周期(SDLC)重塑,将 AI 转化为持久的交付优势,并涵盖从孤立试点走向可规模化生产级能力的架构演进与实战教训。
## TL;DR FanDuel 提出 AI 转型的北极星指标是“加速人类判断”(Speed to Judgment)而非盲目的代码合并速度,强调模型本身反而是最便宜的部分,代码左侧的上下文工程与底层基础设施才决定账单与质量。团队构建了涵盖无感编排、AI 网关、红队测试与语义缓存的四大演进支柱,指出行业中 80% 的研发负载可由良好规划的中小模型承接。同时,演讲警示了工程师依赖顶配大模型导致的“偏执推理”与技能退化风险,并用亲身踩坑经验揭示了通过标准化 Agent 技能提高 Prompt 缓存命中率对削减推理开销的关键作用。
## Atmosphere & style 整场演讲务实冷静且干货密度极高,完全摒弃了空洞的 AI 炒作,洋溢着一线技术领袖在生产环境中踩坑摸爬后的硬核实战质感。主讲人风格犀利而坦诚,在调侃“大模型偏执推理”与承认自身早期“存储便宜无所谓”的认知错误时引人发笑又发人深省。听众能强烈感受到一种从浮躁的技术狂热回归到系统工程底座、成本经济学与扎实基本功的清醒与力量。
## Key takeaways - [00:04](https://www.youtube.com/watch?v=eBpHJH714q0&t=4s) AI 转型不仅是引入新工具,而是对人、流程与技术的全面重构,传统平台工程与软件工程边界正在消解,AI 工厂必须作为正统软件工程体系来建设。 - [02:27](https://www.youtube.com/watch?v=eBpHJH714q0&t=147s) 核心度量指标应定为“决策速度”而非单纯的“代码合并速度”;如果架构与业务方向错误,盲目提升代码交付效率毫无意义。 - [02:27](https://www.youtube.com/watch?v=eBpHJH714q0&t=147s) 当前企业推进 AI 工程化面临巨大资源浪费,行业数据显示高达 35% 的推理预算属于无效损耗,且 71% 的团队无法量化单次 PR 的 AI 成本。 - [04:35](https://www.youtube.com/watch?v=eBpHJH714q0&t=275s) FanDuel 将 AI 驱动的软件生命周期划分为四大支柱:代码左侧(上下文与信息架构)、代码本身、代码右侧(对抗性测试与安全红队)以及底层基础设施。 - [07:16](https://www.youtube.com/watch?v=eBpHJH714q0&t=436s) 从计算成本来看“模型其实最便宜”,代码左侧的上下文治理与底层基础设施才是决定最终交付质量与财务账单的核心关键。 - [07:16](https://www.youtube.com/watch?v=eBpHJH714q0&t=436s) 大模型天然缺乏时间感知与推理能力,企业必须重构技术资产的信息架构,避免模型因时效混乱而频繁调用过时 API 与废弃代码。 - [10:10](https://www.youtube.com/watch?v=eBpHJH714q0&t=610s) 明确区分运行时上下文与历史上下文,通过校验机制解决人类工程师在会议或沟通中由于遗忘、直觉等导致的输入端信息失真。 - [11:18](https://www.youtube.com/watch?v=eBpHJH714q0&t=678s) 平台构建了与具体工具解耦的统一编排层与 API 网关,既在安全合规边界内控制流量,又允许开发者自由接入 Cursor、Genie 或私有 DGX 开源模型。 - [11:18](https://www.youtube.com/watch?v=eBpHJH714q0&t=678s) 将幻觉视为信息密度缺失引发的问题并进行闭环富化,同时借助语义缓存复用先验模式,可将端到端推理成本最高削减 80%。 - [14:28](https://www.youtube.com/watch?v=eBpHJH714q0&t=868s) 必须破除“唯大模型与顶配推理”的迷思,防范在简单任务上过度推演导致的“偏执推理”,并警惕工程师依赖一键生成而引发的“无声去技能化”。 - [17:26](https://www.youtube.com/watch?v=eBpHJH714q0&t=1046s) 显式 Prompt 规划成为沉淀资深架构师隐性思维的教学资产,业内约 80% 的实际常规研发负载完全可由中小型工作模型高效承接。 - [17:26](https://www.youtube.com/watch?v=eBpHJH714q0&t=1046s) SWE-bench 等公开榜单得分无法代表生产环境实际表现,企业应像编写单元测试一样构建专有业务评测集(Evals)以评估真实投资回报率。 - [20:28](https://www.youtube.com/watch?v=eBpHJH714q0&t=1228s) Agent 交互与提示词编排正在成为软件工程的核心素养,鉴于高校教育滞后,企业需要像当年普及 TDD 一样主动承担工程师技能重塑。 - [20:58](https://www.youtube.com/watch?v=eBpHJH714q0&t=1258s) 碎片化且重复定义的 Agent 技能会导致 Prompt Cache 击穿并产生昂贵的实时推理开销,必须建立统一标准化的技能库以最大化复用缓存。
## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=eBpHJH714q0&t=4s) 重塑软件开发生命周期:人、流程与技术的重构
在 FanDuel 推进软件开发方式转型的过程中,团队深刻体会到经典维度——“人、流程与技术”(People, Process, Technology)都需要被重新审视与定义。传统开发所依赖的 Jira、GitHub 以及既有的代码管理工具与流程,在面对 AI 带来的极致交付加速度时,形态上已经显得格格不入。团队协作模式也经历了颠覆:过去仅仅是人类工程师之间的协作,如今必须融合物理上的“真实团队成员”与数字化、智能化的“Agent 协作者”。与此同时,传统的平台工程(Platform Engineering)、软件工程与产品工程之间的边界正在迅速消解,迫使团队将底层基础设施视为最核心的交互界面与产品能力。
在这一演进过程中,FanDuel 总结出了贯穿整体转型的关键经验: - **平台中的上下文(Context in the Platform):** Agent 固然重要,但成本与质量的决定性因素往往深藏在底层平台及上下文管理中。 - **模型选型(Model Selection):** 尽管动态模型路由(Model Routing)方案正在涌现,但针对工程场景科学选型仍然是一项能产生长期复利的核心能力。 - **评测与基准测试(Evals & Benchmarking):** 在底层前沿大模型每 3 到 6 周就迭代一次的大环境下,持续评估与基准测试是保障系统稳定加速的前提。 - **一致性(Consistency):** 保持体系结构与数据定义的一致性至关重要,这是踩坑后迅速调整战略得出的教训。 - **AI 工厂即软件工厂(Staffing the AI Factory as a Software Factory):** 许多团队将 AI 转型误当成“数据转型”而困在数据结构和术语里,实际上必须将其作为正统的“软件生命周期转型”与基础设施重构来对待。
```mermaid flowchart TD accTitle: 软件转型核心要素 subgraph Core["转型核心认知与杠杆"] direction TB A["传统边界消解\n(Platform/SE/PE 融合)"] --> B["协作范式跃迁\n(人类与 Agent 协同)"] B --> C["加速判断\n(Speed to Judgment)"] C --> D["三大支柱度量\n(Speed, Value, Quality)"] end ```
---
[02:27](https://www.youtube.com/watch?v=eBpHJH714q0&t=147s) 核心度量体系:追求“决策速度”而非单纯的“代码速度”
转型的第一准则是:任何改动必须“加速人类的判断并展现实质进展”("accelerate judgment and show movement")。FanDuel 强调,转型的目标不是单纯缩短写代码或合并分支的时间。即便能达成“代码合并速度提升 80%”的指标,若合并进来的代码本身方向错误,也毫无意义。因此,团队将北极星指标定为“决策速度”(Speed to Judgment)——即多快能做出正确的架构决策、技术权衡与产品取舍,尤其是在 Agent 缺乏足够业务上下文而无法自主决策的复杂地带。
团队采用“平台即产品”(Platform as a Product)的理念,设立了贯穿速度(Speed)、价值(Value)与质量(Quality)三大维度的度量指标体系。这一布局的背后,是整个行业在 AI 工程化推进中面临的两大痛点数据: - **35% 的年度企业推理超支:** 合作伙伴与行业独立研究表明,企业高达 35% 的 Token 预算纯属无效浪费。 - **71% 的工程团队无法量化 PR 成本:** 绝大多数团队在引入 Agent 编写代码、执行安全扫描与代码评审后,完全算不清一次 Pull Request(PR)背后的真实财务与资源消耗。
---
[04:35](https://www.youtube.com/watch?v=eBpHJH714q0&t=275s) 四大工程支柱:左移上下文与全栈基础设施
FanDuel 将整个 AI 驱动的软件开发转型划分为四个紧密交织的板块,每个板块都拥有独立演进的路线图:
```mermaid flowchart LR accTitle: FanDuel 四大软件演进支柱 subgraph Left["1. 代码左侧 (Left of Code)"] L1["上下文工程 Context Engineering"] L2["信息架构 Information Architecture"] L3["协调知识生成 Knowledge Generation"] end
subgraph Center["2. 代码构建 (Code)"] C1["前沿实验室模型 Frontier Labs"] C2["开源权重模型 Open-Weight Strategy"] C3["代码生成与审查 Agent"] end
subgraph Right["3. 代码右侧 (Right of Code)"] R1["对抗性 AI 测试 Adversarial Testing"] R2["红队演练 Red Teaming"] R3["自动化 QA"] end
subgraph Bottom["4. 底层基础设施 (Underneath / Infrastructure)"] B1["编排层 Orchestration (Initialise)"] B2["AI 网关 Gateway (Kong)"] B3["语义/Prompt 缓存 Semantic Caching"] B4["信任、安全与合规 Trust & Safety"] end
Left --> Center Center --> Right Bottom -.-> Left Bottom -.-> Center Bottom -.-> Right ```
1. **代码左侧(Left of the Code):** 聚焦成本与质量的根源,涵盖上下文工程(Context Engineering)、信息架构以及协调知识生成。 2. **代码本身(The Code):** 涵盖前沿模型(Frontier Models)与开源权重模型(Open-Weight Models)的混合应用,以及编码 Agent 的研发。 3. **代码右侧(Right of the Code):** 聚焦对抗性 AI 测试(Adversarial AI Testing)与红队演练(Red Teaming)。随着 Agent 生成的代码量剧增,潜在攻击面与系统风险显著扩大,必须重塑 QA 与安全体系。 4. **底层基础设施(Underneath Infrastructure):** 涵盖 Agent 编排层(与设计伙伴 Initialise 合作)、AI 网关(基于 Kong 构建)、语义缓存(Semantic Caching)、Prompt 缓存、安全防护以及信任与安全(Trust & Safety)平台。
各团队紧密联动:软件工程团队构建 Agent 交互逻辑,平台团队提供网关与缓存等支撑,产品工程团队则在“代码左侧”优化历史上下文与运行时上下文的配比,从根源上避免无意义的工具调用(Tool Calls)、冗余 MCP(Model Context Protocol)追踪以及过宽过深的上下文消耗。
---
[07:16](https://www.youtube.com/watch?v=eBpHJH714q0&t=436s) “模型其实最便宜”:上下文与信息架构的工程实践
在实际落地中,FanDuel 认清了一个关键事实:“从算力劳动力成本来看,模型反而是最便宜的部分,代码左侧和底层设施才真正决定最终的账单与交付质量”("The model's actually the cheap part... Everything to the left of the code and underneath it decides your bill and your quality")。单纯教工程师怎么写出更好的 Prompt 带来的收益极其有限,真正的杠杆在基础设施与上下文治理层。
在“代码左侧”,核心教训在于“要么喂给模型精准的数据,要么为混乱买单”("Feeding the model or paying for the mess"): - **上下文工程(Context Engineering):** 必须在精准的时间节点向 Agent 提供精准的系统切片。错误的上下文是最昂贵的输入,会导致 Agent 产生幻觉、思考根本不存在的边缘用例,进而造成严重的算力与 Token 浪费。 - **信息架构(Information Architecture):** 原始轨迹与日志(如 Splunk、缓存、分析数据湖中的数据)必须经过可靠流程沉淀并转化为结构化“信息”。当前大模型天然缺乏对时间的感知与推理能力,无法分辨哪一份文档或 API 是最新的。若企业内部技术资产没有清晰的时效结构,模型就会频繁调用废弃的函数、过期的 API 和旧代码,导致系统输出过时且昂贵的结果。 - **协调知识生成(Coordinated Knowledge Generation):** 必须建立机制,将过去散落的知识和新生成的知识体系化组织,使 Agent 与人类能够持续获取一致、高信噪比的技术上下文。
[10:10](https://www.youtube.com/watch?v=eBpHJH714q0&t=610s) 运行时与历史上下文的分离:应对人类信息的不确定性
在构建 AI 赋能的软件生命周期时,信息科学专家面临的最大挑战之一是如何捕捉并利用“即时生成的信息”(Information generated on the fly)。这不仅包括正式文档,还涵盖会议讨论、Slack 频道沟通、走廊即兴交流以及代码审查中突发的灵感与共识。为了系统化协调这些动态信息,FanDuel 将信息架构明确划分为“运行时上下文”(Runtime Context)与“历史上下文”(Historical Context)。运行时上下文指的是在特定的协作节点上,AI 系统必须实时获取并对照历史数据进行加权评估的动态背景。
人类开发者天然存在局限——会遗忘、记错细节、凭直觉行事,或者因为某位核心成员休假而缺失上次决策的完整背景。在这种情况下,系统面临的问题往往不是大模型的“幻觉”,而是输入端的“错误人类信息”。因此,平台必须建立一套机制,依据既有的信息架构对运行时输入的信息质量与一致性进行评级和校验,确保进入交付流水线的上下文具备足够的准确性与可信度。
---
[11:18](https://www.youtube.com/watch?v=eBpHJH714q0&t=678s) AI 平台底座的五大支柱:编排、网关、缓存、安全与可信
为了将上下文高效转化为生产力,FanDuel 搭建了一套平台级基础设施,由五大核心支柱构成。首要是“平台无关的编排能力”(Agnostic Orchestration):无论工程师选择在 Cursor 中构建 Agent、使用 Salesforce Agentforce、Databricks Genie、云端商业 Agent,还是在本地 DGX Spark 集群上运行开源权重模型,“只要能接入系统的统一编排,开发者尽可放手去探索”。这种设计实现了“在边界内自由实验”,由平台掌控安全外围,同时最大化赋予开发者创新自由。网关(Gateway)负责严格控制进出边界的全部流量,贯彻“设计即安全”(Secure by Design)的原则。
```mermaid flowchart TD accTitle: FanDuel AI Platform Infrastructure Architecture accDescription: Architectural diagram showing the five pillars: Gateway, Orchestration, Semantic Caching, Security, and Trust & Safety.
subgraph Boundary ["受控外围 (Secure Perimeter)"] GW["API 网关 (Gateway)"] ORCH["多平台编排层 (Orchestration Layer)"]
subgraph Compute ["计算与模型端"] AG1["IDE / 商业 Agent (Cursor / Genie / Agentforce)"] AG2["开源权重模型 (DGX Spark / 本地集群)"] end
subgraph OptimAndTrust ["优化与可信保障"] CACHE["语义缓存 (Semantic Caching)"] SEC["安全与隐私合规 (Security / PII)"] EVAL["可信与安全 (Trust & Safety / Evals)"] end end
GW --> ORCH ORCH --> AG1 ORCH --> AG2 ORCH <--> CACHE ORCH <--> SEC ORCH <--> EVAL ```
在优化与安全保障层面,语义缓存(Semantic Caching)发挥了决定性作用。代码生成过程中存在大量重复模式,从缓存检索先验知识的成本远低于实时推理;结合开源权重模型共享上下文后,语义缓存能将重复任务的边际推理成本降至近乎为零。作为强监管行业,安全层着重监控敏感隐私信息(PII)被非人类 Agent 处理时的合规风险。可信与安全(Trust & Safety)模块则涵盖两项关键职能:一是通过评估(Evals)验证生成内容的真实性、速度与准确性;二是进行幻觉检测。在本质上,幻觉可以视为“低信息密度”引发的数学问题,系统通过定位代码中信息密度匮乏的盲区,调用协调 Agent 回流富化上下文,从而根除幻觉风险。通过精细调优这些基础设施,行业伙伴与客户实现了高达 80% 的推理成本降幅。
- **多模型与工具自由**:支持 Cursor、Agentforce、Databricks Genie 及私有 DGX 部署的开源权重模型无缝接入。 - **降本增效**:借助语义缓存与架构调优,推理成本最高可降低约 80%。 - **幻觉治理**:将幻觉视为信息密度缺失问题,通过 Agent 闭环进行上下文主动富化。
---
[14:28](https://www.youtube.com/watch?v=eBpHJH714q0&t=868s) 破解“唯大模型论”迷思:防范偏执推理与工程技能退化
技术体系就绪后,真正的挑战转向了组织文化变革。许多团队面临的最大认知陷阱是误以为“模型越大、推理算力堆得越多就越好”。未经系统培训的工程师往往会习惯性调用顶配大模型,并将推理参数拉到上限。这种做法不仅极其昂贵,而且往往适得其反——大模型会在简单任务上过度推演,产生令人哭笑不得的“偏执推理”(Paranoid Inference),例如莫名其妙地去推演“罗德岛某个小镇停电、用户手机恰好插电且路由器断网跳出 Wi-Fi”等极端边缘异常。
更为隐秘且危险的风险是工程师团队的“无声去技能化”(Quiet Deskilling)。部分工程师试图用顶配模型一键单发(One-shot)搞定一切,放弃了深入推敲实现路径、设计边界和代码鲁棒性的思考过程。他们误以为“只要写两句话丢给 36 个 Agent 碰运气,自己就能掌控全局”,导致基础工程能力的全面滑坡。FanDuel 强调,智能路由与技能培养的核心在于守住工程基本功:产品工程师必须懂产品构建逻辑,后端工程师必须精通 API 与架构设计,绝不能因依赖大模型的一键生成而丧失核心上下文掌控力。
> "大模型不仅会带来昂贵的推理账单,更会带来昂贵且偏执的推理(expensive paranoid inference)。" > > "你不能作为一个产品工程师却不知道如何构建产品,也不能作为一个后端工程师却不知道如何搭建 API 和后端架构。"
---
[17:26](https://www.youtube.com/watch?v=eBpHJH714q0&t=1046s) 模型分级、显式思维传承与实战评测(Evals)体系
早期大模型(如早期 Claude Sonnet 提示工程)要求开发者极度清晰、显式地写明步骤、指导约束与参考示例。FanDuel 发现,这类高要求的 Prompt 资产反倒成为了培训初级工程师与平台工程师的绝佳教材——它前所未有地迫使资深开发者将原本藏在脑海里的完整系统思考链路具象化、白纸黑字地展现出来。
数据表明,业内 80% 的实际工作负载完全可以由经过良好规划(Planning)的中小型模型高效完成(如 Claude Sonnet 系列或轻量级 OpenAI 模型)。然而,在“生成方案”与“落地执行”之间往往存在鸿沟,需要前沿大模型在关键决策节点把控方向。
```mermaid flowchart LR accTitle: Task Routing and Benchmark Alignment accDescription: Flow from prompt planning to right-sized model execution and real-world eval benchmarking.
A["显式规划 (Explicit Planning)"] --> B{"任务复杂度评估"} B -->|"80% 常规负载"| C["中小型工作模型 (如 Claude Sonnet / 轻量级模型)"] B -->|"方向校准 / 复杂推演"| D["前沿模型 (Frontier Models)"] C & D --> E["生产真实任务评测 (In-House Evals)"] E -.->|"对照 SWE-bench 纠偏"| A ```
在工程师技能进阶中,FanDuel 将评测(Evals)能力的构建置于核心地位。针对开源社区频繁宣称新模型“性能提升 2%”的狂热现象,团队指出这类测试通常存在 ±4% 的误差区间,且 SWE-bench 等公开基准测试的跑分往往无法真实反映企业生产代码环境下的实际表现。为此,FanDuel 转向基于内部真实业务场景构建专有评测集,用来精准衡量模型升级或跨代迁移(如 4.8、4.9 到 5.x 系列)是否真正具备投资回报率。
- **工作负载配比**:行业内约 80% 的研发负载可由中小型模型配合前置规划稳定承接。 - **公开基准脱节**:SWE-bench 等公开榜单得分无法直接等同于生产环境效能,需警惕小幅跑分提升背后的统计误差。 - **评测即测试**:“编写模型评测(Evals)本质上就如同编写单元测试”,是现代 AI 工程师必须掌握的基础工程素养。
[20:28](https://www.youtube.com/watch?v=eBpHJH714q0&t=1228s) 软件工程新范式的演进与技能重塑
在探讨现代软件研发流程时,Bryce Macher 强调,基于 Agent 和提示词工程的开发模式正在迅速演变成为构建软件的核心与关键步骤。然而,这种能力并非工程师天生具备的技能,目前从大学刚毕业的初级工程师也并未在校园中系统学习过这些知识。这与五到十年前行业推广测试驱动开发(TDD, Test-Driven Development)时的境遇如出一辙——当时高校课程同样没有涵盖 TDD,企业必须在工程实践中完成对新人的培训与技能重塑。因此,当前围绕 Agent 工具与开发模式的探索,正是整个软件工程团队经历新一轮能力转型的必经阶段。
- **工程素养断层**:高校计算机教育在新型 AI 研发模式(如 Agent 工作流设计、提示词编排等)上存在滞后,企业需要像当年普及 TDD 一样承担起培训职责。 - **流程重心转移**:人机协同的 Agent 交互与评估机制正从外围辅助手段转变为软件生命周期(SDLC)的核心支柱。
---
[20:58](https://www.youtube.com/watch?v=eBpHJH714q0&t=1258s) 技能重复与成本陷阱:Prompt 缓存与实时推理的经济账
Bryce Macher 坦率回顾了团队在一年前犯下的一个重大认知错误——关于 Agent 技能与配置文件的重复性问题。起初他的想法非常直接:“我当时根本不在乎外面写了多少个重复的技能,或者建了多少个 Agent 专用的 Markdown 文件(如 `AGENTS.md`),毕竟存储成本那么便宜,谁在乎呢?”("storage is cheap, who cares?")。但随着系统规模不断扩大、成熟度不断提升,团队在运营成本上遭遇了现实的敲打:这种碎片化、重复化的做法在经济模型上是完全错误的。
问题的核心在于大语言模型推理的缓存机制(Prompt Caching)。当团队中的不同工程师针对同一个任务编写了五花八门、各不相同的 Agent 指令与技能定义时,模型调用就无法命中预缓存的上下文,必须每一次都执行昂贵的实时推理(Live Inference),导致企业持续支付高额的推理溢价。意识到这一点后,团队在内部展开了深度的认知转型与工程规范教育,让全员彻底理解“命中缓存的推理”与“未缓存的独立实时推理”在成本和性能上的巨大鸿沟,从而推动了全局技能库与上下文的标准化整合。
```mermaid flowchart TD accTitle: Agent Prompt Caching vs Live Inference
subgraph Fragmented["碎片化/重复定义(错误模式)"] A1["工程师 A 自定义 Agent Prompt"] A2["工程师 B 自定义 Agent Prompt"] A1 --> M1["无法命中缓存 -> 全额实时推理(高成本/高延迟)"] A2 --> M1 end
subgraph Standardized["标准化 Agent 技能库(优化模式)"] B1["统一标准 Agent 技能定义"] B2["团队共享复用上下文"] B1 --> C1{"Prompt 缓存检查"} B2 --> C1 C1 -- "命中缓存" --> M2["缓存推理(低成本/低延迟)"] C1 -- "未命中" --> M3["首次实时推理并写入缓存"] end ```
- **认知转变**:从“存储成本低廉所以无所谓重复”,转变为“重复提示词会导致缓存击穿并带来巨额推理账单”。 - **缓存经济学**:统一、标准化的 Agent 技能与指令模板能够最大化 Prompt Cache 命中率,大幅削减大模型推理开销并降低响应延迟。
## Notable quotes > [02:27](https://www.youtube.com/watch?v=eBpHJH714q0&t=147s) accelerate judgment and show movement — Bryce Macher
> [07:16](https://www.youtube.com/watch?v=eBpHJH714q0&t=436s) The model's actually the cheap part... Everything to the left of the code and underneath it decides your bill and your quality — Bryce Macher
> [07:16](https://www.youtube.com/watch?v=eBpHJH714q0&t=436s) Feeding the model or paying for the mess — Bryce Macher
> [10:10](https://www.youtube.com/watch?v=eBpHJH714q0&t=610s) Information generated on the fly — Bryce Macher
> [14:28](https://www.youtube.com/watch?v=eBpHJH714q0&t=868s) 大模型不仅会带来昂贵的推理账单,更会带来昂贵且偏执的推理(expensive paranoid inference)。 — Bryce Macher
> [14:28](https://www.youtube.com/watch?v=eBpHJH714q0&t=868s) 你不能作为一个产品工程师却不知道如何构建产品,也不能作为一个后端工程师却不知道如何搭建 API 和后端架构。 — Bryce Macher
> [17:26](https://www.youtube.com/watch?v=eBpHJH714q0&t=1046s) 编写模型评测(Evals)本质上就如同编写单元测试 — Bryce Macher
> [20:58](https://www.youtube.com/watch?v=eBpHJH714q0&t=1258s) storage is cheap, who cares? — Bryce Macher
## Mentioned Bryce Macher, FanDuel, Jira, GitHub, Initialise, Kong, Splunk, Cursor, Salesforce Agentforce, Databricks Genie, DGX Spark, Claude Sonnet, OpenAI, SWE-bench
## Video description Bryce Macher - Head of AI, Fan Duel
What if the highest-leverage AI investment is a rebuilt software development lifecycle? I’ll show how we used agent-centric dev lifecycle patterns to compress the path from concept to prototype to production, redefining many stages and enabling engineering, product, and marketing teams to operate on the same accelerated delivery loop. I’ll cover put maturity arc to incorporating and sustaining agentic tooling, code generation, evaluation frameworks, and continuous learning pipelines the improved experimentation velocity and customer relevance - including the many missteps. I’ll explain the technical and operating model changes required to move from isolated pilots to scalable, production-grade AI capabilities. Attend if you want to learn how leading organizations are turning AI into a durable software delivery advantage.
[Source](https://www.youtube.com/watch?v=eBpHJH714q0)