Koji杨远骋at十字路口
大模型概率性特质致使传统云基建失效,行业急需确定性的执行底座以防止AI滥用与安全灾难。
AI-assisted summary of 【十字路口】「模型能力已经够了,要卷就卷 infra」|对谈戴冠兰:Runta 创始人【视频播客】 — original source. Check the original for full context.
Source published:
Detailed notes
## Background 本期视频播客由 Bilibili 频道“Koji杨远骋at十字路口”于 2026 年 8 月 9 日发布。节目邀请了刚完成由 a16z 领投 2000 万美元 Seed 轮融资的 Runta 创始人兼 CEO 戴冠兰,围绕 Agent Infra(智能体基础设施)的创业判断、代际变革以及底层安全控制展开深度对谈。
## TL;DR 对谈探讨了 AI 行业从盲目追求 Token 消耗(Token Maxxing)向注重 ROI 和精细化控制(Token Minimizing)的深刻转变,并阐述了当底层计算单元从确定性转向概率性时,现有传统云原生架构所面临的失效困局。戴冠兰分享了 Runta 致力于为未来数以亿计的 Agent 提供安全隔离、托管调度与可审计执行底座的定位,深入分析了为什么创业公司在此赛道比公有云巨头与大模型厂商更有优势,并对未来可能的 Agent 安全灾难事件及行业应对方向做出了前瞻预判。
## Atmosphere & style 对话充满强烈的硅谷前沿技术洞察与极客务实感,呈现出一种高效、理智且不失幽默的硬核讨论氛围。嘉宾戴冠兰展现出极其扎实的底层 Infra 研发经验与敏锐的商业判断力,面对主持人的提问谈吐干练、妙语连珠;从“跟 Jeff Dean 喊 No”的趣味花絮到对“10 个月内必有灾难性事故”的冷静预测,整期节目既有顶尖创投圈的宏大叙事,又充满了接地气的技术细节与实战考量。
## Key takeaways - [00:00](https://www.bilibili.com/video/BV12Lu16wEgL?t=0s) Runta 创始人戴冠兰认为模型能力已足够成熟,AI 领域的关键竞争点已转向基础设施(Infra),旨在为未来数量将远超人类的数十亿 Agent 提供执行底座与管理方案。 - [00:54](https://www.bilibili.com/video/BV12Lu16wEgL?t=54s) Jeff Dean 提出了 Agent Infra 的核心工程挑战:当系统最底层的执行单元从“确定性”变为“概率性”时,传统的幂等性、事务恢复与隔离机制必须被重新构想。 - [05:00](https://www.bilibili.com/video/BV12Lu16wEgL?t=300s) a16z 领投 Runta 的逻辑在于将托管 Agent 视为从服务器、虚拟机到容器化之后的又一次计算范式转移(Compute Paradigm Shift)。 - [07:11](https://www.bilibili.com/video/BV12Lu16wEgL?t=431s) 企业态度在短短几个月内经历了从过度追求消耗的 Token Maxxing 向关注 ROI、预算控制与归因的 Token Minimizing 转变。 - [11:15](https://www.bilibili.com/video/BV12Lu16wEgL?t=675s) Agent 兼居软件的概率执行特性与人类的无声誉约束/无背锅能力,使得传统基础设施与安全框架无法满足其落地需求。 - [17:53](https://www.bilibili.com/video/BV12Lu16wEgL?t=1073s) 公有云与模型厂商因包袱重或目标冲突,无法提供完美的跨云、多模型中立执行底座,这给下一代 Sandbox/Runtime 创业公司留出了巨大的市场空间。 - [25:52](https://www.bilibili.com/video/BV12Lu16wEgL?t=1552s) 因用户在面对 Agent 时普遍存在“审批疲劳”,未来10个月内极有可能爆发由 Agent 发错敏感电子邮件引发的灾难性安全事故,进而触发行业反思。 - [31:18](https://www.bilibili.com/video/BV12Lu16wEgL?t=1878s) 因为 Transformer 架构存在 Next Token Prediction 的“概率原罪”,无法在物理上彻底区分控制指令与数据,因此必须靠 Infra 侧的硬规则沙箱(如 Claw Shell)建立确定性管控。 - [31:18](https://www.bilibili.com/video/BV12Lu16wEgL?t=1878s) Runta 内部已实现 95% 以上的基础代码由 Agent 编写,人类工程师的核心价值正全面转向底层架构设计与解耦能力。 - [39:27](https://www.bilibili.com/video/BV12Lu16wEgL?t=2367s) 在技术演进的大浪潮下,对底层技术保持强烈的好奇心并具备“往下钻一层”探究原理的能力,是年轻工程师最核心的竞争壁垒。
## Detailed walkthrough ### [00:00](https://www.bilibili.com/video/BV12Lu16wEgL?t=0s) 开场介绍与传统快问快答
Koji 杨远骋在节目开头介绍了本期嘉宾戴冠兰(Guanlan Dai)。冠兰是 Runta 的创始人兼 CEO,Runta 作为 Agent Infra 领域的硅谷明星创业公司,刚完成了由 a16z 领投的 2000 万美元 Seed 轮融资,李飞飞(Fei-Fei Li)与 Jeff Dean 等业内传奇人物也以个人天使身份参与投资。
进入快问快答环节,冠兰分享了他的个人基本信息与从业背景: * **基本信息**:35 岁,毕业于美国东北大学(Northeastern University),天秤座,MBTI 在 INTJ 与 ENTJ 之间横跳,自认更偏向 I 人。 * **团队现状**:目前团队规模在 10 人左右,后台已有成百上千个 Agent 在跑任务。 * **过往履历**:在创业之前,冠兰曾是 Cloudflare(负责 Edge 边缘平台)与 Kong(负责 API 网关与云)的早期团队成员,积累了十多年为被动软件与 SaaS 时代打造 Infra 的经验。
对于未来的行业愿景,冠兰用一句话总结:未来的 AI 智能体数量将远超人类,而 Runta 正是为这几十亿个 Agent 打造的执行底座,解决它们“跑在哪”以及“跑起来怎么管”的核心难题。
- ** Seed 轮融资**:2000 万美元,a16z 领投,Jeff Dean、李飞飞以个人天使身份参投。 - **个人从业年限**:10 余年 Infra 研发经验。
---
[00:54](https://www.bilibili.com/video/BV12Lu16wEgL?t=54s) Jeff Dean 的灵魂发问与概率性系统工程挑战
谈及 Jeff Dean 与李飞飞的投资过程,冠兰分享了一段极具启发性的深度对谈。Jeff Dean 在交流中抛出了一道极难回答的硬核系统工程难题:**“如果系统最底层的执行单元变成了概率性(Probabilistic)的,那 Infra 这一层要怎么构建?”**
冠兰解释道,传统软件工程的底层地基是确定性(Deterministic)的,无论幂等性、事务恢复还是异常处理,都建立在“相同输入带来相同输出”的逻辑之上,即便出错也是可预估和可枚举的。然而,大模型本身的特质就是概率性的,当 Agent 需要走向生产环境时,分布式系统的复杂度(如隔离、分岔、恢复)反而暴增。如果底层 Infra 无法承载这些复杂度,压力就会全部倾倒至 Runtime 层。
此外,随着 Agent 的任务时长从早期的几分钟、几个 Turn,演变为持续数小时乃至跨天的长程任务,现有的传统 Infra 在处理迁移、热迁移、隔离与分岔等难题上已显疲态。这也是 Jeff Dean 与李飞飞选择投资的原因之一:冠兰曾亲身参与上一代 Infra 从零构建的全过程。
> "如果系统最底层的执行单元它变成了概率性的话,那 Infra 这一层要怎么构建?"
- **传统与 AI 执行层的核心差异**:传统软件为确定性输入输出;Agent 行为是概率性生成的,每次跑甚至生成的代码都不同。 - **网络规模参考**:冠兰在 Kong 期间,系统每天需要承载 3000 亿次 API 请求,在这种体量下,哪怕 0.00001% 的极小概率故障都会演变成必然发生的重大事故。 - **趣味花絮**:由于 Seed 轮份额太抢手,冠兰不得不对想要追加投资额度的 Jeff Dean 说了“No”。
---
[05:00](https://www.bilibili.com/video/BV12Lu16wEgL?t=300s) a16z 为什么为 Runta 撰写专题文章?
针对 a16z 合伙人 Martin 亲自撰文解释《Why We Invested in Runta》这一罕见举动,冠兰揭示了背后的商业洞察。a16z 认为 Runta 并非只是一个单纯的工具或产品 feature,而是一个**平台级别的代际计算变革机会(Compute Paradigm Shift)**。
正如历史上计算载体从“客户端/服务器”走向数据中心、物理机、虚拟机乃至容器化(Docker/Kubernetes),每一次代际迁移都会诞生全新的平台级巨头。这一次变革的本质在于:托管的对象已经从“托管软件与服务”转变为“托管与管理 Agent”。只要这一判断成立,其市场空间就是极其巨大的。
简而言之,Runta 替企业客户解决的核心痛点,就是**在非确定性(Non-deterministic)的概率性工作负载上,加入确定性的底座支持**,从而建立起足够的安全与信任链。
- **托管对象转变**:从 Software/Services 迁移至 Autonomous Agents。 - **企业落地的底层支撑**:涵盖控制 Agent 的数据访问权限、生产权限、运行归因、审计以及弹性 Scale 上去的能力。
---
[07:11](https://www.bilibili.com/video/BV12Lu16wEgL?t=431s) 从 Token Maxxing 到 Token Minimizing 的大反转
Koji 与冠兰深入探讨了近期 AI 领域一个显著的行业风向反转:短短几个月内,企业态度从 **Token Maxxing(消耗越快越多越光荣)** 迅速转变为 **Token Minimizing(精细化控制与 ROI 考量)**。
冠兰剖析了这一现象的演进脉络: 1. **起因**:自 OpenAI o1 等 Thinking 模型(思维链 CoT、SOT)问世后,管理者认为使用更多 Token 等于让 AI 变得更聪明。 2. **组织异化**:企业(以 Meta、Amazon、Stripe 为代表)开始将 Token 消耗量作为员工 AI Native 程度的可度量 KPI。去年底,冠兰走访前沿客户 AirLab 时,甚至在墙上的显示器上看到“本周员工 Token 使用排行榜”,前几名可获得奖励,而后期的 Performance Review 甚至直接将 Token 消耗与绩效考核挂钩。 3. **极端乱象**:员工为了刷榜完成 KPI,甚至写脚本跑无意义的 Loop 循环来消耗 Token,或者直接盲目调用最贵的旗舰模型(如 Jenson 提及的极端案例)。 4. **反转触发**:今年 3-4 月起,企业 CFO 们开始查账。如 Uber CFO 公开指出“公司在 4 月份就把全年的 LLM 预算消耗完毕了,但到底收获了什么价值?”再加上点火阶段结束、模型实际成本被远远低估,整个市场迅速冷却,开始转向预算控制与归因。
> "Uber CFO 跳出来说,我们在 4 月份就已经把全年的 Token 量、LLM 的使用量给用完了,我们到底收获了什么东西?"
- **组织管理异化表现**:Token 使用量一度与绩效考核挂钩,导致员工写无用脚本“刷榜”。 - **Runta 内部的 Token 管理机制**:初期采用 Unlimited 模式,随后加入适度摩擦——为员工订阅最高级的 Ultra Plan,用完后需说明用途并走阶梯申请流程,打破“Token 完全免费”的幻觉。
---
[11:15](https://www.bilibili.com/video/BV12Lu16wEgL?t=675s) 为什么 Agent 既不像传统软件,也不完全像人类?
回顾在 Cloudflare(负责网络防火墙 WAF、缓存及 Worker 边缘计算)和 Kong(负责 API 网关与企业数字化转型)的履历,冠兰指出,这两段经历让他深谙面向 Fortune 500 巨头的服务门道。而当前全新的 Agent 工作流,彻底打破了以往的基础设施范式。
冠兰对比了 Agent 与软件、人类的三方特性: * **不同于软件**:Agent 是概率性执行的,不具备预定规则,无法穷尽逻辑。 * **不同于人类**:人类受到社会契约与个人声誉的约束(如投资人丢名誉、工程师丢工作甚至承担法律责任),拥有“背锅能力”;而 Agent 出了事故,责任只能落到开发者、企业副总裁或公司身上。
因为 Agent 兼具两者特性又无对应 Infra 承载,市场上多数创业公司仅靠拼凑现有技术,缺乏地基式的首要原理(First Principles)思考。这促使冠兰放弃了在 Kong 的高管待遇,选择从零创业。
- **开发工具集成**:现有的 Codex 或 Claude Code 等代码 Agent,均可无缝放置在 Runta 的云端 Host 平台上,获得 24 小时弹性伸缩、成本控制、凭证与密钥隔离等额外能力。 - **安全隐患爆发**:近期的安全调研显示,大部分尝试使用 Agent 的世界 500 强企业,均已发生过敏感机密或客户数据被 Agent 意外泄露的事故。
---
[17:53](https://www.bilibili.com/video/BV12Lu16wEgL?t=1073s) 为什么公有云与大模型厂商给不了完美解法?
针对“为什么这会是创业公司的机会,而不是 AWS/阿里云等公有云或 Anthropic/OpenAI 等模型厂商的天下?”这一核心质疑,冠兰给出了清晰的差异化定位分析。
**对比公有云(Cloud Giants)**: * 现有的公有云底座与计费模型是为传统软件和 SaaS 设计的。类似 GPU 浪潮催生了 Neo Cloud 对传统数据中心的重建,Agent 时代同样需要全新的计算底座。 * 传统云厂商内部包袱重,新旧计价模型自我互搏,响应速度慢。
**对比大模型厂商(Frontier Labs)**: * 尽管 Anthropic 推出了 Managed Agents,但企业真实落地时绝对不会被单一模型或单一云厂商强绑定。多模型、多 Harness、多云混合是分散风险和控本的必然趋势。 * 模型厂商的核心诉求是“提高模型能力并获取训练信号”,而 Infra 厂商的核心诉求是“提供稳定可控的执行底座”,二者在资色划分与目标上有着本质不同。
> "模型能力已经够了,要卷就卷 Infra!"
- **潜在竞争对手分析**:主要的竞争并不直接来自传统公有云或模型厂商,而来自上一代做 Serverless/Sandbox(如基于 Firecracker 技术)转型上来的团队(如 E2B、Daytona)。 - **传统 Sandbox 的局限**:传统沙盒是为 15 分钟内的短时代码片段设计的;面对持续数天的 Agent 长程任务、动态内存伸缩与 GPU 调度,上一代方案难以支撑。
---
[22:50](https://www.bilibili.com/video/BV12Lu16wEgL?t=1370s) 标品与非标品的路线选择,以及 Agent 的边界模糊性
关于创业初期的商业化策略,Koji 与冠兰展开了探讨。在“做高客单价的非标定制化服务”还是“做高可扩展性(Scale)的标准化平台”之间,冠兰坚信 Runta 必须做**通用标准化平台**。
* **服务客户群**:优先服务最前沿的 **Agent Native 公司**(如 Agent Builder、剪视频或做 Marketing 的垂直 Agent 开发商)。这类客户具备极高的 Token 吞吐量,能快速将 Runta 的底层能力传递给成千上万的终端 Agent。 * **Agent 的定义混淆**:目前行业内对 Agent 的边界缺乏统一共识。无论是拟人化命名(张三、李四)、按分攻领域划分,还是按单次任务分配临时权限,定义依然混乱。
- **商业化策略**:以 Agent Native 创业团队为核心抓手,同时与 Fortune 500 企业保持阶段性 Sync,掌握大企业的落地痛点。
---
[25:52](https://www.bilibili.com/video/BV12Lu16wEgL?t=1552s) 审批疲劳(Approval Fatigue)与预言:“未来 10 个月内必有灾难性事故”
聊到权限管理时,Koji 分享了自己的真实体验:最初让 AI 智能体访问 Gmail 发邮件时还会仔细审核,但久而久之产生了**审批疲劳(Approval Fatigue)**,为了追求便捷,不知不觉交出了所有边界与控制权,直接选择“允许”。
冠兰对此做出了一个极其大胆的预测:**在未来的 10 个月内,行业必然会发生一起因为 Agent 错误发送电子邮件而导致的灾难性事故**(如泄露商业机密、向 LP 发错敏感内容),从而彻底重新“教育”整个 AI 市场。
冠兰强调,传统网络安全依赖静态扫描和特征匹配,但这不适用于 Agent。Runta 正在开发开源项目 **Claw Shell**(已支持 OpenClaw 等本地框架),主打“硬规则管控”与“可审计恢复”,例如限制 Agent“只能读邮件,绝不能发邮件”,在可控边界内释放 AI 的生产力。
> "未来必然会有一个灾难性的 Email 通过 Agent 发出去,引发特别难以挽回的后果。Mark my word,我觉得绝对会发生。"
- **安全与便捷的博弈**:用户会不断为了便捷牺牲安全,直到灾难性事故爆发触动反思。 - **Runta 的安全哲学**:不靠限制性的安全框架捆绑 Agent,而是通过坚实的执行底座,提供审计与故障恢复能力,建立企业对 Agent 的信任。
---
[31:18](https://www.bilibili.com/video/BV12Lu16wEgL?t=1878s) 内部研发实况:95% 代码由 Agent 替代与 Transformer 的概率原罪
冠兰透露,Runta 内部在搭建自己的产品时,**95% 以上的入门级编程工作已经完全由 Agent 替代**,人类工程师的核心价值集中在底层架构设计、API 设计以及解耦偶合能力等 Infra 级判断力上。
同时,他们使用自己的执行环境对 Agent 进行监控,发现 Harness(框架)在运行中存在大量的 Token 浪费,并借此帮客户形成优化闭环。
针对近期 OpenAI 模型被黑、甚至导致 Hugging Face 事故的行业事件,冠兰分析了模型安全的底层逻辑: 1. **Transformer 架构的“概率原罪”**:只要 Transformer 架构不发生根本性改变,其本质永远是 Next Token Prediction。它从物理上无法真正区分输入的到底是“控制指令”还是“数据”。 2. **Prompt Injection 无法根治**:模型侧添加特殊分隔符等防范手段极易被绕过。当安全事故发生时,闭源模型厂商(如 OpenAI)往往会因为边界问题而选择拒绝处理,最终往往需要借助开源模型进行安全调查与溯源。 3. **Infra 的确定性补充**:正是因为模型侧无法根治安全问题,才必须在 Infra 侧引入确定性的执行框架,确保系统在企业可控范围内运行。
- **研发效率**:95% 以上基础代码由 AI 编写,团队天天用自己的产品“自我迭代”。 - **开源与闭源竞争**:开源模型正在快速逼近 SOTA(如 Kimi、DeepSeek Flash 模型在性价比上的突破),模型能力爬坡正在放缓,基础设施的滞后成了最大的瓶颈。
---
[39:27](https://www.bilibili.com/video/BV12Lu16wEgL?t=2367s) 职业生涯的“三波浪潮”与核心招聘秘诀
冠兰回顾了自己的职业生涯,总结出选择创业与加盟早期团队的三大浪潮节点: 1. **2015 年前后(Cloudflare)**:预判数据中心向云端及边缘计算迁移的浪潮,果断加入早期 Cloudflare。 2. **2020 年前后(Kong)**:预判云原生与微服务混战(Mesos、Kubernetes 等)的浪潮,作为创始工程师与第 1 位 Engineering Manager 加入 Kong。 3. **2026 年(Runta)**:认定 AI Agent Infrastructure 是不可逆转的代际浪潮,“不做会后悔一辈子”。
对于年轻工程师的职业发展,冠兰提出了两个核心建议: * **对底层技术保持敬畏,具备“往下钻一层”的能力**:90% 的工程师只求“代码能跑通就行”,但只有不到 5% 的人拥有对底层的强烈的勾起心与研究能力(如深入到 Kernel 级别、优化算子或协议栈)。这是 Runta 招聘时最看重的能力。 * **利用时间做“脑部实验”**:年轻时最大的资本是时间。在面试或加入公司前,花 24 小时站在 CEO 的视角去推演业务,甚至花上一年时间去研究创始人与行业演变(冠兰在加入 Kong 前曾追踪观察了创始人一年多)。
> "浪潮退去,我觉得有这种我就收板回家的勇气;浪潮来了,一定要有勇于冲浪的能力。"
- **招聘秘诀**:看候选人是否具备自己手撕捣鼓一套系统、快速吃透底层技术的强好奇心。 - **思想实验**:假设手头有 300 万美金虚拟资金,冠兰表示会投给**头部视频模型早期团队**(已被证明能赚钱的赛道)以及 **AI for AI / Auto Research 团队**。
---
[50:00](https://www.bilibili.com/video/BV12Lu16wEgL?t=3000s) 测评与结尾:Codex vs Claude Code 及终极愿景
在尾声的轻松对话中,冠兰分享了他日常使用的 AI 工具与团队管理偏好: * **Codex vs Claude Code**:冠兰目前更倾向于使用 Codex。他打了个生动的比方——Claude Code 像是一个活泼唠叨的美国人,会抛出大量对话;而 Codex 更像是一个埋头苦干的德国人,“人狠话不多”,默默把质量极高的代码写完。 * **模型路由自主权**:Runta 内部将 Model Router 的选择权彻底交给工程师个人,大家会根据任务恢复半径灵活选用 Glock、Fireworks、Hermes、Pi 乃至国产前沿模型。 * **激进应用**:冠兰个人是公司内使用 Agent 最激进的人,甚至在使用 Eleven Labs 等音视频 Agent 处理自动电话沟通与财务催款。
最后,冠兰表达了对 Runta 终极愿景的期待:希望一年之后,“Agent 执行需要专门的执行底座”能成为像“数据需要存进数据库”一样的行业共识。面对每天创业过程中的波折,只要想到能为未来数十亿 Agent 构建基建,就充满了探索的兴奋感。
---
<ElicitationsGroup message="如果您想进一步了解对话中涉及的具体技术与趋势,可以探索以下方向:"> <Elicitation label="深入分析 Agent 时代的执行底座(Runtime/Infra)设计挑战" query="请详细分析 Agent Infrastructure 与传统 SaaS/云原生 Infra 的核心差异,以及搭建 Agent 执行底座时面临的技术挑战。"/> <Elicitation label="探讨 Agent 权限控制与 Claw Shell 开源项目" query="请介绍 Agent 权限管理中的“硬规则”与“审批疲劳”问题,以及开源安全框架如何实现对 Agent 的沙箱管控。"/> </ElicitationsGroup>
## Notable quotes > [00:54](https://www.bilibili.com/video/BV12Lu16wEgL?t=54s) 如果系统最底层的执行单元它变成了概率性的话,那 Infra 这一层要怎么构建? — Jeff Dean
> [07:11](https://www.bilibili.com/video/BV12Lu16wEgL?t=431s) Uber CFO 跳出来说,我们在 4 月份就已经把全年的 Token 量、LLM 的使用量给用完了,我们到底收获了什么东西? — 戴冠兰
> [17:53](https://www.bilibili.com/video/BV12Lu16wEgL?t=1073s) 模型能力已经够了,要卷就卷 Infra! — 戴冠兰
> [25:52](https://www.bilibili.com/video/BV12Lu16wEgL?t=1552s) 未来必然会有一个灾难性的 Email 通过 Agent 发出去,引发特别难以挽回的后果。Mark my word,我觉得绝对会发生。 — 戴冠兰
> [39:27](https://www.bilibili.com/video/BV12Lu16wEgL?t=2367s) 浪潮退去,我觉得有这种我就收板回家的勇气;浪潮来了,一定要有勇于冲浪的能力。 — 戴冠兰
## Mentioned 戴冠兰, Koji杨远骋, Runta, a16z, Jeff Dean, 李飞飞, Cloudflare, Kong, Martin, OpenAI, Meta, Amazon, Stripe, AirLab, Uber, Codex, Claude Code, Anthropic, AWS, E2B, Daytona, Firecracker, Claw Shell, OpenClaw, Transformer, Hugging Face, Kimi, DeepSeek, Glock, Fireworks, Hermes, Pi, Eleven Labs
## 弹幕氛围 (Danmaku mood) — 2 条 观众整体呈现出怀疑、质问以及调侃的氛围。观众对视频提及的模型能力表示不解与质疑,并借用行业人物(奥特曼)进行吐槽,同时针对视频内容涉及的具体专业身份(网络工程师)进行了简单互动。
**整体情绪**:😊 正面 0% · 😐 中性 40% · 😞 负面 60%
**热议点** - **质疑模型能力与调侃行业大佬** —— “模型能力够在哪,奥特曼知道这个事吗” - **提及专业身份与职业领域** —— “网络工程师”
**代表弹幕** > 模型能力够在哪,奥特曼知道这个事吗
> 网络工程师
[Source](https://www.bilibili.com/video/BV12Lu16wEgL)