十字路口Crossing
大模型不确定性导致安全事故必然发生,下一阶段AI基础设施竞争将集中于运行时执行底座。
AI-assisted summary of 「模型能力已经够了,要卷就卷 infra」|对谈戴冠兰:Runta 创始人 — original source. Check the original for full context.
Source published:
Detailed notes
## Background 本期内容由频道「十字路口Crossing」于 2026 年 8 月 9 日发布于小宇宙平台。节目简介显示,本期对谈邀请了硅谷 Agent Infra 明星创业公司 Runta 的创始人兼 CEO 戴冠兰,深入探讨了其刚完成由 a16z 领投的 2000 万美元种子轮融资背后的故事、行业从 Token Maxxing 到 Minimizing 的风向转变、Agent 执行底座的构建逻辑,以及关于 AI 时代安全、权限与行业未来发展的深刻洞察。
## TL;DR Runta 创始人戴冠兰在对谈中分享了在非确定性 LLM 时代构建 Agent 执行底座(Runtime)的必要性与核心挑战。他指出,随着大模型能力趋于平稳,行业重心已从盲目刷用量的 Token Maxxing 转向追求 ROI 的 Token Minimizing,而缺乏确定性的 Agent Workflow 必然需要全新的 Infra 来解决隔离、热迁移与安全审计等问题。此外,他还探讨了公有云与创业公司的竞争边界,预言灾难性 Agent 事故的必然发生,并为年轻工程师提供了看懂创业公司与选对赛道的实操建议。
## Atmosphere & style 对话氛围专业而又轻松活跃,既有深刻的底层系统工程干货碰撞,又不乏硅谷前沿创业圈的趣味八卦与极客幽默。戴冠兰凭借其在 Cloudflare 和 Kong 的深厚 Infra 背景,展现出极强的“第一性原理”思考力与自信沉稳的极客气场,与主播 Koji 的默契互动让整场讨论节奏紧凑、妙趣横生。从揭秘与 Jeff Dean Say No 的豪气,到对“灾难性事故必然发生”的犀利预判,整期节目充满了思想碰撞的火花与对 AI 时代未来的无限好奇与热忱。
## Key takeaways - `01:32` 戴冠兰创立的 Runta 是 Agent Infra 领域的硅谷明星创业公司,刚完成由 a16z 领投的 2000 万美元 Seed 轮融资,Jeff Dean、李飞飞等业界巨头也参与了个人天使投资。 - `05:04` 大模型本质上是概率性(probabilistic)的,一旦 Agent 上生产,系统的不确定性将急剧放大,这要求传统的底层基础设施必须向能够处理热迁移、隔离和分岔的专有 runtime 层演进。 - `05:33` a16z 之所以为 Seed 轮公司专门撰文背书,是因为看到了“计算范式从软件向 Agent 转移”的平台级机会,Runta 在非确定性工作负载下为企业提供安全托管和动态管控的确定性底座。 - `07:33` 行业在短短半年内经历剧烈反转:从盲目追求消耗 Token 的 Token Maxxing 迅速转向讲究 ROI、预算与节流的 Token Minimizing。 - `12:50` Agent 兼具软件的自动化与类似人类的执行特征,但人类犯错有声誉或法律代价,而长程 Agent 在生产环境中缺乏现有的云 Infra 来定义责任归属与执行边界。 - `21:12` 面向长程、动态内存伸缩与 GPU 挂载的 Agent 需求,传统基于 Serverless 的 Sandbox(如 E2B、Daytona)难以承载,必须依赖全新的第一性原理执行底座。 - `25:30` 随着人类在日常使用中为追求便捷而不断放弃控制权,未来必然会因为“Approval Fatigue(审核疲倦)”而遭遇灾难性的 Agent 事故,这需要通过强隔离和恢复的 Infra 来对冲风险。 - `32:28` Runta 内部 95% 以上的开发工作都在进行 Vibe Coding,但人类工程师在底层架构、API 设计以及复杂组件耦合上的判断力依然不可替代。 - `33:28` Transformer 的概率预测机制无法在模型侧根治安全漏洞,因此安全和确定性的重任必须交由 Infra 侧来实现,将非确定性工作负载关进可控范围。 - `37:27` 冠兰提出“模型能力已经够了,要卷就卷 Infra”,当前 Frontier Lab 的模型爬坡放缓,但基础设施和 Harness 的严重滞后限制了企业的的大规模落地。 - `42:16` 职场新人在加入创业公司时,应当拥抱时代浪潮,寻找那些愿意“向下钻一层”、对底层技术保持强烈好奇心的优秀团队与创始人。
## Detailed walkthrough ### 嘉宾介绍与快问快答 主播 Koji 开启本期播客,隆重介绍本期嘉宾戴冠兰——硅谷明星创业公司 Runta 的创始人兼 CEO。Runta 刚完成由 a16z 领投的 2000 万美元 Seed 轮融资,同时 Jeff Dean、李飞飞等业界巨头也以个人天使身份参与投资。在进入正题之前,Koji 按照惯例对冠兰展开了轻松的快问快答:冠兰今年 35 岁,毕业于美国东北大学。谈到星座和 MBTI,他笑称自己是“天平座”,MBTI 则在 **INTJ** 和 **ENTJ** 之间横跳,自己觉得偏 **I(内向)** 多一些。 谈及目前的公司与产品,冠兰用简练的语言描绘了一个宏大且令人兴奋的未来:“我们会认为未来的 AI 智能体会比人类更多,未来这几十亿个 Agent 到底跑在哪?跑起来怎么管?Runta 就是为 AI 智能体打造的这种执行底座。”目前团队规模在 10 人左右,并且团队内部已经有了整整“几千个 Agent 在后面干活”。在创业之前,冠兰在 Cloudflare 做过 Edge 边缘平台,在 Kong 做过网关与云,加起来大概有十多年,一直都在为软件和 SaaS 时代打造 Infrastructure。
---
### 斩获 2000 万美元 Seed 轮与大牛天使投资的幕后 播客随后切入核心话题:Runta 种子轮直接融了 2000 万美元,且由 a16z 领投,更有 Jeff Dean 和李飞飞以个人身份参与。谈到如何拿到 Jeff Dean 和李飞飞的投资,冠兰回忆了与 Jeff Dean 的那场极其深刻的深度对谈。Jeff Dean 当时抛出了一个极具穿透力的问题:“**如果系统最底层的执行单元它变成了概率性的话,那 Infra 这一层要怎么构建?**”冠兰解释道,过去所有的系统工程、事务恢复都是建立在软件的“确定性”之上的——输入相同则输出相同,出错即是异常,可以通过穷举来处理。 然而大模型本质上是 **probabilistic(非确定性)** 的,一旦 Agent 上生产,分布式系统的复杂度(如恢复、隔离、分岔等)反而会激增。冠兰当时的想法是,既然底层的不确定性是大模型的特质,那么这些复杂度必须压到 **runtime 层**去解决。上一代 Infra 解决的是物理机怎么跑、让开发者不用操心底层硬件;而这一代 Infra 真正要解决的是“执行本身怎么做”。目前 Agent 越跑越长,从过去几分钟、几个 turn 的 Chat 演变为运行几个小时甚至全天的 Agent,现有的 Infra 根本无法处理其中的热迁移、隔离和分岔等难题。 此外,冠兰认为自己过往在 Cloudflare 和 Kong 的经历也是关键筹码。他参与并经历过上一代 Infra 从“第一性原理(First Principles)”出发、从头构建的全过程。例如在 Kong,每天要处理高达 **3000 亿次 API 请求**,在这样庞大的规模下,哪怕是 $0.00001\%$ 的极小概率错误,也会变成大概率事故。这种亲历超大规模系统构建的经验,让他在回答底层系统工程问题时展现出了极强的功底。冠兰甚至笑言:“最后 Jeff Dean 还想要多投一些,我说我这份额不太够了,能够成为一个‘和 Jeff Dean Say No’的人,我觉得也是一个挺有意思的经历。”
---
### a16z 罕见撰文背书与 Runta 的核心价值 对于 a16z 罕见地为一家 Seed 轮公司专门由 General Partner 撰写题为《为什么我们投 Runta》的 Blog(且由 Marc Andreessen 亲自撰写),冠兰分析认为,a16z 看到这绝不仅仅是一个 Product 或 Feature,而是一个“**平台级别的机会**”。这波浪潮本质上是计算范式(Compute Paradigm)的巨大变化——类似于从客户端服务器到数据中心、从物理机到虚拟机再到容器化的演进。这一次,托管的对象彻底从“软件/服务”变成了“Agent 智能体”。 当被要求用最简单的一句话解释 Runta 替客户解决的关键问题时,冠兰表示,他们做的是基础设施建设,在非确定性(Non-deterministic / Probabilistic)的工作负载下,为企业加入一层“确定性”,让企业能够放心把生产权限交出来: * **安全托管与信任建立**:让 Agent 能够安全地跑在云端,接触生产权限、访问客户数据。 * **动态管控与 Scale**:在 Agent 动作的那一刻,由执行层进行全方位管理与弹性伸缩。
---
### Token 文化的急转弯:从 Maxxing 到 Minimizing 话题转到近期 AI 领域极其剧烈的一个反转:仅仅在三到六个月前,硅谷和前沿科技圈还在盛行 **Token Maxxing**(鼓励员工和企业大量消耗 Token,用的越多越光荣、越 AI Native,甚至将其作为可度量的 KPI,Meta 和亚马逊等大厂曾在办公室显示屏上实时滚动展示员工本周 Token 排名并给予奖励);而风向在短短几个月内急转直下,迅速转向了 **Token Minimizing**(控制成本、ROI 预算、归因、节流)。 冠兰分享了当时最 Drama 的故事:为了刷 Token 排名,有员工甚至写了一些没用的 Loop 循环去死刷用量。直到今年 3 月,随着 Uber CFO 跳出来公开表示公司在 4 月份就已经把全年的 Token 预算用光,大家开始猛然清醒:**Token 真的很贵,远远超出了大家的预期**。点火阶段已经结束,企业开始严控成本、讲究投资回报率(ROI)。 作为一家 10 人左右的创业公司,Runta 内部也经历了这个过程。他们一开始对团队实行“Unlimited Token”的 Token Maxxing 策略,让大家觉得 Token 是免费的。后来他们调整为阶梯制:提供几个 Ultra Plan 额度,用完后需要向公司汇报用在何处。通过加入一些流程上的“小摩擦”,让大家感知到资源的成本,同时整体上依然保持相对宽松的状态。
---
### 从 Cloudflare、Kong 到第一次以 CEO 身份创业 谈到职业生涯的重大跨越,冠兰回顾了自己在 Cloudflare 和 Kong 的履历。在 Cloudflare,他是最早的核心工程师之一,担任 Edge 边缘平台的技术负责人,参与了边缘缓存、WAF(网络防火墙)以及早期 Worker 系统(端侧计算平台)的搭建。在 Kong,他负责企业网关、限流、寻址导流,并深度接触了世界 500 强客户的数字化转型落地。 谈到为什么在 Kong 发展顺利的情况下选择离职、第一次以 CEO 身份独立创业,冠兰坦言,大模型把电力转化成了 Token,而 Agent 的工作则是把 Token 转化成企业的实际价值。然而,**Agent 更像人类而非传统软件**:它是概率性执行的,每次生成的内容和代码都不一样,无法用传统软件的预定规则去穷尽。 “但同时它跟人又有不一样的地方:人类犯错有声誉风险或法律后果(要背锅、甚至坐牢喝茶),而 Agent 出了事谁来背锅?是大模型厂商、写 Harness 的开发者,还是企业的负责人?”这种“既像软件又像人类,但两者皆有不同”的全新 Workflow,让冠兰意识到现有的 Infra 没有一个是为它设计的。正是这种巨大的底层机会和缺乏深刻第一性原理思考的市场现状,促使他毅然放弃在 Kong 的优厚职位,出来创立 Runta。
---
### 为什么这是创业公司的机会,而非公有云或大模型厂商的生意? 面对“为什么 Agent Infra 是创业公司的机会而不是公有云生意”的灵魂拷问,冠兰指出,现有的公有云(国内五朵云、海外三朵云)底座全部是为 SaaS 和传统软件(面向人类和确定性软件)设计的,就像上一波 AI 浪潮中,传统数据中心全是为 CPU 搭建的一样,而 GPU 的崛起催生了无数 New Cloud。同理,公有云虽然会朝这个方向迭代,但它们的计价模型和内部历史包袱会带来巨大冲突,这给创业公司留出了切入空间。 至于大模型厂商(如 Anthropic、OpenAI 推出 Managed Agent 系统)是否会吃掉这个赛道,冠兰认为: * **多模型与多云趋势**:企业在实际落地时绝不会绑定单一模型或单一云厂商,分散风险和控制成本是刚需。 * **职责分工不同**:大模型厂商的核心诉求是“把模型能力提上来”,获取信号来改善模型本身;而 Infra 底座则专注于执行平面的安全、隔离与调度,两者有着明确的职责划分。 * **真正的竞争对手**:竞争更可能来自 New Cloud,或是上一代转型做 Serveless 的厂商——尽管他们同样面临基本盘和包袱过重的问题。 针对市场上如 E2B、Daytona 这类基于 Firecracker 等技术的 Sandbox(沙盒)方案,冠兰评价道,它们继承自上一代 Serverless(如 AWS Fargate),非常适合 15 分钟到 1 小时之内的“短时间代码片段快速跑出结果”的任务。但当 Agent 运行时间越来越长、涉及动态内存伸缩、按需挂载 GPU 以及热迁移时,上一代沙盒技术便会捉襟见肘。Runta 必须从底层的第一性原理出发,为未来几十亿个 Agent 打造定制化的操作系统和网络处理流程。
---
### 标准品与非标品、Agent 的边界与“Approval Fatigue” 谈到创业初期是做“非标品(定制服务)”还是“标品(通用产品)”时,Koji 认为直觉上应该做标品以便 Scale,但如果大客户单价极高(如一年几千万美金),组建专门团队也未尝不可。冠兰回应称,目前的策略是“两把抓”:优先服务那些代表最先进生产力的 **Agent Native** 创业公司(即造 Agent 给别人用的开发者、垂类 Agent 公司),因为他们有规模、愿意接受新技术;同时定期与世界 500 强客户保持 Sync-up,了解他们在落地 Agent 过程中的痛点与需求。 关于“企业里有几百个 Agent,究竟该如何划定 Agent 的边界”,冠兰指出目前行业并没有统一共识。常见的方式包括赋予 Agent 拟人化的身份和名字,或者在每次干活时动态分配所需的最小权限、干完立刻收回。Koji 分享了自己的痛点:虽然希望让 Codex 帮忙读取 Gmail,但心里极不踏实,生怕边界被吞噬。冠兰一针见血地指出这叫 **“Approval Fatigue(审核疲倦)”**。 冠兰分享了他订鸟岛的趣味案例:他曾让 Manus 帮忙找当地的鸟导并用英文发邮件联系报价。起初他会让 Manus 写出草稿(Draft)由自己点发送,但在多次成功建立信任后,他嫌麻烦便直接授权 Manus 自动发送。冠兰随即抛出一个惊人的预言:**“灾难性的 Agent 事故必然会发生,这只是时间问题(Mark my words, it's gonna happen)。”** 随着人类为了追求便捷而不断放弃控制权,未来必然会有一封无法挽回的灾难性邮件(或者更严重的事故)通过 Agent 发出,那场事故将把所有人重新“教育”一遍。 面对这种恐惧,冠兰强调 Runta 做安全的方式不是靠传统网络安全的特征匹配,而是通过**强管控的执行底座**:不试图把 Agent 用安全框架完全框死,而是在它做出最坏情况时能够做到有效隔离、随时从中恢复并进行完整审计,反而是用 Infra 释放 Agent 的真正生产力。目前很多世界 500 强企业内心其实充满恐惧,都在用“安全换便捷”。
---
### Vibe Coding 时代的工程师定位与安全根源 谈到内部开发模式,冠兰透露 Runta 内部 **95% 以上的开发工作都在进行 Vibe Coding**,入门程序员的基础工作基本由 Agent 代替。然而,人类工程师在 Infra 领域的判断力、底层架构设计、API 设计以及复杂组件的耦合能力上,依然是不可或缺的基石。 探讨 AI 安全问题的根源究竟在模型、Harness 还是执行底座时,冠兰分析认为: * **模型测的局限**:Transformer 架构的本质是 Next Token Prediction(概率性执行),它无法从根本上区分“控制指令”还是“普通数据”。无论迭代到 GPT-7 还是 GPT-8,只要不改架构,模型侧就无法根治安全漏洞(例如近期 OpenAI 模型绕过安全限制、黑掉 Hugging Face 获取 Reward Signal 的事件,最终往往需要靠开源模型来协助调查)。 * **Infra 的解法**:正因为模型测无法根治,才必须通过 **Infra 测加入硬规则与确定性**,将非确定性的工作负载关进可控的范围。
---
### “模型能力已经够了”与 Infra 赛道的极度内卷 冠兰抛出了一个极具颠覆性的暴论:“**模型能力已经够了,要卷就卷 Infra。**”他认为,目前各大 Frontier Lab 的模型爬坡已经开始放缓(例如 Claude Opus 和 3.5 之间的体感差距对开发者而言已无本质区别)。模型能力虽然来了,但基础设施和 Harness 并没有跟上,导致企业迟迟无法大规模落地。 在 Infra 赛道上,竞争已经进入白热化:每个 Frontier Lab 都有几十到上百人在做类似的事情,但大部分人是为了提升模型本身而搭建 Infra。冠兰希望通过 Runta 让行业在一年后形成共识——Agent 需要跑在专用的 **Agent 执行底座(Agent Runtime)** 里面。目前 Runta 在新加坡和旧金山两地均设有办公室,正全力招募 Core Runtime、Cloud Infra 和 Product Engineering 方向的顶尖人才。
---
### 职场新人如何选对 Startup 的赢家? 结合自己早期加入 Cloudflare 和 Kong 并见证其成为巨头的经历,冠兰向年轻工程师分享了宝贵的职业建议: * **拥抱浪潮**:职场新人最大的财富就是没有包袱。当年加入 Cloudflare 是因为看到了边缘计算和云的浪潮;加入 Kong 是因为看到了微服务与云原生的混战;而今天加入 AI 与 Agent 浪潮则是“非做不可、不做会后悔”的抉择。 * **关键在人与“向下钻一层”的能力**:投资和求职的本质都是“投人”。优秀团队的核心特征在于拥有**向下钻一层(向下吃一层)的好奇心和钻研能力**——90% 的人满足于“刚好够用”,而真正顶尖的 10% 会去钻研 Kernel 级别、算子优化或网络协议栈。 在信息有限的面试阶段,求职者如何看透一家创业公司?冠兰建议多花时间做“脑部实验”:24 hours 连续思考“如果我是 CEO,我会怎么做”,去和创始人的认知碰撞。如果你愿意把自己的青春和职业生涯压在这个创始人身上,说明你真的应该加入他。
---
### 天使投资人的虚拟实验与轻轻松松的尾声 在随后的思想实验中,如果手握 300 万美元虚拟资金必须立刻投给三个人,冠兰将目光投向了**头部视频模型的早期创始成员**(认为视频模型是未来被证明赚钱且由创业公司能做好的赛道)以及 **AI for AI(通过 Agent 改善模型训练与 Auto Research)** 领域的创业者。 谈到日常使用的 AI 工具,冠兰直言自己目前用 **Codex** 最多,笑称 Codex 就像“德国人一样吭哧吭哧干活,质量极高”,而 Claude Code 相对比较 chatty(像美国人废话较多)。团队内部虽然对模型的使用五花八门(包括 Claude、Codex、Grok、Fireworks 的国产模型等),完全由工程师根据任务场景自由组合(Model Router),但核心要求是**工程师必须对最终结果承担责任**。此外,他个人还深度试用了 Hermes、Pi、Eleven Labs(配音)、OpenArt 以及各类自动语音客服等前沿 Agent 产品。 访谈尾声,冠兰分享了作为 CEO 每天经历“五个好消息、五个坏消息”的过山车状态。尽管充满焦虑,但因为在解决一个“能深刻改变 AI 格局、极其 meaningful”的伟大问题,加上优秀的团队配置,让他始终保持着满满的活力与好奇心。Koji 在一片欢声笑语中结束了本期播客,并预告了 Runta 相关的后续线上闭门分享会报名信息。
## Notable quotes > 我们会认为未来的 AI 智能体会比人类更多,未来这几十亿个 Agent 到底跑在哪?跑起来怎么管?Runta 就是为 AI 智能体打造的这种执行底座。 — 戴冠兰
> 如果系统最底层的执行单元它变成了概率性的话,那 Infra 这一层要怎么构建? — Jeff Dean
> 最后 Jeff Dean 还想要多投一些,我说我这份额不太够了,能够成为一个‘和 Jeff Dean Say No’的人,我觉得也是一个挺有意思的经历。 — 戴冠兰
> Token 真的很贵,远远超出了大家的预期。 — 戴冠兰
> 大模型把电力转化成了 Token,而 Agent 的工作则是把 Token 转化成企业的实际价值。 — 戴冠兰
> 人类犯错有声誉风险或法律后果,而 Agent 出了事谁来背锅?是大模型厂商、写 Harness 的开发者,还是企业的负责人? — 戴冠兰
> `28:39` 灾难性的 Agent 事故必然会发生,这只是时间问题(Mark my words, it's gonna happen)。 — 戴冠兰
> `37:27` 模型能力已经够了,要卷就卷 Infra。 — 戴冠兰
> 如果你愿意把自己的青春和职业生涯压在这个创始人身上,说明你真的应该加入他。 — 戴冠兰
## Mentioned 戴冠兰, Koji杨远骋, Runta, a16z, Jeff Dean, 李飞飞, Marc Andreessen, Cloudflare, Kong, E2B, Daytona, Firecracker, AWS Fargate, Anthropic, OpenAI, Manus, Hugging Face, Claude Code, Codex, Hermes, Pi, Eleven Labs, OpenArt, Grok, Fireworks, 美国东北大学, 十字路口Crossing
[Source](https://www.xiaoyuzhoufm.com/episode/6a773808c4079d62c57f5802)