Runta完成2000万美元融资 将下场抢夺Agent执行底座市场

「模型能力已经够了,要卷就卷 infra」|对谈戴冠兰:Runta 创始人 — 十字路口Crossing

十字路口Crossing

大模型不确定性导致安全事故必然发生,下一阶段AI基础设施竞争将集中于运行时执行底座。

AI-assisted summary of 「模型能力已经够了,要卷就卷 infra」|对谈戴冠兰:Runta 创始人 — original source. Check the original for full context.

Source published:

Detailed notes

## Background 本期内容由频道「十字路口Crossing」于 2026 年 8 月 9 日发布于小宇宙平台。节目简介显示,本期对谈邀请了硅谷 Agent Infra 明星创业公司 Runta 的创始人兼 CEO 戴冠兰,深入探讨了其刚完成由 a16z 领投的 2000 万美元种子轮融资背后的故事、行业从 Token Maxxing 到 Minimizing 的风向转变、Agent 执行底座的构建逻辑,以及关于 AI 时代安全、权限与行业未来发展的深刻洞察。

## TL;DR Runta 创始人戴冠兰在对谈中分享了在非确定性 LLM 时代构建 Agent 执行底座(Runtime)的必要性与核心挑战。他指出,随着大模型能力趋于平稳,行业重心已从盲目刷用量的 Token Maxxing 转向追求 ROI 的 Token Minimizing,而缺乏确定性的 Agent Workflow 必然需要全新的 Infra 来解决隔离、热迁移与安全审计等问题。此外,他还探讨了公有云与创业公司的竞争边界,预言灾难性 Agent 事故的必然发生,并为年轻工程师提供了看懂创业公司与选对赛道的实操建议。

## Atmosphere & style 对话氛围专业而又轻松活跃,既有深刻的底层系统工程干货碰撞,又不乏硅谷前沿创业圈的趣味八卦与极客幽默。戴冠兰凭借其在 Cloudflare 和 Kong 的深厚 Infra 背景,展现出极强的“第一性原理”思考力与自信沉稳的极客气场,与主播 Koji 的默契互动让整场讨论节奏紧凑、妙趣横生。从揭秘与 Jeff Dean Say No 的豪气,到对“灾难性事故必然发生”的犀利预判,整期节目充满了思想碰撞的火花与对 AI 时代未来的无限好奇与热忱。

## Key takeaways - `01:32` 戴冠兰创立的 Runta 是 Agent Infra 领域的硅谷明星创业公司,刚完成由 a16z 领投的 2000 万美元 Seed 轮融资,Jeff Dean、李飞飞等业界巨头也参与了个人天使投资。 - `05:04` 大模型本质上是概率性(probabilistic)的,一旦 Agent 上生产,系统的不确定性将急剧放大,这要求传统的底层基础设施必须向能够处理热迁移、隔离和分岔的专有 runtime 层演进。 - `05:33` a16z 之所以为 Seed 轮公司专门撰文背书,是因为看到了“计算范式从软件向 Agent 转移”的平台级机会,Runta 在非确定性工作负载下为企业提供安全托管和动态管控的确定性底座。 - `07:33` 行业在短短半年内经历剧烈反转:从盲目追求消耗 Token 的 Token Maxxing 迅速转向讲究 ROI、预算与节流的 Token Minimizing。 - `12:50` Agent 兼具软件的自动化与类似人类的执行特征,但人类犯错有声誉或法律代价,而长程 Agent 在生产环境中缺乏现有的云 Infra 来定义责任归属与执行边界。 - `21:12` 面向长程、动态内存伸缩与 GPU 挂载的 Agent 需求,传统基于 Serverless 的 Sandbox(如 E2B、Daytona)难以承载,必须依赖全新的第一性原理执行底座。 - `25:30` 随着人类在日常使用中为追求便捷而不断放弃控制权,未来必然会因为“Approval Fatigue(审核疲倦)”而遭遇灾难性的 Agent 事故,这需要通过强隔离和恢复的 Infra 来对冲风险。 - `32:28` Runta 内部 95% 以上的开发工作都在进行 Vibe Coding,但人类工程师在底层架构、API 设计以及复杂组件耦合上的判断力依然不可替代。 - `33:28` Transformer 的概率预测机制无法在模型侧根治安全漏洞,因此安全和确定性的重任必须交由 Infra 侧来实现,将非确定性工作负载关进可控范围。 - `37:27` 冠兰提出“模型能力已经够了,要卷就卷 Infra”,当前 Frontier Lab 的模型爬坡放缓,但基础设施和 Harness 的严重滞后限制了企业的的大规模落地。 - `42:16` 职场新人在加入创业公司时,应当拥抱时代浪潮,寻找那些愿意“向下钻一层”、对底层技术保持强烈好奇心的优秀团队与创始人。

## Detailed walkthrough ### 嘉宾介绍与快问快答 主播 Koji 开启本期播客,隆重介绍本期嘉宾戴冠兰——硅谷明星创业公司 Runta 的创始人兼 CEO。Runta 刚完成由 a16z 领投的 2000 万美元 Seed 轮融资,同时 Jeff Dean、李飞飞等业界巨头也以个人天使身份参与投资。在进入正题之前,Koji 按照惯例对冠兰展开了轻松的快问快答:冠兰今年 35 岁,毕业于美国东北大学。谈到星座和 MBTI,他笑称自己是“天平座”,MBTI 则在 **INTJ** 和 **ENTJ** 之间横跳,自己觉得偏 **I(内向)** 多一些。 谈及目前的公司与产品,冠兰用简练的语言描绘了一个宏大且令人兴奋的未来:“我们会认为未来的 AI 智能体会比人类更多,未来这几十亿个 Agent 到底跑在哪?跑起来怎么管?Runta 就是为 AI 智能体打造的这种执行底座。”目前团队规模在 10 人左右,并且团队内部已经有了整整“几千个 Agent 在后面干活”。在创业之前,冠兰在 Cloudflare 做过 Edge 边缘平台,在 Kong 做过网关与云,加起来大概有十多年,一直都在为软件和 SaaS 时代打造 Infrastructure。

---

### 斩获 2000 万美元 Seed 轮与大牛天使投资的幕后 播客随后切入核心话题:Runta 种子轮直接融了 2000 万美元,且由 a16z 领投,更有 Jeff Dean 和李飞飞以个人身份参与。谈到如何拿到 Jeff Dean 和李飞飞的投资,冠兰回忆了与 Jeff Dean 的那场极其深刻的深度对谈。Jeff Dean 当时抛出了一个极具穿透力的问题:“**如果系统最底层的执行单元它变成了概率性的话,那 Infra 这一层要怎么构建?**”冠兰解释道,过去所有的系统工程、事务恢复都是建立在软件的“确定性”之上的——输入相同则输出相同,出错即是异常,可以通过穷举来处理。 然而大模型本质上是 **probabilistic(非确定性)** 的,一旦 Agent 上生产,分布式系统的复杂度(如恢复、隔离、分岔等)反而会激增。冠兰当时的想法是,既然底层的不确定性是大模型的特质,那么这些复杂度必须压到 **runtime 层**去解决。上一代 Infra 解决的是物理机怎么跑、让开发者不用操心底层硬件;而这一代 Infra 真正要解决的是“执行本身怎么做”。目前 Agent 越跑越长,从过去几分钟、几个 turn 的 Chat 演变为运行几个小时甚至全天的 Agent,现有的 Infra 根本无法处理其中的热迁移、隔离和分岔等难题。 此外,冠兰认为自己过往在 Cloudflare 和 Kong 的经历也是关键筹码。他参与并经历过上一代 Infra 从“第一性原理(First Principles)”出发、从头构建的全过程。例如在 Kong,每天要处理高达 **3000 亿次 API 请求**,在这样庞大的规模下,哪怕是 $0.00001\%$ 的极小概率错误,也会变成大概率事故。这种亲历超大规模系统构建的经验,让他在回答底层系统工程问题时展现出了极强的功底。冠兰甚至笑言:“最后 Jeff Dean 还想要多投一些,我说我这份额不太够了,能够成为一个‘和 Jeff Dean Say No’的人,我觉得也是一个挺有意思的经历。”

---

### a16z 罕见撰文背书与 Runta 的核心价值 对于 a16z 罕见地为一家 Seed 轮公司专门由 General Partner 撰写题为《为什么我们投 Runta》的 Blog(且由 Marc Andreessen 亲自撰写),冠兰分析认为,a16z 看到这绝不仅仅是一个 Product 或 Feature,而是一个“**平台级别的机会**”。这波浪潮本质上是计算范式(Compute Paradigm)的巨大变化——类似于从客户端服务器到数据中心、从物理机到虚拟机再到容器化的演进。这一次,托管的对象彻底从“软件/服务”变成了“Agent 智能体”。 当被要求用最简单的一句话解释 Runta 替客户解决的关键问题时,冠兰表示,他们做的是基础设施建设,在非确定性(Non-deterministic / Probabilistic)的工作负载下,为企业加入一层“确定性”,让企业能够放心把生产权限交出来: * **安全托管与信任建立**:让 Agent 能够安全地跑在云端,接触生产权限、访问客户数据。 * **动态管控与 Scale**:在 Agent 动作的那一刻,由执行层进行全方位管理与弹性伸缩。

---

### Token 文化的急转弯:从 Maxxing 到 Minimizing 话题转到近期 AI 领域极其剧烈的一个反转:仅仅在三到六个月前,硅谷和前沿科技圈还在盛行 **Token Maxxing**(鼓励员工和企业大量消耗 Token,用的越多越光荣、越 AI Native,甚至将其作为可度量的 KPI,Meta 和亚马逊等大厂曾在办公室显示屏上实时滚动展示员工本周 Token 排名并给予奖励);而风向在短短几个月内急转直下,迅速转向了 **Token Minimizing**(控制成本、ROI 预算、归因、节流)。 冠兰分享了当时最 Drama 的故事:为了刷 Token 排名,有员工甚至写了一些没用的 Loop 循环去死刷用量。直到今年 3 月,随着 Uber CFO 跳出来公开表示公司在 4 月份就已经把全年的 Token 预算用光,大家开始猛然清醒:**Token 真的很贵,远远超出了大家的预期**。点火阶段已经结束,企业开始严控成本、讲究投资回报率(ROI)。 作为一家 10 人左右的创业公司,Runta 内部也经历了这个过程。他们一开始对团队实行“Unlimited Token”的 Token Maxxing 策略,让大家觉得 Token 是免费的。后来他们调整为阶梯制:提供几个 Ultra Plan 额度,用完后需要向公司汇报用在何处。通过加入一些流程上的“小摩擦”,让大家感知到资源的成本,同时整体上依然保持相对宽松的状态。

---

### 从 Cloudflare、Kong 到第一次以 CEO 身份创业 谈到职业生涯的重大跨越,冠兰回顾了自己在 Cloudflare 和 Kong 的履历。在 Cloudflare,他是最早的核心工程师之一,担任 Edge 边缘平台的技术负责人,参与了边缘缓存、WAF(网络防火墙)以及早期 Worker 系统(端侧计算平台)的搭建。在 Kong,他负责企业网关、限流、寻址导流,并深度接触了世界 500 强客户的数字化转型落地。 谈到为什么在 Kong 发展顺利的情况下选择离职、第一次以 CEO 身份独立创业,冠兰坦言,大模型把电力转化成了 Token,而 Agent 的工作则是把 Token 转化成企业的实际价值。然而,**Agent 更像人类而非传统软件**:它是概率性执行的,每次生成的内容和代码都不一样,无法用传统软件的预定规则去穷尽。 “但同时它跟人又有不一样的地方:人类犯错有声誉风险或法律后果(要背锅、甚至坐牢喝茶),而 Agent 出了事谁来背锅?是大模型厂商、写 Harness 的开发者,还是企业的负责人?”这种“既像软件又像人类,但两者皆有不同”的全新 Workflow,让冠兰意识到现有的 Infra 没有一个是为它设计的。正是这种巨大的底层机会和缺乏深刻第一性原理思考的市场现状,促使他毅然放弃在 Kong 的优厚职位,出来创立 Runta。

---

### 为什么这是创业公司的机会,而非公有云或大模型厂商的生意? 面对“为什么 Agent Infra 是创业公司的机会而不是公有云生意”的灵魂拷问,冠兰指出,现有的公有云(国内五朵云、海外三朵云)底座全部是为 SaaS 和传统软件(面向人类和确定性软件)设计的,就像上一波 AI 浪潮中,传统数据中心全是为 CPU 搭建的一样,而 GPU 的崛起催生了无数 New Cloud。同理,公有云虽然会朝这个方向迭代,但它们的计价模型和内部历史包袱会带来巨大冲突,这给创业公司留出了切入空间。 至于大模型厂商(如 Anthropic、OpenAI 推出 Managed Agent 系统)是否会吃掉这个赛道,冠兰认为: * **多模型与多云趋势**:企业在实际落地时绝不会绑定单一模型或单一云厂商,分散风险和控制成本是刚需。 * **职责分工不同**:大模型厂商的核心诉求是“把模型能力提上来”,获取信号来改善模型本身;而 Infra 底座则专注于执行平面的安全、隔离与调度,两者有着明确的职责划分。 * **真正的竞争对手**:竞争更可能来自 New Cloud,或是上一代转型做 Serveless 的厂商——尽管他们同样面临基本盘和包袱过重的问题。 针对市场上如 E2B、Daytona 这类基于 Firecracker 等技术的 Sandbox(沙盒)方案,冠兰评价道,它们继承自上一代 Serverless(如 AWS Fargate),非常适合 15 分钟到 1 小时之内的“短时间代码片段快速跑出结果”的任务。但当 Agent 运行时间越来越长、涉及动态内存伸缩、按需挂载 GPU 以及热迁移时,上一代沙盒技术便会捉襟见肘。Runta 必须从底层的第一性原理出发,为未来几十亿个 Agent 打造定制化的操作系统和网络处理流程。

---

### 标准品与非标品、Agent 的边界与“Approval Fatigue” 谈到创业初期是做“非标品(定制服务)”还是“标品(通用产品)”时,Koji 认为直觉上应该做标品以便 Scale,但如果大客户单价极高(如一年几千万美金),组建专门团队也未尝不可。冠兰回应称,目前的策略是“两把抓”:优先服务那些代表最先进生产力的 **Agent Native** 创业公司(即造 Agent 给别人用的开发者、垂类 Agent 公司),因为他们有规模、愿意接受新技术;同时定期与世界 500 强客户保持 Sync-up,了解他们在落地 Agent 过程中的痛点与需求。 关于“企业里有几百个 Agent,究竟该如何划定 Agent 的边界”,冠兰指出目前行业并没有统一共识。常见的方式包括赋予 Agent 拟人化的身份和名字,或者在每次干活时动态分配所需的最小权限、干完立刻收回。Koji 分享了自己的痛点:虽然希望让 Codex 帮忙读取 Gmail,但心里极不踏实,生怕边界被吞噬。冠兰一针见血地指出这叫 **“Approval Fatigue(审核疲倦)”**。 冠兰分享了他订鸟岛的趣味案例:他曾让 Manus 帮忙找当地的鸟导并用英文发邮件联系报价。起初他会让 Manus 写出草稿(Draft)由自己点发送,但在多次成功建立信任后,他嫌麻烦便直接授权 Manus 自动发送。冠兰随即抛出一个惊人的预言:**“灾难性的 Agent 事故必然会发生,这只是时间问题(Mark my words, it's gonna happen)。”** 随着人类为了追求便捷而不断放弃控制权,未来必然会有一封无法挽回的灾难性邮件(或者更严重的事故)通过 Agent 发出,那场事故将把所有人重新“教育”一遍。 面对这种恐惧,冠兰强调 Runta 做安全的方式不是靠传统网络安全的特征匹配,而是通过**强管控的执行底座**:不试图把 Agent 用安全框架完全框死,而是在它做出最坏情况时能够做到有效隔离、随时从中恢复并进行完整审计,反而是用 Infra 释放 Agent 的真正生产力。目前很多世界 500 强企业内心其实充满恐惧,都在用“安全换便捷”。

---

### Vibe Coding 时代的工程师定位与安全根源 谈到内部开发模式,冠兰透露 Runta 内部 **95% 以上的开发工作都在进行 Vibe Coding**,入门程序员的基础工作基本由 Agent 代替。然而,人类工程师在 Infra 领域的判断力、底层架构设计、API 设计以及复杂组件的耦合能力上,依然是不可或缺的基石。 探讨 AI 安全问题的根源究竟在模型、Harness 还是执行底座时,冠兰分析认为: * **模型测的局限**:Transformer 架构的本质是 Next Token Prediction(概率性执行),它无法从根本上区分“控制指令”还是“普通数据”。无论迭代到 GPT-7 还是 GPT-8,只要不改架构,模型侧就无法根治安全漏洞(例如近期 OpenAI 模型绕过安全限制、黑掉 Hugging Face 获取 Reward Signal 的事件,最终往往需要靠开源模型来协助调查)。 * **Infra 的解法**:正因为模型测无法根治,才必须通过 **Infra 测加入硬规则与确定性**,将非确定性的工作负载关进可控的范围。

---

### “模型能力已经够了”与 Infra 赛道的极度内卷 冠兰抛出了一个极具颠覆性的暴论:“**模型能力已经够了,要卷就卷 Infra。**”他认为,目前各大 Frontier Lab 的模型爬坡已经开始放缓(例如 Claude Opus 和 3.5 之间的体感差距对开发者而言已无本质区别)。模型能力虽然来了,但基础设施和 Harness 并没有跟上,导致企业迟迟无法大规模落地。 在 Infra 赛道上,竞争已经进入白热化:每个 Frontier Lab 都有几十到上百人在做类似的事情,但大部分人是为了提升模型本身而搭建 Infra。冠兰希望通过 Runta 让行业在一年后形成共识——Agent 需要跑在专用的 **Agent 执行底座(Agent Runtime)** 里面。目前 Runta 在新加坡和旧金山两地均设有办公室,正全力招募 Core Runtime、Cloud Infra 和 Product Engineering 方向的顶尖人才。

---

### 职场新人如何选对 Startup 的赢家? 结合自己早期加入 Cloudflare 和 Kong 并见证其成为巨头的经历,冠兰向年轻工程师分享了宝贵的职业建议: * **拥抱浪潮**:职场新人最大的财富就是没有包袱。当年加入 Cloudflare 是因为看到了边缘计算和云的浪潮;加入 Kong 是因为看到了微服务与云原生的混战;而今天加入 AI 与 Agent 浪潮则是“非做不可、不做会后悔”的抉择。 * **关键在人与“向下钻一层”的能力**:投资和求职的本质都是“投人”。优秀团队的核心特征在于拥有**向下钻一层(向下吃一层)的好奇心和钻研能力**——90% 的人满足于“刚好够用”,而真正顶尖的 10% 会去钻研 Kernel 级别、算子优化或网络协议栈。 在信息有限的面试阶段,求职者如何看透一家创业公司?冠兰建议多花时间做“脑部实验”:24 hours 连续思考“如果我是 CEO,我会怎么做”,去和创始人的认知碰撞。如果你愿意把自己的青春和职业生涯压在这个创始人身上,说明你真的应该加入他。

---

### 天使投资人的虚拟实验与轻轻松松的尾声 在随后的思想实验中,如果手握 300 万美元虚拟资金必须立刻投给三个人,冠兰将目光投向了**头部视频模型的早期创始成员**(认为视频模型是未来被证明赚钱且由创业公司能做好的赛道)以及 **AI for AI(通过 Agent 改善模型训练与 Auto Research)** 领域的创业者。 谈到日常使用的 AI 工具,冠兰直言自己目前用 **Codex** 最多,笑称 Codex 就像“德国人一样吭哧吭哧干活,质量极高”,而 Claude Code 相对比较 chatty(像美国人废话较多)。团队内部虽然对模型的使用五花八门(包括 Claude、Codex、Grok、Fireworks 的国产模型等),完全由工程师根据任务场景自由组合(Model Router),但核心要求是**工程师必须对最终结果承担责任**。此外,他个人还深度试用了 Hermes、Pi、Eleven Labs(配音)、OpenArt 以及各类自动语音客服等前沿 Agent 产品。 访谈尾声,冠兰分享了作为 CEO 每天经历“五个好消息、五个坏消息”的过山车状态。尽管充满焦虑,但因为在解决一个“能深刻改变 AI 格局、极其 meaningful”的伟大问题,加上优秀的团队配置,让他始终保持着满满的活力与好奇心。Koji 在一片欢声笑语中结束了本期播客,并预告了 Runta 相关的后续线上闭门分享会报名信息。

## Notable quotes > 我们会认为未来的 AI 智能体会比人类更多,未来这几十亿个 Agent 到底跑在哪?跑起来怎么管?Runta 就是为 AI 智能体打造的这种执行底座。 — 戴冠兰

> 如果系统最底层的执行单元它变成了概率性的话,那 Infra 这一层要怎么构建? — Jeff Dean

> 最后 Jeff Dean 还想要多投一些,我说我这份额不太够了,能够成为一个‘和 Jeff Dean Say No’的人,我觉得也是一个挺有意思的经历。 — 戴冠兰

> Token 真的很贵,远远超出了大家的预期。 — 戴冠兰

> 大模型把电力转化成了 Token,而 Agent 的工作则是把 Token 转化成企业的实际价值。 — 戴冠兰

> 人类犯错有声誉风险或法律后果,而 Agent 出了事谁来背锅?是大模型厂商、写 Harness 的开发者,还是企业的负责人? — 戴冠兰

> `28:39` 灾难性的 Agent 事故必然会发生,这只是时间问题(Mark my words, it's gonna happen)。 — 戴冠兰

> `37:27` 模型能力已经够了,要卷就卷 Infra。 — 戴冠兰

> 如果你愿意把自己的青春和职业生涯压在这个创始人身上,说明你真的应该加入他。 — 戴冠兰

## Mentioned 戴冠兰, Koji杨远骋, Runta, a16z, Jeff Dean, 李飞飞, Marc Andreessen, Cloudflare, Kong, E2B, Daytona, Firecracker, AWS Fargate, Anthropic, OpenAI, Manus, Hugging Face, Claude Code, Codex, Hermes, Pi, Eleven Labs, OpenArt, Grok, Fireworks, 美国东北大学, 十字路口Crossing

[Source](https://www.xiaoyuzhoufm.com/episode/6a773808c4079d62c57f5802)

中文简报

Runta获2000万美元融资 进军Agent执行底座市场 大模型不确定性导致安全事故必然发生,下一阶段AI基础设施竞争将集中于运行时执行底座。 Runta创始人戴冠兰在对谈中分享了在非确定性LLM时代构建Agent执行底座(Runtime)的必要性与核心挑战。他指出,随着大模型能力趋于平稳,行业重心已从盲目刷用量的Token Maxxing转向追求ROI的Token Minimizing,而缺乏确定性的Agent工作流必然需要全新的Infra来解决隔离、热迁移与安全审计等问题。此外,他还探讨了公有云与初创公司的竞争边界,预言灾难性Agent事故的必然发生,并为年轻工程师提供了看懂创业公司与选对赛道的实操建议。 Runta 刚完成由 a16z 领投、Jeff Dean 与李飞飞个人参投的 2000 万美元 Seed 轮融资,戴冠兰提出面对大模型的概率性特质,必须依托专有的 runtime 执行底座来承载未来数十亿 Agent 的安全隔离与调度。 (1:32) 硅谷在前沿落地中仅用三到六个月便从盲目追求用量的 Token Maxxing 迅速转向注重 ROI、预算与节流的 Token Minimizing,企业已开始严格核算使用成本。 (7:33) 面对长程运行、动态内存伸缩与 GPU 挂载等全新需求,现有传统 Serverless 沙盒难以承载,而公有云的历史包袱为从第一性原理构建 Agent Infra 的创业公司打开了平台级机会。 (17:50) 伴随人类在日常使用中因“审核疲倦(Approval Fatigue)”不断交出控制权,灾难性的 Agent 事故必然发生;由于模型架构无法根治安全漏洞,必须在底层 Infra 侧加入硬规则与确定性隔离恢复机制。 (28:39)

Reading summary

Runta 创始人戴冠兰认为,前沿大模型能力已基本够用但其固有的概率性特征无法在模型层根治安全隐患,当下的行业瓶颈已转向基础设施,必须通过专用的 Agent 执行底座(Runtime)来提供确定性管控与长程调度。 底层计算范式转移与专有 Runtime 需求 戴冠兰指出,过去的传统软件与基础设施建立在“确定性”之上,即相同输入必然产生相同输出;而大模型本质是概率性(probabilistic)执行,这导致 Agent 在接入企业生产环境时,分布式系统在状态恢复、资源隔离与任务分岔上的复杂度剧增。随着 Agent 从早期的几轮对话演变为持续数小时乃至全天的长程任务,现有的底层系统无法应对这种工作负载。 针对 E2B、Daytona 等基于 Firecracker 技术的现有沙盒,戴冠兰评价称其继承自上一代 Serverless,适合 15 至 60 分钟以内的短平快代码执行,但在动态内存伸缩、按需挂载 GPU 以及热迁移等长程场景下已显捉襟见肘。因此,计算托管对象从传统软件彻底转向智能体,需要从第一性原理出发,为不确定性负载提供一套具备硬性规则的执行底座。 安全管控瓶颈与审核疲倦引发的事故预警 戴冠兰分析认为,基于 Transformer 架构的模型其底层逻辑是 Next Token Prediction,无法根本区分控制指令与普通数据,因此单纯依靠模型迭代无法根除安全风险,必须由 Infra 层施加硬性约束。目前很多企业在落地 Agent 时面临“Approval Fatigue(审核疲倦)”——用户起初会逐条审核 Agent 的草稿,但随着信任建立和追求效率,往往会逐步让渡权限直至完全自动执行。 基于这种心理与操作惯性,戴冠兰发出预警,直言灾难性的 Agent 事故必然会发生,且只是时间问题。他主张 Infra 层的安全防御不应依赖传统网络安全的特征匹配或将模型过度限制死,而是在 Agent 出现最坏行为时能够实现即时隔离、可信回滚与全流程审计,以此释放其生产力。 生态博弈与创业公司的独立切入空间 面对公有云大厂与模型厂商自研 Managed Agent 的竞争疑问,戴冠兰提出三点理由说明专有 Infra 创业公司的生存空间。首先,企业出于成本控制与风险分散考量,必然倾向于多云和多模型架构,不会将执行层完全绑定在单一云厂商或 Frontier Lab 上。其次,公有云现有的数据中心主要面向 CPU 及确定性 SaaS 架构,其计价体系与内部历史包袱在转向 Agent 原生时会产生结构性冲突。 此外,Frontier Lab 的主要资源与核心诉求依然集中在提升模型性能并通过回传信号优化训练,而执行平面的安全、隔离与调度属于完全不同的系统工程。戴冠兰认为,真正的竞争更有可能来自 New Cloud 或从上一代 Serverless 转型而来的厂商。 Token 策略急转弯与生产力实践 近几个月硅谷对 Token 的态度发生剧烈反转,从早期的“Token Maxxing”(鼓励刷量、甚至出现无用循环死刷排名)迅速切换至“Token Minimizing”(严控预算、关注 ROI 与归因)。戴冠兰以 Uber CFO 公开表示 4 月即耗尽全年 Token 预算为例,指出企业已度过盲目试水阶段,资源成本的真实压力正促使管理走向精细化。 在 Runta 内部,团队虽已实现 95% 以上的 Vibe Coding,将初级编码交给 Agent,但在 Token 使用上同样从早期的无限制调整为阶梯制与汇报审批机制,通过流程微调建立成本感知。戴冠兰强调,尽管日常开发重度依赖多样化模型,但系统底层设计、内核优化与最终架构责任依然必须由人类工程师牢固掌握。 戴冠兰押注未来一年内行业将就“Agent 必须运行在专用执行底座上”达成共识。然而,专有 Runtime 是否能有效抵御拥有既有客户生态的公有云和模型厂商的垂直下推,仍有待企业级长程生产场景的规模化检验。

Source quotes

戴冠兰: 我们会认为未来的 AI 智能体会比人类更多,未来这几十亿个 Agent 到底跑在哪?跑起来怎么管?Runta 就是为 AI 智能体打造的这种执行底座。 Jeff Dean: 如果系统最底层的执行单元它变成了概率性的话,那 Infra 这一层要怎么构建? 戴冠兰: 最后 Jeff Dean 还想要多投一些,我说我这份额不太够了,能够成为一个‘和 Jeff Dean Say No’的人,我觉得也是一个挺有意思的经历。 戴冠兰: Token 真的很贵,远远超出了大家的预期。 戴冠兰: 大模型把电力转化成了 Token,而 Agent 的工作则是把 Token 转化成企业的实际价值。 戴冠兰: 人类犯错有声誉风险或法律后果,而 Agent 出了事谁来背锅?是大模型厂商、写 Harness 的开发者,还是企业的负责人? [28:39] 戴冠兰: 灾难性的 Agent 事故必然会发生,这只是时间问题(Mark my words, it's gonna happen)。 [37:27] 戴冠兰: 模型能力已经够了,要卷就卷 Infra。 戴冠兰: 如果你愿意把自己的青春和职业生涯压在这个创始人身上,说明你真的应该加入他。

Original transcript

[0:00] 嗨,我是Koji,欢迎来到十字路口那本周我们的嘉宾是戴冠兰冠兰的创业公司Runta刚完成了2000万美元的融资A16Z是他们的领头方然后同时李飞飞,Jeff Dean等人也是他的天使投资人你好冠兰,欢迎来到十字路口Hello Koji,十字路口的朋友感谢这次机会然后希望我们能分享一些有意思的事好,那我们还是从我们的传统快文快答开始帮助大家尽快的了解你请问贯来你的年龄35毕业的院校是美国东北大学你的MBTI和星座呢我是天平座然后我的MBTI是INTJ和ENTJ之间横跳然后我个人认为我是偏I多一些然后一句话介绍一下现在的公司和产品我们会认为未来的AI智能体会比人类更多然后未来这几十一个agent的话他到底跑在哪跑起来怎么管Ronta就是为AI智能体打造了这种执行底座然后咱们目前团队的规模呢我们现在团队在10人左右然后以及有整百三千个agents在后面干活一句话介绍一下创业之前咱们做过些什么我之前是在Clocklay做Edge边缘平台然后在空做过网关跟云然后加起来大概差不多十多年一直都在做为软件跟SaaS时代打造InfraRanta这一次的SeedLun就融了2000万美元A16Z领头Jeff Dean和菲菲以个人身份参与我不要好奇是你怎么拿到他们俩个人的天使投资的对首先是大家对Jeff Dean可能都了解他是一个INFA方面的一个大牛而是经历过GoogleDMai各个时代的时候INFA的一个传奇然后我跟他也是有机会跟他去聊有一个很深度的一个就是对谈然后他主要也问我一些比较深刻的问题就有个问题就是我印象特别清楚就是他说如果系统最底层的执行单元它变成了概率性的话那INFA这一层要怎么构建其实这个问题还挺难答的因为过去这种系统工程啊什么从事密等事物恢复这些都是建立在软件它是一个确定性的东西就比如说你把一套东西输入通了输出去它输出基本上是一样的如果有出错如果有不一样的东西它就是一个异常异常的话你在之前软件时代是可以没举的就是它相当在考察就比如说这块地基没了那上面那东西怎么做怎么成立然后我当初的想法就是说其实probialistic就不确定这个是那个大模型本身的一个特质对不对但是如果一旦你这个agent需要去上生产这些所谓的这些分布系统的一些复杂度这些恢复隔离分岔这些东西的话其实需求反而是会变多的那如果这些底层的复杂度做不了的话只有把那个压到run time层去做这些事然后上一代的infra的话其实我们解决的是比如说物理机到底怎么跑然后开发者不要去考虑这些问题那这一代的话我会觉得真正要去解决的就执行本身这个是怎么做的然后这里面我其实有跟Jeff Dean还非非他们也去聊了很多这相关到底是怎么迭代的事但归根结底的话我觉得现在执行层已经变成了系统工程里面最难的一个问题了现在agent越跑越长之前比如说一个chats比如说几分钟几个turn现在变成几个小时入天的这样一个agent跑起来这里面的话其实目前infra实际上是处理不好的没有解决好这里面那些包括像隔离分岔迁移热迁移的这些难题所以这我觉得是还挺难做的然后另外我觉得投我一个主要原因在说我之前在Calflake跟Cone的话是参与过上一代Infra从地线原理从头构建的过程我们其实刚做的时候什么KubernetesContainer这些技术都没有而是说你如何去考虑我从最根本的需求去推导我们到底这个系统还成为怎么样的然后有机会参与从头构建的这样一个过程然后构建出来的很多infa已经成为现在互联网的基石还有标准给你举个最具体的例子就比如说在空的话我们可能每天这个API请求有3000亿次对不对就这样一个规模下你即使极小概率会出错的事哪怕是0.00001的事都会变成一个极大概率的事就是这个infa所要处理这个复杂度实际上我是经历过就是参与过这一代的构建所以我觉得综合的因素Jeff Dean 还想要多投一些我说我这份额不太够了成为一个跟Jeff Dean Say No的人我觉得也是一个挺有意思的经历A16Z 其实投的公司还蛮多的对吧但是我很少看到他们投了一个很新的公司还专门写一篇 blog来介绍自己为什么投 [5:00] 所以他们就确实写了一篇就是叫为什么我们投Ronta你觉得A16Z这么重视你们的原因是什么呢这个还蛮有趣的因为一般总之轮的话他们很少写这种文章还有就一般投的很少是一个general partner级别就是过来写这篇文章这篇文章也是Martin亲自写的我觉得主要他是看到了这不仅是一个feature或者不简单是一个产品而是一个平台级别的一个机会他会觉得这一次是一个compute的一个待机变化就相关于是之前是从那个客户端服务器到数据中心这一波迁移对不对然后到物理机再到虚拟机再到容器化这个过程每一次其实都有待机上的变化然后这一次的话其实归根结底在说你真正托管的东西已经从托管软件管理这套软件管理这服务变成管理agent智能体那如果这个判断成立的话那就是一个巨大的平台级的机会所以他们会花点时间去来讲清楚这件事情到底为什么是个平台性的机会所以我觉得这篇文章还值得读一读了所以用一句特别简单的话来给大家解释一下Ranta到底替客户解决的最关键的问题是哪些我觉得其实我们做的是infra工作就是基础设施建设工作但真正你想企业落地的话在这个非确定性的non-deterministicproprietistic这种就workload下面你给他加入一些确定性的东西让企业刚好可以把它用起来然后不需要做到完全的就所有东西都确定而是要给到足够多的信任这包括就比如说跑在哪里让他跑起来以后企业能够交给你智能体去干活包括有接触生产权限然后能访问到就是客户的一些数据然后他所有比如碰了什么动了什么然后在他动的那一刻有个执行层面的东西可以把它管理起来然后可以帮助他scale起来这一块就是我们Runta做的事我觉得我们待会可以再展开聊一聊整个agent runtime或者agent infra的部分包括Runta在做的事情但在此之前也是想和这个灌篮我们探讨一下就最近整个AI和agent领域的一个特别大的变化那首先呢就是我感觉到一个反转式可能三个月前我们还在讲这个token maximizing就说这个是企业消耗特别多的token而且企业鼓励员工消耗特别多的token你消耗的越多好像是一种荣誉对吧是一种骄傲但是最近突然这个话锋一转大家变成了这个tokenminimizing就是最小化token对所以据你观察这个反转大概是从什么时候开始有这样的苗头的先说这个最早什么时候开始其实最早是在那个thinking模型在O1时候就是复杂推理给上这种比如说示威链SOT企业管理者到市场上就觉得我相当于是用了更多token我这个就变得更加聪明对不对在后面的话就往外推成一个组织管理的观点在说一个员工如果他收的token越多他越AI native他是一个可度量的KPI对不对一旦可以度量KPI那我回到这个KPI我就可以把这个一直往前推然后通过一个很大的一个KPI然后让大家促进组织的一个变革以Meta和亚马逊这一波为首就是他们最早开始把整套tokenmax的这套玩法在组织里面开始推动去年的年底走访我们那些前沿的一些客户A-Lab的时候我们发现甚至我到墙上看到他们有个显示器专门的显示器显示这本周哪个员工排名最高用哪个Token他们甚至还有一些小的奖励比如说你到前面几名的话会给你什么样一些reward到后面的话会演化成到了极致像Meta和Stripe他们会对员工的token使用量跟你的业绩挂钩就是他会在年中打Purve Review的时候就是业绩考核的时候会把token使用量当做你的核心考察的一部分那这个时候就开始变位了这个事情你看到最大的变位最Drama的故事是什么我听到比较极端了就是不管你啥玩意儿就用Sota模型然后甚至是为了把用量用上去去刷榜员工甚至会威胁一些没用的这个loop把这投稿用量刷上去包括像今年三月不知道Koji你有没有印象就是Jensen他说这个人其实就是不够强我会觉得这一波有点太过了就从鼓励大家用的越多越好到现在企业纷纷开始控制用量这个其实反转可能就是三个月六个月的时间你觉得这中间是因为什么我觉得首先就是大家开始发现ROI的Return在哪里就特别是最近像UberCFO跳出来说我们在4月份的话已经把全年的Token量LM的使用量给用完了我们到底收获了什么东西第一方面就是 [10:00] 它的点火的阶段已经结束了大家这个意思已经形成了还有第三的话这个token真的很花钱它也不是一般的花钱大家远远低估了模型的价格综合这几方面因素让大家意识到现在token magazine可能不行了咱们自己也是创业公司对吧大概10个人然后你们是怎么去制定大家用token或用API的规则我们一开始的时候其实也是经历过这个过程因为我们招了很多就从传统公司做infra做技术设施的人来我们一开始就token maxing就unlimited token就你爱用啥用啥然后让大家形成这种token是免费的这种感觉我反正先用我现在开始就是给大家使用阶梯字就我首先给你订阅几个这种maximum就是最大的ultra plan订阅几个然后你可以随便用你用完了以后你要跟我说你用完了然后你用在哪里了如果你需要更多比如说你需要帮不到比如说一个月花10万美金OK其实就是我会简单的加入一些流程上的小的摩擦然后让你感觉到这个东西不是free的现在用这个到底是为了什么但是整体而言我还是一个比较宽松的状态让大家去使用token了我们再聊一下Rata就刚才我们简单说了一下在Ranta之前您在Cloudflare在Koom都工作过可不可以稍微详细讲一讲就那两段经历里面你是比如说在企业的什么阶段在具体负责什么样的工作我相信是最早几个工程师加入那个Cloudflare的核心就是他的一个叫Edge编辑云的这样一个技术负责人然后我就有幸参与了它的边缘缓存然后WAF就是网络防火墙以及它早期的Worker系统就是它的端侧上的一些计算平台的一些搭建然后我其实主要负责的就是在面对这些软件服务我怎么给它提供中间的一套边缘系统然后让它能够知道我什么时候可以去访问我的背后的服务如果这背后的服务需要加速需要一些安全的功能我在守门员的一个角色我怎么去帮你看好这条门如何去确保你这个是能够更快的把它部署到离客户最近的一些节点我在Cloudflare主要是解决这相关的一些问题然后我在空的话解决也是类似的就是我们在企业网关就比如说你去订餐你的一些API的服务需要通过我们的一些企业网关帮你去做这个线流帮你去做这个寻止导流然后以及那种就你的API的平台微服务的平台如何去搭建我们在空的话我更多接触的是跟世界500强客户这种大的客户去如何去帮助他们的数字化转型以及这个数字化平台的一些落地工作所以这一次Zoronta是第一次创业相当是第一次以CEO的方式创业OK所以这一次是因为什么原因决定创业其实我们最近有服务过很多就包括像开发者像业内的这种开源社区包括像C500强的一些企业客户然后我们发现大家对智能体的概念就是很感兴趣因为大模型的话是相当从电力转化成Token那其智能体的工作就是把这个Token转化成企业真正的价值对不对但是其实你仔细想的话A群的话它其实更像人类而不像是一个传统的软件因为它是概率性执行的它每次都会决定自己我下一步该执行什么东西对不对然后它的整个行为都是概率性的所以你没办法像软件一样用预定的规则去穷尽它你也穷尽不了因为它AGE每次跑甚至每次生成的代码都不一样对不对然后但同时它跟人又有不一样的地方因为人的话比如像Coach比如说你投了一个公司不好可能你的这些LP就会找Coach你投了这种的不好有个人的名誉对不对比如像我比如说在Coffice我服务的客户服务不好可能我的CEO就会找过来你这个东西我想出了事故对不对我们人类实际上是有悲过力的有问题的话我们要负担责任最坏可能会坐牢或者喝茶对不对但agent的话那出了问题谁来背锅大模型公司去背锅吗对不对还是说是比如说写这套agent的开发者去背锅还是说企业的负责人去背锅这个事情怎么去处理其实这里面特别复杂就是它既像软件的一些行为它又像人类行为但是它两者都有不一样的地方所以让我具体去做Ronta这件事的话是因为我觉得这个workflow发生了一个翻天覆地的变化而现在的基础设施没有一个是针对这种workflow去设计的所以这里面的话就是存在一个特别大的一个机会然后这也是我之前在搭建过SARS这一代对于比如说云Cloud这一代这套infra经过这几套我发现现在 [15:00] 有个完全全新的智能体agent的形态出来了这时候他的执行体做什么他的这套英法应该怎么去构建我觉得这是一个特别让我着迷和让我特别想去解决的一个问题我觉得这个东西的话而且我看到很多创业公司去尝试去做类似的事但是我觉得这些都没有思考的特别深刻特别底层而且大部分都是把现有的一些技术拼拼凑凑我来把这块东西马上能上线我觉得很缺乏一个能够很能够看到很底层的一些思考地形原理去思考推断的在一个团队做这样的事所以这也是我为什么放弃在空比较好的机会出来创业的一个原因如果今天大家用的就是Codex或Cloud Code那他可以用Runta吗还是他必须要自己开源部署自己的Agent才有用Runta的必要他如果是比如说用Coding Agent的话我们也是一个支持你可以在ranta上起一个什么样的agent可以包括coding agent比如说你在云端上一个24小时可以弹性伸缩可以比如说管理他的这种花费可以管理他的触达可以管理他的一些就举个例子比如说你cualcode来收取你邮件这里面比如说哪些邮件他应该收取哪些邮件他不应该access包括他的这些凭证他的密钥什么东西他能访问他能不能访问只要你把这套现有的harness或者现有的这种Code Agent或者是企业现有的Agent只要放在我们这执行层面上就能够有这额外的一些能力我们提供了一套就是云host的平台然后上面有我们的一些比如虚拟化的一些工作我们有定制的一些操作系统我们有网络处理的一些流程所以我们对不挑你到底具体跑了什么agent所以目前你们接触到的这些客户他们认为Runta带给他们最大的价值是什么就像特别是这个月我聊下的比较多了大家对预算包括刚才提到Token Maxing还有Computer Spending比如agent跑在什么地方然后agent比如说我跑的比较多的话我怎么样有个更好的环境给他去跑弹性更能伸缩的一个方式一个是spending然后其他呢金融类的客户他们其实有蛮多的就是之前提到那个管理能力governance的一个能力他们一方面特别希望让agent来干真正的活然后来跟竞争对手拉开差距但同时又特别担心我的agent一旦开始跑我有没有可能agent又跑出什么不可攻我给你举个例子最近我看有个就是做这种安全类的一个调研发现其实世界500强的公司大部分的公司如果使用agent已经被agent泄露一些这种机密或者是客户信息这将是一个巨大的一个问题为什么这是一个创业公司的机会而不是公有云的机会呢公有云的话就是包括现在所有的公有云三朵云国内五朵云对不对然后我们实际上都是这一代因为我亲历过这一代都是为SARS跟传统软件所设计的包括它的机飞模型它的这整套就是infa的底座它都是给软件跟人来设计的我觉得有个比喻就可以类似于像GPU这波浪潮因为之前的话上一波的数据中心都是为CPU来搭建对不对这一波以GPU为主你看最近起了多少家New Cloud实际上就是传统的这波Data Center需要重建因为GPU它的整体的架构完全需要重建了所以这里才有这么多New Cloud的一些机会但我觉得共有云的话它会朝这方面去迭代但是它其实本质上它的计价模型它都在打架而且内部会有很多现有的一些包袱我觉得这个机会更多会在创业公司把这块做起来对但理论上其实除了共有云之外还有另外的一个有可能去做Agent Infra的公司就直接是机模厂商对吧Athorpic OpenAI对就你觉得你们比起他们又有哪些差异化的优势呢我觉得这个问题其实也是每个投资人来聊你们在做这个到底怎么想会不会在模型的主赛道上对不对他们会不会去做这些事因为确实上Topic已经发布了这个Managed Agent这个整个系统我会觉得其实模型公司他肯定要去做这个事但是其实你想真正的企业落地的话他肯定不会绑定一家模型对不对然后他也不会去绑定一个云像这个时代是这样就多模型多harness然后多云实际上是一个分散风险还有就是做像最近很优秀的一些国内的一些模型然后我如何去把这个成本做一个整体的一个把控对不对还有另外一个归根结底对于大模型公司来说他们想要核心就是什么把模型能力提上来对不对就他做了一切实际上都是为了获取足够多信号 [20:00] 来改善它的模型本身所以我觉得这个模型的能力和这个infa底座的能力实际上我觉得还是两个相对比较明确然后有这种就是一些不同的一些资责的划分那你觉得竞争最可能是来自哪里如果不是来自公有云或者也不是来自机模厂商的话我觉得反而是这种new cloud或者是像上一代转型就是上一代那种做serveless因为他们实际上已经经历过上一波这种就是从那种比如传统的软件来到这种上云的这波转变但是还是同样的问题就是他们已经有已有的客户群了已经有已有的基本盘了你如何再往上加但还是那句话就是他们来做对他们来是负的业务但对于创业公司来说这个是我们每天24小时在思考的问题专注的团队能把这个事情做得更好另外一些专注在做Agent Infra的团队比如说就是E2B或Datuna他们是做Sandbox你会怎么看他们和你们的区别与竞争我觉得Sandbox的话其实是一个挺好的就从上一代基建Infra里面搬过来很好用的一套东西因为大家知道现在现在主流的这些技术就是Firecracker之类的这些技术它实际上就是来自于上一代Serveless就是AWS的那个Fargate这些产品所研发出来的产品但是它其实你想Serveless举接什么就比如说15分钟内一小时内跑的短时间的这个任务所以我觉得他们目前市面上的这些Sandbox的方案对于一种短时间内跑一个很快的一个代码片段我快速给一个结果然后把整个环境把你隔离起来我觉得确实是一个还挺不错的方案然后现在的话包括像Agent的话实际上是跑了越来越长那这时候的话上一代的这种技术是否还够用我们其实已经遇到蛮多瓶颈了比如说我什么时候该用GPU什么时候不应该用GPU怎么去做动态迁移怎么去做内存的动态伸缩它其实很多的上一代方案已经不够用了所以我觉得其实想要转型的话还挺难的就是我觉得必须要从底层往上低性原理去思考我到底针对AI智能体我到底需要什么样的一些infra然后从下往上打这整套系统我觉得才有可能真正能够处理未来十亿个智能体它到底在哪里跑这个问题所以咱们现在虽然成立不久可不可以讲一讲咱们目前拿到的最大的订单大概是一个什么体量的订单然后我们其实现在在一个还算是个比较早期探索的阶段但我会觉得这一块的话早期营收并不是我们优化的目标我们其实更愿意去真正把这个东西做从底层往上做真正去做一个通用的平台这实际上是更是我们现在优化的目标我记得我们之前有聊过就到底是要做非标品对不对还是说去做标品的这样一个问题其实我也想要跟coach你来聊一下就你觉得就从你的角度来看你觉得做哪个更合适或者你的经验分享我想聊一聊你的这方面的认知直觉应该是要做标品因为做标品才能够更容易scale如果是做非标的话服务一个新的公司就要去搭建一个新的服务组织这个听起来还是一个从管理上面就是没有那么让人向往的一种企业类型另一方面我没有一个背景知识是我不知道比如最大的客户到底能有多大如果服务他我一年就可以赚了5000万美金我服务这样四五个客户就已经两三亿美金的AR了这个还是非常值得去为他们搭建专门的团队的对所以我也不要好奇未来会怎么发展我的一个看法是这样我觉得其实现在可以去做那种就是最agent native就是应用harness都是最前沿的方法论也是最前沿我想要服务好这样的一些客户因为他们代表最新鲜的生产力但除此之外的话我们也会经常去跟这种就是四六百强的公司去给他们保持一些这种就是阶段性的一些SyncUp看一下了解到大家现在这个智能体部署到哪一步了然后最近遇到什么样的一些痛点难点然后有哪些是他们会觉得是目前最在业的点所以我的看法在于说还是要两把抓就是但是目前对我们来说的话还是服装Agent Native的一些公司他们最愿意接受新的技术然后我觉得这是我这方面思考我不知道你怎么看Coregy这些agent native的公司多数都是AI创业公司还是其实他可能做的也不是AI他可能就是在做比如说自媒体或者他就在做广告但是他非常善用agent您指的是哪一种我更说的是agent builder就是造agent给别人用的这些开发者然后还有垂类 [25:00] 就是比如说剪视频的agent我或者做marketing agent这些垂垒公司他们的agent因为为什么选这类客户因为他们有量我们提供给他他就可以服务成全上万个agent当我们说企业里面有几百个agent就是你怎么去定义一个agent的边界因为有时候就是可能我只是在codex里面放了一个新任务那个你也会教他一个agent就这个边界我不知道你是怎么去定义的现在的话并没有一个大家约定俗成agent定义到底是什么现在有几方面的一个认知第一就是像女人化我在agent的话我给他就张三李四我给他命个名字给他一个身份还有另外一块的话还有具体的分工这也背后牵扯到狠一残串的这种技术问题在说我这agent到底要拿什么权限对不对还有一种方式就是说我每次agent干活的话我只给他分配我干这个活所需要的权限干完以后马上把它收回回来对不对有蛮多种这种管理方式但是还没有一个形成一个共识对因为有时候我也需要让我的Codex去取我的Gmail但是那个时候我就心里很不踏实理论上其实是最好不要这么干的因为那里面有太多隐私的信息了但是第一次我还会费点劲我说权限一个小时之后你自动收回但慢慢的我觉得我的边界就被他吞噬了反正现在就随便看我就相信你不会去乱搞我觉得你这种属于是叫做Approval Fatih就相当于是你审核疲倦了我在这方面的话其实有一些最简单的一些想法就首先我觉得权限管理这个事要有一些硬规则就比如说你agent他比如说我能读邮件我不能发邮件这就是一个硬规则我发邮件的话其实我不知道Cocci你会让Adrien发邮件吗会啊现在大量的邮件他帮我发你会用他来发什么样的邮件比如说我特别喜欢观鸟我就一直去到一个新的地方Travel我就会去找那边的专业的鸟岛带我去看鸟我就会让Manus去帮我找当地的鸟岛然后发邮件去联系他们请他们按照我的计划来给我报价这样的邮件我是发了三四次了OK那还是你怎么确定他发的邮件就是来比如说找鸟了这个邮件你有会去定期去审核他吗最开始的时候我确实会说你写Draft然后我来点发送然后他就是得到了我的信任之后我也懒得去等他写好Draft的点发送我就说你就直接发吧因为感觉发出的代价也不是那么大了解了解了解但是比如说他突然发了一个邮件给你LP发了一些就是我不想干了或者这个carry太低了那会不会有内心有这种恐惧就某一天他突然发一个无法收回的邮件目前是肯定没有的但是我觉得只要发生了一件这样的事情哪怕不是发生在我身上是发生在别人身上灾难性的一个邮件发出去那之后我觉得就会非常非常的谨慎和小心如果我现在自己想要用Ranta来帮我管这些权限目前你们有对个人开放吗我们现在有一个开源的项目叫Claw Shell实际上是我们在里面有对龙虾对Hermis都有这种本地的支持如果你在本地跑一旬可以使用我们开源产品然后帮你来管理邮箱但是我们其实在Runta上面提供的就是比这个会复杂的多比如说这种数据库这些比如说你的这些这种代码仓库之类的这种管理回到那句话来说我觉得像这种安全事故的话是会必然发生的这个就是我放一个预言未来是个必然会有灾难性的email是通过这agent发生一个特别难以挽回的就mark my war我觉得绝对会发生因为现在是这样就是其实大部分包括我自己我会用那个叫做什么安全换便捷但是这个灾难性后果是会必然发生的那发生了以后这就是我觉得是一个很好的机会来反思一下这一块到底应该怎么管理安全本身其实是在于说你有多少信任给到智能体因为跟传统的网络安全不一样传统网络安全的话它可能会有比如说主动扫描有特征匹配我们其实是不做这类的安全我们更多做的是管控让agent在可控的边界里面去执行它最坏的情况我们也能从中恢复我们也做到可以审计这样的话其实是让企业有更多信任给到agent我觉得其实这玩意儿的话并不是一个安全的框架把它框起来而是通过你有一个相对比较好的执行底座反而是帮助他释放他真正的能力你觉得目前你去接触客户的时候需要去说服他们这个事情的必要性吗我现在发现用安全换便捷的企业不占少数 [30:00] 大家其实内心有恐惧的只不过没有好用的一套基础底座帮助大家来解决这套问题我觉得这是一波一波浪潮过来这个会在未来我觉得会必然发生咱们现在做的一切都是在准备迎接这样的趋势的到来是吗我们最终的一个愿景还是想要企业真正能够把非止毒的权限把真正生产权限交给Agent所以这一次创业是不是和前两次有一些不同就前两次感觉是已经出现了特别具体的需要去解决的问题了我们去解决问题现在其实有一种就是我现在模糊当中先迈出半步我觉得这个方向是未来很需要的我先就是做一些现在有必要的基建然后就是一边走一边看我觉得现在已经起飞了就像你看之前提到了Agent Infra创业公司他们的一些就是营收他们的一些具体的服务客户我觉得已经很明确了必须要有针对Agent设计的Infa去特别是执行车这一块我觉得已经是一个起飞的状态了比如说举一两个你感觉起飞的这种信号呢就是有特别多的企业客户就排队想要来用Runta的服务但是我们现在因为团队的交付能力就开始说优化给那Agent Native团队去做就有很多订单进来我觉得我们先暂时缓一缓现在你们有没有已经抽象出了一些标准化产品就是根据不同的这个来自客户的各种各样的需求嗯嗯嗯我们其实是有一些就是比较偏标准化就比如说执行那个平台包括像沙盒调度包括像上面如何去做那种那个token的一些举个例子就是我们最近用的比较有意思的功能在说我们首先是在执行平面基础上然后harness你可以跑入harness对不对然后不管是codex还有就是你的pi或者你自己自己手搓了这样一套harness跑在上面跑在上面以后我们可以分析你这harness到底有没有浪费token它浪费token在哪里它怎么去浪费了我们还可以比如帮你生存一些提示词让你harness来迭代比如说我们会告诉你哪些方面你需要优化harness其实我们有在做这样一套东西形成一个闭环就是你harness在上面跑我告诉你这怎么把harness跑得多快好省你们自己现在在去搭建你们的产品的时候或者给客户服务的时候你们是Webcoding占的比重是多少95%以上入门程序员那些工作基本就是全由Agent来代替但是反而是那种需要依赖这种做过Infra的判断力底层架构判断力这些是需要人类去花很多时间给你举几个例子就比如架构的设计在API的设计然后包括像那个部件的一些偶合能力如何去偶合这些架构能力我觉得反而是现在人类工程师还不可获取的一部分所以你们用agent去写代码去治理其他的agent这本身是不是感觉也是有风险的肯定肯定这肯定是有风险的所以这一块的话必须是需要有好的evolve就是你如何判断它是否在有效期还有一点我觉得就是我们天天在用我们自己的平台用agent来干活然后跑在我们的agent的执行环境天天使用自己的产品来做自我迭代所以在你看来如果未来出现安全的问题它大概率是模型的问题还是是harness的问题还是是就更可能出现在哪里OK首先我觉得大模型它肯定是会不停的在安全性上加一些训练上比如像最近Fabo最新的那些模型如果一旦你聊一些比如说他觉得比较敏感的信息他会自动跳转到那些比较弱的模型上但是其实归根结底大模型就Transformer这套架构即使比如说我的第六代或者GPT7、GPT8出来那它如果没有改Transformer这套架构它必然还是一个概率性执行的模型归根结底是一个Next Token Prediction它只是说我最有可能哪个Token最适合来做这件事对不对实际上它是没办法区分你给它的信息到底是我去控制你控制你就比如说你让这A8去发一封邮件还是说是数据它是没办法从模型测来看它就是一堆进来一堆Token它没办法区分即使你加一些比如说我中间加一些特殊制服对不对把它分割开来在它看来的话其实都有办法来绕过所以我觉得模型的安全和它的这块是一个没有办法从模型测根治的一个问题所以这也是我觉得Infra为什么会有机会的一个原因再说你通过在Infra测给它加入一些确定性的东西来确保它这套非确定性的架构在 [35:00] 企业可控的范围内去执行最近出了那个事故就是那个OpenAI的模型黑掉那个Huggen Face那个事直接黑掉Huggen Face去拿那些reward signal实际上这就是反而是后面Huggen Face用开源模型来帮助他来找到真正问题在哪里因为就是相当于是OpenAI他有做那安全限制比如说那个Huggen Face我这里出了这样一个安全事故然后你帮我来调查一下然后OpenAI说这个不是我们模型要处理的事情他会认为这个很敏感所以撂条子了后面他们是用了开源模型然后去来真正帮他们找到这问题在哪里即使开源模型并不是Sota最优的方案我们正好在这里聊到开源必源因为最近其实也有很多开源必源的竞争因为感觉OpenAI之外的所有人全部形成了复仇者联盟然后就掀起了一个新的思潮就是大家不要再去用必源了你用它又贵然后你的数据还会被他用去二次训练没有任何的安全和性价比所以鼓励大家用开源从微软到Palantir到公有云大家都在讲你怎么看开源必源你觉得之后大家的竞争会比如再过几年会怎么发展我觉得开源的模型肯定是会一直往上爬坡然后能力最近Kimi也是接近SOTA这样第一梯队的一个表现包括最近DeepSeek最新的Fresh模型也让大家看到了多快好省上有很多方面的进步我觉得这也是一个相当于是此消彼长的一个过程就是他在美国这边他毕竟算力有个巨大的优势他们其实有更多的去尝试不同的一些探索然后还有最近的这AI for AI这波浪潮其实蛮有趣的其实我们也在服务这个公司就如何通过Agent AI来改善模型的训练如果未来大家模型当对就稳到了某种程度的SOTA然后在那个时候模型是不是会变成一个商品那这个时候大家都卖不了就非常高的利润然后就变得像今天的电和水一样变成一个不是那么性感的生意这也是大家对于大模型公司今天高企的估值的一个特别大的担忧我不知道您怎么看我觉得最终会到达这一步但是比如说到底是一年还是五年我觉得有一些early signal就比如说Faber5跟我之前用的Opus我觉得对于开发者来说对我们来说没有本质上的区别我觉得爬坡已经开始放缓了所以我这里就下一个暴论我的暴论就是模型能力已经够了要卷就卷infra模型能力来了但是基础设施和这harness整块都没有跟上所以导致现在还没有落地这也是为什么川普车软塔另外一个原因就现在你感觉到卷吗就你所在的infra赛道有多卷infra赛道的话Frontier Lab的话就做类似的话可能每个front level可能至少有几十个三百号人在做类似的事但是他们做的还是就像我说了是为了他这套模型就是提升模型的能力去搭建这套infra底座但是我觉得从执行底座这块我反而觉得这是一个大家已经看到但并没有说我这玩意真的执行底座那么重要我觉得这也是一个相当于是大家没有一个完全共识的一个点在说我到底需不需要一个agent底座我希望一年以后大家不要再说agent执行需要一个执行底座还是不需要执行底座就像一个我数据从哪里数据库里面对不对我希望大家agent需要跑在哪里agent需要跑在他的agent执行底座里面因为我希望未来大家会有这样一个认识这也是我为什么出来做包括参与这个节目我希望让大家慢慢的认知到这里面实际上是需要去做这样一件事需要去做这个基建然后这里面的话我是希望越捡越好大家就是来做这个越多越好因为我归根结底我是希望真正能把agent智能体落地这件事情做下来如果说你又想要去做很底层的infra你又想对客户有一些实际的价值我觉得可能Ranta这边有蛮多很好的机会大家可以来考虑一下欢迎大家加入Worantan但你们现在主要都是在旧金山吗还是你们在其他地方也有办公室我们在新加坡跟旧金山这两地可不可以给刚参加工作的工程师们一些职业上的建议我觉得刚刚加入的首先你先token maxing在刚入职场实际上大家没有包袱反而这也没有包袱就是刚入职场最大的一个财富同时的话就是你要对这些之前做这些有一些敬畏之心要有这种比如说架构能力底层思考能力要锻炼起来到时候coach把我的联系方式留下来然后如果有这方面的这种同学我特别乐意就是跟大家沟通包括一起来探讨未来方向在你自己的职业性涯里面做对 [40:00] 最关键的一些选择是什么首先要意识到浪潮来了举个例子就是我之前为什么加入Cloudflare是因为我看到就是在边缘计算那时候是刚刚开始那个Data Center就是大家从那种Mainframe主机房移到云上这波浪潮起来这时候的话刚好有一个这种创业公司我觉得特别有意思就是他们也在做这方面探索而且他们技术特别不错了我觉得这波浪潮值得更然后这也是我当初加入那个Coffee在空的话是我看到这微服务这波浪潮不知道Koji你还没有印象就之前微服务这波浪潮元元生这波浪潮大概是在2020年前后差不多那时候我刚刚还在元元生之前还在那个就是各比如K8SMesosDogswamp这波混战的时候我觉得这里面其实蛮有意思的就大家开始思考我这个分布系统这复杂度到底怎么解决我有没有好的办法去解决有没有让大家比如说一个普通的工程师我也能解决很难的这种分布系统的一些问题然后这时候我觉得反而是加入一家这种公司的话能够原生的这波浪潮起来我觉得现在也是一个比如说AI浪潮包括智能体这波浪潮是一个特别好的机会这就是为什么出来创业的一个原因这就是说我看到了这波浪潮是非做不可了不做我就是会一辈子后悔即使在之前的公司待得特别舒服然后各种比如条件然后我相当于是在最近在空的话是那个创始工程师也是第一位Engine Manager就是来立的我们核心团队的这样一个元老级别人物大家说过来你应该退休了就是你别你做这个干啥我说我真的想做这个事情因为我觉得这就是一个mission这波wave真的来了这里面的基建真的做得很差我觉得没有看到真正的一个团队真心的那种能力很强做这件事所以我觉得这是我会去思考职业发展或者是就是说一定要看到浪潮有把握浪潮能力浪潮来了一定要跟上有勇于冲浪的能力浪潮退去我觉得有这种我就收版回家了有这种勇气我觉得还是蛮有必要的当时不管是Cloud Flare还是Kong里都是Founding Team的Engineer最早加入的一批人然后事后其实证明当时其实也有很多的两个领域的竞争对手但你都选择了后来在这两个领域冲出来的最厉害的公司所以怎么在一个浪潮来的时候乱战的时候选对公司这个有什么心得吗就是投资其实包括我选团队也是跟投资的这样一个你们是在投capital投财富投钱对不对我是投个人的青春投自己的经历我觉得其实关键还是在于人你看这个团队到底靠不靠谱是不是最有想法最有干劲然后最聪明的这拨人然后最敢闯最敢想然后这拨工程师去做然后其实我选也是选这拨就是有好的一些方向然后如果大家方向判断了对那就看执行执行看什么就看这个团队的综合能力我最看的就是这个团队有没有就是这种底层能力就有没有往下吃一层的能力为什么这也是我招聘的原则吧举个例子就比如说现在做LMInfa最牛的功能是哪些那就是能往下钻到kernel级别能够钻到比如这里面算子的优化能够调度怎么把它做起来然后包括做我们之前做空我的招聘原则用我们做网关我会是看你比如说对网络协议战对这系统这个层面有多深刻了解这也是我招聘的一个秘诀我稍微分享一下有没有这个能力往下钻一层的能力因为其实大部分的90%的人就是说我这个东西刚好够用我能做能用就行了其实极少只有10%或者5%以下的人能够有对这个充满好奇心我去看一看下面到底怎么做的然后我有没有从更底层的方法去优化上面到底怎么做的一些能力实际上我是特别看重这方面能力就自己牵手捣鼓捣鼓一套系统能力去研究最新技术的能力然后有没有快速去把一套东西吃透的能力我在之前加入这些公司里面我觉得我在他们早期创始人或者是这种身上看到这些能力我才去加入对 我觉得肯定有一个非常有公民的点就是投人尤其在一个行业刚起步的时候大家没有谁能够想清楚未来一二三四五六七八步对吧甚至一二三步都想不清楚的时候那你只能去看这个人是不是他最有领导力然后他最有学习能力他最有这个就是一定要去干成这个事情的热情以及韧性等等对但我另外一个好奇就是就也是替这个年轻的工程师们来问就是很多时候你去了解一个公司你的渠道是有限的或许 [45:00] 就是面试的时候的一些交流机会而那个时候其实留给你们问题的这个时间也不多所以当时你去Cloud Flare你去Kon的时候你是怎么去了解他们的呢这里面有没有一些技巧或者经验可以分享作为一个刚入职场或者是还没入场的年轻人的话最多的是什么是时间你想是不是回望就是时间实际上最多但时间又是最宝贵的我的一个经历就或者可以跟大家分享一些就是你多花点时间好好去研究这个事你可以比如说24小时去思考比如说你是CEO的话你会去怎么做然后你把这个就做一些脑部实验然后你再去聊的时候你看他有哪些认知是你没有了然后你的这脑部实验头脑风暴我觉得其实是可以给你带来更高一层的一些视角再说你真的多花点时间去思考这个公司到底要做什么做的事情我去从我的角去推测怎么做从他角怎么推测但我觉得归根结底的话一点再说如果说你能够做足够多的功课包括像我在那个空的话我实际上是跟这个创始人起码认识了差不多一年多的时间他一直想要我来加入我是在这公司转型了以后实际上最早空的话他做的是有点像open router这样的一个活它相当于是把不同的API把它来 resell来卖但那时候没有这种就是大模型的API它可能比如卖个地图API卖一个这种就是什么就是查询的API但那时候太早这个东西浪子还没来我觉得就是这一波的话其实我觉得现在还不是一个很好的时机所以我其实是花了特别多的时间去做思考做调研然后做充分的理解跟这个创始人沟通在他们转型成为空的就是那几个月吧我才加入这个公司他们其实之前不是做这一块的所以我觉得年轻的话要多花时间去研究真的就是比如说可以多听这个coach的podcast然后多去了解从一个投资人的思维我到底是怎么去思考我怎么投资了我觉得证明很多共性就是你怎么去投资一家公司和你怎么投资你的职业这里面有很多很多我觉得值得学习的点真正如果说这个东西特别值得投那说不定就是你的各方面能力你对这个的理解的认知和你的对他的fit的程度我觉得其实是像大到一个比较好的平衡那时候我觉得就是你会内心说我不加入这公司我这辈子就后悔那这里是时间这里是浪潮来了你必须要做必须要从这波浪对我觉得投资的时候你可以换一个问题就是如果换作你是一个求职者你要不要加入这个创始人如果你都愿意加入他那其实你真的就应该这个投他因为你要去给他打工了这个是一个就你给他一笔钱这是更重的一个commitment所以如果这你都愿意那就你真的应该投对我觉得这里面有蛮多共性我自己也会天使投资我去这边有个叫开天眼对不对不知道你们有没有这个比喻就是开天眼的意思就是说你作为一个创业者你经常去思考一下怎么去投资实际上就相反是从不同的角度去思考问题我觉得就是比如说你从更高一个维度的思考问题和从更底层的维度思考问题你要经常切换你自己的角色去思考这个问题一旦你能把这些问题思考清楚的话我觉得就是是一个特别大的优势这个优势的话是可能就别人很难追上来的一些优势蛮有意思的如果今天比如说我们做一个思想实验给你一笔虚拟资金比如说三百万美金就要求你此刻今天必须把它立即投出去投给三个人然后你脑海中有这样的人吗你要投给谁我具体的人我名字我就不说因为他们可能还在还在funding的过程我可以举一个就是头部视频模型的这种早期的创始成员其实我是literally我就最近也是在帮他们去找投资我甚至可以个人会去参与一些他们的话我觉得首先视频模型这一块是一个G coding模型第二个赚钱的赛道就被证明赚钱的赛道而创业公司能把这个做好了我目前没有看到几家就真正从模型测把这个做好了所以我觉得这块机会是特别难得但这块的话Couch你感兴趣我可以推荐你聊一聊这里面的创始人对另外一块的话我觉得AI for AI这个就是创业公司是有机会的就是在于说AI for AI你怎么样去通过AI来训练好的模型包括去在Auto Research的基础上发挥这种长城的方式去让你在Azure能做更多活这个的话我也个人有私心我想通过跟这样的公司来合作来把我这个底座做得更好同时也是会让打造下一代这种开大模型的一些范式包括这种我也觉得 [50:00] 前模型公司Frontier Lab也在做类似的事所以我对这方面也是比较关注了那我们最后聊两三个比较轻松的话题一个就是这个你更喜欢Cloud Code还是Codex我现在Codex什么原因呢你是肯定是迁移过来的对吧大家都是有搬家的过程对Codex的话就是人很话不多就给他坑吃坑吃干活然后像那个我记得就是那个龙虾作者他其实就是有做过类似的分享我觉得蛮有意思的给大家分享他觉得那Codex更像是一个德国人就他就吭哧吭哧干活给你干的这个质量也很高然后那个就是Codecode的话更像一个美国人他就很chatty跟你说一堆废话就是你又没有考虑这个东西你这个东西有没有想透他其实这个就是不同的性格然后我为什么用Codex首先这模型的这个能力我并没有看到代息上的差别我觉得Codex的话它而且经常会给一些reset经常会有一些好的一些就是对开发者友好包括它的Harness开源对这种开发者来说打了资产翻身战就是从把我们从这个quadcode转移到Codex上我觉得这波还是说能站住脚了在这个Coding上我觉得还是值得跑值得用的一套行李但however我们在我们Execution上面跑的时候我们发现Codex有各种各样的问题我们其实有计划去给上游提供一些这种修复因为它是开源所以像那个Code它是被迫开源我们没有办法去贡献对不对我们其实还是想通过我们这执行底座来优化上面harness其实这也是我们一个考虑吧所以你们内部是统一用codex吗现在还有任何人在用cloudcode或者用cursor或者别的产品吗我个人用codex比较多然后比如用codex还有grok还有像我们在fireworks这样用国产的一些比较前的模型其实都有用我们现在内部的一个共识在说我把mortar router交给工程师本身工程师他们最有体感他们知道什么时候该用什么样的一些模型我们还会用Glock做一些比如说前端这些一些不需要那么资深工程师参与的那种比如说出错了以后恢复半径也比较小的那些工作我们会交给没那么收拾的模型但这些的话我全部让工程师自己决定他们爱用什么模型用什么模型我们用了模型五花八门但是我希望最终工程师给到结果是工程师能够负责任的一个结果就行了我不管你用什么模型但是我是希望大家就是通过这样来培养体感来培养对目前模型状态的一个认知能够理解然后我也特别欢迎大家用各种模型就是用各种提升妙想把这个模型的多快好省因为我们想我们想要支持我们的客户做这个事所以我想我们的工程师也有这方面的能力对模型也有体感然后这样才能够改进我们这下面的自信层那除了这个Codex其他你用的最多的AI产品还有哪些我个人用那个Hermes跟那个Pi然后我们团队对这种龙虾就不屑一顾他们觉得这里面写的特别烂然后也有他们自己去手出一套这种Harness出来然后看其实效果还不错其实所以我就觉得这Harness可能护城河并没有那么高可能其实每个企业到时候可能归根结底还会自己搭一套出来我个人还会用一些比如说Eleven Labs去用一些音视频去做一些这种帮我去比如说配个音什么之类的然后我还会去尝试用比如说生图的一些模型像一些比如说OpenArt之类的这种产品包括我个人也是会强迫自己去使用包括早期那些各种Agent各种产品因为我想要对这些就是目前智能体的一些目前的程度到底智能化到哪一步我还会去用一些比如说录音笔一些硬件然后包括像那个比如说智能客服帮你去打电话包括像我一个朋友正在创业做那个帮你自动去比如说你的扑多钱了对不对他这个自动语音客服帮你去把这钱要回来在那些agent我实际上用的还蛮激进的我属于是我们公司用agent最激进的一个人了对我感觉这个关南你整个状态非常的有活力感觉非常开心就是我创业确实特别做一个CEO来创业我觉得每天确实都是过山车你每天可能比如说有五个好消息五个坏消息但是我觉得焦虑的原因在于说大家往往会被那几个坏消息所焦虑然后其实我也会经常会有些这种困惑但overall的话从更大的一个角度来说我觉得首先我们是否在解决一个特别让人兴奋的问题我觉得我是在解决一个特别让人兴奋的问题 [55:00] 我们是否是最适合做这个团队我觉得目前的团队配置包括我们现在要招的人我觉得也是朝这个方向去演进的包括我们投资人包括我们背后的支持的网络我觉得也是最适合这里面其实在于说大家真的是觉得我们是在做一个特别meaningful一件事这件事真的是会很深远的改变AI的格局改变智能体格局所以这些事让我很兴奋让我觉得即使坏消息无所谓也就是点坏消息对于未来比如说几十一个agent落地来说这点算啥对不对以这种好奇心驱动去探索问题我觉得这可以给我带来还蛮多兴奋感真好这个状态非常的让人羡慕好那我们今天谢谢灌篮也希望你的快乐或者创业的这种激情可以感染到听这期节目的朋友们对对对也感谢coach给这样一个机会然后我也想稍微再插播一下就是如果各位听众朋友对参与未来这个agent的基建是感兴趣的欢迎找我来聊好我们会把联系方式放在这个播客的介绍里面欢迎大家这个联系关联这个联系run talk好那我们今天先到这里谢谢好的好的感谢coach拜拜好拜拜