十字路口Crossing
由于算法迭代极快且隐性成本高昂,企业自建推理集群在成本、安全和灵活性上均不如大模型即服务(MaaS)平台,未来云基础设施将从“水电煤”彻底演变为“水电煤模”。
AI-assisted summary of 「1 亿 TOKEN 俱乐部」挤爆了,AI 的燃料不够了|对谈于文渊:阿里云百炼技术负责人 — original source. Check the original for full context.
Source published:
Detailed notes
## Background 该内容由微信公众号及视频号平台「十字路口Crossing」于 2026 年 3 月 29 日发布,是主理人 Koji 和 Ronghui 对谈阿里云百炼技术负责人于文渊的播客节目。节目主要围绕 AI 深入生产链路后导致的 Token 消耗暴涨、算力缺口、企业自建与上云的选择抉择、AI 编程的隐患以及未来基础设施的演变展开探讨。
## TL;DR 在 Agent 和 AI Coding 工具席卷全球的背景下,Token 消耗量呈指数级爆发,AI 正从闲聊工具彻底转变为核心生产力。阿里云百炼技术负责人于文渊指出,面对极度匮乏的算力,云厂商的核心使命已变为极致提升 GPU 利用率。他提出企业盲目自建 GPU 难以应对技术不确定性且隐性成本高昂的“暴论”,并告诫年轻程序员应警惕“Vibe Coding”,提倡通过“Spec Coding”守住核心竞争力。未来的云基础设施将不再由真人主导,而是全面演进为融合复杂系统、多样化算力的“水、电、煤、模”新常态。
## Atmosphere & style 整期节目展现出一种深度的行业前瞻性与硬核的技术理性,对谈氛围专业、务实且充满锐利的思辨感。于文渊作为资深技术专家,其输出既有身处算力风暴中心的笃定与紧迫感,又带着鲜明的、自嘲为“Hands on、Hands dirty”的工程师直率,频繁抛出反直觉的行业洞察。节目剥离了流于表面的人工智能宏大叙事,直面地缘政治下的算力饥饿与真实的工程落地困境,在主理人富有远见的总结与嘉宾的深度解构中,为听众勾勒出一种既令人兴奋又充满警醒的 AI 工业大生产时代前夜的真实体感。
## Key takeaways - `01:09` Cursor、OpenClaw 等 Agent 工具的爆发,使用户的 Token 消耗量按月翻倍,AI 正从 Chatbot 彻底推进到核心生产力链路中。 - `01:49` 单一的 Token 数量具有误导性,小模型的 Token 与会深度思考的 SOTA 大模型 Token 在算力和智能价值上并不等价。 - `04:15` 在 GPU 资源极其有限且极度饥渴的背景下,百炼团队的核心使命是让每一个 GPU 从 1 千卡到 100 万卡都不要有一秒钟闲下来。 - `11:49` 针对企业自建私有化部署的趋势,文渊发表“暴论”认为没有任何情况需要自建,因为面对极高不确定性,MaaS 才能完美解决成本、安全和灵活性问题。 - `11:49` 百炼正在推行“机密推理”方式,用户端到端掌握密钥,让云厂商在密码学层面无法看到模型文件与任何请求。 - `14:40` 文渊不建议计算机专业学生盲目依赖 AI 写代码,资深工程师可用 AI 提升效率,但新手如果从一开始就全靠 AI 就会丧失对那 1% 错误的判断力。 - `14:40` 在核心生产环境中纯靠感觉的“Vibe Coding”非常危险,更推荐“Spec Coding”,即人把需求规范写清楚,让 AI 来进行高质量填空。 - `21:40` 写操作系统内核、数据库内核等质量高、测试用例清晰、结果可量化的“封闭问题”,恰恰是 AI 最擅长且最先被提升效率和取代的领域。 - `23:29` 英伟达断供对中国 AI 影响巨大,算力供给缺口如同“油田还在开采,但高速路上的车已经跑起来了”,匹配供需是燃眉之急。 - `23:29` 在新型云(Neo Cloud)中,文渊不看好纯资源转售型厂商,更看好能屏蔽硬件复杂性、围绕 Agent 提供沙箱托管与可观测性基建的 AI 原生服务。 - `29:39` AI 的终局将演变为像高速公路和电信运营商一样的基础设施,核心基础设施将从传统的“水、电、煤”正式跃迁为“水、电、煤、模”。
## Detailed walkthrough 以下是该播客片段的详细完整实录与深度走向梳理:
### `00:00` 缘起与背景:嘉宾、主理人以及对 Token 爆发的主流感知 播客“十字路口”主理人 Koji 援引了乔布斯对苹果公司的经典比喻——“站在科技与人文的十字路口”,以此阐述该节目长期观察 AI 创业的定位。Koji 指出,近期 Cursor 和 OpenWebUI 的“爆炸性流行”,让全世界都在惊叹“Token 不够用了”。他一针见血地提出,Token 不够用只是表象,其核心本质在于“更高性价比的算力”依然极度匮乏,而未来人类智能的上限,将取决于我们能否像使用水电煤一样稳定地使用 AI 算力。基于此背景,节目邀请到了中国最大的 MaaS(Model as a Service)服务商之一——阿里云百炼的研发负责人**文渊**。
文渊在进入快问快答环节时透露自己今年 39 岁,本科毕业于北京大学,博士毕业于英国爱丁堡大学,MBTI 人格是典型的 INTP。在 2018 年,他创立的一家小公司被阿里收购,随后他进入达摩院和通义实验室从事系统化研究,直至今日负责百炼平台的研发。谈及近两个月 Cursor 和 OpenWebUI 席卷全球对工作带来的冲击,文渊用了“非常夸张”来形容。他透露,百炼平台上的 Token 消耗数“基本上按月要翻倍”,且这些消耗都集中在非常高质量、Zota 的特定模型上。他强调,用户已经不再把 AI 作为一个 Chatbot 或纯闲聊的场景,而是彻底将其融入到了核心生产力场景中,而“现在仅仅是一个开始”。
---
### `05:00` 算力焦虑与“1亿 Token 俱乐部”的质量之争 在算力爆发的背后,文渊指出,AI 正在非常深刻地改变人们消耗算力的方式。虽然他坦言很难预测短期内下一个爆款场景是什么,但他非常笃定地预言:“三五年内,有非常多的人力所花的时间解决的事情,都一定会用 AI”。同时,云计算的数据中心形态、调度系统以及消耗计算、存储和网络的方式,在三五年后也会和今天完全不同,云厂商正在迎来重新洗牌的趋势。他提到,虽然外界认为全球云厂商格局早已被几个中美巨头定死,但新型云(Neo Cloud)的崛起证明了游戏规则正在发生变化。作为中国最大的云厂商之一,阿里云正在迎接近年来最剧烈的变革,其核心思考已经变为:**如果未来的云用户不再是真人,而是 Agent,那么它们需要什么样的基础设施?**
面对两个星期内峰值便跃升至历史新高的通义千问 3.5 模型,文渊透露,即使阿里云拥有一位在算力投入上“最激进的 CEO”(吴泳铭),其算力资源依然远远不够用。在 GPU 供给极其有限、各大算法团队都在拼命争抢资源的重压下,百炼团队的核心使命就是**“让每一个 GPU 不要有一秒钟闲下来,让它发挥最大的作用”**。
针对最近微信群里流传的“1亿 Token 俱乐部”(即一天烧掉 1 亿 Token 才有资格入群)概念,文渊提出了不同的视角。他认为单一的 Token 数量具有误导性,因为一个 0.6B 小模型或 Embedding 模型的 Token,与一个会深度思考的 SOTA 大模型的 Token 在算力和智能水平上完全不等价。当被问及百炼平台目前每天烧掉 1 亿 Token 的用户有多少人时,文渊笑称:“我们感觉现在每天都在增加,数以万计的人每天都在增加。”这意味着“1亿 Token 俱乐部”的门槛在百炼平台这里已经不再是高门槛,未来应该升级为“10亿 Token 俱乐部”。对百炼团队而言,他们更关心的是“峰值调用量”,以及如何通过技术上的“削峰填谷”和高效调度将 GPU 充分利用起来。
- **多模态与 Agent 催化**:不仅是 Cursor 等代码助手,视频生成模型跨过从 Demo 到真实市场可用的门槛后,也带来了一波波剧烈的 Token 爆发。 - **国际化算力调配**:为了让 GPU 24 小时物尽其用,百炼在国际化布局上刚刚起步。虽然出海已是必然趋势,但目前国内业务体量仍占据绝对大头,且团队必须克服地缘政治与数据合规等问题。 - **水饮厂商案例**:文渊分享了一个上帝视角下的观察,某水饮厂商的经销商在微信群里直接对补货机器人说自然语言(如“不知道多少箱某饮料”),AI 就能结合历史订单和饮料品类自动完成补货,大模型正深远地替代和影响现实中的各种行业角色。
---
### `10:00` MaaS 平台的制胜红利与自建私有化的“暴论” 针对市面上所有云厂商的 MaaS 服务看起来大同小异的现状,文渊作为一名自封为“Hands on、Hands dirty”的工程师,拆解了百炼的底座差异化优势。他认为,阿里云在基础设施(Infra)上的长期积累、产品线的广泛度、规模与技术厚度是核心竞争壁垒。同时,百炼与通义实验室的兄弟团队是“背靠背”一起在做模型上线前的打磨与压测,加之内部从 CPU 时代就开始深度使用平头哥自研芯片,使其能够提供端到端的完美软硬协同。他自信地表示,许多客户反馈在其他平台部署通义千问模型的效果和速度不如百炼,正是因为百炼积累了多年的精度体系与稳定性推理服务框架,“可以比较自信地说,通义所有模型的 Model Card 上的所有分数,百炼的 API 一定可以做到。”
当 Koji 抛出一个尖锐问题——企业做到一定规模后为了省成本是否应该考虑自建私有化部署时,文渊发表了一个不代表阿里云官方、仅代表百炼研发负责人的“暴论”:**“没有任何一个情况需要自建。”**
文渊对这一暴论进行了深度解构。他指出,企业自建无非基于三个顾虑:成本可控、数据安全、以及认为英伟达的显卡买来灵活。然而事实恰恰相反,MaaS 才是解决这三个核心痛点的最佳方案:
> “今天最大的确定性其实是不确定性,你不知道明天的 AI 需要什么,明天的模型长什么样子,架构会有什么的变化,然后推理效率会变成什么样子。”
- **成本优化极难**:如果折算到单模型的 Per Token 成本,由于算法迭代和推理优化速度极快,普通公司仅靠一两个 Infra 工程师根本无法保证持续的推理优化与服务质量平衡。 - **密码学保障的安全**:云厂商不看也看不到用户数据是职业操守。百炼正在推行一种“机密推理”方式,用户端到端掌握密钥,云端既看不到模型文件也看不到请求,直接提供密码学级别的安全。
---
### `15:00` 计算机专业学生的警示:不要用 AI 写太多代码 作为北京大学计算机专业的校友,文渊坚定地鼓励当下的学弟学妹们继续选择计算机专业。他分享了 80 年代北大老师的一句话:“未来人有两种人,一种是被计算机使用的人,一种是使用计算机的人。” 这个真理在零几年他读大学时适用,在今天 AI 时代依然适用。但他同时提出了一个反直觉的严厉建议:**“学弟学妹们一定不要用 AI 帮你写太多的代码。”**
文渊引用了医生张文宏的一个访谈观点:资深医生可以用 AI,但如果实习医生从看第一个病号起就直接依赖 AI 的诊断结论,他就永远没有经验的积累(Build up),更无法建立好坏对错的判断力。在 AI 只能覆盖 99% 的常见医学知识时,这样的实习医生永远找不到那剩下的 1% 的问题。他警示计算机专业的同学,一定要避免让自己成为与 AI 高度重合的 99%,而要成为能识别出 AI 做不到的那 1% 的人。
针对目前 70%-80% 程序员都在使用的“无脑补全代码”趋势,文渊直言,在核心生产(Production)环境和关键任务(Mission Critical)中,这种“Vibe Coding”(氛围感编程/纯靠感觉编程)是非常危险的。他作为 Code Reviewer 时,如果看到一段完全由 AI 生成的代码会“很慌”:
> “做一个 Prototype(原型),今天的 Vibe Coding 质量已经到那个点了,完全没有问题。但生产可用的代码,你需要知道每一行它可以完成你想要的事情,同时它的副作用是可解释的,不会产生内存泄露,不会占用更多的文件句柄。”
文渊更推崇的是“Spec Coding”(基于规范/规格的编程)。他提到去年存储领域顶级会议(FAST)上的一篇论文,研究者向当时的 32B 模型提供了极其清晰严谨的 Spec,AI 最终成功写出了高质量的操作系统文件系统。这证明只要人能用严密的形式化逻辑把需求描述清楚,AI 就能把填空的事情做得很好。
- **隐性知识的缺失**:日常人和人交流中的很多知识是过程性、隐性的(例如跟创始人风格、产品历史上下文深度绑定),这些是提示词(Prompt)和 AI 绝对无法获取的。 - **AI 是效率工具而非替代品**:现阶段应该提倡“一个架构师用 AI 可以完成原来好几个工程师的工作量”,而不是盲目地用 AI 彻底替换掉工程师,否则会陷入“在无法维护的屎山代码中挣扎的苦海”。 - **过程要素的价值**:Koji 补充了组装家具的类比(生产要素、说明书等知识要素大家都有,但装过很多遍的师傅拥有最核心的“过程熟练”),强调程序员必须把能力建立在 AI 无法触及的黑盒过程上。
---
### `20:00` 系统的封闭与开放:什么人最容易被 AI 淘汰? 在讨论 AI 替代的边界时,文渊给出了一个再次反直觉的行业洞察:
> “AI 可能真的能替代的那批人,也许是写最好的那一批。比如说写操作系统内核、写数据库内核、写文件系统。这些可能是最容易被提升效率、被打满的。”
他解释道,因为系统级代码库的质量极高、测试用例极为清楚、结果具有高度的确定性(例如指标就是优化百分之多少的性能),这本质上是一个非常精准的数学形式化问题,而 AI 目前在数学和编程竞赛上表现得极其优秀。相反,像前端工程师或产品经理所处理的工作,往往需要理解用户体验和 Know-how。例如“什么样叫做好的短视频 APP”是一个完全没有清晰定义的、高度开放的问题,与人走得越近的开放式问题反而越难被取代。至于 MaaS 系统的工程建设,在文渊看来同样是一个开放问题,因为 AI 的架构和算力资源变幻莫测,极度考验工程师应对变化的潜力。
随后,话题转向了中国 AI 绕不开的“英伟达断供与芯片国产化”议题。文渊坦言断供对行业的影响“很大,非常非常大”。他将算力直接比作工业的石油:
> “算力这个东西在今天的市场上,它有点像石油。本质上不是说中国能不能产石油的问题,或者是中国有多少个油田的问题,是中国每天需要的石油和每天能供给的石油是不是匹配的问题。”
文渊表示,他对中国自研算力(如平头哥芯片,因其拥有顶尖的软硬件团队且很多项目已经落地,在百炼内部使用体验非常丝滑)以及中国工程师的聪明才智有着充分的信心。但现在面临的燃眉之急是“油田还在开采中,而高速公路上的车已经跑起来了,油不够用。” 历史上阿里云从未对云资源有过如此空前的、饥渴式的爆发需求。只要有源源不断的算力供给,市场就能在顷刻间将其百分之百消耗掉,无论用来训练更强的大模型还是降低 AI 应用的客单价。
- **2026 年底 Token 消耗预测**:文渊表示自己对 AI 的“意想不到预值”已经被拉得极高,到 2026 年底,Agent(智能体)与 AI 生成(多模态生成)必将成为烧掉最多 Token 的绝对大盘和最大增量。
---
### `25:00` 终局展望:云基础设施将从“水电煤”演变为“水电煤模” 在访谈的尾声,Koji 探讨了 MaaS 平台的核心价值与行业终局。文渊解释称,虽然百炼平台主要托管和主推自家的通义千问模型,但作为云平台,百炼纯粹以服务客户的需求为导向。目前国内主流的开源大模型、以及包括 MiniMax、Kimi、DeepSeek 在内的众多原厂商业 API,用户都可以在百炼平台上通过统一的 API 畅快调用,并享受到百炼提供的精细化托管推理服务。
对于外界火热的 Neo Cloud(新型云),文渊坦言自己并不看好那些单纯将英伟达算力做低层、裸资源转售的厂商。他更看好的是类似 Fireworks、Together 等将硬件复杂性完全屏蔽的 AI 原生 MaaS 厂商,以及围绕 Agent 展开的沙箱托管、浏览器搜索、和类似 AI 版 Datadog 的“Agent 可观测性基建”产品。
最终,当谈到当前的 MaaS 激战区何时能确定战局时,文渊给出了一个宏大的终局想象:这完全取决于 AI 最终在人类社会承担什么角色。他深信 AI 的终局不会被某单一模型垄断,它将彻底演变为像手机运营商、高速公路一样的基础设施:
> “AI 的终局可能确实不是一个模型。就跟电我不分核电、水电,我插在它头上就是 220 伏交流电。它一定是非常多样性、复杂性,融合了各种各样的速度、速率、模型效果和功能的一个复杂系统。”
Koji 将这种演变提炼为一个极具远见的总结——未来人类社会的核心基础设施,将正式从传统的“水电煤”跃迁为“水电煤模”(水、电、煤气加模型),文渊对此表示完全赞同。节目在对未来半年到一年技术演进的期待中圆满结束。
## Notable quotes > `01:09` 现在仅仅是一个开始 — 于文渊
> `04:15` 让每一个 GPU 不要有一秒钟闲下来,让它发挥最大的作用 — 于文渊
> `04:15` 我们感觉现在每天都在增加,数以万计的人每天都在增加。 — 于文渊
> `11:49` 我认为没有任何一个情况需要自建 — 于文渊
> `11:49` 今天最大的确定性其实是不确定性,你不知道明天的 AI 需要什么,明天的模型长什么样子,架构会有什么的变化,然后推理效率会变成什么样子。 — 于文渊
> `15:40` 学弟学妹们一定不要用 AI 帮你写太多的代码。 — 于文渊
> `15:40` 做一个 Prototype(原型),今天的 Vibe Coding 质量已经到那个点了,完全没有问题。但生产可用的代码,你需要知道每一行它可以完成你想要的事情,同时它的副作用是可解释的,不会产生内存泄露,不会占用更多的文件句柄。 — 于文渊
> `20:00` AI 可能真的能替代的那批人,也许是写最好的那一批。比如说写操作系统内核、写数据库内核、写文件系统。这些可能是最容易被提升效率、被打满的。 — 于文渊
> `20:00` 算力这个东西在今天的市场上,它有点像石油。本质上不是说中国能不能产石油的问题,或者是中国有多少个油田的问题,是中国每天需要的石油和每天能供给的石油是不是匹配的问题。 — 于文渊
> `29:39` AI 的终局可能确实不是一个模型。就跟电我不分核电、水电,我插在它头上就是 220 伏交流电。它一定是非常多样性、复杂性,融合了各种各样的速度、速率、模型效果和功能的一个复杂系统。 — 于文渊
## Mentioned 于文渊, Koji, 杨远骋, Ronghui, 阿里云百炼, 阿里云, 通义实验室, 达摩院, 平头哥, 北京大学, 爱丁堡大学, 吴泳铭, 张文宏, 乔布斯, 苹果公司, 英伟达, Claude Code, OpenClaw, Cursor, OpenWebUI, Qwen3.5, 通义千问, MiniMax, Kimi, DeepSeek, Fireworks, Together, Datadog, FAST
[Source](https://dts-api.xiaoyuzhoufm.com/track/60502e253c92d4f62c2a9577/69c24455521e5c0a80c3ff92/media.xyzcdn.net/60502e253c92d4f62c2a9577/ltn5K9jd9E04I5MFDkDo_yCoslSm.m4a)