Fireworks乔琳称AI初创盲目扩张恐破产 力推专有数据降本

Silicon Valley Coordinates x Fireworks AI Co-founder and CEO Qiao Lin: Cutting-edge intelligence ... — Silicon Valley Vector 硅谷坐标

Silicon Valley Vector 硅谷坐标

AI业务由于推理算力成本昂贵打破了SaaS时代的盈利逻辑，即便达成PMF，企业若不通过专有模型与底层协同优化实现数量级降本就会在放量中耗尽现金走向破产。

AI-assisted summary of Silicon Valley Coordinates x Fireworks AI Co-founder and CEO Qiao Lin: Cutting-edge intelligence ... — original source. Check the original for full context.

Source published:

Key ideas

  • Fireworks AI 创始人乔琳提出，AI 商业与传统 SaaS 截然不同，即便达成 PMF，若缺乏高效基建也会因高昂推理成本“规模化走向破产”（Scale into Bankruptcy）。 (3:45)
  • 针对公开评测集严重的训练饱和与数据污染，Fireworks 推出 Specialized Intelligence Index，聚合企业私有真实评估以量化前沿模型的实际落地表现。 (1:50)
  • Fireworks 自研模型 Ember-1 通过缩短 2 倍思维链长度，在保持准确度不变的同时使 Token 消耗与推理费用减半。 (6:26)
  • Fireworks 强调训练与推理的协同优化，实现“位等价”（Bitwise Equivalent）以消除 0.1% 的单轮偏差，防止长程 Agent 在百轮交互中发生多达 10% 的复合性能劣化。 (10:48)

Detailed notes

## Background 本内容由 YouTube 频道「Silicon Valley Vector 硅谷坐标」于 2026 年 10 月 12 日发布。视频记录了在 HYSTA 2026 年会闭幕 Keynote 之后，硅谷坐标与 Fireworks AI 联合创始人兼 CEO 乔琳的高效交流，围绕 Fireworks 近期动态、专属智能评测、自研模型 Ember-One、AI 商业本质与组织挑战展开探讨。

## TL;DR Fireworks AI CEO 乔琳指出，真正的智能前沿深植于各企业的私有数据中，专属智能（Specialized Intelligence）将与通用大模型平行演进；为此 Fireworks 推出了旨在破除公开刷榜失真的 Specialized Intelligence Index，以及将思维链减半以降低推理成本的自研模型 Ember-1。他深刻剖析了 AI 业务与传统 SaaS 的本质差异，警告盲目追逐 PMF 极易因昂贵算力演变成「规模化破产」，企业必须拿回供应链主导权。技术层面，Fireworks 依托训练与推理协同设计、Bitwise Equivalent（位等价）消除长程 Agent 的复合发散，并通过 Nexus 智能路由器实现全局最优调度。面对行业从 Coding 走向医疗与网络安全等多领域的爆发，乔琳认为公司未来 18 个月的最大挑战在于回归第一性原理重塑扁平组织，以承接超线性的市场需求。

## Atmosphere & style 对谈节奏紧凑干练，充盈着硅谷硬核技术创业者的清醒与务实。没有浮夸的概念包装，乔琳以极高密度的商业洞察和底层工程认知直击行业痛点，语言犀利且直面残酷现实。整个交流冷静、专业而充满张力，既有对前沿技术落地的笃定自信，又透露出面对超线性爆发需求时对内部组织扩张的深度审慎与紧迫感。

## Bulletin - [03:45](https://www.youtube.com/watch?v=rrHuun5jC1g&t=225s) Fireworks AI 创始人乔琳提出，AI 商业与传统 SaaS 截然不同，即便达成 PMF，若缺乏高效基建也会因高昂推理成本“规模化走向破产”（Scale into Bankruptcy）。 - [01:50](https://www.youtube.com/watch?v=rrHuun5jC1g&t=110s) 针对公开评测集严重的训练饱和与数据污染，Fireworks 推出 Specialized Intelligence Index，聚合企业私有真实评估以量化前沿模型的实际落地表现。 - [06:26](https://www.youtube.com/watch?v=rrHuun5jC1g&t=386s) Fireworks 自研模型 Ember-1 通过缩短 2 倍思维链长度，在保持准确度不变的同时使 Token 消耗与推理费用减半。 - [10:48](https://www.youtube.com/watch?v=rrHuun5jC1g&t=648s) Fireworks 强调训练与推理的协同优化，实现“位等价”（Bitwise Equivalent）以消除 0.1% 的单轮偏差，防止长程 Agent 在百轮交互中发生多达 10% 的复合性能劣化。

## Key takeaways - [00:00](https://www.youtube.com/watch?v=rrHuun5jC1g&t=0s) 全球最高价值的真实数据深植于垂直企业内部，专属智能（Specialized Intelligence）与通用基础模型并行演进，共同构成前沿智能的版图。 - [01:50](https://www.youtube.com/watch?v=rrHuun5jC1g&t=110s) 现存公开基准测试（Public Benchmarks）因被预先吸纳训练而严重失效，无法反映真实企业业务场景下的模型表现。 - [01:50](https://www.youtube.com/watch?v=rrHuun5jC1g&t=110s) Fireworks 推出 Specialized Intelligence Index，在保护隐私前提下汇聚企业私有基准，客观评估开源与闭源模型在专有任务上的推动力。 - [03:45](https://www.youtube.com/watch?v=rrHuun5jC1g&t=225s) SaaS 的边际成本主要来自廉价的存储与 CPU，而 AI 推理算力极其昂贵，盲目扩张极易导致初创公司与传统存量大厂现金流枯竭。 - [03:45](https://www.youtube.com/watch?v=rrHuun5jC1g&t=225s) 完全依赖闭源 API 面临供应链卡脖子隐患，供应商往往兼具竞对身份，基于开源模型与私有数据自建专有模型是掌控供应链的必由之路。 - [06:26](https://www.youtube.com/watch?v=rrHuun5jC1g&t=386s) 自研模型 Ember-1 聚焦压缩思维链（Chain of Thought），通过精简推理步骤实现 Token 消耗降低 50%、速度提升一倍。 - [06:26](https://www.youtube.com/watch?v=rrHuun5jC1g&t=386s) Ember-1 针对性改善了长程智能体（Long-horizon Agent）在多轮交互中容易遗忘上下文的痛点，并强化了言简意赅的输出风格。 - [08:33](https://www.youtube.com/watch?v=rrHuun5jC1g&t=513s) AI 应用生态正从单一的代码生成（Coding）扩散至医疗研发、客服、招聘、营销及网络安全等知识工作者全流程场景，C 端爆发预计在明年到来。 - [10:48](https://www.youtube.com/watch?v=rrHuun5jC1g&t=648s) Fireworks 将训练加速与推理引擎深度协同设计，杜绝模型部署中的发散损失，实现 5 至 10 倍的成本降幅。 - [10:48](https://www.youtube.com/watch?v=rrHuun5jC1g&t=648s) 通过保持位等价（Bitwise Equivalent），有效避免复杂多轮 Agent 在 100 轮交互中因微小误差累积造成的系统崩溃。 - [10:48](https://www.youtube.com/watch?v=rrHuun5jC1g&t=648s) 平台内置 Nexus 智能路由器，根据任务类型、延迟与成本约束，全自动分发流量至最适配的专有、开源或闭源模型节点。 - [12:35](https://www.youtube.com/watch?v=rrHuun5jC1g&t=755s) 面对超线性爆发的市场需求，Fireworks 回归第一性原理，采用扁平架构与端到端负责制，以在人员扩张中维持小团队的极高执行速度。

## Detailed walkthrough ### [00:00](https://www.youtube.com/watch?v=rrHuun5jC1g&t=0s) 专属智能（Specialized Intelligence）与私有数据的真正价值

在大会的闭幕分享之后，Fireworks AI 联合创始人兼 CEO 乔琳阐述了人工智能未来演进的核心逻辑：行业的发展重心正逐渐转向“专属智能”（Specialized Intelligence）。乔琳指出，专属智能并非通用基础模型的附属品，而是一个与通用大模型平行的宏大概念。放眼全球的数据分布，绝大多数高价值的真实世界数据从未被通用的基础模型（Foundation Model）吸收，因为这些数据牢牢扎根于具体应用或企业内部，具有极高的私密性，企业绝不可能将其公开放弃并与外界共享。

基于这一现实，乔琳认为真正的智能前沿（Frontier Intelligence）其实隐藏在各家企业独特的业务场景与私有技术之中。Fireworks 的核心使命，正是协助这些企业将自身沉淀的私有数据转化为独一无二的专属智能体。一个企业之所以能在商业世界中立足，本质上是因为它用一种非常独特、甚至“奇异”的方式，极度出色地解决了一个高度特定的具体问题；如果无法做到这一点，企业就失去了存在的意义。因此，AI 生态必须走向 Specialized Intelligence，去映照并赋能每一家企业不可替代的产品特性。

- **私有数据构成行业壁垒**：全球绝大部分关键数据沉淀在垂直应用与企业防火墙内，基础模型无法直接触达。 - **专属智能的双轨并行**：Specialized Intelligence 与追求大一统的通用智能并行演进，共同构成完整的 AI 发展版图。

[01:50](https://www.youtube.com/watch?v=rrHuun5jC1g&t=110s) 为什么推出 Specialized Intelligence Index 与公开评测的失效

针对 Fireworks 于 9 月 22 日推出的 Specialized Intelligence Index（专属智能指数），乔琳深入剖析了其战略初衷。企业的独特性最终必须落脚在评测（Evaluation）上，然而市面上现存的绝大多数公开 Benchmark（Public Benchmarks）早已严重“训练饱和”（Data Contamination / Benchmark Overfitting）。所谓训练饱和，是指各大模型开发团队在训练阶段就已经将公开评测集本身作为训练数据吸收进去，由此跑出的优异跑分在真实商业场景中毫无实际参考意义。

为了打破这种“唯跑分论”的虚假繁荣，Fireworks 打造了 Specialized Intelligence Index，旨在将众多企业各自独特的私有基准测试（Private Benchmarks）在保护隐私的前提下汇总并映射出来，构建一个反映真实业务水准的指数导向。无论是 OpenAI、Anthropic、Google 等闭源大厂推出新模型，还是开源社区发布最新权重，行业都可以通过这一指数清晰看到新模型在真实企业专有任务上的质量提升幅度。乔琳强调，该指数与随后发布的模型在发布时间上虽有巧合，但在战略逻辑上是相辅相成的。

```mermaid flowchart TD accTitle: Specialized Intelligence Index 运作逻辑 accDescr: 展现公开评测失效与私有基准测试汇总生成专属智能指数的过程

subgraph Problem["公开评测现状"] A["公开评测集 (Public Benchmarks)"] -->|"数据污染 / 训练饱和"| B["高跑分失真 (无法反映真实业务)"] end

subgraph FireworksIndex["Fireworks 专属智能指数"] C["企业 A 私有真实评估"] D["企业 B 私有真实评估"] E["企业 N 私有真实评估"] C & D & E -->|"多维脱敏汇聚"| F["Specialized Intelligence Index"] end

subgraph Target["赋能行业决策"] F --> G["闭源模型 (OpenAI / Anthropic / Google)"] F --> H["前沿开源模型权重"] G & H --> I["量化真实场景推动力 (推动垂直领域业务落地)"] end ```

[03:45](https://www.youtube.com/watch?v=rrHuun5jC1g&t=225s) AI 生意不同于 SaaS：有 PMF 也会“Scale into Bankruptcy”

谈及 AI 商业模型与传统软件行业的本质分水岭，乔琳给出了一个尖锐的判断：在 SaaS 时代，达成 Product-Market Fit（产品市场匹配，简称 PMF）就等于构建了一个持久健康的业务（Durable Business），创业者只要踩准了 PMF 就可以放手去以最快速度扩张（scale as fast as possible）。因为传统 SaaS 的边际成本主要来自人力、存储（Storage）和 CPU 计算，这些底层资源早已变成极其廉价的标准化大宗商品（Commodities）。

然而，AI 业务的成本结构发生了根本性颠覆。即使初创团队找到了 PMF，如果没有极其高效的底层基建支撑，盲目扩张就极易演变成“Scale into Bankruptcy”（规模化走向破产）。AI 基础设施的推理与计算成本极其昂贵，如果业务以爆发式速度攀升而无法在短时间内完成下一轮融资，账面现金很快就会被算力账单彻底吞噬。对于拥有庞大存量流量的大企业而言，这个危机更为严峻：十年前沉淀下来的数千万甚至数亿用户，一旦全量上线某个 AI 功能，随之而来的将是天价的推理账单。很多 CEO 看到相关业务提案的成本预算时都会陷入停滞，但不敢创新又意味着被时代淘汰。

- **成本数量级差异**：Fireworks 致力于通过专业化优化，为客户将 AI 运行成本降低 5 到 10 倍（Order of Magnitude Difference），彻底破除业务放量的财务瓶颈。 - **供应链掌控权危机**：若完全依赖闭源 API，企业不仅无法把控升级节奏和流量配额，更会面临供应商本身也在做端到端产品的尴尬局面。供应商兼具 Vendor 与 Competitor（竞对）的双重身份，潜藏极大的供应链被卡脖子风险；基于开源模型与自有数据自建专有模型，是夺回供应链主控权的必由之路。

[06:26](https://www.youtube.com/watch?v=rrHuun5jC1g&t=386s) 自研模型 Ember-1：缩短思维链与推理降本

关于 9 月 23 日推出的自研模型 Ember-1，乔琳解释了其背后的技术思考。通常在开源模型基础上做推理优化已经能带来可观的成本下降，但 Fireworks 进一步探索如何在算法逻辑上让模型“更聪明”。在传统推理链路中，模型解决复杂问题往往依赖冗长的思考链（Chain of Thought），每多一步推理过程就意味着多产生一份 Token 消耗，推理成本随之水涨船高。

Ember-1 的核心研发方向是通过优化思考路径让思维链变短。在保持解答效果与准确度完全一致的前提下，将思考链的长度压缩整整两倍（2x）。由于消耗的 Token 数量减半，客户的综合推理花销直接降低为原来的一半。作为服务全行业的算力与模型平台，Fireworks 将开发者普遍面临的痛点沉淀至模型层统一攻克：一方面是应对 Long-horizon Agent（长程智能体）在上千轮交互中面临的 Context 上下文遗忘问题；另一方面则是让模型输出更加言简意赅（Being Concise），同时斩获速度提升与成本骤降的双重红利。

- **开源社区的迭代哲学**：Ember-1 是基于开源社区既有模型迭代而来，乔琳认为开源的精髓正是“站在彼此肩膀上互相迭代”，唯有开放复用才能产生最大的行业影响力。 - **核心优化指标**：思维链缩短至原本的 1/2，实现 Token 减半、速度翻倍且质量无损。

[08:33](https://www.youtube.com/watch?v=rrHuun5jC1g&t=513s) 应用层爆发：从编程单点突破到知识工作者全面开花

回顾应用生态的演进，乔琳指出去年（2023年）整个行业爆发的应用形态高度单一，几乎完全集中在代码生成（Coding）场景。然而到了今年，编程助手沉淀出的能力正向极其宽广的“知识工作者助理”（Knowledge Worker Assistant）全面扩散，整个应用生态呈现出高度多元化（Diversified）的繁荣景象：

- **医疗健康与生命科学**：从面向医生和患者的咨询问诊助理，到生命科学领域的药物研发（Drug Discovery）、癌症治疗方案筛选以及临床试验流程缩减（Clinical Trial Shortening），技术迭代速度惊人。 - **企业核心职能重塑**：客户支持（Customer Support）逐步被新一代呼叫与文本 Agent 接管；招聘（Recruiting）场景涌现出具备专业甄别能力的工具；营销（Marketing）与销售（Sales）自动化进入深度落地阶段。 - **网络安全（Cybersecurity）**：成为行业投入最为密集的关键领域之一，AI 全面贯穿从威胁检测（Detection）到自动化防护响应（Defense）的各个节点。 - **对 C 端（Consumer）爆发的预期**：乔琳认为当前 C 端 AI 应用大多仍处于概念验证与实验阶段，但随着各类单点模式的跑通，伴随着产品与商业闭环的成熟，预计在明年将迎来面向普通消费者的现象级爆发。

[10:48](https://www.youtube.com/watch?v=rrHuun5jC1g&t=648s) 核心壁垒：训练与推理协同设计、位等价与 Nexus 智能路由

谈及自身的竞争格局与护城河，乔琳表示 Fireworks 从不追求泛泛而谈，而是专注于把客户面临的底层性能问题解决到极致。Fireworks 提供的不仅仅是定制化模型，而是从一开始就将“模型训练”与“推理加速”深度协同设计与协同优化（Co-design, Co-optimized）。

这种全栈闭环带来了一个极其关键的技术指标——“位等价”（Bitwise Equivalent），即确保模型在训练完切入实际推理部署后，绝对不会产生哪怕 0.1% 的精度损失（Divergence）。乔琳解释道，对于一个需要经历 100 轮交互（100 Turns）的长程智能体（Long-horizon Agent）而言，单轮哪怕仅有 0.1% 的细微偏差，在连续 100 次滚雪球式的复合累积（Compound）之后，最终往往会演变为高达 10% 甚至彻底崩溃的系统级性能劣化。Fireworks 消除这 0.1% 的发散，从源头确保了复杂 Agent 在长时间运行下的高可用性。

此外，为了抹平多模型混用带来的复杂度，Fireworks 在平台中集成了名为 Nexus 的智能路由器（Smart Router）。无论是闭源模型、开箱即用的开源底座，还是企业基于自有数据训练的专有模型，开发者无需为“何时该选哪款模型解决何种问题”而编写繁琐规则，Nexus 会根据实时任务需求、成本及延迟约束，全自动将流量分发至全局最优的模型节点。

```mermaid flowchart TD accTitle: Fireworks 端到端技术架构 accDescr: 展示训练推理协同设计、Bitwise Equivalent 精度保障及 Nexus 智能路由的协作关系

subgraph UserLayer["用户请求分发"] Req["应用层多样化请求 (Agent / Coding / 企业工作流)"] --> Router["Nexus 智能路由器 (Smart Router)"] end

subgraph RoutingLogic["Nexus 动态选择最优路径"] Router -->|"专有任务"| Custom["企业定制专有模型"] Router -->|"开源标准任务"| OpenM["开源模型 (Off-the-shelf)"] Router -->|"通用兜底任务"| ClosedM["闭源通用模型 (Closed Models)"] end

subgraph DeepStack["全栈底层协同 (Training & Inference Co-optimization)"] Custom --> Engine["Fireworks 统一算力引擎"] Engine --> Bitwise["Bitwise Equivalent 精度保障\n(消除 0.1% 偏差，杜绝 100-turn 复合劣化)"] Engine --> HighPerf["超高性能低成本推理 (5-10x 成本降低)"] end ```

[12:35](https://www.youtube.com/watch?v=rrHuun5jC1g&t=755s) 未来 18 个月的终极挑战：在超线性需求中以第一性原理重构组织

当被问及未来 18 个月 Fireworks 内部面临的最大挑战时，乔琳直言并非外部竞争，而是“如何 Scale 这家公司本身”。目前 Fireworks 所面对的市场需求呈现出极具爆发性的“超线性增长”（Superlinear Demand）。一家初创企业如何承接这种超线性需求，并在人员与规模剧烈扩张的过程中，确保原有的执行极速（High Velocity）不被稀释和拖慢，是他每日思考最多的课题。

乔琳认为，科技行业过去的科层制与传统组织架构在应对当前的 AI 范式转变时已经失效。他选择回归第一性原理（First Principles）来重新思考团队组织形式。在 Fireworks 内部，管理层级被压缩得极其扁平，公司内部没有任何一个目标是能够由单一孤立的组独立完成的，所有业务与技术目标都必须贯彻“端到端”（End-to-End）负责制。如何在公司体量快速壮大、横跨多个协作部门的同时，依然保持初期小团队那样的端到端极速响应与超高人效，构成了团队穿越 AI 工业革命周期的核心考验。

## Notable quotes > [00:00](https://www.youtube.com/watch?v=rrHuun5jC1g&t=0s) 专属智能并非通用基础模型的附属品，而是一个与通用大模型平行的宏大概念。 — 乔琳

> [00:00](https://www.youtube.com/watch?v=rrHuun5jC1g&t=0s) 真正的智能前沿（Frontier Intelligence）其实隐藏在各家企业独特的业务场景与私有技术之中。 — 乔琳

> [00:00](https://www.youtube.com/watch?v=rrHuun5jC1g&t=0s) 一个企业之所以能在商业世界中立足，本质上是因为它用一种非常独特、甚至“奇异”的方式，极度出色地解决了一个高度特定的具体问题；如果无法做到这一点，企业就失去了存在的意义。 — 乔琳

> [01:50](https://www.youtube.com/watch?v=rrHuun5jC1g&t=110s) 各大模型开发团队在训练阶段就已经将公开评测集本身作为训练数据吸收进去，由此跑出的优异跑分在真实商业场景中毫无实际参考意义。 — 乔琳

> [03:45](https://www.youtube.com/watch?v=rrHuun5jC1g&t=225s) 在 SaaS 时代，达成 Product-Market Fit（产品市场匹配，简称 PMF）就等于构建了一个持久健康的业务（Durable Business），创业者只要踩准了 PMF 就可以放手去以最快速度扩张（scale as fast as possible）。 — 乔琳

> [03:45](https://www.youtube.com/watch?v=rrHuun5jC1g&t=225s) 即使初创团队找到了 PMF，如果没有极其高效的底层基建支撑，盲目扩张就极易演变成“Scale into Bankruptcy”（规模化走向破产）。 — 乔琳

> [03:45](https://www.youtube.com/watch?v=rrHuun5jC1g&t=225s) 供应商兼具 Vendor 与 Competitor（竞对）的双重身份，潜藏极大的供应链被卡脖子风险；基于开源模型与自有数据自建专有模型，是夺回供应链主控权的必由之路。 — 乔琳

> [06:26](https://www.youtube.com/watch?v=rrHuun5jC1g&t=386s) 开源的精髓正是“站在彼此肩膀上互相迭代”，唯有开放复用才能产生最大的行业影响力。 — 乔琳

> [10:48](https://www.youtube.com/watch?v=rrHuun5jC1g&t=648s) 单轮哪怕仅有 0.1% 的细微偏差，在连续 100 次滚雪球式的复合累积（Compound）之后，最终往往会演变为高达 10% 甚至彻底崩溃的系统级性能劣化。 — 乔琳

> [12:35](https://www.youtube.com/watch?v=rrHuun5jC1g&t=755s) 目前 Fireworks 所面对的市场需求呈现出极具爆发性的“超线性增长”（Superlinear Demand）。一家初创企业如何承接这种超线性需求，并在人员与规模剧烈扩张的过程中，确保原有的执行极速（High Velocity）不被稀释和拖慢，是他每日思考最多的课题。 — 乔琳

> [12:35](https://www.youtube.com/watch?v=rrHuun5jC1g&t=755s) 公司内部没有任何一个目标是能够由单一孤立的组独立完成的，所有业务与技术目标都必须贯彻“端到端”（End-to-End）负责制。 — 乔琳

## Mentioned Fireworks AI, 乔琳, HYSTA, Specialized Intelligence Index, Ember-1, Nexus, OpenAI, Anthropic, Google, 硅谷坐标

## Video description 【导语】

HYSTA 2026 年会闭幕 keynote 之后，硅谷坐标和Fireworks AI 创始人兼 CEO 乔琳进行了高效交流，更新了Fireworks的最新动态：

1. 9月22日，为什么Fireworks发布了自己的Benchmark（Specialized Integlligence Index）？ 2. 9月23日，Fireworks发布了自有模型Ember-One 3. AI business 与 SaaS 根本不同 4. 为什么 AI 生意「有 Product Market Fit 也可能破产」，以及一家需求爆棚的公司最难的事为什么是组织架构。 5. 未来应用趋势 6. Fireworks未来挑战

【嘉宾】 乔琳 · Fireworks AI 联合创始人兼CEO

#fireworks #opensource #开源模型 #Hysta #benchmark #硅谷坐标 #ai

[Source](https://www.youtube.com/watch?v=rrHuun5jC1g)

中文简报

Fireworks乔琳称AI初创盲目扩张恐破产，力推专有数据降本 AI业务由于推理算力成本昂贵打破了SaaS时代的盈利逻辑，即便达成PMF，企业若不通过专有模型与底层协同优化实现数量级降本，就会在放量中耗尽现金走向破产。 Fireworks AI CEO 乔琳指出，真正的智能前沿深植于各企业的私有数据中，专属智能（Specialized Intelligence）将与通用大模型平行演进；为此 Fireworks 推出了旨在破除公开刷榜失真的 Specialized Intelligence Index，以及将思维链减半以降低推理成本的自研模型 Ember-1。他深刻剖析了 AI 业务与传统 SaaS 的本质差异，警告盲目追逐 PMF 极易因昂贵算力演变成“规模化破产”，企业必须拿回供应链主导权。技术层面，Fireworks 依托训练与推理协同设计、Bitwise Equivalent（位等价）消除长程 Agent 的复合发散，并通过 Nexus 智能路由器实现全局最优调度。面对行业从 Coding 走向医疗与网络安全等多领域的爆发，乔琳认为公司未来 18 个月的最大挑战在于回归第一性原理重塑扁平组织，以承接超线性的市场需求。 Fireworks AI 创始人乔琳提出，AI 商业与传统 SaaS 截然不同，即便达成 PMF，若缺乏高效基建也会因高昂推理成本“规模化走向破产”（Scale into Bankruptcy）。 (3:45) 针对公开评测集严重的训练饱和与数据污染，Fireworks 推出 Specialized Intelligence Index，聚合企业私有真实评估以量化前沿模型的实际落地表现。 (1:50) Fireworks 自研模型 Ember-1 通过缩短 2 倍思维链长度，在保持准确度不变的同时使 Token 消耗与推理费用减半。 (6:26) Fireworks 强调训练与推理的协同优化，实现“位等价”（Bitwise Equivalent）以消除 0.1% 的单轮偏差，防止长程 Agent 在百轮交互中发生多达 10% 的复合性能劣化。 (10:48)

Source quotes

[0:00] 乔琳: 专属智能并非通用基础模型的附属品，而是一个与通用大模型平行的宏大概念。 [0:00] 乔琳: 真正的智能前沿（Frontier Intelligence）其实隐藏在各家企业独特的业务场景与私有技术之中。 [0:00] 乔琳: 一个企业之所以能在商业世界中立足，本质上是因为它用一种非常独特、甚至“奇异”的方式，极度出色地解决了一个高度特定的具体问题；如果无法做到这一点，企业就失去了存在的意义。 [1:50] 乔琳: 各大模型开发团队在训练阶段就已经将公开评测集本身作为训练数据吸收进去，由此跑出的优异跑分在真实商业场景中毫无实际参考意义。 [3:45] 乔琳: 在 SaaS 时代，达成 Product-Market Fit（产品市场匹配，简称 PMF）就等于构建了一个持久健康的业务（Durable Business），创业者只要踩准了 PMF 就可以放手去以最快速度扩张（scale as fast as possible）。 [3:45] 乔琳: 即使初创团队找到了 PMF，如果没有极其高效的底层基建支撑，盲目扩张就极易演变成“Scale into Bankruptcy”（规模化走向破产）。 [3:45] 乔琳: 供应商兼具 Vendor 与 Competitor（竞对）的双重身份，潜藏极大的供应链被卡脖子风险；基于开源模型与自有数据自建专有模型，是夺回供应链主控权的必由之路。 [6:26] 乔琳: 开源的精髓正是“站在彼此肩膀上互相迭代”，唯有开放复用才能产生最大的行业影响力。 [10:48] 乔琳: 单轮哪怕仅有 0.1% 的细微偏差，在连续 100 次滚雪球式的复合累积（Compound）之后，最终往往会演变为高达 10% 甚至彻底崩溃的系统级性能劣化。 [12:35] 乔琳: 目前 Fireworks 所面对的市场需求呈现出极具爆发性的“超线性增长”（Superlinear Demand）。一家初创企业如何承接这种超线性需求，并在人员与规模剧烈扩张的过程中，确保原有的执行极速（High Velocity）不被稀释和拖慢，是他每日思考最多的课题。 [12:35] 乔琳: 公司内部没有任何一个目标是能够由单一孤立的组独立完成的，所有业务与技术目标都必须贯彻“端到端”（End-to-End）负责制。

Original transcript

[0:00] 现在比如说AI你有paramarket bid的话并不表示你就能用scale因为它整个AI infrastructure的成本并不高那很多小公司的话它就scale into bankruptcy你这一屋就没有钱了我们现在做的这个specialized intelligence index目的就是把每个公司它独特的私有的benchmark我们能够把它汇总起来by bwd6来建设一个应该的index我现在考虑最多的就是怎么样scale the company因为我们现在看到的这个demand是superlineardemand那是那些小伙伴的公司那会儿 catch superlinear demand字幕志愿者 杨茜茜乔林今天非常高兴能够跟你交流刚刚你的这个大会上今天主要分享了哪些信息我主要讲了一下啊为什么我们认为AI的今后的发展会主要侧重在我们叫specialized intelligence?那specialized intelligence它的概念是和通用的智能是一个平行的概念就是你看这个全球的数据来讲绝大多数的数据他们并没有被一个foundation model吸收进去因为它绝大数据它是在一个应用的产品或者说是在企业内部他是不会跟别人分享的所以在这个基础上呢就很有意思我们觉得这个Frontier的Ecology is actually in this use and technology in the future他们应该把他们自己的私有数据转化成他们独有的一个智能体这是我们FAROS一直在追求的一个目标我们看到这个Fireworks刚发了Specialized Intelligence Index作为真实环境下的一个Benchmark然后23号你们又发了自己的这个模型这是怎么样的战略考量我们的产品有三块在我介绍产品的之前我想要解释一下因为我们的战略是Specialized Intelligence对一直是就战略那specializing content他最注重的一点呢就是说它的独有性是因为每个公司存在的意义,是因为他们解决一个非常独特的问题。用一个非常可以说奇异的方式来解决解决的非常好所以这三点都要并存才是一个公司存在利益否则公司就没有存在住这是个很残忍的解释方式但是它就是这样子那在这个前提下呢我们是希望把美洲公司的独特性都能展现出来这才叫specialized ecologist每个公司独特性其实是跟着产品的它每个都是产品的互不一样那这个产品的独特性是在它的它叫Evaluation反映它它自己独特Evaluation那市面上的Evaluation Public Benchmark非常多都已经被就是训练饱和了训练饱和意思就是他拿他能够做数据来训练那他当然结果非常好但是这是没有意义的我们现在做的Specialized Intelligence Index 呢,目的就是把每个公司它独特的 Serial Benchmark,我们能够把它汇总起来。来build 一个影像的index就是给大家有个导向就是说每次新的模型出来不管是B远的OpenAI, ETH, Google还是开源的我们都希望就是经常把他的模型的质量在Specialized Intelligent Index这个层面上反映出来那这个是对整个一个整个这个昆月界的所有古大的帮助大家真正能够看到这些新国性出来的情况下对他们的本身他们钻研的地方有多少大的推动就是为什么我们要不要这个那我们自己推的模型呢其实跟这个specializing它就是indus是这正好是两个时间点是差不多但是这两个是没有直接的联系的比如说我们这个模型是从另外一个角度Specialization 它有两个原因其中一个原因就是把它的cost 降下去它的运营成本因为现在在AI上面Build Application它的成本非常高比如说现在的这个AI business和SaaS business是完全不同的两个概念在SaaS的时候呢product market fit和Durable Business是一个概念因为你叫Hit Park Market Fit 你就 scale as fast as possible它的成本主要是人力存储和这个CPU你从这些标动很便宜的就是commodities所以它本身是不是个问题但是现在比如说AI你有paramarket费的话并表示你就能够scale因为它整个AI infrastructure的成本非常高那很多公司小公司的话它就scale into bankruptcy它如果说10% [5:00] 增长很快的话他就没有钱如果他融不到下轮钱的话他就没有了但这个问题对一个大公司来说更严重因为大公司呢它是比如说10年前的小公司他赢得了他某一个领域的consumer或者developer他的信任所以它的流量非常大他比如这个AI feature要rollout给所有的user的话那他要付的这个成本就是非常非常高的天价所以他们很多CEO看到这个proposal空上的余地那这样他不能创新的话他们也是是有很大的危险所以这个降成本是个非常严重的节点我们做specialized in college 有一个重大的问题就是成本问题我们的客户可以降低成本5-10倍所以它是个Altal magnitude difference对一个企业来说是非常大的词强那第二个重点呢就是要控制它的supply chain那跟你知道什么意思呢?就是说他用的一个模型,如果说是一个必然模型的行,那这个模型什么时候升级,什么时候它能用多少流量,是很大程度不可控的。那比如说它要十倍增长的话那它的模型提供上没有办法给它十倍增长那他就被掐死了所以就是个supply chain的问题并有默契供应商他也想做产品它是产品的话它的利润就更高那很大程度上他们会互相竞争那就出于一种很奇怪的一个关系他又是vendor 又是competitor那就是很奇怪的东西所以这样的话就是有更大的一个supply chain那用看源模型通过自己的data变成自己的模型在控制这个supply chain是个非常有效的方式所以主要是基于这两面可以再介绍一下这个Amber 1这个模型吗?对Amber 1这个模型为什么我们要release呢?是因为我们是在在开源模型基础上它降成本的基础上同时我们想要把这个模型变得更聪明就是在模型他要解决一个问题的时候他会想他会思考那他每思考的一步一步一步思考下来都是cost它思考链越长那么cost越高我们把这个模型变聪明的方式就要把思考链变得短他很快就能找到答案那这样的话呢这样是非常有效的所以就AMBER这个模型我们基本上可以这个思考量可以变短到两倍嗯 哇那这样的话你花的 token 两倍少这样的话你就变成两倍的便宜对思维链变短然后这个效果还对对效果是一样的因为我们是个platform客户命名我们是给广大的客户来提供一个服务的有很多共同的需要比如说我们看到共同需要是这个模型的context 影哲变更长因为这个越来越多的agent是long horizon他时间他的那个承认会变成非常非常多你把这上千个来解决空气那他的这个context 再非常长过他就忘记了第二个是这个啊Being concise就是解决问题的速度要快,快的话,它又省成本,又缩短时间了还有很多很多别的需求那我们就看到就共同需求的话我们都会posed到模型层面上来一起摆几句我们是在其他的开源门上模型上面迭代的对因为胎原的这个community这个社区他就是要互相迭代才有最大的影响力如果开源社区你不让别人给大家那你看源要有什么印啊?嗯对在你们的这个平台上大家有看到是些什么新的一些趋势我们知道现在个人助理现在开始变得很火爆包括instinct 啊muse发布不知道你们的平台上也没有看到相同的趋势除了我们知道这个coding这个应用场景之外有没有一些其他的应用方面你们看到一个比较好的token?对去年是coding很明确明确去年只有一种类型的app它爆发了继续coding那今年呢就是说因为coding它解决很好的这个 knowledge worker 的 assistant就在今年报办那这个knowledge work它本身它就是非常广的一个范围有各种各样不同的脑袋出的所以说今年它是非常diversify我们就看到各种各样应用从medicine就是说 Physician 的 Assistant 或是 Patient 的 Assistant 就是来解决这个医药上面的询问从这个Life Science 去是drug discovery 啊cancer treatment clinic trial 的这个 shorting,就是 reduction,这个可以迭代速度非常快,到这个Custom support, you're going to call out, he's a support agent.到recruiting,比如说你招人,他有很多很强的一句。到marketing,到sales,Cyber协会是非常大的一个topic有非常多的 [10:00] 在投入到把Cyber Security不管是从detection到gefence 都可以不可行所以说应用程序今年还能非常大广泛的好好好我觉得现在我们看到consumer已经有一些比较有应急的consumer的应用出来了但是我觉得这是在一个还是比较早期的阶段我觉得很多consumer的应用还没有完全写明年的话我也觉得非常有希望明年考究我的演员大规模起来是非常希望这个timeline是为什么明年我觉得今天有很多experimentation有很多consumer experimentation他就consumer是不是他的 for他的taste是不是能解答问题然后如果说解决他问题有Program 能不能Scale你知道你能认为一个business他都很多你只帮你去做但是今天我们看到几个例子各立起来以后明年的话就可能更多的问题你们怎么看你们的竞争格局我们只说会想把自己想解决问题解决最好那我们不光是定制模型我们还定制Inference而且这个trainings和inference是co-design,co-optimized,那这个好处在于模型定制完以后做inference,我们可以guarantee bitwise equivalent就说他不入行任意的position那这个非常重要为什么呢因为就是一个long horizon agent的问题因为这是比如说你解决一个task它需要100个诊每个车这个女威尔克恩看到不好度说0.1%Dialgence那看全小但是它会compound over 100 TORPS那就变成可能是Temper下去那就是完全就不可能对那我们把这个0.1%都没有完全就是没有dologies所以就是我们对Polity的追求是跨training和influence对 同时呢 也在确认的时候可以做很多Inference Optimization所以我是个in-to-in的这一方在这个training influence的platform上面我们还有一个smart router叫nexus这smart order他解决问题就是说有很多很多模型大家需要用但是不知道怎么用不管是closed model还是 off the shelf open models还是他自己定制的模型他什么时候要选什么要解决什么样的问题都有很多很多这种情侣那这个router呢就说你就不用不用去考虑这些 complexity 我们自动帮你 route 到最好的模型上去 根据你的需要 所以就是这三个是我们的最主要的partum吗接下来的就是18个月你们觉得fireworks现在最大的挑战是什么我现在想的最多的考虑最多就是怎么样scaled company因为我们现在看到的这个demand是super linear demand那怎么样是个company能够catch superlinear demand 同时呢我们在高速增长的过程中不会丢失这个我们的这个velocity就不会 slow down嗯这是我经常思议的然后你们怎么这样去scale然后能够继续保证跟着市场的应用的爆发然后能够去serve 这样的一个market这是company scale 的问题对就怎么样scale company as fast as possiblewhile keep the highest velocity是一个组织架构的,从组织架构上面是怎么让你去评论这个问题?因为,以前的组织架构我觉得是不work的,对,所以我也是从第一原理性来重新思考这个因为我们的我们的整个层次都非常少没有一个goal是说一个组作就完了他一定是端到端的嗯 怎么去让大家能够负责端到端但是又跨好几个组但是同时他又非常有效应我们小的时候就这个问题比较好解决,我们大的时候同时还是要非常有效,这是我们经常要想的问题。好的 非常感谢今天的分享