Databricks
企业90%的默认高端模型调用纯属性能过剩,开发者必须通过数据平台级沙箱隔离与动态路由将智能体开发从盲目烧Token转向业务价值变现。
AI-assisted summary of How Agent Bricks gives developers choice, context and control (with demo) — original source. Check the original for full context.
Source published:
Key ideas
- Databricks 发布企业级智能体开发平台 Agent Bricks,指出传统智能体开发中“智能体循环”(Agent Loop)仅占 1% 的工作量,剩下的 99% 基础设施工程才是阻碍企业落地的核心瓶颈。 (0:00)
- Agent Bricks 确立了“选择权(Choice)、上下文(Context)、控制力(Control)”三大基石,全面接入主流基础模型与 Grok 家族,并推出支持毫秒级冷启动的 Databricks Sandbox 隔离执行环境。 (2:30)
- 重磅发布 Unity AI Gateway,提供跨模型与 Agent 的集中式资产登记、动态上下文安全策略(如数据污染标记)、预算管控及多云故障回退等企业级治理能力。 (10:48)
- 实测演示揭示头部 1% 的重度 AI 用户年开销高达 90,000 美元,且企业 90% 的调用存在使用顶级模型大材小用的问题;通过结合 Omnigent 与 AI Gateway 智能路由,可推动企业从盲目刷 Token 的“Tokenmaxxing”转向注重投资回报的“Valuemaxxing”。 (16:24)
Detailed notes
## Background 该视频由 Databricks 官方频道于 2026 年 6 月 24 日发布在 YouTube 平台上。页面简介指出,本期内容深入探讨了专为开发者设计的企业级智能体开发平台 Agent Bricks,重点介绍其赋予开发者的选择权、上下文与控制力,并现场演示了 Unity Catalog AI Gateway 如何助力企业实现精细治理与成本控制,推动 AI 应用从单纯刷 Token 走向追求实际商业价值。
## TL;DR 发布会由 Databricks 产品管理总监 Kasey Uhlenhuth 与资深主任软件工程师 Ankit Mathur 联袂主讲,直击开发者在构建企业级 Agent 时被 99% 的底层基建工作所拖累的痛点。围绕“选择权(Choice)、上下文(Context)与控制力(Control)”三大支柱,演讲详细介绍了全模型接入支持、Agent Memory Services 智能体记忆服务、微秒级冷启的 Databricks Sandbox 安全隔离沙箱,以及压轴登场的 Unity AI Gateway。现场实机演示通过将本地 Codex 工具接入 AI Gateway,生动展示了动态上下文安全、柔性渐进式预算管理、结合 Omnigent 的多模型智能分流,以及基于 Unity Catalog 的链路追踪审计,全方位展示了企业级智能体从无序烧钱到高效价值创造的落地路径。
## Atmosphere & style 整场演讲呈现出高密度、务实且充满极客自信的技术峰会氛围。前半程 Kasey Uhlenhuth 叙述节奏明快犀利,以“Agent Loop 只占 1%,剩下 99% 才会坑死你”等直白金句引发全场技术共鸣;后半程 Ankit Mathur 的实机终端演示则直面昂贵 Token 消耗的行业真实现状,在敲击代码与监控面板的联动中展现出有条不紊的掌控感。整体氛围在严谨的企业级安全架构与突破常规的技术创新之间达成了精妙平衡,给观众带来极其充实、直击痛点的沉浸式观感。
## Bulletin - [00:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=0s) Databricks 发布企业级智能体开发平台 Agent Bricks,指出传统智能体开发中“智能体循环”(Agent Loop)仅占 1% 的工作量,剩下的 99% 基础设施工程才是阻碍企业落地的核心瓶颈。 - [02:30](https://www.youtube.com/watch?v=GezX9a_9bwI&t=150s) Agent Bricks 确立了“选择权(Choice)、上下文(Context)、控制力(Control)”三大基石,全面接入主流基础模型与 Grok 家族,并推出支持毫秒级冷启动的 Databricks Sandbox 隔离执行环境。 - [10:48](https://www.youtube.com/watch?v=GezX9a_9bwI&t=648s) 重磅发布 Unity AI Gateway,提供跨模型与 Agent 的集中式资产登记、动态上下文安全策略(如数据污染标记)、预算管控及多云故障回退等企业级治理能力。 - [16:24](https://www.youtube.com/watch?v=GezX9a_9bwI&t=984s) 实测演示揭示头部 1% 的重度 AI 用户年开销高达 90,000 美元,且企业 90% 的调用存在使用顶级模型大材小用的问题;通过结合 Omnigent 与 AI Gateway 智能路由,可推动企业从盲目刷 Token 的“Tokenmaxxing”转向注重投资回报的“Valuemaxxing”。
## Key takeaways - [00:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=0s) Agent Bricks 上线一年已构建超过 10 万个自定义智能体,AI Gateway 累计处理 Token 吞吐量突破 1000 万亿(1 Quadrillion),MLflow 累计下载量超过 10 亿次。 - [00:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=0s) AI 开发面临“99% 难题”:显性的 Agent Loop 仅占 1% 的开发精力,而身份鉴权、协议集成、凭据管理及长时间运行稳定性等底层基建消耗了 99% 的工程资源。 - [02:30](https://www.youtube.com/watch?v=GezX9a_9bwI&t=150s) 阻碍智能体走向生产环境的三大核心痛点为:技术快速更迭导致的升级即重构(缺少选择权)、企业多模态数据孤岛导致的信息召回难(缺少上下文)、内部越权与预算快速烧光风险(缺少控制力)。 - [03:56](https://www.youtube.com/watch?v=GezX9a_9bwI&t=236s) 在选择权维度,Agent Bricks 原生接入 Claude 3 Opus、GPT 系列、Gemini、通义千问、Kimi 及新集成的 Grok,同时兼容自研 Omnigent、OpenAI Agent SDK 与 LangGraph 等框架。 - [03:56](https://www.youtube.com/watch?v=GezX9a_9bwI&t=236s) 企业可通过 Agent Bricks 构建专用强化学习(RL)模型,Databricks 自研的 Genie 团队借此在垂直任务上的表现成功超越了 Claude 3 Opus。 - [05:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=300s) 所有上下文均依托 Unity Catalog 实施集中化统一治理,外部数据与湖仓资产均可作为工具调用,配合 Genie Ontology 元数据抽象层实现精准检索。 - [05:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=300s) 针对海量复杂非结构化数据与个性化需求,平台推出高性价比的 Document Intelligence 解决方案,并上线统一托管的“智能体记忆服务”(Agent Memory Services)以持久化用户偏好与上下文。 - [10:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=600s) 全新推出的 Databricks Sandbox 提供业界唯一具备开箱即用数据访问能力的隔离 VM,支持降权委托(On-Behalf-Of)访问与毫秒级极速冷启,兼顾代码执行自由度与生产安全。 - [10:48](https://www.youtube.com/watch?v=GezX9a_9bwI&t=648s) Unity AI Gateway 推出五大核心能力:统一 Agent 资产注册表、动态上下文安全策略(动态标记受污染状态并收紧操作)、软硬件预算配额管理、跨云智能路由与高可用回退、基于 MLflow 的全链路审计追踪。 - [16:24](https://www.youtube.com/watch?v=GezX9a_9bwI&t=984s) AI Gateway 的预算管理采用渐进式引导机制,额度触顶时强制引导流量切换至高性价比模型,同时保障当前活跃调试会话不被强行打断,兼顾开销可控与开发节奏。 - [20:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=1200s) 利用元工具套件 Omnigent 与 AI Gateway 智能路由配合,系统可自动将复杂工程任务拆解:低成本顶层扫描分配廉价模型,边缘测试分配高性价比模型,核心代码审查调用高精度模型。 - [21:44](https://www.youtube.com/watch?v=GezX9a_9bwI&t=1304s) 编码 Agent 的会话追踪记录被集中汇聚至 Unity Catalog 中,复用属性级访问控制(ABAC)与受管控标签进行严格安全隔离,防止内部高敏感业务上下文泄露。 - [21:44](https://www.youtube.com/watch?v=GezX9a_9bwI&t=1304s) Databricks 内部抽样显示 90% 的默认高配调用属于大材小用,企业可通过链路追踪数据将高频标准开发流程沉淀固化为技能(Skills),从而实现从“Tokenmaxxing”到“Valuemaxxing”的范式转变。 - [24:45](https://www.youtube.com/watch?v=GezX9a_9bwI&t=1485s) Agent Bricks 与市面独立开发框架的本质区别在于其深度原生构建于企业现有数据智能平台之上,实现了底层元数据、权限体系与安全控制的无缝贯通。
## Detailed walkthrough ### [00:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=0s) Agent Bricks 平台亮相与 AI 开发者的“99% 难题”
Databricks 产品管理总监 Kasey Uhlenhuth 登台发表演讲。她首先回顾了前一天的会议重点在于“消费 AI”——展示了 Genie 如何帮助所有知识工作者获得由 AI 驱动的业务解答;而今天的核心则是“开发者”。开发者才是构建能够实际驱动企业业务运转、并在产品中为最终客户带来极致体验的智能体(Agents)的核心团队,Agent Bricks 正是专门为他们量身打造的企业级智能体开发平台。自一年前推出以来,Agent Bricks 取得了令人瞩目的落地规模:平台上已经构建了超过 10 万个自定义智能体,AI 网关(AI Gateway)处理的 Token 数量突破了 1000 万亿(Quadrillion),提供生成式 AI 实验与链路追踪(Tracing)的 MLflow 解决方案下载量也已突破 10 亿次。
各行各业的领军企业正在借助该平台创造显著价值:7-Eleven 大幅缩短了设备维修保养的时间,万事达卡(Mastercard)在数十亿笔海量交易中精准识别欺诈行为,阿斯利康(AstraZeneca)则帮助其新药研发团队以更快的速度提炼商业洞察。然而,Kasey 指出这仅仅是冰山一角,行业目前才刚刚起步。在日常看到的智能体演示和试点项目中,观众通常只看到了“智能体循环”(Agent Loop),但这背后隐藏着严峻的现实:“但智能体循环只占你必须完成的工作的 1%,而正是剩下的 99% 会让你陷入困境。”(“but the agent loop is only 1% of the work that you have to do. It's the other 99% that's going to get you.”)。开发者不得不耗费海量精力去解决身份验证、集成模型上下文协议(MCP)、管理身份凭据,以及确保长时间运行不崩溃或不超时。为单个智能体搞定这些基础设施就已经苦不堪言,而企业的目标是构建成千上万个智能体,导致研发团队最终沦为了“基建打工人”,根本无法聚焦在业务智能体本身的构建上。
- **平台核心运营数据**:上线一年构建超 100,000 个自定义 Agent,AI Gateway 吞吐超 1,000,000,000,000,000(1 Quadrillion)Token,MLflow 累计下载量超 10 亿次。 - **客户标杆案例**:7-Eleven(设施快速检修)、Mastercard(数十亿交易反欺诈检测)、AstraZeneca(加速药物研发商业洞察)。
```mermaid flowchart TD accTitle: AI Agent Development Effort Breakdown accDescr: Diagram showing the 1% visible agent loop versus the 99% hidden enterprise infrastructure iceberg.
subgraph VisibleWork ["可感知的开发工作 (1%)"] A["Agent Loop (思考、规划与工具调用)"] end
subgraph HiddenInfra ["深水区工程基建 (99%)"] B["鉴权与身份管理 (Authentication & Identity)"] C["协议集成 (MCP & External APIs)"] D["长期任务稳定性 (Timeouts & Error Handling)"] E["生产级安全与成本控制 (Safety & Cost Controls)"] end
A -.->|"必须承载于"| HiddenInfra ```
---
[02:30](https://www.youtube.com/watch?v=GezX9a_9bwI&t=150s) 开发者三大痛点:选择权、上下文与控制力
通过与一线开发团队的深入交流,Databricks 总结出了阻碍智能体走向生产环境的三大核心痛点:
1. **技术前沿瞬息万变(Choice 缺失)**:AI 领域每周都在洗牌,前沿模型和 Agent 架构(如刚发布的 Omnigent)层出不穷。团队半年前辛辛苦苦写好的方案,往往落后了一到两代;若想换用最新成果,团队往往得更换底层技术栈,甚至面临推倒重构、全面重新平台化(Replatform)的灾难。 2. **企业数据碎片化且格式复杂(Context 缺失)**:企业的核心竞争优势深植于自身数据之中,但这些数据散落于各类孤岛,形式上包罗万象——从海量 PDF 文档、合同、发票到外部 API 接口。如何让智能体在这片数据汪洋中准确召回并匹配正确的上下文信息,技术门槛极高。 3. **企业内部越权与安全失控风险(Control 缺失)**:智能体堪称企业内部权限级别最高的实体,它们既能读取极其敏感的客户核心数据,又拥有触发实际业务动作的权力。近期频频登上新闻头条的各种惊悚事故屡见不鲜——智能体直接删除了生产数据库、泄露了高度机密的商业数据;更糟糕的是,缺乏约束的智能体可能在短时间内消耗惊人的算力与 Token 预算,导致项目尚未正式上线,预算就已被彻底烧光。
正是基于开发者的反复呼吁,Databricks 确立了 Agent Bricks 的核心使命:为开发者提供选择权(Choice)、上下文(Context)和控制力(Control),从而将工程团队从基建泥潭中彻底解救出来。
---
[03:56](https://www.youtube.com/watch?v=GezX9a_9bwI&t=236s) 选择权(Choice):全模型集成、强化学习与灵活框架
在“选择权”维度,Agent Bricks 原生接入了市面上所有的前沿基础模型,开发者开箱即可调用 Claude 3 Opus、GPT 系列、Gemini、通义千问(Qwen)以及最近热门的 Kimi。Kasey 还在演讲中正式宣布,通过与 xAI / SpaceX 的深度合作,Agent Bricks 现已全面接入 Grok 系列模型。然而,前沿通用模型有时并不能完全适配特定的专有业务,此时团队就需要定制专用的强化学习(Reinforcement Learning, RL)模型。
为此,Agent Bricks 提供了完整的模型平台支持,允许开发者利用强化学习针对自身业务任务训练专属模型。Kasey 透露:“事实上,我们自己的 Genie 研究团队最近采用了强化学习技术,在相关任务上的表现甚至成功超越了 Opus。”(“In fact, our own Genie research team recently used RL and was able to actually outperform Opus on their tasks in there.”)。这些定制的强化学习模型可以与其它前沿模型无缝托管部署在同一个平台上,供系统统一调度。
此外,“选择权”不仅指模型本身,更涵盖了智能体开发框架。开发者既可以使用刚刚随 Matei 发布的 Omnigent 直接在 Databricks 内构建和部署,也可以自由沿用已有的框架习惯,例如 OpenAI Agent SDK、LangGraph 等。Agent Bricks 通过在所有模型与资产之上构建统一接口,赋予开发者在最新技术浪潮中随意平滑切换的自由,彻底告别了“升级即重构”的噩梦。
- **支持模型矩阵**:Claude 3 Opus、GPT 家族、Gemini、通义千问(Qwen)、Kimi,以及最新宣布合作上线的 Grok 模型家族。 - **自定义强化学习平台**:支持基于企业特定任务构建、训练、部署专用 RL 模型(Databricks Genie 研发团队借此实现了超越 Opus 的垂直任务表现)。 - **兼容 Agent 框架**:支持 Databricks 自研的 Omnigent,以及开源/主流生态的 OpenAI Agent SDK、LangGraph 等。
---
[05:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=300s) 上下文(Context):从 Unity Catalog 到智能体记忆服务
世界上最强大的模型,其上限取决于你喂给它的信息质量,这便是上下文(Context)。上下文的核心本质就是数据。在 Agent Bricks 中,所有企业上下文均交由 Unity Catalog 实施中心化统一治理。外部数据源与湖仓数据在 Unity Catalog 中完成对齐,全部能够被智能体作为工具(Tools)进行动态发现和实时调用,甚至连 BI 仪表盘(Dashboards)也能被直接调用。为了确保智能体不仅能“找到”数据,还能“选对”上下文,前一天发布的 Genie Ontology 提供了至关重要的元数据抽象层,让智能体在进行信息检索和匹配时具备前所未有的精确度与效率。
面对复杂的数据格式(例如数以百万计的 PDF 合同与报销发票),Databricks 推出了 Document Intelligence 解决方案。该方案内置了针对文档解析、信息提取与分类的专用自研模型,并针对质量与成本曲线做到了极致优化,确保企业在对数百万级文档进行解析时不会承受破产级的开销。对于存储在 Databricks 外部的系统数据,Agent Bricks 则通过托管的外部 MCP(模型上下文协议)建立安全连接,且预置开箱即用的连接器,自动屏蔽了底层错综复杂的鉴权逻辑。
对于更加高阶的个性化体验诉求,开发者希望智能体能够根据特定用户因人而异,但又不可能为每个用户单独部署维护一套专属智能体。针对这一痛点,Kasey 正式发布了“智能体记忆服务”(Agent Memory Services)。开发者只需将自定义智能体挂接到平台托管的 API,Agent Bricks 便会自动存储用户的偏好设置、历史对话记录与会话上下文,从而轻量化实现深度用户个性化。上下文工程目前是整个智能体领域最艰难的挑战,Databricks 专门设立了核心研发团队,专门攻克智能体记忆(Agent Memory)、智能体检索(Agent Retrieval)和智能体搜索(Agent Search)等前沿课题,并将所有科研成果直接固化进 Agent Bricks 服务与 Genie 产品中。
```mermaid flowchart LR accTitle: Agent Bricks Context Architecture accDescr: Diagram illustrating how external and internal data flows through Unity Catalog and specialized services into AI Agents.
subgraph DataSources ["多模态与外部数据"] A["企业湖仓数据 / Dashboards"] B["非结构化文档 (PDF合同/发票)"] C["外部系统 APIs (Managed MCPs)"] end
subgraph ContextEngine ["治理与上下文引擎"] UC["Unity Catalog 集中管理"] DI["Document Intelligence (解析/提取)"] GO["Genie Ontology (元数据抽象层)"] MS["Agent Memory Services (偏好/历史会话)"] end
subgraph Agents ["业务智能体"] AG["AI Agents (精准检索与决策)"] end
A --> UC B --> DI --> UC C --> UC UC --> GO --> AG MS <-->|"双向读写记忆"| AG ```
---
[08:04](https://www.youtube.com/watch?v=GezX9a_9bwI&t=484s) 控制力(Control):初探 Databricks Sandbox 安全沙箱
在全面打通知识与上下文之后,下一步是赋予智能体执行实际操作的能力,但前提必须是绝对安全。这就进入了平台的第三大支柱——控制力(Control)。
如前所述,一旦缺乏约束,智能体可能会在企业内部横冲直撞,甚至误删核心生产数据库。然而,开发者在本质上又极度渴望让智能体拥有运行真实代码的自由度:“如果你放手让它们去发挥,它们其实能做出令人惊叹的创造性成果。”(“They can do like amazingly creative things if you just kind of let them cook.”)。如何在既让代码自由执行,又不至于拖垮甚至摧毁生产环境之间取得平衡?关键在于为它们提供一个隔离的围墙环境。为此,Kasey 在演讲最后引出了针对控制力维度的重磅新品——Databricks Sandbox,专门为智能体提供隔离运行的专用虚拟机(VM),在坚固的安全边界内释放智能体的代码生成与执行潜能。
[10:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=600s) Databricks Sandbox:为 Agent 打造的安全隔离执行环境
演讲者首先深入阐述了 Databricks Sandbox 的核心技术优势。与市面上通用的虚拟机方案不同,Databricks Sandbox 并非普通的隔离计算环境,而是业界唯一能为智能体提供开箱即用(out-of-the-box)数据访问能力的 VM 方案。系统利用代理权限(On-Behalf-Of permissions)实现权限的精细化下调(downscoped access),从而让 Agent 在沙箱内部挥洒创意、处理企业私有数据的同时,完全不会影响或危及系统其余部分的安全。
除了极高的安全性,该沙箱的响应性能也极其强悍。每个沙箱实例的启动时间仅需几毫秒,这种微秒级的弹性使得 Agent 能够以极高的吞吐率快速创建和销毁沙箱环境,完美契合了复杂智能体在安全边界内高速交互与动态试错的工作流需求。
- **开箱即用数据集成**:无需繁琐配置,直接在隔离环境中打通数据孤岛。 - **降权委托访问机制**:基于 On-Behalf-Of 凭据严格限制数据权限,防止越权滥用。 - **毫秒级极速冷启**:启动时间以毫秒计,确保 Agent 高速并发与即用即销。
[10:48](https://www.youtube.com/watch?v=GezX9a_9bwI&t=648s) Unity AI Gateway 五大核心功能:统一资产、上下文安全与成本控制
在介绍完沙箱后,演讲者揭晓了本场的核心主角——Unity AI Gateway,将其称为“压轴之作”(piece de resistance)。作为集中式治理、安全与成本控制平台,Unity AI Gateway 实现了跨模型、Agent、MCP(Model Context Protocol)以及技能工具的统一治理。演讲者向全场观众发出号召:“请大家系好安全带,我们要正式切入这项颠覆性的产品了。”
为了支撑 Agent 在企业内部自主运行,Unity AI Gateway 带来了五项全新的重磅能力:
```mermaid flowchart TD accTitle: Unity AI Gateway 五大核心能力 accDescr: 展示 Unity AI Gateway 在资产治理、上下文安全策略、智能路由、多云高可用与 MLflow 追踪方面的核心架构。
subgraph 资产与治理 A["Agent Registry<br/>统一资产登记库"] B["Contextual Security<br/>动态上下文安全策略"] end
subgraph 路由与降本 C["Smart Routing<br/>智能路由分流"] D["Multi-Cloud Fallback<br/>跨云跨模型高可用"] end
subgraph 观测与审计 E["MLflow Tracing<br/>全链路追踪与告警"] end
A --> B B --> C C --> D D --> E ```
1. **统一 Agent 资产注册表(Agent Registry)**:企业内部可能有成千上万个 Agent,开发者往往使用截然不同的工具和框架搭建它们。AI Gateway 提供了一个集中的系统记录库(System of Record),不仅支持在 Databricks 上原生构建的 Agent,还完全兼容外部构建的 Agent、各类 MCP 以及技能组件,实现全局资产清点。 2. **动态上下文安全策略(Contextual Security Policies)**:传统静态防护无法满足自主 Agent 的安全需求。如果一个 Agent 读取了包含敏感 PII 的客户数据,其状态会被动态标记为“受污染”(tainted);在此之后,它的下游操作权限将被动态收紧——例如允许其向同事发送工作邮件,但绝对禁止将数据公开上传到公网。反之,若在另一个会话中只接触了公开数据,则允许公开发布。演讲者强调指出:“动态上下文安全策略之所以在 Agent Bricks 上独家实现,正是因为我们的智能体平台直接原生构建并深度融合在数据平台之上。”此外,平台还广泛整合了业界主流安全厂商的 Guardrails 来做多层防护。 3. **预算管理(Budgets)**:针对开发者在“疯狂消耗 Token”(token maxing)过程中经常面临的预算见底痛点,AI Gateway 支持按用户或用户组设置支出上限。 4. **智能路由(Intelligent Routing)与多云容灾**:系统能够依据任务复杂度智能派发请求,将琐碎问题路由至廉价高速的小模型,而将复杂难题派发给昂贵强大的大模型。同时,基于多云和多 AI 架构,平台提供跨模型提供商及跨云厂商的自动回退(Fallback),确保极致的高可用性。 5. **基于 MLflow 的 Agent 追踪与合规审计**:记录 Agent 运行期间的每一次输入、输出及中间步骤,并将全部 Trace 数据集中持久化在客户独占的 Unity Catalog 数据表中。用户可使用 Genie 针对审计日志进行自然语言排错,或通过 LakeWatch 连接安全信息事件管理系统(SIEM),实时监控数据泄漏并告警。
演讲者总结道:“这就是企业级 AI 治理该有的样子:资产集中管理、动态策略守护安全、开放的生态链接合作伙伴,以及不可或缺的成本控制手段。”这让 IT 管理员能够安全、负责任地在全企业范围内推进 AI 民主化普及。
[16:24](https://www.youtube.com/watch?v=GezX9a_9bwI&t=984s) 现场实测演示:开发环境接入与智能动态预算机制
在热烈掌声中,高级专职软件工程师 Ankit Mathur 登台展开实机演示。Ankit 坦言自己日常开发深度依赖 AI,但他指出了当前企业普遍面临的惊人现状:AI 正在引发成本的指数级爆发式增长,头部 1% 的重度用户年均开销已高达每人每年 90,000 美元,而且这种增长势头毫无放缓迹象。现在不只是程序员,公司各业务线人员都在并发使用 Agent,而由于模型能力的成熟,Agent 可以在无人干预的情况下一直无休止运转下去。
Ankit 现场演示了将本地开发环境无缝接入 Unity AI Gateway 的过程,聚焦展示预算管理、智能路由与全链路追踪三大能力:
终端演示直接从日常开发入口开始。通过一条简单的命令行指令,Ankit 将现有编码工具(Codex)的请求重定向至 AI Gateway: - 现有的交互 UI 和开发习惯没有任何改变,但在底层,所有推理请求与 MCP 调用都开始穿过这个受控的中枢节点(Choke Point)。 - MCP 请求经过中央注册表后,开发者只需进行一次统一认证,无需在不同插件间重复登录。
在现场屏幕右侧的监控界面中,展示了一套极其精妙的柔性预算控制策略。Ankit 每天拥有 50 美元的个人额度。但系统并不是采取生硬的断电式截断(Hard Cap),而是采用精细渐进的引导机制: - **初期完全放开**:在每天刚开始工作时,开发者可以自由调用 Gateway 提供的任何编码工具和任意高端大模型。 - **接近限额软预警**:当开销逼近阈值时,Codex 会在终端直接弹出提示,告知用户正在触碰智能预算上限,并开始主动引导用户将推理流量平滑切换到更低成本的模型(例如当周即将发布且极具性价比的 Databricks 专有模型)。 - **额度耗尽强控制**:一旦预算消耗达到 100%,系统开始强制实施降级路由。 - **保障活跃会话不中断**:为了不粗暴打断开发者手中正在进行的复杂调试任务,当前活跃的会话连接仍被允许正常走完当前流程;但如果开发者尝试重新开辟新会话(例如在终端再次执行命令),网关便会根据实时燃烧消耗的预算水位进行强制拦截或降级派发。
关于这套平衡开发效率与开销管控的折中哲学,Ankit Mathur 在台上直接指出:“因为你的开发人员正在利用 AI 释放极高的生产力,你大概率并不想强行打断他们的节奏。”这种柔性治理不仅保住了开发体验,也从根本上锁住了企业失控的成本漏洞。
[20:00](https://www.youtube.com/watch?v=GezX9a_9bwI&t=1200s) 基于智能路由器与元工具套件的模型分流
在演示中,系统自动给出了切换到更高 token 效率模型的建议。尽管这比之前的模式有了很大改进,但 Ankit Mathur 提出了更高的目标:通过将开源工具 Omnigent 与 Unity Catalog AI Gateway 对接,实现更高级的架构决策。作为一种元工具套件(meta-harness),Omnigent 能够在高于单个任务的层级上做出决策,从而实现真正的智能路由。对于相对简单的本地建议查询,智能模型路由器(Intelligent Model Router)会判断出这是一个简单任务,进而分配成本极低的模型来处理,并在回答时带来极佳的低延迟优势。
```mermaid flowchart TD accTitle: 基于 Omnigent 与 AI Gateway 的多智能体智能路由 accDescr: 展示复杂任务如何通过 Omnigent 调度,并经由 Unity Catalog AI Gateway 分配至不同模型与 Databricks Sandbox 中执行。
subgraph Input ["任务输入与调度"] A["复杂请求: 扫描前四大 Bug"] --> B["Omnigent (Meta-Harness)"] end
subgraph Routing ["Unity Catalog AI Gateway 智能路由"] B --> C{"智能模型路由器"} C -->|"顶层仓库扫描 (高 Token 消耗)"| D["廉价模型: Databricks Kimi"] C -->|"边缘案例审查 (高智力低成本)"| E["高性价比模型: Gemini 3.5 Flash"] C -->|"核心逻辑审核与深度审计"| F["中高档高精度模型 (如 Claude Opus)"] end
subgraph Execution ["隔离运行环境"] D --> G["Databricks Sandbox (并行安全执行)"] E --> G F --> G end ```
当面对更为复杂的工程任务——例如在 Omnigent 开源仓库中找出前四大 Bug 时,架构的真正实力才展现出来。Omnigent 会将整体工作拆解并分派给不同的专业编码 Agent(Coding Agents)。对于总体的任务分派工作,系统挑选了一个中等质量的模型;而面对更具体的子任务,系统则会采取精细化的差异化分配:对非常消耗 token 的顶层代码仓库扫描,采用廉价的 Databricks Kimi;对边缘案例审查,挑选兼具极高智商与廉价成本的 Gemini 3.5 Flash;而在核心逻辑审查和深度审计阶段,由于代码质量至关重要,路由器直接分配了中端乃至昂贵的高精度模型。这些任务全部被投放到 Databricks Sandbox 中并行执行,既获得了极致的执行速度,又维持了企业级安全性。正如 Ankit Mathur 指出的那样:“延迟是能够为任务挑选更便宜模型的另一个巨大优势。”
- 顶层扫描任务属于极度消耗 token 的工作,选用低成本模型能大幅压缩计算开销。 - 边缘测试与审查利用了高性价比大模型兼顾强大推理能力与低价的特性。 - 核心代码逻辑审核对质量有硬性指标,因此严格保障采用高精度模型。 - 所有并发 Agent 均在 Databricks Sandbox 沙箱中隔离运行,保证多任务并发与企业安全控制并行不悖。
---
[21:44](https://www.youtube.com/watch?v=GezX9a_9bwI&t=1304s) Agent 追踪、治理治理与从“Tokenmaxxing”到“Valuemaxxing”
具备了智能分流系统之后,核心挑战转移到了如何验证系统的实际有效性。Ankit Mathur 强调了数据驱动的重要性,指出当前业界面临的普遍问题是编码 Agent 的会话数据分散在各个角落,缺乏统一管理。当通过 Unity Catalog AI Gateway 连接编码工具后,所有链路追踪数据(traces)都会被自动汇聚并路由写入 Unity Catalog 中。这些代码会话数据包含企业内部极高敏感度的信息,甚至可能包含首席执行官(CEO)级别独有的业务上下文,绝不能向所有人开放访问权限。
通过借助 Unity Catalog,企业能够复用既有的核心数据治理工具——包括基于属性的访问控制(ABAC policies)和受管控标签(governed tags),确保只有具备权限的人员才能调阅相关会话。所有追踪信息沉淀在中央追踪表中后,团队还可以使用 Genie 等分析工具直接进行数据洞察。在正式向内部工程团队推广智能路由器之前,Ankit 抽样分析了团队的编码追踪数据,发现了一个惊人的事实:“实际上,由于我们的默认模型是最昂贵的那种(例如 Opus),我们有 90% 的会话完全是大材小用(overkill)。”如果缺乏这种中心化追踪,管理者只能靠凭空猜测。通过分析数据,团队能够拆解这些高成本调用究竟是在做什么:有时只是工程师在打招呼(“hi”或“hello”),有时则是完全无需复杂推理的基础铺路任务(paved path tasks)。基于这些诊断结果,企业可以精准识别需要封装的工程技能并发布至 AI Gateway 中,从而系统性优化整体 token 使用效率。Ankit 总结道:“希望借助 Unity AI Gateway,我们能够把世界从过去那种追求最大化刷 token 的‘Tokenmaxxing’,带入更加注重投资回报与实际价值的‘Valuemaxxing’时代。”
- 编码 Agent 产生的会话追踪记录是企业最高敏感级资产之一,需要严格隔离管控。 - 接入 Unity Catalog 后可无缝应用 ABAC(属性级权限控制)和受管控标签体系。 - 抽样分析表明,采用顶配模型作为全局默认配置会导致高达 90% 的请求陷入性能与成本过剩。 - 深入追踪分析能指导团队将高频标准开发流程固化为专门技能(skills),进一步优化 token 产出比。
---
[24:45](https://www.youtube.com/watch?v=GezX9a_9bwI&t=1485s) Agent Bricks 平台总结:选择权、上下文与控制力
演示结束后,Kasey Uhlenhuth 重新登场对 Agent Bricks 进行总结回顾。她明确指出,Agent Bricks 是 Databricks 为开发者打造的端到端企业级智能体开发平台,其核心基石在于三大支柱:选择权(Choice)、上下文(Context)和控制力(Control)。为开发者提供充分的选择权,能确保团队随时接入业界最前沿的模型与方案,而无需因底层技术更迭而被迫重构平台代码;提供精确的上下文,让各领域的 Agent 能够随时调用正确的元数据,从而精准提取匹配任务所需的关键企业业务数据;提供细粒度的控制力,不仅包含 Unity Catalog AI Gateway 赋予的自主运行和路由监控能力,也包含 Databricks Sandbox 允许在权限受限的降维数据(downscoped data)上安全探索的能力。
Kasey 指出,虽然今天的发布会展示了诸多激动人心的新特性,但过去一年中 Agent Bricks 实际落地的功能远不止这些。平台的杀手级优势在于它深度且独一无二地集成在 Databricks 数据智能平台之中,这让它能够实现友商无法复制的底层打通。Kasey Uhlenhuth 总结道:“正如大家在 Unity AI Gateway 中看到的智能路由一样,Agent Bricks 独特地集成到了我们的数据平台中,这使我们能够提供其他人无法提供的功能。”随着安全沙箱环境和基于上下文的安全策略逐步向开发者开放体验,Databricks 期待着开发者能借助该平台构建出新一代的企业级自主智能应用。
- **选择权(Choice)**:保障架构敏捷性,无需重新平台化(replatform)即可快速采用前沿模型。 - **上下文(Context)**:无缝链接底层元数据,帮助 Agent 准确找到执行任务所依赖的真实数据。 - **控制力(Control)**:依托 Unity Catalog AI Gateway 和 Databricks Sandbox,在权限收敛与沙箱隔离的前提下释放自主智能。 - **深度数据生态集成**:区别于孤立的 Agent 开发框架,Agent Bricks 直接原生构建于企业现有数据平台之上。
## Notable quotes > [21:44](https://www.youtube.com/watch?v=GezX9a_9bwI&t=1304s) 希望借助 Unity AI Gateway,我们能够把世界从过去那种追求最大化刷 token 的‘Tokenmaxxing’,带入更加注重投资回报与实际价值的‘Valuemaxxing’时代。 — Ankit Mathur
> [10:48](https://www.youtube.com/watch?v=GezX9a_9bwI&t=648s) 动态上下文安全策略之所以在 Agent Bricks 上独家实现,正是因为我们的智能体平台直接原生构建并深度融合在数据平台之上。 — Kasey Uhlenhuth
> [10:48](https://www.youtube.com/watch?v=GezX9a_9bwI&t=648s) 这就是企业级 AI 治理该有的样子:资产集中管理、动态策略守护安全、开放的生态链接合作伙伴,以及不可或缺的成本控制手段。 — Kasey Uhlenhuth
> [16:24](https://www.youtube.com/watch?v=GezX9a_9bwI&t=984s) 因为你的开发人员正在利用 AI 释放极高的生产力,你大概率并不想强行打断他们的节奏。 — Ankit Mathur
## Mentioned 7-Eleven, Agent Bricks, Agent Memory Services, Ankit Mathur, AstraZeneca, Claude 3 Opus, Codex, Databricks, Databricks Sandbox, Document Intelligence, Gemini, Gemini 3.5 Flash, Genie, Genie Ontology, GPT, Grok, Kasey Uhlenhuth, Kimi, LakeWatch, LangGraph, Mastercard, Matei Zaharia, MCP, MLflow, Omnigent, OpenAI Agent SDK, Qwen, SpaceX, Unity AI Gateway, Unity Catalog, xAI
## Video description Explore what's new in Agent Bricks, the enterprise agent platform that gives choice, context, and control so developers can focus on building AI agents, not infrastructure.
Plus, see a live demo of Unity Catalog AI Gateway for governance and cost-control, so you can go from "tokenmaxxing to valuemaxxing."
Learn more about Agent Bricks: https://www.databricks.com/product/artificial-intelligence/agent-bricks
00:00 — Agent Bricks, the enterprise agent platform for developers 01:11 — How 7-Eleven, Mastercard, and AstraZeneca use Agent Bricks 01:32 — AI's 99% problem 02:30 — Developer pain points: choice, context, and control 03:56 — The Agent Bricks difference 08:04 — Introducing Agent Memory Services 09:13 — Introducing Databricks Sandbox 10:48 — Unity AI Gateway's new capablities 16:24 — Live demo: Unity AI Gateway 24:45 — Get started with Agent Bricks
Presenters: Kasey Uhlenhuth, Director, Product Management, Databricks Ankit Mathur, Sr. Staff Software Engineer, Databricks
[Source](https://www.youtube.com/watch?v=GezX9a_9bwI)