IBM靠分层Agent与微调小模型降本95% 释放35亿美元年化生产力

Cracking the Code of AI Agents: Lessons from Ibm’s $3.5B Productivity Leap With IBM And Oracle — Ai4

Ai4

企业摆脱无休止AI试点陷阱的关键,在于将自上而下的端到端业务流重构与低成本垂直微调小模型结合,以分层Agent架构实现推断成本骤降95%与真实ROI跃升。

AI-assisted summary of Cracking the Code of AI Agents: Lessons from Ibm’s $3.5B Productivity Leap With IBM And Oracle — original source. Check the original for full context.

Source published:

Detailed notes

## Background 该内容由 YouTube 频道 Ai4 于 2025 年 8 月 26 日发布,由 IBM 数据与 AI 负责人 Shobhit Varshney 与 Oracle 资深 AI/ML 总监 Federico Torreti 联合演讲。视频主要介绍了 IBM 如何告别单纯的 AI 实验阶段,通过在 HR、销售、IT 与采购等全业务链落地 AI Agent(智能体),在两年内释放出高达 35 亿美元的生产力价值,并展示了如何结合 Oracle 生态快速搭建多 Agent 协同体系。

## TL;DR 演讲深入剖析了 IBM 作为“零号客户”通过 AI 与自动化实现 35 亿美元年化生产力跃升的转型历程,揭示了 15% 的“AI 领跑者”如何通过以战略和北极星目标为核心的自左向右路径拉开竞争差距。内容系统梳理了从传统 RPA 规则流演进到 Watsonx Orchestrate 驱动的多 Agent 协同编排架构,并结合双方在工程、建筑与招聘等真实行业场景中的落地实践,强调了尊重“数据重力”与利用联邦查询避免盲目搬迁数据的重要性。最后,演讲指出企业规模化部署的核心在于采用分层架构与场景化微调小模型(如 Granite),在提升 5% 至 10% 准确率的同时降低 95% 的推理成本,并深化对 Agent 全生命周期的长效治理。

## Atmosphere & style 整场演讲充满务实、严谨且极具说服力的企业级商业气息,褪去了空泛的技术炒作,全程以详实的财务回报率(ROI)、架构拓扑与量化指标为支撑。主讲人 Shobhit 叙述逻辑严密、自信沉稳,借助“四分卫组队”和“带新员工”等生动比喻化繁为简;随后与 Oracle 嘉宾的协同对话自然默契,将前沿的 Agent 理论扎实地锚定在企业防火墙、数据重力与严苛的生产成本控制等现实挑战上,给人以极具落地参考价值的厚重感与启发感。

## Key takeaways - [00:04](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=4s) IBM 提出企业级 AI 的双轮驱动战略:必须兼顾“选择正确的 AI”(聚焦高价值场景与持续 ROI)与“以正确的方式做 AI”(内置治理、信任与价值观对齐)。 - [01:07](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=67s) 调研显示仅 15% 的企业成为“AI 领跑者”,其关键在于确立市场制胜的北极星目标并“自左向右”重构流程,而非陷入从零散工具试点出发的“自右向左”实验陷阱。 - [02:35](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=155s) IBM 将自身作为“零号客户”,通过组织精简与 AI 自动化释放了超 35 亿美元年化生产力价值,其中 AI 驱动的增效占比已由两年前的 50% 跃升至 75%。 - [02:35](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=155s) 生产力跃升释放的大额自由现金流被重新注入核心研发与业务拓展,形成了“增效—再投资—业务增长”的良性飞轮,直接支撑了资本市场表现。 - [04:17](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=257s) 规模化推动 AI 变革需打破部门纵向孤岛,围绕端到端客户旅程组建横向敏捷团队,并结合双周冲刺与全员基层创新激发组织活力。 - [07:28](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=448s) 流程自动化正从基于确定性规则的传统 RPA 阶段,大步迈入具备非结构化数据理解、自主规划与跨系统协同能力的 Agentic AI 阶段。 - [09:20](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=560s) 企业落地的最佳架构是将“固定确定性工作流”与“Agent 动态工作流”相融合,利用编排中枢将高层需求拆解并分发给专精 Agent 协同执行。 - [12:52](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=772s) AI Agent 的认知定位已发生根本转变:领跑企业不再单纯将其视作“削减成本”的工具,而是作为“赋能员工能力边界扩张”的增长引擎。 - [16:36](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=996s) 践行“AI 追随数据重力”原则,企业应采用联邦查询直接在底层源头记录体系中调度计算,避免盲目迁移核心数据资产带来的安全与合规风险。 - [16:36](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=996s) 面对层出不穷的大模型,企业应以“场景化精选模型”打破决策疲劳,采用具备强审计性与企业合规性的模型作为生产级部署基石。 - [18:54](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1134s) 相较于依赖通用的超大模型,针对垂直场景微调的专精小模型能够将运行推断成本降低近 95%,同时将任务准确率提升 5% 至 10%。 - [18:54](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1134s) 多 Agent 规模化架构应采取分层设计:顶层主控 Agent 负责全局统筹与路由调度,底层垂直领域 Agent 则由低成本、高响应的小模型承担。 - [19:58](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1198s) 企业 AI 的核心演进正从前期的“如何构建 Agent(Agent Authoring)”,转向涉及持续运维、合规监控与调度的“Agent 全生命周期管理(Agent Management)”。

## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=4s) 践行 AI 战略:做对的 AI 与用对的方式做 AI

IBM Consulting 数据与 AI 负责人 Shobhit Varshney 开场介绍了他在企业级 AI 领域的实践经验,并深入分享 IBM 如何通过 AI 和 AI Agent(智能体)实现自身的业务转型。在 IBM 内部,AI 战略的核心理念被概括为一个阴阳互补的双轮驱动模型:**“选择正确的 AI”(Doing the right AI)** 与 **“以正确的方式做 AI”(Doing AI right)**。

```mermaid flowchart LR accTitle: IBM Doing the Right AI vs Doing AI Right subgraph RightAI["选择正确的 AI (Doing the Right AI)"] A1["业务场景识别"] --> A2["AI 素养与技能普及"] A2 --> A3["推动全员采纳与落地"] A3 --> A4["持续实现季度 ROI 价值"] end subgraph DoingRight["以正确方式做 AI (Doing AI Right)"] B1["健全的治理框架"] --> B2["内置全流程信任与安全"] B2 --> B3["与企业核心价值观对齐"] B3 --> B4["负责任的高效部署"] end ```

一方面,企业需要识别出真正产生价值的业务用例,提升员工的 AI 素养,推动自下而上的技术采纳,确保所选场景能持续产生可量化的投资回报率(ROI);另一方面,必须在技术落地伊始就植入强大的 AI 治理体系与信任机制,确保 AI 战略与组织的核心价值观深度契合,以负责任且高效的方式部署每一项用例。

[01:07](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=67s) AI 领跑者与摸索者的本质差异:自左向右 vs 自右向左

IBM 联合哈里斯民意调查(Harris Poll)对约 2,000 名企业高管(C-suite)展开了调研,探究有多少企业能够将真实的业务价值直接归因于其规模化落地的 AI 部署。结果显示,仅有约 15% 的高管明确表示对 AI 投资所带来的巨大商业回报充满信心,IBM 将这部分企业定义为“AI 领跑者”(AI Leaders);而其余 85% 的企业则被称为“AI 摸索者”(AI Learners)。

```mermaid flowchart TD accTitle: AI Strategy Direction Comparison subgraph Leaders["15% AI 领跑者(自左向右:以战略为核心)"] L1["明确战略与北极星目标"] --> L2["价值编排与数据沉淀挖掘"] L2 --> L3["重塑端到端业务工作流"] L3 --> L4["赋能人才队伍"] L4 --> L5["技术构建与数据治理"] end subgraph Learners["85% AI 摸索者(自右向左:以实验为核心)"] R1["发起免费概念验证/试点 (PoC)"] --> R2["局部改变人类工作方式"] R2 --> R3["倒推拼凑商业可行性案例"] end ```

这两类企业在推进 AI 战略的路径上存在根本性分歧: - **AI 领跑者(自左向右路径)**:首先从核心战略出发,确立市场制胜的“北极星指标”。例如,一家传统抵押贷款审批需要 3 周的房贷公司,若能将审批周期压缩至 24 到 48 小时,便能颠覆行业竞争格局。确立这一北极星目标后,领跑者会分析自身数据沉淀(Data Exhaust)与价值捕获能力,进而重构业务工作流、赋能人才队伍,最后才落地具体技术选型与数据治理。 - **AI 摸索者(自右向左路径)**:往往直接从免费的局部工具试点(PoC)起步,试图先改变某一部分员工的工作习惯,随后再艰难地倒推拼凑商业价值案例(Business Case)。这种“自右向左”的模式往往沦为无休止的“AI 实验陷阱”。

[02:35](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=155s) IBM 作为“零号客户”:35 亿美元生产力跃升的飞轮效应

IBM 将自身定位为各项技术方案的“零号客户”(Client Zero),信奉“喝自己的香槟”(Drink our own champagne)。IBM 全球整体运营支出盘子约为 150 亿美元,公司最初由 CEO Arvind Krishna 设定了在 2024 年底前实现 20 亿美元生产力节省的宏伟目标,而实际成效远超预期,最终实现了年化运行率(Annual Run Rate)超过 35 亿美元的生产力价值释放。

- **收益构成细分**:在 35 亿美元的总收益中,约 20 亿美元直接来源于自动化与 AI 技术的赋能;其余约 15 亿美元来自流程简化、组织合并与架构精简。 - **技术结构演进**:两年前,IBM 内部自动化与 AI 的比重约为 50/50;如今,纯自动化占比已降至 25%,而 75% 的降本增效均由 AI 深度驱动。 - **财务与资本市场回响**:35 亿美元节省释放出的自由现金流被重新投入核心业务研发与市场拓展,形成了“生产力提升 $\rightarrow$ 利润再投资 $\rightarrow$ 驱动业务增长 $\rightarrow$ 释放自由现金流”的良性飞轮,直接支撑了 IBM 股价在过去几年跑赢大盘与竞争对手。

[04:17](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=257s) 跨领域赋能与横向协同运营架构

在落地层面,IBM 逐个业务领域深入挖掘价值潜力。例如在财务绩效管理(Financial Performance Management, FPM)领域,IBM 打造了单一管理视图(Single Pane of Glass),将全公司所有财务决策集中整合呈现,仅此一项就释放了 2 亿美元的商业价值;此外,在客户支持、IT 现代化、数字劳动力(Digital Labor)及覆盖全球近 30 万名员工的 HR 转型中均取得了显著突破。

```mermaid flowchart TD accTitle: IBM Transformation Structure and Horizontal Alignment subgraph GovStructure["多层级转型组织架构"] G1["指导委员会 (Steering Committee)"] --> G2["生产力探索团队 (Productivity Discovery Teams)"] G2 --> G3["全员基层创新 (Grassroots Workforce)"] end subgraph HorizontalShift["业务运营视角转变"] H1["原纵向部门隔离视角\n(财务/营销/合同各自割裂)"] --"打破壁垒,转向横向贯通"--> H2["端到端客户旅程\n(线索 -> 账户 -> 定价 -> 合同签署)"] end ```

为了在大规模组织中推动变革,IBM 建立了一套严谨的文化与治理体系: - **外部基准对齐**:对每个职能部门(如采购规模、IT 工程师与工单比例)进行全球行业基准测算,明确提升目标。 - **从垂直孤岛转向横向贯通**:打破各部门各自为政的局部优化,围绕客户从市场、销售、定价到签约的“横向端到端旅程”组建跨职能敏捷团队,设立统一的综合 KPI。 - **双周敏捷冲刺(2-Week Sprints)**:快速验证用例成效,形成标准化操作手册(Playbook)。 - **自下而上的全员参与**:各业务部门骨干组成的生产力探索团队贡献了约 10 亿美元的价值挖掘;而通过面向全员的 watsonx 挑战赛,全球多达 17 万名员工参与设计日常工作流自动化方案,形成了坚实的基层群众基础。

[07:28](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=448s) 从 RPA 到 Agentic AI:流程自动化的演进阶段

在当前的 AI 浪潮中,AI Agent(智能体)已成为重构端到端业务流程的核心焦点。根据 IBM 商业价值研究院(IBV)针对 800 余位高管的专项调研: - **78%** 的企业高管高度看好 Agentic AI(智能体 AI)对企业业务的重塑能力。 - **76%** 的高管清醒地意识到,要释放智能体的最大价值,企业内部仍需在数据安全、隐私保护以及底层流程重构上进行大量深度转型。

从流程自动化演进的视角来看,行业历经了不同阶段: - **第一阶段:RPA(机器人流程自动化)时代**。针对汽车保险理赔等固定场景,领域专家(SME)可以在白板上画出清晰的决策树与规则流(“如果满足 A 则执行 B”)。此类自动化成本低、执行速度快、输出确定一致,但其本质完全受限于人类预先定义的规则框架。 - **演进阶段(进阶智能)**:随着技术深入,系统逐步具备理解非结构化数据、自主规划与协同决策的能力,跨入真正由数据与 Agent 驱动的智能化新阶段。

[09:20](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=560s) 从任务拆解到多 Agent 协同:企业自动化工作流的进阶之路

企业在推进自动化流程时,正经历着从单一环节大语言模型(LLM)赋能向高阶 Agent 进化的关键转折。早期阶段通常只是在既定流程中将某个具体节点(例如视觉识别读取特定文档并进行快速分析)替换为大模型;而进入第三阶段后,AI Agent 开始展现出自主执行独立子任务的能力。这就像团队中迎来了一位新入职的员工或实习生——当你交代任务:“能否帮我对比一下我们与竞争对手的财报?”该 Agent 能够自主打开浏览器检索竞品、下载数据、生成对比表格并参照过往格式整理,最终在得出满意结果后反馈给负责人。现阶段,高层的需求拆解(Ask to Task)依然主要由人类完成,人类管理者接收上级需求后拆解为具体子任务下发给 Agent,并在获得反馈后进行验证与推进。

随着企业内部积累了大量的“需求-任务拆解”(Ask to Task)知识库,便可以进一步训练核心模型来承接宏观需求并自动进行任务分解与 Agent 调度。此时,系统演进为多 Agent 协同编排架构,能够应对如“为什么我这次的报销理赔金额与上次不同?”这类涉及多个底层系统的复杂业务问题。然而,多 Agent 框架虽然大幅拓宽了解决复杂问题的边界,但也带来了更高的延迟、计算成本以及更严格的结果治理与准确性验证要求。相比之下,传统的确定性工作流虽然必须穷举每一步路径,却具有确定可控的优势。因此,企业落地中最具价值的做法是将“固定工作流”与“Agent 动态工作流”深度结合。IBM 内部正是通过 Watsonx Orchestrate 来实现这种跨固定与动态工作流的统一智能编排,无缝调遣来自 IBM 自身或生态伙伴的各类 Agent 与工具集。

```mermaid flowchart TD accTitle: Watsonx 多 Agent 编排架构 subgraph Ingestion["接入与分发层"] A["多渠道请求 (Slack / 呼叫中心)"] --> B["Watsonx Orchestrate 编排中枢"] end

subgraph Agents["专业 Agent 协作层"] B --> C["企业画像分析 Agent"] B --> D["生态伙伴入职 Agent"] B --> E["IBM AI 法务顾问 Agent"] end

subgraph Integration["执行与支撑层"] C & D & E --> F["底座系统与记录体系 (System of Record)"] end ```

- **模块化组队机制**:在企业入职(Onboarding)等复杂场景中,编排中枢会将宏观需求拆解为企业画像、生态入职对接、法务合规审核等多项步骤,分别指派专精的 Agent 协作完成。这如同组建一支高水平运动队,根据比赛战术灵活引入特定技能的“四分卫”,实现工作流的敏捷组装与持续替换。

---

[12:52](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=772s) IBM 与 Oracle 的生态协作:从概念验证走向生产落地

为了避免客户被技术绑定,IBM 坚持开放的生态合作战略,确保企业能够自由置换组件,并遵循“AI 追随数据重力”(AI follows data gravity)的原则,在企业防火墙后安全处理核心资产。作为深耕数十年的重量级合作伙伴,Oracle 的基础设施与 IBM 的咨询服务及软件能力(包括原生运行于 Oracle 平台的 Watsonx Orchestrate 和各类大模型)形成了强力互补。Oracle 资深 AI/ML 总监 Federico Torreti(Feddy)受邀登台,共同探讨企业如何跨越从 2024 年的试点探索(PoC)阶段,迈入 2025 年以 15% 领跑企业为代表的全面生产部署阶段。

双方的联合实践证明,AI Agent 的普及不仅限于科技企业,传统实体行业同样获得了巨大的效能跃迁。在建筑工程领域,传统企业利用自动化与 AI Agent 大幅缩短了招投标周期(Time to Bid);户外媒体巨头 Outfront Media 则通过为一线销售代表提供交互现场的富信息赋能,显著提升了潜在客户触达与业务转化质量。此外,知名工程咨询服务企业 Wood 部署了 Oracle Fusion HCM Agent 优化其端到端招聘流程(Source-to-Hire / IR-to-Hire),成功实现了约 56% 的整体生产力提升。这些领先企业的共性在于完成了认知层面的根本转变:不再将 AI Agent 仅仅视作“削减成本”的手段,而是作为“赋能员工创造更多增量价值”的引擎,去攻克过去无法解决的业务难题。

- **56% 生产力提升**:工程咨询公司 Wood 借助 Fusion HCM Agent 优化端到端招聘流程,消除了多处传统流转瓶颈。 - **价值导向转变**:领先的 15% 企业摆脱了单纯的 Cost-out 视角,转向赋能员工能力边界扩张。

---

[16:36](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=996s) 应对数据重力与模型泛滥:联邦查询与场景化模型策略

针对大量非科技原生企业数据分散在本地机房(On-Premise)或多处异构系统、难以集中迁移的现实痛点,Federico 强调企业应尽量避免盲目进行大规模数据搬迁。最佳的实践心智模型是“让数据保留在源头的记录体系(System of Record)中”,通过 Watsonx Orchestrate 等平台所具备的联邦查询(Federated Queries)能力,将计算和推理分发到数据所在之处,兼顾数据合规、安全隐私与架构灵活性。

面对业内每周层出不穷、性能不断刷新的前沿大模型,企业普遍面临严峻的选择焦虑与决策疲劳(Decision Fatigue)。单纯追求“提供最广泛的模型目录”往往适得其反,更高效的策略是“按需逆向推导”——针对特定的业务场景,精选经过严格验证与优化的模型组合。在此背景下,IBM Granite 系列模型原生接入了 OCI Data Science(Oracle 云基础设施数据科学平台),以其出色的可审计性(Auditability)、企业合规性与可控成本,成为了生产级部署的理想基石。在企业落地旅程中,团队通常会先用最前沿的模型进行小范围概念验证以确认可行性,但一旦进入严苛的生产环境,高确定性、高合规性的精选模型才是企业级架构的核心支撑。

- **数据重力架构**:坚持数据不动、智能下沉,通过联邦查询保护核心数据资产与企业知识产权。 - **精选模型(Curated Choice)打破决策疲劳**:相比盲目追求前沿大模型,具备审计与合规属性的模型(如 IBM Granite 在 OCI 上的应用)更能满足企业生产级部署的实际诉求。

[18:54](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1134s) 规模化落地的核心:模型微调、成本控制与分层 Agent 架构

在将 AI Agent 真正推向规模化企业级部署时,企业必须面对一系列工程与运营层面的现实约束,包括成本控制边界(Cost Envelope)、响应延迟(Latency),以及模型本身的知识范围——模型究竟是该依赖覆盖全网的通用世界知识,还是针对特定业务领域进行深度微调(Fine-tuning)。演讲者指出,IBM 在实践中通过采用自家的 Granite 模型以及其他开源模型,针对特定业务场景进行定向微调,从而大幅收敛模型任务范围,取得了显著成效。从通用的超大模型实验阶段过渡到“专精于特定任务的小模型”,客户能够看到令人瞩目的投资回报率(ROI):任务准确率不仅提升了约 5% 到 10%,而运行这些模型的推断成本更是骤降了近 95%。

这种向小型、高效模型转型的趋势在多 Agent(Multi-Agent)体系架构中体现得尤为明显。在企业级的 Agent 层级体系中,顶层通常设置一个负责全局协调、理解综合指令并统揽各大业务域的主控 Agent;而一旦深入到底层特定业务垂直领域,例如专门处理采购业务的“采购 Agent(Procurement Agent)”,该 Agent 就必须依赖运行成本极低、响应迅速的高效小模型。通过分工协作,小型模型能够在各自专注的狭窄工作流中输出更高精度与稳定性,同时将整体计算开销降至最低。

```mermaid flowchart TD accTitle: Multi-Agent Hierarchical Architecture accDescription: 企业级多智能体分层架构示意图,展示了顶层总控与底层细分领域专精小模型的分工与成本优化机制。

subgraph Orchestration["协调调度层"] TopAgent["顶层主控 Agent<br/>(跨领域统筹与路由调度)"] end

subgraph DomainAgents["垂直领域专属 Agent(微调小模型)"] Procurement["采购 Agent<br/>(微调 Granite / 开源小模型)"] HRAgent["人力资源 Agent<br/>(领域专精小模型)"] ITAgent["IT 运维 Agent<br/>(高性价比小模型)"] end

TopAgent -->|任务分发| Procurement TopAgent -->|任务分发| HRAgent TopAgent -->|任务分发| ITAgent

subgraph Benefits["落地收益"] Cost["运行成本降低 ~95%"] Acc["准确率提升 5% - 10%"] end

DomainAgents -.-> Benefits ```

- **微调小模型的关键 ROI 收益**:相较于直接调用超大通用模型,专精于特定场景的微调小模型可实现“准确率提升约 5% 至 10%,运行成本降低高达 95%”。 - **架构分工原则**:顶层 Agent 负责全局跨领域调度,底层领域 Agent(如采购 Agent)采用轻量化高效模型,严格专精于特定业务流程。

---

[19:58](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1198s) 从 Agent 构建到全生命周期管理与圆满结语

除了 Agent 的创建与构建(Agent Authoring)之外,演讲者进一步强调了另一个在企业落地过程中愈发关键的维度——Agent 的运营与治理管理(Agent Management)。随着企业内部部署的 Agent 数量不断增加,如何持续管理、监控、调度这些自主智能体并确保其合规高效运行,正在成为构建现代化企业 AI 体系不可或缺的核心议题。演讲在双方对 IBM 与 Oracle 紧密合作伙伴关系的肯定与致谢中圆满结束,双方表示这种深入的行业探索与技术协同将继续助力更多企业解锁生产力飞跃。

- **核心治理关注点**:企业 AI 的演进不仅关乎“如何构建 Agent(Agent Authoring)”,更在于“如何长效运维与管理 Agent(Agent Management)”。 - **总结致谢**:双方高度肯定了本次交流对企业智能化转型的启发价值,并对长期的生态伙伴合作表达了由衷感谢。

## Notable quotes > [00:04](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=4s) 选择正确的 AI(Doing the right AI)与以正确的方式做 AI(Doing AI right)。 — Shobhit Varshney

> [01:07](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=67s) 自左向右路径:首先从核心战略出发,确立市场制胜的北极星指标。 — Shobhit Varshney

> [02:35](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=155s) IBM 将自身定位为各项技术方案的“零号客户”(Client Zero),信奉“喝自己的香槟”(Drink our own champagne)。 — Shobhit Varshney

> [02:35](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=155s) 两年前,IBM 内部自动化与 AI 的比重约为 50/50;如今,纯自动化占比已降至 25%,而 75% 的降本增效均由 AI 深度驱动。 — Shobhit Varshney

> [04:17](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=257s) 打破各部门各自为政的局部优化,围绕客户从市场、销售、定价到签约的“横向端到端旅程”组建跨职能敏捷团队。 — Shobhit Varshney

> [07:28](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=448s) 78% 的企业高管高度看好 Agentic AI 对企业业务的重塑能力,76% 的高管清醒地意识到仍需在数据安全、隐私保护以及底层流程重构上进行深度转型。 — Shobhit Varshney

> [09:20](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=560s) 这如同组建一支高水平运动队,根据比赛战术灵活引入特定技能的四分卫,实现工作流的敏捷组装与持续替换。 — Shobhit Varshney

> [12:52](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=772s) 遵循“AI 追随数据重力”(AI follows data gravity)的原则,在企业防火墙后安全处理核心资产。 — Shobhit Varshney

> [12:52](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=772s) 不再将 AI Agent 仅仅视作“削减成本”的手段,而是作为“赋能员工创造更多增量价值”的引擎。 — Federico Torreti

> [16:36](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=996s) 最佳的实践心智模型是“让数据保留在源头的记录体系(System of Record)中”,通过联邦查询将计算和推理分发到数据所在之处。 — Federico Torreti

> [18:54](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1134s) 从通用的超大模型实验阶段过渡到专精于特定任务的小模型,任务准确率提升了约 5% 到 10%,而推断成本更是骤降了近 95%。 — Shobhit Varshney

> [19:58](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1198s) 企业 AI 的演进不仅关乎“如何构建 Agent(Agent Authoring)”,更在于“如何长效运维与管理 Agent(Agent Management)”。 — Shobhit Varshney

## Mentioned IBM, Oracle, Shobhit Varshney, Federico Torreti, Arvind Krishna, Harris Poll, IBM Consulting, IBM 商业价值研究院 (IBV), watsonx, Watsonx Orchestrate, IBM Granite, OCI Data Science, Oracle Fusion HCM, Outfront Media, Wood, Slack, RPA, Agentic AI

## Video description Shobhit Varshney, Head of Data & AI, IBM Federico Torreti, Senior Director AI/ML, Oracle

Abstracts

IBM, like everyone, is excited about AI’s potential. Where we differ, though, is that we’re not experimenting with AI – we’re doing. By determining the areas where AI could have the most beneficial impact on our people and our business, we unlocked $3.5B in productivity savings over two years. Now, we will showcase how we did it and how you can also overcome siloed approaches and drive impactful change across HR, Sales, IT, Procurement, and more with AI Agents. In this session, discover: - Our big learnings with AI-driven productivity enhancements. - Practical use cases on how to augment your workforce with domain-specific AI Agents. - How you can build a team of agents in hours and enable multi-agent collaboration in one interface. Don't get left behind, learn how to leverage the power of AI and get ahead with IBM.

[Source](https://www.youtube.com/watch?v=PY9SGOi9vzM)

中文简报

IBM通过企业级AI智能体节约35亿美元 只有当企业从清晰的自上而下战略而非技术试点出发,并从简单的任务自动化转向多智能体协同编排时,企业级AI部署才能产生经过验证的商业价值。 IBM与Oracle展示了一份战略蓝图,旨在超越AI实验阶段,利用AI智能体实现可衡量的企业价值。通过分享IBM作为“零号客户”(Client Zero)推动实现35亿美元年度运营生产力节约的实践经验,演讲者阐明了从基础自动化迈向多智能体协同编排的转变。演讲内容涵盖演进式自动化框架、多模型微调策略、通过Oracle Cloud Infrastructure上的watsonx Orchestrate保障数据主权,以及跨行业的真实落地应用案例。 IBM 与 Harris Poll 联合开展的调查显示,仅有 15% 的企业高管确信其实模化部署的 AI 带来了可量化的业务价值,这形成了从业务战略出发的“AI 领导者”与仅做技术试点的“AI 学习者”之间的显著鸿沟。 (0:04) IBM 作为自身的“零号客户”,在约 150 亿美元的总支出预算中,通过流程简化及 AI 自动化实现了超过 35 亿美元的年化生产力节约,且其技术驱动重心已由最初的传统自动化转向占 75% 的 AI 方案。 (2:35) IBM 提出了流程自动化从确定性 RPA、LLM 任务增强,迈向单一 AI Agent 及多 Agent 协同编排的四个演进阶段,并利用 watsonx Orchestrate 平台构建类似“运动员名单”的模块化 Agent 混合调度体系。 (7:28) IBM 与 Oracle 推进深度生态合作,将 watsonx 与 Granite 模型直接部署于 Oracle 云基础设施(OCI)上,通过联邦查询避免非必要的数据迁移,同时凭借领域微调小模型在降低 95% 运营成本的基础上实现更高的任务准确率。 (12:52)

精炼阅读摘要

IBM咨询与Oracle在Ai4大会上提出,企业AI应用正面临仅有15%领军者能获得可量化回报的“价值鸿沟”;要实现商业突破,企业必须将重心从零散的技术试点转向由业务战略驱动的智能体编排与工作流再造。 跨越15%价值鸿沟与战略方向抉择 (0:04) IBM咨询数据与AI业务负责人Shobhit Varshney指出,企业落地AI必须兼顾“选择正确的AI”与“合规地实施AI”,在追求投资回报率的同时内嵌治理与安全机制。IBM委托哈里斯民调对约2000位企业高管进行的调查显示,仅有约15%的高管确信其规模化AI部署带来了可量化的业务价值,这部分企业被称为“AI领跑者”,而其余85%的企业仍停留在“AI学习者”阶段。两者的根本分歧在于执行路径:学习者采取“从右到左”模式,从免费技术试点出发,试图事后补充商业合理性,往往沦为无效实验;领跑者则采取“从左到右”模式,先确立业务北极星目标,在评估数据沉淀、流程影响与人才治理后,再针对性部署AI以重塑工作流。 零号客户实践与35亿美元生产力释放 (2:35) IBM将自身作为“零号客户”验证企业级AI效能。IBM首席执行官Arvind Krishna曾设定在2024年底前实现20亿美元年化生产力节约的目标,而财报数据显示,IBM最终在约150亿美元的年度总支出基础上,实现了超过35亿美元的年化生产力节约。其中20亿美元直接来自自动化与AI技术,15亿美元源自流程简化与整合;节约构成的技术配比也从两年前自动化与AI各占一半,转变为AI占据75%、传统自动化占25%的格局。通过节省成本建立的资金飞轮被重新投入研发与增长领域。 在面向全球近30万名员工的组织推进中,端到端财务绩效管理平台的整合贡献了2亿美元的业务价值。在运营机制上,IBM打破传统职能孤岛,组建跨职能团队追踪客户旅程,并通过高管指导与基层赋能相结合的模式推广应用。全球共有17万名员工参与了内部watsonx挑战赛,在日常岗位中主动构建AI工作流,配合两周一轮的敏捷冲刺周期,推动生产力收益大幅超出最初设定的基准线。 业务自动化的四层演进与智能体编排架构 (7:28) IBM商业价值研究院对800位高管的调研显示,78%的受访者认为智能体AI将从根本上重塑其业务,但76%的高管强调必须首先解决内部数据安全、隐私与组织变革问题。Varshney提出了企业流程自动化的四层演进模型:第一层为基于固定规则树的确定性RPA,具备低成本与高速度;第二层为引入大语言模型处理文档解析的任务增强;第三层为单智能体执行,即由人类拆解任务后,智能体自主完成跨网页查阅、表格整理与历史比对等具体目标;第四层为多智能体编排,系统可自动拆解复杂高阶需求并协调专门的智能体分工协同。 针对多智能体协作,IBM提出采用watsonx Orchestrate作为混合工作流的中央控制层,将其比喻为组建包含四分卫等专业位置的“运动员团队”。在该架构下,中央编排智能体负责评估需求,并按需将公司建档、运营开通以及法律合规等工作分发给专用智能体。这种模块化设计允许企业随时替换个别模型或工具,同时避免对底层数据安全和企业防火墙造成冲击。Varshney强调,未来的企业系统将是混合形态:确定性工作流保障响应速度、低成本与确定性输出,智能体架构则负责处理复杂的非线性推理。 生态合作落地:员工赋能与专用模型微调 (12:52) Oracle人工智能与机器学习高级总监Federico Torreti与Varshney结合两家公司的联合方案指出,推进AI落地正从单纯的成本削减转向员工赋能。例如一家工程咨询公司通过部署Oracle Fusion HCM智能体优化招聘流程,实现了约56%的生产力提升;户外媒体巨头Outfront Media利用智能体在客户交互现场提供情境数据支持,传统建筑企业则通过自动化文档处理显著缩短投标周期。面对分散在本地或多系统中的核心数据资产,双方主张避免不必要的数据迁移,依托watsonx Orchestrate在原始记录系统中开展联邦查询,以保障数据主权与合规。 在模型选型策略上,双方指出无节制地接入前沿模型容易引发“决策疲劳”并推高运营成本。实践证明,相较于盲目追求通用前沿模型,在Oracle云基础设施(OCI)数据科学平台上选用经过企业合规审计的IBM Granite等较小模型并进行领域微调更为务实。这种结合垂直场景的微调模式不仅能够将特定任务的准确率提升5%至10%,还能将运行成本大幅削减95%,使分层多智能体架构在经济与算力层面具备规模化落地的可行性。 两位发言人强调,企业AI的应用重心已从前期的模型构建转向多智能体生态的长期治理与统一运维。如何在兼顾数据主权、低延迟与算力预算的前提下,管理好日益庞大的专业子智能体网络,将是决定企业能否真正跻身前15%领跑者行列的核心考验。

Detailed notes — zh

## Background 该内容由 YouTube 频道 Ai4 于 2025 年 8 月 26 日发布,由 IBM 数据与 AI 负责人 Shobhit Varshney 与 Oracle 资深 AI/ML 总监 Federico Torreti 联合演讲。视频主要介绍了 IBM 如何告别单纯的 AI 实验阶段,通过在 HR、销售、IT 与采购等全业务链落地 AI Agent(智能体),在两年内释放出高达 35 亿美元的生产力价值,并展示了如何结合 Oracle 生态快速搭建多 Agent 协同体系。 ## TL;DR 演讲深入剖析了 IBM 作为“零号客户”通过 AI 与自动化实现 35 亿美元年化生产力跃升的转型历程,揭示了 15% 的“AI 领跑者”如何通过以战略和北极星目标为核心的自左向右路径拉开竞争差距。内容系统梳理了从传统 RPA 规则流演进到 Watsonx Orchestrate 驱动的多 Agent 协同编排架构,并结合双方在工程、建筑与招聘等真实行业场景中的落地实践,强调了尊重“数据重力”与利用联邦查询避免盲目搬迁数据的重要性。最后,演讲指出企业规模化部署的核心在于采用分层架构与场景化微调小模型(如 Granite),在提升 5% 至 10% 准确率的同时降低 95% 的推理成本,并深化对 Agent 全生命周期的长效治理。 ## Atmosphere & style 整场演讲充满务实、严谨且极具说服力的企业级商业气息,褪去了空泛的技术炒作,全程以详实的财务回报率(ROI)、架构拓扑与量化指标为支撑。主讲人 Shobhit 叙述逻辑严密、自信沉稳,借助“四分卫组队”和“带新员工”等生动比喻化繁为简;随后与 Oracle 嘉宾的协同对话自然默契,将前沿的 Agent 理论扎实地锚定在企业防火墙、数据重力与严苛的生产成本控制等现实挑战上,给人以极具落地参考价值的厚重感与启发感。 ## Key takeaways - [00:04](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=4s) IBM 提出企业级 AI 的双轮驱动战略:必须兼顾“选择正确的 AI”(聚焦高价值场景与持续 ROI)与“以正确的方式做 AI”(内置治理、信任与价值观对齐)。 - [01:07](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=67s) 调研显示仅 15% 的企业成为“AI 领跑者”,其关键在于确立市场制胜的北极星目标并“自左向右”重构流程,而非陷入从零散工具试点出发的“自右向左”实验陷阱。 - [02:35](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=155s) IBM 将自身作为“零号客户”,通过组织精简与 AI 自动化释放了超 35 亿美元年化生产力价值,其中 AI 驱动的增效占比已由两年前的 50% 跃升至 75%。 - [02:35](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=155s) 生产力跃升释放的大额自由现金流被重新注入核心研发与业务拓展,形成了“增效—再投资—业务增长”的良性飞轮,直接支撑了资本市场表现。 - [04:17](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=257s) 规模化推动 AI 变革需打破部门纵向孤岛,围绕端到端客户旅程组建横向敏捷团队,并结合双周冲刺与全员基层创新激发组织活力。 - [07:28](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=448s) 流程自动化正从基于确定性规则的传统 RPA 阶段,大步迈入具备非结构化数据理解、自主规划与跨系统协同能力的 Agentic AI 阶段。 - [09:20](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=560s) 企业落地的最佳架构是将“固定确定性工作流”与“Agent 动态工作流”相融合,利用编排中枢将高层需求拆解并分发给专精 Agent 协同执行。 - [12:52](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=772s) AI Agent 的认知定位已发生根本转变:领跑企业不再单纯将其视作“削减成本”的工具,而是作为“赋能员工能力边界扩张”的增长引擎。 - [16:36](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=996s) 践行“AI 追随数据重力”原则,企业应采用联邦查询直接在底层源头记录体系中调度计算,避免盲目迁移核心数据资产带来的安全与合规风险。 - [16:36](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=996s) 面对层出不穷的大模型,企业应以“场景化精选模型”打破决策疲劳,采用具备强审计性与企业合规性的模型作为生产级部署基石。 - [18:54](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1134s) 相较于依赖通用的超大模型,针对垂直场景微调的专精小模型能够将运行推断成本降低近 95%,同时将任务准确率提升 5% 至 10%。 - [18:54](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1134s) 多 Agent 规模化架构应采取分层设计:顶层主控 Agent 负责全局统筹与路由调度,底层垂直领域 Agent 则由低成本、高响应的小模型承担。 - [19:58](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1198s) 企业 AI 的核心演进正从前期的“如何构建 Agent(Agent Authoring)”,转向涉及持续运维、合规监控与调度的“Agent 全生命周期管理(Agent Management)”。 ## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=4s) 践行 AI 战略:做对的 AI 与用对的方式做 AI IBM Consulting 数据与 AI 负责人 Shobhit Varshney 开场介绍了他在企业级 AI 领域的实践经验,并深入分享 IBM 如何通过 AI 和 AI Agent(智能体)实现自身的业务转型。在 IBM 内部,AI 战略的核心理念被概括为一个阴阳互补的双轮驱动模型:**“选择正确的 AI”(Doing the right AI)** 与 **“以正确的方式做 AI”(Doing AI right)**。 ```mermaid flowchart LR accTitle: IBM Doing the Right AI vs Doing AI Right subgraph RightAI["选择正确的 AI (Doing the Right AI)"] A1["业务场景识别"] --> A2["AI 素养与技能普及"] A2 --> A3["推动全员采纳与落地"] A3 --> A4["持续实现季度 ROI 价值"] end subgraph DoingRight["以正确方式做 AI (Doing AI Right)"] B1["健全的治理框架"] --> B2["内置全流程信任与安全"] B2 --> B3["与企业核心价值观对齐"] B3 --> B4["负责任的高效部署"] end ``` 一方面,企业需要识别出真正产生价值的业务用例,提升员工的 AI 素养,推动自下而上的技术采纳,确保所选场景能持续产生可量化的投资回报率(ROI);另一方面,必须在技术落地伊始就植入强大的 AI 治理体系与信任机制,确保 AI 战略与组织的核心价值观深度契合,以负责任且高效的方式部署每一项用例。 ### [01:07](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=67s) AI 领跑者与摸索者的本质差异:自左向右 vs 自右向左 IBM 联合哈里斯民意调查(Harris Poll)对约 2,000 名企业高管(C-suite)展开了调研,探究有多少企业能够将真实的业务价值直接归因于其规模化落地的 AI 部署。结果显示,仅有约 15% 的高管明确表示对 AI 投资所带来的巨大商业回报充满信心,IBM 将这部分企业定义为“AI 领跑者”(AI Leaders);而其余 85% 的企业则被称为“AI 摸索者”(AI Learners)。 ```mermaid flowchart TD accTitle: AI Strategy Direction Comparison subgraph Leaders["15% AI 领跑者(自左向右:以战略为核心)"] L1["明确战略与北极星目标"] --> L2["价值编排与数据沉淀挖掘"] L2 --> L3["重塑端到端业务工作流"] L3 --> L4["赋能人才队伍"] L4 --> L5["技术构建与数据治理"] end subgraph Learners["85% AI 摸索者(自右向左:以实验为核心)"] R1["发起免费概念验证/试点 (PoC)"] --> R2["局部改变人类工作方式"] R2 --> R3["倒推拼凑商业可行性案例"] end ``` 这两类企业在推进 AI 战略的路径上存在根本性分歧: - **AI 领跑者(自左向右路径)**:首先从核心战略出发,确立市场制胜的“北极星指标”。例如,一家传统抵押贷款审批需要 3 周的房贷公司,若能将审批周期压缩至 24 到 48 小时,便能颠覆行业竞争格局。确立这一北极星目标后,领跑者会分析自身数据沉淀(Data Exhaust)与价值捕获能力,进而重构业务工作流、赋能人才队伍,最后才落地具体技术选型与数据治理。 - **AI 摸索者(自右向左路径)**:往往直接从免费的局部工具试点(PoC)起步,试图先改变某一部分员工的工作习惯,随后再艰难地倒推拼凑商业价值案例(Business Case)。这种“自右向左”的模式往往沦为无休止的“AI 实验陷阱”。 ### [02:35](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=155s) IBM 作为“零号客户”:35 亿美元生产力跃升的飞轮效应 IBM 将自身定位为各项技术方案的“零号客户”(Client Zero),信奉“喝自己的香槟”(Drink our own champagne)。IBM 全球整体运营支出盘子约为 150 亿美元,公司最初由 CEO Arvind Krishna 设定了在 2024 年底前实现 20 亿美元生产力节省的宏伟目标,而实际成效远超预期,最终实现了年化运行率(Annual Run Rate)超过 35 亿美元的生产力价值释放。 - **收益构成细分**:在 35 亿美元的总收益中,约 20 亿美元直接来源于自动化与 AI 技术的赋能;其余约 15 亿美元来自流程简化、组织合并与架构精简。 - **技术结构演进**:两年前,IBM 内部自动化与 AI 的比重约为 50/50;如今,纯自动化占比已降至 25%,而 75% 的降本增效均由 AI 深度驱动。 - **财务与资本市场回响**:35 亿美元节省释放出的自由现金流被重新投入核心业务研发与市场拓展,形成了“生产力提升 $\rightarrow$ 利润再投资 $\rightarrow$ 驱动业务增长 $\rightarrow$ 释放自由现金流”的良性飞轮,直接支撑了 IBM 股价在过去几年跑赢大盘与竞争对手。 ### [04:17](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=257s) 跨领域赋能与横向协同运营架构 在落地层面,IBM 逐个业务领域深入挖掘价值潜力。例如在财务绩效管理(Financial Performance Management, FPM)领域,IBM 打造了单一管理视图(Single Pane of Glass),将全公司所有财务决策集中整合呈现,仅此一项就释放了 2 亿美元的商业价值;此外,在客户支持、IT 现代化、数字劳动力(Digital Labor)及覆盖全球近 30 万名员工的 HR 转型中均取得了显著突破。 ```mermaid flowchart TD accTitle: IBM Transformation Structure and Horizontal Alignment subgraph GovStructure["多层级转型组织架构"] G1["指导委员会 (Steering Committee)"] --> G2["生产力探索团队 (Productivity Discovery Teams)"] G2 --> G3["全员基层创新 (Grassroots Workforce)"] end subgraph HorizontalShift["业务运营视角转变"] H1["原纵向部门隔离视角\n(财务/营销/合同各自割裂)"] --"打破壁垒,转向横向贯通"--> H2["端到端客户旅程\n(线索 -> 账户 -> 定价 -> 合同签署)"] end ``` 为了在大规模组织中推动变革,IBM 建立了一套严谨的文化与治理体系: - **外部基准对齐**:对每个职能部门(如采购规模、IT 工程师与工单比例)进行全球行业基准测算,明确提升目标。 - **从垂直孤岛转向横向贯通**:打破各部门各自为政的局部优化,围绕客户从市场、销售、定价到签约的“横向端到端旅程”组建跨职能敏捷团队,设立统一的综合 KPI。 - **双周敏捷冲刺(2-Week Sprints)**:快速验证用例成效,形成标准化操作手册(Playbook)。 - **自下而上的全员参与**:各业务部门骨干组成的生产力探索团队贡献了约 10 亿美元的价值挖掘;而通过面向全员的 watsonx 挑战赛,全球多达 17 万名员工参与设计日常工作流自动化方案,形成了坚实的基层群众基础。 ### [07:28](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=448s) 从 RPA 到 Agentic AI:流程自动化的演进阶段 在当前的 AI 浪潮中,AI Agent(智能体)已成为重构端到端业务流程的核心焦点。根据 IBM 商业价值研究院(IBV)针对 800 余位高管的专项调研: - **78%** 的企业高管高度看好 Agentic AI(智能体 AI)对企业业务的重塑能力。 - **76%** 的高管清醒地意识到,要释放智能体的最大价值,企业内部仍需在数据安全、隐私保护以及底层流程重构上进行大量深度转型。 从流程自动化演进的视角来看,行业历经了不同阶段: - **第一阶段:RPA(机器人流程自动化)时代**。针对汽车保险理赔等固定场景,领域专家(SME)可以在白板上画出清晰的决策树与规则流(“如果满足 A 则执行 B”)。此类自动化成本低、执行速度快、输出确定一致,但其本质完全受限于人类预先定义的规则框架。 - **演进阶段(进阶智能)**:随着技术深入,系统逐步具备理解非结构化数据、自主规划与协同决策的能力,跨入真正由数据与 Agent 驱动的智能化新阶段。 ### [09:20](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=560s) 从任务拆解到多 Agent 协同:企业自动化工作流的进阶之路 企业在推进自动化流程时,正经历着从单一环节大语言模型(LLM)赋能向高阶 Agent 进化的关键转折。早期阶段通常只是在既定流程中将某个具体节点(例如视觉识别读取特定文档并进行快速分析)替换为大模型;而进入第三阶段后,AI Agent 开始展现出自主执行独立子任务的能力。这就像团队中迎来了一位新入职的员工或实习生——当你交代任务:“能否帮我对比一下我们与竞争对手的财报?”该 Agent 能够自主打开浏览器检索竞品、下载数据、生成对比表格并参照过往格式整理,最终在得出满意结果后反馈给负责人。现阶段,高层的需求拆解(Ask to Task)依然主要由人类完成,人类管理者接收上级需求后拆解为具体子任务下发给 Agent,并在获得反馈后进行验证与推进。 随着企业内部积累了大量的“需求-任务拆解”(Ask to Task)知识库,便可以进一步训练核心模型来承接宏观需求并自动进行任务分解与 Agent 调度。此时,系统演进为多 Agent 协同编排架构,能够应对如“为什么我这次的报销理赔金额与上次不同?”这类涉及多个底层系统的复杂业务问题。然而,多 Agent 框架虽然大幅拓宽了解决复杂问题的边界,但也带来了更高的延迟、计算成本以及更严格的结果治理与准确性验证要求。相比之下,传统的确定性工作流虽然必须穷举每一步路径,却具有确定可控的优势。因此,企业落地中最具价值的做法是将“固定工作流”与“Agent 动态工作流”深度结合。IBM 内部正是通过 Watsonx Orchestrate 来实现这种跨固定与动态工作流的统一智能编排,无缝调遣来自 IBM 自身或生态伙伴的各类 Agent 与工具集。 ```mermaid flowchart TD accTitle: Watsonx 多 Agent 编排架构 subgraph Ingestion["接入与分发层"] A["多渠道请求 (Slack / 呼叫中心)"] --> B["Watsonx Orchestrate 编排中枢"] end subgraph Agents["专业 Agent 协作层"] B --> C["企业画像分析 Agent"] B --> D["生态伙伴入职 Agent"] B --> E["IBM AI 法务顾问 Agent"] end subgraph Integration["执行与支撑层"] C & D & E --> F["底座系统与记录体系 (System of Record)"] end ``` - **模块化组队机制**:在企业入职(Onboarding)等复杂场景中,编排中枢会将宏观需求拆解为企业画像、生态入职对接、法务合规审核等多项步骤,分别指派专精的 Agent 协作完成。这如同组建一支高水平运动队,根据比赛战术灵活引入特定技能的“四分卫”,实现工作流的敏捷组装与持续替换。 --- ### [12:52](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=772s) IBM 与 Oracle 的生态协作:从概念验证走向生产落地 为了避免客户被技术绑定,IBM 坚持开放的生态合作战略,确保企业能够自由置换组件,并遵循“AI 追随数据重力”(AI follows data gravity)的原则,在企业防火墙后安全处理核心资产。作为深耕数十年的重量级合作伙伴,Oracle 的基础设施与 IBM 的咨询服务及软件能力(包括原生运行于 Oracle 平台的 Watsonx Orchestrate 和各类大模型)形成了强力互补。Oracle 资深 AI/ML 总监 Federico Torreti(Feddy)受邀登台,共同探讨企业如何跨越从 2024 年的试点探索(PoC)阶段,迈入 2025 年以 15% 领跑企业为代表的全面生产部署阶段。 双方的联合实践证明,AI Agent 的普及不仅限于科技企业,传统实体行业同样获得了巨大的效能跃迁。在建筑工程领域,传统企业利用自动化与 AI Agent 大幅缩短了招投标周期(Time to Bid);户外媒体巨头 Outfront Media 则通过为一线销售代表提供交互现场的富信息赋能,显著提升了潜在客户触达与业务转化质量。此外,知名工程咨询服务企业 Wood 部署了 Oracle Fusion HCM Agent 优化其端到端招聘流程(Source-to-Hire / IR-to-Hire),成功实现了约 56% 的整体生产力提升。这些领先企业的共性在于完成了认知层面的根本转变:不再将 AI Agent 仅仅视作“削减成本”的手段,而是作为“赋能员工创造更多增量价值”的引擎,去攻克过去无法解决的业务难题。 - **56% 生产力提升**:工程咨询公司 Wood 借助 Fusion HCM Agent 优化端到端招聘流程,消除了多处传统流转瓶颈。 - **价值导向转变**:领先的 15% 企业摆脱了单纯的 Cost-out 视角,转向赋能员工能力边界扩张。 --- ### [16:36](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=996s) 应对数据重力与模型泛滥:联邦查询与场景化模型策略 针对大量非科技原生企业数据分散在本地机房(On-Premise)或多处异构系统、难以集中迁移的现实痛点,Federico 强调企业应尽量避免盲目进行大规模数据搬迁。最佳的实践心智模型是“让数据保留在源头的记录体系(System of Record)中”,通过 Watsonx Orchestrate 等平台所具备的联邦查询(Federated Queries)能力,将计算和推理分发到数据所在之处,兼顾数据合规、安全隐私与架构灵活性。 面对业内每周层出不穷、性能不断刷新的前沿大模型,企业普遍面临严峻的选择焦虑与决策疲劳(Decision Fatigue)。单纯追求“提供最广泛的模型目录”往往适得其反,更高效的策略是“按需逆向推导”——针对特定的业务场景,精选经过严格验证与优化的模型组合。在此背景下,IBM Granite 系列模型原生接入了 OCI Data Science(Oracle 云基础设施数据科学平台),以其出色的可审计性(Auditability)、企业合规性与可控成本,成为了生产级部署的理想基石。在企业落地旅程中,团队通常会先用最前沿的模型进行小范围概念验证以确认可行性,但一旦进入严苛的生产环境,高确定性、高合规性的精选模型才是企业级架构的核心支撑。 - **数据重力架构**:坚持数据不动、智能下沉,通过联邦查询保护核心数据资产与企业知识产权。 - **精选模型(Curated Choice)打破决策疲劳**:相比盲目追求前沿大模型,具备审计与合规属性的模型(如 IBM Granite 在 OCI 上的应用)更能满足企业生产级部署的实际诉求。 ### [18:54](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1134s) 规模化落地的核心:模型微调、成本控制与分层 Agent 架构 在将 AI Agent 真正推向规模化企业级部署时,企业必须面对一系列工程与运营层面的现实约束,包括成本控制边界(Cost Envelope)、响应延迟(Latency),以及模型本身的知识范围——模型究竟是该依赖覆盖全网的通用世界知识,还是针对特定业务领域进行深度微调(Fine-tuning)。演讲者指出,IBM 在实践中通过采用自家的 Granite 模型以及其他开源模型,针对特定业务场景进行定向微调,从而大幅收敛模型任务范围,取得了显著成效。从通用的超大模型实验阶段过渡到“专精于特定任务的小模型”,客户能够看到令人瞩目的投资回报率(ROI):任务准确率不仅提升了约 5% 到 10%,而运行这些模型的推断成本更是骤降了近 95%。 这种向小型、高效模型转型的趋势在多 Agent(Multi-Agent)体系架构中体现得尤为明显。在企业级的 Agent 层级体系中,顶层通常设置一个负责全局协调、理解综合指令并统揽各大业务域的主控 Agent;而一旦深入到底层特定业务垂直领域,例如专门处理采购业务的“采购 Agent(Procurement Agent)”,该 Agent 就必须依赖运行成本极低、响应迅速的高效小模型。通过分工协作,小型模型能够在各自专注的狭窄工作流中输出更高精度与稳定性,同时将整体计算开销降至最低。 ```mermaid flowchart TD accTitle: Multi-Agent Hierarchical Architecture accDescription: 企业级多智能体分层架构示意图,展示了顶层总控与底层细分领域专精小模型的分工与成本优化机制。 subgraph Orchestration["协调调度层"] TopAgent["顶层主控 Agent<br/>(跨领域统筹与路由调度)"] end subgraph DomainAgents["垂直领域专属 Agent(微调小模型)"] Procurement["采购 Agent<br/>(微调 Granite / 开源小模型)"] HRAgent["人力资源 Agent<br/>(领域专精小模型)"] ITAgent["IT 运维 Agent<br/>(高性价比小模型)"] end TopAgent -->|任务分发| Procurement TopAgent -->|任务分发| HRAgent TopAgent -->|任务分发| ITAgent subgraph Benefits["落地收益"] Cost["运行成本降低 ~95%"] Acc["准确率提升 5% - 10%"] end DomainAgents -.-> Benefits ``` - **微调小模型的关键 ROI 收益**:相较于直接调用超大通用模型,专精于特定场景的微调小模型可实现“准确率提升约 5% 至 10%,运行成本降低高达 95%”。 - **架构分工原则**:顶层 Agent 负责全局跨领域调度,底层领域 Agent(如采购 Agent)采用轻量化高效模型,严格专精于特定业务流程。 --- ### [19:58](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1198s) 从 Agent 构建到全生命周期管理与圆满结语 除了 Agent 的创建与构建(Agent Authoring)之外,演讲者进一步强调了另一个在企业落地过程中愈发关键的维度——Agent 的运营与治理管理(Agent Management)。随着企业内部部署的 Agent 数量不断增加,如何持续管理、监控、调度这些自主智能体并确保其合规高效运行,正在成为构建现代化企业 AI 体系不可或缺的核心议题。演讲在双方对 IBM 与 Oracle 紧密合作伙伴关系的肯定与致谢中圆满结束,双方表示这种深入的行业探索与技术协同将继续助力更多企业解锁生产力飞跃。 - **核心治理关注点**:企业 AI 的演进不仅关乎“如何构建 Agent(Agent Authoring)”,更在于“如何长效运维与管理 Agent(Agent Management)”。 - **总结致谢**:双方高度肯定了本次交流对企业智能化转型的启发价值,并对长期的生态伙伴合作表达了由衷感谢。 ## Notable quotes > [00:04](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=4s) 选择正确的 AI(Doing the right AI)与以正确的方式做 AI(Doing AI right)。 — Shobhit Varshney > [01:07](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=67s) 自左向右路径:首先从核心战略出发,确立市场制胜的北极星指标。 — Shobhit Varshney > [02:35](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=155s) IBM 将自身定位为各项技术方案的“零号客户”(Client Zero),信奉“喝自己的香槟”(Drink our own champagne)。 — Shobhit Varshney > [02:35](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=155s) 两年前,IBM 内部自动化与 AI 的比重约为 50/50;如今,纯自动化占比已降至 25%,而 75% 的降本增效均由 AI 深度驱动。 — Shobhit Varshney > [04:17](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=257s) 打破各部门各自为政的局部优化,围绕客户从市场、销售、定价到签约的“横向端到端旅程”组建跨职能敏捷团队。 — Shobhit Varshney > [07:28](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=448s) 78% 的企业高管高度看好 Agentic AI 对企业业务的重塑能力,76% 的高管清醒地意识到仍需在数据安全、隐私保护以及底层流程重构上进行深度转型。 — Shobhit Varshney > [09:20](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=560s) 这如同组建一支高水平运动队,根据比赛战术灵活引入特定技能的四分卫,实现工作流的敏捷组装与持续替换。 — Shobhit Varshney > [12:52](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=772s) 遵循“AI 追随数据重力”(AI follows data gravity)的原则,在企业防火墙后安全处理核心资产。 — Shobhit Varshney > [12:52](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=772s) 不再将 AI Agent 仅仅视作“削减成本”的手段,而是作为“赋能员工创造更多增量价值”的引擎。 — Federico Torreti > [16:36](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=996s) 最佳的实践心智模型是“让数据保留在源头的记录体系(System of Record)中”,通过联邦查询将计算和推理分发到数据所在之处。 — Federico Torreti > [18:54](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1134s) 从通用的超大模型实验阶段过渡到专精于特定任务的小模型,任务准确率提升了约 5% 到 10%,而推断成本更是骤降了近 95%。 — Shobhit Varshney > [19:58](https://www.youtube.com/watch?v=PY9SGOi9vzM&t=1198s) 企业 AI 的演进不仅关乎“如何构建 Agent(Agent Authoring)”,更在于“如何长效运维与管理 Agent(Agent Management)”。 — Shobhit Varshney ## Mentioned IBM, Oracle, Shobhit Varshney, Federico Torreti, Arvind Krishna, Harris Poll, IBM Consulting, IBM 商业价值研究院 (IBV), watsonx, Watsonx Orchestrate, IBM Granite, OCI Data Science, Oracle Fusion HCM, Outfront Media, Wood, Slack, RPA, Agentic AI ## Video description Shobhit Varshney, Head of Data & AI, IBM Federico Torreti, Senior Director AI/ML, Oracle Abstracts IBM, like everyone, is excited about AI’s potential. Where we differ, though, is that we’re not experimenting with AI – we’re doing. By determining the areas where AI could have the most beneficial impact on our people and our business, we unlocked $3.5B in productivity savings over two years. Now, we will showcase how we did it and how you can also overcome siloed approaches and drive impactful change across HR, Sales, IT, Procurement, and more with AI Agents. In this session, discover: - Our big learnings with AI-driven productivity enhancements. - Practical use cases on how to augment your workforce with domain-specific AI Agents. - How you can build a team of agents in hours and enable multi-agent collaboration in one interface. Don't get left behind, learn how to leverage the power of AI and get ahead with IBM. [Source](https://www.youtube.com/watch?v=PY9SGOi9vzM)

Source quotes

[0:04] Shobhit Varshney: 选择正确的 AI(Doing the right AI)与以正确的方式做 AI(Doing AI right)。 [1:07] Shobhit Varshney: 自左向右路径:首先从核心战略出发,确立市场制胜的北极星指标。 [2:35] Shobhit Varshney: IBM 将自身定位为各项技术方案的“零号客户”(Client Zero),信奉“喝自己的香槟”(Drink our own champagne)。 [2:35] Shobhit Varshney: 两年前,IBM 内部自动化与 AI 的比重约为 50/50;如今,纯自动化占比已降至 25%,而 75% 的降本增效均由 AI 深度驱动。 [4:17] Shobhit Varshney: 打破各部门各自为政的局部优化,围绕客户从市场、销售、定价到签约的“横向端到端旅程”组建跨职能敏捷团队。 [7:28] Shobhit Varshney: 78% 的企业高管高度看好 Agentic AI 对企业业务的重塑能力,76% 的高管清醒地意识到仍需在数据安全、隐私保护以及底层流程重构上进行深度转型。 [9:20] Shobhit Varshney: 这如同组建一支高水平运动队,根据比赛战术灵活引入特定技能的四分卫,实现工作流的敏捷组装与持续替换。 [12:52] Shobhit Varshney: 遵循“AI 追随数据重力”(AI follows data gravity)的原则,在企业防火墙后安全处理核心资产。 [12:52] Federico Torreti: 不再将 AI Agent 仅仅视作“削减成本”的手段,而是作为“赋能员工创造更多增量价值”的引擎。 [16:36] Federico Torreti: 最佳的实践心智模型是“让数据保留在源头的记录体系(System of Record)中”,通过联邦查询将计算和推理分发到数据所在之处。 [18:54] Shobhit Varshney: 从通用的超大模型实验阶段过渡到专精于特定任务的小模型,任务准确率提升了约 5% 到 10%,而推断成本更是骤降了近 95%。 [19:58] Shobhit Varshney: 企业 AI 的演进不仅关乎“如何构建 Agent(Agent Authoring)”,更在于“如何长效运维与管理 Agent(Agent Management)”。