科赴AI主管称企业部署智能体须用小模型与蒸馏遏制Token风暴

Extracting Value from Agentic AI - A Pragmatic Approach — Ai4

Ai4

Agentic AI 架构中的 MCP 调用与底座大模型极易引发高额 Token 消耗导致总体拥有成本失控,企业必须采用小语言模型、蒸馏量化与明确的策略边界来保障落地效益。

AI-assisted summary of Extracting Value from Agentic AI - A Pragmatic Approach — original source. Check the original for full context.

Source published:

Detailed notes

## Background 该视频由 Ai4 于 2025 年 8 月 24 日发布在 YouTube 平台上,记录了 Kenvue 全球数据科学、AI 与智能自动化副总裁 Rahul Tyagi 的演讲。视频简介指出,演讲聚焦于企业如何制定务实的 Agentic AI 落地路线图,通过业务与技术协同加速规模化部署与价值变现。

## TL;DR Rahul Tyagi 系统阐述了企业规模化落地 Agentic AI 的三层架构:涵盖评估机制与自主权衡的智能体创建层、支持多框架协同与 MCP 协议的编排层,以及决定长期总体拥有成本(TCO)的模型底座层。他重点剖析了模型上下文协议(MCP)在异构资源调用中的架构机制与严重的 Token 消耗风险,并对比了专用 API 与 MCP 的适用边界。最后,他提出了借助小语言模型(SLM)、模型蒸馏与量化等精细化模型工程来控制推理成本的方法,旨在帮助业务与技术管理者建立底层技术认知并提出关键架构问题。

## Atmosphere & style 整场分享节奏极快且信息密度极高,展现出典型的大型跨国企业资深技术主管沉稳、务实且直击要害的演讲风格。讲者以家喻户晓的消费品牌与通俗的旅行规划案例作为引子,随后迅速切入到协议规范、通信开销与算力经济学等硬核架构剖析中。整体氛围冷静而专业,既客观肯定了前沿技术的潜力,又清醒指出了工具评估缺失、Token 消耗黑洞及架构蔓延等现实陷阱,极具实战指导意义。

## Key takeaways - [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 理解 Agentic AI 底层逻辑的核心目的,是帮助业务与技术领导者在面对技术团队或外部方案商时能够提出正确的技术问题,确立稳固的关键技术锚点。 - [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 现代 AI Agent 具备三大核心支柱:明确的任务目标(Goal)、自主拆解执行能力(Autonomy)以及必须严格遵守的业务策略框架(Policy)。 - [03:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=180s) 现代智能体与传统规则型 Agent(如 RPA 和专家系统)的本质区别,在于引入了具备强化学习能力的现代语言模型,具备自主学习与适应能力。 - [04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 企业构建 Agentic AI 基础设施需要系统性布局三层架构:智能体创建层(Agent Creation)、编排协同层(Orchestration)以及底层语言模型层(Foundation Models)。 - [06:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=360s) 由于底层模型存在固有幻觉,构建智能体评估框架(结合 LLM as a Judge 与人工评估)是确保业务落地的关键前提,目前多数企业仍需自研补齐这一能力。 - [07:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=420s) 在编排层面对 CrewAI、LangGraph 等多元框架共存时,可借助 Google A2A 等协议互通,但企业需在组件选型自由度与多框架治理成本之间取得平衡。 - [08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) 模型上下文协议(MCP)作为连接智能体与海量外部资源的标准化抽象层,适用于大规模异构系统对接;若仅连接少数固定系统,直接使用原生 API 调用更轻量高效。 - [10:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=630s) MCP 架构由维护可用资源黄页清单的 MCP Client 与负责具体任务执行调用的 MCP Server 构成,企业需根据业务职能划分独立的 MCP 拓扑结构。 - [12:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=720s) MCP 默认机制极易引发“Token 消耗风暴(Token Guzzling)”,高频交互与资源列表维护会导致成本急剧上升,必须进行严格的 Prompt 优化与监控。 - [13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 在 Agentic AI 的三年 TCO 与 FinOps 评估中,底层模型层往往是最大的开支来源,盲目依赖通用顶配大模型容易导致成本失控。 - [13:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=810s) 降低智能体运行成本的最佳实践包括:结合业务场景采用模型微调与蒸馏、选用小语言模型(SLM)、应用参数高效微调(PEFT)以及模型量化压缩技术。

## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 引言与 Kenvue 品牌背景

Rahul Tyagi 在开场时先向观众做了一个快速互动小测验,询问现场有多少人知道 Kenvue(科赴)这家公司。看到举手的人寥寥无几后,他接着列举了几个家喻户晓的消费品牌:Listerine(李施德林)、Aveeno(艾惟诺)、Neutrogena(露得清)、Johnson's Baby(强生婴儿)、Tylenol(泰诺)以及 Motrin(美林)。他解释道,Kenvue 原本是强生公司(Johnson & Johnson)旗下的消费健康业务板块,在两年前被独立分拆出来;虽然公司新名字大家可能还不熟悉,但几乎所有人都曾使用过旗下的某款产品。

随后他切入演讲的核心议题:如何从 Agentic AI(代理式人工智能)中真正获取业务价值。他提到前一位演讲者 Venkat 的内容非常出色,深入探讨了 Agentic AI 成功的关键要素。而本场分享的侧重点在于提供一定深度的技术认知,帮助业务与管理人员掌握底层逻辑,从而能够向内部技术团队或外部解决方案与服务提供商“提出正确的技术问题”。由于该领域技术迭代极快,企业必须提前确立关键技术锚点并打好地基,才能在技术不断演进的过程中保持架构的稳固与敏捷。

[01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 什么是 AI Agent:核心特征与业务策略约束

要理解 Agentic AI,首先必须回归本质。AI Agent(智能体)的核心在于具备“Agency”(意图性或主动执行特定行动的意愿)。一个合格的智能体通常具备以下几个关键特征:

1. **目标或任务导向(Goal/Objective):** 例如输入一个明确任务——“为一家四口规划为期一周的意大利行程,预算为 5000 美元”。 2. **自主行动能力(Autonomy):** 智能体能够在无人监督的情况下自主拆解并解决问题,例如计算 7 天时间、4 人出行、5000 美元预算下的最优方案。但为了让结果符合预期,人类需要通过提示词(Prompt)提供详尽的细节(如指定游览那不勒斯、罗马与威尼斯,以及各城市的停留天数和特定偏好景点)。 3. **策略框架约束(Policy):** 智能体必须在既定的策略边界内运作。在个人场景中,策略体现为预算上限、旅行地点及停留时间;在企业业务场景中,策略则体现为具体的运营规范。例如在财务领域的自由现金流(Free Cash Flow)管理中,应收账款(AR)与应付账款(AP)的贸易结算条款,就是现金流管理 Agent 必须严格遵循的“Policy”。

```mermaid flowchart LR accTitle: AI Agent 核心运作机制 subgraph Input["输入层"] A["明确目标<br/>(Goal)"] B["上下文提示<br/>(Prompt)"] end subgraph Core["智能体核心"] C["自主决策与学习<br/>(AI Agent)"] D["业务策略边界<br/>(Policy Framework)"] end subgraph Output["行动层"] E["自动化执行结果<br/>(Action / Execution)"] end

A --> C B --> C D -. 约束与规范.-> C C --> E ```

Agent 本身并非全新概念。早期的规则驱动型智能体(Rule-based Agents)已存在多年,最典型的是 RPA(机器人流程自动化)以及更早期的专家系统(Expert Systems),它们依靠前向链式规则(Forward Chaining Rules)按照预设层级逻辑执行任务。如今的根本变革在于引入了具备学习能力、由 AI 驱动的现代智能体。强化学习(Reinforcement Learning)已成为训练大语言模型和智能体行为的核心技术。

[04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 组织构建 Agentic AI 的三层基础设施

企业在搭建面向未来的 Agentic AI 技术底座时,需要系统性地考量三个关键层级:应用与创建层、编排层以及底座语言模型层。

```mermaid flowchart TD accTitle: Agentic AI 组织级三层架构 subgraph AppLayer["1. 应用与创建层 (Agent Creation Layer)"] A1["自动化 / 低代码 / 无代码构建"] A2["评估机制 (LLM / Human as a Judge)"] A3["自主程度与业务规则权衡"] end subgraph OrchLayer["2. 编排与协同层 (Orchestration Layer)"] B1["多智能体协作框架 (CrewAI / LangGraph / 云原生)"] B2["跨框架通信协议 (Google A2A)"] B3["工具与资源抽象 (MCP 协议)"] end subgraph ModelLayer["3. 底座模型层 (Foundation Language Models)"] C1["商业闭源模型 vs 开源专有模型"] C2["模型微调 / 蒸馏 (Fine-tuning / Distillation)"] C3["小语言模型与量化 (SLM / Quantization)"] end

AppLayer --> OrchLayer OrchLayer --> ModelLayer ```

- **智能体创建层(Agent Creation Layer):** 企业需要决策智能体的构建模式——是采用自动化、低代码/无代码平台供全员使用,还是设立专业团队集中承接需求并开发?同时要明确智能体的自主程度(是否构建混合型 Agent,在自主决策的同时受到顶层规则约束)、训练成本控制(平衡成本、准确性与延迟),以及至关重要的**评估框架(Evaluation Framework)**。由于底层依赖的模型存在固有幻觉(Hallucination),必须引入评估机制(如“LLM as a Judge”、“Human as a Judge”或两者结合)。目前的评估工具仍不完善,多数先行企业只能自行补充开发评估能力,预计更成熟的框架要到次年上半年才会逐渐普及。 - **智能体编排层(Agent Orchestration Layer):** 关注智能体之间、以及智能体与外部数据和网站等资源的交互。目前市面上存在大量的开源与专有框架(如微软 Azure、AWS、Google 云平台方案,以及开源的 CrewAI、LangGraph 等)。当企业内部共存多个框架时,如何实现互通成为难题。Google 推出的 A2A(Agent-to-Agent)协议提供了跨框架通信的标准抽象;但如果企业内部任由不同框架泛滥,A2A 连接带来的管理开销和系统成本也会激增。因此必须在“使用便利性”(各团队自由选型)与“架构简洁性”(限制框架数量、降低运维负担)之间取得平衡。 - **底层语言模型(Language Model Bedrock):** 决定是直接调用第三方商业模型,还是基于自建与微调的专有模型,这是决定长期总体拥有成本(TCO)的基石。

[08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) 模型上下文协议(MCP)与外部资源调用

在多智能体系统与外部环境交互时,模型上下文协议(Model Context Protocol, MCP)扮演着极其关键的角色。MCP 是连接智能体编排系统与外部资源(如数据库、第三方网站或企业内部应用)之间的抽象层。以预订意大利机票为例,智能体可以通过 MCP 路由访问 Expedia,自动填写表单,甚至在被完全授权的情况下直接在预算内完成扣款出票。

针对“既然已经有 API,为什么还需要 MCP”的疑问,Tyagi 指出核心判断标准在于**系统需要对接的外部资源数量**: - 如果智能体只需要对接极少数固定的外部系统,直接编写 API 调用更为轻量高效,无需引入 MCP。 - 如果系统需要动态、大规模地访问海量异构数据源、外部网站或企业应用,MCP 提供的标准化抽象层将带来极大的扩展优势。

```mermaid flowchart TD accTitle: MCP Client 与 MCP Server 协作机制 subgraph AgentSystem["智能体系统"] Agent["AI Agent / LLM"] end subgraph MCPStructure["模型上下文协议 (MCP)"] Client["MCP Client<br/>(维护可用资源列表清单)"] Server["MCP Server<br/>(负责具体任务的执行引擎)"] end subgraph ExternalResources["外部数据与服务资源"] R1["旅游/订票网站 (Expedia 等)"] R2["住宿平台 (Airbnb / VRBO)"] R3["本地游与活动数据"] R4["内部业务应用 / ERP / CRM"] end

Agent -->|"发送查询请求"| Client Client -->|"识别所需资源"| Server Server -->|"调用与填写表单"| R1 Server -->|"匹配房源位置与价格"| R2 Server -->|"查询一日游路线"| R3 Server -->|"业务数据读写"| R4 Server -.->|"汇总结果返回"| Agent ```

MCP 内部主要由两个核心组件构成: - **MCP Client:** 相当于可用资源的“黄页清单”,记录了当前环境能够访问的所有数据源与服务平台(如机票网站、Airbnb/VRBO 等民宿平台、本地一日游服务等)。 - **MCP Server:** 实际的“执行引擎”。当接收到具体任务(如“在罗马停留 2 天,寻找合适住处”)时,MCP Server 会解析需求并向具体的服务发送调用请求,筛选出符合位置与预算的最佳选项,最终将结果汇总返回给 Agent。

在落地部署 MCP 时,企业必须重点关注几大关键问题: - **MCP 服务器拓扑结构:** 根据业务职能配置独立的专用服务器(如旅游、财务、营销等各设专属 MCP Server)。 - **Token 消耗风暴(Token Guzzling):** MCP 默认机制极其消耗 Token。无论是在 MCP Client 端维护详尽的资源列表,还是 MCP Server 发起密集的资源请求,都会产生庞大的 Token 开销,这是 Agentic 架构中最昂贵的成本来源之一。因此必须极度严密地优化 Prompt 设计并全程监控请求量。 - **质量与输出评估:** 持续监控外部系统返回结果的准确度与服务质量。

[13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 底层模型策略与成本控制(FinOps / TCO)

演讲最后,Tyagi 深入剖析了语言模型层的经济学考量。在评估为期三年的总体拥有成本(TCO)或采用 FinOps(云财务运营)框架时,模型层往往是整个 Agentic 架构中花销最大的地方,因为每一次交互、规划、工具调用和响应都在持续产生 Token 消耗。

为了防止成本失控,企业不应盲目依赖最昂贵的商业通用大模型,而应采取精细化的模型工程策略: - **模型蒸馏与微调(Distilled / Fine-tuned Models):** 针对具体业务场景训练专有模型。 - **选用小语言模型(SLM):** 多数特定业务任务并不需要超大参数模型,轻量化小模型完全能够胜任。 - **参数高效微调(PEFT / UFT):** 降低微调阶段的算力消耗与工程复杂度。 - **模型量化(Quantization):** 压缩模型体积,提升推理速度并显著降低部署门槛与运行成本。

Tyagi 总结道,尽管内容信息量巨大且节奏飞快,但理解这些架构逻辑与权衡考量,是每一位业务与技术领导者在面对技术团队与外部供应商时,问出关键问题、规避落地陷阱的核心底气。

## Notable quotes > [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 本场分享的侧重点在于提供一定深度的技术认知,帮助业务与管理人员掌握底层逻辑,从而能够向内部技术团队或外部解决方案与服务提供商“提出正确的技术问题”。 — Rahul Tyagi

> [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 由于该领域技术迭代极快,企业必须提前确立关键技术锚点并打好地基,才能在技术不断演进的过程中保持架构的稳固与敏捷。 — Rahul Tyagi

> [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) AI Agent(智能体)的核心在于具备“Agency”(意图性或主动执行特定行动的意愿)。 — Rahul Tyagi

> [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 在财务领域的自由现金流(Free Cash Flow)管理中,应收账款(AR)与应付账款(AP)的贸易结算条款,就是现金流管理 Agent 必须严格遵循的“Policy”。 — Rahul Tyagi

> [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 强化学习(Reinforcement Learning)已成为训练大语言模型和智能体行为的核心技术。 — Rahul Tyagi

> [04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 由于底层依赖的模型存在固有幻觉(Hallucination),必须引入评估机制(如“LLM as a Judge”、“Human as a Judge”或两者结合)。 — Rahul Tyagi

> [04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 必须在“使用便利性”(各团队自由选型)与“架构简洁性”(限制框架数量、降低运维负担)之间取得平衡。 — Rahul Tyagi

> [08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) 如果系统需要动态、大规模地访问海量异构数据源、外部网站或企业应用,MCP 提供的标准化抽象层将带来极大的扩展优势。 — Rahul Tyagi

> [08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) MCP 默认机制极其消耗 Token。无论是在 MCP Client 端维护详尽的资源列表,还是 MCP Server 发起密集的资源请求,都会产生庞大的 Token 开销,这是 Agentic 架构中最昂贵的成本来源之一。 — Rahul Tyagi

> [13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 在评估为期三年的总体拥有成本(TCO)或采用 FinOps(云财务运营)框架时,模型层往往是整个 Agentic 架构中花销最大的地方,因为每一次交互、规划、工具调用和响应都在持续产生 Token 消耗。 — Rahul Tyagi

> [13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 理解这些架构逻辑与权衡考量,是每一位业务与技术领导者在面对技术团队与外部供应商时,问出关键问题、规避落地陷阱的核心底气。 — Rahul Tyagi

## Mentioned Rahul Tyagi, Kenvue, Johnson & Johnson, Listerine, Aveeno, Neutrogena, Johnson's Baby, Tylenol, Motrin, Venkat, CrewAI, LangGraph, Microsoft Azure, AWS, Google, A2A (Agent-to-Agent), MCP (Model Context Protocol), Expedia, Airbnb, VRBO

## Video description Rahul Tyagi, VP & Global Head (Data Science, AI & Intelligent Automation), Kenvue

Abstracts

Is your organization ready to deploy Agentic Ai at scale? While the value potential of Agentic AI is clear, most organizations lack a clear and pragmatic roadmap of how to embed it in various functions. Agentic AI requires a close partnership with business functions to deliver the promised value. Business functions need a very clear value articulation and realization plan to be convinced. In this session, you will learn practical and ready-to-execute tips to accelerate you journey towards value realization through scaling adoption of agentic AI in your organization.

[Source](https://www.youtube.com/watch?v=xnp4zk04zXU)

中文简报

Kenvue AI主管呼吁采用小模型以应对智能体Token成本激增 企业规模化落地智能体AI需从商用旗舰LLM转向微调小模型及MCP等标准化协议,以避免难以承受的Token与基础设施开销。 Rahul Tyagi提出了企业落地智能体AI的路线图,梳理了从传统基于规则的自动化向现代学习驱动型架构的演进历程。他详细阐述了智能体构建、编排与模型选择的基础架构层,并强调了构建平衡的治理与评估框架的关键必要性。Tyagi还解析了基于Google A2A与模型上下文协议(MCP)等多智能体互操作方案,最后给出了利用微调小语言模型(SLM)与量化技术的FinOps策略,以确保Token成本与总体拥有成本维持在可持续水平。 AI Agent的核心在于“自主能动性”(Agency),能够在严格的策略边界与提示词约束下自主决策以达成特定目标,正从传统的RPA与专家系统向由LLM及强化学习驱动的学习型系统演进。 (0:04) 企业级Agent架构包含应用/创建层、编排层与模型基座三层结构,在落地时必须持续平衡操作延迟、执行成本与输出准确性这三者之间的权衡。 (0:35) 针对评估标准尚不成熟的现状,企业目前主要结合人工在环验证与“LLM as a judge”方法,并借助A2A等互操作协议实现Azure、LangGraph与CrewAI等异构框架间的跨系统通信。 (6:00) 模型上下文协议(MCP)通过MCP Client与MCP Server分离工具目录与执行操作,适合大规模工具生态的扩展,而少数端点连接则更适合直接构建定制API。 (7:39) 为控制Token消耗并优化三年的总体拥有成本(TCO),企业应引入FinOps实践,结合量化与PEFT等技术,优先采用经过微调的小型语言模型(SLM)替代通用旗舰LLM。 (13:01)

精炼阅读摘要

Kenvue技术发言人Rahul Tyagi指出,企业若要从智能体AI(Agentic AI)中获取商业价值,必须建立清晰的分层架构与政策边界治理,并在自主性、准确度与运行成本之间寻求平衡。他强调,控制以Token为主的持续成本与规范跨框架工具集成,是决定智能体能否规模化落地的核心前提。 智能体核心定义与三层基础架构 (0:04) Rahul Tyagi将AI智能体的核心特征定义为“能动性”(Agency),即智能体依据明确的目标和政策框架,自主进行决策并执行任务。例如,在规划人均预算5000美元、四人一周的意大利旅行时,智能体虽自主运行,但仍依赖详细提示词限定具体目的地;在企业场景中,政策框架则体现为自由现金流智能体所遵循的应收和应付款项业务规则。从技术演化来看,智能体并非新概念,其前身为机器人流程自动化(RPA)与专家系统等基于前向链规则的架构,而现代智能体则转向由大语言模型和强化学习驱动的学习型系统。 构建企业级智能体基础需要确立三个层级:一是应用与创建层,决定智能体开发是采用面向全员的低代码/无代码工具,还是集中由专业团队构建;二是编排层,负责管理智能体之间的通信、外部数据集成以及Azure、CrewAI、LangGraph与Google等多生态间的互操作;三是模型底层,需在商用专重大语言模型与定制微调模型之间做出架构取舍。 治理边界、协同冲突与评估成熟度 (6:00) 设计高效智能体需要在赋予其自主权与施加操作指引之间建立混合控制模式。鉴于语言模型天然存在幻觉风险,严谨的评估机制不可或缺。Tyagi表示,目前的智能体评估技术仍在成熟过程中,企业现阶段主要采取混合评估策略,即结合人工介入(Human-in-the-loop)验证、“大语言模型作为裁判”(LLM as a judge)框架、内部知识库与新兴外部基准。根据他的预测,行业将在明年上半年迎来重大的标准化、健壮的评估框架突破。 随着架构向多智能体协同演进,系统必须妥善处理子智能体之间的目标冲突,并有效调和多智能体的输出差异。工程团队在部署时必须持续权衡“成本、准确度与延迟”这三者构成的铁三角,避免因单方面追求智能体的无监督自治而导致执行延迟超标或计算资源浪费。 跨框架互操作性与模型上下文协议 (7:39) 在企业多智能体环境中,往往并存着微软Azure及LangGraph、CrewAI等开源平台。为实现跨生态通信,系统可借助Google的智能体间通信协议(A2A)等抽象层完成对接;但Tyagi提醒,无节制的智能体互联会激增管理负担和基础设施成本,管理者需在标准化单一框架的简洁性与多工具选择的灵活性间取得平衡。 对于智能体访问外部资源与数据库的需求,模型上下文协议(MCP)提供了标准化的抽象支持。在架构中,MCP Client负责维护内部数据库、订票门户或财务系统等工具的清单目录;MCP Server则作为执行引擎,承担调用API、提取数据及执行事务操作。针对集成路线,Tyagi提出了明确准则:当系统仅需连接极少数端点时,开发定制的直接API更为高效;只有在需要横向扩展并对接大量外部服务时,采用MCP才能体现出架构优势。 Token成本控制与小模型微调战略 (13:01) 智能体系统在工程层面的长期生命力取决于财务运维(FinOps)的优化。在智能体运行过程中,语言模型的Token消耗是最大的持续成本项,智能体分解任务、检索工具及中间交互均会持续消耗提示词与回复Token。若缺乏监控,MCP协议在列出工具资源和反复调用工具时容易产生巨大的Token开销。 为了优化三年期的总体拥有成本(TCO),Tyagi建议企业避免在所有环节单纯依赖昂贵的通用商用旗舰LLM。企业应转向部署参数量较小、经过蒸馏或领域微调的小语言模型(SLM)。通过运用参数高效微调(PEFT)和模型量化等技术,企业能够以极低的算力成本换取高任务准确率与低执行延迟,从而实现智能体架构的经济可持续性。 Rahul Tyagi的论述表明,企业从智能体AI中提取实际价值的关键,在于确立严格的政策边界治理、规范工具与数据接口抽象,并通过微调小模型有效抑制Token消耗的增长;但多智能体评估标准与互操作生态目前仍处于演化初期,需要工程团队在实践中持续权衡成本与灵活性。

Detailed notes — zh

## Background 该视频由 Ai4 于 2025 年 8 月 24 日发布在 YouTube 平台上,记录了 Kenvue 全球数据科学、AI 与智能自动化副总裁 Rahul Tyagi 的演讲。视频简介指出,演讲聚焦于企业如何制定务实的 Agentic AI 落地路线图,通过业务与技术协同加速规模化部署与价值变现。 ## TL;DR Rahul Tyagi 系统阐述了企业规模化落地 Agentic AI 的三层架构:涵盖评估机制与自主权衡的智能体创建层、支持多框架协同与 MCP 协议的编排层,以及决定长期总体拥有成本(TCO)的模型底座层。他重点剖析了模型上下文协议(MCP)在异构资源调用中的架构机制与严重的 Token 消耗风险,并对比了专用 API 与 MCP 的适用边界。最后,他提出了借助小语言模型(SLM)、模型蒸馏与量化等精细化模型工程来控制推理成本的方法,旨在帮助业务与技术管理者建立底层技术认知并提出关键架构问题。 ## Atmosphere & style 整场分享节奏极快且信息密度极高,展现出典型的大型跨国企业资深技术主管沉稳、务实且直击要害的演讲风格。讲者以家喻户晓的消费品牌与通俗的旅行规划案例作为引子,随后迅速切入到协议规范、通信开销与算力经济学等硬核架构剖析中。整体氛围冷静而专业,既客观肯定了前沿技术的潜力,又清醒指出了工具评估缺失、Token 消耗黑洞及架构蔓延等现实陷阱,极具实战指导意义。 ## Key takeaways - [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 理解 Agentic AI 底层逻辑的核心目的,是帮助业务与技术领导者在面对技术团队或外部方案商时能够提出正确的技术问题,确立稳固的关键技术锚点。 - [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 现代 AI Agent 具备三大核心支柱:明确的任务目标(Goal)、自主拆解执行能力(Autonomy)以及必须严格遵守的业务策略框架(Policy)。 - [03:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=180s) 现代智能体与传统规则型 Agent(如 RPA 和专家系统)的本质区别,在于引入了具备强化学习能力的现代语言模型,具备自主学习与适应能力。 - [04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 企业构建 Agentic AI 基础设施需要系统性布局三层架构:智能体创建层(Agent Creation)、编排协同层(Orchestration)以及底层语言模型层(Foundation Models)。 - [06:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=360s) 由于底层模型存在固有幻觉,构建智能体评估框架(结合 LLM as a Judge 与人工评估)是确保业务落地的关键前提,目前多数企业仍需自研补齐这一能力。 - [07:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=420s) 在编排层面对 CrewAI、LangGraph 等多元框架共存时,可借助 Google A2A 等协议互通,但企业需在组件选型自由度与多框架治理成本之间取得平衡。 - [08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) 模型上下文协议(MCP)作为连接智能体与海量外部资源的标准化抽象层,适用于大规模异构系统对接;若仅连接少数固定系统,直接使用原生 API 调用更轻量高效。 - [10:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=630s) MCP 架构由维护可用资源黄页清单的 MCP Client 与负责具体任务执行调用的 MCP Server 构成,企业需根据业务职能划分独立的 MCP 拓扑结构。 - [12:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=720s) MCP 默认机制极易引发“Token 消耗风暴(Token Guzzling)”,高频交互与资源列表维护会导致成本急剧上升,必须进行严格的 Prompt 优化与监控。 - [13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 在 Agentic AI 的三年 TCO 与 FinOps 评估中,底层模型层往往是最大的开支来源,盲目依赖通用顶配大模型容易导致成本失控。 - [13:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=810s) 降低智能体运行成本的最佳实践包括:结合业务场景采用模型微调与蒸馏、选用小语言模型(SLM)、应用参数高效微调(PEFT)以及模型量化压缩技术。 ## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 引言与 Kenvue 品牌背景 Rahul Tyagi 在开场时先向观众做了一个快速互动小测验,询问现场有多少人知道 Kenvue(科赴)这家公司。看到举手的人寥寥无几后,他接着列举了几个家喻户晓的消费品牌:Listerine(李施德林)、Aveeno(艾惟诺)、Neutrogena(露得清)、Johnson's Baby(强生婴儿)、Tylenol(泰诺)以及 Motrin(美林)。他解释道,Kenvue 原本是强生公司(Johnson & Johnson)旗下的消费健康业务板块,在两年前被独立分拆出来;虽然公司新名字大家可能还不熟悉,但几乎所有人都曾使用过旗下的某款产品。 随后他切入演讲的核心议题:如何从 Agentic AI(代理式人工智能)中真正获取业务价值。他提到前一位演讲者 Venkat 的内容非常出色,深入探讨了 Agentic AI 成功的关键要素。而本场分享的侧重点在于提供一定深度的技术认知,帮助业务与管理人员掌握底层逻辑,从而能够向内部技术团队或外部解决方案与服务提供商“提出正确的技术问题”。由于该领域技术迭代极快,企业必须提前确立关键技术锚点并打好地基,才能在技术不断演进的过程中保持架构的稳固与敏捷。 ### [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 什么是 AI Agent:核心特征与业务策略约束 要理解 Agentic AI,首先必须回归本质。AI Agent(智能体)的核心在于具备“Agency”(意图性或主动执行特定行动的意愿)。一个合格的智能体通常具备以下几个关键特征: 1. **目标或任务导向(Goal/Objective):** 例如输入一个明确任务——“为一家四口规划为期一周的意大利行程,预算为 5000 美元”。 2. **自主行动能力(Autonomy):** 智能体能够在无人监督的情况下自主拆解并解决问题,例如计算 7 天时间、4 人出行、5000 美元预算下的最优方案。但为了让结果符合预期,人类需要通过提示词(Prompt)提供详尽的细节(如指定游览那不勒斯、罗马与威尼斯,以及各城市的停留天数和特定偏好景点)。 3. **策略框架约束(Policy):** 智能体必须在既定的策略边界内运作。在个人场景中,策略体现为预算上限、旅行地点及停留时间;在企业业务场景中,策略则体现为具体的运营规范。例如在财务领域的自由现金流(Free Cash Flow)管理中,应收账款(AR)与应付账款(AP)的贸易结算条款,就是现金流管理 Agent 必须严格遵循的“Policy”。 ```mermaid flowchart LR accTitle: AI Agent 核心运作机制 subgraph Input["输入层"] A["明确目标<br/>(Goal)"] B["上下文提示<br/>(Prompt)"] end subgraph Core["智能体核心"] C["自主决策与学习<br/>(AI Agent)"] D["业务策略边界<br/>(Policy Framework)"] end subgraph Output["行动层"] E["自动化执行结果<br/>(Action / Execution)"] end A --> C B --> C D -. 约束与规范.-> C C --> E ``` Agent 本身并非全新概念。早期的规则驱动型智能体(Rule-based Agents)已存在多年,最典型的是 RPA(机器人流程自动化)以及更早期的专家系统(Expert Systems),它们依靠前向链式规则(Forward Chaining Rules)按照预设层级逻辑执行任务。如今的根本变革在于引入了具备学习能力、由 AI 驱动的现代智能体。强化学习(Reinforcement Learning)已成为训练大语言模型和智能体行为的核心技术。 ### [04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 组织构建 Agentic AI 的三层基础设施 企业在搭建面向未来的 Agentic AI 技术底座时,需要系统性地考量三个关键层级:应用与创建层、编排层以及底座语言模型层。 ```mermaid flowchart TD accTitle: Agentic AI 组织级三层架构 subgraph AppLayer["1. 应用与创建层 (Agent Creation Layer)"] A1["自动化 / 低代码 / 无代码构建"] A2["评估机制 (LLM / Human as a Judge)"] A3["自主程度与业务规则权衡"] end subgraph OrchLayer["2. 编排与协同层 (Orchestration Layer)"] B1["多智能体协作框架 (CrewAI / LangGraph / 云原生)"] B2["跨框架通信协议 (Google A2A)"] B3["工具与资源抽象 (MCP 协议)"] end subgraph ModelLayer["3. 底座模型层 (Foundation Language Models)"] C1["商业闭源模型 vs 开源专有模型"] C2["模型微调 / 蒸馏 (Fine-tuning / Distillation)"] C3["小语言模型与量化 (SLM / Quantization)"] end AppLayer --> OrchLayer OrchLayer --> ModelLayer ``` - **智能体创建层(Agent Creation Layer):** 企业需要决策智能体的构建模式——是采用自动化、低代码/无代码平台供全员使用,还是设立专业团队集中承接需求并开发?同时要明确智能体的自主程度(是否构建混合型 Agent,在自主决策的同时受到顶层规则约束)、训练成本控制(平衡成本、准确性与延迟),以及至关重要的**评估框架(Evaluation Framework)**。由于底层依赖的模型存在固有幻觉(Hallucination),必须引入评估机制(如“LLM as a Judge”、“Human as a Judge”或两者结合)。目前的评估工具仍不完善,多数先行企业只能自行补充开发评估能力,预计更成熟的框架要到次年上半年才会逐渐普及。 - **智能体编排层(Agent Orchestration Layer):** 关注智能体之间、以及智能体与外部数据和网站等资源的交互。目前市面上存在大量的开源与专有框架(如微软 Azure、AWS、Google 云平台方案,以及开源的 CrewAI、LangGraph 等)。当企业内部共存多个框架时,如何实现互通成为难题。Google 推出的 A2A(Agent-to-Agent)协议提供了跨框架通信的标准抽象;但如果企业内部任由不同框架泛滥,A2A 连接带来的管理开销和系统成本也会激增。因此必须在“使用便利性”(各团队自由选型)与“架构简洁性”(限制框架数量、降低运维负担)之间取得平衡。 - **底层语言模型(Language Model Bedrock):** 决定是直接调用第三方商业模型,还是基于自建与微调的专有模型,这是决定长期总体拥有成本(TCO)的基石。 ### [08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) 模型上下文协议(MCP)与外部资源调用 在多智能体系统与外部环境交互时,模型上下文协议(Model Context Protocol, MCP)扮演着极其关键的角色。MCP 是连接智能体编排系统与外部资源(如数据库、第三方网站或企业内部应用)之间的抽象层。以预订意大利机票为例,智能体可以通过 MCP 路由访问 Expedia,自动填写表单,甚至在被完全授权的情况下直接在预算内完成扣款出票。 针对“既然已经有 API,为什么还需要 MCP”的疑问,Tyagi 指出核心判断标准在于**系统需要对接的外部资源数量**: - 如果智能体只需要对接极少数固定的外部系统,直接编写 API 调用更为轻量高效,无需引入 MCP。 - 如果系统需要动态、大规模地访问海量异构数据源、外部网站或企业应用,MCP 提供的标准化抽象层将带来极大的扩展优势。 ```mermaid flowchart TD accTitle: MCP Client 与 MCP Server 协作机制 subgraph AgentSystem["智能体系统"] Agent["AI Agent / LLM"] end subgraph MCPStructure["模型上下文协议 (MCP)"] Client["MCP Client<br/>(维护可用资源列表清单)"] Server["MCP Server<br/>(负责具体任务的执行引擎)"] end subgraph ExternalResources["外部数据与服务资源"] R1["旅游/订票网站 (Expedia 等)"] R2["住宿平台 (Airbnb / VRBO)"] R3["本地游与活动数据"] R4["内部业务应用 / ERP / CRM"] end Agent -->|"发送查询请求"| Client Client -->|"识别所需资源"| Server Server -->|"调用与填写表单"| R1 Server -->|"匹配房源位置与价格"| R2 Server -->|"查询一日游路线"| R3 Server -->|"业务数据读写"| R4 Server -.->|"汇总结果返回"| Agent ``` MCP 内部主要由两个核心组件构成: - **MCP Client:** 相当于可用资源的“黄页清单”,记录了当前环境能够访问的所有数据源与服务平台(如机票网站、Airbnb/VRBO 等民宿平台、本地一日游服务等)。 - **MCP Server:** 实际的“执行引擎”。当接收到具体任务(如“在罗马停留 2 天,寻找合适住处”)时,MCP Server 会解析需求并向具体的服务发送调用请求,筛选出符合位置与预算的最佳选项,最终将结果汇总返回给 Agent。 在落地部署 MCP 时,企业必须重点关注几大关键问题: - **MCP 服务器拓扑结构:** 根据业务职能配置独立的专用服务器(如旅游、财务、营销等各设专属 MCP Server)。 - **Token 消耗风暴(Token Guzzling):** MCP 默认机制极其消耗 Token。无论是在 MCP Client 端维护详尽的资源列表,还是 MCP Server 发起密集的资源请求,都会产生庞大的 Token 开销,这是 Agentic 架构中最昂贵的成本来源之一。因此必须极度严密地优化 Prompt 设计并全程监控请求量。 - **质量与输出评估:** 持续监控外部系统返回结果的准确度与服务质量。 ### [13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 底层模型策略与成本控制(FinOps / TCO) 演讲最后,Tyagi 深入剖析了语言模型层的经济学考量。在评估为期三年的总体拥有成本(TCO)或采用 FinOps(云财务运营)框架时,模型层往往是整个 Agentic 架构中花销最大的地方,因为每一次交互、规划、工具调用和响应都在持续产生 Token 消耗。 为了防止成本失控,企业不应盲目依赖最昂贵的商业通用大模型,而应采取精细化的模型工程策略: - **模型蒸馏与微调(Distilled / Fine-tuned Models):** 针对具体业务场景训练专有模型。 - **选用小语言模型(SLM):** 多数特定业务任务并不需要超大参数模型,轻量化小模型完全能够胜任。 - **参数高效微调(PEFT / UFT):** 降低微调阶段的算力消耗与工程复杂度。 - **模型量化(Quantization):** 压缩模型体积,提升推理速度并显著降低部署门槛与运行成本。 Tyagi 总结道,尽管内容信息量巨大且节奏飞快,但理解这些架构逻辑与权衡考量,是每一位业务与技术领导者在面对技术团队与外部供应商时,问出关键问题、规避落地陷阱的核心底气。 ## Notable quotes > [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 本场分享的侧重点在于提供一定深度的技术认知,帮助业务与管理人员掌握底层逻辑,从而能够向内部技术团队或外部解决方案与服务提供商“提出正确的技术问题”。 — Rahul Tyagi > [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 由于该领域技术迭代极快,企业必须提前确立关键技术锚点并打好地基,才能在技术不断演进的过程中保持架构的稳固与敏捷。 — Rahul Tyagi > [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) AI Agent(智能体)的核心在于具备“Agency”(意图性或主动执行特定行动的意愿)。 — Rahul Tyagi > [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 在财务领域的自由现金流(Free Cash Flow)管理中,应收账款(AR)与应付账款(AP)的贸易结算条款,就是现金流管理 Agent 必须严格遵循的“Policy”。 — Rahul Tyagi > [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 强化学习(Reinforcement Learning)已成为训练大语言模型和智能体行为的核心技术。 — Rahul Tyagi > [04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 由于底层依赖的模型存在固有幻觉(Hallucination),必须引入评估机制(如“LLM as a Judge”、“Human as a Judge”或两者结合)。 — Rahul Tyagi > [04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 必须在“使用便利性”(各团队自由选型)与“架构简洁性”(限制框架数量、降低运维负担)之间取得平衡。 — Rahul Tyagi > [08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) 如果系统需要动态、大规模地访问海量异构数据源、外部网站或企业应用,MCP 提供的标准化抽象层将带来极大的扩展优势。 — Rahul Tyagi > [08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) MCP 默认机制极其消耗 Token。无论是在 MCP Client 端维护详尽的资源列表,还是 MCP Server 发起密集的资源请求,都会产生庞大的 Token 开销,这是 Agentic 架构中最昂贵的成本来源之一。 — Rahul Tyagi > [13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 在评估为期三年的总体拥有成本(TCO)或采用 FinOps(云财务运营)框架时,模型层往往是整个 Agentic 架构中花销最大的地方,因为每一次交互、规划、工具调用和响应都在持续产生 Token 消耗。 — Rahul Tyagi > [13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 理解这些架构逻辑与权衡考量,是每一位业务与技术领导者在面对技术团队与外部供应商时,问出关键问题、规避落地陷阱的核心底气。 — Rahul Tyagi ## Mentioned Rahul Tyagi, Kenvue, Johnson & Johnson, Listerine, Aveeno, Neutrogena, Johnson's Baby, Tylenol, Motrin, Venkat, CrewAI, LangGraph, Microsoft Azure, AWS, Google, A2A (Agent-to-Agent), MCP (Model Context Protocol), Expedia, Airbnb, VRBO ## Video description Rahul Tyagi, VP & Global Head (Data Science, AI & Intelligent Automation), Kenvue Abstracts Is your organization ready to deploy Agentic Ai at scale? While the value potential of Agentic AI is clear, most organizations lack a clear and pragmatic roadmap of how to embed it in various functions. Agentic AI requires a close partnership with business functions to deliver the promised value. Business functions need a very clear value articulation and realization plan to be convinced. In this session, you will learn practical and ready-to-execute tips to accelerate you journey towards value realization through scaling adoption of agentic AI in your organization. [Source](https://www.youtube.com/watch?v=xnp4zk04zXU)

Source quotes

[0:04] Rahul Tyagi: 本场分享的侧重点在于提供一定深度的技术认知,帮助业务与管理人员掌握底层逻辑,从而能够向内部技术团队或外部解决方案与服务提供商“提出正确的技术问题”。 [0:04] Rahul Tyagi: 由于该领域技术迭代极快,企业必须提前确立关键技术锚点并打好地基,才能在技术不断演进的过程中保持架构的稳固与敏捷。 [1:30] Rahul Tyagi: AI Agent(智能体)的核心在于具备“Agency”(意图性或主动执行特定行动的意愿)。 [1:30] Rahul Tyagi: 在财务领域的自由现金流(Free Cash Flow)管理中,应收账款(AR)与应付账款(AP)的贸易结算条款,就是现金流管理 Agent 必须严格遵循的“Policy”。 [1:30] Rahul Tyagi: 强化学习(Reinforcement Learning)已成为训练大语言模型和智能体行为的核心技术。 [4:36] Rahul Tyagi: 由于底层依赖的模型存在固有幻觉(Hallucination),必须引入评估机制(如“LLM as a Judge”、“Human as a Judge”或两者结合)。 [4:36] Rahul Tyagi: 必须在“使用便利性”(各团队自由选型)与“架构简洁性”(限制框架数量、降低运维负担)之间取得平衡。 [8:46] Rahul Tyagi: 如果系统需要动态、大规模地访问海量异构数据源、外部网站或企业应用,MCP 提供的标准化抽象层将带来极大的扩展优势。 [8:46] Rahul Tyagi: MCP 默认机制极其消耗 Token。无论是在 MCP Client 端维护详尽的资源列表,还是 MCP Server 发起密集的资源请求,都会产生庞大的 Token 开销,这是 Agentic 架构中最昂贵的成本来源之一。 [13:01] Rahul Tyagi: 在评估为期三年的总体拥有成本(TCO)或采用 FinOps(云财务运营)框架时,模型层往往是整个 Agentic 架构中花销最大的地方,因为每一次交互、规划、工具调用和响应都在持续产生 Token 消耗。 [13:01] Rahul Tyagi: 理解这些架构逻辑与权衡考量,是每一位业务与技术领导者在面对技术团队与外部供应商时,问出关键问题、规避落地陷阱的核心底气。