Ai4
Agentic AI 架构中的 MCP 调用与底座大模型极易引发高额 Token 消耗导致总体拥有成本失控,企业必须采用小语言模型、蒸馏量化与明确的策略边界来保障落地效益。
AI-assisted summary of Extracting Value from Agentic AI - A Pragmatic Approach — original source. Check the original for full context.
Source published:
Detailed notes
## Background 该视频由 Ai4 于 2025 年 8 月 24 日发布在 YouTube 平台上,记录了 Kenvue 全球数据科学、AI 与智能自动化副总裁 Rahul Tyagi 的演讲。视频简介指出,演讲聚焦于企业如何制定务实的 Agentic AI 落地路线图,通过业务与技术协同加速规模化部署与价值变现。
## TL;DR Rahul Tyagi 系统阐述了企业规模化落地 Agentic AI 的三层架构:涵盖评估机制与自主权衡的智能体创建层、支持多框架协同与 MCP 协议的编排层,以及决定长期总体拥有成本(TCO)的模型底座层。他重点剖析了模型上下文协议(MCP)在异构资源调用中的架构机制与严重的 Token 消耗风险,并对比了专用 API 与 MCP 的适用边界。最后,他提出了借助小语言模型(SLM)、模型蒸馏与量化等精细化模型工程来控制推理成本的方法,旨在帮助业务与技术管理者建立底层技术认知并提出关键架构问题。
## Atmosphere & style 整场分享节奏极快且信息密度极高,展现出典型的大型跨国企业资深技术主管沉稳、务实且直击要害的演讲风格。讲者以家喻户晓的消费品牌与通俗的旅行规划案例作为引子,随后迅速切入到协议规范、通信开销与算力经济学等硬核架构剖析中。整体氛围冷静而专业,既客观肯定了前沿技术的潜力,又清醒指出了工具评估缺失、Token 消耗黑洞及架构蔓延等现实陷阱,极具实战指导意义。
## Key takeaways - [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 理解 Agentic AI 底层逻辑的核心目的,是帮助业务与技术领导者在面对技术团队或外部方案商时能够提出正确的技术问题,确立稳固的关键技术锚点。 - [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 现代 AI Agent 具备三大核心支柱:明确的任务目标(Goal)、自主拆解执行能力(Autonomy)以及必须严格遵守的业务策略框架(Policy)。 - [03:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=180s) 现代智能体与传统规则型 Agent(如 RPA 和专家系统)的本质区别,在于引入了具备强化学习能力的现代语言模型,具备自主学习与适应能力。 - [04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 企业构建 Agentic AI 基础设施需要系统性布局三层架构:智能体创建层(Agent Creation)、编排协同层(Orchestration)以及底层语言模型层(Foundation Models)。 - [06:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=360s) 由于底层模型存在固有幻觉,构建智能体评估框架(结合 LLM as a Judge 与人工评估)是确保业务落地的关键前提,目前多数企业仍需自研补齐这一能力。 - [07:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=420s) 在编排层面对 CrewAI、LangGraph 等多元框架共存时,可借助 Google A2A 等协议互通,但企业需在组件选型自由度与多框架治理成本之间取得平衡。 - [08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) 模型上下文协议(MCP)作为连接智能体与海量外部资源的标准化抽象层,适用于大规模异构系统对接;若仅连接少数固定系统,直接使用原生 API 调用更轻量高效。 - [10:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=630s) MCP 架构由维护可用资源黄页清单的 MCP Client 与负责具体任务执行调用的 MCP Server 构成,企业需根据业务职能划分独立的 MCP 拓扑结构。 - [12:00](https://www.youtube.com/watch?v=xnp4zk04zXU&t=720s) MCP 默认机制极易引发“Token 消耗风暴(Token Guzzling)”,高频交互与资源列表维护会导致成本急剧上升,必须进行严格的 Prompt 优化与监控。 - [13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 在 Agentic AI 的三年 TCO 与 FinOps 评估中,底层模型层往往是最大的开支来源,盲目依赖通用顶配大模型容易导致成本失控。 - [13:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=810s) 降低智能体运行成本的最佳实践包括:结合业务场景采用模型微调与蒸馏、选用小语言模型(SLM)、应用参数高效微调(PEFT)以及模型量化压缩技术。
## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 引言与 Kenvue 品牌背景
Rahul Tyagi 在开场时先向观众做了一个快速互动小测验,询问现场有多少人知道 Kenvue(科赴)这家公司。看到举手的人寥寥无几后,他接着列举了几个家喻户晓的消费品牌:Listerine(李施德林)、Aveeno(艾惟诺)、Neutrogena(露得清)、Johnson's Baby(强生婴儿)、Tylenol(泰诺)以及 Motrin(美林)。他解释道,Kenvue 原本是强生公司(Johnson & Johnson)旗下的消费健康业务板块,在两年前被独立分拆出来;虽然公司新名字大家可能还不熟悉,但几乎所有人都曾使用过旗下的某款产品。
随后他切入演讲的核心议题:如何从 Agentic AI(代理式人工智能)中真正获取业务价值。他提到前一位演讲者 Venkat 的内容非常出色,深入探讨了 Agentic AI 成功的关键要素。而本场分享的侧重点在于提供一定深度的技术认知,帮助业务与管理人员掌握底层逻辑,从而能够向内部技术团队或外部解决方案与服务提供商“提出正确的技术问题”。由于该领域技术迭代极快,企业必须提前确立关键技术锚点并打好地基,才能在技术不断演进的过程中保持架构的稳固与敏捷。
[01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 什么是 AI Agent:核心特征与业务策略约束
要理解 Agentic AI,首先必须回归本质。AI Agent(智能体)的核心在于具备“Agency”(意图性或主动执行特定行动的意愿)。一个合格的智能体通常具备以下几个关键特征:
1. **目标或任务导向(Goal/Objective):** 例如输入一个明确任务——“为一家四口规划为期一周的意大利行程,预算为 5000 美元”。 2. **自主行动能力(Autonomy):** 智能体能够在无人监督的情况下自主拆解并解决问题,例如计算 7 天时间、4 人出行、5000 美元预算下的最优方案。但为了让结果符合预期,人类需要通过提示词(Prompt)提供详尽的细节(如指定游览那不勒斯、罗马与威尼斯,以及各城市的停留天数和特定偏好景点)。 3. **策略框架约束(Policy):** 智能体必须在既定的策略边界内运作。在个人场景中,策略体现为预算上限、旅行地点及停留时间;在企业业务场景中,策略则体现为具体的运营规范。例如在财务领域的自由现金流(Free Cash Flow)管理中,应收账款(AR)与应付账款(AP)的贸易结算条款,就是现金流管理 Agent 必须严格遵循的“Policy”。
```mermaid flowchart LR accTitle: AI Agent 核心运作机制 subgraph Input["输入层"] A["明确目标<br/>(Goal)"] B["上下文提示<br/>(Prompt)"] end subgraph Core["智能体核心"] C["自主决策与学习<br/>(AI Agent)"] D["业务策略边界<br/>(Policy Framework)"] end subgraph Output["行动层"] E["自动化执行结果<br/>(Action / Execution)"] end
A --> C B --> C D -. 约束与规范.-> C C --> E ```
Agent 本身并非全新概念。早期的规则驱动型智能体(Rule-based Agents)已存在多年,最典型的是 RPA(机器人流程自动化)以及更早期的专家系统(Expert Systems),它们依靠前向链式规则(Forward Chaining Rules)按照预设层级逻辑执行任务。如今的根本变革在于引入了具备学习能力、由 AI 驱动的现代智能体。强化学习(Reinforcement Learning)已成为训练大语言模型和智能体行为的核心技术。
[04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 组织构建 Agentic AI 的三层基础设施
企业在搭建面向未来的 Agentic AI 技术底座时,需要系统性地考量三个关键层级:应用与创建层、编排层以及底座语言模型层。
```mermaid flowchart TD accTitle: Agentic AI 组织级三层架构 subgraph AppLayer["1. 应用与创建层 (Agent Creation Layer)"] A1["自动化 / 低代码 / 无代码构建"] A2["评估机制 (LLM / Human as a Judge)"] A3["自主程度与业务规则权衡"] end subgraph OrchLayer["2. 编排与协同层 (Orchestration Layer)"] B1["多智能体协作框架 (CrewAI / LangGraph / 云原生)"] B2["跨框架通信协议 (Google A2A)"] B3["工具与资源抽象 (MCP 协议)"] end subgraph ModelLayer["3. 底座模型层 (Foundation Language Models)"] C1["商业闭源模型 vs 开源专有模型"] C2["模型微调 / 蒸馏 (Fine-tuning / Distillation)"] C3["小语言模型与量化 (SLM / Quantization)"] end
AppLayer --> OrchLayer OrchLayer --> ModelLayer ```
- **智能体创建层(Agent Creation Layer):** 企业需要决策智能体的构建模式——是采用自动化、低代码/无代码平台供全员使用,还是设立专业团队集中承接需求并开发?同时要明确智能体的自主程度(是否构建混合型 Agent,在自主决策的同时受到顶层规则约束)、训练成本控制(平衡成本、准确性与延迟),以及至关重要的**评估框架(Evaluation Framework)**。由于底层依赖的模型存在固有幻觉(Hallucination),必须引入评估机制(如“LLM as a Judge”、“Human as a Judge”或两者结合)。目前的评估工具仍不完善,多数先行企业只能自行补充开发评估能力,预计更成熟的框架要到次年上半年才会逐渐普及。 - **智能体编排层(Agent Orchestration Layer):** 关注智能体之间、以及智能体与外部数据和网站等资源的交互。目前市面上存在大量的开源与专有框架(如微软 Azure、AWS、Google 云平台方案,以及开源的 CrewAI、LangGraph 等)。当企业内部共存多个框架时,如何实现互通成为难题。Google 推出的 A2A(Agent-to-Agent)协议提供了跨框架通信的标准抽象;但如果企业内部任由不同框架泛滥,A2A 连接带来的管理开销和系统成本也会激增。因此必须在“使用便利性”(各团队自由选型)与“架构简洁性”(限制框架数量、降低运维负担)之间取得平衡。 - **底层语言模型(Language Model Bedrock):** 决定是直接调用第三方商业模型,还是基于自建与微调的专有模型,这是决定长期总体拥有成本(TCO)的基石。
[08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) 模型上下文协议(MCP)与外部资源调用
在多智能体系统与外部环境交互时,模型上下文协议(Model Context Protocol, MCP)扮演着极其关键的角色。MCP 是连接智能体编排系统与外部资源(如数据库、第三方网站或企业内部应用)之间的抽象层。以预订意大利机票为例,智能体可以通过 MCP 路由访问 Expedia,自动填写表单,甚至在被完全授权的情况下直接在预算内完成扣款出票。
针对“既然已经有 API,为什么还需要 MCP”的疑问,Tyagi 指出核心判断标准在于**系统需要对接的外部资源数量**: - 如果智能体只需要对接极少数固定的外部系统,直接编写 API 调用更为轻量高效,无需引入 MCP。 - 如果系统需要动态、大规模地访问海量异构数据源、外部网站或企业应用,MCP 提供的标准化抽象层将带来极大的扩展优势。
```mermaid flowchart TD accTitle: MCP Client 与 MCP Server 协作机制 subgraph AgentSystem["智能体系统"] Agent["AI Agent / LLM"] end subgraph MCPStructure["模型上下文协议 (MCP)"] Client["MCP Client<br/>(维护可用资源列表清单)"] Server["MCP Server<br/>(负责具体任务的执行引擎)"] end subgraph ExternalResources["外部数据与服务资源"] R1["旅游/订票网站 (Expedia 等)"] R2["住宿平台 (Airbnb / VRBO)"] R3["本地游与活动数据"] R4["内部业务应用 / ERP / CRM"] end
Agent -->|"发送查询请求"| Client Client -->|"识别所需资源"| Server Server -->|"调用与填写表单"| R1 Server -->|"匹配房源位置与价格"| R2 Server -->|"查询一日游路线"| R3 Server -->|"业务数据读写"| R4 Server -.->|"汇总结果返回"| Agent ```
MCP 内部主要由两个核心组件构成: - **MCP Client:** 相当于可用资源的“黄页清单”,记录了当前环境能够访问的所有数据源与服务平台(如机票网站、Airbnb/VRBO 等民宿平台、本地一日游服务等)。 - **MCP Server:** 实际的“执行引擎”。当接收到具体任务(如“在罗马停留 2 天,寻找合适住处”)时,MCP Server 会解析需求并向具体的服务发送调用请求,筛选出符合位置与预算的最佳选项,最终将结果汇总返回给 Agent。
在落地部署 MCP 时,企业必须重点关注几大关键问题: - **MCP 服务器拓扑结构:** 根据业务职能配置独立的专用服务器(如旅游、财务、营销等各设专属 MCP Server)。 - **Token 消耗风暴(Token Guzzling):** MCP 默认机制极其消耗 Token。无论是在 MCP Client 端维护详尽的资源列表,还是 MCP Server 发起密集的资源请求,都会产生庞大的 Token 开销,这是 Agentic 架构中最昂贵的成本来源之一。因此必须极度严密地优化 Prompt 设计并全程监控请求量。 - **质量与输出评估:** 持续监控外部系统返回结果的准确度与服务质量。
[13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 底层模型策略与成本控制(FinOps / TCO)
演讲最后,Tyagi 深入剖析了语言模型层的经济学考量。在评估为期三年的总体拥有成本(TCO)或采用 FinOps(云财务运营)框架时,模型层往往是整个 Agentic 架构中花销最大的地方,因为每一次交互、规划、工具调用和响应都在持续产生 Token 消耗。
为了防止成本失控,企业不应盲目依赖最昂贵的商业通用大模型,而应采取精细化的模型工程策略: - **模型蒸馏与微调(Distilled / Fine-tuned Models):** 针对具体业务场景训练专有模型。 - **选用小语言模型(SLM):** 多数特定业务任务并不需要超大参数模型,轻量化小模型完全能够胜任。 - **参数高效微调(PEFT / UFT):** 降低微调阶段的算力消耗与工程复杂度。 - **模型量化(Quantization):** 压缩模型体积,提升推理速度并显著降低部署门槛与运行成本。
Tyagi 总结道,尽管内容信息量巨大且节奏飞快,但理解这些架构逻辑与权衡考量,是每一位业务与技术领导者在面对技术团队与外部供应商时,问出关键问题、规避落地陷阱的核心底气。
## Notable quotes > [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 本场分享的侧重点在于提供一定深度的技术认知,帮助业务与管理人员掌握底层逻辑,从而能够向内部技术团队或外部解决方案与服务提供商“提出正确的技术问题”。 — Rahul Tyagi
> [00:04](https://www.youtube.com/watch?v=xnp4zk04zXU&t=4s) 由于该领域技术迭代极快,企业必须提前确立关键技术锚点并打好地基,才能在技术不断演进的过程中保持架构的稳固与敏捷。 — Rahul Tyagi
> [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) AI Agent(智能体)的核心在于具备“Agency”(意图性或主动执行特定行动的意愿)。 — Rahul Tyagi
> [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 在财务领域的自由现金流(Free Cash Flow)管理中,应收账款(AR)与应付账款(AP)的贸易结算条款,就是现金流管理 Agent 必须严格遵循的“Policy”。 — Rahul Tyagi
> [01:30](https://www.youtube.com/watch?v=xnp4zk04zXU&t=90s) 强化学习(Reinforcement Learning)已成为训练大语言模型和智能体行为的核心技术。 — Rahul Tyagi
> [04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 由于底层依赖的模型存在固有幻觉(Hallucination),必须引入评估机制(如“LLM as a Judge”、“Human as a Judge”或两者结合)。 — Rahul Tyagi
> [04:36](https://www.youtube.com/watch?v=xnp4zk04zXU&t=276s) 必须在“使用便利性”(各团队自由选型)与“架构简洁性”(限制框架数量、降低运维负担)之间取得平衡。 — Rahul Tyagi
> [08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) 如果系统需要动态、大规模地访问海量异构数据源、外部网站或企业应用,MCP 提供的标准化抽象层将带来极大的扩展优势。 — Rahul Tyagi
> [08:46](https://www.youtube.com/watch?v=xnp4zk04zXU&t=526s) MCP 默认机制极其消耗 Token。无论是在 MCP Client 端维护详尽的资源列表,还是 MCP Server 发起密集的资源请求,都会产生庞大的 Token 开销,这是 Agentic 架构中最昂贵的成本来源之一。 — Rahul Tyagi
> [13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 在评估为期三年的总体拥有成本(TCO)或采用 FinOps(云财务运营)框架时,模型层往往是整个 Agentic 架构中花销最大的地方,因为每一次交互、规划、工具调用和响应都在持续产生 Token 消耗。 — Rahul Tyagi
> [13:01](https://www.youtube.com/watch?v=xnp4zk04zXU&t=781s) 理解这些架构逻辑与权衡考量,是每一位业务与技术领导者在面对技术团队与外部供应商时,问出关键问题、规避落地陷阱的核心底气。 — Rahul Tyagi
## Mentioned Rahul Tyagi, Kenvue, Johnson & Johnson, Listerine, Aveeno, Neutrogena, Johnson's Baby, Tylenol, Motrin, Venkat, CrewAI, LangGraph, Microsoft Azure, AWS, Google, A2A (Agent-to-Agent), MCP (Model Context Protocol), Expedia, Airbnb, VRBO
## Video description Rahul Tyagi, VP & Global Head (Data Science, AI & Intelligent Automation), Kenvue
Abstracts
Is your organization ready to deploy Agentic Ai at scale? While the value potential of Agentic AI is clear, most organizations lack a clear and pragmatic roadmap of how to embed it in various functions. Agentic AI requires a close partnership with business functions to deliver the promised value. Business functions need a very clear value articulation and realization plan to be convinced. In this session, you will learn practical and ready-to-execute tips to accelerate you journey towards value realization through scaling adoption of agentic AI in your organization.
[Source](https://www.youtube.com/watch?v=xnp4zk04zXU)