Ai4
企业在各云端平台分散部署的智能体正沦为失控的自治孤岛,唯有将合规策略前置并直接下发至运行时拦截防护栏与调用网关,才能在控制成本与风险的前提下实现受控自治。
AI-assisted summary of Moving from Agent Sprawl to Governed Scale — original source. Check the original for full context.
Source published:
Detailed notes
## Background 本内容由 Ai4 频道于 2026 年 8 月 16 日在 YouTube 平台发布,主讲人为 IBM 生成式 AI 领域 CTO 兼 Watsonx 技术负责人 Sunil Murthy。视频简介指出,随着企业跨团队、工具、模型和多云构建 AI 智能体,最大的挑战已非创建智能体本身,而是在不丧失可见性、控制力和问责制的前提下实现规模化扩展,本场演讲探讨了如何将编排与治理深度融合以打通策略意图与运行时控制。
## TL;DR 演讲深入剖析了企业在多云环境下因智能体野蛮生长(Agent Sprawl)而面临的自治孤岛与治理失控风险,指出资产纳管必须延伸至工具、知识库及 CI/CD 流程中的相关文件。IBM 提出了集统一控制平面 watsonx Orchestrate 与全生命周期治理平台 watsonx.governance 于一体的解决方案,通过模型套利网关、评估先行机制以及基于 AI Atlas 风险目录的端到端证据闭环来打破孤岛。最后,现场通过零售银行贷款场景演示了从防护栏继承到“受控自治”的具体落地路径,强调跨厂商生态编排才是实现可信规模化智能体的关键支撑。
## Atmosphere & style 整场演讲呈现出严谨务实且高度面向企业级架构的技术布道风格,主讲人以清晰从容的语调将前瞻性行业预测与深厚的企业 IT 落地经验娓娓道来。通过“开法拉利去买菜”等生动贴切的比喻与直观的银行用例实操,将晦涩的合规治理与复杂的运行时编排拆解得层次分明。现场氛围专注而具启发性,既直面企业在多云智能体时代的管控阵痛,又给出了条理清晰、切实可行的工程化落地蓝图。
## Key takeaways - [00:04](https://www.youtube.com/watch?v=kJL2KLQIONY&t=4s) 智能体数量预计在未来几年呈爆发式增长,企业面临的最大挑战从“如何构建智能体”转向“如何在跨多云、多平台野蛮生长(Agent Sprawl)中保持控制与能见度”。 - [00:04](https://www.youtube.com/watch?v=kJL2KLQIONY&t=4s) 缺乏中央注册表和控制层会导致各平台(如 AWS、Microsoft、Salesforce 等)沦为相互孤立的自治孤岛,企业将失去全局治理能力。 - [00:04](https://www.youtube.com/watch?v=kJL2KLQIONY&t=4s) 资产治理不仅局限于智能体本身,还必须覆盖其依赖的工具、知识库、集成端点及开发阶段生成的 Markdown 文件与 CI/CD 流程。 - [03:27](https://www.youtube.com/watch?v=kJL2KLQIONY&t=207s) 合格的智能体控制平面必须回答四大核心问题:智能体在做什么(策略与防护栏)、谁有权访问(安全权限)、表现如何(可观测性)以及成本是多少(投入产出比)。 - [03:27](https://www.youtube.com/watch?v=kJL2KLQIONY&t=207s) IBM watsonx Orchestrate 实现了智能体具体实现与上层记忆、推理规划和执行层的解耦,并践行“评估先行”(Evaluation-first)原则。 - [03:27](https://www.youtube.com/watch?v=kJL2KLQIONY&t=207s) 控制平面内建模型网关进行“成本套利”,避免将高成本前沿大模型浪费在轻量日常任务上,并原生支持 MCP 与 Agent-to-Agent 协议。 - [03:27](https://www.youtube.com/watch?v=kJL2KLQIONY&t=207s) IBM 凭借企业级 IT 经验充当混合多云的中立中枢,支持企业在防火墙后搭建私有受治理智能体目录以适应混合云架构。 - [09:11](https://www.youtube.com/watch?v=kJL2KLQIONY&t=551s) 集成 AI Atlas 风险目录可在上线前提供开箱即用的风险评分,使合规要求前置化以应对 EU AI Act、GDPR 等监管标准。 - [09:11](https://www.youtube.com/watch?v=kJL2KLQIONY&t=551s) watsonx.governance 与 Orchestrate 联动打造“从摇篮到退役”的端到端闭环治理,践行“设计即证据”(Evidence by design),将运行时遥测回传至合规控制台。 - [14:12](https://www.youtube.com/watch?v=kJL2KLQIONY&t=852s) 用例层级可定义防护栏并通过父子关系自动继承至所有子智能体,实时拦截有害内容、越狱攻击及偏见语言。 - [14:12](https://www.youtube.com/watch?v=kJL2KLQIONY&t=852s) 企业智能体演进路径包含“实验探索”、“观察监控”到“受控自治”(Controlled Autonomy)三个阶梯,需在精细授权下逐步释放自主权。 - [18:18](https://www.youtube.com/watch?v=kJL2KLQIONY&t=1098s) 企业真实业务通常跨越多厂商环境,唯有具备跨生态编排与全资产证据收集能力的治理中枢才能确保长期可问责性。
## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=kJL2KLQIONY&t=4s) 智能体野蛮生长与企业面临的治理失控
在现代软件开发中,软件的构成组件正全面转向以智能体(Agent)为核心。业界统计数据预测,未来一年到一年半内全球智能体数量将突破 10 亿大关,到 2030 年更有望攀升至 22 亿。有些人可能会辩称自己所在的企业“根本没有在构建任何智能体”,但现实情况是,各类现成企业软件已经在深度捆绑智能体——随着人工智能逐渐演变成全新的人机交互界面(UI),“交互系统”(Systems of Interaction)与“行动系统”(Systems of Action)正在全面智能化。
```mermaid flowchart TD accTitle: 孤立的智能体孤岛与统一控制层的对比 subgraph Silos["缺乏统一控制的智能体孤岛"] A1["AWS Bedrock 智能体"] A2["Microsoft Copilot 智能体"] A3["GCP 智能体"] A4["Salesforce Agentforce"] end
subgraph Problem["企业面临的风险"] P1["无统一注册表"] P2["缺乏全局可见性"] P3["失控的自治孤岛"] end
subgraph Solution["统一控制平面 (watsonx Orchestrate)"] S1["集中式资产注册表"] S2["跨平台与混合云编排"] S3["全局可观测性与治理"] end
Silos --> Problem Problem -.->|"亟需转向"| Solution ```
伴随智能体在各大公有云和平台(如 AWS Bedrock、Microsoft Copilot、GCP 以及 Salesforce Agentforce 等)上的野蛮生长(Agent Sprawl),企业遭遇的核心痛点在于缺乏统一的控制层与能见度层。没有中央注册表与统一治理手段,各平台便演变成互不相通的“自治孤岛”(Islands of autonomy),使企业彻底丧失对全局 AI 运行情况的掌控。
- **资产治理范围**:企业不能仅局限于治理智能体本身,还必须纳管智能体依赖的工具(Tools)、集成端点、知识库(Knowledge bases)、各类技能(Skills),以及像 Claude Code 这类智能体工具在开发阶段所生成的 Markdown 文件,并将其全部纳入 CI/CD 流程中。 - **任务导向编排**:跨平台编排的重心应当放在“端到端任务的达成”(Task completion),而非单一智能体孤立的执行过程。
---
[03:27](https://www.youtube.com/watch?v=kJL2KLQIONY&t=207s) 智能体控制平面的四大核心支柱与 watsonx Orchestrate 架构
一个合格的企业级智能体控制平面必须能够解答四个根本问题: 1. **智能体在做什么?(What)** —— 涉及策略规范与防护栏(Policies and Guardrails)。 2. **谁有权限访问或触发执行?(Who)** —— 涉及安全访问控制与权限分配。 3. **运行表现与性能如何?(How)** —— 涉及全生命周期的可观测性(Observability)。 4. **运行成本是多少?(Cost)** —— 关乎业务成效与投入产出比(Time to Value)。
```mermaid flowchart LR accTitle: watsonx Orchestrate 智能体操作系统架构 subgraph OS["执行操作系统 (OS)"] direction TB M["内存管理"] R["推理与规划"] E["执行层"] end
subgraph Control["控制平面"] direction TB O["构建与运行时可观测"] EV["评估先行机制"] OP["持续优化"] end
subgraph Gateway["网关与资产"] direction TB GC["受治理目录"] GW["模型套利网关"] MCP["MCP / A2A 协议连接"] end
OS --- Control Control --- Gateway ```
IBM 针对上述痛点推出了企业级智能体控制平面 **watsonx Orchestrate**。该平台将底层智能体的具体实现(不论来自 IBM、微软 Copilot、AWS Bedrock、GCP 还是 Salesforce)与上层的记忆管理、推理规划及执行层进行完全解耦。同时,平台倡导“评估先行”(Evaluation-first)原则,在智能体开发及部署前即完成严格的基准测试,并在运行时提供端到端的可观测性、评估与动态优化能力。
为了防范高昂的 Token 计费陷阱,控制平面内建了模型网关以实现“成本套利”(Cost arbitrage)。讲者形象地比喻道:**“你不会开着法拉利去杂货铺买菜”**。企业不应将最昂贵的大模型资源浪费在诸如草拟日常邮件这样的轻量级任务上,而应将其保留给复杂任务规划。网关层支持在后台动态调度不同模型,并原生支持智能体间通信协议(Agent-to-Agent protocol)以及用于工具标准集成的模型上下文协议(Model Context Protocol, MCP)。
- **开放生态承诺**:IBM 坦承自身既非头部的“前沿大模型提供商”(Frontier model provider),也非主导地位的超大规模云基础设施厂商,但凭借对企业级 IT 系统数十年沉淀的深刻理解,IBM 专注于充当连接混合多云的中立中枢。 - **合作伙伴生态圈**:目前已有 100 多家生态伙伴接入,其扩展目标为 500 家伙伴。 - **私有部署能力**:除了 IBM 托管的公共智能体目录外,企业也可以在内网防火墙之后建立属于自己的受治理租户与私有目录,无缝适配混合云与多云架构。
---
[09:11](https://www.youtube.com/watch?v=kJL2KLQIONY&t=551s) AI Atlas 风险评估与端到端治理闭环(watsonx.governance)
当智能体在界面中展示时,平台不仅会呈现其历史运行表现(基于真实业务数据或合成数据评测),还会集成 IBM 从传统机器学习、生成式 AI 一直延续到智能体时代所积累的 **AI Atlas 风险目录**,提供开箱即用的风险评分。这解决了传统治理手段滞后的问题,将合规与治理要求前置化。
面对不断严苛的国际监管法规(如欧盟《人工智能法案》EU AI Act、GDPR,以及美联储针对模型风险管理的 SR 11-7 / 现更新为 26-2 等审慎监管标准),企业迫切需要将策略定义与运行时证据紧密打通。IBM 通过 **watsonx.governance** 联动 watsonx Orchestrate,打造了贯穿“从摇篮到退役”(From cradle to retirement)的端到端闭环治理体系:
```mermaid flowchart TD accTitle: 端到端智能体闭环治理流程 subgraph Upstream["需求与用例准入阶段"] U1["用例准入申请"] --> U2["问卷与前置风险评分"] U2 --> U3{"风险等级判定"} U3 -->|"低风险"| U4["直通式自动批准"] U3 -->|"高风险"| U5["人工介入审批与阈值设定"] end
subgraph Runtime["运行时与控制平面 (Orchestrate)"] U4 --> R1["策略与防护栏配置"] U5 --> R1 R1 --> R2["继承控制规则并执行"] R2 --> R3["遥测与观测数据采集"] end
subgraph Feedback["合规证据与闭环监控 (Governance)"] R3 --> F1["运行时证据回传至统一控制台"] F1 --> F2["持续风险监测与合规合流审计"] F2 -.->|"策略调整/权限变更"| R1 end ```
- **治理不应是事后补丁**:治理必须作为主动式(Proactive)的前置框架,通过结构化问卷实现自动风险分级。 - **证据设计(Evidence by design)**:无论策略定义有多严密(例如规定“任何 AI 资产均严禁触碰敏感个人身份信息 PII”),都必须依托安全端点和智能体运行时将实际执行证据源源不断反馈至中央控制台。
---
[14:12](https://www.youtube.com/watch?v=kJL2KLQIONY&t=852s) 银行业务实操演示:从防护栏继承到“受控自治”
现场演示以零售银行客户支持智能体为例,展示了智能体在上线前(Pre-deployment)的受控测试全流程。系统支持以父子继承关系(Parent-child relationship)将用例级别的防护栏直接下发给其包含的所有子智能体:
| 治理与控制维度 | 具体实现与演示场景 | |:--- |:--- | | **输入与输出强制拦截** | 实时检测并过滤有害内容(Harmful content)、越狱攻击(Jailbreak)、社会偏见(Social biases)及仇恨/辱骂/亵渎语言。 | | **规则继承机制** | 在用例层级定义防护规则后,任何新建或从外部平台(如 AWS、微软)导入的智能体均强制继承该规则。 | | **单元测试与合成数据验证** | 在准上线阶段注入合成数据进行压力测试,验证智能体行为边界。 | | **受控自治(Controlled Autonomy)** | 当测试到提交贷款申请环节时,由于涉及个人隐私数据且智能体尚未获得授权,系统自动阻断该提交动作;随后管理员在智能体控制面板中按需赋予其“自主读取并更新信息”的精准权限。 |
企业推行智能体应用通常要经历三个演进阶梯:**“实验探索”(Experimentation) $\rightarrow$ “观察监控”(Observed agents) $\rightarrow$ “受控自治”(Controlled autonomy)**。只有在全链路获得清晰的可视性前提下,才能真正落实权责归属与问责制(Accountability)。
---
[18:18](https://www.youtube.com/watch?v=kJL2KLQIONY&t=1098s) 跨厂商协同与总结答疑
现场强调,现实的企业业务环境决定了单一客户不可能仅绑定在 IBM 孤立的技术栈上。以 IBM 自身为例,其内部销售智能体日常就需要同时与 Salesforce、内部遗留系统以及各类第三方系统进行高频交互。正因如此,具备跨厂商(Cross-functional / Cross-vendor)编排与全资产证据收集能力的平台才是企业长远发展的刚需。
得益于对多位企业客户真实落地场景的调研,IBM 获得 Gartner 权威报告的高度认可。在演讲尾声,讲者简短解答现场关于技术落地的提问,并邀请有深度技术交流、MCP 协议集成或生态合作意向的观众移步至大会 601 号展台(Booth 601),进一步探讨真实业务场景下的闭环治理实践。
## Notable quotes > [00:04](https://www.youtube.com/watch?v=kJL2KLQIONY&t=4s) 未来一年到一年半内全球智能体数量将突破 10 亿大关,到 2030 年更有望攀升至 22 亿。 — Sunil Murthy
> [00:04](https://www.youtube.com/watch?v=kJL2KLQIONY&t=4s) 根本没有在构建任何智能体 — Sunil Murthy
> [00:04](https://www.youtube.com/watch?v=kJL2KLQIONY&t=4s) 自治孤岛 — Sunil Murthy
> [00:04](https://www.youtube.com/watch?v=kJL2KLQIONY&t=4s) 跨平台编排的重心应当放在“端到端任务的达成”(Task completion),而非单一智能体孤立的执行过程。 — Sunil Murthy
> [03:27](https://www.youtube.com/watch?v=kJL2KLQIONY&t=207s) 你不会开着法拉利去杂货铺买菜 — Sunil Murthy
> [03:27](https://www.youtube.com/watch?v=kJL2KLQIONY&t=207s) 企业不应将最昂贵的大模型资源浪费在诸如草拟日常邮件这样的轻量级任务上,而应将其保留给复杂任务规划。 — Sunil Murthy
> [09:11](https://www.youtube.com/watch?v=kJL2KLQIONY&t=551s) 从摇篮到退役 — Sunil Murthy
> [09:11](https://www.youtube.com/watch?v=kJL2KLQIONY&t=551s) 治理不应是事后补丁 — Sunil Murthy
> [14:12](https://www.youtube.com/watch?v=kJL2KLQIONY&t=852s) 实验探索 $\rightarrow$ 观察监控 $\rightarrow$ 受控自治 — Sunil Murthy
> [18:18](https://www.youtube.com/watch?v=kJL2KLQIONY&t=1098s) 具备跨厂商(Cross-functional / Cross-vendor)编排与全资产证据收集能力的平台才是企业长远发展的刚需。 — Sunil Murthy
## Mentioned Sunil Murthy, IBM, watsonx Orchestrate, watsonx.governance, AI Atlas, AWS Bedrock, Microsoft Copilot, GCP, Salesforce Agentforce, Claude Code, Model Context Protocol (MCP), EU AI Act, GDPR, SR 11-7 / 26-2, Gartner
## Video description Sunil Murthy - Watsonx Technical Lead - IBM Gen AI Field CTO, IBM
As companies build AI agents across teams, tools, models, and clouds, the biggest challenge is not creating agents - it is how to scale agentic AI without losing visibility, control and accountability. Traditional GRC governance and agent runtime operations often work in separate worlds, making it hard to connect policies, controls, evidence, and oversight.
In this session, we’ll explore why orchestration and governance must come together as enterprises adopt AI agents at scale. Together, these capabilities help organizations connect governance intent to agent runtime controls. he result is a more trusted, measurable, and scalable path to agentic AI adoption.
[Source](https://www.youtube.com/watch?v=kJL2KLQIONY)