Ai4
企业自建AI智能体多因技术脱节与治理失控烂尾,必须依托统一编排平台建立身份鉴权护栏并以小切口用例推进,方能跨越POC高失败率陷阱。
AI-assisted summary of AI Agents Are Here to Stay: Orchestrating Secure Enterprise Deployment With Airia And Pax8 — original source. Check the original for full context.
Source published:
Detailed notes
## Background 该视频由 YouTube 频道 Ai4 于 2025 年 8 月 24 日发布,由 Airia 美洲区销售负责人 Alex Bermudez 与 Pax8 人工智能创新高级总监 Ben Eichholz 共同主讲。页面简介指出,本场演讲探讨了企业如何借助 AI 编排平台在满足严格安全与合规标准的前提下,安全地部署、管理并规模化扩展 AI Agent,将零散的 AI 实验转化为统一且安全的企业级 AI 生态系统。
## TL;DR 演讲直面了当前企业生成式 AI 项目 POC 失败率高达近 90% 的严峻现实,深入剖析了管理层考核压力、用户采纳困难以及创新速度与风控治理冲突等核心痛点。Pax8 分享了自身从引入 Microsoft 365 Copilot 的量化困境、到过度自研定制导致项目烂尾、最终转向平台化编排架构的演进教训。针对数据投毒、未受信任推理、MCP 供应链漏洞以及影子 AI 等新型威胁,Pax8 借助 Airia 平台搭建企业级 AI Playground,并采取“小切口”用例驱动法破解数据治理困局。双方展示了未来多智能体协同、双向 RAG 与细粒度身份鉴权的目标架构,强调通过无代码能力赋能全员创新与业务落地。
## Atmosphere & style 整场演讲氛围务实接地气,充斥着老友般的轻松幽默与坦率自嘲。Alex 幽默风趣的控场风格与 Ben 坦白踩坑经历的真诚态度形成互补,将看似枯燥的企业级安全合规与治理架构讲得生动透彻。从直面“房间里的大象”到传授破局实战经验,两位讲者的互动默契自然,给观众带来兼具技术深度与实践指导意义的临场聆听体验。
## Key takeaways - [02:14](https://www.youtube.com/watch?v=jWWKhnPqCss&t=134s) 企业级生成式 AI 项目面临极高的概念验证(POC)失败率,IDC 与 Gartner 数据显示失败率高达 82% 至 90%,跨越 POC 进入实际生产环境是当前普遍困境。 - [02:14](https://www.youtube.com/watch?v=jWWKhnPqCss&t=134s) 企业落地 AI 的三大核心阻碍包括高管层的激进考核与投资回报率压力、员工变革管理与采纳困境,以及业务创新速度与安全合规管控之间的剧烈拉扯。 - [04:43](https://www.youtube.com/watch?v=jWWKhnPqCss&t=283s) 单点生产力工具(如 Copilot)虽能提升日常效率,但因停留在表层交互而难以向业务端提供确凿的 ROI 归因数据。 - [04:43](https://www.youtube.com/watch?v=jWWKhnPqCss&t=283s) 过度自研定制化 Agent 面临构建周期长、基础设施缺乏以及底层模型技术颠覆迭代导致成果快速过时的风险,推动企业转向平台化编排战略。 - [07:30](https://www.youtube.com/watch?v=jWWKhnPqCss&t=450s) 生成式 AI 时代的安全威胁已扩展至数据投毒、未受信任推理基础设施,以及开源生态/MCP 协议中可能改变运行逻辑的“地毯卷走攻击”(Rug Pull Attack)。 - [09:45](https://www.youtube.com/watch?v=jWWKhnPqCss&t=585s) 治理影子 AI(Shadow AI)应遵循“堵不如疏”原则,通过提供合规受控且即时集成前沿模型的企业级 AI Playground 来取代单纯的铁腕封杀。 - [11:03](https://www.youtube.com/watch?v=jWWKhnPqCss&t=663s) 数据治理无需追求一步到位,企业应采用用例驱动法(Use-case approach),针对具体需求提取最小必要数据子集,避免因追求数据完美而阻碍落地。 - [13:45](https://www.youtube.com/watch?v=jWWKhnPqCss&t=825s) 企业 AI 架构正从硬编码点对点接入,演进为具备双向读写 RAG、统一安全护栏和多模型路由的自主多智能体(Multi-Agent)协作网络。 - [15:44](https://www.youtube.com/watch?v=jWWKhnPqCss&t=944s) 企业级 AI 编排治理平台(如 Airia)通过提供内置 DLP、独立护栏、无代码原型设计及多模型集成,帮助企业平衡自研边界并加速业务部署。 - [17:46](https://www.youtube.com/watch?v=jWWKhnPqCss&t=1066s) 智能体安全的最底层支柱在于身份鉴权机制,必须严格区分自主 Agent 的独立实体身份(最小特权)与人类助手的委托访问身份(Delegated access)。 - [17:46](https://www.youtube.com/watch?v=jWWKhnPqCss&t=1066s) AI 创新的可持续性依赖于全员民主化参与,简化安全护栏与智能体构建流程能有效赋能一线员工自主创造与共享业务 Agent。
## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=jWWKhnPqCss&t=4s) 讲者背景与开场介绍:Airia 与 Pax8
本次演讲由 Airia 美洲区销售负责人 Alex Bermudez 与 Pax8 人工智能创新高级总监 Ben Eichholz 共同主持。Alex 开场调侃道,去年的同一会议正是 Airia 的公开亮相盛会,今天两人将带来一场务实落地的企业级 AI 部署指南,甚至开玩笑说就算内容不够实用,观众至少还能欣赏他特意穿来的“拉斯维加斯风格西装”。随后他邀请 Ben 介绍其企业背景与个人经历。
```mermaid flowchart LR accTitle: Pax8 Global Footprint and Role subgraph Pax8["Pax8 全球云科技市场平台 (1,800+ 员工)"] direction TB A["美洲 (Americas)"] B["欧洲、中东与非洲 (EMEA)"] C["亚太 (APAC)"] end Pax8 -->|"赋能 IT 渠道与合作伙伴"| SMB["全球中小型企业 (SMB)<br/>技术与云服务交付"] ```
Ben 介绍,Pax8 是一家面向 IT 渠道生态的全球科技交易市场平台,致力于为全球中小企业(SMB)提供技术与云服务支持,目前在全球(美洲、EMEA、APAC)拥有约 1,800 名员工。Ben 的职业生涯大部分时间在销售领域度过,曾担任 Pax8 的销售管理层(在此期间结识了 Alex)。随着生成式 AI 的爆发,他敏锐意识到技术转型的必然趋势,主动转型至企业战略与业务拓展,并于今年初正式统领 Pax8 的 AI 转型办公室(AI Transformation Office)。Alex 补充道,Ben 拥有极深厚的技术底蕴;而 Alex 自己在高速增长的技术行业拥有近 15 年销售与管理经验,此前曾在全球领先的数据隐私、数据治理与 GRC(治理、风险与合规)SaaS 巨头长期任职,笑称当年互联网上烦人的“Cookie 授权弹窗”很大一部分就出自其前司团队之手。
[02:14](https://www.youtube.com/watch?v=jWWKhnPqCss&t=134s) 概念验证(POC)的高失败率与企业 AI 面临的核心阻碍
在进入具体议题前,Alex 抛出了一组来自权威分析机构的数据:IDC 统计显示,企业级生成式 AI 项目中有近 90% 的概念验证(POC)最终走向失败;Gartner 给出的失败率也高达 82% 至 85%。这说明当前企业面临的普遍困境并非缺乏技术尝试,而是无法快速且成功地跨越 POC 阶段进入实际生产环境。
面对这一现象,几乎每家企业内部都存在阻碍 AI 落地的“房间里的大象”(Elephants in the room)。尽管各行业的风险偏好和业务特性各有不同,但企业面临的阻力普遍可以归结为三大核心痛点: 1. **来自管理层的激进考核与汇报压力**:从业者面临来自高管(CEO、CIO、CTO)乃至董事会的直接施压,上市公司更是急于在财报与董事会汇报中展示 AI 对业务产生的实质性财务与运营影响。 2. **变革管理与用户采纳(User Adoption)困境**:许多企业尚未向员工提供足够的 AI 素养培训,或者试图用生搬硬套(Square peg in a round hole)的方式强行将 AI 塞入员工既有的工作流,导致工具与实际作业脱节。 3. **创新速度与风险控制(Risk & Control)的拉锯战**:业务部门渴望快速试错与创新,而安全、法务、隐私、合规与数据治理部门则有着严格的底线管控,两者在企业内部形成了剧烈的拉扯。
[04:43](https://www.youtube.com/watch?v=jWWKhnPqCss&t=283s) Pax8 的 AI 探索历程:从 Copilot 瓶颈到平台化编排战略
谈及高昂的 POC 失败率,Ben 感同身受地表示“这戳中了我们的痛处”。他坦诚分享了 Pax8 引入生成式 AI 过程中经历的阶段与弯路。两年前,Pax8 率先在全员范围内推出了 Microsoft 365 Copilot。该工具在个人生产力方面表现亮眼——不仅能自动生成会议摘要、润色邮件,还显著提升了日常内容创作的质量。然而,管理层很快遭遇了量化归因的难题:虽然主观直觉上觉得生产力提升了,却无法向业务端提供确凿的数据指标来证明实际 ROI,AI 工具仅仅停留在表层交互,未能真正嵌入核心业务流程。
为了打破这种“浮于表面”的局限,Pax8 随后走向了另一个极端:成立了专门的定制化 AI Agent 开发团队,并引入外部交付伙伴,密集立项了大量 POC 项目。然而,几乎所有自研 Agent 最终都没能成功上线投入生产——要么因为构建周期过于缓慢、企业缺乏适配的基础架构,要么在项目推进途中底层模型技术就已经发生了颠覆性迭代,导致先前的开发成果迅速过时。
```mermaid flowchart TD accTitle: Pax8 AI Strategy Evolution subgraph Phase1["阶段一:单点效率工具"] P1["引入 Microsoft 365 Copilot"] --> R1["个人生产力提升,但价值无法量化<br/>停留在表层,未能深入业务流程"] end
subgraph Phase2["阶段二:过度自研定制"] P2["自建 AI Agent 团队 + 外部伙伴"] --> R2["开发周期过长、底层技术迭代过快<br/>大量 POC 烂尾,无一成功投入生产"] end
subgraph Phase3["阶段三:平台化编排架构"] P3["转向以 Airia 为代表的统一编排平台"] --> R3["紧跟前沿模型研究与工具链<br/>兼顾安全合规与快速业务落地"] end
Phase1 --> Phase2 --> Phase3 ```
在经历自研路线的受挫后,Pax8 在今年初果断转变策略,确立了**平台化战略(Platform Strategy)**:依托如 Airia 这类成熟的企业级 AI 编排平台,将跟踪底层模型前沿迭代、工程工具链集成等通用能力交给专业厂商,使内部团队能够专注于业务场景的赋能与 Agent 交付。
[07:30](https://www.youtube.com/watch?v=jWWKhnPqCss&t=450s) 全新安全威胁矩阵:数据投毒、未受信任推理与 MCP 的“地毯卷走”风险
随着 AI 架构向纵深发展,企业的攻击面与威胁向量(Threat Vectors)发生了根本性变化。Alex 回顾道,近十年前 GDPR、CCPA 等隐私法案的出台重塑了企业的数据收集与披露规范;而在当下的生成式 AI 时代,企业不仅要关注数据泄露,更要防范训练/微调/知识检索集中的**数据投毒(Data Poisoning)**。此外,将企业敏感数据提交给不可信的推理基础设施(Untrusted Inference Infrastructure),以及跨 LLM / 传统机器学习模型流转中的失控风险,正在成为数据治理的新防线。
在现场互动环节,Alex 询问有多少人在实际工作中使用模型上下文协议(Model Context Protocol, MCP),并进一步指出在拥抱开源工具与开放协议时必须保持高度警惕。他特别提到了**“地毯卷走攻击”(Rug Pull Attack)**——在工具调用、开源插件或 Agent 协议扩展中,恶意代码或被篡改的依赖项可能突然改变行为逻辑,从而在企业连接外部工具生态时引入巨大的供应链与运行时安全漏洞。
[09:45](https://www.youtube.com/watch?v=jWWKhnPqCss&t=585s) 影子 AI(Shadow AI)治理:用企业级 AI Playground 取代“铁腕封堵”
针对企业内部普遍存在的“影子 AI”(员工私自使用未经 IT 批准的第三方公共 AI 服务)现象,Ben 坦言 Pax8 过去两年也深受其扰。公司最初采取了“铁腕封杀”手段:明令禁止使用任何 ChatGPT、Google Gemini、Anthropic Claude,甚至包括 DeepSeek。然而事与愿违,严格的禁令并未阻止员工私自使用,因为业务人员在日常工作中确实需要这些先进工具来解决实际问题,而当时企业内供的 AI 栈完全无法满足这些诉求。
```mermaid flowchart LR accTitle: Shadow AI Mitigation via Enterprise AI Playground subgraph Problem["传统治理困境:铁腕封堵 (Iron Fist)"] direction TB B1["一律禁用 ChatGPT / Claude / Gemini"] --> B2["员工私自使用 (Shadow AI)"] B2 --> B3["数据外泄与合规失控风险激增"] end
subgraph Solution["Pax8 破局:Airia AI Playground"] direction TB S1["接入 Airia 统一平台"] --> S2["即时集成各家最新旗舰模型 (如最新 GPT 系列)"] S2 --> S3["内置 IT 审批、安全护栏与数据合规审计"] S3 --> S4["影子 AI 使用率大幅断崖式下降"] end ```
意识到“堵不如疏”后,Pax8 的 AI 转型办公室成立后的第一项核心动作,就是为员工提供一套安全合规且体验优秀的内部工具。他们基于 Airia 平台搭建了名为 **Pax8 AI Playground** 的企业级统一交互环境,使员工能够直接、安全地使用业内最新的旗舰模型(例如在活动前夕团队就已第一时间将最新的前沿模型推送到平台中)。由于员工可以在 IT 批准、具备企业级安全保护的环境中自由使用顶级模型,Pax8 内部的影子 AI 风险随之大幅下降。
[11:03](https://www.youtube.com/watch?v=jWWKhnPqCss&t=663s) 数据治理误区:英国乡村古宅隐喻与“小切口”用例驱动法
Alex 用典型的英国乡村古宅(English Countryside House)作比喻:穿过树篱看过去,地表上的房屋结构方正、古朴优美、四壁完好;但隐蔽在地下的地基部分却杂乱无章、结构脆弱,随时可能坍塌。这生动地映射出企业的数据治理现状: 1. **非结构化数据的黑盒化**:企业在 SharePoint 等各类系统中堆积了海量的 PDF、Word、CSV、纯文本等文档,即便做过信息治理,新文件的持续写入也让数据真实内容充满了不确定性。 2. **结构化与非结构化数据的处理割裂**:LLM 无法天然以相同的方式理解和处理结构化数据库(如 ERP、CRM)与非结构化文档,如果企业在架构上采用一刀切的方式处理两类数据,必然在检索与生成环节引发严重失真。
针对许多企业陷入“数据不完美就无法开展 AI”的教条主义,Ben 强调绝不能**“让完美成为优秀的敌人”(Letting perfect be the enemy of good)**。虽然“垃圾进、垃圾出(Garbage in, garbage out)”的常识依然成立,但大多数企业现有数据所能支撑的场景远超自身想象。Pax8 目前转向了**用例驱动法(Use-case approach)**:每次评估一个新的 Agent 或 AI 助手需求时,团队仅针对该特定用例提取最小必要的数据子集(在“数据大象”身上咬下一小块可消化的肉),若某个场景依赖过于庞大繁杂的全局数据清洗,则直接降低其优先级。
[13:45](https://www.youtube.com/watch?v=jWWKhnPqCss&t=825s) 演进之路:从硬编码点对点架构跃升至安全多 Agent 编排体系
Alex 梳理了企业级 AI 从初级阶段迈向成熟形态的演进路线。当前多数企业所处的现状是:评估了一两个模型后,针对不同应用场景以硬编码(Hardcoding)的方式点对点接入特定模型,依靠开发人员手动跟踪模型升级,并在各应用中孤立地处理模型参数与防护。
```mermaid flowchart TD accTitle: Target Architecture for Multi-Agent Orchestration subgraph DataLayer["统一数据源 (Data Sources)"] D1["非结构化/半结构化 (SharePoint, 文档)"] D2["静态知识 (合规政策, 历史档案)"] D3["动态事务数据 (销售、财务、ERP 系统)"] end
subgraph OrchestrationLayer["企业级安全编排平台 (Orchestration Engine)"] direction TB G["统一安全护栏 & 治理策略 (Guardrails & Governance)"] RAG["双向 RAG 引擎 (Read & Write Back)"] Router["多模型智能路由 (Multi-Model Routing)"] G --- RAG --- Router end
subgraph AgentsLayer["多智能体协作网络 (Multi-Agentic System)"] A1["分析决策 Agent"] A2["业务工作流 Agent"] A3["事务回写 Agent"] end
DataLayer <-->|"读写双向交互"| OrchestrationLayer OrchestrationLayer <--> AgentsLayer ```
然而,企业真正追求的目标架构是一个**高度协同的多智能体系统(Multi-Agentic System)**。该系统不仅需要利用双向 RAG 技术同时读取非结构化文档、静态政策文件以及实时动态的运营/财务/销售交易数据,更关键的是要具备“以行动为导向(Action-oriented)”的系统回写能力,使 Agent 能够闭环执行业务操作。由于各个底层模型厂商的安全护栏各不相同,企业必须在编排层构建统一的安全策略与合规标准,确保所有跨系统交互都在受控框架内运行。这正是各家企业在未来 6 到 18 个月内必须完成的核心跨越。
[15:44](https://www.youtube.com/watch?v=jWWKhnPqCss&t=944s) 自研边界与 Airia 企业级 AI 编排治理平台
Alex Bermudez 坦言,要真正实现企业级智能体架构落地,背后需要投入海量的工程与管理工作。这也是他们在此分享真实挑战的原因——帮助各个企业在规划第一阶段或迈向“第二阶段”(Phase 2)演进时,能提前思考如何应对这些痛点。Pax8 的 Ben Eichholz 补充道,虽然 Pax8 骨子里一直秉持“能自研就自研”(Build it ourselves)的工程师文化,并相信自己能做到最好,但面对如此庞大且复杂的 AI 基础设施与治理链条,团队清醒地认识到有些领域自研并不划算,必须与专业伙伴协同。
```mermaid flowchart TD accTitle: Airia 平台架构与核心功能图 subgraph INGRESS["接入与开发层"] A["无代码 / 低代码快速原型设计"] B["150+ 基础大模型即插即用"] end
subgraph GOV["治理、安全与可观测层"] C["原生 DLP 数据防泄漏"] D["全面可观测性与独立护栏"] E["A/B 对抗评测与基准测试"] end
subgraph CONN["连接与部署层"] F["结构化 / 非结构化企业应用"] G["MCP 协议与 Agent-to-Agent 交互"] H["自主选择应用托管与推理环境"] end
INGRESS --> GOV GOV --> CONN ```
Alex 随后介绍了 Airia 平台的核心定位:一个面向企业的治理、安全与编排平台。无论企业身处何种行业或探索何种业务场景,Airia 都能护航企业平稳跨入“智能体未来”(Agentic future)。其能力覆盖了从基础员工助手、AI 探索沙盒(Playground),一直到多层级复杂的自主智能体编排系统,真正帮业务团队落实行动力并创造清晰的 ROI。
- **模型广度与评测**:平台原生内置超过 150 种主流基础模型,支持直接进行对抗性场景测试(Battleground scenarios)与多用例横向评估。 - **快速原型构建**:主打 No-Code(无代码)开发能力,大幅降低业务人员落地智能体原型的门槛。 - **内生安全与可观测性**:内置强大的 DLP(数据防泄漏)层与全链路 Observability(可观测性)层,让企业能够自主掌控护栏规则与运行参数,而不是完全受制于底层大模型厂商自带的黑盒策略。 - **生态集成与部署自由**:广泛支持连接企业内部结构化与非结构化数据源,支持 MCP 协议及 Agent-to-Agent 协同,并允许客户完全自主决定应用的托管位置与数据推理环境。
---
[17:46](https://www.youtube.com/watch?v=jWWKhnPqCss&t=1066s) Pax8 选择 Airia 的核心考量:身份鉴权与员工创新民主化
Ben Eichholz 重点阐述了 Pax8 决定与 Airia 达成深度合作的两大核心原因。首要原因在于**身份识别与鉴权机制(Identity & Authentication)的架构愿景高度一致**。在 Pax8 看来,这一机制是智能体安全与风险控制的最底层支柱:当一个完全自主运行的 Agent 执行任务时,它必须拥有独立的实体身份并严格遵循最小特权原则(Least-privilege access);而当员工使用对话式助手代表自己去跨系统操作时,智能体则应使用用户的“委托访问身份”(Delegated access identity)。Airia 在底层设计上与这一安全理念完全契合。
另一个同样关键甚至更为重要的原因在于**以人为本的“人类要素”(The human element)**。Airia 极大地简化了安全护栏的配置流程,并为全员创新提供了坚实底座。它让普通员工能够随时提交创新想法,并直接在平台内动手构建、共享自己的智能体和助手,真正实现了企业内部 AI 创新的民主化。Ben 强调,在功能丰富之外,“部署这些智能体和助手的极简性与便捷度,才是真正打动我们的关键所在。”
---
[19:01](https://www.youtube.com/watch?v=jWWKhnPqCss&t=1141s) 行业分析机构认可与现场互动致谢
在分享尾声,Alex 幽默地调侃道:“感谢 Ben,我保证下台后绝对没有任何金钱交易,虽然我们身在拉斯维加斯(Vegas)。”他指出,如果大家希望了解客观中立的第三方评价,Airia 已经多次入选多家知名独立分析机构(Analyst firms)关于生成式 AI 开发与安全领域的重磅行业报告。
随着演讲进入尾声,Alex 热情邀请现场观众扫描大屏幕上的二维码或前往 420 号展位(Booth 420)进行深入交流。随后,Alex 与 Ben 共同向现场参会者的聆听表示感谢,并宣布团队成员将继续在展台驻留答疑,全场在轻松融洽的气氛中圆满收尾。
## Notable quotes > [04:43](https://www.youtube.com/watch?v=jWWKhnPqCss&t=283s) 这戳中了我们的痛处 — Ben Eichholz
> [02:14](https://www.youtube.com/watch?v=jWWKhnPqCss&t=134s) Square peg in a round hole — Alex Bermudez
> [07:30](https://www.youtube.com/watch?v=jWWKhnPqCss&t=450s) 地毯卷走攻击 — Alex Bermudez
> [11:03](https://www.youtube.com/watch?v=jWWKhnPqCss&t=663s) 让完美成为优秀的敌人 — Ben Eichholz
> [11:03](https://www.youtube.com/watch?v=jWWKhnPqCss&t=663s) 垃圾进、垃圾出 — Ben Eichholz
> [15:44](https://www.youtube.com/watch?v=jWWKhnPqCss&t=944s) 能自研就自研 — Ben Eichholz
> [17:46](https://www.youtube.com/watch?v=jWWKhnPqCss&t=1066s) 部署这些智能体和助手的极简性与便捷度,才是真正打动我们的关键所在。 — Ben Eichholz
> [19:01](https://www.youtube.com/watch?v=jWWKhnPqCss&t=1141s) 感谢 Ben,我保证下台后绝对没有任何金钱交易,虽然我们身在拉斯维加斯。 — Alex Bermudez
## Mentioned Alex Bermudez, Ben Eichholz, Airia, Pax8, Ai4, IDC, Gartner, Microsoft 365 Copilot, Model Context Protocol (MCP), ChatGPT, Google Gemini, Anthropic Claude, DeepSeek, Pax8 AI Playground, SharePoint
## Video description Alex Bermudez, Sales Leader, Americas, Airia Ben Eichholz, Sr. Director of AI Innovation, Pax8
Abstracts
Enterprise AI success requires more than powerful models—it demands sophisticated orchestration. This session explores how AI orchestration platforms enable organizations to securely deploy, manage, and scale AI agents across their enterprise while maintaining strict security and compliance standards.
Through real-world examples, discover how leading organizations use orchestration solutions to transform disconnected AI experiments into unified, secure AI ecosystems. Learn best practices for building a security-first orchestration architecture that accelerates AI adoption while mitigating risks. Key takeaways include orchestration fundamentals, security implementation strategies, compliance frameworks, and practical steps for scaling AI initiatives across your organization with confidence.
[Source](https://www.youtube.com/watch?v=jWWKhnPqCss)