考克斯与威德福高管称多数AI智能体难活过一年 敦促重构自适应基建

Customizing AI Agents for Business Success: Tailoring Autonomy to Fit Your Needs — Ai4

Ai4

企业AI落地受困于短视ROI与权限安全瓶颈,唯有依托专有数据、严密护栏与三层分层架构,才能跨越概念验证走向可持续的生产级核心业务。

AI-assisted summary of Customizing AI Agents for Business Success: Tailoring Autonomy to Fit Your Needs — original source. Check the original for full context.

Source published:

Detailed notes

## Background 本内容由 Ai4 于 2025 年 8 月 29 日发布在 YouTube 平台上。视频记录了一场由 Category Ventures 合伙人主持、汇聚了来自 Weatherford、Logicon、Adopt AI 及 Cox Communications 等企业高管与技术领袖的圆桌讨论,主要探讨企业如何根据自身业务目标、工作流与行业特定挑战来定制化 AI Agent,并平衡自主权与合规控制。

## TL;DR 圆桌深入剖析了企业落地 AI Agent 时在“开箱即用”与“深度定制”之间的权衡,强调在高精度、强信任与差异化场景中结合专有数据的必要性。嘉宾们提出了基于“出错代价与任务形态”的自主权分配决策框架,以及由协调 Agent、业务超级 Agent 和底层实用 Agent 组成的三层系统架构。针对从 PoC 跨越到生产级所面临的数据安全、RBAC 权限穿透、数据突变(Mutation)控制以及真实 ROI 评估困境,与会专家分享了包括“制作者-复核者”双重验证在内的前沿治理实践与多行业真实落地案例。

## Atmosphere & style 整场圆桌务实坦诚、直击企业落地痛点,嘉宾们毫无行业浮夸之气,而是以一线操盘手的视角直面技术理想与企业现实之间的巨大鸿沟。对话在幽默与犀利之间自然流转,既有关于“大多数 Agent 活不过一岁”的现实拷问,也有对企业高管急功近利追求短期 ROI 的清醒反思。多位不同背景的领袖在敏锐的思辨碰撞中逐步凝聚共识,让听众深刻感受到 AI 从实验室 Demo 迈向复杂生产系统时所需的敬畏与工程严谨度。

## Key takeaways - [03:29](https://www.youtube.com/watch?v=SG_-AVJsso0&t=209s) 通用开箱即用方案无法替代深度定制:在涉及精准度、信任底线与业务差异化的关键场景中,必须结合企业内部专有数据、风险偏好与操作规范构建专属 Agent。 - [08:35](https://www.youtube.com/watch?v=SG_-AVJsso0&t=515s) 自主权分配遵循‘高频低风险放权、高风险低频留人’的原则,目前行业内仅有不到 10% 的企业真正落地了完全自主的 Agentic 场景,绝大多数仍依赖人机协同(HITL)。 - [11:42](https://www.youtube.com/watch?v=SG_-AVJsso0&t=702s) 评估 Agent 是否应获得完全自主权的核心过滤器在于‘出错代价有多大’以及‘结果是否可逆’,可撤回且规则确定的高重复任务适合全面放权。 - [15:04](https://www.youtube.com/watch?v=SG_-AVJsso0&t=904s) 企业级 Agent 架构普遍采用三层模型:顶层 Orchestrator 负责全局调度,中层 Super Agent 承载业务定制与人机协同,底层 Utility Agent 专注执行原子化且通用的重复任务。 - [18:31](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1111s) 从 PoC 走向生产环境的最大阻碍在于原生安全机制的缺失,特别是向量数据库与文件存储中难以准确继承并执行企业级 RBAC 权限控制。 - [20:06](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1206s) 面对专有核心资产,RAG 相比模型微调(Fine-tuning)更具数据隔离优势,能够避免战略资产参数化外溢并在检索时直接嵌入动态 RBAC 权限过滤。 - [28:11](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1691s) 企业衡量 AI 价值存在断层:两周内搭建的小用例根本无法直接撼动大盘财务回报,追求高商业价值必须匹配更长的研发周期与更高的风险承受度。 - [30:16](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1816s) 构建 Agent 需告别传统软件‘一次性交付上线’思维,AI 是动态演进的目标,架构重心应从优化单点模型性能转向提高底层基础设施的适应性。 - [31:56](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1916s) 除底层通用工具层外,绝大多数业务层智能体‘活不过一岁’,随着业务流程再造必须持续重构,企业的长期差异化壁垒在于专有数据资产与架构层。 - [37:35](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2255s) 在缺乏人工介入的即时交互场景中,必须引入硬性业务护栏(如操作金额上限与调用阈值);人机协同越少,所需的确定性护栏就必须越严密。 - [38:38](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2318s) 当智能体涉及直接写库或数据变更(Mutation)操作时,除了遵循 API 接口约束外,需针对增量数据引入‘制作者-复核者’(Maker-Checker)双重验证机制。 - [39:47](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2387s) Agent 落地正在各垂直领域规模化分化:零售与客服聚焦高自主度的意图识别与分流,研发上游渗透至需求生成,而能源等工业领域则深耕供应链与钻井工艺优化。

## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=SG_-AVJsso0&t=4s) 圆桌嘉宾背景与 AI Agent 业务交集介绍

主持人 Çağla Kaymaz(Category Ventures 合伙人,常驻旧金山的种子轮投资人)开场并欢迎观众,她表示自己的投资与研究重心聚焦在 AI 技术栈(从底层基础设施到上层应用),尤其是近期火热的 AI Agent 领域。随后,她邀请四位来自不同领域的嘉宾介绍各自的背景以及 Agent 技术如何融入他们当下的工作。

Logicon 首席执行官 Murad Hasan 首先发言,他指出 Logicon 致力于构建并集成能够主动适应企业业务的 AI Agent,而不仅仅是做简单任务的机械自动化。他们将 Agent 定义为企业的“运营队友”(operational teammates)或“嵌入式副驾驶”(embedded co-pilots),因为这些 Agent 直接在决策与推荐层面上产生影响,这也使得系统定制化变得尤为关键。

Adopt AI 联合创始人兼首席执行官 Deepak Anchala 介绍道,Adopt AI 作为一个面向工程和产品管理团队的 Agent 构建平台,帮助应用软件公司在产品内部和外部快速上线 Agent。他强调,相比传统非智能应用,Agent 的核心优势在于用户只需使用自然语言指令即可达成目标结果,无需经历复杂的应用软件学习成本。

Weatherford(威德福国际)人工智能副总裁 Sarah Karthigan 分享了自己在能源行业深耕 20 年利用数据和 AI 推动数字化转型的经验。她指出,Weatherford 已经走出了实验室的试验阶段,将 Agent 真正嵌入到了关键业务工作流中,员工们不仅将它们视为工具,更当作并肩作战的协作者。

Cox Communications(考克斯通信)人工智能负责人 Eric Pace 介绍了公司作为连接服务提供商在美国西南、中西部和东部多个州的业务版图。在 AI 方面,他负责从战略规划到落地实施的全流程,目前不仅在推进企业级 Agent 的构建,还在推行“平民开发者”(citizen development)理念,激励全员动手构建属于自己的 Agent,以规模化激发创新想法并提升全公司的 AI 素养与采纳度。

---

[03:29](https://www.youtube.com/watch?v=SG_-AVJsso0&t=209s) 定制化 Agent 与通用开箱即用方案的权衡

针对市场上第三方及开箱即用(off-the-shelf)Agent 层出不穷的现状,主持人 Çağla Kaymaz 提出核心疑问:不同企业的业务模式与痛点各异,适合企业 A 的方案往往无法照搬给企业 B,企业该如何判断哪些场景和垂直领域必须进行深度定制,哪些场景可以直接采用通用方案?

Sarah Karthigan 从能源大厂的实操经验切入,她笑称自己几乎每天都会遇到各种供应商推销他们现成的 Agent,声称“只要插进工作流,一切就能自动搞定”。但在真实企业环境中,Agent 必须体现该公司的独特价值观、战略布局以及业务价值创造方式。她以能源行业的安全问题为例,指出安全在能源领域是生死攸关的绝对核心底线,一旦出错就可能导致人员伤亡。因此,仅仅依赖基于行业公开数据训练的通用 Agent 绝不可行,必须结合企业内部专有数据进行深度定制,将企业的风险容忍度、历史事故处理经验以及具体操作规范融入模型中。Sarah 总结道,在所有涉及**“精准度(precision)、信任(trust)和差异化(differentiation)”**的关键场景,定制化都是必不可少的。

```mermaid flowchart TD accTitle: Customization Decision Framework for AI Agents subgraph Drivers["定制化核心驱动要素"] D1["精确度要求 (Precision)"] D2["信任与合规底线 (Trust)"] D3["品牌与业务差异化 (Differentiation)"] end

subgraph Data["数据与业务上下文"] C1["企业专有数据与历史经验"] C2["企业风险容忍度与价值观"] C3["复杂 API 与分散数据孤岛"] end

subgraph Solutions["Agent 落地形态"] S1["开箱即用 Agent (标准/低风险流程)"] S2["深度定制化 Agent (关键/高风险工作流)"] end

Drivers --> C1 & C2 C1 & C2 & C3 --> S2 ```

Deepak Anchala 从 Agent 构建平台的视角补充说明,像医疗健康、金融服务等强监管行业固然需要严密的制衡与合规机制,但事实上几乎所有与他们接洽的企业都需要定制化。正如企业从做网页到做移动端 App 一样,对外发布的 Agent 需要传递独特的品牌形象与人设,而对内提供给团队的 Agent 则必须解决杂乱的数据、混乱的 API 以及复杂的业务工作流。“你不可能只套一个 LLM 包装壳(LLM wrapper),然后宣称自己实现了工作流的 Agent 化——这种做法根本行不通,员工根本不会去用。”

Murad Hasan 进一步提炼出“富上下文环境”(rich context environments)的概念。如果业务不仅数据量庞大,而且数据形态各异且分散在各个业务孤岛中,Agent 就必须学会该组织的“专属语言”。以零售行业为例,Agent 仅掌握产品目录是远远不够的,还必须深刻理解消费者的行为模式和购买习惯。企业内部跨部门的数据孤岛越多、上下文越复杂,就越必须通过定制化来释放预期的业务效能。

---

[08:35](https://www.youtube.com/watch?v=SG_-AVJsso0&t=515s) 人在回路(HITL)与任务自主权分配框架

在探讨了上下文、品牌和风险之后,Çağla Kaymaz 引导大家探讨自主性与风险控制之间的平衡:虽然业界一直在畅想高度自主的智能体,但现实中很多企业出于风险考量仍保留了“人在回路”(Human-in-the-Loop, HITL)机制。企业在面向客户或内部场景构建 Agent 时,应如何界定哪些任务可以完全放权给 Agent,哪些任务必须保留人工审核与确认?

Deepak Anchala 给出了一个清晰的决策矩阵框架: - **高频低风险(High Frequency, Low Risk)流程**:应尽可能实现完全自动化与自主执行。 - **高风险低频(High Risk, Low Frequency)流程**:例如重大战略决策、大额高价值交易等,目前仍必须保持人在回路进行审核验证,不能赋予完全自主权。

Deepak 将 Agent 的自主程度比作 1 到 5 级的划分标准(5 级为最高自主),不同行业与场景会处于不同的等级。这正如特斯拉的 FSD(完全自动驾驶)功能一样,每位车主和用户在实际使用时都会根据具体路况和自身信任度选择不同的介入程度与使用模式。

[09:54](https://www.youtube.com/watch?v=SG_-AVJsso0&t=594s) 自主权边界与人机协同的天然存在

不同行业与业务场景对 AI Agent 自主权的需求大相径庭,正如许多人开特斯拉,但有人偏爱全自动驾驶模式,有人则习惯自行操控。在客户支持这类高重复性、低风险的职能中,企业可以赋予 Agent 极高的自主权以实现自动化;而在涉及人际关系与信任构建的销售场景中,Agent 现阶段更多是作为辅助工具帮助销售人员成单。因此,在赋予 Agent 自主权之前,必须审视行业属性、业务职能以及风险收益与执行频率的平衡。

从端到端的业务流程来看,“人机协同(Human-in-the-loop)”在当前阶段几乎是默认且不可避免的。除非一整条价值链实现了百分之百的端到端全自动闭环,否则 AI Agent 生产出的任何中间结果,在流程下游必然有一个人类员工去接收并执行下一步。如果该员工不去审核或查验 Agent 产出的质量,那本质上就是该员工在流程中的履职表现问题。当前业界鲜有企业能彻底解决数据质量与边界划分难题,以至于能放心对 Agent 说“去吧,别管了(Okay, go agent go. And then see you later.)”。市场上数据显示只有不到 10% 的企业真正落地了完全自主的 Agentic 用例,绝大多数场景仍需要长期的“人机协同”作为安全网。

- **用例成熟度现状**:目前全行业仅有不到 10% 的企业跑通了高阶、完全自主的 Agentic 场景,核心瓶颈在于无法将业务场景和数据治理简化到足以完全信任的离散可控状态。

---

[11:42](https://www.youtube.com/watch?v=SG_-AVJsso0&t=702s) 权衡自主权与控制的核心过滤器

评估是否给予 Agent 完全自主权,可以归结为一个极简的决策过滤器:“出错的代价究竟有多大(What's the cost of something going wrong?)?”当失败后果严重时,哪怕 Agent 完全具备独立完成任务的能力,也必须强制引入人类干预。反之,当业务价值直接与执行速度和效率的跨越式提升挂钩时——例如客服工单的快速分流(Triaging)或日常运营报表的自动汇编——就应当给 Agent 充分放权,把人类员工从繁重的手工劳作中解放出来,专注于高阶判断与战略决策。

评估自主权风险还应聚焦于三个维度的核心问题:首先是“错误的破坏力”,即系统失误是否会导致直接财务损失或企业信誉瓦解;其次是“规则的清晰度”,如果业务逻辑边界清晰、规则完备,自主执行的成功率便极高;最后是“任务形态”,高容量、高重复度且低变异性的任务,天然是 Agent 自主运行的最佳土壤。此外,结果的“可逆性(Reversibility)”同样是关键考量:将客服工单分流错误还可以召回重审,但直接向外部客户发送错误回复则具有不可挽回的外部影响。

| 评估维度 | 高自主权适用场景(Full Autonomy) | 受限/强人工介入场景(Human-in-the-Loop) | |:--- |:--- |:--- | | **错误代价与可逆性** | 代价微弱,失误后可撤回或易修正(如内部工单初筛打标) | 涉及重大财务风险、法律合规或用户品牌信任(如合同签订、对外发布) | | **规则明确程度** | 拥有固化、确定性的 SOP 与清晰判定逻辑 | 依赖直觉、柔性谈判、情感互动或模糊边界的主观判断 | | **任务形态特征** | 高吞吐量、高度重复、变异度极低(Low-variation tasks) | 长尾非标场景、高定制化、偶发性复杂的单点决策 |

---

[15:04](https://www.youtube.com/watch?v=SG_-AVJsso0&t=904s) 数据基础设施与三层 Agent 架构模型

在将敏感企业数据与特定行业数据接入 Agent 提示词与模型推理时,企业必须建立坚实的数据隐私与基础设施屏障。在技术路线上,可以通过保留本地私有化基础设施(On-prem)来运行核心 Agent 推理,并在 AWS 或 GCP 等多云环境中精细管控数据与算力部署,坚持“模型就近部署于数据旁(put our inferencing next to the data)”,严格限制无节制的组件间通信。针对业界频繁宣传的“构建了上百个 Agent”的营销炒作,实际上这些用例往往被拆解为极小颗粒度、可精准监控输入输出的微小组件协同运行。

```mermaid flowchart TD accTitle: 现代企业三层 Agent 架构模型 subgraph Layer1["协同层 Orchestration Layer"] A["协调 Agent (Orchestrator Agent)<br/>全局工作流调度与任务分派"] end

subgraph Layer2["业务定制层 Business Logic Layer"] B["超级 Agent 1 (Super Agent)<br/>适配特定业务线定制逻辑与人机协同"] C["超级 Agent 2 (Super Agent)<br/>适配差异化业务流程"] end

subgraph Layer3["底层基础层 Utility Layer"] D["实用 Agent A (Utility Agent)<br/>不可调用下级 / 专注通用重复任务"] E["实用 Agent B (Utility Agent)<br/>跨企业级复用 / 严格数据权限管控"] end

A --> B A --> C B --> D B --> E C --> E ```

企业在实践中普遍推行由三层体系构成的落地架构: 1. **顶层协调 Agent(Orchestrator Agents)**:充当全局指挥调度角色,负责监控多方任务进度,确保所有参与组件协同运作。 2. **中层超级 Agent(Super Agents)**:深度结合具体业务场景进行定制化,承载特定业务单元的差异化流程,同时也是嵌入“人机协同(Human-in-the-loop)”与业务规则的核心管控层。 3. **底层实用 Agent(Utility Agents)**:作为系统级“主力军(Workhorses)”,专注执行最原子化、高度可复用的底层任务;此类 Agent 无法向下递归调用其他 Agent,严格对外暴露可控的数据读写权限,从而实现企业级能力的模块化复用。

当庞大的 Agent 矩阵协同运作时,必须为其套上严格的护栏机制(Guardrails)。未经约束的 Agent 就像脱缰野兽,只有在严密的安全防护与策略监控下,才能确保其稳定运行在企业既定轨道之内。

[18:31](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1111s) 从概念验证到生产级:数据安全与 RBAC 权限控制的深水区

当讨论从简单的 API 交互转向真正让智能体接触底层企业数据时,技术落地面临着完全不同的安全挑战。在实验环境或概念验证(PoC)阶段,开发者往往只需关注生成输出是否符合预期;然而,一旦步入生产环境,系统面对的是高度敏感的企业内部资产以及复杂的非 RBAC(基于角色的访问控制)权限机制。此时必须妥善处理一系列基础设施级的问题:是否需要构建专门的 MCP(Model Context Protocol)服务器?如何在全流程中落实 RBAC?传输中(in-transit)和静态(at-rest)数据该如何加密?即使发生意外的数据泄漏,又该如何设立兜底防御?部署一套企业级生产智能体,其工程复杂度与在临时测试台上跑 Demo 截然不同。

这种安全层面的缺失正是阻碍智能体实现大规模落地的核心瓶颈之一。目前市面上的 Agent 架构和 MCP 协议在设计之初普遍缺乏内置的原生安全防护机制。一旦让智能体直接访问底层数据,企业往往不得不冒着在应用层重复配置和镜像整套安全策略的巨大风险,而这在安全合规层面几乎是不可接受的。许多企业之所以迟迟不敢将成千上万个智能体推向生产线,根源就在于没人愿意在 MCP 通信边界模糊、智能体行为不可控的情况下接手运维这一套庞大冗余的安全镜像。更棘手的是,当智能体检索被存放在向量数据库(Vector Store)或本地文件存储中的内容时,极少有现成解决方案能够准确继承原本的数据访问控制规则,并根据发起请求的具体用户身份严格穿透执行这些权限。

```mermaid flowchart TD accTitle: 生产级智能体数据权限与安全隔离流程 subgraph ClientLayer["客户端与身份层"] User["请求用户 (Requestor)"] RBAC["身份与权限上下文 (RBAC Context)"] User --> RBAC end

subgraph AgentLayer["智能体编排与治理层"] Agent["AI 智能体 / MCP 服务"] Guard["安全围栏 & 传输加密 (TLS/At-Rest)"] RBAC --> Agent Agent --> Guard end

subgraph DataLayer["企业敏感数据资产"] RAG["知识检索 (只读/无永久存储)"] Proprietary["专有战略资产 (严格受控隔离)"] Guard --> RAG Guard -.->|"阻止越权访问"| Proprietary end ```

[20:06](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1206s) 模块化编排与数据保护:微调训练与 RAG 检索的架构博弈

面对上述安全困局,一种可行的技术路径是构建模块化的多智能体编排框架。在该体系中,企业能够高度灵活地即插即用不同的数据源与底层大模型,依靠一个具备全局理解能力的中央编排器(Orchestrator)来解析复杂的业务需求,进而动态调度多个专业智能体协同执行任务。无论是采用纯本地部署(On-Prem)还是依托云端架构,数据安全都绝无妥协余地。如果某个智能体绕过了控制防线,接触到了未授权的数据,它就极可能基于错误或敏感的信息做出失控决策,瞬间在业务系统中引发不可收拾的连锁反应。

企业在处理“秘密武器”(Secret Sauce)——即核心专有数据时,必须审慎权衡训练(Fine-tuning)与检索增强生成(RAG)的技术选型:

``` +------------------+-----------------------------------------------------+-----------------------------------------------------+ | 维度 | 专有数据微调训练 (Fine-Tuning) | 知识库检索增强 (RAG-Based) | +------------------+-----------------------------------------------------+-----------------------------------------------------+ | 核心机理 | 将战略资产权重直接固化到模型参数中 | 仅在需要时进行实时检索,知识库只读不落盘 | | 数据暴露风险 | 模型输出可能无意识吐露底座训练语料 | 严格限制在单次会话上下文中,不造成永久性外溢 | | 权限继承难度 | 极高:模型难以对不同权限层级的用户做动态切分 | 相对可控:可在检索前置过滤器中直接应用 RBAC 规则 | | 利益相关方诉求 | AI 团队追求灵活性与上下文饱和度 | 法务与合规团队追求可审计性、确定性与数据留痕透明度 | +------------------+-----------------------------------------------------+-----------------------------------------------------+ ```

对于法务与合规团队而言,系统的透明度和可审计性(Auditability)是不可逾越的红线;而算法与业务团队则往往渴望尽可能开放的数据访问权限以保障上下文的丰富度。在两派势力的拉扯中,找到“上下文丰富度与数据资产防护之间的平衡”往往是“说起来容易做起来难”(Easier said than done)。然而,唯有通过创造性的安全架构将权限控制无缝贯穿整个智能体网络,企业才能真正拥有坚实的数据隐私层,建立将 AI 推向生产的底气。

[23:36](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1416s) 走出 PoC 的成本深渊:商业价值指标与 ROI 评估体系

从技术原型跨越到生产系统不仅面临架构挑战,更伴随着高昂的真实成本:密集的人力投入、庞大的云端算力开销、漫长的集成测试周期以及潜在的失误风险。当管理层直截了当地追问“投资回报率(ROI)到底在哪里”时,AI 领袖不能再以“证明技术的先进性”为借口。任何不能切实推动业务结果(Move the needle)的用例,即便技术构想再惊艳,也必须在优先级排序中被果断淘汰。

构建严谨的落地价值评估框架需要将指标拆分为多个互为支撑的维度:

- **技术与使用指标(Usage Metrics)**:作为基础运营监控,涵盖幻觉发生率(Hallucination Rates)、任务完成率(Completion Rates)、响应延迟(Latency)及准确率(Accuracy)。 - **运营效率指标(Operational Metrics)**:核心在于缩短端到端的业务流转周期(Reduction in cycle times)。 - **财务与价值指标(Value Metrics)**:通过业务方案直接挂钩成本削减(Cost Reduction)或营收增长(Topline Growth)。目前业内落地最扎实、见效最快的多为代码辅助等内部降本型智能体,但量化开发人员“究竟提升了多少生产力”依然极具挑战;而期望直接带来收入的外部智能体(例如 AI BDR、销售线索挖掘智能体)由于极度依赖“人际信任”(Human touch),整体表现仍处于摸索磨合阶段。 - **品牌信赖与客户体验(Brand & Personal Touch)**:针对面向客户的外部场景,评估建立用户信任度对业务转化的隐性拉动。 - **战略级差异化(Strategic Impact)**:虽然难以用短期财务报表量化,却关乎企业在面对“AI 原生创新企业”时能否构筑护城河。面向外部的智能体不仅关乎当前效率,更演变成一场生死攸关的存亡博弈(Existential question)和抢占市场份额的“圈地运动”(Land grab),需要整个组织自上而下达成战略共识。

现实推进中常常伴随着巨大的认知讽刺:企业高管往往一面急切催促业务部门交出“立竿见影的短期回报周期”(Immediate payback periods),一面又对见效慢的深度改造心存疑虑;这种急功近利的压力反过来迫使团队只能先挑那些微小局限、难以撼动全局的边角用例去应付交差。

[28:11](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1691s) 价值衡量的讽刺:小用例与高管预期的鸿沟

讨论深入到了企业在衡量 AI 智能体价值时普遍面临的困境与矛盾。Eric Pace 指出当前业界关于价值度量的讨论充满了讽刺意味:许多团队花费两周时间构建一个极其微小的智能体,然后试图去向管理层证明它能否拉动顶线营收(Top-line Revenue)或改善底线利润(Bottom-line Profit),答案显然是“绝不可能”("Hell no")。企业高管和首席财务官(CFO)们不断追问效能指标与投资回报,但之所以没人能给出完美答案,是因为大多数项目始终被困在细微的用例中,无法实现跨越。

Eric Pace 直言,企业不能一方面要求获得巨大商业价值,另一方面又要求在两周内看到立竿见影的回报。他真诚地建议团队应当正视这种矛盾,直接向管理层明确:“如果你想要更大的价值,我们就必须承担更多风险,并投入更多时间。”对此,Sarah Karthigan 补充指出,核心在于掌握平衡艺术——虽然无法在两周内交付彻底颠覆业务的成果,但如果小型试点能够展现出可扩展至大规模商业影响的潜力,那就是值得持续投资的方向,而非仅停留在浅层的试水实验。Murad Hasan 进一步强调了建立信任的渐进逻辑:尽管节省工时、减少人工干预和增加营收等运营 KPI 至关重要,但在初期,必须先确保小型用例的产出完全可信,在组织内部建立起信心底座,随后才能向顶层的高阶 KPI 逐步跃迁。

- **小用例与大目标的断层**:两周内开发出的单一智能体无法撼动公司大盘财务数据,过度纠结短期 ROI 会限制高价值项目的探索。 - **与管理层沟通的真实准则**:追求高价值回报必须匹配相应的风险承担意愿与更长的研发周期。 - **指标落地的进阶路径**:从验证小型场景输出的准确性与可信度入手,逐步扩展到减少人工干预率、缩短任务耗时与最终的营收贡献。

---

[30:16](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1816s) AI 不是一次性交付:从模型到基础设施的演进

Çağla Kaymaz 将话题引向行业的前瞻性布局:业内普遍坚信未来 5 到 10 年 AI 智能体将彻底重塑工作与生活方式,若企业今天不进行投入,未来将面临巨大的追赶成本。然而技术迭代日新月异,如何在今天投入资源的同时,避免系统在短时间内被淘汰废弃?

针对这一挑战,Murad Hasan 明确提出构建 AI 智能体绝不能沿用传统软件“一次性交付上线”(One-time software deployments)的固有思维。AI 是一个不断变化的动态目标("AI is a moving target"),团队的关注点必须从单纯追求当前性能转向系统的“适应能力”(Adaptability)。业界常谈论如何让模型具备前瞻性(Future-proofing),但更关键的是要确保底层基础设施具备持续演进与适应的能力。只有将基础设施设计为可动态升级的架构,系统才能在技术不断迭代的浪潮中持续释放商业价值。

```mermaid flowchart LR accTitle: AI Agent Infrastructure Evolution subgraph Mindset["传统思维 vs AI思维"] A["传统软件:一次性交付上线"] -->|转变为| B["AI 智能体:动态演进目标"] end subgraph Focus["架构重心转移"] B --> C["单点模型性能优化"] B --> D["底层基础设施适应性 (Adaptability)"] end subgraph Outcome["最终成效"] D --> E["长期业务敏捷度与持续价值交付"] end ```

---

[31:56](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1916s) “活不过一岁”的智能体与长期差异化战略

讨论触及了一个颇具戏剧性的行业现实:虽然大家常倡导将智能体视作“团队伙伴”(Teammate),但在实际研发中,这些智能体往往极易被抛弃和替代。Eric Pace 分享了其团队内部的激烈争论,他坚定地认为,除了最底层的通用工具层(Utility agent layer)之外,当前正在构建的大多数业务智能体“根本活不过它的一岁生日”("will never see their first birthday")。随着可用技术工具的更迭以及智能体引发的业务流程再造,上层智能体必须被不断修改重构;如果有人认为部署一个智能体后不需要对既有流程进行重大重组,那完全是不切实际的幻想。

Deepak Anchala 随后从产品战略维度展开分析,呼吁企业必须建立 5 到 10 年的长远愿景,明确自身在市场中的真正差异化壁垒在于专有数据(Proprietary Data)与智能体架构层。如果仅着眼于 1 到 2 年的短期目标,或许能取得短暂成效,但最终会在激烈的市场竞争中被淘汰。产品领导者需要规划清晰的自主性演进路线,避免在拥挤的赛道中盲目复制竞品已有的简单功能。

- **智能体的演进形态路径**: 1. **Prompt-Response 阶段**:被动接受提示词触发,执行基础的增删改查(CRUD)操作; 2. **Trigger-Based / Schedule 阶段**:基于外部事件或时间表自动触发,自主完成预设工作任务; 3. **Fully Autonomous 阶段**:具备高阶自主决策与复杂流程编排能力的自主智能体。 - **避免同质化竞争**:结合企业专有数据资产构建专属智能体,而非开发市场上随处可见的通用型同质工具。

---

[34:04](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2044s) 拒绝低价值消耗:构建具备适应性的核心资产

Sarah Karthigan 对智能体的生命周期策略进行了深刻反思。她提出核心拷问:我们构建智能体究竟是为了维持现有的业务运行模式,还是为了适应未来业务的演变趋势?如果一个智能体在业务体系中如此轻易即可被抛弃,那么企业从一开始就不应该耗费资源去构建它。

企业不应将精力浪费在明知明天就会失效的短期临时方案上,而应全力打造具备长期适应能力的核心资产。真正的“团队伙伴型”智能体应当深度融入组织,一旦失去它,团队会产生明显的痛感与业务真空。Sarah 强调,战略优先级的规划必须具备前瞻性,这些被精心培育的智能体未来极有可能演化为企业自身最核心的业务支柱与竞争优势。

- **战略优先级的取舍**:果断放弃短期不可持续的修补型用例,将资源聚焦于具备演进能力与核心业务粘性的智能体系统。 - **衡量智能体价值的情感与业务标尺**:评估其是否真正成为不可或缺的“核心成员”,其离线是否会对核心工作流产生实质性冲击。

---

[35:36](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2136s) 自研还是采购?现场观众关于实时无介入与数据突变的提问

Çağla Kaymaz 提出了另一个企业决策的核心维度——“自研还是外购”(Build vs. Buy)。如果内部自研一个智能体需要极高的定制化成本,且该智能体在一年内就会落后淘汰,那么企业自行开发可能并不划算;相反,外部商业软件供应商(Vendor)能够将研发成本分摊给成千上万家客户,并由专业团队持续维护升级,此时采购供应商方案对企业而言是更优的选择。

随后现场进入问答环节,一位身着蓝色上衣的观众提出了两个直击落地痛点的技术与业务问题:

1. **完全无人工在环(No Human-in-the-Loop)场景的可行性**:在实时客户支持等无法插入人工审核环节的高并发即时交互场景中,是否建议构建全自动智能体?如果构建,最佳实践是什么? 2. **检索增强生成(RAG)环境下的数据突变(Mutation)控制**:RAG 常用于控制只读的数据检索访问,但当智能体需要对数据执行写入、修改等“突变操作”时,应该如何安全有效地进行控制与约束?

针对第一个问题,Deepak Anchala 回应称这属于典型的“风险-收益评估框架”(Risk-reward Framework)。在绝大多数客户支持体系中,引入智能体是非常必要的,行业的核心逻辑在于“拦截率”(Deflection Rates)——智能体应当在前端尽可能独立消化并解决标准化、可处理的咨询工单,仅将自身无法处理的复杂长尾问题实时转交给人工作席接管。

[037:35] 自主性与风险控制:为智能体设立业务安全护栏

在讨论特定业务场景(如医疗健康)时,嘉宾们强调必须保持审慎,不能盲目将所有流程“智能体化”(agentify)。如果面对的是患者咨询病症并询问处置方案的高风险场景,现阶段绝不能完全放任自主智能体处理。智能体的落地必须根据具体的业务细微差异(business specific nuances)权衡是否适用。

```mermaid flowchart TD accTitle: 智能体安全护栏与自主权控制架构 subgraph Governance ["护栏与风险控制 (Guardrails)"] A["业务规则约束<br/>(如退款上限/操作阈值)"] B["人机协同 (Human-in-the-Loop)"] C["损失风险量化评估 (Quantify Risk)"] end subgraph Execution ["执行层 (Execution)"] D["受控自主执行<br/>(Bounded Autonomy)"] E["高风险/超阈值转人工"] end A --> D B --> D C --> D D -->|触发阈值| E ```

企业构建自主运行的智能体时,绝对不能给予其无限自由,必须设立清晰的护栏(Guardrails)。例如在客服支持场景中,可以允许智能体自主决定如何解决问题,但必须严格限制其权限——“绝不允许给客户发放超过特定金额的积分或退款”,也不能逾越预设的操作阈值。人机协同(Human-in-the-loop)越少,所需的硬性护栏就必须越多;只有当企业能够准确量化潜在损失风险,且对智能体的行为边界完全有把握时,才能真正放手让其自主运行。

[038:38] 数据访问与数据变更(Mutation)的安全护栏

针对现场关于“当智能体不仅检索数据,还需要执行数据变更(Mutation)与状态更新时该如何控制权限”的提问,嘉宾指出智能体访问数据主要有两种路径:API 与直接数据库连接。

当智能体通过 API 交互时,API 本身通常已具备权限与数据校验护栏,难点在于随着 API 的迭代演进,智能体需要具备自适应能力,准确识别并调用最新版本的 API。而当智能体通过模型上下文协议(MCP, Model Context Protocol)或直接连接数据库进行读写时,系统必须构建应对数据增量变化的机制。在向智能体输入新数据或提交更新时,必须引入“制作者-复核者”(Maker-Checker)双重验证机制作为护栏,严格审查数据变更与写入权限。

- **API 交互模式**:利用已有 API 的接口权限作为天然护栏,需处理 API 版本演进与适配。 - **直接数据库/MCP 模式**:监控数据变更增量(Delta),引入独立的 Maker-Checker 复核机制决定是否允许数据变更或回传给智能体。

[039:47] 企业落地的三大核心智能体场景与分层架构

在观众提问具体落地案例时,考克斯通信(Cox Communications)的 AI 负责人 Eric Pace 分享了他们重点部署的三大智能体方向:

1. **呼叫中心无人值守智能体(Unassisted Agent Support)**:通过确定性规则机制或生成式推理(Generative Inference)精准识别用户来电意图,在护栏限定范围内自主处理诉求,必要时再无缝转接人工坐席。 2. **研发流程左移与需求生成(Epic & User Story Generation)**:在 AI 辅助编程之外,将定制智能体嵌入敏捷开发上游,根据企业内部特定架构规范,自动生成 Epic 和用户故事(User Story)。 3. **B2B 个性化营销触达智能体**:在中台构建“超级智能体”(Super Agent)层,根据行业、客户分群及产品特性深度定制个性化沟通内容,底层则调度轻量化的“工具实用智能体”(Utility Agents)负责数据抓取、格式化和信息查询。

```mermaid flowchart TD accTitle: 超级智能体与实用智能体协作架构 subgraph SuperAgentLayer ["超级智能体调度层 (Super Agent Layer)"] SA["业务定制超级智能体<br/>(B2B 营销/行业分群/策略定制)"] end subgraph UtilityLayer ["工具实用智能体层 (Utility Agents Layer)"] U1["数据抓取智能体 (Data Fetching)"] U2["数据结构化智能体 (Structuring)"] U3["系统查询智能体 (Lookup)"] end SA --> U1 SA --> U2 SA --> U3 ```

Murad Hasan 进一步补充了行业差异对自主权的影响:在零售(Retail)及 B2C 场景中,智能体可以拥有极高的自主度去分析理解用户行为;但在法律(Legal)等对数据安全极度敏感的严谨领域,必须收紧自主权,建立极为严格的护栏并加入人工干预,确保数据绝对不发生安全泄露。

[042:26] 多行业前沿落地案例与圆桌总结

在最后的总结环节,嘉宾们快速盘点了各自在实际生产中上线的各类智能体用例,展现了智能体在工业与企业软件领域的广泛渗透:

- **工业与能源领域(Weatherford)**:上线了供应链管理与库存管理智能体(解决核心库存痛点)、智能招投标智能体(Intelligent Bidding)、常规文档对比分析智能体,以及深度的石油钻井优化智能体(Drilling Optimization Agents)。 - **开发与平台生态(Adopt AI)**:其客户构建了多元化的智能体应用,包括面向 DevTool 自动创建与管理 AWS 集群的基础设施智能体、自动化采购智能体、面向 CFO 财务侧的账单结算智能体,以及负责销售拓客的 AI BDR(业务拓展代表)智能体。

随着讨论进入尾声,主持人指出智能体的落地形式极其丰富多元,并邀请现场参会者在会后继续与各位嘉宾交流,圆桌在全场掌声中圆满结束。

## Notable quotes > [03:29](https://www.youtube.com/watch?v=SG_-AVJsso0&t=209s) 精准度(precision)、信任(trust)和差异化(differentiation) — Sarah Karthigan

> [03:29](https://www.youtube.com/watch?v=SG_-AVJsso0&t=209s) 你不可能只套一个 LLM 包装壳(LLM wrapper),然后宣称自己实现了工作流的 Agent 化——这种做法根本行不通,员工根本不会去用。 — Deepak Anchala

> [09:54](https://www.youtube.com/watch?v=SG_-AVJsso0&t=594s) Okay, go agent go. And then see you later. — Sarah Karthigan

> [11:42](https://www.youtube.com/watch?v=SG_-AVJsso0&t=702s) 出错的代价究竟有多大(What's the cost of something going wrong?) — Deepak Anchala

> [15:04](https://www.youtube.com/watch?v=SG_-AVJsso0&t=904s) put our inferencing next to the data — Eric Pace

> [28:11](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1691s) Hell no — Eric Pace

> [28:11](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1691s) 如果你想要更大的价值,我们就必须承担更多风险,并投入更多时间。 — Eric Pace

> [30:16](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1816s) AI is a moving target — Murad Hasan

> [31:56](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1916s) will never see their first birthday — Eric Pace

> [37:35](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2255s) 绝不允许给客户发放超过特定金额的积分或退款 — Deepak Anchala

## Mentioned Sarah Karthigan, Çağla Kaymaz, Murad Hasan, Deepak Anchala, Eric Pace, Weatherford, Category Ventures, Logicon, Adopt AI, Cox Communications, AWS, GCP, Tesla FSD, Model Context Protocol (MCP), RAG, RBAC

## Video description Sarah Karthigan, Vice President of Artificial Intelligence, Weatherford Çağla Kaymaz, Partner, Category Ventures Murad Hasan, Chief Executive Officer, Logicon Deepak Anchala, Co-founder & CEO, Adopt AI Eric Pace, Head of AI, Cox Communications

Abstracts AI agents are not one-size-fits-all—successful deployment requires careful customization to align with business goals, workflows, and industry-specific challenges. This panel will explore how organizations are fine-tuning AI agents through prompt engineering, reinforcement learning, domain-specific training, and integration with proprietary data. Experts will share insights on balancing autonomy with control, ensuring AI agents deliver meaningful results while staying aligned with company values and compliance requirements. Whether you're looking to enhance customer interactions, automate decision-making, or streamline operations, this discussion will provide a roadmap for customizing AI agents to maximize impact.

[Source](https://www.youtube.com/watch?v=SG_-AVJsso0)

中文简报

因数据安全考量,Cox与Weatherford AI主管限制智能体自主权 企业级AI智能体需要严格的定制与数据防护栏,因为现成模型在复杂的企业环境中难以奏效,且大多数顶层智能体面临一年内被淘汰的境遇。 该专家小组探讨了在企业部署中定制AI智能体而非依赖现成解决方案的务实策略。发言嘉宾详细阐述了如何在人机协同控制与完全自主之间取得平衡,如何构建诸如模型上下文协议(MCP)和检索增强生成(RAG)等稳固的数据安全框架,以及如何驾驭由编排(Orchestrator)、超级(Super)和实用(Utility)智能体组成的三层架构。他们还坦诚讨论了大型企业在衡量投资回报率(ROI)时的两难困境、短期智能体实现的迅速过时,以及涵盖呼叫中心、软件工程、供应链管理和B2B营销的实际落地案例。 当涉及精度、安全性、品牌信任及核心价值观时,企业必须对 AI Agent 进行深度定制,而通用的开箱即用型 Agent 往往难以应对混乱的内部 API 与专有数据环境。 (0:32) 目前仅有不到 10% 的企业用例实现了完全自主的 Agent 运作;企业普遍采用人机协同(HITL)机制,仅将高频且低风险的任务完全交由 Agent 自主处理。 (0:48) Cox Communications 提出了一种三层操作架构(编排 Agent、超级 Agent 和实用 Agent),通过将任务解构为模块化单元,有效治理多 Agent 系统的复杂度与数据访问权限。 (16:03) 安全合规与 RBAC 访问权限治理是阻碍企业扩展数千个 Agent 的最大瓶颈;相比直接微调模型,采用 RAG 可以防止企业专有资产被永久写入模型权重。 (18:15) 由于业务流程演进迅速,大多数顶层 Agent 的使用寿命可能不足一年,专家建议企业应投资于长期的模块化基础设施,而非一次性静态部署。 (31:11)

精炼阅读摘要

在由 Ai4 主持的研讨会上,来自 Logicon、Adopt AI、Weatherford 与 Cox Communications 的企业高管指出,通用现成方案无法满足高风险的企业级需求,定制化 AI Agent 必须依托专有数据与严格的治理护栏;同时,企业应通过分层架构与人在回路机制,在控制失败风险的前提下平衡自主性与长期投资回报。 定制驱动:品牌契约、专有数据与失败成本 (0:32) 现成(Off-the-shelf)第三方 Agent 难以直接适应复杂的企业环境。Weatherford 的 Sarah Karthigan 指出,在能源等高合规与安全敏感行业,安全关乎生命底线,仅依靠通用行业语料训练的模型无法安全评估风险,必须基于企业内部历史数据与风险承受度进行深度定制。只要业务涉及企业核心竞争力、安全记录或品牌信任,定制化就是必选项。Logicon 的 Murad Hasan 与 Adopt AI 的 Deepak Anchala 补充说明,零售等高上下文业务需要 Agent 解析跨部门孤岛数据与消费模式,且对外交互的 Agent 必须精准呈现企业的独特品牌形象;由于企业实际的 API 与底层数据往往杂乱无章,简单的外层套壳工具在面对专有工作流时普遍失效。 自主权分级与人在回路的现实约束 (0:48) 确定 Agent 的自主权界限取决于错误的可逆性与潜在损失。Anchala 提出了类似自动驾驶的 1 至 5 级分类法,主张将基础客服工单分流等高频低风险任务全自动化,而在重大财务交易或战略决策等高风险、低频场景中保留人工验证。主持人 Çağla Kaymaz 与 Hasan 强调,规则明确、低方差的任务最适合自主执行,而不可逆且面向客户的差错必须引入人工干预。在企业落地现状方面,Cox Communications 的 Eric Pace 表示,目前几乎所有企业流程默认均包含人在回路(HITL),行业数据显示成功部署全自主 Agent 的企业不足 10%,核心瓶颈在于多数公司无法将底层数据清洗到足以建立完全信任的水准。当面向客户的实时场景无法设置人工审核时,必须施加硬性限制(如退款金额上限)及双人复核(maker-checker)验证机制以防越权。 三层架构设计与企业安全访问瓶颈 (16:03) 为消除市场上“部署数百个 Agent”的营销夸大,Pace 阐述了实操中的三层架构模型:顶层为协调并追踪任务的编排 Agent(Orchestrator Agent);中层为融入业务定制与人工监督的超级 Agent(Super Agents);底层则是高复用、低权限、仅执行简单重复任务的基础工具 Agent(Utility Agents)。这种模块化结构让企业在不增加管理复杂度的前提下,对输入输出实施严格治理。然而,安全治理仍是制约规模化扩展的最大障碍。Anchala 将缺乏管控的 Agent 比作失控野兽,强调生产环境必须部署模型上下文协议(MCP)服务器、基于角色的访问控制(RBAC)以及传输和静态加密。Pace 指出,当前 Agent 与 MCP 协议缺乏原生安全框架,绝大多数现有方案无法动态继承用户原有的企业 RBAC 权限。对此,Karthigan 建议采用检索增强生成(RAG)而非微调模型,以只读方式检索知识,避免敏感资产被永久固化进模型权重中引发合规风险。 投资回报矛盾与 Agent 的生命周期悖论 (23:36) 在衡量商业回报方面,企业管理层面临即时变现与战略投入的矛盾。Karthigan 强调 AI 项目不能为了验证技术而立项,必须从运营指标(压缩周期与人力)、财务影响(降本增收)、品牌信任与长期战略四个维度设定 KPI。Anchala 指出,代码生成 Agent 已验证了降本成效,但负责业务拓展与销售的外部 Agent 因缺乏人际交互温度仍未被充分证明。Pace 揭示了企业 ROI 的悖论:高管往往苛求两周内的极短投资回报期,迫使团队选择微小场景,而这类场景本质上无法拉动整体营收或利润,AI 领导者必须主动引导管理层承担更多风险以换取更大价值。与此同时,Pace 提出业务层面的 Agent 大多生命周期极短,由于业务流程迭代迅猛,顶层业务 Agent 往往活不过一周年;Anchala 与 Karthigan 进而建议,企业不应耗费资源构建一次性工具,而应制定 5 至 10 年的长期技术底座规划,确保关键应用具备战略替代成本与长期适应力。 跨行业落地实践与工程化部署范例 各行业在落地 Agent 时展现出明显的自主权差异与场景特征。Anchala 归纳称,零售与 B2C 场景通常依据消费者行为赋予 Agent 较高的自主决策权,而法律行业则因强合规要求必须维持低自主性与全流程人工介入。在具体部署实例中,Pace 介绍了 Cox Communications 的三大方向:一是在呼叫中心使用具备确定性边界的自主 Agent 进行意图识别与业务分流;二是在软件研发上游部署定制 Agent,直接编写符合内部架构规范的 Epic 与用户故事;三是通过超级 Agent 层生成按客群定制的 B2B 营销内容,并由底层工具 Agent 处理数据检索。Karthigan 则透露 Weatherford 已在供应链库存管理、智能招投标、文档智能比对以及钻井作业优化中实际嵌入了协同 Agent;而 Adopt AI 的客户也在 AWS 集群运维、采购审批及财务计费流程中广泛应用了 Agent 方案。 当前企业在推进 AI Agent 时面临的核心未解问题,在于如何在应用层 Agent 高度易耗、生命周期可能不足一年的现实下,平衡内部定制自研与外部采购的经济效益,同时在底层基础设施层面解决 MCP 协议与既有 RBAC 权限体系无缝集成的安全技术瓶颈。

Detailed notes — zh

## Background 本内容由 Ai4 于 2025 年 8 月 29 日发布在 YouTube 平台上。视频记录了一场由 Category Ventures 合伙人主持、汇聚了来自 Weatherford、Logicon、Adopt AI 及 Cox Communications 等企业高管与技术领袖的圆桌讨论,主要探讨企业如何根据自身业务目标、工作流与行业特定挑战来定制化 AI Agent,并平衡自主权与合规控制。 ## TL;DR 圆桌深入剖析了企业落地 AI Agent 时在“开箱即用”与“深度定制”之间的权衡,强调在高精度、强信任与差异化场景中结合专有数据的必要性。嘉宾们提出了基于“出错代价与任务形态”的自主权分配决策框架,以及由协调 Agent、业务超级 Agent 和底层实用 Agent 组成的三层系统架构。针对从 PoC 跨越到生产级所面临的数据安全、RBAC 权限穿透、数据突变(Mutation)控制以及真实 ROI 评估困境,与会专家分享了包括“制作者-复核者”双重验证在内的前沿治理实践与多行业真实落地案例。 ## Atmosphere & style 整场圆桌务实坦诚、直击企业落地痛点,嘉宾们毫无行业浮夸之气,而是以一线操盘手的视角直面技术理想与企业现实之间的巨大鸿沟。对话在幽默与犀利之间自然流转,既有关于“大多数 Agent 活不过一岁”的现实拷问,也有对企业高管急功近利追求短期 ROI 的清醒反思。多位不同背景的领袖在敏锐的思辨碰撞中逐步凝聚共识,让听众深刻感受到 AI 从实验室 Demo 迈向复杂生产系统时所需的敬畏与工程严谨度。 ## Key takeaways - [03:29](https://www.youtube.com/watch?v=SG_-AVJsso0&t=209s) 通用开箱即用方案无法替代深度定制:在涉及精准度、信任底线与业务差异化的关键场景中,必须结合企业内部专有数据、风险偏好与操作规范构建专属 Agent。 - [08:35](https://www.youtube.com/watch?v=SG_-AVJsso0&t=515s) 自主权分配遵循‘高频低风险放权、高风险低频留人’的原则,目前行业内仅有不到 10% 的企业真正落地了完全自主的 Agentic 场景,绝大多数仍依赖人机协同(HITL)。 - [11:42](https://www.youtube.com/watch?v=SG_-AVJsso0&t=702s) 评估 Agent 是否应获得完全自主权的核心过滤器在于‘出错代价有多大’以及‘结果是否可逆’,可撤回且规则确定的高重复任务适合全面放权。 - [15:04](https://www.youtube.com/watch?v=SG_-AVJsso0&t=904s) 企业级 Agent 架构普遍采用三层模型:顶层 Orchestrator 负责全局调度,中层 Super Agent 承载业务定制与人机协同,底层 Utility Agent 专注执行原子化且通用的重复任务。 - [18:31](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1111s) 从 PoC 走向生产环境的最大阻碍在于原生安全机制的缺失,特别是向量数据库与文件存储中难以准确继承并执行企业级 RBAC 权限控制。 - [20:06](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1206s) 面对专有核心资产,RAG 相比模型微调(Fine-tuning)更具数据隔离优势,能够避免战略资产参数化外溢并在检索时直接嵌入动态 RBAC 权限过滤。 - [28:11](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1691s) 企业衡量 AI 价值存在断层:两周内搭建的小用例根本无法直接撼动大盘财务回报,追求高商业价值必须匹配更长的研发周期与更高的风险承受度。 - [30:16](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1816s) 构建 Agent 需告别传统软件‘一次性交付上线’思维,AI 是动态演进的目标,架构重心应从优化单点模型性能转向提高底层基础设施的适应性。 - [31:56](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1916s) 除底层通用工具层外,绝大多数业务层智能体‘活不过一岁’,随着业务流程再造必须持续重构,企业的长期差异化壁垒在于专有数据资产与架构层。 - [37:35](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2255s) 在缺乏人工介入的即时交互场景中,必须引入硬性业务护栏(如操作金额上限与调用阈值);人机协同越少,所需的确定性护栏就必须越严密。 - [38:38](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2318s) 当智能体涉及直接写库或数据变更(Mutation)操作时,除了遵循 API 接口约束外,需针对增量数据引入‘制作者-复核者’(Maker-Checker)双重验证机制。 - [39:47](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2387s) Agent 落地正在各垂直领域规模化分化:零售与客服聚焦高自主度的意图识别与分流,研发上游渗透至需求生成,而能源等工业领域则深耕供应链与钻井工艺优化。 ## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=SG_-AVJsso0&t=4s) 圆桌嘉宾背景与 AI Agent 业务交集介绍 主持人 Çağla Kaymaz(Category Ventures 合伙人,常驻旧金山的种子轮投资人)开场并欢迎观众,她表示自己的投资与研究重心聚焦在 AI 技术栈(从底层基础设施到上层应用),尤其是近期火热的 AI Agent 领域。随后,她邀请四位来自不同领域的嘉宾介绍各自的背景以及 Agent 技术如何融入他们当下的工作。 Logicon 首席执行官 Murad Hasan 首先发言,他指出 Logicon 致力于构建并集成能够主动适应企业业务的 AI Agent,而不仅仅是做简单任务的机械自动化。他们将 Agent 定义为企业的“运营队友”(operational teammates)或“嵌入式副驾驶”(embedded co-pilots),因为这些 Agent 直接在决策与推荐层面上产生影响,这也使得系统定制化变得尤为关键。 Adopt AI 联合创始人兼首席执行官 Deepak Anchala 介绍道,Adopt AI 作为一个面向工程和产品管理团队的 Agent 构建平台,帮助应用软件公司在产品内部和外部快速上线 Agent。他强调,相比传统非智能应用,Agent 的核心优势在于用户只需使用自然语言指令即可达成目标结果,无需经历复杂的应用软件学习成本。 Weatherford(威德福国际)人工智能副总裁 Sarah Karthigan 分享了自己在能源行业深耕 20 年利用数据和 AI 推动数字化转型的经验。她指出,Weatherford 已经走出了实验室的试验阶段,将 Agent 真正嵌入到了关键业务工作流中,员工们不仅将它们视为工具,更当作并肩作战的协作者。 Cox Communications(考克斯通信)人工智能负责人 Eric Pace 介绍了公司作为连接服务提供商在美国西南、中西部和东部多个州的业务版图。在 AI 方面,他负责从战略规划到落地实施的全流程,目前不仅在推进企业级 Agent 的构建,还在推行“平民开发者”(citizen development)理念,激励全员动手构建属于自己的 Agent,以规模化激发创新想法并提升全公司的 AI 素养与采纳度。 --- ### [03:29](https://www.youtube.com/watch?v=SG_-AVJsso0&t=209s) 定制化 Agent 与通用开箱即用方案的权衡 针对市场上第三方及开箱即用(off-the-shelf)Agent 层出不穷的现状,主持人 Çağla Kaymaz 提出核心疑问:不同企业的业务模式与痛点各异,适合企业 A 的方案往往无法照搬给企业 B,企业该如何判断哪些场景和垂直领域必须进行深度定制,哪些场景可以直接采用通用方案? Sarah Karthigan 从能源大厂的实操经验切入,她笑称自己几乎每天都会遇到各种供应商推销他们现成的 Agent,声称“只要插进工作流,一切就能自动搞定”。但在真实企业环境中,Agent 必须体现该公司的独特价值观、战略布局以及业务价值创造方式。她以能源行业的安全问题为例,指出安全在能源领域是生死攸关的绝对核心底线,一旦出错就可能导致人员伤亡。因此,仅仅依赖基于行业公开数据训练的通用 Agent 绝不可行,必须结合企业内部专有数据进行深度定制,将企业的风险容忍度、历史事故处理经验以及具体操作规范融入模型中。Sarah 总结道,在所有涉及**“精准度(precision)、信任(trust)和差异化(differentiation)”**的关键场景,定制化都是必不可少的。 ```mermaid flowchart TD accTitle: Customization Decision Framework for AI Agents subgraph Drivers["定制化核心驱动要素"] D1["精确度要求 (Precision)"] D2["信任与合规底线 (Trust)"] D3["品牌与业务差异化 (Differentiation)"] end subgraph Data["数据与业务上下文"] C1["企业专有数据与历史经验"] C2["企业风险容忍度与价值观"] C3["复杂 API 与分散数据孤岛"] end subgraph Solutions["Agent 落地形态"] S1["开箱即用 Agent (标准/低风险流程)"] S2["深度定制化 Agent (关键/高风险工作流)"] end Drivers --> C1 & C2 C1 & C2 & C3 --> S2 ``` Deepak Anchala 从 Agent 构建平台的视角补充说明,像医疗健康、金融服务等强监管行业固然需要严密的制衡与合规机制,但事实上几乎所有与他们接洽的企业都需要定制化。正如企业从做网页到做移动端 App 一样,对外发布的 Agent 需要传递独特的品牌形象与人设,而对内提供给团队的 Agent 则必须解决杂乱的数据、混乱的 API 以及复杂的业务工作流。“你不可能只套一个 LLM 包装壳(LLM wrapper),然后宣称自己实现了工作流的 Agent 化——这种做法根本行不通,员工根本不会去用。” Murad Hasan 进一步提炼出“富上下文环境”(rich context environments)的概念。如果业务不仅数据量庞大,而且数据形态各异且分散在各个业务孤岛中,Agent 就必须学会该组织的“专属语言”。以零售行业为例,Agent 仅掌握产品目录是远远不够的,还必须深刻理解消费者的行为模式和购买习惯。企业内部跨部门的数据孤岛越多、上下文越复杂,就越必须通过定制化来释放预期的业务效能。 --- ### [08:35](https://www.youtube.com/watch?v=SG_-AVJsso0&t=515s) 人在回路(HITL)与任务自主权分配框架 在探讨了上下文、品牌和风险之后,Çağla Kaymaz 引导大家探讨自主性与风险控制之间的平衡:虽然业界一直在畅想高度自主的智能体,但现实中很多企业出于风险考量仍保留了“人在回路”(Human-in-the-Loop, HITL)机制。企业在面向客户或内部场景构建 Agent 时,应如何界定哪些任务可以完全放权给 Agent,哪些任务必须保留人工审核与确认? Deepak Anchala 给出了一个清晰的决策矩阵框架: - **高频低风险(High Frequency, Low Risk)流程**:应尽可能实现完全自动化与自主执行。 - **高风险低频(High Risk, Low Frequency)流程**:例如重大战略决策、大额高价值交易等,目前仍必须保持人在回路进行审核验证,不能赋予完全自主权。 Deepak 将 Agent 的自主程度比作 1 到 5 级的划分标准(5 级为最高自主),不同行业与场景会处于不同的等级。这正如特斯拉的 FSD(完全自动驾驶)功能一样,每位车主和用户在实际使用时都会根据具体路况和自身信任度选择不同的介入程度与使用模式。 ### [09:54](https://www.youtube.com/watch?v=SG_-AVJsso0&t=594s) 自主权边界与人机协同的天然存在 不同行业与业务场景对 AI Agent 自主权的需求大相径庭,正如许多人开特斯拉,但有人偏爱全自动驾驶模式,有人则习惯自行操控。在客户支持这类高重复性、低风险的职能中,企业可以赋予 Agent 极高的自主权以实现自动化;而在涉及人际关系与信任构建的销售场景中,Agent 现阶段更多是作为辅助工具帮助销售人员成单。因此,在赋予 Agent 自主权之前,必须审视行业属性、业务职能以及风险收益与执行频率的平衡。 从端到端的业务流程来看,“人机协同(Human-in-the-loop)”在当前阶段几乎是默认且不可避免的。除非一整条价值链实现了百分之百的端到端全自动闭环,否则 AI Agent 生产出的任何中间结果,在流程下游必然有一个人类员工去接收并执行下一步。如果该员工不去审核或查验 Agent 产出的质量,那本质上就是该员工在流程中的履职表现问题。当前业界鲜有企业能彻底解决数据质量与边界划分难题,以至于能放心对 Agent 说“去吧,别管了(Okay, go agent go. And then see you later.)”。市场上数据显示只有不到 10% 的企业真正落地了完全自主的 Agentic 用例,绝大多数场景仍需要长期的“人机协同”作为安全网。 - **用例成熟度现状**:目前全行业仅有不到 10% 的企业跑通了高阶、完全自主的 Agentic 场景,核心瓶颈在于无法将业务场景和数据治理简化到足以完全信任的离散可控状态。 --- ### [11:42](https://www.youtube.com/watch?v=SG_-AVJsso0&t=702s) 权衡自主权与控制的核心过滤器 评估是否给予 Agent 完全自主权,可以归结为一个极简的决策过滤器:“出错的代价究竟有多大(What's the cost of something going wrong?)?”当失败后果严重时,哪怕 Agent 完全具备独立完成任务的能力,也必须强制引入人类干预。反之,当业务价值直接与执行速度和效率的跨越式提升挂钩时——例如客服工单的快速分流(Triaging)或日常运营报表的自动汇编——就应当给 Agent 充分放权,把人类员工从繁重的手工劳作中解放出来,专注于高阶判断与战略决策。 评估自主权风险还应聚焦于三个维度的核心问题:首先是“错误的破坏力”,即系统失误是否会导致直接财务损失或企业信誉瓦解;其次是“规则的清晰度”,如果业务逻辑边界清晰、规则完备,自主执行的成功率便极高;最后是“任务形态”,高容量、高重复度且低变异性的任务,天然是 Agent 自主运行的最佳土壤。此外,结果的“可逆性(Reversibility)”同样是关键考量:将客服工单分流错误还可以召回重审,但直接向外部客户发送错误回复则具有不可挽回的外部影响。 | 评估维度 | 高自主权适用场景(Full Autonomy) | 受限/强人工介入场景(Human-in-the-Loop) | |:--- |:--- |:--- | | **错误代价与可逆性** | 代价微弱,失误后可撤回或易修正(如内部工单初筛打标) | 涉及重大财务风险、法律合规或用户品牌信任(如合同签订、对外发布) | | **规则明确程度** | 拥有固化、确定性的 SOP 与清晰判定逻辑 | 依赖直觉、柔性谈判、情感互动或模糊边界的主观判断 | | **任务形态特征** | 高吞吐量、高度重复、变异度极低(Low-variation tasks) | 长尾非标场景、高定制化、偶发性复杂的单点决策 | --- ### [15:04](https://www.youtube.com/watch?v=SG_-AVJsso0&t=904s) 数据基础设施与三层 Agent 架构模型 在将敏感企业数据与特定行业数据接入 Agent 提示词与模型推理时,企业必须建立坚实的数据隐私与基础设施屏障。在技术路线上,可以通过保留本地私有化基础设施(On-prem)来运行核心 Agent 推理,并在 AWS 或 GCP 等多云环境中精细管控数据与算力部署,坚持“模型就近部署于数据旁(put our inferencing next to the data)”,严格限制无节制的组件间通信。针对业界频繁宣传的“构建了上百个 Agent”的营销炒作,实际上这些用例往往被拆解为极小颗粒度、可精准监控输入输出的微小组件协同运行。 ```mermaid flowchart TD accTitle: 现代企业三层 Agent 架构模型 subgraph Layer1["协同层 Orchestration Layer"] A["协调 Agent (Orchestrator Agent)<br/>全局工作流调度与任务分派"] end subgraph Layer2["业务定制层 Business Logic Layer"] B["超级 Agent 1 (Super Agent)<br/>适配特定业务线定制逻辑与人机协同"] C["超级 Agent 2 (Super Agent)<br/>适配差异化业务流程"] end subgraph Layer3["底层基础层 Utility Layer"] D["实用 Agent A (Utility Agent)<br/>不可调用下级 / 专注通用重复任务"] E["实用 Agent B (Utility Agent)<br/>跨企业级复用 / 严格数据权限管控"] end A --> B A --> C B --> D B --> E C --> E ``` 企业在实践中普遍推行由三层体系构成的落地架构: 1. **顶层协调 Agent(Orchestrator Agents)**:充当全局指挥调度角色,负责监控多方任务进度,确保所有参与组件协同运作。 2. **中层超级 Agent(Super Agents)**:深度结合具体业务场景进行定制化,承载特定业务单元的差异化流程,同时也是嵌入“人机协同(Human-in-the-loop)”与业务规则的核心管控层。 3. **底层实用 Agent(Utility Agents)**:作为系统级“主力军(Workhorses)”,专注执行最原子化、高度可复用的底层任务;此类 Agent 无法向下递归调用其他 Agent,严格对外暴露可控的数据读写权限,从而实现企业级能力的模块化复用。 当庞大的 Agent 矩阵协同运作时,必须为其套上严格的护栏机制(Guardrails)。未经约束的 Agent 就像脱缰野兽,只有在严密的安全防护与策略监控下,才能确保其稳定运行在企业既定轨道之内。 ### [18:31](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1111s) 从概念验证到生产级:数据安全与 RBAC 权限控制的深水区 当讨论从简单的 API 交互转向真正让智能体接触底层企业数据时,技术落地面临着完全不同的安全挑战。在实验环境或概念验证(PoC)阶段,开发者往往只需关注生成输出是否符合预期;然而,一旦步入生产环境,系统面对的是高度敏感的企业内部资产以及复杂的非 RBAC(基于角色的访问控制)权限机制。此时必须妥善处理一系列基础设施级的问题:是否需要构建专门的 MCP(Model Context Protocol)服务器?如何在全流程中落实 RBAC?传输中(in-transit)和静态(at-rest)数据该如何加密?即使发生意外的数据泄漏,又该如何设立兜底防御?部署一套企业级生产智能体,其工程复杂度与在临时测试台上跑 Demo 截然不同。 这种安全层面的缺失正是阻碍智能体实现大规模落地的核心瓶颈之一。目前市面上的 Agent 架构和 MCP 协议在设计之初普遍缺乏内置的原生安全防护机制。一旦让智能体直接访问底层数据,企业往往不得不冒着在应用层重复配置和镜像整套安全策略的巨大风险,而这在安全合规层面几乎是不可接受的。许多企业之所以迟迟不敢将成千上万个智能体推向生产线,根源就在于没人愿意在 MCP 通信边界模糊、智能体行为不可控的情况下接手运维这一套庞大冗余的安全镜像。更棘手的是,当智能体检索被存放在向量数据库(Vector Store)或本地文件存储中的内容时,极少有现成解决方案能够准确继承原本的数据访问控制规则,并根据发起请求的具体用户身份严格穿透执行这些权限。 ```mermaid flowchart TD accTitle: 生产级智能体数据权限与安全隔离流程 subgraph ClientLayer["客户端与身份层"] User["请求用户 (Requestor)"] RBAC["身份与权限上下文 (RBAC Context)"] User --> RBAC end subgraph AgentLayer["智能体编排与治理层"] Agent["AI 智能体 / MCP 服务"] Guard["安全围栏 & 传输加密 (TLS/At-Rest)"] RBAC --> Agent Agent --> Guard end subgraph DataLayer["企业敏感数据资产"] RAG["知识检索 (只读/无永久存储)"] Proprietary["专有战略资产 (严格受控隔离)"] Guard --> RAG Guard -.->|"阻止越权访问"| Proprietary end ``` ### [20:06](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1206s) 模块化编排与数据保护:微调训练与 RAG 检索的架构博弈 面对上述安全困局,一种可行的技术路径是构建模块化的多智能体编排框架。在该体系中,企业能够高度灵活地即插即用不同的数据源与底层大模型,依靠一个具备全局理解能力的中央编排器(Orchestrator)来解析复杂的业务需求,进而动态调度多个专业智能体协同执行任务。无论是采用纯本地部署(On-Prem)还是依托云端架构,数据安全都绝无妥协余地。如果某个智能体绕过了控制防线,接触到了未授权的数据,它就极可能基于错误或敏感的信息做出失控决策,瞬间在业务系统中引发不可收拾的连锁反应。 企业在处理“秘密武器”(Secret Sauce)——即核心专有数据时,必须审慎权衡训练(Fine-tuning)与检索增强生成(RAG)的技术选型: ``` +------------------+-----------------------------------------------------+-----------------------------------------------------+ | 维度 | 专有数据微调训练 (Fine-Tuning) | 知识库检索增强 (RAG-Based) | +------------------+-----------------------------------------------------+-----------------------------------------------------+ | 核心机理 | 将战略资产权重直接固化到模型参数中 | 仅在需要时进行实时检索,知识库只读不落盘 | | 数据暴露风险 | 模型输出可能无意识吐露底座训练语料 | 严格限制在单次会话上下文中,不造成永久性外溢 | | 权限继承难度 | 极高:模型难以对不同权限层级的用户做动态切分 | 相对可控:可在检索前置过滤器中直接应用 RBAC 规则 | | 利益相关方诉求 | AI 团队追求灵活性与上下文饱和度 | 法务与合规团队追求可审计性、确定性与数据留痕透明度 | +------------------+-----------------------------------------------------+-----------------------------------------------------+ ``` 对于法务与合规团队而言,系统的透明度和可审计性(Auditability)是不可逾越的红线;而算法与业务团队则往往渴望尽可能开放的数据访问权限以保障上下文的丰富度。在两派势力的拉扯中,找到“上下文丰富度与数据资产防护之间的平衡”往往是“说起来容易做起来难”(Easier said than done)。然而,唯有通过创造性的安全架构将权限控制无缝贯穿整个智能体网络,企业才能真正拥有坚实的数据隐私层,建立将 AI 推向生产的底气。 ### [23:36](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1416s) 走出 PoC 的成本深渊:商业价值指标与 ROI 评估体系 从技术原型跨越到生产系统不仅面临架构挑战,更伴随着高昂的真实成本:密集的人力投入、庞大的云端算力开销、漫长的集成测试周期以及潜在的失误风险。当管理层直截了当地追问“投资回报率(ROI)到底在哪里”时,AI 领袖不能再以“证明技术的先进性”为借口。任何不能切实推动业务结果(Move the needle)的用例,即便技术构想再惊艳,也必须在优先级排序中被果断淘汰。 构建严谨的落地价值评估框架需要将指标拆分为多个互为支撑的维度: - **技术与使用指标(Usage Metrics)**:作为基础运营监控,涵盖幻觉发生率(Hallucination Rates)、任务完成率(Completion Rates)、响应延迟(Latency)及准确率(Accuracy)。 - **运营效率指标(Operational Metrics)**:核心在于缩短端到端的业务流转周期(Reduction in cycle times)。 - **财务与价值指标(Value Metrics)**:通过业务方案直接挂钩成本削减(Cost Reduction)或营收增长(Topline Growth)。目前业内落地最扎实、见效最快的多为代码辅助等内部降本型智能体,但量化开发人员“究竟提升了多少生产力”依然极具挑战;而期望直接带来收入的外部智能体(例如 AI BDR、销售线索挖掘智能体)由于极度依赖“人际信任”(Human touch),整体表现仍处于摸索磨合阶段。 - **品牌信赖与客户体验(Brand & Personal Touch)**:针对面向客户的外部场景,评估建立用户信任度对业务转化的隐性拉动。 - **战略级差异化(Strategic Impact)**:虽然难以用短期财务报表量化,却关乎企业在面对“AI 原生创新企业”时能否构筑护城河。面向外部的智能体不仅关乎当前效率,更演变成一场生死攸关的存亡博弈(Existential question)和抢占市场份额的“圈地运动”(Land grab),需要整个组织自上而下达成战略共识。 现实推进中常常伴随着巨大的认知讽刺:企业高管往往一面急切催促业务部门交出“立竿见影的短期回报周期”(Immediate payback periods),一面又对见效慢的深度改造心存疑虑;这种急功近利的压力反过来迫使团队只能先挑那些微小局限、难以撼动全局的边角用例去应付交差。 ### [28:11](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1691s) 价值衡量的讽刺:小用例与高管预期的鸿沟 讨论深入到了企业在衡量 AI 智能体价值时普遍面临的困境与矛盾。Eric Pace 指出当前业界关于价值度量的讨论充满了讽刺意味:许多团队花费两周时间构建一个极其微小的智能体,然后试图去向管理层证明它能否拉动顶线营收(Top-line Revenue)或改善底线利润(Bottom-line Profit),答案显然是“绝不可能”("Hell no")。企业高管和首席财务官(CFO)们不断追问效能指标与投资回报,但之所以没人能给出完美答案,是因为大多数项目始终被困在细微的用例中,无法实现跨越。 Eric Pace 直言,企业不能一方面要求获得巨大商业价值,另一方面又要求在两周内看到立竿见影的回报。他真诚地建议团队应当正视这种矛盾,直接向管理层明确:“如果你想要更大的价值,我们就必须承担更多风险,并投入更多时间。”对此,Sarah Karthigan 补充指出,核心在于掌握平衡艺术——虽然无法在两周内交付彻底颠覆业务的成果,但如果小型试点能够展现出可扩展至大规模商业影响的潜力,那就是值得持续投资的方向,而非仅停留在浅层的试水实验。Murad Hasan 进一步强调了建立信任的渐进逻辑:尽管节省工时、减少人工干预和增加营收等运营 KPI 至关重要,但在初期,必须先确保小型用例的产出完全可信,在组织内部建立起信心底座,随后才能向顶层的高阶 KPI 逐步跃迁。 - **小用例与大目标的断层**:两周内开发出的单一智能体无法撼动公司大盘财务数据,过度纠结短期 ROI 会限制高价值项目的探索。 - **与管理层沟通的真实准则**:追求高价值回报必须匹配相应的风险承担意愿与更长的研发周期。 - **指标落地的进阶路径**:从验证小型场景输出的准确性与可信度入手,逐步扩展到减少人工干预率、缩短任务耗时与最终的营收贡献。 --- ### [30:16](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1816s) AI 不是一次性交付:从模型到基础设施的演进 Çağla Kaymaz 将话题引向行业的前瞻性布局:业内普遍坚信未来 5 到 10 年 AI 智能体将彻底重塑工作与生活方式,若企业今天不进行投入,未来将面临巨大的追赶成本。然而技术迭代日新月异,如何在今天投入资源的同时,避免系统在短时间内被淘汰废弃? 针对这一挑战,Murad Hasan 明确提出构建 AI 智能体绝不能沿用传统软件“一次性交付上线”(One-time software deployments)的固有思维。AI 是一个不断变化的动态目标("AI is a moving target"),团队的关注点必须从单纯追求当前性能转向系统的“适应能力”(Adaptability)。业界常谈论如何让模型具备前瞻性(Future-proofing),但更关键的是要确保底层基础设施具备持续演进与适应的能力。只有将基础设施设计为可动态升级的架构,系统才能在技术不断迭代的浪潮中持续释放商业价值。 ```mermaid flowchart LR accTitle: AI Agent Infrastructure Evolution subgraph Mindset["传统思维 vs AI思维"] A["传统软件:一次性交付上线"] -->|转变为| B["AI 智能体:动态演进目标"] end subgraph Focus["架构重心转移"] B --> C["单点模型性能优化"] B --> D["底层基础设施适应性 (Adaptability)"] end subgraph Outcome["最终成效"] D --> E["长期业务敏捷度与持续价值交付"] end ``` --- ### [31:56](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1916s) “活不过一岁”的智能体与长期差异化战略 讨论触及了一个颇具戏剧性的行业现实:虽然大家常倡导将智能体视作“团队伙伴”(Teammate),但在实际研发中,这些智能体往往极易被抛弃和替代。Eric Pace 分享了其团队内部的激烈争论,他坚定地认为,除了最底层的通用工具层(Utility agent layer)之外,当前正在构建的大多数业务智能体“根本活不过它的一岁生日”("will never see their first birthday")。随着可用技术工具的更迭以及智能体引发的业务流程再造,上层智能体必须被不断修改重构;如果有人认为部署一个智能体后不需要对既有流程进行重大重组,那完全是不切实际的幻想。 Deepak Anchala 随后从产品战略维度展开分析,呼吁企业必须建立 5 到 10 年的长远愿景,明确自身在市场中的真正差异化壁垒在于专有数据(Proprietary Data)与智能体架构层。如果仅着眼于 1 到 2 年的短期目标,或许能取得短暂成效,但最终会在激烈的市场竞争中被淘汰。产品领导者需要规划清晰的自主性演进路线,避免在拥挤的赛道中盲目复制竞品已有的简单功能。 - **智能体的演进形态路径**: 1. **Prompt-Response 阶段**:被动接受提示词触发,执行基础的增删改查(CRUD)操作; 2. **Trigger-Based / Schedule 阶段**:基于外部事件或时间表自动触发,自主完成预设工作任务; 3. **Fully Autonomous 阶段**:具备高阶自主决策与复杂流程编排能力的自主智能体。 - **避免同质化竞争**:结合企业专有数据资产构建专属智能体,而非开发市场上随处可见的通用型同质工具。 --- ### [34:04](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2044s) 拒绝低价值消耗:构建具备适应性的核心资产 Sarah Karthigan 对智能体的生命周期策略进行了深刻反思。她提出核心拷问:我们构建智能体究竟是为了维持现有的业务运行模式,还是为了适应未来业务的演变趋势?如果一个智能体在业务体系中如此轻易即可被抛弃,那么企业从一开始就不应该耗费资源去构建它。 企业不应将精力浪费在明知明天就会失效的短期临时方案上,而应全力打造具备长期适应能力的核心资产。真正的“团队伙伴型”智能体应当深度融入组织,一旦失去它,团队会产生明显的痛感与业务真空。Sarah 强调,战略优先级的规划必须具备前瞻性,这些被精心培育的智能体未来极有可能演化为企业自身最核心的业务支柱与竞争优势。 - **战略优先级的取舍**:果断放弃短期不可持续的修补型用例,将资源聚焦于具备演进能力与核心业务粘性的智能体系统。 - **衡量智能体价值的情感与业务标尺**:评估其是否真正成为不可或缺的“核心成员”,其离线是否会对核心工作流产生实质性冲击。 --- ### [35:36](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2136s) 自研还是采购?现场观众关于实时无介入与数据突变的提问 Çağla Kaymaz 提出了另一个企业决策的核心维度——“自研还是外购”(Build vs. Buy)。如果内部自研一个智能体需要极高的定制化成本,且该智能体在一年内就会落后淘汰,那么企业自行开发可能并不划算;相反,外部商业软件供应商(Vendor)能够将研发成本分摊给成千上万家客户,并由专业团队持续维护升级,此时采购供应商方案对企业而言是更优的选择。 随后现场进入问答环节,一位身着蓝色上衣的观众提出了两个直击落地痛点的技术与业务问题: 1. **完全无人工在环(No Human-in-the-Loop)场景的可行性**:在实时客户支持等无法插入人工审核环节的高并发即时交互场景中,是否建议构建全自动智能体?如果构建,最佳实践是什么? 2. **检索增强生成(RAG)环境下的数据突变(Mutation)控制**:RAG 常用于控制只读的数据检索访问,但当智能体需要对数据执行写入、修改等“突变操作”时,应该如何安全有效地进行控制与约束? 针对第一个问题,Deepak Anchala 回应称这属于典型的“风险-收益评估框架”(Risk-reward Framework)。在绝大多数客户支持体系中,引入智能体是非常必要的,行业的核心逻辑在于“拦截率”(Deflection Rates)——智能体应当在前端尽可能独立消化并解决标准化、可处理的咨询工单,仅将自身无法处理的复杂长尾问题实时转交给人工作席接管。 ### [037:35] 自主性与风险控制:为智能体设立业务安全护栏 在讨论特定业务场景(如医疗健康)时,嘉宾们强调必须保持审慎,不能盲目将所有流程“智能体化”(agentify)。如果面对的是患者咨询病症并询问处置方案的高风险场景,现阶段绝不能完全放任自主智能体处理。智能体的落地必须根据具体的业务细微差异(business specific nuances)权衡是否适用。 ```mermaid flowchart TD accTitle: 智能体安全护栏与自主权控制架构 subgraph Governance ["护栏与风险控制 (Guardrails)"] A["业务规则约束<br/>(如退款上限/操作阈值)"] B["人机协同 (Human-in-the-Loop)"] C["损失风险量化评估 (Quantify Risk)"] end subgraph Execution ["执行层 (Execution)"] D["受控自主执行<br/>(Bounded Autonomy)"] E["高风险/超阈值转人工"] end A --> D B --> D C --> D D -->|触发阈值| E ``` 企业构建自主运行的智能体时,绝对不能给予其无限自由,必须设立清晰的护栏(Guardrails)。例如在客服支持场景中,可以允许智能体自主决定如何解决问题,但必须严格限制其权限——“绝不允许给客户发放超过特定金额的积分或退款”,也不能逾越预设的操作阈值。人机协同(Human-in-the-loop)越少,所需的硬性护栏就必须越多;只有当企业能够准确量化潜在损失风险,且对智能体的行为边界完全有把握时,才能真正放手让其自主运行。 ### [038:38] 数据访问与数据变更(Mutation)的安全护栏 针对现场关于“当智能体不仅检索数据,还需要执行数据变更(Mutation)与状态更新时该如何控制权限”的提问,嘉宾指出智能体访问数据主要有两种路径:API 与直接数据库连接。 当智能体通过 API 交互时,API 本身通常已具备权限与数据校验护栏,难点在于随着 API 的迭代演进,智能体需要具备自适应能力,准确识别并调用最新版本的 API。而当智能体通过模型上下文协议(MCP, Model Context Protocol)或直接连接数据库进行读写时,系统必须构建应对数据增量变化的机制。在向智能体输入新数据或提交更新时,必须引入“制作者-复核者”(Maker-Checker)双重验证机制作为护栏,严格审查数据变更与写入权限。 - **API 交互模式**:利用已有 API 的接口权限作为天然护栏,需处理 API 版本演进与适配。 - **直接数据库/MCP 模式**:监控数据变更增量(Delta),引入独立的 Maker-Checker 复核机制决定是否允许数据变更或回传给智能体。 ### [039:47] 企业落地的三大核心智能体场景与分层架构 在观众提问具体落地案例时,考克斯通信(Cox Communications)的 AI 负责人 Eric Pace 分享了他们重点部署的三大智能体方向: 1. **呼叫中心无人值守智能体(Unassisted Agent Support)**:通过确定性规则机制或生成式推理(Generative Inference)精准识别用户来电意图,在护栏限定范围内自主处理诉求,必要时再无缝转接人工坐席。 2. **研发流程左移与需求生成(Epic & User Story Generation)**:在 AI 辅助编程之外,将定制智能体嵌入敏捷开发上游,根据企业内部特定架构规范,自动生成 Epic 和用户故事(User Story)。 3. **B2B 个性化营销触达智能体**:在中台构建“超级智能体”(Super Agent)层,根据行业、客户分群及产品特性深度定制个性化沟通内容,底层则调度轻量化的“工具实用智能体”(Utility Agents)负责数据抓取、格式化和信息查询。 ```mermaid flowchart TD accTitle: 超级智能体与实用智能体协作架构 subgraph SuperAgentLayer ["超级智能体调度层 (Super Agent Layer)"] SA["业务定制超级智能体<br/>(B2B 营销/行业分群/策略定制)"] end subgraph UtilityLayer ["工具实用智能体层 (Utility Agents Layer)"] U1["数据抓取智能体 (Data Fetching)"] U2["数据结构化智能体 (Structuring)"] U3["系统查询智能体 (Lookup)"] end SA --> U1 SA --> U2 SA --> U3 ``` Murad Hasan 进一步补充了行业差异对自主权的影响:在零售(Retail)及 B2C 场景中,智能体可以拥有极高的自主度去分析理解用户行为;但在法律(Legal)等对数据安全极度敏感的严谨领域,必须收紧自主权,建立极为严格的护栏并加入人工干预,确保数据绝对不发生安全泄露。 ### [042:26] 多行业前沿落地案例与圆桌总结 在最后的总结环节,嘉宾们快速盘点了各自在实际生产中上线的各类智能体用例,展现了智能体在工业与企业软件领域的广泛渗透: - **工业与能源领域(Weatherford)**:上线了供应链管理与库存管理智能体(解决核心库存痛点)、智能招投标智能体(Intelligent Bidding)、常规文档对比分析智能体,以及深度的石油钻井优化智能体(Drilling Optimization Agents)。 - **开发与平台生态(Adopt AI)**:其客户构建了多元化的智能体应用,包括面向 DevTool 自动创建与管理 AWS 集群的基础设施智能体、自动化采购智能体、面向 CFO 财务侧的账单结算智能体,以及负责销售拓客的 AI BDR(业务拓展代表)智能体。 随着讨论进入尾声,主持人指出智能体的落地形式极其丰富多元,并邀请现场参会者在会后继续与各位嘉宾交流,圆桌在全场掌声中圆满结束。 ## Notable quotes > [03:29](https://www.youtube.com/watch?v=SG_-AVJsso0&t=209s) 精准度(precision)、信任(trust)和差异化(differentiation) — Sarah Karthigan > [03:29](https://www.youtube.com/watch?v=SG_-AVJsso0&t=209s) 你不可能只套一个 LLM 包装壳(LLM wrapper),然后宣称自己实现了工作流的 Agent 化——这种做法根本行不通,员工根本不会去用。 — Deepak Anchala > [09:54](https://www.youtube.com/watch?v=SG_-AVJsso0&t=594s) Okay, go agent go. And then see you later. — Sarah Karthigan > [11:42](https://www.youtube.com/watch?v=SG_-AVJsso0&t=702s) 出错的代价究竟有多大(What's the cost of something going wrong?) — Deepak Anchala > [15:04](https://www.youtube.com/watch?v=SG_-AVJsso0&t=904s) put our inferencing next to the data — Eric Pace > [28:11](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1691s) Hell no — Eric Pace > [28:11](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1691s) 如果你想要更大的价值,我们就必须承担更多风险,并投入更多时间。 — Eric Pace > [30:16](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1816s) AI is a moving target — Murad Hasan > [31:56](https://www.youtube.com/watch?v=SG_-AVJsso0&t=1916s) will never see their first birthday — Eric Pace > [37:35](https://www.youtube.com/watch?v=SG_-AVJsso0&t=2255s) 绝不允许给客户发放超过特定金额的积分或退款 — Deepak Anchala ## Mentioned Sarah Karthigan, Çağla Kaymaz, Murad Hasan, Deepak Anchala, Eric Pace, Weatherford, Category Ventures, Logicon, Adopt AI, Cox Communications, AWS, GCP, Tesla FSD, Model Context Protocol (MCP), RAG, RBAC ## Video description Sarah Karthigan, Vice President of Artificial Intelligence, Weatherford Çağla Kaymaz, Partner, Category Ventures Murad Hasan, Chief Executive Officer, Logicon Deepak Anchala, Co-founder & CEO, Adopt AI Eric Pace, Head of AI, Cox Communications Abstracts AI agents are not one-size-fits-all—successful deployment requires careful customization to align with business goals, workflows, and industry-specific challenges. This panel will explore how organizations are fine-tuning AI agents through prompt engineering, reinforcement learning, domain-specific training, and integration with proprietary data. Experts will share insights on balancing autonomy with control, ensuring AI agents deliver meaningful results while staying aligned with company values and compliance requirements. Whether you're looking to enhance customer interactions, automate decision-making, or streamline operations, this discussion will provide a roadmap for customizing AI agents to maximize impact. [Source](https://www.youtube.com/watch?v=SG_-AVJsso0)

Source quotes

[3:29] Sarah Karthigan: 精准度(precision)、信任(trust)和差异化(differentiation) [3:29] Deepak Anchala: 你不可能只套一个 LLM 包装壳(LLM wrapper),然后宣称自己实现了工作流的 Agent 化——这种做法根本行不通,员工根本不会去用。 [9:54] Sarah Karthigan: Okay, go agent go. And then see you later. [11:42] Deepak Anchala: 出错的代价究竟有多大(What's the cost of something going wrong?) [15:04] Eric Pace: put our inferencing next to the data [28:11] Eric Pace: Hell no [28:11] Eric Pace: 如果你想要更大的价值,我们就必须承担更多风险,并投入更多时间。 [30:16] Murad Hasan: AI is a moving target [31:56] Eric Pace: will never see their first birthday [37:35] Deepak Anchala: 绝不允许给客户发放超过特定金额的积分或退款