AI大模型-阿水
直接调用老旧系统接口会诱发模型幻觉与事务失控,企业必须通过MCP标准化、工具RAG动态路由及流程引擎兜底实现Agent与业务彻底解耦。
AI-assisted summary of 千万别让你的 AI Agent 直接调业务 API! — original source. Check the original for full context.
Source published:
Key ideas
- 企业级 AI Agent 直接对接老旧业务 API 会导致维护灾难,架构设计的核心在于通过解耦、标准化与动态发现消除对底层系统的紧耦合。 (0:00)
- 引入 MCP 协议规范与 OpenAPI Schema 映射,配合智能网关(Agentic API Gateway)统一承接指令翻译、限流重试与协议转换。 (0:00)
- 面对海量接口,采用“RAG for Tools”语义检索按需召回 3 至 5 个 API,可有效防止上下文爆满并抑制模型幻觉。 (2:00)
- 针对缺乏接口的老系统、高入参 API 及分布式事务问题,推荐分别采用 RPA 兜底、BFA 层参数裁剪以及外挂工作流引擎处理强一致性。 (3:36)
Detailed notes
## Background 该视频由“AI大模型-阿水”于 2026 年 11 月 1 日发布在哔哩哔哩(Bilibili)平台。视频简介提供了 Agent 学习资料、大模型学习路线、实战案例集以及电子书等相关配套资源的获取链接。
## TL;DR 视频深入探讨了企业级 AI Agent 为何不能直接调用现有业务 API,并指出大模型落地的核心壁垒在于解耦、标准化与动态发现的中间支撑架构。作者提出利用 MCP 协议与 OpenAPI 进行接口规范化,搭配工具注册中心与智能网关来承担协议翻译与限流重试等底层脏活。针对海量工具带来的上下文膨胀与安全风险,系统引入了 RAG for Tools 语义路由以及 OBO 身份透传与人机协同机制。最后,视频针对遗留系统接入、高维参数幻觉与分布式事务三大落地难点,分别给出了 RPA 兜底、BFA 封装以及交由工作流引擎托管事务的成熟工程解决方案。
## Atmosphere & style 视频整体呈现出极具实战感、直击痛点的技术布道风格,开篇便用“千万别直接调业务 API”的警示语破除开发者的常见误区,迅速抓住听众注意力。主讲人语速干练、逻辑严密,从架构分层层层推演至生产落地细节,兼具系统设计的大局观与资深工程师应对疑难杂症的沉稳经验。整段分享干货密集且针对性极强,让人在聆听时既能感受到大企业复杂老系统带来的架构压迫感,又能体会到通过巧妙工程设计抽丝剥茧、化繁为简的解题快感。
## Bulletin - [00:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=0s) 企业级 AI Agent 直接对接老旧业务 API 会导致维护灾难,架构设计的核心在于通过解耦、标准化与动态发现消除对底层系统的紧耦合。 - [00:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=0s) 引入 MCP 协议规范与 OpenAPI Schema 映射,配合智能网关(Agentic API Gateway)统一承接指令翻译、限流重试与协议转换。 - [02:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=120s) 面对海量接口,采用“RAG for Tools”语义检索按需召回 3 至 5 个 API,可有效防止上下文爆满并抑制模型幻觉。 - [03:36](https://www.bilibili.com/video/BV1LKxC6EEh8?t=216s) 针对缺乏接口的老系统、高入参 API 及分布式事务问题,推荐分别采用 RPA 兜底、BFA 层参数裁剪以及外挂工作流引擎处理强一致性。
## Key takeaways - [00:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=0s) 大模型与业务系统直接打通往往受挫,企业级 Agent 能否规模化落地的关键差距在于中间层的架构支撑体系。 - [00:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=0s) 解耦、标准化与动态发现是构建“一次接入、处处可用”企业级 Agent 架构的三大核心思想。 - [00:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=0s) 原生系统应通过模型上下文协议(MCP)将数据和操作封装为标准化资源向 Agent 暴露。 - [00:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=0s) 存量 RESTful 与消息队列接口需借助网关强制映射为 OpenAPI Schema,以适配大模型天然的语义理解偏好。 - [00:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=0s) 所有内部 API 应统一纳入工具注册中心(Tool Registry),并补充高质量语义描述与参数校验规则。 - [00:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=0s) 智能网关(Agentic API Gateway)替代传统流量转发,负责将 Agent 的 JSON 指令翻译为 gRPC/SOAP 协议并处理限流重试。 - [02:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=120s) 避免将数千个 API 全量输入上下文,通过“RAG for Tools”向量检索动态加载 3 到 5 个关联接口,实现上下文隔离并降低成本。 - [02:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=120s) 采用 OBO(On-Behalf-Of)身份透传模式,在网关层完成 Token 置换,确保 Agent 的数据访问权限与用户本人严格一致。 - [02:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=120s) 实施读写分离与 Human-in-the-Loop(人类确认)机制,高危操作须通过审批卡片经人类确认后方可执行。 - [03:36](https://www.bilibili.com/video/BV1LKxC6EEh8?t=216s) 针对缺乏标准 API 且无维护的老旧系统,可利用无头浏览器或 RPA 机器人模拟点击作为特殊工具进行非侵入式兜底。 - [03:36](https://www.bilibili.com/video/BV1LKxC6EEh8?t=216s) 架设 BFA(Backend For Agent)层,将多参数复杂接口封装为低冗余的粗粒度 API,减少模型因入参过多引发的幻觉。 - [03:36](https://www.bilibili.com/video/BV1LKxC6EEh8?t=216s) Agent 绝对不应直接承担跨系统强事务链路,而应转由 Temporal 或 Camunda 等专业工作流引擎保证分布式一致性与回滚。
## Detailed walkthrough ### [00:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=0s) 业务接口标准化与统一工具注册中心
很多研发团队在构建企业级 AI Agent 时,往往习惯直接让 Agent 调用现有的业务 API,但这在老系统众多的企业内网中会导致极其严重的维护灾难。“千万别再让你的AI agent直接去调用业务API了,公司里几百个老系统,光是对接和修bug就能让整个研发团队崩溃。”大厂的 Agent 之所以能无缝操作成百上千个内部系统,而普通系统连查 ERP 都会频频报错,其根本差距不在大模型本身,而在于中间的支撑架构。解决企业级 Agent“一次接入、处处可用”的核心思想只有三个词:解耦、标准化与动态发现。
首先是接口标准化。如果直接让 Agent 去啃各种私有接口,势必会出现水土不服。业界目前的最优解是模型上下文协议(Model Context Protocol,简称 MCP)。MCP 相当于一个“万能转换插头”,以前是开发者求着各个业务系统开接口,现在则是各业务系统按照 MCP 规范,将自身的数据和操作封装成标准化的资源与工具主动注册,Agent 端只需实现 MCP Client 即可实现对接。而针对企业内存量的传统 RESTful 接口或消息队列接口,则可以通过统一网关强制将其映射为 OpenAPI 规范。大模型天生就理解 OpenAPI Schema,能够清晰读懂接口的参数需求、返回结果及其具体语义用途。
```mermaid flowchart TD accTitle: API Standardization and Intelligent Gateway Flow accDescr: Shows how legacy and modern systems map through MCP or OpenAPI into the Agentic Gateway. subgraph S1["后端系统接入"] A["MCP规范系统"] -->|"标准资源/工具"| C["MCP Client"] B["传统REST / MQ"] -->|"统一网关映射"| D["OpenAPI Schema"] end subgraph S2["网关与注册"] C --> E["Tool Registry (工具注册中心)"] D --> E E --> F["Agentic API Gateway (智能网关)"] end subgraph S3["执行与调度"] F -->|"协议翻译 (gRPC/SOAP)"| G["下游业务系统"] F -->|"重试 / 限流 / 格式化"| G H["AI Agent"] <-->|"JSON指令"| F end ```
单个接口能够理解后,面对成百上千个系统,则必须依靠“统一工具注册中心与智能网关”进行中枢管理。所有内部 API 经标准化后统一纳入工具注册中心(Tool Registry),每个工具都要标注高质量的语义描述与严格的参数校验规则。同时,传统网关必须升级为面向 Agent 的智能网关(Agentic API Gateway)。传统网关仅做死板的流量转发,而智能网关具备意图理解能力,Agent 无需直接触碰后端,只需发送 JSON 格式的抽象指令,网关负责将指令翻译成后端所需的 gRPC 或 SOAP 协议,并将重试、限流与响应格式化等脏活累活全部在网关层闭环。
- **接口接入标准**:原生服务通过 MCP 协议暴露资源;存量服务经统一网关映射为大模型天生理解的 OpenAPI Schema。 - **智能网关职责**:终结流量透传逻辑,转而承担指令协议翻译(gRPC/SOAP)、限流保护、失败重试及响应格式化。
---
[02:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=120s) 动态发现、语义路由与安全治理
当注册中心的工具膨胀到数千个时,如果把几千个接口的说明全部塞进大模型,上下文窗口会瞬间爆满,不仅调用成本飙升,还会引发严重的模型幻觉(例如把查工资的参数填入请假接口中)。为此,系统架构引入了第三层设计:基于“RAG for Tools”的动态发现与语义路由。系统将所有接口的描述向量化,当用户下发任务时,Agent 不会直接查看全量工具,而是先通过语义检索从注册中心动态召回最相关的 3 到 5 个 API,随后再基于这几个工具展开规划与调用。这种“按需加载与上下文隔离”机制,使得在执行查询薪资等具体任务时,Agent 只会加载 HR 系统的工具集,真正实现按需取用。
除了链路畅通,企业级落地最关键的红线在于安全与权限隔离。如果 Agent 使用超级管理员权限去查数据,可能导致任何普通员工通过提示词工程套出全公司的薪资表。因此,第四层核心为统一身份认证与安全治理: - **OBO(On-Behalf-Of)身份透传模式**:用户登录后 Agent 获取其 Token,在调用下游系统时,网关负责将 Agent Token 置换为对应业务系统的 User Token,严格确保“用户本人能看什么,Agent 才能查什么”。 - **读写分离与人类确认(Human-in-the-Loop)**:查询类接口可以直接放行;但涉及审批、资金划拨等高危修改类接口,Agent 在组装好参数后绝对不能私自执行,必须通过企业微信或钉钉推送审批卡片,经由人类操作员点击确认后才允许向下放行。
---
[03:36](https://www.bilibili.com/video/BV1LKxC6EEh8?t=216s) 落地三大工程难点及解决方案
在真实的生产环境落地过程中,整个架构还会面临三块难啃的“硬骨头”,需要采用针对性的工程手段来解决:
1. **老旧系统改造难**:企业中存在大量十年前的老系统,既无标准 API 也缺乏原厂维护人员。“这时候我们可以引入无头浏览器或者RPA机器人作为特殊的工具来兜底,Agent通过生成指令驱动RPA模拟人类点击输入框、抓取网页元素,实现非侵入式接入。” 2. **复杂 API 导致的模型幻觉**:面对包含 15 个复杂晦涩参数的接口,模型极易出错。对此,系统在 Agent 与底层服务之间架设了一层 BFA(Backend For Agent,面向 Agent 的后端)。BFA 将人类视角的复杂 API 封装成低参数冗余、粗粒度的专用 API,例如将 15 个参数的“创建订单”接口精简为仅需传入“商品 ID”和“数量”两个参数,其余默认参数全由 BFA 自动补齐。 3. **跨系统数据一致性与事务回滚**:当 Agent 在 A 系统建单后流转至 B 系统,若 B 系统超时报错,Agent 本身无法胜任分布式事务的回滚管理。“应对方法是Agent绝对不直接控制强事务链路。”对于跨系统的复杂写操作,Agent 的职责严格限定于收集参数并触发预先定义好的标准工作流(如基于 Temporal 或 Camunda 的流程引擎),由专业的工作流引擎负责强事务一致性与失败重试,Agent 仅负责监听工作流执行的最终结果。
通过将 Agent 与底层业务系统彻底解耦,再依托统一工具注册中心、Agentic API Gateway、MCP 协议以及 RAG 语义检索,Agent 相当于配备了企业级“万能转换器”,无论未来新增多少内部系统,只要遵从标准接入规范,Agent 均能即插即用、迅速识别。
## Notable quotes > [00:00](https://www.bilibili.com/video/BV1LKxC6EEh8?t=0s) 千万别再让你的AI agent直接去调用业务API了,公司里几百个老系统,光是对接和修bug就能让整个研发团队崩溃。 — AI大模型-阿水
## Mentioned AI Agent, Model Context Protocol, MCP Client, OpenAPI, RESTful API, gRPC, SOAP, RAG, BFA, RPA, Temporal, Camunda, 企业微信, 钉钉, ERP
## Video description 视频Agent学习籽料、大模型学习路线、、实战案例集、电子书+问题解答👉https://www.bilibili.com/read/cv52978347/?spm_id_from=333.1387.0.0&jump_opus=1自取哦
[Source](https://www.bilibili.com/video/BV1LKxC6EEh8)