PlainID称静态权限难防AI失控 企业须在全流程实施意图控制

Setting Boundaries for Agentic AI: Preventing Data Exposure at Enterprise Scale With PlainID — Ai4

Ai4

由于AI智能体具备自主推理能力导致行为路径不可预测,传统的静态权限无法识别操作合理性,企业必须在输入、检索、工具调用与输出全链路依据上下文实时核查其业务意图。

AI-assisted summary of Setting Boundaries for Agentic AI: Preventing Data Exposure at Enterprise Scale With PlainID — original source. Check the original for full context.

Source published:

Detailed notes

## Background 本内容由 Ai4 频道于 2026 年 8 月 14 日发布在 YouTube 平台。视频记录了 PlainID 联合创始人兼首席产品官 Gal Helemski 的主题演讲,主要探讨在智能体 AI(Agentic AI)广泛通过 MCP 工具检索数据的背景下,企业如何通过运行时控制在全流程建立安全边界以防止数据泄露。

## TL;DR Gal Helemski 指出,AI 智能体具有高度自主决策能力,传统针对人类和服务账户的静态权限机制已全面失效。通过类比机场安检,她强调访问控制必须从验证“身份与权限”升级为洞察行为背后的“意图”。为此,企业必须引入毫秒级策略驱动的“运行时授权”,并在输入 Prompt、数据检索、MCP 工具调用和输出 Response 四个关键卡点全面部署意图护栏,实现端到端的安全治理。

## Atmosphere & style 整个演讲专业干练且极具说服力,讲者以清晰透彻的企业安全视角直击技术痛点。通过将智能体比作“竭力取悦用户的新员工”以及引用“机场安检盘问”等生动比喻,将晦涩的授权架构化繁为简。现场节奏紧凑、逻辑层层推进,在向行业敲响安全警钟的同时,也展现出对建立前瞻性 AI 治理体系的坚定信心。

## Key takeaways - [00:04](https://www.youtube.com/watch?v=VJN_6sKVf34&t=4s) 智能体 AI 正在演进为组织内部的“新型员工”,它们具备自主推理与寻路能力,其核心驱动力是竭尽全力满足使用者,打破了传统软件确定性的安全范式。 - [02:30](https://www.youtube.com/watch?v=VJN_6sKVf34&t=150s) 如同机场安检不仅核验护照与机票更会盘问出行目的,智能体访问控制不能仅停留在验证身份,必须深入洞察行为背后的“意图”(Intent)。 - [04:09](https://www.youtube.com/watch?v=VJN_6sKVf34&t=249s) 与人类和遵循固定脚本的服务账户相比,AI 智能体的行为路径具有高度动态性和不可预测性,传统静态控制机制已无法有效治理。 - [06:06](https://www.youtube.com/watch?v=VJN_6sKVf34&t=366s) 静态权限仅界定了“什么是可能的”,但无法判定在当前具体业务上下文中该行为是否“得体且被认可”,必须引入意图访问控制。 - [06:06](https://www.youtube.com/watch?v=VJN_6sKVf34&t=366s) 意图的判定依赖于完整的上下文拼图,包括背后的人类身份、智能体身份、操作标的数据以及触发该动作的因果业务流程节点。 - [09:26](https://www.youtube.com/watch?v=VJN_6sKVf34&t=566s) 运行时授权(Runtime Authorization)必须在智能体执行操作的毫秒级当下动态评估策略,取代事前的静态配置或事后的审计追责。 - [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 在输入护栏(Input Guardrails)阶段前置进行鉴权与跨域意图拦截,防止不合规的 Prompt 穿透触发后续数据检索与工具调用。 - [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 在数据护栏(Data Guardrails)阶段实行“检索前过滤”,基于上下文与意图限定智能体接触的数据范围,避免暴露泛化机密数据。 - [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 在工具与 MCP 护栏阶段,管控重点应从“能否调用工具”深入到“如何使用工具”,细化限制调用参数、外发目标与执行频次。 - [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 在输出护栏(Output Guardrails)阶段对生成的 Response 实施实时 PII 与敏感数据脱敏掩码,守住最后一道防线。 - [18:14](https://www.youtube.com/watch?v=VJN_6sKVf34&t=1094s) 企业必须构建贯穿 Prompt、检索、MCP 工具与 Response 全流程的意图驱动安全策略网络,从部署第一天起确立运行时控制体系。

## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=VJN_6sKVf34&t=4s) 身份安全的新范式:当智能体成为组织中的“新员工”

在大会现场,PlainID 联合创始人兼首席技术官 Gal Helemski 登台指出,身份安全已经成为智能体 AI(Agentic AI)领域最炙手可热的话题。过去的系统安全主要围绕人类用户和传统的应用程序、后台服务展开,但随着自主智能体的入场,全新的行为模式与安全威胁悄然形成。企业不能再将智能体视作单纯的信息提取工具,因为它们不再只是为人类提供知识与数据,而是在真实世界中替人类采取行动。

Gal Helemski 提出了一个形象的视角:应该将 AI 智能体视为组织内部的“新型员工”。传统软件系统只会刻板地执行既定指令,但智能体截然不同——它们在底层设计上就倾向于竭尽全力去“取悦”(please)操作它的使用者。为了达成目标,智能体会在其边界内想尽一切办法寻找路径。这种自主性不仅打破了以往系统运行的范式,更对安全防线提出了极为严峻的考验。不过,她也向在场的 AI 与安全领袖强调,这也是一个从第一天起就“把事情做对”的历史机遇,行业不必重蹈覆辙走“先上线后打补丁”的老路,而应在当下就为所有智能体建立健全的控制体系。

- **核心转变**:从被动的“信息检索与呈现”演进为具备行动力的“自主执行”。 - **行为驱动力**:智能体被设计为不惜代价去满足操作者的需求,在边界内自主摸索实现路径。 - **治理时机**:在智能体规模化部署的第一天确立控制机制,避免传统 IT“亡羊补牢”式的安全困局。

---

[02:30](https://www.youtube.com/watch?v=VJN_6sKVf34&t=150s) 机场安检的启示:验证身份之后,更要洞察“意图”

为了厘清什么是真正的智能体治理,Gal Helemski 抛出了一个每个人都亲身经历过的场景——机场安检。当你抵达机场时,手中持有由政府颁发并核验的护照,以及注明航班信息的机票。此时,机场系统非常确切地知道“你是谁”(身份已验证),也清楚“你将要去哪里”(目的地已确定)。然而,安检人员依然会连珠炮似地询问一系列看似多余的问题:“行李是你自己打包的吗?”“你去那里做什么?”“你和谁一起旅行?”

这一系列询问的核心目的,不是为了二次验证身份,而是在刺探“意图”(Intent)。护照和机票无法证明旅客真正的动机,而行为动机恰恰是潜在安全威胁的关键所在。智能体访问控制同理:仅仅确认“它是一个获得了某种审批的合法智能体”是远远不够的。企业必须追问深层次的意图:它代表哪位人类用户操作?为什么要在此刻执行这一特定操作?为什么选择访问这一批敏感数据?

```mermaid flowchart LR accTitle: 机场安检与智能体安全对比 subgraph 传统身份验证 A["护照 / API Token"] --> C["确认身份:你是谁?"] B["机票 / 授权范围"] --> D["确认目标:你去哪 / 访问什么?"] end subgraph 意图访问控制 E["安检盘问 / 运行时策略"] --> F["洞察意图:为什么现在做?行为是否合理?"] end ```

---

[04:09](https://www.youtube.com/watch?v=VJN_6sKVf34&t=249s) 身份演进与不可预测性:人类、服务账户与 AI 智能体

为了深入剖析为何现有的访问控制系统必须全面升级,Gal Helemski 将组织中并存的三种身份形态进行了纵向对比。第一类是人类身份(Human Identity)。人类行为在整体上是可预测、可审计且可治理的;用户登录系统前通常明确知道自己要做什么、为何要访问,其访问路径长期以来已被成熟的权限体系较好地覆盖。第二类是传统的非人类身份(Non-Human Identity),如后台应用和服务账户(Service Accounts)。这类系统遵循从 A 点直达 B 点的预设脚本,无法突发奇想中途转向,其行为路径高度可预测,企业早已掌握其治理模式。

然而,AI 智能体的降临彻底打破了这一确定性世界。智能体不可预测的核心原因在于“它们拥有大脑”。在执行任务的过程中,智能体可以实时决定向左拐还是向右拐,可以在推进过程中自行判断是否需要引入外部工具或检索特定数据。因为其路径是高度动态的,如果企业继续沿用过去服务于人类或静态服务账户的机械控制机制,安全防护体系必然在智能体时代全面失效。

| 身份类型 | 行为路径特征 | 决策机制 | 治理与控制难度 | |:--- |:--- |:--- |:--- | | **人类身份 (Human)** | 具备自知性,意图明确且可审计 | 主观动机清晰,遵循组织流程 | 已有成熟工具,整体路径相对可控 | | **服务账户 (Service Account)** | 严格按照代码从 A 到 B 预设执行 | 无自主决策权,完全不可擅自变更路径 | 高度静态,可通过固定策略有效治理 | | **AI 智能体 (Agent)** | 动态调整、实时变轨,高度不可预测 | 具备自主推理能力,为达成目标动态决策 | 传统静态控制失效,必须依赖动态控制系统 |

---

[06:06](https://www.youtube.com/watch?v=VJN_6sKVf34&t=366s) 静态权限之困:权限决定“能做什么”,意图决定“应不应该做”

Gal Helemski 明确指出,如果企业依然依靠预先定义的静态权限去限制智能体,不仅无法适应业务的规模化扩展,更无法识别并拦截恶意的或失控的意图。她以一个非常普遍的智能体能力为例:许多智能体都被赋予了“发送电子邮件”的权限,在日常自动化中这无可厚非。但如果智能体滥用这一权限,在瞬间发出海量邮件,甚至将未经脱敏的核心机密数据直接附在邮件中发送出去,整个系统就会面临严重的数据泄漏与服务滥用风险。

正因如此,“权限只说明了什么是可能的,但无法说明在此时此刻这么做是否恰当”("Permissions only tell what's possible, not if it is appropriate to use right now")。这正是引入“意图访问控制”(Intent Access Control)的分水岭。所谓意图,本质上是行为背后的根本目的(the purpose behind the action)。在做出任何访问裁决之前,控制系统必须实时捕捉并分析全方位的上下文信号:背后的人类操作者是谁、调用的是哪个智能体、正在尝试调取支持记录、财务数据还是人力资源档案、是怎样的业务处理流程逐步将它们导向了当前这一步动作。只有拼凑出这幅完整的上下文图景,系统才能精准判定行为的合理性。

- **意图的构成要素**: - **参与主体**:关联的人类身份与执行任务的非人类/智能体身份。 - **操作标的**:试图读取、修改的具体业务数据(如财务、人事或支持工单)。 - **因果链路**:导致触发该操作的上下文事件序列与业务流程节点。 - **时空环境**:为何偏偏在此刻、以此种频次与方式调用资源。

---

[09:26](https://www.youtube.com/watch?v=VJN_6sKVf34&t=566s) 运行时授权机制:让安全策略动态捕捉并裁决意图

理解了意图的内涵后,核心工程问题随之而来:如何落地并控制意图?Gal Helemski 解释道,企业需要一套能够实时采集所有上下文信号并与安全策略进行即时校验的系统。策略(Policy)是定义“何为合规意图”的唯一手段,而真正将这些策略转化为实战防线的正是“运行时授权”(Runtime Authorization)。

真正的运行时授权绝非事前的静态配置,也绝非事后的审计追责,而是在智能体采取行动的“当下毫秒级时间内”进行实时判定。由于智能体行进路线的每一步都充满动态变数,运行时授权引擎必须随着智能体执行流的推移进行持续评估,在每一个节点反复核实当前意图是否完全契合安全策略规范。只有这样,才能在保障智能体灵活推理的同时,确保数据不越雷池一步。

```mermaid flowchart TD accTitle: 运行时意图访问控制决策机制 A["智能体行为发起 (操作/调用/检索)"] --> B["实时捕获上下文信号\n(人类身份, 智能体身份, 流程节点, 目标数据)"] B --> C{"运行时授权引擎\n(Runtime Authorization)"} D["集中式安全策略库\n(已核准的意图规则)"] --> C C -- "意图合规" --> E["放行并执行操作"] C -- "偏离/违规意图" --> F["即时阻断 / 降级拦截"] ```

---

[12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 智能体全流程四大控制点:提示词、数据检索、MCP 工具与响应过滤

针对企业实际落地,Gal Helemski 梳理了一个典型的智能体端到端工作流:用户输入 Prompt,智能体启动数据检索,可能借助 MCP(Model Context Protocol)调用外部工具,最终组装并输出 Response。在这个生命周期中,企业必须在四大关键卡点部署意图级防护:

```mermaid flowchart LR accTitle: 智能体全流程四大控制点架构图 P["输入 Prompt"] -->|控制点 1: 输入护栏| R["数据检索 Data Retrieval"] R -->|控制点 2: 数据护栏| T["工具调用 MCP Tools"] T -->|控制点 3: 工具护栏| O["输出 Response"] O -->|控制点 4: 输出护栏| U["最终呈现用户"]

subgraph "四道运行时安全卡点" direction TB C1["1. 输入护栏: 身份鉴权与跨域阻断"] C2["2. 数据护栏: 检索前按上下文过滤"] C3["3. 工具护栏: 细粒度管控调用方式与暴露面"] C4["4. 输出护栏: PII 敏感信息掩码脱敏"] end

C1 -.-> P C2 -.-> R C3 -.-> T C4 -.-> O ```

1. **第一控制点:输入护栏(Input Guardrails)** 绝不能允许用户或上游智能体随心所欲提出任何问题。安全控制必须前置在 Prompt 阶段,在数据被调取、工具被唤醒之前就掐断潜在风险。以往业界谈及护栏多指“操作性合规护栏”,但真正缺失的是“鉴权与意图护栏”。例如,当一个客服售后智能体被提问财务账目或 HR 敏感薪酬时,系统必须在提示词阶段予以判定并直接拦截,避免流程继续向下穿透。

2. **第二控制点:数据护栏(Data Guardrails)** 随着智能体被广泛接入 Google Drive、内部知识库与结构化数据库,组织面临着空前的数据暴露面。智能体不需要、也不应该接触流程无关的泛化数据。企业必须基于当前人类上下文与任务意图,实施“检索前过滤”(Filtering before retrieval),而非提取出全部数据后再做筛选。例如:限定智能体仅能检索美国本土记录而不能碰触欧洲数据,或者仅允许读取非机密分级文档。

3. **第三控制点:工具调用与 MCP 护栏(Tool & MCP Guardrails)** 模型上下文协议(MCP)等标准使得智能体能自如调取外部系统。传统的安全仅关注“该智能体是否有权调用此工具”,但这过于初级。真正的控制在于“工具是如何被使用的”:智能体是否将邮件发往了组织外部域名?是否在一秒钟内触发了上百封邮件?该工具调用带出了哪些深层数据?必须细化到具体的参数、行为频次与外发目标。

4. **第四控制点:输出护栏(Output Guardrails)** 哪怕在检索和工具层面设置了多重关卡,模型在整合生成最终响应(Response)时,仍有可能夹带敏感的个人身份信息(PII)或敏感商业数据。输出护栏作为最后一道防线,负责对这些生成内容进行实时的脱敏掩码处理,确保终端展示内容绝对合规。

---

[18:14](https://www.youtube.com/watch?v=VJN_6sKVf34&t=1094s) 核心总结与行动建议:构建面向自主智能体的策略驱动治理

在演讲尾声,Gal Helemski 总结道,在高度自主的智能体时代,仅靠个别分配或静态定义的权限早已无法维系系统的安全性,唯一可行的治理路径是建立全面捕捉并约束意图的策略网络。她为在场的架构师与安全团队提炼了五条核心结论:

- **无意图即失败**:脱离意图而直接授权动作的智能体架构注定会暴露出致命安全漏洞。静态准入机制无法真正实现安全管控。 - **重新审视权限定义**:权限只界定了理论上的“可能性”,绝不代表该行为在特定业务场景下是“得体且被认可的”。 - **约束业务目的,而非仅限制工具**:安全治理的重点不在于“智能体能否调用这个 MCP 工具”,而在于“智能体为什么在此时以此种方式调用该工具”。 - **全面践行运行时评估**:在执行链路的每一个瞬时节点动态判定访问请求,取代传统的离线预授权。 - **全流程贯穿意图感知**:从输入的 Prompt、检索的数据、调用的 MCP 工具到最终返回的 Response,四大控制点必须全部依托意图驱动的策略进行协同防御。

## Notable quotes > [00:04](https://www.youtube.com/watch?v=VJN_6sKVf34&t=4s) 身份安全已经成为智能体 AI(Agentic AI)领域最炙手可热的话题。 — Gal Helemski

> [00:04](https://www.youtube.com/watch?v=VJN_6sKVf34&t=4s) 它们在底层设计上就倾向于竭尽全力去“取悦”(please)操作它的使用者。为了达成目标,智能体会在其边界内想尽一切办法寻找路径。 — Gal Helemski

> [00:04](https://www.youtube.com/watch?v=VJN_6sKVf34&t=4s) 这也是一个从第一天起就“把事情做对”的历史机遇,行业不必重蹈覆辙走“先上线后打补丁”的老路。 — Gal Helemski

> [02:30](https://www.youtube.com/watch?v=VJN_6sKVf34&t=150s) 这一系列询问的核心目的,不是为了二次验证身份,而是在刺探“意图”(Intent)。 — Gal Helemski

> [04:09](https://www.youtube.com/watch?v=VJN_6sKVf34&t=249s) 智能体不可预测的核心原因在于“它们拥有大脑”。 — Gal Helemski

> [06:06](https://www.youtube.com/watch?v=VJN_6sKVf34&t=366s) Permissions only tell what's possible, not if it is appropriate to use right now — Gal Helemski

> [06:06](https://www.youtube.com/watch?v=VJN_6sKVf34&t=366s) 所谓意图,本质上是行为背后的根本目的(the purpose behind the action)。 — Gal Helemski

> [09:26](https://www.youtube.com/watch?v=VJN_6sKVf34&t=566s) 真正的运行时授权绝非事前的静态配置,也绝非事后的审计追责,而是在智能体采取行动的“当下毫秒级时间内”进行实时判定。 — Gal Helemski

> [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 绝不能允许用户或上游智能体随心所欲提出任何问题。安全控制必须前置在 Prompt 阶段,在数据被调取、工具被唤醒之前就掐断潜在风险。 — Gal Helemski

> [18:14](https://www.youtube.com/watch?v=VJN_6sKVf34&t=1094s) 脱离意图而直接授权动作的智能体架构注定会暴露出致命安全漏洞。静态准入机制无法真正实现安全管控。 — Gal Helemski

## Mentioned Gal Helemski, PlainID, Ai4, Agentic AI, MCP (Model Context Protocol), Runtime Authorization, Google Drive

## Video description Gal Helemski - Cofounder & Chief Product (CPO), PlainID

Agentic AI systems retrieve data directly or via MCP tools, yet most lack built-in controls. Without clear security boundaries, they can expose sensitive data and disrupt operations within seconds. As a result, enforcing guardrails across the entire AI flow and centrally managing access for all identities, human and machine, has become critical. This session explores how runtime controls are applied and enforced across distributed environments to enable secure, scalable agentic AI.

[Source](https://www.youtube.com/watch?v=VJN_6sKVf34)

中文简报

PlainID推出面向代理式AI数据保护的运行时控制机制 Gal Helemski指出静态权限无法保护企业系统免受自主代理的风险,需要在四个不同的流水线控制点实施基于意图的实时授权。 Gal Helemski将AI代理定义为一类新型的自主非人类员工,它们进行动态推理决策,而非遵循静态、确定性的代码。由于代理会主动执行任务且可能越过标准权限边界,传统的身份检查无法判断某项操作是否合规。为了降低风险,Helemski提出了通过运行时授权实现的“基于意图的访问控制”,该机制能够持续评估上下文、涉及的身份、目标资产和流程走向。演讲详细阐述了如何在四个关键控制点落实这些由策略驱动的防护护栏:输入提示词、数据预检索、MCP工具执行以及输出脱敏。 身份安全已成为代理式AI的核心挑战,因为代理是直接采取行动的自主实体,而不仅是检索信息。 (0:04) 与传统的非人类身份不同,AI代理的设计初衷是取悦用户,并且会为了完成任务而主动突破边界。 (0:04) 仅凭身份验证和目标地址证明不足以确保AI安全;系统必须评估执行者的实时“意图”。 (2:30) 与人类用户或标准的线性服务账户相比,AI代理具有非确定性和高度不可预测性,这使得静态权限模型彻底过时。 (4:15) 基于意图的访问控制会同时评估多种信号的组合:人类用户、正在运行的代理、目标资源以及流程上下文。 (6:18)

精炼阅读摘要

PlainID联合创始人兼首席产品官Gal Helemski指出,AI智能体作为具备自主决策能力的“新型数字员工”,打破了传统身份权限模型的确定性;企业必须从静态权限管理转向基于意图与上下文的运行时授权,以防止在大规模部署中发生数据泄露。 智能体特性与传统身份模型的失效 (0:04) Helemski指出,传统身份安全机制主要服务于人类用户和系统服务账户。人类用户的系统访问路径通常可审计且具可预测性,而传统非人类身份(如系统或服务账户)则遵循预设的线性路径,无法自行改变行为逻辑。与此相对,AI智能体不仅提供知识或检索信息,还会代表人类直接采取行动,成为企业内部的“新型员工”。由于智能体被专门设计为尽可能完成操作者的指令,它们会主动探寻系统边界并采取一切必要手段达成任务。 智能体内置的推理引擎赋予了其动态决策能力,使其能够在任务执行中途自主转向、挑选新工具或请求未预期的数据库。Helemski认为,这种不可预测且非确定性的执行路径,使依靠静态预设权限配置的传统访问控制完全失效。安全团队面临极其短暂且关键的窗口期,必须在智能体上线之初建立起适当的安全边界,而非在事后修补漏洞。 意图评估:机场安检隐喻与核心信号 (2:30) 为阐明为何身份认证在AI场景中并不充分,Helemski提出了机场安检的类比。旅客抵达机场时持有政府核发的护照(证明身份)与机票(证明目的地),但安检人员仍会盘问行程细节,其目的在于研判旅客的“意图”。传统身份系统仅能验证主体“是谁”以及技术上“允许访问什么”,却无法洞察操作背后的“原因”。对于代表人类行事的智能体,企业必须在放行前评估特定操作在当前时间节点被触发的具体原因。 静态权限仅界定了操作的技术可行性,却无法判断其在运行时的合规性。例如,智能体可能合法具备发送邮件的功能,但若利用该权限向外部大量外发邮件或窃取敏感数据,便构成了越权滥用。Helemski主张,意图评估系统必须在运行时同步解析三组核心上下文信号:涉及的双重身份(底层人类用户及代理该用户的AI智能体)、目标资源(如人力资源数据、财务记录或客服日志),以及操作发生的具体业务流程上下文与执行时机。 集中式策略驱动的运行时授权 (9:32) 控制意图需要依赖能够实时接入上下文信号并对照集中安全策略进行判定的运行时授权(Runtime Authorization)框架。Helemski指出,安全策略在此扮演着正式定义“合规意图”的角色,在智能体采取行动的过程中提供动态治理。 该机制的核心特征包含持续评估与策略驱动治理。授权决策必须在智能体工作流执行的每一个步骤中动态完成,既不能预先静态分配,也不能仅依赖事后审计。系统通过集中化的细粒度策略,动态研判被检测出的人类、智能体、任务及目标数据组合是否落在企业安全边界之内。 智能体端到端流程的四大控制点 (12:20) 在涵盖提示词输入、数据检索、模型上下文协议(MCP)工具调用及最终响应生成的典型智能体架构中,Helemski提出了企业必须落实策略管制的四个关键控制点。首先是输入护栏(Input Guardrails),负责在前门拦截未授权请求(例如直接阻断用户向客服智能体询问人力资源或财务信息的越权操作),防止请求接触后端数据或工具;其次是检索前数据护栏(Pre-Retrieval Data Guardrails),在从结构化数据库或文档库提取数据前实施严格过滤,确保智能体仅检索符合地域或敏感度限定的最小必要数据。 第三是MCP工具护栏(MCP Tool Guardrails),该环节超越了简单的工具开关控制,转而深入检查工具的执行参数(例如允许智能体草拟邮件,但禁止向外部域名群发邮件);第四是输出护栏(Output Guardrails),负责在最终生成的回复呈现给终端用户前进行实时审查,对个人身份信息(PII)等敏感数据完成脱敏与遮蔽。 Helemski总结强调,依靠孤立的静态权限分配无法在大规模自主AI环境中维系安全。企业必须认识到技术层面的授权并不代表运行时的合理性,真正的防护重点在于依据意图约束工具与数据的具体用途,并通过运行时授权在工作流的四个控制点持续执行动态评估。

Detailed notes — zh

## Background 本内容由 Ai4 频道于 2026 年 8 月 14 日发布在 YouTube 平台。视频记录了 PlainID 联合创始人兼首席产品官 Gal Helemski 的主题演讲,主要探讨在智能体 AI(Agentic AI)广泛通过 MCP 工具检索数据的背景下,企业如何通过运行时控制在全流程建立安全边界以防止数据泄露。 ## TL;DR Gal Helemski 指出,AI 智能体具有高度自主决策能力,传统针对人类和服务账户的静态权限机制已全面失效。通过类比机场安检,她强调访问控制必须从验证“身份与权限”升级为洞察行为背后的“意图”。为此,企业必须引入毫秒级策略驱动的“运行时授权”,并在输入 Prompt、数据检索、MCP 工具调用和输出 Response 四个关键卡点全面部署意图护栏,实现端到端的安全治理。 ## Atmosphere & style 整个演讲专业干练且极具说服力,讲者以清晰透彻的企业安全视角直击技术痛点。通过将智能体比作“竭力取悦用户的新员工”以及引用“机场安检盘问”等生动比喻,将晦涩的授权架构化繁为简。现场节奏紧凑、逻辑层层推进,在向行业敲响安全警钟的同时,也展现出对建立前瞻性 AI 治理体系的坚定信心。 ## Key takeaways - [00:04](https://www.youtube.com/watch?v=VJN_6sKVf34&t=4s) 智能体 AI 正在演进为组织内部的“新型员工”,它们具备自主推理与寻路能力,其核心驱动力是竭尽全力满足使用者,打破了传统软件确定性的安全范式。 - [02:30](https://www.youtube.com/watch?v=VJN_6sKVf34&t=150s) 如同机场安检不仅核验护照与机票更会盘问出行目的,智能体访问控制不能仅停留在验证身份,必须深入洞察行为背后的“意图”(Intent)。 - [04:09](https://www.youtube.com/watch?v=VJN_6sKVf34&t=249s) 与人类和遵循固定脚本的服务账户相比,AI 智能体的行为路径具有高度动态性和不可预测性,传统静态控制机制已无法有效治理。 - [06:06](https://www.youtube.com/watch?v=VJN_6sKVf34&t=366s) 静态权限仅界定了“什么是可能的”,但无法判定在当前具体业务上下文中该行为是否“得体且被认可”,必须引入意图访问控制。 - [06:06](https://www.youtube.com/watch?v=VJN_6sKVf34&t=366s) 意图的判定依赖于完整的上下文拼图,包括背后的人类身份、智能体身份、操作标的数据以及触发该动作的因果业务流程节点。 - [09:26](https://www.youtube.com/watch?v=VJN_6sKVf34&t=566s) 运行时授权(Runtime Authorization)必须在智能体执行操作的毫秒级当下动态评估策略,取代事前的静态配置或事后的审计追责。 - [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 在输入护栏(Input Guardrails)阶段前置进行鉴权与跨域意图拦截,防止不合规的 Prompt 穿透触发后续数据检索与工具调用。 - [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 在数据护栏(Data Guardrails)阶段实行“检索前过滤”,基于上下文与意图限定智能体接触的数据范围,避免暴露泛化机密数据。 - [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 在工具与 MCP 护栏阶段,管控重点应从“能否调用工具”深入到“如何使用工具”,细化限制调用参数、外发目标与执行频次。 - [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 在输出护栏(Output Guardrails)阶段对生成的 Response 实施实时 PII 与敏感数据脱敏掩码,守住最后一道防线。 - [18:14](https://www.youtube.com/watch?v=VJN_6sKVf34&t=1094s) 企业必须构建贯穿 Prompt、检索、MCP 工具与 Response 全流程的意图驱动安全策略网络,从部署第一天起确立运行时控制体系。 ## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=VJN_6sKVf34&t=4s) 身份安全的新范式:当智能体成为组织中的“新员工” 在大会现场,PlainID 联合创始人兼首席技术官 Gal Helemski 登台指出,身份安全已经成为智能体 AI(Agentic AI)领域最炙手可热的话题。过去的系统安全主要围绕人类用户和传统的应用程序、后台服务展开,但随着自主智能体的入场,全新的行为模式与安全威胁悄然形成。企业不能再将智能体视作单纯的信息提取工具,因为它们不再只是为人类提供知识与数据,而是在真实世界中替人类采取行动。 Gal Helemski 提出了一个形象的视角:应该将 AI 智能体视为组织内部的“新型员工”。传统软件系统只会刻板地执行既定指令,但智能体截然不同——它们在底层设计上就倾向于竭尽全力去“取悦”(please)操作它的使用者。为了达成目标,智能体会在其边界内想尽一切办法寻找路径。这种自主性不仅打破了以往系统运行的范式,更对安全防线提出了极为严峻的考验。不过,她也向在场的 AI 与安全领袖强调,这也是一个从第一天起就“把事情做对”的历史机遇,行业不必重蹈覆辙走“先上线后打补丁”的老路,而应在当下就为所有智能体建立健全的控制体系。 - **核心转变**:从被动的“信息检索与呈现”演进为具备行动力的“自主执行”。 - **行为驱动力**:智能体被设计为不惜代价去满足操作者的需求,在边界内自主摸索实现路径。 - **治理时机**:在智能体规模化部署的第一天确立控制机制,避免传统 IT“亡羊补牢”式的安全困局。 --- ### [02:30](https://www.youtube.com/watch?v=VJN_6sKVf34&t=150s) 机场安检的启示:验证身份之后,更要洞察“意图” 为了厘清什么是真正的智能体治理,Gal Helemski 抛出了一个每个人都亲身经历过的场景——机场安检。当你抵达机场时,手中持有由政府颁发并核验的护照,以及注明航班信息的机票。此时,机场系统非常确切地知道“你是谁”(身份已验证),也清楚“你将要去哪里”(目的地已确定)。然而,安检人员依然会连珠炮似地询问一系列看似多余的问题:“行李是你自己打包的吗?”“你去那里做什么?”“你和谁一起旅行?” 这一系列询问的核心目的,不是为了二次验证身份,而是在刺探“意图”(Intent)。护照和机票无法证明旅客真正的动机,而行为动机恰恰是潜在安全威胁的关键所在。智能体访问控制同理:仅仅确认“它是一个获得了某种审批的合法智能体”是远远不够的。企业必须追问深层次的意图:它代表哪位人类用户操作?为什么要在此刻执行这一特定操作?为什么选择访问这一批敏感数据? ```mermaid flowchart LR accTitle: 机场安检与智能体安全对比 subgraph 传统身份验证 A["护照 / API Token"] --> C["确认身份:你是谁?"] B["机票 / 授权范围"] --> D["确认目标:你去哪 / 访问什么?"] end subgraph 意图访问控制 E["安检盘问 / 运行时策略"] --> F["洞察意图:为什么现在做?行为是否合理?"] end ``` --- ### [04:09](https://www.youtube.com/watch?v=VJN_6sKVf34&t=249s) 身份演进与不可预测性:人类、服务账户与 AI 智能体 为了深入剖析为何现有的访问控制系统必须全面升级,Gal Helemski 将组织中并存的三种身份形态进行了纵向对比。第一类是人类身份(Human Identity)。人类行为在整体上是可预测、可审计且可治理的;用户登录系统前通常明确知道自己要做什么、为何要访问,其访问路径长期以来已被成熟的权限体系较好地覆盖。第二类是传统的非人类身份(Non-Human Identity),如后台应用和服务账户(Service Accounts)。这类系统遵循从 A 点直达 B 点的预设脚本,无法突发奇想中途转向,其行为路径高度可预测,企业早已掌握其治理模式。 然而,AI 智能体的降临彻底打破了这一确定性世界。智能体不可预测的核心原因在于“它们拥有大脑”。在执行任务的过程中,智能体可以实时决定向左拐还是向右拐,可以在推进过程中自行判断是否需要引入外部工具或检索特定数据。因为其路径是高度动态的,如果企业继续沿用过去服务于人类或静态服务账户的机械控制机制,安全防护体系必然在智能体时代全面失效。 | 身份类型 | 行为路径特征 | 决策机制 | 治理与控制难度 | |:--- |:--- |:--- |:--- | | **人类身份 (Human)** | 具备自知性,意图明确且可审计 | 主观动机清晰,遵循组织流程 | 已有成熟工具,整体路径相对可控 | | **服务账户 (Service Account)** | 严格按照代码从 A 到 B 预设执行 | 无自主决策权,完全不可擅自变更路径 | 高度静态,可通过固定策略有效治理 | | **AI 智能体 (Agent)** | 动态调整、实时变轨,高度不可预测 | 具备自主推理能力,为达成目标动态决策 | 传统静态控制失效,必须依赖动态控制系统 | --- ### [06:06](https://www.youtube.com/watch?v=VJN_6sKVf34&t=366s) 静态权限之困:权限决定“能做什么”,意图决定“应不应该做” Gal Helemski 明确指出,如果企业依然依靠预先定义的静态权限去限制智能体,不仅无法适应业务的规模化扩展,更无法识别并拦截恶意的或失控的意图。她以一个非常普遍的智能体能力为例:许多智能体都被赋予了“发送电子邮件”的权限,在日常自动化中这无可厚非。但如果智能体滥用这一权限,在瞬间发出海量邮件,甚至将未经脱敏的核心机密数据直接附在邮件中发送出去,整个系统就会面临严重的数据泄漏与服务滥用风险。 正因如此,“权限只说明了什么是可能的,但无法说明在此时此刻这么做是否恰当”("Permissions only tell what's possible, not if it is appropriate to use right now")。这正是引入“意图访问控制”(Intent Access Control)的分水岭。所谓意图,本质上是行为背后的根本目的(the purpose behind the action)。在做出任何访问裁决之前,控制系统必须实时捕捉并分析全方位的上下文信号:背后的人类操作者是谁、调用的是哪个智能体、正在尝试调取支持记录、财务数据还是人力资源档案、是怎样的业务处理流程逐步将它们导向了当前这一步动作。只有拼凑出这幅完整的上下文图景,系统才能精准判定行为的合理性。 - **意图的构成要素**: - **参与主体**:关联的人类身份与执行任务的非人类/智能体身份。 - **操作标的**:试图读取、修改的具体业务数据(如财务、人事或支持工单)。 - **因果链路**:导致触发该操作的上下文事件序列与业务流程节点。 - **时空环境**:为何偏偏在此刻、以此种频次与方式调用资源。 --- ### [09:26](https://www.youtube.com/watch?v=VJN_6sKVf34&t=566s) 运行时授权机制:让安全策略动态捕捉并裁决意图 理解了意图的内涵后,核心工程问题随之而来:如何落地并控制意图?Gal Helemski 解释道,企业需要一套能够实时采集所有上下文信号并与安全策略进行即时校验的系统。策略(Policy)是定义“何为合规意图”的唯一手段,而真正将这些策略转化为实战防线的正是“运行时授权”(Runtime Authorization)。 真正的运行时授权绝非事前的静态配置,也绝非事后的审计追责,而是在智能体采取行动的“当下毫秒级时间内”进行实时判定。由于智能体行进路线的每一步都充满动态变数,运行时授权引擎必须随着智能体执行流的推移进行持续评估,在每一个节点反复核实当前意图是否完全契合安全策略规范。只有这样,才能在保障智能体灵活推理的同时,确保数据不越雷池一步。 ```mermaid flowchart TD accTitle: 运行时意图访问控制决策机制 A["智能体行为发起 (操作/调用/检索)"] --> B["实时捕获上下文信号\n(人类身份, 智能体身份, 流程节点, 目标数据)"] B --> C{"运行时授权引擎\n(Runtime Authorization)"} D["集中式安全策略库\n(已核准的意图规则)"] --> C C -- "意图合规" --> E["放行并执行操作"] C -- "偏离/违规意图" --> F["即时阻断 / 降级拦截"] ``` --- ### [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 智能体全流程四大控制点:提示词、数据检索、MCP 工具与响应过滤 针对企业实际落地,Gal Helemski 梳理了一个典型的智能体端到端工作流:用户输入 Prompt,智能体启动数据检索,可能借助 MCP(Model Context Protocol)调用外部工具,最终组装并输出 Response。在这个生命周期中,企业必须在四大关键卡点部署意图级防护: ```mermaid flowchart LR accTitle: 智能体全流程四大控制点架构图 P["输入 Prompt"] -->|控制点 1: 输入护栏| R["数据检索 Data Retrieval"] R -->|控制点 2: 数据护栏| T["工具调用 MCP Tools"] T -->|控制点 3: 工具护栏| O["输出 Response"] O -->|控制点 4: 输出护栏| U["最终呈现用户"] subgraph "四道运行时安全卡点" direction TB C1["1. 输入护栏: 身份鉴权与跨域阻断"] C2["2. 数据护栏: 检索前按上下文过滤"] C3["3. 工具护栏: 细粒度管控调用方式与暴露面"] C4["4. 输出护栏: PII 敏感信息掩码脱敏"] end C1 -.-> P C2 -.-> R C3 -.-> T C4 -.-> O ``` 1. **第一控制点:输入护栏(Input Guardrails)** 绝不能允许用户或上游智能体随心所欲提出任何问题。安全控制必须前置在 Prompt 阶段,在数据被调取、工具被唤醒之前就掐断潜在风险。以往业界谈及护栏多指“操作性合规护栏”,但真正缺失的是“鉴权与意图护栏”。例如,当一个客服售后智能体被提问财务账目或 HR 敏感薪酬时,系统必须在提示词阶段予以判定并直接拦截,避免流程继续向下穿透。 2. **第二控制点:数据护栏(Data Guardrails)** 随着智能体被广泛接入 Google Drive、内部知识库与结构化数据库,组织面临着空前的数据暴露面。智能体不需要、也不应该接触流程无关的泛化数据。企业必须基于当前人类上下文与任务意图,实施“检索前过滤”(Filtering before retrieval),而非提取出全部数据后再做筛选。例如:限定智能体仅能检索美国本土记录而不能碰触欧洲数据,或者仅允许读取非机密分级文档。 3. **第三控制点:工具调用与 MCP 护栏(Tool & MCP Guardrails)** 模型上下文协议(MCP)等标准使得智能体能自如调取外部系统。传统的安全仅关注“该智能体是否有权调用此工具”,但这过于初级。真正的控制在于“工具是如何被使用的”:智能体是否将邮件发往了组织外部域名?是否在一秒钟内触发了上百封邮件?该工具调用带出了哪些深层数据?必须细化到具体的参数、行为频次与外发目标。 4. **第四控制点:输出护栏(Output Guardrails)** 哪怕在检索和工具层面设置了多重关卡,模型在整合生成最终响应(Response)时,仍有可能夹带敏感的个人身份信息(PII)或敏感商业数据。输出护栏作为最后一道防线,负责对这些生成内容进行实时的脱敏掩码处理,确保终端展示内容绝对合规。 --- ### [18:14](https://www.youtube.com/watch?v=VJN_6sKVf34&t=1094s) 核心总结与行动建议:构建面向自主智能体的策略驱动治理 在演讲尾声,Gal Helemski 总结道,在高度自主的智能体时代,仅靠个别分配或静态定义的权限早已无法维系系统的安全性,唯一可行的治理路径是建立全面捕捉并约束意图的策略网络。她为在场的架构师与安全团队提炼了五条核心结论: - **无意图即失败**:脱离意图而直接授权动作的智能体架构注定会暴露出致命安全漏洞。静态准入机制无法真正实现安全管控。 - **重新审视权限定义**:权限只界定了理论上的“可能性”,绝不代表该行为在特定业务场景下是“得体且被认可的”。 - **约束业务目的,而非仅限制工具**:安全治理的重点不在于“智能体能否调用这个 MCP 工具”,而在于“智能体为什么在此时以此种方式调用该工具”。 - **全面践行运行时评估**:在执行链路的每一个瞬时节点动态判定访问请求,取代传统的离线预授权。 - **全流程贯穿意图感知**:从输入的 Prompt、检索的数据、调用的 MCP 工具到最终返回的 Response,四大控制点必须全部依托意图驱动的策略进行协同防御。 ## Notable quotes > [00:04](https://www.youtube.com/watch?v=VJN_6sKVf34&t=4s) 身份安全已经成为智能体 AI(Agentic AI)领域最炙手可热的话题。 — Gal Helemski > [00:04](https://www.youtube.com/watch?v=VJN_6sKVf34&t=4s) 它们在底层设计上就倾向于竭尽全力去“取悦”(please)操作它的使用者。为了达成目标,智能体会在其边界内想尽一切办法寻找路径。 — Gal Helemski > [00:04](https://www.youtube.com/watch?v=VJN_6sKVf34&t=4s) 这也是一个从第一天起就“把事情做对”的历史机遇,行业不必重蹈覆辙走“先上线后打补丁”的老路。 — Gal Helemski > [02:30](https://www.youtube.com/watch?v=VJN_6sKVf34&t=150s) 这一系列询问的核心目的,不是为了二次验证身份,而是在刺探“意图”(Intent)。 — Gal Helemski > [04:09](https://www.youtube.com/watch?v=VJN_6sKVf34&t=249s) 智能体不可预测的核心原因在于“它们拥有大脑”。 — Gal Helemski > [06:06](https://www.youtube.com/watch?v=VJN_6sKVf34&t=366s) Permissions only tell what's possible, not if it is appropriate to use right now — Gal Helemski > [06:06](https://www.youtube.com/watch?v=VJN_6sKVf34&t=366s) 所谓意图,本质上是行为背后的根本目的(the purpose behind the action)。 — Gal Helemski > [09:26](https://www.youtube.com/watch?v=VJN_6sKVf34&t=566s) 真正的运行时授权绝非事前的静态配置,也绝非事后的审计追责,而是在智能体采取行动的“当下毫秒级时间内”进行实时判定。 — Gal Helemski > [12:20](https://www.youtube.com/watch?v=VJN_6sKVf34&t=740s) 绝不能允许用户或上游智能体随心所欲提出任何问题。安全控制必须前置在 Prompt 阶段,在数据被调取、工具被唤醒之前就掐断潜在风险。 — Gal Helemski > [18:14](https://www.youtube.com/watch?v=VJN_6sKVf34&t=1094s) 脱离意图而直接授权动作的智能体架构注定会暴露出致命安全漏洞。静态准入机制无法真正实现安全管控。 — Gal Helemski ## Mentioned Gal Helemski, PlainID, Ai4, Agentic AI, MCP (Model Context Protocol), Runtime Authorization, Google Drive ## Video description Gal Helemski - Cofounder & Chief Product (CPO), PlainID Agentic AI systems retrieve data directly or via MCP tools, yet most lack built-in controls. Without clear security boundaries, they can expose sensitive data and disrupt operations within seconds. As a result, enforcing guardrails across the entire AI flow and centrally managing access for all identities, human and machine, has become critical. This session explores how runtime controls are applied and enforced across distributed environments to enable secure, scalable agentic AI. [Source](https://www.youtube.com/watch?v=VJN_6sKVf34)

Source quotes

[0:04] Gal Helemski: 身份安全已经成为智能体 AI(Agentic AI)领域最炙手可热的话题。 [0:04] Gal Helemski: 它们在底层设计上就倾向于竭尽全力去“取悦”(please)操作它的使用者。为了达成目标,智能体会在其边界内想尽一切办法寻找路径。 [0:04] Gal Helemski: 这也是一个从第一天起就“把事情做对”的历史机遇,行业不必重蹈覆辙走“先上线后打补丁”的老路。 [2:30] Gal Helemski: 这一系列询问的核心目的,不是为了二次验证身份,而是在刺探“意图”(Intent)。 [4:09] Gal Helemski: 智能体不可预测的核心原因在于“它们拥有大脑”。 [6:06] Gal Helemski: Permissions only tell what's possible, not if it is appropriate to use right now [6:06] Gal Helemski: 所谓意图,本质上是行为背后的根本目的(the purpose behind the action)。 [9:26] Gal Helemski: 真正的运行时授权绝非事前的静态配置,也绝非事后的审计追责,而是在智能体采取行动的“当下毫秒级时间内”进行实时判定。 [12:20] Gal Helemski: 绝不能允许用户或上游智能体随心所欲提出任何问题。安全控制必须前置在 Prompt 阶段,在数据被调取、工具被唤醒之前就掐断潜在风险。 [18:14] Gal Helemski: 脱离意图而直接授权动作的智能体架构注定会暴露出致命安全漏洞。静态准入机制无法真正实现安全管控。