Ai4
AI-assisted summary of Governing Agentic AI - A Practical Framework for Retail, Hospitality and QSR With McDonald's Corp. — original source. Check the original for full context.
Source published:
Detailed notes
## Background 该内容由 Ai4 频道于 2026 年 8 月 14 日发布在 YouTube 平台。页面简介显示,麦当劳全球高级法律顾问兼 AI 法律负责人 May Sethaphanich 在本次演讲中,深入分享了面向零售、酒店与大型餐饮(QSR)行业的智能体 AI(Agentic AI)实用治理框架。
## TL;DR 演讲系统阐述了企业构建 AI 治理技术栈的分层逻辑,强调必须先筑牢传统机器学习与非自主生成式 AI 的合规底座,再推进面向自主 Agent 的治理。针对零售餐饮业普遍存在的监管认知误区,重点剖析了反垄断算法定价协同、智能体间交互(Agent-to-Agent)及提示词无法作为有效安全控制等核心风险。为此,企业必须推行高风险场景下“人类在回路(HITL)”与人员培训等人类控制支柱,并同步落地智能体登记册(Agent Register)、智能体卡片(Agent Card)、端到端审计日志与熔断机制等技术控制。最终指出,完备的治理并非阻碍,而是企业实现 AI 规模化与可持续采用的关键基石。
## Atmosphere & style 整场分享洋溢着法务合规与工程架构深度融合的专业务实氛围,节奏明快、直击行业痛点。演讲者以跨界法务负责人的从容与严密逻辑娓娓道来,既有对技术盲区与合规幻觉的犀利警示,又有条理清晰的落地架构拆解。演讲行云流水且极具说服力,在尾声将“治理”从被动的合规阻力重塑为业务规模化的底层推力,传递出沉稳笃定且赋能前行的信心。
## Key takeaways - [00:04](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=4s) 企业级 AI 治理必须遵循分层技术栈理念:首先识别法律触发点并夯实传统机器学习和非自主生成式 AI 的基础治理,再在其上叠加自主智能体(Agentic AI)治理层。 - [01:50](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=110s) 零售与餐饮等非强监管行业存在“AI 合规风险低”的危险认知误区,事实上劳动用工、消费者保护、反垄断及新型算法定价等通用法律早已全面适用于 AI 场景。 - [01:50](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=110s) 全球针对 AI 的专门立法(如全美各州法案与《欧盟人工智能法案》)确立了前端透明度披露与可解释性等法定合规要求,且 AI 治理远不止于传统的个人隐私保护(Privacy Plus)。 - [05:59](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=359s) 成熟的基础 AI 治理体系需具备四大核心支柱:风险分级的 AI 资产清单(AI Inventory)、技术与业务双重责任人制、企业统一 AI 政策与实操指南,以及扩展至非个人数据和偏差事件的应急响应协议。 - [09:23](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=563s) 大语言模型的非确定性使 Agentic AI 的风险显著放大;技术团队不能将系统提示词(System Prompt)误当作安全控制手段,因为模型完全可以绕过提示词限制。 - [09:23](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=563s) 赋予面向外部的自主 Agent 直接决策和操作权限极易引发不可逆的法律灾难,例如误发解聘通知、错误发放退款或未妥善鉴权导致的数据泄露合规通报危机。 - [11:32](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=692s) Agent-to-Agent(跨主体智能体交互)拓宽了安全攻击面与责任风险,必须在系统设计初期拉入法务与架构师审查,并通过前置商业合同条款明确划分各方责任边界。 - [13:02](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=782s) 多公司自主定价 Agent 读取公开宏观及市场数据可能自发导致算法价格趋同,即便无主观串通仍可能触发反垄断调查,企业必须依靠完备的治理与护栏文档构建“法律抗辩力”。 - [15:00](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=900s) 在招聘与用工管理等高风险场景中,“人类在回路”(HITL)是不可逾越的合规底线,企业 AI 预算必须在采购工具/基建与人员实操培训之间取得平衡。 - [16:57](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=1017s) 技术控制落地依托“智能体登记册”(Agent Register)与“智能体卡片”(Agent Card),强制绑定唯一标识符、双线责任人、核准用途与数据访问权限,防止影子 Agent 泛滥。 - [16:57](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=1017s) 生产环境中的 Agent 必须具备端到端追踪审计日志以及分级升级与自动熔断机制(暂停、安全模式、网络隔离、下线销毁),以应对运行时异常并留存诉讼证据。 - [19:04](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=1144s) AI 治理从来不是阻碍企业创新的绊脚石,而是制定 AI 战略、确保负责任落地并实现长远规模化商业扩张的核心基石。
## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=4s) 讲师背景与 AI 治理技术栈的分层理念
作为全球大型快餐连锁(QSR)企业的全球高级法律顾问与 AI 法律负责人,May Sethaphanich 长期与工程师、架构师、开发者以及数据科学家紧密协作,在赋能业务的同时共同主导企业级 AI 治理体系的建设。在开启正式演讲前,她明确声明本次分享仅代表其个人观点,不代表任何关联机构的立场。本次演讲的核心议题聚焦于“智能体 AI”(Agentic / Autonomous AI)的治理框架构建。
```mermaid flowchart TD accTitle: AI 治理技术栈分层模型 subgraph Layer2 ["第二层:智能体治理 (Agentic Governance)"] A2["自主决策与工具调用控制"] A3["多智能体交互边界约束"] end subgraph Layer1 ["第一层:基础治理 (Foundational Governance)"] B1["传统机器学习 (ML) 治理"] B2["非自主生成式 AI (Non-autonomous Gen AI) 治理"] end subgraph Base ["底层驱动:法律认知与业务风险"] C1["现有行业通用法规 + 新兴 AI 专门立法"] end
Base --> Layer1 Layer1 --> Layer2 ```
May Sethaphanich 强调,构建 AI 治理技术栈必须遵循清晰的分层逻辑。第一层也是最基础的一步,是对适用于自身业务场景、用例和工具的法律法规建立全面认知。驱动治理框架落地的关键在于识别企业所面临的“法律触发点”(Legal Triggers)。更为重要的是,这层基础治理绝不能仅局限于生成式 AI(Gen AI),必须完整覆盖传统的机器学习(Machine Learning)算法。企业必须在非自主 AI 的合规底座稳固建立之后,再行推进面向自主智能体 AI(Agentic AI)的上一层治理。
---
[01:50](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=110s) 零售与餐饮行业的法律合规误区与监管新浪潮
在零售、酒店与餐饮(QSR)行业中普遍存在一个极其危险的认知误区:许多企业认为自身既不像金融业也不像医疗行业那样受到严格的垂直监管机构约束,因此面临的法律风险微乎其微,“可以自由随意地设计和部署 AI”。然而事实截然相反,一系列长期存在的通用法律早已适用于各类 AI 应用场景:
* **劳动与雇佣法规**:规范 AI 在招聘筛选、绩效评估和员工管理中的介入。 * **消费者权益保护法**:禁止欺诈性交互、虚假陈述或损害消费者利益的自动化操作。 * **反垄断与反不正当竞争法**:明确禁止无论是人类之间还是通过 AI 实施的价格协同与固定。如果企业的定价智能体开始与竞品智能体产生协同定价的迹象,将面临极为严重的法律后果。 * **新型算法定价法规**:针对动态定价和算法定价设立了全新的合规门槛。
除传统法律延伸外,全美各州正在掀起一波针对 AI 的专门立法浪潮。这要求企业在利用 AI 与消费者或员工互动时履行多项新法定义务,其中最关键的是**前端透明度披露**(明确告知求职者、员工或消费者正在与其交互的是 AI)以及**可解释性要求**(能够解释 AI 如何做出决策或辅助决策)。企业不能只顾着盲目投资工具、生态与基础设施,必须同步投资于后台的合规与可解释性能力建设。
此外,对于在欧洲开展业务的企业而言,《欧盟人工智能法案》(EU AI Act)至关重要。作为 AI 领域的“GDPR”,该法案规定了极其严苛的合规义务与高额违规罚金。May 特别纠正了行业内将 AI 治理等同于“隐私保护升级版”(Privacy Plus)的狭隘观点:尽管数据隐私至关重要,但现实中大量 AI 用例处理的是非个人身份信息(Non-PII),若使用不当同样会引发巨大的实质性法律后果。
---
[05:59](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=359s) 基础 AI 治理体系的核心组成要素
虽然业界言必称“智能体”,但许多团队在被问及非自主 AI 的基础治理时往往语焉不详。监管机构通过极其宽泛的法律定义,将传统机器学习算法与非自主生成式 AI 均纳入监管视野。一套成熟的基础 AI 治理框架必须包含以下四个关键支柱:
| 核心组件 | 关键职责与实施要点 | |:--- |:--- | | **已批准工具与用例资产清单 (AI Inventory)** | 登记企业内所有经审批的 AI 工具与场景,依据企业风险承受度及适用法律打上“低/中/高”风险分级标签,不同级别对应差异化的部署前后合规要求。 | | **业务与技术双重责任人 (Owners)** | 明确指定技术负责人与业务负责人,在工具的全生命周期内承担问责制(Accountable),确保其不仅在商业指标上达标,更在法律合规层面持续受控。 | | **企业 AI 政策与实操指南 (AI Policy)** | 清晰阐明企业 AI 原则,为内部员工、供应商、营销与公关代理商乃至外部法律顾问提供统一的“行为准则(Dos and Don'ts)”。 | | **AI 事件响应响应协议 (AI Incident Protocol)** | 复用并扩展企业原有的安全应急响应能力,将覆盖面从单纯的个人数据泄露(PII Breach)扩展到非个人数据异常、输出偏差引发的重大法律事件。 |
May 指出,明确风险分级之所以至关重要,是因为它直接决定了业务与技术团队在系统上线前及上线后必须遵守的合规动作与控制措施。
---
[09:23](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=563s) Agentic AI 的独特风险与系统提示词的局限性
进入智能体 AI(Agentic AI)阶段后,大语言模型(LLM)固有的“非确定性”(Non-deterministic nature)会被自主性进一步放大,这也是为什么必须在基础框架之上叠加专门治理层的原因。May 直截了当地指出,技术团队中常见的一个致命假设是将系统提示词作为防御手段:
> “如果你的智能体仅仅依靠系统提示词(System Prompt)里的某些指令来进行约束,那根本算不上是一种控制,因为大语言模型完全能够绕过系统提示词中的限制进行推理。”
当一个面向外部的自主智能体被赋予做决策并直接执行操作的权限时,一旦出现错误,其引发的行为往往是极难撤销(甚至是不可逆)且伴随严重法律后果的。例如: * 智能体误向一批员工或供应商自动发送了解聘/终止合作通知; * 客服智能体由于逻辑偏差错误地向大量客户发放了退款; * 智能体拥有调用内部/外部工具与数据库的权限,包含公司专有商业机密或员工与客户的个人信息;一旦智能体在未经妥善鉴权的情况下违规读取这些数据,在法律上即构成数据泄露,将直接触发向隐私监管机构和受影响个人进行强制通报的法定义务。
---
[11:32](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=692s) Agent-to-Agent(智能体间交互)的新兴攻击面与责任边界
随着技术演进,一个新的重大风险场景正在显现:当企业自身的智能体被赋予自主权去与第三方智能体(Agent-to-Agent)直接进行交互与协作时。
May 强烈建议治理团队对此类场景启动最高级别的审查,在架构初期就必须将法律顾问、解决方案架构师及核心业务人员深度拉入。这种跨系统的智能体互联极大地拓宽了企业的安全攻击面与法律风险暴露面。核心难点在于,除非企业在事前与第三方通过明确协议界定清晰,否则“我的智能体责任从哪里开始、在哪里结束,对方智能体的责任又该如何划分”,彼此之间的法律责任边界将变得极度模糊且不可控。
[12:37](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=757s) Agent 间交互规范与合同责任划分
在多个自主智能体(Agent)协同工作的生态中,企业面临的首要问题不仅是单个智能体在做什么,而是“我的智能体与你的智能体之间该如何交互”。May Sethaphanich 强调,跨主体的智能体交互模式绝不能放任自流,必须在系统设计之初就清晰拟定交互模式,并经过高层资深业务与技术利益相关者的严格审查与批准。
为了杜绝出现事故后相互推诿的灰色地带,她强烈建议企业将这类交互规则以法律合同条款的形式固定下来。通过清晰的前置合同条款,在各方之间明确划分责任边界,确保在发生意外错误或损失时,责任归属一目了然。
- 必须对跨主体 Agent 间的通信与协作模式设立标准,经由高层利益相关者审批。 - 强烈建议通过前置商业合同条款锁定法律责任分配,确保责任归属清晰透明。
---
[13:02](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=782s) 新型风险敞口:自主定价智能体与反垄断合规
除了交互责任,May 提出了一个全新的风险向量:当智能体被赋予外部数据访问权限时,可能引发意想不到的连锁反应。许多智能体为了完成自身任务,必须拉取宏观经济数据或外部市场行情,最典型的例子就是跨行业的“定价智能体”(Pricing Agents)。
May 设想了一个极具现实意义的合规危机场景:几家毫无关联、互为直接竞争对手的公司,各自部署了自主定价智能体。这些智能体独立抓取公开的市场数据、宏观经济指标以及竞品信息。在没有任何人类串通意图的情况下,各个智能体算出的价格模型却在算法驱动下不谋而合,最终导致市场价格趋同与协同(price convergence / coordination)。这种现象极易引来反垄断监管机构的严厉审查与质询。
面对这种情况,企业必须依赖完备的治理文档建立“法律抗辩力”(legal defensibility)。企业需要有据可查地向监管机构自证:在部署这些自主 AI 之初,公司就已经设置了合规护栏;价格趋同纯属技术运行中的意外副产物,绝非人类指使的价格卡特尔。
```mermaid flowchart TD accTitle: 智能体外部数据访问与反垄断风险模型 subgraph S1["竞争对手自主系统"] A1["公司 A 定价 Agent"] A2["公司 B 定价 Agent"] end
subgraph S2["外部数据源"] D1["宏观经济指标"] D2["公开竞品市场数据"] end
subgraph S3["意外风险与法律防线"] R1["算法自发价格趋同 / 协同"] R2["反垄断监管机构介入调查"] L1["合规文档与安全护栏:<br/>构建法律抗辩力 (Legal Defensibility)"] end
D1 --> A1 D1 --> A2 D2 --> A1 D2 --> A2 A1 --> R1 A2 --> R1 R1 --> R2 L1 -. 应对自证.-> R2 ```
- 核心风险点:定价等 Agent 因读取相同外部经济/市场数据,自发形成价格趋同。 - 监管后果:即使毫无人类串通共谋的主观意愿,仍可能触发反垄断法调查。 - 破局关键:依靠完备的治理与护栏开发文档,作为向监管层证明合规尽职的法律抗辩防线。
---
[15:00](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=900s) 治理控制支柱一:高风险场景下的“人类在回路”与培训投入
为了应对复杂的合规与技术挑战,May 指出必须在智能体治理框架中引入两大核心控制支柱:人类控制(Human Controls)与技术控制(Technical Controls)。对于 AI 成熟度尚处于初级阶段的企业而言,“人类在回路”(Human-in-the-loop, HITL)不仅不可或缺,更是抵御早期系统失控的底线保障。
在涉及高风险的应用场景中,监管部门对人类介入的要求更为苛刻。May 以人力资源与用工管理为例:如果企业计划使用 Agent 协助招聘、评估或员工管理,监管机构会严查企业是否采取了充分的风险缓释手段,以及是否给予了“系统另一端被影响的活生生的人”足够的尊重。在关键决策落地执行之前,必须有经过训练的人类对智能体给出的建议结果进行严格复核。
与此相对应,企业必须为高风险场景编写配套的培训手册,作为员工接受过合格操作培训的合规证据。May 直言,很多企业在采购尖端工具和搭建 AI 基础设施上挥金如土,但一个真正成熟的 AI 战略必须拿出专项预算投入到“人的赋能”上,让员工掌握与自主 AI 谨慎协作、把控风险的能力。
- 人类控制在用工管理、自动化招聘等高风险用例中属于强监管红线。 - 建立标准操作流程与培训手册,留存培训证明,确保复核人员具备审核 Agent 建议输出的专业能力。 - AI 投资预算必须在工具/基建与人员培训之间取得平衡,不能“重技术、轻人员”。
---
[16:57](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=1017s) 治理控制支柱二:确定性工作流、智能体登记册与熔断机制
在技术控制方面,May 简要重申了底层逻辑:生成式 AI 具有固有的非确定性(non-deterministic),因此必须利用“确定性工作流”(deterministic workflows)来对冲自主系统带来的不可控风险。这一机制应深度嵌入企业使用的各类平台中,无论是 Microsoft Copilot、Google Gemini、Vertex AI,还是 Glean 或 ServiceNow。
落地技术控制的核心抓手是建立“智能体登记册”(Agent Register),其逻辑等同于此前管理传统 AI 时的工具与用例清单。任何获批投入生产环境的 Agent 都必须在此登记,并生成唯一的“智能体卡片”(Agent Card)。卡片中不仅要标注唯一识别符,还必须强制绑定业务与技术双线的人类负责人,由其对该 Agent 遵守核准协议承担终身责任。
```mermaid flowchart LR accTitle: 智能体卡片与技术控制架构 subgraph AC["Agent Card 核心要素"] direction TB C1["唯一识别符 (Unique ID)"] C2["业务与技术负责人"] C3["核准用途与授权用户"] C4["工具与数据访问权限"] end
subgraph TC["运行监控与防御体系"] direction TB M1["端到端全链路活动追踪"] M2["审计日志 (支持法律抗辩)"] M3["熔断与升级协议:<br/>暂停 / 安全模式 / 隔离 / 下线"] end
AC ==> TC ```
此外,系统必须具备端到端追踪 Agent 活动的报告与审计日志能力,尤其是高风险用例,这些日志是未来面临法律诉讼时的核心取证依据。同时,体系内必须内嵌分级升级协议与“熔断机制”(Circuit Breakers),一旦检测到异常指标,能够立即对智能体执行挂起、暂停、切换安全模式、网络隔离甚至彻底强制下线。
- 智能体登记册(Agent Register):上线必须备案,防止影子 Agent(Shadow Agents)滋生。 - 智能体卡片(Agent Card)四要素:唯一标识符、双线责任人(业务与技术)、核准用途与授权使用人群、核准工具与数据访问权限边界。 - 运行时防护:端到端活动报告、法律级审计日志记录,以及具备“暂停、安全模式、隔离、销毁”多重档位的自动熔断协议。
---
[19:04](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=1144s) 结语:治理不是阻碍,而是规模化采用的核心基石
在演讲尾声,May 坦言由于时间紧迫,许多准备好的演示胶片不得不快速略过,但与会者可以在大会结束几天后下载完整讲义。在全场热烈的掌声前,她留下了这场分享最核心的论点:
"治理从来不是企业 AI 采用进程中的绊脚石或阻力。"("governance is not a drag on progress on your company's AI adoption.")恰恰相反,完善的治理框架是推动负责任 AI 落地的先决条件。在制定任何企业的 AI 战略时,治理都应被视为不可分割的底层支柱——因为唯有建立在坚实治理之上的 AI,才能在商业世界中实现成功、稳健且可持续的长远规模化扩张。
## Notable quotes > [01:50](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=110s) 可以自由随意地设计和部署 AI
> [09:23](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=563s) 如果你的智能体仅仅依靠系统提示词(System Prompt)里的某些指令来进行约束,那根本算不上是一种控制,因为大语言模型完全能够绕过系统提示词中的限制进行推理。 — May Sethaphanich
> [11:32](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=692s) 我的智能体责任从哪里开始、在哪里结束,对方智能体的责任又该如何划分 — May Sethaphanich
> [12:37](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=757s) 我的智能体与你的智能体之间该如何交互 — May Sethaphanich
> [13:02](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=782s) 法律抗辩力 — May Sethaphanich
> [15:00](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=900s) 系统另一端被影响的活生生的人 — May Sethaphanich
> [15:00](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=900s) 重技术、轻人员 — May Sethaphanich
> [19:04](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=1144s) 治理从来不是企业 AI 采用进程中的绊脚石或阻力。 — May Sethaphanich
> [19:04](https://www.youtube.com/watch?v=PlRM8nzfHaE&t=1144s) governance is not a drag on progress on your company's AI adoption. — May Sethaphanich
## Mentioned May Sethaphanich, McDonald's Corporation, Ai4, 欧盟人工智能法案 (EU AI Act), 通用数据保护条例 (GDPR), Microsoft Copilot, Google Gemini, Vertex AI, Glean, ServiceNow
## Video description May Sethaphanich - Global Senior Counsel, AI Legal Lead, McDonald's Corporation
Governing Agentic AI - a Practical Framework for Retail, Hospitality and QSR.
[Source](https://www.youtube.com/watch?v=PlRM8nzfHaE)