Cohere推动AI进驻企业私有边界 破除试点泥潭重估投资回报

Fireside Chat with Nic Morales Wtih Cohere And Bloomberg — Ai4

Ai4

企业AI要走出概念验证泥潭,核心在于将模型与Agent部署至受控私有数据环境,并以多Agent协同完成端到端任务所节省的工时与业务结果替代传统SaaS活跃度来衡量真实ROI。

AI-assisted summary of Fireside Chat with Nic Morales Wtih Cohere And Bloomberg — original source. Check the original for full context.

Source published:

Detailed notes

## Background 该视频由行业会议频道 Ai4 于 2025 年 8 月 29 日发布在 YouTube 平台。内容为彭博社职场记者 Jo Constantz 对话 Cohere 客户体验主管 Nic Morales 的炉边谈话,旨在探讨企业如何打破概念验证泥潭,依托安全受控的防火墙环境与 Cohere North 平台落地真正具备商业实效的 Agentic AI。

## TL;DR 对话深入探讨了企业级 AI 落地的底层逻辑与关键挑战,核心原则在于“把模型带到受控的数据环境之中”,并强调提示词本身也是必须严加治理的核心机密。针对医疗、金融等容错率极低的高风险行业,双方分析了通过 RAG、MCP 溯源以及人机协同(Human-in-the-Loop)防范模型幻觉的必要机制。此外,Nic Morales 指出推动转型需要“自上而下战略”与“自下而上赋能”的双轨协同,并倡导企业针对专属业务构建专用模型、打造具备批判思维的 Agent 助手。最后,谈话重构了企业 AI 的投资回报率(ROI)评估标准,主张从传统的 SaaS 活跃度指标转向衡量跨系统的最终业务成果与实质性工时节省。

## Atmosphere & style 整场对话呈现出一种务实、严谨且充满洞察的工业质感,彭博社记者的敏锐质询与 Cohere 负责人的前线实战经验形成了高密度的精彩交锋。交流彻底褪去了消费级 AI 的浮躁炒作滤镜,直面数据主权、员工生计担忧与模型阿谀奉承等现实痛点,展现出冷静理性的商业战略视角。听者能清晰感受到一种沉稳从容的专业力量,既有高管层面的全局架构思考,又有深入业务毛细血管的操盘启发。

## Key takeaways - [01:13](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=73s) 企业级 AI 落地的核心范式不是将企业数据上传至外部环境,而是将 AI 与 Agent 平台直接部署到企业数据所在的受控安全区,以此打通 CRM 和 ERP 等底层核心系统。 - [03:03](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=183s) 企业真正的“顿悟时刻”在于深层业务流程的端到端重塑,例如将医疗收入生命周期管理的处理周期从数周或数月大幅缩短至数分钟甚至数秒。 - [05:09](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=309s) 高风险与强监管行业(如金融、医疗)对模型幻觉的容错率极低,必须依托 RAG 与 MCP 服务器实现严格的事实对齐与出处引用(Grounding)。 - [05:09](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=309s) 在实现完全自主的智能体(Autonomous Agents)之前,企业必须经历渐进式的信任建立过程,并在关键业务节点坚持保留人机协同(Human-in-the-Loop)机制。 - [07:28](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=448s) 提示词(Prompt)本身就蕴含着企业的核心商业机密与隐私,必须确保数据主权、治理机制、可审计性与可观测性,将模型部署在主权云或私有数据中心内。 - [07:28](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=448s) 组织变革不可简单停留在提供聊天输入框,必须结合专项技能培训与黑客松等机制推动员工技能重构,消除对失业的恐惧并让员工将 AI 视为协同作战的伙伴。 - [10:38](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=638s) 成功的 AI 转型需要自上而下的管理层战略规划与自下而上的基层赋能相结合,通过各部门设立技术冠军(Champion)来驱动日常实操落地。 - [10:38](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=638s) 若企业缺乏安全的企业级工具和容错试验环境,一线员工极易在私下使用未经授权的“影子 AI”(Shadow AI),引发严重的数据泄露与合规风险。 - [13:43](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=823s) 企业应告别对 100% 准确率的单一执念,根据具体业务场景容错率进行权衡,并通过构建针对特定语境和行业的专用定制模型(Purpose-built Models)建立壁垒。 - [15:54](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=954s) 针对大模型普遍存在的“阿谀奉承”(Sycophancy)问题,非技术业务人员亦可通过定制提示词打造兼具挑战性与客观性的“思维批判伙伴”(Critical Thought Partner)专属 Agent。 - [18:00](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1080s) Agent 时代的 ROI 评估应打破传统 SaaS 的日活(DAU)或 Prompt 计数思维,转向衡量单次交互触发多个子 Agent 协同所带来的实际业务成果与工时节省。 - [20:29](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1229s) 面对推理、多模态等底层技术的飞速迭代,Cohere 的核心战略立足点在于将顶尖模型能力严格框定在企业私有与合规的安全边界之内。

## Detailed walkthrough ### [00:05](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=5s) 开场介绍:彭博社对话 Cohere

彭博社(Bloomberg)职场与管理趋势记者 Jo Constantz 主持了本次炉边谈话。她介绍自己目前的工作重心高度聚焦于企业人工智能(AI),本场对话的核心旨在探讨企业如何实际落地 AI、克服实施障碍,并挖掘出真正具备商业价值的潜力场景。随后,Cohere 客户体验与合作伙伴关系主管 Nic Morales 进行了自我介绍。

Nic Morales 介绍称,总部位于多伦多的 Cohere 是一家专注于构建安全企业级 AI 解决方案的技术公司。其核心能力涵盖从底层从头训练的大语言模型(LLM),以及专门针对高度重视安全性与生产级要求的大型机构所打造的 Agentic AI 平台。

- **主持人**:Jo Constantz(彭博社职场与管理趋势记者) - **嘉宾**:Nic Morales(Cohere 客户体验与合作伙伴关系主管) - **公司定位**:Cohere 总部位于加拿大多伦多,专注于从零训练企业级大模型及提供 Agentic AI 平台。

---

[01:13](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=73s) AI 的“参差前沿”与企业部署的核心逻辑

Jo Constantz 抛出了关于 AI “参差前沿(Jagged Frontier)”的行业现象:当前的大语言模型在某些任务上表现得惊人出色,却在另一些看似基础的任务上面临瓶颈。针对这一现实,Nic 深入分析了当前大模型在办公场景下的能力边界与实际破局点。他指出,市面上从不缺乏模型资源——无论是开源模型、闭源模型、开箱即用的商用 API,还是通过后期训练(Post-training)与微调(Fine-tuning)定制的模型都极为丰富,但模型本身的能力上限不仅取决于其训练架构,更取决于如何与企业场景相结合。

Nic 强调,企业级 AI 要释放真正的商业价值,核心逻辑绝不是“把企业数据和业务场景搬到 AI 面前”,而是**“将 AI 带到数据存储的本地安全环境中”**(Taking the AI to where the data is)。只有在企业完全掌控数据与提示词治理的前提下,AI 才能真正获准打通内部的 CRM、ERP 以及核心数据库。模型的回复质量与准确性,直接绑定在系统能否安全集成内部数据之上。

```mermaid flowchart LR accTitle: Enterprise AI Deployment Paradigm Shift subgraph Wrong["传统/消费级模式(数据外流)"] direction TB D1["企业敏感数据 / 业务"] -->|"搬迁上传至外部环境"| M1["公共云端 AI 模型"] end subgraph Correct["企业级安全模式(Cohere 范式)"] direction TB M2["AI 模型与 Agent 平台"] -->|"部署至受控安全区"| D2["企业内部数据中心 / 私有云<br/>(CRM, ERP, 内部数据库)"] end ```

- **市场供给现状**:开源模型、闭源模型、微调定制与现成 LLM 供应充足。 - **价值核心原则**:不把数据带给外部 AI,而是将 AI 部署进企业数据资产所在地。 - **系统集成关键**:打通 CRM、ERP 和底层数据库是决定 LLM 回答质量与准确率的前提。

---

[03:03](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=183s) 超越日常琐事:医疗收入生命周期管理带来的“顿悟时刻”

在谈到各行各业落地 AI 的令人惊喜的实际用例时,Nic 提到,大多数用户对生成式 AI 的“顿悟时刻(Lightbulb Moment)”通常始于消费级聊天机器人——比如查寻佛罗伦萨排名前十的餐馆,或是让模型生成一张“猫跳进游泳池”的趣味图片。然而,真正令企业振奋的顿悟时刻发生在职场业务流程的根本重构上,其影响远超单纯的“会议自动记录”。

Nic 以医疗健康行业的“收入生命周期管理(Revenue Cycle Management)”为例:从患者最初挂号预约、现场就诊、核验确定共付额(Co-payment)、各类诊疗流程的记录,直到最终向保险机构发起理赔申报,整个链路涉及图像、医疗图表、医生手写诊断笔记等极其繁杂的多模态混合数据。以往这种重度依赖人力的流程,处理单笔业务需要耗费数周乃至数月的时间;如今借助打通核心数据的大语言模型,处理周期被直接压缩至数分钟甚至数秒钟。这让医疗机构得以从海量繁琐的行政流程中解放出来,将核心精力重新聚焦于患者护理本身。

- **消费级对比**:从搜索旅游攻略、画“猫跳水”,转向解决深层企业运营痛点。 - **典型案例**:医疗收入生命周期管理(涵盖挂号、共付额判定、检查与保险理赔)。 - **处理效率飞跃**:单次处理时长从传统的数周、数月大幅缩短到几分钟甚至数秒。 - **业务价值释放**:直接减少行政管理耗时,使医疗机构重心回归临床与患者照护。

---

[05:09](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=309s) 高风险行业的幻觉防范:RAG、MCP 与人机协同(Human-in-the-Loop)

针对消除保险报销这类繁琐文书的愿景,Jo Constantz 提出了高监管、高风险行业(如金融财富管理、医疗)的核心顾虑:自动化固然能解放员工,但企业绝不能承受错误与模型“幻觉(Hallucination)”所带来的合规代价。

Nic 承认了这一根本差异:消费级 AI 在推荐路线时哪怕带人多绕了一个街区,影响通常微乎其微;但在财富管理等金融业务中,如果由于模型幻觉导致“小数点向左或向右挪动了一位”,其后果将是灾难性的。因此,企业级部署必须做好严格的答案溯源与事实对齐(Grounding)。Nic 指出,当前可以通过检索增强生成(RAG)或模型上下文协议(MCP,Model Context Protocol)服务器直连底层数据源,并在生成答案时附带严密的出处引用,向业务人员明确展示“这一答案是从何而来、依据何种数据得出”。

此外,组织建立对 AI 的信任需要经历渐进式的变革管理。人类员工本身也会犯错,企业通常会给予其成长的宽容度,但对 AI 在核心业务上的容错率却极低。因此,企业在演进至完全自主的 AI 智能体(Autonomous Agents)之前,必须经历一个从“辅助自动化”到“自主智能体”的完整光谱,并且现阶段必须坚持在关键节点保留**人机协同(Human-in-the-Loop)**机制。

```mermaid flowchart TD accTitle: High Stakes Enterprise Verification Flow subgraph DataConnect["数据接入与溯源"] DS["企业内部数据源"] -->|"通过 RAG / MCP 服务器"| Ground["生成带出处引用的事实依据 (Grounding)"] end subgraph Execution["风险控制与人工介入"] Ground --> LLMOut["LLM / Agent 输出推导结果"] LLMOut --> HITL{"人机协同 (Human-in-the-Loop)<br/>业务专家复核校准"} HITL -->|"确认无误 (杜绝小数点偏离)"| FinalAction["执行高风险业务操作<br/>(金融划款/医疗索赔)"] end ```

- **高风险对比**:路线导航多走一个街区无伤大雅,金融资产管理小数点错移一位后果致命。 - **技术保障路径**:利用 RAG、MCP 服务器连接真实数据源,实现百分之百的出处引用与生成对齐。 - **落地节奏**:保持“人机协同(Human-in-the-Loop)”,在完全自主的智能体成型前逐步建立企业信任度。

---

[07:28](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=448s) 企业落地的两大死穴:数据主权安全与员工变革管理

当被问及企业在推进 AI 落地转型时最常遭遇的陷阱与阻碍时,Nic 从“技术架构与部署”和“人员层面的变革管理”两个维度进行了剖析。

在**技术层面**,最大的壁垒在于数据集成、数据安全性以及基于自身数据的定制化能力。部分企业天真地认为“只要我不主动上传数据,系统就是安全的”,但 Nic 提出了一个发人深省的角度:“只要你去看看一个人日常输入的提示词(Prompts),你就能透过这些 Prompt 了解这个人的方方面面”——提示词本身就蕴含着企业的大量核心机密与隐私,决不能泄漏到受控环境之外。因此,数据治理(Governance)、可审计性(Auditability)和可观测性(Observability)是企业级部署不可妥协的底线。Cohere 的 North 平台正是为此设计,它允许将系统直接部署进主权云(Sovereign Clouds)或企业内部的私有数据中心,确保数据与提示词完全不出本地,从而越过停滞不前的 PoC 试点泥潭(Pilot Purgatory),直接进入真正的生产环境。

在**人员与组织层面**,AI 实施绝不能简单等同于“给员工扔一个类似消费级 AI 的搜索框并期望他们一夜之间上手”。成效卓著的企业通常会将技术交付与组织学习培训(L&D)深度绑定。通过黑客松(Hackathons)、专项技能培训课程等方式帮助员工完成技能重构(Upskill),让员工不再将 AI 视作抢夺饭碗的生存威胁,而是将其看作并肩作战、共同推进业务的“合作伙伴”与“队友”。

- **技术避坑要点**: - 提示词安全漏洞:“看一个人的 Prompts 就能了解他的全部”,Prompt 本身即高密资产。 - 平台方案:Cohere North 平台支持部署至主权云与本地私有数据中心,确保可治理、可审计、可观测。 - **组织避坑要点**: - 破除“给个输入框就能搞定”的懒政思维,AI 转型并非一蹴而就。 - 结合 L&D、内部黑客松和系统化培训,推动员工将 AI 视为协同作业的伙伴而非被取代的威胁。

[10:38](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=638s) 推动企业 AI 转型的双轨机制:自上而下的战略与基层的实操赋能

在许多传统行业中,大量员工在过去十年、十五年甚至二十年里都遵循着固定的工作模式,如今却突然被要求以完全颠覆以往的方式来处理事务。他们亟需支持、培训以及适配的工具来适应转变;而那些成功转型的企业,则迎来了业务加速增长的巨大契机。针对变革推进的落地路径,业界主要存在两种截然不同的思路:一种是自上而下(Top-down)的全局战略,深度审视现有业务流程并端到端地引入 AI 进行重塑;另一种则是彻底赋能一线员工,由最熟悉实际业务的人员自行探索和寻找场景解决方案。

对于哪种方式最有效,Nic Morales 指出这并非 AI 独有的问题,而是所有技术变革的共通法则:必须将两者有机结合。企业既需要 CEO 等最高管理层提出战略指令(无论是刚性考核指标还是柔性引导),将 AI 融入年度规划;也需要建立从基层自发涌现的技术布道与实践文化。成功的企业会在各个部门设立执行赞助人(Executive Sponsors)与部门技术冠军(Champions),由他们接受进阶培训后再去指导团队;同时,必须为知识工作者、独立贡献者(IC)及分析师提供足够的试错环境。毕竟,第一次尝试构建的应用或 Agent 绝不可能一蹴而就达到完美。如果仅靠管理层的死命令而缺乏配套工具与信任,员工会因担心个人生计而产生抵触情绪;反之,若管理层一味推诿不给工具,热情高涨的员工便会私下使用“影子 AI”(Shadow AI)在不安全的环境中自建用例,从而给企业带来极其危险的数据与合规隐患。

```mermaid flowchart TD accTitle: 双轨驱动的企业 AI 转型模式 subgraph TopDown["自上而下的战略驱动 (Top-Down)"] A["CEO / 管理层战略指令"] --> B["部门执行赞助人与 Champion"] B --> C["端到端流程重塑与战略规划"] end

subgraph BottomUp["自下而上的基层赋能 (Bottom-Up)"] D["安全的企业级工具与试验环境"] --> E["知识工作者 / 分析师大胆试错"] E --> F["部门 Champion 赋能与场景探索"] end

C --> G["健康高效的企业级落地"] F --> G

H["仅有自上而下: 员工抵触、担心生计"] -.-> I["转型停滞"] J["仅有自下而上: 滋生影子 AI、安全风险"] -.-> I ```

- **双轨结合的关键要素**: - 管理层将引入 AI 确立为年度规划中的战略必要项(Strategic Imperative)。 - 各业务部门培养专属的 Champion,承担团队内部的培训与推广任务。 - 为基层员工提供低门槛的工具与安全的容错空间,防止因工具缺失而催生出“影子 AI”(Shadow AI)。

---

[13:43](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=823s) 告别 100% 执念:针对具体用例定制专用模型与权衡取舍

面对生成式 AI 存在的幻觉与错误风险,行业正在重新审视衡量工具成功的标准。模型是否必须百分之百不出错才能落地?Nic Morales 明确表示,这一阈值完全取决于具体的业务场景(Use Case Dependent)。这与传统自动化技术类似:在不危及生命安全、不会对个人名誉造成侵蚀或引发伦理合规后果的场景中,98% 的准确率往往已经足够高效;但在那些对严谨性有绝对要求的核心场景下,100% 的准确度则是硬性红线。为此,企业甚至愿意牺牲即时响应性能——例如在某些推理模型(Reasoning Models)中,为了获取精确无误的严谨解答,用户宁愿等待整整 5 分钟。

这也凸显了构建“专用模型”(Purpose-built Models)的重要性。以 Cohere 在韩国与 LG CNS 的合作为例,双方基于 Cohere 的基础模型,专门针对韩语语境进行了深度定制与优化。在该合作的金融服务场景中,确保韩语文本的极致精准度和前沿水准享有最高优先级,即便在其他通用基准测试(Benchmarks)中可能存在妥协也完全在所不惜。对于现代企业而言,拥有高度贴合自身业务语境、具备独特竞争优势的定制化模型(Custom LLMs),正在成为拉开行业差距的核心壁垒。

---

[15:54](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=954s) 破除模型阿谀奉承:打造具备批判思维的专属 Agent

生成式 AI 面临的另一个广泛吐槽是“阿谀奉承”(Sycophancy)现象。很多主流对话模型(如早期 ChatGPT)往往只会迎合用户、顺着提问者的话说好听的,扮演纯粹的“打气筒”(Gassing me up)。然而在严谨的商业决策中,企业真正需要的是一个兼具挑战性与建设性的“思维批判伙伴”(Critical Thought Partner),能够在构思复杂方案或审阅材料时直接指出逻辑漏洞,而非敷衍地回复“太棒了,请继续”。

Nic Morales 强调,这正是定制化 Agent(智能体)展现价值的舞台。未来的知识工作者都将拥有专属于自己的 Agent 助手,并且能根据实际任务需求灵活调整其交互风格。例如,在准备本次炉边对话时,可以通过提示词(Preamble)或自定义指令,将彭博社记者 Jo Constantz 撰写的一系列高质量文章注入给 Agent,使其模拟出深度探究与犀利审视的行事风格,在模拟演练中向主讲人提出尖锐质询;而在对接客户的场景中,则可让 Agent 迅速切换为适宜商务沟通的基调。最令人兴奋的技术突破在于,非技术背景的业务人员如今也能零门槛地快速构建、部署这类专用 Agent,获取人类同事往往因为照顾面子或情感而难以及时直言的客观反馈。

---

[18:00](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1080s) 重构企业 AI 的 ROI 评估:超越 SaaS 活跃度指标

在评估 AI 工具的落地成效与投资回报率(ROI)时,企业传统的考量往往受制于过往的 SaaS 软件思维,例如单纯追踪日活(DAU)、周活(WAU)或者员工使用 Chat 界面的频次。然而,对于 Agent 时代而言,简单的“提示词发送量”(Prompt Count)根本无法还原真实的业务价值。

一次看似简单的提示词交互,其底层可能触发了多个协同运转的子 Agent(Sub-agents),并在几分钟内全自动完成跨系统的数据挖掘与编排。以财富管理场景为例,理财顾问在会见客户 Nic Morales 之前,以往需要耗费足足两天时间去翻查其持仓组合、关注股票动态和背景资料;而现在只需键入一条指令,背后的自动化链路便能在数分钟内输出完备的准备简报。这一条提示词的背后,撬动的可能是数百万美元的时间与机会成本节省。因此,评估 AI 表现的核心在于业务结果(Outcomes):团队效率是否发生了质的跃升、是否为企业挖掘出了增收杠杆。真正成功的技术采纳,是可见的业务回报、实际的算力消耗以及深度忠诚的客户倡导(如加拿大皇家银行 RBC 等领军机构将成效公开对外背书)的综合体。

- **传统 SaaS 指标与 Agent 时代 ROI 的本质差异**:

| 评估维度 | 传统 SaaS 思维 | Agent 时代核心考量 | |:--- |:--- |:--- | | **监控指标** | 界面登录率、聊天频次、DAU/WAU | 最终业务成果(Outcomes)、跨系统任务完成度 | | **单次交互价值** | 孤立、单向的文本往复生成 | 单次 Prompt 唤醒多个子 Agent,自动串联复杂流程 | | **核心业务贡献** | 记录沟通时长与系统活跃度 | 直接节省海量专业工时(如投顾备会由 2 天缩减为数分钟),驱动增量营收 | | **成功落地标志** | 员工被动打卡使用 | 形成从降本增效(ROI)到全员技术布道(Advocacy)的闭环 |

---

[20:29](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1229s) Cohere 的差异化核心:在企业安全边界内激活前沿能力

谈及 Cohere 正在研发并能开拓全新应用范畴的核心能力时,Nic Morales 指出,全行业在推理模型(Reasoning Models)、多模态视觉模型(Vision Models)以及多语言模型(Multilingual Models)等底层技术上的创新迭代日新月异。市面上虽有琳琅满目的技术形态,但 Cohere 的战略立足点非常明确且坚定:将这些顶尖能力安全地部署在企业私有、敏感且受保护的数据边界之内。

企业级落地必须满足严格的数据治理(Governable)与全程可审计(Auditable)要求,只有守住安全底线,技术才能转化为可衡量的业务价值。当各大行业展会充斥着眼花缭乱的概念创新时,Cohere 的重心始终专注于服务大型企业级客户,为核心资产与私有数据提供最坚固的安全护栏。随着主持人的致谢,本场关于企业级 Agent 落地、专用模型构建与安全边界把控的深度对话圆满收官。

[21:42](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1302s) 对话圆满收尾与致谢

在整场围绕企业级 AI 落地、打破“概念验证泥潭”(pilot purgatory)以及 Cohere North 赋能企业安全部署的深入探讨结束后,对话走向尾声。讲者在全场交流画上句号之际,以一句诚挚而简练的 “appreciate it” 向主持人及现场观众致意致谢,为整场炉边谈话作了干脆利落的收尾。

## Notable quotes > [01:13](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=73s) 将 AI 带到数据存储的本地安全环境中(Taking the AI to where the data is)。 — Nic Morales

> [07:28](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=448s) 只要你去看看一个人日常输入的提示词(Prompts),你就能透过这些 Prompt 了解这个人的方方面面。 — Nic Morales

> [13:43](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=823s) 在不危及生命安全、不会对个人名誉造成侵蚀或引发伦理合规后果的场景中,98% 的准确率往往已经足够高效;但在那些对严谨性有绝对要求的核心场景下,100% 的准确度则是硬性红线。 — Nic Morales

> [15:54](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=954s) 很多主流对话模型往往只会迎合用户、顺着提问者的话说好听的,扮演纯粹的“打气筒”(Gassing me up)。 — Nic Morales

> [15:54](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=954s) 在严谨的商业决策中,企业真正需要的是一个兼具挑战性与建设性的“思维批判伙伴”(Critical Thought Partner)。 — Nic Morales

> [18:00](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1080s) 简单的“提示词发送量”(Prompt Count)根本无法还原真实的业务价值。 — Nic Morales

> [18:00](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1080s) 这一条提示词的背后,撬动的可能是数百万美元的时间与机会成本节省。 — Nic Morales

> [20:29](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1229s) 将这些顶尖能力安全地部署在企业私有、敏感且受保护的数据边界之内。 — Nic Morales

## Mentioned Nic Morales, Jo Constantz, Cohere, Bloomberg, Cohere North, LG CNS, 加拿大皇家银行 (RBC), ChatGPT, RAG, MCP (Model Context Protocol)

## Video description Nic Morales, Head of Customer Experience, Cohere Jo Constantz, Workplace Reporter, Bloomberg

Abstracts

Learn how leaders are embracing a new wave of enterprise AI -- designed for security, trust, and practical, real-world impact. This fireside chat will break down what it takes to move beyond pilot purgatory and deploy agentic AI that actually delivers. We’ll highlight practical applications across industries, how Cohere’s North is enabling a shift from generic AI tools to customized, behind-the-firewall intelligence, and what the agentic future for enterprises will hold.

[Source](https://www.youtube.com/watch?v=lpdFD2-CdEc)

中文简报

Cohere将企业级AI引入防火墙内以增强数据安全 只有当企业将模型直接引入其安全的数据环境中,而非将敏感数据导出至外部工具时,企业级AI才能产生切实的商业价值。 Nic Morales 认为,企业级 AI 的成功取决于将安全且可控的模型直接部署至防火墙内的企业数据端,而非将敏感信息导出至通用的消费级工具。讨论对比了浅层的消费级应用场景与高价值的企业工作流(如医疗收入周期自动化管理和多智能体金融研究)。Morales 强调,必须通过 RAG 实现事实锚定,平衡自上而下的战略部署与自下而上的员工技能提升以防范“影子 AI”,并通过配置定制的质疑者智能体来消除模型的谄媚倾向。最后,会议敦促企业摒弃如日活跃 Prompt 次数等传统 SaaS 指标,转而以具体的工作流自动化程度和实际业务成果作为衡量标准。 企业级 AI 的核心价值在于“让模型贴近数据”:通过将模型直接部署在企业防火墙或私有云内,与 ERP、CRM 及内部数据库原生打通,从根源上保障数据治理并消除泄露隐患。 (1:13) 不同于消费级 AI 的泛娱乐场景,企业端重在端到端业务流自动化;例如医疗收入周期管理借助大模型,将原本耗时数周的报销与病历核对流程大幅压缩至几分钟内完成。 (3:03) 在金融和医疗等高风险领域,必须依托 RAG 与 MCP 等溯源机制,并在赋予模型完全自主代理(Agent)权限前引入人机协同(Human-in-the-loop)验证,以杜绝幻觉风险。 (5:09) 企业 AI 落地需兼顾“自上而下”的高管战略驱动与“自下而上”的员工安全实验沙箱,缺乏任何一方都容易引发抵触情绪或催生未受监管的“影子 AI”(Shadow AI)。 (10:38) 评估 Agentic AI 的 ROI 需打破传统 SaaS 的日活或 Prompt 调用量指标;单次结构化提示词触发的多 Agent 协同即可替代长达数天的手工投研流程,直接释放核心业务价值。 (18:00)

精炼阅读摘要

Cohere 客户体验与合作伙伴负责人 Nic Morales 在接受彭博社采访时指出,企业级 AI 的落地核心在于颠覆向外提取数据的传统模式,转而将大语言模型直接部署至企业安全边界之内;唯有将技术深植于高风险核心流程,并配合人机协同治理与组织双轨赋能,才能切实跨越试点陷阱转化为生产力。 数据架构反转与安全治理底线 (1:13) Morales 强调,当前市场虽充斥着各类开源、闭源及微调模型,但基准测试成绩并不能单独决定企业的商业成功。企业实现商业价值的关键在于“将 AI 引入数据”,而非把敏感的内部专有数据导出至第三方终端。通过将 Cohere 的 North 平台部署在企业防火墙、主权云或本地数据中心内,企业能够在完全掌控数据和员工提示词治理的前提下,让模型原生对接 ERP、CRM 及内部关系型数据库,从底层保障检索的事实依据与输出精确度。 在技术架构与安全方面,Morales 指出企业面临的主要技术瓶颈集中于数据集成、访问控制与治理。许多机构往往低估了用户交互信息的敏感性,事实上仅通过分析员工的提示词便能推断出大量个人意图与商业机密。若缺乏严格的安全隔离,提示词泄露不仅会构成重大安全漏洞并导致项目无限期停滞于试点期,还会因缺乏受控工具而催生在未审核平台上运作的“影子 AI”(Shadow AI),引发严重的运营与合规隐患。 重构复杂业务流与时延准确率权衡 (3:03) 相较于搜索餐厅或生成娱乐图像等消费级噱头,企业级 AI 的核心价值在于重构繁琐且耗时的人工业务流。Morales 以医疗健康收入周期管理为例,患者从预约、自付额核算、临床检查、病历记录到最终保险理赔的端到端流程,过去需要跨越异构数据格式耗费数周乃至数月进行人工核对;如今依托可读取多模态医疗记录的安全大模型,可在数分钟甚至数秒内完成,有效剔除行政冗余并让医疗机构重新聚焦于病患照护。在财富管理领域,顾问为客户准备投资组合与市场调研的耗时也从以往的两天大幅压缩至数分钟。 对于模型错误容忍度与准确率指标,Morales 阐明企业需求完全取决于具体业务风险。在无生命危险、道德风险或声誉损失的低风险自动化任务中,98% 的准确率往往已经足够;但在财富管理等高度受监管的场景中,“小数点向左或向右移动一位”都可能招致灾难性的财务与监管后果。针对此类关键任务,企业普遍愿意牺牲推理速度,接受长达数分钟的模型深度推理延迟以换取确定性的精准度。这种差异化需求推动了定制模型的建立,例如 Cohere 与韩国 LG CNS 合作,专门针对当地金融服务语境微调了具备方言精度的定制模型。 溯源验证机制与定制对抗型智能体 (5:09) 为了在严监管领域消除幻觉并建立信任,企业级方案重度依赖检索增强生成(RAG)与模型上下文协议(MCP)服务器等技术,强制模型为其输出精准提供底层源数据引文。Morales 指出,虽然企业文化会对处于学习阶段的人类员工给予容错空间,但对 AI 系统的精度预期却极为苛刻。因此,企业在向自主智能体演进的过程中必须设立分阶段路径,在初期保持人机协同(Human-in-the-Loop)机制对引文溯源进行核验,逐步确立可信度后方可放开完全自主权。 针对消费级模型常见的人格迎合(Sycophancy)倾向——即盲目迎合用户观点,Constantz 指出这种缺乏批判性的交互在专业决策中极具危害。Morales 提出通过智能体架构与前置指令(Preambles)构建专门的“思想对弈伙伴”。非技术业务人员可以自行设定特定职能的智能体,例如在公开对谈前实例化一个模拟记者提问风格与社论基调的智能体来预演抗辩。这种机制打破了人类同事因社交礼貌而难以直言的顾虑,为专业决策提供直截了当的逆向审查。 组织双轨推进与重塑 AI 投资回报 (10:38) 在推动组织采纳新技术方面,Morales 认为纯粹自上而下的行政命令或自发自下而上的探索都难以奏效,企业必须双轨并行。一方面需要 CEO 或 CIO 在年度规划中确立战略方向并提供官方工具;另一方面必须建立部门级推广大使网络,并为一线员工和分析师设立允许安全试错的数字化沙盒。若仅有高层硬性摊派而缺乏配套培训与同理心,极易因员工担忧生计而引发抵制;若只有基层热情而缺乏官方技术支撑,则会导致未经合规审计的影子工具泛滥。 在衡量投资回报率(ROI)时,Morales 主张必须彻底抛弃以坐席许可证、日活跃用户(DAU)或提示词调用量为核心的传统 SaaS 指标。在多智能体生态中,单一结构化的高阶提示词即可触发后台多个子智能体完成组合分析、股票筛选及合规检查等多道工序,以极低的前端交互量撬动巨额商业回报。因此,企业对 AI 采纳健康度的评估,应聚焦于具体的业务成果交付、流程耗时的大幅压缩,以及如加拿大皇家银行(RBC)等头部机构向业界展现的效能示范。 Morales 总结指出,Cohere 未来的技术路线并非追逐消费市场的表面热点,而是致力于将深度推理、多模态与多语言能力稳步集成到企业防火墙内部,确保每一步操作均具备审计合规性与严格治理。然而,从单点自动化平稳过渡到多智能体全面协作的过程中,企业如何在保障绝对数据安全的前提下打通异构孤岛系统,并有效克服老员工面对流程重构时的转型阻力,仍是各行业实现规模化生产部署必须解决的长远议题。

Detailed notes — zh

## Background 该视频由行业会议频道 Ai4 于 2025 年 8 月 29 日发布在 YouTube 平台。内容为彭博社职场记者 Jo Constantz 对话 Cohere 客户体验主管 Nic Morales 的炉边谈话,旨在探讨企业如何打破概念验证泥潭,依托安全受控的防火墙环境与 Cohere North 平台落地真正具备商业实效的 Agentic AI。 ## TL;DR 对话深入探讨了企业级 AI 落地的底层逻辑与关键挑战,核心原则在于“把模型带到受控的数据环境之中”,并强调提示词本身也是必须严加治理的核心机密。针对医疗、金融等容错率极低的高风险行业,双方分析了通过 RAG、MCP 溯源以及人机协同(Human-in-the-Loop)防范模型幻觉的必要机制。此外,Nic Morales 指出推动转型需要“自上而下战略”与“自下而上赋能”的双轨协同,并倡导企业针对专属业务构建专用模型、打造具备批判思维的 Agent 助手。最后,谈话重构了企业 AI 的投资回报率(ROI)评估标准,主张从传统的 SaaS 活跃度指标转向衡量跨系统的最终业务成果与实质性工时节省。 ## Atmosphere & style 整场对话呈现出一种务实、严谨且充满洞察的工业质感,彭博社记者的敏锐质询与 Cohere 负责人的前线实战经验形成了高密度的精彩交锋。交流彻底褪去了消费级 AI 的浮躁炒作滤镜,直面数据主权、员工生计担忧与模型阿谀奉承等现实痛点,展现出冷静理性的商业战略视角。听者能清晰感受到一种沉稳从容的专业力量,既有高管层面的全局架构思考,又有深入业务毛细血管的操盘启发。 ## Key takeaways - [01:13](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=73s) 企业级 AI 落地的核心范式不是将企业数据上传至外部环境,而是将 AI 与 Agent 平台直接部署到企业数据所在的受控安全区,以此打通 CRM 和 ERP 等底层核心系统。 - [03:03](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=183s) 企业真正的“顿悟时刻”在于深层业务流程的端到端重塑,例如将医疗收入生命周期管理的处理周期从数周或数月大幅缩短至数分钟甚至数秒。 - [05:09](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=309s) 高风险与强监管行业(如金融、医疗)对模型幻觉的容错率极低,必须依托 RAG 与 MCP 服务器实现严格的事实对齐与出处引用(Grounding)。 - [05:09](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=309s) 在实现完全自主的智能体(Autonomous Agents)之前,企业必须经历渐进式的信任建立过程,并在关键业务节点坚持保留人机协同(Human-in-the-Loop)机制。 - [07:28](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=448s) 提示词(Prompt)本身就蕴含着企业的核心商业机密与隐私,必须确保数据主权、治理机制、可审计性与可观测性,将模型部署在主权云或私有数据中心内。 - [07:28](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=448s) 组织变革不可简单停留在提供聊天输入框,必须结合专项技能培训与黑客松等机制推动员工技能重构,消除对失业的恐惧并让员工将 AI 视为协同作战的伙伴。 - [10:38](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=638s) 成功的 AI 转型需要自上而下的管理层战略规划与自下而上的基层赋能相结合,通过各部门设立技术冠军(Champion)来驱动日常实操落地。 - [10:38](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=638s) 若企业缺乏安全的企业级工具和容错试验环境,一线员工极易在私下使用未经授权的“影子 AI”(Shadow AI),引发严重的数据泄露与合规风险。 - [13:43](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=823s) 企业应告别对 100% 准确率的单一执念,根据具体业务场景容错率进行权衡,并通过构建针对特定语境和行业的专用定制模型(Purpose-built Models)建立壁垒。 - [15:54](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=954s) 针对大模型普遍存在的“阿谀奉承”(Sycophancy)问题,非技术业务人员亦可通过定制提示词打造兼具挑战性与客观性的“思维批判伙伴”(Critical Thought Partner)专属 Agent。 - [18:00](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1080s) Agent 时代的 ROI 评估应打破传统 SaaS 的日活(DAU)或 Prompt 计数思维,转向衡量单次交互触发多个子 Agent 协同所带来的实际业务成果与工时节省。 - [20:29](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1229s) 面对推理、多模态等底层技术的飞速迭代,Cohere 的核心战略立足点在于将顶尖模型能力严格框定在企业私有与合规的安全边界之内。 ## Detailed walkthrough ### [00:05](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=5s) 开场介绍:彭博社对话 Cohere 彭博社(Bloomberg)职场与管理趋势记者 Jo Constantz 主持了本次炉边谈话。她介绍自己目前的工作重心高度聚焦于企业人工智能(AI),本场对话的核心旨在探讨企业如何实际落地 AI、克服实施障碍,并挖掘出真正具备商业价值的潜力场景。随后,Cohere 客户体验与合作伙伴关系主管 Nic Morales 进行了自我介绍。 Nic Morales 介绍称,总部位于多伦多的 Cohere 是一家专注于构建安全企业级 AI 解决方案的技术公司。其核心能力涵盖从底层从头训练的大语言模型(LLM),以及专门针对高度重视安全性与生产级要求的大型机构所打造的 Agentic AI 平台。 - **主持人**:Jo Constantz(彭博社职场与管理趋势记者) - **嘉宾**:Nic Morales(Cohere 客户体验与合作伙伴关系主管) - **公司定位**:Cohere 总部位于加拿大多伦多,专注于从零训练企业级大模型及提供 Agentic AI 平台。 --- ### [01:13](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=73s) AI 的“参差前沿”与企业部署的核心逻辑 Jo Constantz 抛出了关于 AI “参差前沿(Jagged Frontier)”的行业现象:当前的大语言模型在某些任务上表现得惊人出色,却在另一些看似基础的任务上面临瓶颈。针对这一现实,Nic 深入分析了当前大模型在办公场景下的能力边界与实际破局点。他指出,市面上从不缺乏模型资源——无论是开源模型、闭源模型、开箱即用的商用 API,还是通过后期训练(Post-training)与微调(Fine-tuning)定制的模型都极为丰富,但模型本身的能力上限不仅取决于其训练架构,更取决于如何与企业场景相结合。 Nic 强调,企业级 AI 要释放真正的商业价值,核心逻辑绝不是“把企业数据和业务场景搬到 AI 面前”,而是**“将 AI 带到数据存储的本地安全环境中”**(Taking the AI to where the data is)。只有在企业完全掌控数据与提示词治理的前提下,AI 才能真正获准打通内部的 CRM、ERP 以及核心数据库。模型的回复质量与准确性,直接绑定在系统能否安全集成内部数据之上。 ```mermaid flowchart LR accTitle: Enterprise AI Deployment Paradigm Shift subgraph Wrong["传统/消费级模式(数据外流)"] direction TB D1["企业敏感数据 / 业务"] -->|"搬迁上传至外部环境"| M1["公共云端 AI 模型"] end subgraph Correct["企业级安全模式(Cohere 范式)"] direction TB M2["AI 模型与 Agent 平台"] -->|"部署至受控安全区"| D2["企业内部数据中心 / 私有云<br/>(CRM, ERP, 内部数据库)"] end ``` - **市场供给现状**:开源模型、闭源模型、微调定制与现成 LLM 供应充足。 - **价值核心原则**:不把数据带给外部 AI,而是将 AI 部署进企业数据资产所在地。 - **系统集成关键**:打通 CRM、ERP 和底层数据库是决定 LLM 回答质量与准确率的前提。 --- ### [03:03](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=183s) 超越日常琐事:医疗收入生命周期管理带来的“顿悟时刻” 在谈到各行各业落地 AI 的令人惊喜的实际用例时,Nic 提到,大多数用户对生成式 AI 的“顿悟时刻(Lightbulb Moment)”通常始于消费级聊天机器人——比如查寻佛罗伦萨排名前十的餐馆,或是让模型生成一张“猫跳进游泳池”的趣味图片。然而,真正令企业振奋的顿悟时刻发生在职场业务流程的根本重构上,其影响远超单纯的“会议自动记录”。 Nic 以医疗健康行业的“收入生命周期管理(Revenue Cycle Management)”为例:从患者最初挂号预约、现场就诊、核验确定共付额(Co-payment)、各类诊疗流程的记录,直到最终向保险机构发起理赔申报,整个链路涉及图像、医疗图表、医生手写诊断笔记等极其繁杂的多模态混合数据。以往这种重度依赖人力的流程,处理单笔业务需要耗费数周乃至数月的时间;如今借助打通核心数据的大语言模型,处理周期被直接压缩至数分钟甚至数秒钟。这让医疗机构得以从海量繁琐的行政流程中解放出来,将核心精力重新聚焦于患者护理本身。 - **消费级对比**:从搜索旅游攻略、画“猫跳水”,转向解决深层企业运营痛点。 - **典型案例**:医疗收入生命周期管理(涵盖挂号、共付额判定、检查与保险理赔)。 - **处理效率飞跃**:单次处理时长从传统的数周、数月大幅缩短到几分钟甚至数秒。 - **业务价值释放**:直接减少行政管理耗时,使医疗机构重心回归临床与患者照护。 --- ### [05:09](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=309s) 高风险行业的幻觉防范:RAG、MCP 与人机协同(Human-in-the-Loop) 针对消除保险报销这类繁琐文书的愿景,Jo Constantz 提出了高监管、高风险行业(如金融财富管理、医疗)的核心顾虑:自动化固然能解放员工,但企业绝不能承受错误与模型“幻觉(Hallucination)”所带来的合规代价。 Nic 承认了这一根本差异:消费级 AI 在推荐路线时哪怕带人多绕了一个街区,影响通常微乎其微;但在财富管理等金融业务中,如果由于模型幻觉导致“小数点向左或向右挪动了一位”,其后果将是灾难性的。因此,企业级部署必须做好严格的答案溯源与事实对齐(Grounding)。Nic 指出,当前可以通过检索增强生成(RAG)或模型上下文协议(MCP,Model Context Protocol)服务器直连底层数据源,并在生成答案时附带严密的出处引用,向业务人员明确展示“这一答案是从何而来、依据何种数据得出”。 此外,组织建立对 AI 的信任需要经历渐进式的变革管理。人类员工本身也会犯错,企业通常会给予其成长的宽容度,但对 AI 在核心业务上的容错率却极低。因此,企业在演进至完全自主的 AI 智能体(Autonomous Agents)之前,必须经历一个从“辅助自动化”到“自主智能体”的完整光谱,并且现阶段必须坚持在关键节点保留**人机协同(Human-in-the-Loop)**机制。 ```mermaid flowchart TD accTitle: High Stakes Enterprise Verification Flow subgraph DataConnect["数据接入与溯源"] DS["企业内部数据源"] -->|"通过 RAG / MCP 服务器"| Ground["生成带出处引用的事实依据 (Grounding)"] end subgraph Execution["风险控制与人工介入"] Ground --> LLMOut["LLM / Agent 输出推导结果"] LLMOut --> HITL{"人机协同 (Human-in-the-Loop)<br/>业务专家复核校准"} HITL -->|"确认无误 (杜绝小数点偏离)"| FinalAction["执行高风险业务操作<br/>(金融划款/医疗索赔)"] end ``` - **高风险对比**:路线导航多走一个街区无伤大雅,金融资产管理小数点错移一位后果致命。 - **技术保障路径**:利用 RAG、MCP 服务器连接真实数据源,实现百分之百的出处引用与生成对齐。 - **落地节奏**:保持“人机协同(Human-in-the-Loop)”,在完全自主的智能体成型前逐步建立企业信任度。 --- ### [07:28](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=448s) 企业落地的两大死穴:数据主权安全与员工变革管理 当被问及企业在推进 AI 落地转型时最常遭遇的陷阱与阻碍时,Nic 从“技术架构与部署”和“人员层面的变革管理”两个维度进行了剖析。 在**技术层面**,最大的壁垒在于数据集成、数据安全性以及基于自身数据的定制化能力。部分企业天真地认为“只要我不主动上传数据,系统就是安全的”,但 Nic 提出了一个发人深省的角度:“只要你去看看一个人日常输入的提示词(Prompts),你就能透过这些 Prompt 了解这个人的方方面面”——提示词本身就蕴含着企业的大量核心机密与隐私,决不能泄漏到受控环境之外。因此,数据治理(Governance)、可审计性(Auditability)和可观测性(Observability)是企业级部署不可妥协的底线。Cohere 的 North 平台正是为此设计,它允许将系统直接部署进主权云(Sovereign Clouds)或企业内部的私有数据中心,确保数据与提示词完全不出本地,从而越过停滞不前的 PoC 试点泥潭(Pilot Purgatory),直接进入真正的生产环境。 在**人员与组织层面**,AI 实施绝不能简单等同于“给员工扔一个类似消费级 AI 的搜索框并期望他们一夜之间上手”。成效卓著的企业通常会将技术交付与组织学习培训(L&D)深度绑定。通过黑客松(Hackathons)、专项技能培训课程等方式帮助员工完成技能重构(Upskill),让员工不再将 AI 视作抢夺饭碗的生存威胁,而是将其看作并肩作战、共同推进业务的“合作伙伴”与“队友”。 - **技术避坑要点**: - 提示词安全漏洞:“看一个人的 Prompts 就能了解他的全部”,Prompt 本身即高密资产。 - 平台方案:Cohere North 平台支持部署至主权云与本地私有数据中心,确保可治理、可审计、可观测。 - **组织避坑要点**: - 破除“给个输入框就能搞定”的懒政思维,AI 转型并非一蹴而就。 - 结合 L&D、内部黑客松和系统化培训,推动员工将 AI 视为协同作业的伙伴而非被取代的威胁。 ### [10:38](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=638s) 推动企业 AI 转型的双轨机制:自上而下的战略与基层的实操赋能 在许多传统行业中,大量员工在过去十年、十五年甚至二十年里都遵循着固定的工作模式,如今却突然被要求以完全颠覆以往的方式来处理事务。他们亟需支持、培训以及适配的工具来适应转变;而那些成功转型的企业,则迎来了业务加速增长的巨大契机。针对变革推进的落地路径,业界主要存在两种截然不同的思路:一种是自上而下(Top-down)的全局战略,深度审视现有业务流程并端到端地引入 AI 进行重塑;另一种则是彻底赋能一线员工,由最熟悉实际业务的人员自行探索和寻找场景解决方案。 对于哪种方式最有效,Nic Morales 指出这并非 AI 独有的问题,而是所有技术变革的共通法则:必须将两者有机结合。企业既需要 CEO 等最高管理层提出战略指令(无论是刚性考核指标还是柔性引导),将 AI 融入年度规划;也需要建立从基层自发涌现的技术布道与实践文化。成功的企业会在各个部门设立执行赞助人(Executive Sponsors)与部门技术冠军(Champions),由他们接受进阶培训后再去指导团队;同时,必须为知识工作者、独立贡献者(IC)及分析师提供足够的试错环境。毕竟,第一次尝试构建的应用或 Agent 绝不可能一蹴而就达到完美。如果仅靠管理层的死命令而缺乏配套工具与信任,员工会因担心个人生计而产生抵触情绪;反之,若管理层一味推诿不给工具,热情高涨的员工便会私下使用“影子 AI”(Shadow AI)在不安全的环境中自建用例,从而给企业带来极其危险的数据与合规隐患。 ```mermaid flowchart TD accTitle: 双轨驱动的企业 AI 转型模式 subgraph TopDown["自上而下的战略驱动 (Top-Down)"] A["CEO / 管理层战略指令"] --> B["部门执行赞助人与 Champion"] B --> C["端到端流程重塑与战略规划"] end subgraph BottomUp["自下而上的基层赋能 (Bottom-Up)"] D["安全的企业级工具与试验环境"] --> E["知识工作者 / 分析师大胆试错"] E --> F["部门 Champion 赋能与场景探索"] end C --> G["健康高效的企业级落地"] F --> G H["仅有自上而下: 员工抵触、担心生计"] -.-> I["转型停滞"] J["仅有自下而上: 滋生影子 AI、安全风险"] -.-> I ``` - **双轨结合的关键要素**: - 管理层将引入 AI 确立为年度规划中的战略必要项(Strategic Imperative)。 - 各业务部门培养专属的 Champion,承担团队内部的培训与推广任务。 - 为基层员工提供低门槛的工具与安全的容错空间,防止因工具缺失而催生出“影子 AI”(Shadow AI)。 --- ### [13:43](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=823s) 告别 100% 执念:针对具体用例定制专用模型与权衡取舍 面对生成式 AI 存在的幻觉与错误风险,行业正在重新审视衡量工具成功的标准。模型是否必须百分之百不出错才能落地?Nic Morales 明确表示,这一阈值完全取决于具体的业务场景(Use Case Dependent)。这与传统自动化技术类似:在不危及生命安全、不会对个人名誉造成侵蚀或引发伦理合规后果的场景中,98% 的准确率往往已经足够高效;但在那些对严谨性有绝对要求的核心场景下,100% 的准确度则是硬性红线。为此,企业甚至愿意牺牲即时响应性能——例如在某些推理模型(Reasoning Models)中,为了获取精确无误的严谨解答,用户宁愿等待整整 5 分钟。 这也凸显了构建“专用模型”(Purpose-built Models)的重要性。以 Cohere 在韩国与 LG CNS 的合作为例,双方基于 Cohere 的基础模型,专门针对韩语语境进行了深度定制与优化。在该合作的金融服务场景中,确保韩语文本的极致精准度和前沿水准享有最高优先级,即便在其他通用基准测试(Benchmarks)中可能存在妥协也完全在所不惜。对于现代企业而言,拥有高度贴合自身业务语境、具备独特竞争优势的定制化模型(Custom LLMs),正在成为拉开行业差距的核心壁垒。 --- ### [15:54](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=954s) 破除模型阿谀奉承:打造具备批判思维的专属 Agent 生成式 AI 面临的另一个广泛吐槽是“阿谀奉承”(Sycophancy)现象。很多主流对话模型(如早期 ChatGPT)往往只会迎合用户、顺着提问者的话说好听的,扮演纯粹的“打气筒”(Gassing me up)。然而在严谨的商业决策中,企业真正需要的是一个兼具挑战性与建设性的“思维批判伙伴”(Critical Thought Partner),能够在构思复杂方案或审阅材料时直接指出逻辑漏洞,而非敷衍地回复“太棒了,请继续”。 Nic Morales 强调,这正是定制化 Agent(智能体)展现价值的舞台。未来的知识工作者都将拥有专属于自己的 Agent 助手,并且能根据实际任务需求灵活调整其交互风格。例如,在准备本次炉边对话时,可以通过提示词(Preamble)或自定义指令,将彭博社记者 Jo Constantz 撰写的一系列高质量文章注入给 Agent,使其模拟出深度探究与犀利审视的行事风格,在模拟演练中向主讲人提出尖锐质询;而在对接客户的场景中,则可让 Agent 迅速切换为适宜商务沟通的基调。最令人兴奋的技术突破在于,非技术背景的业务人员如今也能零门槛地快速构建、部署这类专用 Agent,获取人类同事往往因为照顾面子或情感而难以及时直言的客观反馈。 --- ### [18:00](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1080s) 重构企业 AI 的 ROI 评估:超越 SaaS 活跃度指标 在评估 AI 工具的落地成效与投资回报率(ROI)时,企业传统的考量往往受制于过往的 SaaS 软件思维,例如单纯追踪日活(DAU)、周活(WAU)或者员工使用 Chat 界面的频次。然而,对于 Agent 时代而言,简单的“提示词发送量”(Prompt Count)根本无法还原真实的业务价值。 一次看似简单的提示词交互,其底层可能触发了多个协同运转的子 Agent(Sub-agents),并在几分钟内全自动完成跨系统的数据挖掘与编排。以财富管理场景为例,理财顾问在会见客户 Nic Morales 之前,以往需要耗费足足两天时间去翻查其持仓组合、关注股票动态和背景资料;而现在只需键入一条指令,背后的自动化链路便能在数分钟内输出完备的准备简报。这一条提示词的背后,撬动的可能是数百万美元的时间与机会成本节省。因此,评估 AI 表现的核心在于业务结果(Outcomes):团队效率是否发生了质的跃升、是否为企业挖掘出了增收杠杆。真正成功的技术采纳,是可见的业务回报、实际的算力消耗以及深度忠诚的客户倡导(如加拿大皇家银行 RBC 等领军机构将成效公开对外背书)的综合体。 - **传统 SaaS 指标与 Agent 时代 ROI 的本质差异**: | 评估维度 | 传统 SaaS 思维 | Agent 时代核心考量 | |:--- |:--- |:--- | | **监控指标** | 界面登录率、聊天频次、DAU/WAU | 最终业务成果(Outcomes)、跨系统任务完成度 | | **单次交互价值** | 孤立、单向的文本往复生成 | 单次 Prompt 唤醒多个子 Agent,自动串联复杂流程 | | **核心业务贡献** | 记录沟通时长与系统活跃度 | 直接节省海量专业工时(如投顾备会由 2 天缩减为数分钟),驱动增量营收 | | **成功落地标志** | 员工被动打卡使用 | 形成从降本增效(ROI)到全员技术布道(Advocacy)的闭环 | --- ### [20:29](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1229s) Cohere 的差异化核心:在企业安全边界内激活前沿能力 谈及 Cohere 正在研发并能开拓全新应用范畴的核心能力时,Nic Morales 指出,全行业在推理模型(Reasoning Models)、多模态视觉模型(Vision Models)以及多语言模型(Multilingual Models)等底层技术上的创新迭代日新月异。市面上虽有琳琅满目的技术形态,但 Cohere 的战略立足点非常明确且坚定:将这些顶尖能力安全地部署在企业私有、敏感且受保护的数据边界之内。 企业级落地必须满足严格的数据治理(Governable)与全程可审计(Auditable)要求,只有守住安全底线,技术才能转化为可衡量的业务价值。当各大行业展会充斥着眼花缭乱的概念创新时,Cohere 的重心始终专注于服务大型企业级客户,为核心资产与私有数据提供最坚固的安全护栏。随着主持人的致谢,本场关于企业级 Agent 落地、专用模型构建与安全边界把控的深度对话圆满收官。 ### [21:42](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1302s) 对话圆满收尾与致谢 在整场围绕企业级 AI 落地、打破“概念验证泥潭”(pilot purgatory)以及 Cohere North 赋能企业安全部署的深入探讨结束后,对话走向尾声。讲者在全场交流画上句号之际,以一句诚挚而简练的 “appreciate it” 向主持人及现场观众致意致谢,为整场炉边谈话作了干脆利落的收尾。 ## Notable quotes > [01:13](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=73s) 将 AI 带到数据存储的本地安全环境中(Taking the AI to where the data is)。 — Nic Morales > [07:28](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=448s) 只要你去看看一个人日常输入的提示词(Prompts),你就能透过这些 Prompt 了解这个人的方方面面。 — Nic Morales > [13:43](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=823s) 在不危及生命安全、不会对个人名誉造成侵蚀或引发伦理合规后果的场景中,98% 的准确率往往已经足够高效;但在那些对严谨性有绝对要求的核心场景下,100% 的准确度则是硬性红线。 — Nic Morales > [15:54](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=954s) 很多主流对话模型往往只会迎合用户、顺着提问者的话说好听的,扮演纯粹的“打气筒”(Gassing me up)。 — Nic Morales > [15:54](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=954s) 在严谨的商业决策中,企业真正需要的是一个兼具挑战性与建设性的“思维批判伙伴”(Critical Thought Partner)。 — Nic Morales > [18:00](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1080s) 简单的“提示词发送量”(Prompt Count)根本无法还原真实的业务价值。 — Nic Morales > [18:00](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1080s) 这一条提示词的背后,撬动的可能是数百万美元的时间与机会成本节省。 — Nic Morales > [20:29](https://www.youtube.com/watch?v=lpdFD2-CdEc&t=1229s) 将这些顶尖能力安全地部署在企业私有、敏感且受保护的数据边界之内。 — Nic Morales ## Mentioned Nic Morales, Jo Constantz, Cohere, Bloomberg, Cohere North, LG CNS, 加拿大皇家银行 (RBC), ChatGPT, RAG, MCP (Model Context Protocol) ## Video description Nic Morales, Head of Customer Experience, Cohere Jo Constantz, Workplace Reporter, Bloomberg Abstracts Learn how leaders are embracing a new wave of enterprise AI -- designed for security, trust, and practical, real-world impact. This fireside chat will break down what it takes to move beyond pilot purgatory and deploy agentic AI that actually delivers. We’ll highlight practical applications across industries, how Cohere’s North is enabling a shift from generic AI tools to customized, behind-the-firewall intelligence, and what the agentic future for enterprises will hold. [Source](https://www.youtube.com/watch?v=lpdFD2-CdEc)

Source quotes

[1:13] Nic Morales: 将 AI 带到数据存储的本地安全环境中(Taking the AI to where the data is)。 [7:28] Nic Morales: 只要你去看看一个人日常输入的提示词(Prompts),你就能透过这些 Prompt 了解这个人的方方面面。 [13:43] Nic Morales: 在不危及生命安全、不会对个人名誉造成侵蚀或引发伦理合规后果的场景中,98% 的准确率往往已经足够高效;但在那些对严谨性有绝对要求的核心场景下,100% 的准确度则是硬性红线。 [15:54] Nic Morales: 很多主流对话模型往往只会迎合用户、顺着提问者的话说好听的,扮演纯粹的“打气筒”(Gassing me up)。 [15:54] Nic Morales: 在严谨的商业决策中,企业真正需要的是一个兼具挑战性与建设性的“思维批判伙伴”(Critical Thought Partner)。 [18:00] Nic Morales: 简单的“提示词发送量”(Prompt Count)根本无法还原真实的业务价值。 [18:00] Nic Morales: 这一条提示词的背后,撬动的可能是数百万美元的时间与机会成本节省。 [20:29] Nic Morales: 将这些顶尖能力安全地部署在企业私有、敏感且受保护的数据边界之内。