Nutanix Launches Agent Gateway to Curb AI Token Bills

Tokens, Tools, and Trust: How Agent Gateways Keep Your AI ROI from Going Rogue With Nutanix — Ai4

Ai4

Unchecked autonomous agents risk project cancellations across 40% of enterprises unless platform teams implement centralized infrastructure control over model and tool consumption.

AI-assisted summary of Tokens, Tools, and Trust: How Agent Gateways Keep Your AI ROI from Going Rogue With Nutanix — original source. Check the original for full context.

Source published: 2026-08-17

Detailed notes

## Background This presentation was delivered by Tuhina Goel, Director of AI Product Marketing at Nutanix, published on YouTube by the Ai4 channel on August 17, 2026. The page description indicates that the talk covers the role of token management and agent gateways in establishing cost controls, securing tool interactions, and scaling enterprise agentic AI applications safely.

## TL;DR As enterprises scale autonomous agentic AI applications, many face runaway token costs and security governance risks—a phenomenon illustrated by the 'Monday morning surprise' of exponential bill shock. Drawing on Nutanix's 15-year history in IT infrastructure, the presentation argues that rogue AI is an infrastructure control plane problem rather than a model intelligence issue. Nutanix proposes the Nutanix Agent Gateway alongside a 'Two-Tier Intelligence' model, where 20% of complex tasks rent frontier models while 80% run on predictable, fixed-cost private infrastructure. By providing centralized traffic routing, token rate limits, and tool-level filtering via MCP servers, enterprises can secure their AI front door and achieve sustainable AI ROI.

## Atmosphere & style The presentation is authoritative, polished, and strategically pragmatic, delivered with the clear confidence of an enterprise IT veteran. The narrative follows a sharp trajectory—opening with a relatable, cautionary scenario of weekend agent sprawl and financial shock before grounding the crisis in solid industry metrics. Through memorable analogies like 'putting a Ferrari engine into a lawnmower,' the session maintains an engaging, consultative tone that transforms complex governance challenges into manageable architectural solutions.

## Key takeaways - [00:04](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=4s) Nutanix brings 15 years of IT infrastructure management experience to AI, viewing AI adoption challenges as familiar infrastructure problems like shadow IT and lack of central control. - [01:30](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=90s) Enterprise AI success can cause financial panic when autonomous agents split tasks and default to calling expensive frontier models without proper guardrails. - [02:48](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=168s) Gartner predicts over 40% of agentic AI projects will be canceled by 2027 due to unmanaged costs, unclear business value, and inadequate risk controls. - [02:48](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=168s) Token consumption per task has evolved three orders of magnitude in three years—from thousands of tokens for basic chatbots to billions for long-running autonomous agents. - [05:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=300s) Rogue AI is a missing control plane problem rather than a model issue, requiring centralized control for what agents spend (tokens) and what they touch (tools). - [07:47](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=467s) The Nutanix Agent Gateway provides a centralized control layer, universal API translation, and traffic management for public, private, and tool-connected AI workloads. - [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) Only ~20% of enterprise AI tasks require top-shelf frontier models, while 80% are repeatable tasks that can run on smaller, cheaper, or self-hosted models. - [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) Effective token governance relies on three pillars: visibility across users and teams, token budgets and rate limits, and cost-to-value dynamic routing. - [12:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=720s) The Agent Gateway intercepts tool calls via Model Context Protocol (MCP) to enforce granular, function-level security policies and maintain detailed decision audit trails. - [14:45](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=885s) Relying on a single frontier model provider introduces severe vulnerabilities around cloud outages, vendor price increases, and regulatory shifts. - [17:33](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1053s) Organizations should adopt a Two-Tier Intelligence model: renting frontier LLMs for complex reasoning (20%) and owning private inferencing for high-volume tasks (80%). - [17:33](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1053s) Long-term winners in the agentic AI era will be defined by unit economics and infrastructure control planes rather than raw model performance.

## Detailed walkthrough Here is a detailed, faithful walkthrough of the transcript section.

---

[00:04](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=4s) Introduction and Nutanix's Heritage in IT Infrastructure

Tuhina Goel introduces herself as the Director of AI Product Marketing at Nutanix. She sets the stage by highlighting Nutanix's 15-year history of simplifying complex enterprise IT challenges—guiding customers through historical shifts from Hyper-Converged Infrastructure (HCI) to virtualization and Kubernetes. Looking at current AI infrastructure, she observes that it is not fundamentally different from past IT transitions; it exhibits the same familiar, chaotic patterns: fragmented DIY stacks, uncontrolled "shadow IT," and a severe lack of central governance and operational control.

Because Nutanix pioneered infrastructure governance and management, she emphasizes that the exact same foundational concepts and theories apply to AI infrastructure today. The presentation focuses on three tightly linked core pillars: 1. **Tokens:** Navigating and controlling the financial costs of model consumption. 2. **Tools:** Managing data access, integrations, and governance for actions taken by AI. 3. **Trust:** Bridging tokens and tools through infrastructural stability, security, and predictability.

- **Speaker:** Tuhina Goel, Director of AI Product Marketing at Nutanix. - **Nutanix Track Record:** 15 years spent streamlining complex enterprise IT shifts (HCI $\rightarrow$ Virtualization $\rightarrow$ Kubernetes). - **Core Problem:** AI adoption currently suffers from DIY stacks, shadow IT, and lack of central control. - **Thesis:** AI governance is fundamentally an infrastructure problem—a domain Nutanix specializes in.

---

[01:30](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=90s) The Monday Morning Surprise: When AI Success Causes Financial Panic

Tuhina illustrates a common scenario playing out across enterprise platform teams. A team builds a proof of concept (POC) or demo that performs brilliantly, prompting them to launch the agentic AI application into production. Over the weekend, the system functions exactly as designed: it takes a massive task, breaks it down into sub-tasks, spawns an autonomous agent, and that agent in turn spawns multiple sub-agents. Because no guardrails or routing policies were put in place, every single sub-agent defaults to calling the top-shelf, expensive frontier models ("because why not—nobody told them not to").

When leadership and platform teams return on Monday morning, no one is celebrating model capabilities anymore. Instead, finance is in the room asking hard questions about runaway costs, lack of control, and missing trust. The AI project did not technically fail—it succeeded brilliantly, but at the cost of consuming billions of tokens over a single weekend. The core issue wasn't the model's intelligence or capability, but rather a total absence of operational control.

- **The Agentic Multiplier Effect:** Autonomous agents split complex tasks into smaller sub-tasks $\rightarrow$ spawn multiple autonomous sub-agents $\rightarrow$ each sub-agent routinely queries top-shelf frontier models. - **The Core Breakdown:** AI applications perform as built, but burn through billions of tokens unchecked, leading to massive financial "bill shock."

---

[02:48](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=168s) The Scale of the Crisis and the Evolution of Token Consumption

This pattern is not an isolated fringe anecdote. Tuhina highlights a Gartner prediction stating that **over 40% of all agentic AI projects will be canceled by 2027**. This high failure rate is not due to bad models—as frontier models are rapidly improving—but rather stems from unmanaged costs, vague business value, and inadequate risk controls. Crucially, these aren't small lab experiments quietly dying; they are well-funded, load-bearing enterprise systems being actively shut down in production.

Tracing the three-year evolution of AI token consumption reveals an exponential growth in computational demands: - **2022 (Chatbots):** Simple question-in, answer-out interactions (e.g., early ChatGPT) consuming a few thousand tokens per task. - **Agents:** Emergence of reasoning loops and tool calls, jumping to tens of thousands of tokens per task. - **Autonomous Agents (Present):** Long-running, multi-step reasoning agents running for hours, days, or months. They maintain full conversation history, process files, retry failed queries, and generate millions or billions of tokens per task.

``` +-----------------------------------------------------------------------+ | AI TOKEN EVOLUTION (3-YEAR SHIFT) | | | | 2022: Chatbots --------------> Thousands of tokens / task | | (Single Q&A, short window) | | | | Agents ----------------------> Tens of Thousands of tokens / task | | (Reasoning loops, tool calls) | | | | Autonomous Agents -----------> Millions to Billions of tokens / task | | (Long-running loops, deep history, file references) | +-----------------------------------------------------------------------+ ```

Furthermore, tokens represent only half the problem. Modern agents don't just generate text; they act, trigger events, and invoke external systems. This expands enterprise exposure along two distinct axes: **what agents spend** (tokens) and **what agents touch** (tools).

- **Gartner Statistic:** Over 40% of agentic AI projects will be canceled by 2027 due to cost, governance, and risk controls. - **Magnitude Shift:** Token consumption per task has increased by **three orders of magnitude** in just three years.

---

[05:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=300s) Cost and Trust: Two Symptoms of a Missing Control Plane

Enterprise AI failure stories consistently stem from two interconnected issues: 1. **Cost (Token Chaos):** Organizations use a mix of OpenAI, Anthropic, and self-hosted models, yet cannot answer basic financial questions like, *"What did AI cost last month, and who spent it?"* Traditional enterprise financial models are built around predictable upfront software licensing or long-term consumption agreements. Modern AI operates completely differently—every model swap or vendor repricing fundamentally alters unit economics. 2. **Trust (Tool Risk):** Agents execute actions—reading databases, filing tickets, and interacting with GitHub repositories. Securing these actions is no longer a matter of simply drafting policy documents; it is an active engineering problem.

Enterprises often treat Cost and Trust as two separate problems owned by different teams. However, they share the same root cause: **Rogue AI is not a model problem—it is a missing control plane problem.**

Historically, every major technology shift (such as networking or cloud adoption) required a centralized control plane (firewalls, routers, IAM) to become enterprise-ready. Deploying autonomous agents without a control plane at the front door is a fundamental architectural oversight. The key question enterprises must ask is: *"Who is governing the front door?"*

- **Financial Paradigm Shift:** Enterprises are unequipped for dynamic model pricing where costs fluctuate per request, model swap, or vendor price adjustment. - **The Core Analogy:** Running autonomous agents without an AI gateway is like running a network without routers/firewalls or a cloud without IAM.

---

[07:47](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=467s) Introducing the Nutanix Agent Gateway

To solve this missing architectural layer, Nutanix created the **Nutanix Agent Gateway**—a centralized control layer and traffic controller for all agentic AI transactions and workloads. Every incoming request, whether originated by a human or an autonomous agent, passes through this gateway.

``` +-----------------------------------------------------------------------+ | NUTANIX AGENT GATEWAY | | | | [ Humans / Autonomous Agents ] | | | | | v | | +-----------------------------------------------------------------+ | | | NUTANIX AGENT GATEWAY | | | | (Unified Endpoint, Traffic Control, API Translation Layer) | | | +-----------------------------------------------------------------+ | | | | | | | v v v | | [ Frontier Models ] [ Self-Hosted Models ] [ MCP Servers ] | | (OpenAI, Anthropic, (Private Infrastructure) (Tools & Private | | Google) Data) | +-----------------------------------------------------------------------+ ```

#### Key Capabilities of Nutanix Agent Gateway: - **Unified Endpoint:** Provides a single access point for developers and applications while routing requests behind the scenes to public frontier models (OpenAI, Anthropic, Google) or private, self-hosted models. - **Universal API Translation Layer:** Enables seamless provider swapping, automatic fallbacks when API credits run out, and gradual traffic shifting to smaller, cheaper models without rewriting application code. - **Centralized Visibility:** Creates a single enforcement point that eliminates "Shadow AI" without slowing down developer velocity.

- **Role:** Centralized control layer and traffic controller for all AI transactions. - **Vendor Neutrality:** Allows dynamic switching between hosted LLMs and self-hosted private models without application code modifications.

---

[09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) Cost-to-Value Routing and the Three Pillars of Token Control

Tuhina notes that organizations frequently misuse top-shelf frontier LLMs for mundane tasks, ranging from generating cat memes or cookie recipes to building complex GTM strategies or performing medical differential diagnoses. Because no guardrails exist, teams end up calling top-tier models for everything.

In reality, **only ~20% of complex tasks require top-shelf frontier models**. The remaining **80% consists of high-volume, repeatable work** that can run efficiently on smaller, less expensive models. Failing to route requests based on a "cost-to-value" basis leads to structural overpayment. Tuhina uses her favorite analogy: *"It's like putting a Ferrari engine into a lawnmower—we don't need it."*

``` +-----------------------------------------------------------------------+ | TASK & MODEL DISTRIBUTION | | | | +-----------------------------------------------------------------+ | | | 20% Complex Tasks --> Top-Shelf Frontier Models | | | | (OpenAI, Anthropic, Google) | | | +-----------------------------------------------------------------+ | | | 80% Repeatable Work --> Smaller, Cheaper, or Self-Hosted Models | | | | (High volume, fixed price) | | | +-----------------------------------------------------------------+ | +-----------------------------------------------------------------------+ ```

#### The Three Pillars of Token Governance: 1. **Visibility:** Granular telemetry tracking token usage per user, team, agent, and model. *"You cannot govern what you cannot attribute."* 2. **Control:** Defining strict token budgets and rate limits per department, team, or API key. Agents hit a "budget wall" instead of impacting the P&L with surprise bills. 3. **Optimization:** Dynamically routing traffic based on cost-to-value requirements, adaptively handling model price changes, outages, and evolving regulations.

- **The 80/20 Rule:** 80% of enterprise AI tasks can be offloaded to smaller/cheaper models; only 20% need frontier LLMs. - **Analogy:** Using frontier models for basic, high-volume tasks is like "putting a Ferrari engine into a lawnmower."

---

[12:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=720s) Securing Tools and Establishing Trust via MCP and Audit Trails

Because AI agents interact with systems via tools—frequently connected through Model Context Protocol (MCP) servers acting as "connective tissue"—the Nutanix Agent Gateway intercepts every tool call to enforce precise security policies.

``` +-----------------------------------------------------------------------+ | TOOL-LEVEL FILTERING VIA MCP | | | | [ Coding Agent ] ---> [ Nutanix Agent Gateway ] ---> [ MCP Server ] | | | | | | v v | | (Tool-Level Policy) [ GitHub Repo ] | | - ALLOW: Read/Check-in | | - BLOCK: Delete Repo | +-----------------------------------------------------------------------+ ```

#### Governance Features for Tools and Data: - **Tool-Level Filtering:** Operates at the granular tool function level rather than just the connection level. For instance, a coding agent can be granted permission to view GitHub issues and check in code, but explicitly blocked from deleting a repository. - **Comprehensive Audit Trails:** Records every tool call and agent interaction, exporting data to existing enterprise observability dashboards. - **Decision Integrity:** Beyond traditional role-based access control (RBAC), modern audit trails must document *why, how, and when* an agent made a specific decision.

By delivering policy-driven security, the gateway systematically eliminates Shadow AI across the enterprise while maintaining operational consistency.

- **Connective Tissue:** MCP (Model Context Protocol) servers link AI agents with enterprise tools and private data. - **Granular Control:** Filtering policies block destructive actions (e.g., deleting repos) while permitting routine functions (e.g., checking in code). - **Decision Integrity:** Audit trails track agent reasoning paths in addition to standard data access logs.

---

[14:45](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=885s) Strategic Questions: Renting vs. Owning Your AI Intelligence

Tuhina encourages organizations to reflect on three critical strategic questions when building their AI infrastructure:

1. **Are you paying per token for everything?** Paying frontier prices for basic work is unnecessary. Enterprise infrastructure should leverage fixed-price inferencing on self-hosted, private infrastructure already owned by the company. For many basic workflow tasks, simple "if/then" structures or smaller niche models work far better than public frontier models. 2. **How flexible is your AI strategy?** Vendor lock-in creates severe vulnerabilities. For example, a Cloudflare outage in November 2025 brought down ChatGPT globally for approximately five hours. Relying on a single vendor leaves organizations exposed to cloud outages, shifting government regulations, GPU supply constraints, and sudden vendor repricing. Vendor price hikes should trigger simple routing policy adjustments, not full architectural rewrites. 3. **Are you outsourcing your entire AI strategy?** If answers to these questions depend entirely on a single vendor's roadmap, the enterprise isn't just outsourcing intelligence—it is outsourcing its overarching AI strategy.

- **Real-World Incident:** A Cloudflare outage in November 2025 knocked out ChatGPT globally for roughly 5 hours, demonstrating the operational risk of single-vendor dependence. - **Routing vs. Rewriting:** Price changes from model providers should be handled by updating gateway routing rules, rather than re-architecting applications.

---

[17:33](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1053s) Two-Tier Intelligence and the Broader Platform Paradigm

A standalone gateway is insufficient; it must be backed by an inferencing platform. The Nutanix Agent Gateway is integrated directly into the **Nutanix Enterprise AI Platform**, combining front-door traffic management with a predictable, fixed-price private inferencing engine.

Because both components belong to a unified platform sharing the same role-based access controls, API keys, and policies, switching between models is completely invisible to developers and platform engineers. Whether an application calls a public frontier model or falls back to a self-hosted open-source model, the user experience and security policies remain identical.

``` +-----------------------------------------------------------------------+ | TWO-TIER INTELLIGENCE | | | | Tier 1: Rent Frontier Models (20%) | | - Reserved for complex, non-repeatable reasoning tasks. | | - Paid on a variable, per-token basis. | | | | Tier 2: Own Private Inferencing (80%) | | - High-volume, repeatable, structured workloads. | | - Runs on existing enterprise infrastructure at a predictable, | | fixed cost. | +-----------------------------------------------------------------------+ ```

#### Two-Tier Intelligence Framework: - **Rent Tier (20%):** Pay per token to access frontier model capabilities for highly complex, non-standard tasks. - **Own Tier (80%):** Run high-volume, repeatable tasks on owned, private infrastructure at a predictable fixed cost.

Closing with a broader industry perspective, Tuhina notes that major platform shifts follow consistent economic patterns. The winners of the cloud era were not necessarily the companies with the best applications, but those with the best underlying economics and infrastructure controls. Agentic AI follows the exact same pattern: the long-term winners will be enterprises with superior unit economics around intelligence and the control planes required to enforce them.

She concludes by asking the audience: *"Who really governs your AI front door, and do you want to rent your AI strategy or own it?"*

- **Platform Integration:** Nutanix Enterprise AI Platform combines gateway control with private inferencing using unified keys and RBAC policies. - **Historical Parallel:** Just as in the cloud era, AI market leaders will be defined by unit economics and infrastructure control rather than raw model capabilities.

---

[20:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1221s) Conclusion and Call to Action

Tuhina Goel concludes the presentation by thanking the audience for joining the session and inviting attendees to continue the conversation in person. She encourages anyone interested in learning more about token management, agent gateways, or Nutanix's AI solutions to stop by the Nutanix booth to ask questions and discuss how to keep enterprise AI ROI on track.

- **Booth Location:** Attendees are invited to visit the Nutanix booth for further discussions and Q&A.

## Notable quotes > [01:30](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=90s) because why not—nobody told them not to — Tuhina Goel

> [05:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=300s) What did AI cost last month, and who spent it? — Tuhina Goel

> [05:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=300s) Rogue AI is not a model problem—it is a missing control plane problem. — Tuhina Goel

> [05:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=300s) Who is governing the front door? — Tuhina Goel

> [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) only ~20% of complex tasks require top-shelf frontier models — Tuhina Goel

> [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) 80% consists of high-volume, repeatable work — Tuhina Goel

> [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) It's like putting a Ferrari engine into a lawnmower—we don't need it. — Tuhina Goel

> [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) You cannot govern what you cannot attribute. — Tuhina Goel

> [14:45](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=885s) Are you paying per token for everything? — Tuhina Goel

> [14:45](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=885s) How flexible is your AI strategy? — Tuhina Goel

> [14:45](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=885s) Are you outsourcing your entire AI strategy? — Tuhina Goel

> [17:33](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1053s) Who really governs your AI front door, and do you want to rent your AI strategy or own it? — Tuhina Goel

## Mentioned Tuhina Goel, Nutanix, Nutanix Agent Gateway, Nutanix Enterprise AI Platform, Gartner, OpenAI, Anthropic, Google, ChatGPT, Cloudflare, GitHub, Model Context Protocol (MCP), Hyper-Converged Infrastructure (HCI), Kubernetes

## Video description Tuhina Goel - Director, AI Product Marketing, Nutanix

As organizations scale agentic AI applications, many struggle to move past the pilot phase due to unpredictable token costs and governance concerns. This session explores the critical role of token management in establishing precise cost controls and resource oversight, alongside the implementation of an agent gateway to secure and monitor AI agent, tool, and data interactions. Learn how these solutions enable the deployment of sophisticated workflows without compromising enterprise safety or trust. By unifying security, cost oversight, and scalability, organizations can shift from "AI-enabled" to "AI-efficient" so that every token spent translates into measurable business value and sustainable enterprise AI ROI.

[Source](https://www.youtube.com/watch?v=uhTJt8IAiRM)

中文简报

Nutanix 推出 Agent Gateway 以控制 AI Token 账单支出除非平台团队对模型与工具的消耗实施集中式基础设施管控，否则不受约束的自主智能体可能导致 40% 的企业面临项目取消的风险。随着企业扩大自主智能体 AI 应用的规模，许多企业正面临 Token 成本失控和安全治理风险——这一现象具体表现为指数级账单暴涨带来的“周一早晨惊吓”。结合 Nutanix 在 IT 基础设施领域 15 年的经验，演讲指出失控的 AI 本质上是基础设施控制平面的问题，而非模型智能问题。为此，Nutanix 提出了 Nutanix Agent Gateway 以及“双层智能”模型：即 20% 的复杂任务租用前沿模型，而 80% 的任务运行在成本可预测的固定成本私有基础设施上。通过 MCP 服务器提供集中式流量路由、Token 速率限制和工具级过滤，企业能够守住 AI 的前沿入口，实现可持续的 AI 投资回报率。 Gartner 预测到 2027 年将有超过 40% 的智能体 AI 项目因成本失控与治理缺失而被取消；单任务 Token 消耗在三年内跨越了三个数量级，从数千跃升至数百万乃至数十亿。 (2:48) 企业 AI 的失控并非模型能力不足，而是缺少统一的前端控制平面（Control Plane）；缺乏管控的自主智能体会默认调用昂贵的前沿模型并随意触碰企业核心工具。 (5:00) Nutanix 推出 Agent Gateway 作为集中式流量控制层，提供统一 API 转换，并在拦截基于 MCP 的工具调用时执行细粒度策略，防止智能体发生破坏性操作。 (7:47) 企业仅有约 20% 的高复杂度任务真正需要顶尖前沿模型，其余 80% 的高频重复任务可通过私有或轻量模型以固定成本运行，避免“给割草机安装法拉利引擎”。 (9:21)

Reading summary

Nutanix's Tuhina Goel argues that enterprise failures in agentic AI stem from a missing infrastructural control plane rather than deficient models, requiring centralized gateways to govern token costs and tool security. The Agentic Multiplier and Token Inflation (1:30) When autonomous agentic applications enter production, autonomous agents frequently break complex objectives into sub-tasks and spawn multiple sub-agents. Without routing constraints, these sub-agents default to querying expensive frontier models, compounding token usage across recursive reasoning loops and deep conversation histories. Goel notes this dynamic can burn through billions of tokens over a single weekend, transforming successful proofs of concept into immediate financial liabilities. This shift reflects an exponential increase in computational requirements. Simple chatbot queries in 2022 consumed thousands of tokens per task, whereas modern long-running autonomous agents consume millions or billions of tokens—an increase of three orders of magnitude over three years. Citing a Gartner projection, Goel highlights that over 40% of agentic AI projects are expected to be canceled by 2027 due to unmanaged expenses, unclear business returns, and inadequate risk controls rather than model performance limitations. The Architectural Need for a Control Plane (5:00) Enterprises struggle to manage two intertwined operational symptoms: token spending and tool risk. Modern agents not only generate text but also execute actions across databases, ticketing systems, and code repositories. When organizations deploy diverse models across multiple providers without visibility, finance and IT teams cannot reliably track who generated costs or audit the actions autonomous tools executed. Goel draws a parallel to previous enterprise technology waves, such as networking and cloud computing, which required firewalls, routers, and identity and access management (IAM) before achieving enterprise viability. Deploying autonomous, tool-wielding agents without an intermediary AI gateway creates an architectural gap at the enterprise perimeter, leaving organizations exposed to shadow AI and runaway unit costs. Cost-to-Value Routing and the 80/20 Split (9:21) To prevent structural overspending, Goel proposes implementing a centralized gateway to govern incoming human and agent requests. Currently, organizations routinely dispatch low-complexity, mundane tasks to top-shelf frontier models. Goel asserts that roughly 80% of enterprise workloads comprise repeatable, high-volume operations that can be handled by smaller, specialized, or self-hosted models, while only 20% genuinely require the reasoning capacity of premier frontier models. Relying entirely on frontier LLMs for basic tasks is compared to putting a sports car engine into a lawnmower. The framework introduces three pillars for token management: visibility through granular telemetry per agent and user, control through enforceable departmental token budgets and rate limits, and optimization through adaptive routing. This structure ensures agents hit predefined budget boundaries instead of inflicting surprise operating expenses. Tool Governance, Outages, and Two-Tier Infrastructure (12:00) Securing tool interactions requires moving beyond broad connection permissions to granular, tool-level filtering. Using the Model Context Protocol (MCP) as connective tissue, a gateway can intercept agent requests to permit standard actions—such as inspecting GitHub issues or checking in code—while actively blocking destructive commands, such as repository deletion. Audit trails must simultaneously capture the decision path of the agent to satisfy compliance and security requirements. Operationally, relying on single external providers introduces severe vulnerability to outages, regulatory shifts, and price hikes; Goel cites a November 2025 Cloudflare outage that disabled ChatGPT globally for roughly five hours. To address this risk, Goel advocates a two-tier intelligence model that pairs gateway routing with an inferencing platform. Enterprises rent public frontier models for the 20% of novel reasoning tasks on a variable cost basis, while owning the private infrastructure for the remaining 80% of structured tasks at predictable, fixed costs. Goel concludes that the commercial winners of the agentic AI era will be determined by unit economics and control planes rather than raw model capabilities, leaving IT leaders to decide whether they will build a governed architectural front door or outsource their overarching enterprise strategy.

精炼阅读摘要

Nutanix人工智能产品营销总监Tuhina Goel指出，自主智能体在企业中引发的成本失控与业务阻碍并非源于模型本身的智能缺陷，而是源于底层控制平面的缺失；企业必须通过统一的智能体网关对令牌消耗与工具调用进行精细化治理，以“租用与自建”结合的双层架构确保投资回报。智能体级联乘数与项目搁浅危机 (1:30) 企业在将概念验证（POC）阶段表现优异的智能体系统部署至生产环境后，常在周末后面临财务部门的严重质询。自主智能体会自主将复杂任务拆解为子任务并派生出多个子智能体，在缺乏路由规则与预算限制的情况下，每个子智能体都会默认调用昂贵的前沿模型，导致系统在短短一个周末内消耗数十亿令牌，产生巨额账单冲击。Goel强调，这种问题不是因为系统执行失败，恰恰是因为系统在毫无管控的机制下全自动成功运行。根据Gartner预测，到2027年，将有超过40%的自主智能体项目因成本失控、业务价值模糊以及风险控制不足而被企业主动取消。从发展历程来看，单次任务的计算开销在过去三年内跃升了三个数量级：2022年的对话式聊天机器人每次任务仅消耗数千令牌；随后引入推理循环与工具调用的智能体上升至数万令牌；而当前支持长时间多步循环推理、深度上下文追溯及文件处理的自主智能体，单次任务往往消耗数百万甚至数十亿令牌，加剧了企业的财务与合规风险。控制平面缺失诱发成本与信任危机 (5:00) 传统企业IT软件多依赖可预测的固定许可或长期采购协议，而混合使用多家闭源与自建模型的AI体系则完全颠覆了这一财务模式，任何供应商调价或模型切换都会动态改变单次调用的单位经济效益，导致管理层无法准确核算各部门的AI真实开销。与此同时，自主智能体不再局限于生成文本，更会主动读取企业数据库、提交运维工单或操作代码仓库，使其面临的风险迅速从“消耗多少令牌”扩散至“调用哪些外部工具”。 Goel回顾IT基础设施变迁史指出，企业过去在网络与云计算转型中分别依赖路由器、防火墙与身份和访问管理（IAM）作为控制平面，而目前企业在部署能够自主花钱且调用系统的智能体时，往往缺少了最前端的控制网关。模型失控与信任缺失本质上属于传统的基础设施治理缺陷，若不在流量入口建立中央控制平面，企业就无法在保持开发速度的同时消除影子AI。价值路由与基于MCP的工具安全审计 (9:21) 为阻断无序开销，Nutanix提出按“成本与价值对齐”原则进行流量调度。现实中仅约20%的复杂推理任务真正需要顶尖前沿模型，其余80%属于高重复性、标准化的常规工作，完全可由轻量或自建模型承担；若将顶尖模型用于制作表情包或日常邮件等基础任务，无异于“把法拉利引擎装在割草机上”。令牌治理依托三大支柱：通过细粒度遥测实现按用户、团队和模型归因的可见性；设立部门预算墙与调用速率限制以实现硬性控制；以及基于价格变动与合规要求的动态路由优化。在工具交互层面，智能体普遍通过模型上下文协议（MCP）作为纽带连接企业私有数据与工具。Nutanix Agent Gateway通过在网关层拦截MCP工具调用，实现细粒度的功能级过滤。例如，系统可允许编码智能体读取仓库并提交代码，但强制拦截其删除代码仓库的高危指令。此外，网关还会生成包含智能体决策推理路径、触发时间与执行过程的完整审计追踪，确保决策过程可解释并接入企业既有的可观测性系统。双层智能架构与规避单一供应商绑定 (14:45) 针对基础设施建设策略，Goel提出了“租用还是自建”的关键抉择。单一依赖公有云LLM供应商会使企业在云服务中断、算力供应紧缺或监管变更时陷入被动。例如2025年11月Cloudflare的突发故障曾导致ChatGPT在全球范围内中断近5小时，凸显出过度依赖单一闭源供应商的业务连续性风险。合理的架构应当允许企业通过修改网关路由规则灵活应对厂商调价或宕机，而非被迫重写底层业务代码。 Nutanix主张将网关能力集成至统一的企业AI平台，形成两级智能架构：第一级为“租用层”，将20%高难度、非常规推理任务按令牌计费按需路由至前沿公有模型；第二级为“自建层”，将80%高吞吐、结构化的任务下放至企业已有基础设施托管的私有模型上，以固定的单位成本运行。Goel指出，历史表明云计算时代的优胜者并非拥有最优应用的企业，而是拥有最优单位经济学模型与基础设施控制能力的企业，智能体时代的竞争格局同样遵循这一底层规律。 Goel总结认为，企业若将全部技术路径绑定于单一外部厂商，实际上是让渡了自身的AI主导权，必须在入口处建立明确的治理防线。不过本次分享立足于Nutanix自身软硬件基础设施解决方案，企业在权衡私有化模型托管与完全公有云托管时，仍需在前期硬件投资、本地运维门槛与模型迭代灵活度之间综合评估。

Detailed notes — zh

## Background 本内容由 Ai4 频道于 2026 年 8 月 17 日在 YouTube 平台发布，演讲者为 Nutanix 的 AI 产品营销总监 Tuhina Goel。视频围绕企业在扩展 Agentic AI 应用时面临的 Token 成本激增与治理风险展开，探讨了如何通过 Agent 网关与私有推理平台实现对智能体、工具和数据交互的安全监控与精确成本控制，从而将 AI 投资转化为可持续的商业价值。 ## TL;DR 演讲指出企业在落地自主智能体时，常因缺乏基础架构控制平面而导致周末无人看守时产生天价 Token 账单与越权安全事故。Nutanix 提出将 IT 基础架构的治理经验迁移至 AI 领域，通过引入 Agent Gateway 统一流量入口，实现 Token 维度的可见性、预算限流与动态路由，并在 MCP 协议层进行细粒度的工具级权限控制与决策审计。同时，企业应构建结合公有前沿模型与自建私有推理平台的“两层智能”架构，将 80% 的常规高频任务沉淀为固定成本，彻底掌握企业 AI 的入口与单位经济效益。 ## Atmosphere & style 演讲风格沉稳干练且极具企业工程实战视角，以生动的“周末智能体失控爆单”故事迅速抓住听众痛点，引发深切共鸣。讲者将复杂的 AI 信任危机拆解为经典的基础架构控制平面问题，语言犀利直白，充满“杀鸡岂用牛刀”等形象比喻。整场分享节奏紧凑、逻辑严密，既有对行业盲目追逐顶级模型现状的理性敲打，又给出了清晰落地的架构破局之道。 ## Key takeaways - [00:04](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=4s) 当前 AI 基础设施的野蛮生长是传统 IT 虚拟化和容器化时代影子 IT 与 DIY 混乱的重演，AI 信任危机本质上是底层基础架构的工程治理问题。 - [01:30](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=90s) 自主智能体在无人监控时容易因无限派生子智能体并默认调用顶尖前沿模型而导致账单灾难；Gartner 预测到 2027 年超过 40% 的 Agentic AI 项目将因失控成本与治理缺失而夭折。 - [03:32](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=212s) 三年内智能体单任务 Token 消耗激增了三个数量级（1,000 倍），且风险敞口已从单纯的“刷卡消耗”扩展为深入企业内网修改底层数据的“工具调用”。 - [05:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=300s) 成本失控与信任崩溃同根同源，根本原因在于缺乏类似网络防火墙或云 IAM 的集中式控制平面（Control Plane），导致企业在大门口缺乏守门人。 - [07:47](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=467s) Nutanix Agent Gateway 作为中央控制层，通过统一端点、通用 API 转换层与 MCP 协议连接模型与私有数据，实现流量分发、故障平滑降级并掐死影子 AI。 - [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) 企业仅有约 20% 的高度复杂任务真正需要前沿旗舰大模型，其余 80% 的常规任务应按“成本与价值对齐”动态路由至更小、更便宜的模型，避免“割草机装法拉利引擎”。 - [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) Token 管理需遵循“可见（遥测归因）、控制（速率限制与预算墙）、优化（智能动态路由）”三大治理支柱，防止恶性循环击穿企业损益表。 - [12:33](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=753s) 权限管理必须深入 MCP 工具级别（如允许读取代码但禁止删除仓库），并通过记录因果链的“决策完整性”审计追踪，从架构层面消除影子 AI。 - [14:45](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=885s) 企业必须具备私有化固定成本推理能力与动态路由韧性，以应对外部服务宕机、监管合规变动与厂商重新定价风险，避免 AI 战略被单一供应商全盘锁定。 - [17:33](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1053s) 推行“两层智能（Two-Tier Intelligence）”架构：20% 复杂前沿能力按需“租用”，80% 高频常规负载沉淀在私有基础设施上“拥有”，以实现可预测的固定成本与明确的 ROI。 - [19:18](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1158s) 技术代际更迭的铁律表明，最终胜出的企业不是单纯调用最强模型的团队，而是在机器智能周围建立起最佳单位经济效益并掌控 AI 入口控制权的企业。 ## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=4s) 企业 IT 演进的镜像：从基础架构到 AI 治理 Nutanix 的 AI 产品营销总监 Tuhina Goel 开门见山地介绍了自己的背景以及 Nutanix 过去 15 年的核心使命：简化企业 IT 中最棘手的部分。无论是过去协助企业客户完成从超融合基础架构（HCI）到虚拟化、再到 Kubernetes 容器编排平台的演进与转型，Nutanix 始终致力于让系统变得易用、精简且具备完善的治理能力。面对如今火爆的 AI 基础设施浪潮，Goel 直言自己看到的并非全新事物，而是一个极其熟悉的模式：到处充斥着自建（DIY）技术栈、影子 IT 肆虐横行、许多团队根本不知道该拿 AI 怎么办，以及随之而来的严重失控与治理缺位。 Goel 强调，Nutanix 作为传统 IT 基础架构治理的先驱，深知过去积累的理论与控制理念完全可以直接映射并应用于 AI 基础设施。本次演讲将核心剖析三大交织在一起的关键要素：其一是 Token，代表着直接的“成本”维度；其二是 Tool（工具），关乎企业的数据连接与治理维度；其三则是处在工具与 Token 之间最为核心的 Trust（信任）。在她看来，归根结底，AI 的信任危机本质上就是一个典型的“基础架构工程问题”，而基础架构正是 Nutanix 最擅长、最游刃有余的领域。 - **核心三大支柱**：Token（成本控制）、Tool（数据与工具治理）、Trust（底层基础设施信任）。 - **历史镜像**：AI 基础设施的野蛮生长正是当年从虚拟化到容器化时代 DIY 混乱与影子 IT 的重演。 --- ### [01:30](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=90s) 周末失控的智能体：从 POC 成功到账单灾难 Goel 分享了一个在企业客户中反复上演的典型惨痛故事。很多平台的工程团队启动了 AI 项目，早期阶段的概念验证（POC）和演示 Demo 表现惊艳、无懈可击。团队备受鼓舞，于是放心地将其推向生产环境并“放任自流”。在一个无人值守的周末，这个系统严格按照设计逻辑运转：它接收到一个庞大复杂的任务，将其拆解为大量细小任务，生成了一个自主智能体（Autonomous Agent）；该智能体为了完成任务，又自主衍生出成千上万个子智能体（Sub-agents）。致命的是，每一个被派生出来的智能体都默认去调用企业能买到的最贵、性能最顶级的 Frontier 前沿旗舰大模型——“因为从来没有人告诉它们不能这么做”。到了周一早晨，当所有人回到办公室时，整个会议室的气氛彻底变了。已经没有人关心模型的逻辑推理能力有多强，因为财务团队（Finance）已经铁青着脸坐在了房间里，所有人都在严厉质问成本、失控与信任崩溃。Goel 尖锐地指出，这从来不是模型自身的能力问题，AI 项目本身甚至可以说是“大获成功”地完成了任务，只是以一次性消耗几十亿 Token 为代价。系统毫无差错地跑完了每一步，唯一缺失的是基础架构层面的管控（Control）与约束智能。 Gartner 的预测更加印证了这并非个案：预计到 2027 年，超过 40% 的 Agentic AI（智能体 AI）项目将被迫取消。Goel 强调，导致这些项目被砍的原因绝非底层模型不行——现实是各大模型每天都在变得更聪明、更出色——真正的死因是极其模糊的商业价值回报、彻底失控的 Token 成本以及形同虚设的风险风控机制。这已经不再是实验室里悄无声息死掉的原型玩具，而是耗费巨资、承载实际业务负载的企业生产系统，纯粹因成本和失控被硬生生拔掉电源。 ```mermaid flowchart TD accTitle: Agent Runaway Bill Cycle accDescription: 展示一个生产级自主智能体在周末无人监控时无限拆分子智能体调用前沿大模型导致财务危机的流程 subgraph Trigger["生产部署与触发"] A["复杂业务任务输入"] --> B["自主母智能体 (Autonomous Agent)"] end subgraph Explosion["周末无人监控：智能体分裂失控"] B --> C["拆解子任务并分裂大量 Sub-agents"] C --> D["无节制调用 Top-shelf Frontier 模型 (OpenAI/Anthropic 等)"] D --> E["消耗数十亿计 Token (Billions of Tokens)"] end subgraph Impact["周一早晨的现实危机"] E --> F["财务部介入 (CFO / Finance)"] F --> G["项目直接叫停：40% 智能体项目夭折预测"] end ``` --- ### [03:32](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=212s) 三年跨越三个数量级：从聊天机器人到自主行动回顾生成式 AI 演进的时间线，Goel 梳理了短短三年内发生的翻天覆地变化。2022 年底 ChatGPT 的横空出世拉开了第一阶段的序幕，当时的交互形态是典型的聊天机器人（Chatbots），单次任务仅消耗几千个 Token，模式非常简单直白：“提问输入、回答输出、会话结束”。紧接着第二阶段到来，具备推理循环（Reasoning Loops）与工具调用能力的智能体（Agents）登场，任务复杂度迅速提升，单个任务的 Token 消耗跃升至数万级别。而现在，行业已经全面步入自主长程智能体（Autonomous Agents）时代。这些智能体能够自主运行数小时、数天甚至数月之久。为了维持长期记忆，它们不断携带完整的超长会话历史、反复比对索引外部大文件、遭遇失败时不断重试并反复发起相同查询，最终在单个任务中生成数百万乃至数十亿的 Token。短短三年内，Token 的消耗规模直接暴涨了整整三个数量级（1,000倍）。更棘手的是，Token 还只是冰山一角。Goel 警示道：“智能体不再仅仅是动嘴说话，它们开始自主采取行动、做出裁决并触发生产事件。”至此，企业的风险暴露被撕裂成两个完全失控的维度： 1. **消耗敞口（Token 维度）**：智能体在毫无节制地刷爆企业的 API 信用卡。 2. **触角敞口（Tool 维度）**：智能体在深入企业内网，触碰和修改底层数据资产。 --- ### [05:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=300s) 成本与信任的同一根源：控制平面的缺失在与大量企业客户及合作伙伴的沟通中，Goel 发现市面上听到的所有 AI 翻车故事，剥离外表后都可以归结为两条平行主线： 1. **成本失控**：根本没人说得清企业当前到底消耗了多少 Token，以及最终要付多少钱。不同的业务线在私下使用 OpenAI，有的在用 Anthropic，另外一些团队则在内部不同算力平台上自建了一堆开源模型。当管理者追问“上个月我们全公司 AI 到底花了多少钱？是谁花掉的？”时，全场无人能答。Goel 强调，企业现有的财务决策体系与传统软件采购完全脱节：企业以往的财务模型是“买一套为期一年的许可证（License）”或按既定的长期资源消耗预付费；但当下的 AI 消耗完全是另一套逻辑——每当模型发生热替换（Swap）、每当模型厂商调价，财务模型就必须彻底动态重算，企业根本缺乏这种财务敏捷肌肉。 2. **信任崩溃**：这涉及到工具调用（Tools）。智能体开始拥有读取生产数据库、自动提交工单、修改 GitHub 代码仓库的权限。因此，信任再也不是安全团队写在纸上的合规免责声明，而是一个货真价实的工程防御难题。目前绝大多数企业的致命错误，在于将“成本”和“信任”割裂为两个互不相干的问题，分别丢给两个不同的团队和两个互不沟通的部门各自去解。Goel 严正指出：这两个问题同根同源，“所谓的失控智能体（Rogue AI）根本不是模型缺陷，而是控制平面（Control Plane）的彻底缺失！” 回溯 IT 基础设施架构的发展史，任何强大的企业技术栈都有不可逾越的护城河： - **网络层（Network）**：绝不会在没有路由器（Router）和防火墙（Firewall）的情况下裸奔。 - **云计算（Cloud）**：绝不会在缺乏身份与访问管理（IAM）及合规治理平面的情况下直接上线。每当一项去中心化、功能极强的颠覆性技术进入企业时，唯一能让其达到“企业级（Enterprise-grade）”标准的，就是建立集中式的控制平面。然而在今天，企业却放任一支支手握系统工具权限、疯狂刷卡花钱的自主智能体大军横冲直撞，而在最重要的“企业大门口”竟然连一个守门人都没有。Goel 总结道，企业现在最该问的绝对不是“我该用哪家最新的大模型”，而是“到底谁在为我的 AI 大门守关”。 --- ### [07:47](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=467s) 破局之道：Nutanix Agent Gateway 集中式流量控制针对前述的架构空白，Nutanix 推出了核心解决方案——**Nutanix Agent Gateway**。Goel 将其定性为所有 Agentic AI 业务的“中央控制层”，在宏观逻辑上充当整个企业 AI 流量的集中调度指挥官（Traffic Controller）。无论是人类员工发出的 Prompt，还是由后台自主智能体发起的调用链，所有请求在到达目的地前，都必须强制性穿过这个统一网关。 ```mermaid flowchart LR accTitle: Nutanix Agent Gateway Architecture accDescription: 展示 Nutanix Agent Gateway 如何作为统一控制面调度人类/智能体请求、路由前沿大模型与本地模型，并通过 MCP 连接企业工具和数据库 subgraph Requesters["请求发起方"] U["人类用户 (Users)"] A["自主智能体 (AI Agents)"] end subgraph ControlPlane["中央控制平面: Nutanix Agent Gateway"] direction TB GW["统一端点 (Unified Endpoint)"] TL["通用 API 转换层 (API Translation)"] POL["安全策略、限流与 Token 预算墙"] GW --- TL --- POL end subgraph Providers["下游模型资源"] FM["商业 Frontier 模型<br>(OpenAI / Anthropic / Google)"] LM["私有化自建推理模型<br>(Self-Hosted Platform)"] end subgraph EnterpriseTools["企业工具与数据资产"] MCP["MCP Servers (Model Context Protocol)"] DATA["生产数据库 / 代码库 / 工单系统"] MCP --- DATA end U --> GW A --> GW POL --> FM POL --> LM POL --> MCP ``` - **统一端点与供应商解耦**：用户和前端应用只需要对接 Agent Gateway 暴露出的标准化统一端点。网关在底层智能分发路由，向后对接包括 OpenAI、Anthropic、Google 在内的顶级 Frontier 模型，或是企业自建推理平台上的私有模型。 - **集成 MCP 协议连接私有数据**：通过 Model Context Protocol（MCP）服务器，网关充当连接企业私有数据与工具的结缔组织，全面接管后端数据库、工单与代码仓库的调用交互。 - **通用 API 转换层（Universal API Translation）**：这是网关的关键特性。它能消除不同模型提供商之间的 API 差异。当某个云端模型的调用额度意外耗尽时，系统可瞬间触发 Fallback（故障转移）无缝降级；或根据不同场景，在无需研发团队重写一行应用代码的前提下，平滑地将生产流量无感重定向到成本更低的替代模型上。 - **单一扼流点（Choke Point）**：在不减慢开发者敏捷迭代的前提下，通过统一的卡口实现全量可观测性，从物理层面上彻底掐死影子 AI。 --- ### [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) 杀鸡岂用牛刀：Token 控制框架的三大支柱 Goel 举出了日常企业内部非常具象的滥用场景：当下员工使用 LLM 的目的千奇百怪，有人用来生成猫咪表情包、查找小饼干食谱，有人用来制定 2027 财年的 GTM（Go-To-Market）市场拓展战略，也有人用来对复杂罕见病进行鉴别诊断并出具医学分析报告。由于此前没有任何护栏与路由门禁，所有人无论任务轻重，全都在一律调用最昂贵的顶级 Frontier 大模型。但企业运营的客观事实是：**全公司仅有约 20% 的高度复杂任务真正需要这些最顶级的前沿大模型；剩下 80% 的任务完全是高并发、高重复度的常规工作，在参数量更小、单价更便宜的模型上就能近乎完美地运行**。如果企业不按“成本与价值对齐（Cost-to-Value）”的逻辑动态路由流量，在结构上每天都在为这 80% 的常规流量支付极其冤枉的高昂溢价。Goel 形象地打了个比方：“这简直就像在割草机上装了一台法拉利的发动机——它确实跑得动，但你压根用不着！” 为了从架构上扭转这种畸形消耗，Goel 提出了管理 Token 成本的三大支柱治理框架： | 治理支柱 | 核心实现与机制 | 业务防护效果 | |:--- |:--- |:--- | | **1. 可见（Visibility）** | 健全的 Token 遥测体系（Telemetry）：按用户、团队、智能体、模型等维度全量透视消耗明细。 | “无法归因，便无法治理”；彻底终结不知钱花在何处、由谁消耗的财务盲盒。 | | **2. 控制（Control）** | 细粒度速率限制（Rate Limiting）与硬性预算阈值（Token Budget）：绑定部门与 API Key。 | 当智能体陷入死循环或恶性并发时，撞击的是“预算墙（Budget Wall）”，而非直接重创企业的损益表（P&L）。 | | **3. 优化（Optimize）** | 成本对齐价值的智能动态路由；敏捷适配上游厂商调价变动、服务宕机或地区合规变更。 | 消除“割草机装法拉利引擎”的浪费，实现多模型无感切换与最优成本组合。 | Goel 总结道，控制 Token 的关键链路必须严格按照“先看清（See）、再控制（Control）、最后持续优化（Optimize）”的节奏推行。而在演讲的后半部分，她将目光重新转向与之密不可分的后半张拼图——工具（Tools）与信任（Trust）。智能体每一次具体的行动，终究要落在企业生产工具的调用上，而通过 MCP 等协议在网关层构筑严格的“工具级过滤（Tool-level Filtering）”，正是防止智能体越权、守住企业安全底线的核心工程手段。 ### [12:33](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=753s) 工具级细粒度访问控制与决策完整性审计智能体（AI Agents）在企业环境中的权限管理绝不能停留在粗粒度的连接级别。Agent 网关必须深入检查模型上下文协议（MCP）等流量，并在具体的“工具级别”（Tool Level）执行安全策略。举例来说，如果企业部署了一个用于处理代码的编码智能体（Coding Agent），该智能体确实需要访问 GitHub 代码仓库来查看 Issue 或提交代码；但在任何情况下，它都绝对不能拥有删除整个 GitHub 仓库的破坏性权限。这种细粒度的访问控制不仅适用于传统的人类用户，更必须严格约束那些代替人类调用内部工具、访问企业私有数据的自主智能体。 ```mermaid flowchart TD accTitle: Agent Gateway 架构与细粒度访问控制 subgraph Client["智能体客户端"] A["编码智能体 (Coding Agent)"] end subgraph Gateway["Agent Gateway 治理层"] direction TB B["MCP 流量深度检测"] C{"工具级策略判断"} B --> C end subgraph Tools["企业后端工具与资产"] D["读取 Issue / 提交代码 (允许)"] E["删除整个 GitHub 仓库 (拒绝)"] end subgraph Audit["可观测性与审计"] F["审计跟踪与决策完整性记录"] end A --> B C -- "符合权限" --> D C -. "违规操作拦截".-> E B --> F ``` 除了细粒度访问控制外，全面的审计跟踪（Audit Trace / Trail）同样至关重要。网关会将智能体发起的每一次调用、触发的每一个工具完整记录下来，并导出到企业既有的可观测性仪表板中。现代审计跟踪已经超越了传统的“谁在何时访问了什么数据”的范畴，更关键的是要实现“决策完整性”（Decision Integrity）——即精确记录“智能体为何做出某项决策、在何时以何种方式做出该决策”。通过将两级过滤、审计追踪和细粒度访问控制结合，企业能够从架构层面系统性、一致性地消除影子 AI（Shadow AI），所有行为都由统一策略驱动，而非取决于个别人被临时授予了什么零散权限。 - **工具级管控而非连接级**：策略深入 MCP 协议内部，针对具体动作（如读取 vs 删除）施加约束。 - **决策完整性（Decision Integrity）**：审计追踪记录智能体决策的上下文与因果链，确保 AI 行为合规可溯。 - **根治影子 AI**：以统一的策略框架交付，彻底取代不可控的点状赋权方式。 --- ### [14:45](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=885s) 反思企业 AI 战略：超越“按 Token 付费”的三个核心问题在结束产品层面的具体介绍后，演讲者引导观众进行战略层面的自我审视。企业在思考 AI 战略及底层支撑架构时，应当认真拷问三个关键问题：首先是**按 Token 付费的合理性**。为根本不需要前沿大模型（Frontier Models）的日常任务支付高昂的前沿模型 Token 费用是毫无意义的。随着模型生态的爆发式扩张，更小、更窄、更专精的模型往往才是更优解。企业不应纠结于“每次调用该付多少 Token 费用”，而应思考“我是否有属于自己的基础设施来运行那些根本不该按 Token 付费的负载”。将目光转向在自建/自有基础设施上运行固定成本的推理（Fixed-Price Inference），利用私有化、自托管环境，甚至在很多场景下，一个经典的 `if-else` 条件逻辑就足以解决问题，根本无需调用前沿大模型。其次是**AI 战略的灵活性与韧性**。企业必须做好应对外部突发情况的准备： 1. **服务中断与故障（Outages）**：例如 2025 年 11 月发生的 Cloudflare 故障曾导致 ChatGPT 全球中断约 5 小时，如果企业全部业务都与单一模型强绑定，整个业务系统就会陷入瘫痪。 2. **合规与监管演变**：今天使用的某款高性价比强力模型，明天可能仅仅因为政府监管或合规政策调整就必须强制下线。 3. **GPU 供应链瓶颈与模型重新定价（Repricing）**：很多客户遭遇过前沿模型供应商一夜之间更改计价策略的突发情况。企业必须做到将“价格变更”仅仅当作一次“路由策略调整（Routing Policy Change）”，而不是演变成痛苦的“系统重构灾难（Re-architecting Problem）”。如果企业对这些关键问题的答案完全依赖于单一商业大模型厂商的路线图，那么企业不仅是在外包 AI 智能，“更是在将自己的整个 AI 战略全盘外包”。 --- ### [17:33](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1053s) Nutanix 两层智能架构：结合私有推理平台与 Agent 网关单一的 Agent 网关无法单独解决所有战略难题，它必须与强大的私有推理平台协同运作。正确的战略不是去盲目追逐“挑选最好的模型”，而是“拥有属于自己的智能（Own Your Intelligence）”，并保留在商业托管模型、开源模型与私有推理基础设施之间自由切换的灵活性。 Nutanix 企业级 AI 平台将 **Agent Gateway** 与 **私有推理平台（Private Inferencing Platform）** 深度整合。这不是将两个互不相干的产品生硬拼凑在一起，而是共享同一套基于角色的访问控制（RBAC）、统一的 API Key 和一致的安全策略。对于开发者和平台工程师而言，在调用公有前沿模型与回退至私有自托管开源模型之间的切换是完全无感且无缝的，所适用的治理规则完全相同。 ```mermaid flowchart LR accTitle: Nutanix 两层智能架构 subgraph Enterprise["企业统一控制面 (Agent Gateway)"] direction TB P["统一 RBAC / 安全策略 / API Key"] end subgraph TwoTier["两层智能分流体系"] direction TB F["租用前沿模型能力<br/>(占 20% 高复杂度任务，按需付费)"] O["自建私有推理基础设施<br/>(占 80% 高频可重复任务，固定成本)"] end Enterprise --> F Enterprise --> O ``` 通过这种架构，企业可以实现所谓的**两层智能（Two-Tier Intelligence）**： - **租用（Rent）前沿能力**：针对约 20% 最复杂、最前沿的创新任务，租用昂贵的商业大模型，为其真正的价值买单； - **拥有（Own）核心负载**：将 80% 高调用量、模式可重复的日常任务沉淀到企业自有的基础设施上，以可预测的固定成本运行。这种模式最终让 CFO 关心的“AI 到底花了多少钱、投资回报率究竟如何”获得了明确而可量化的确切答案。 --- ### [19:18](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1158s) 宏观视角的法则：谁在掌控企业 AI 的“正门”？从更宏观的行业历史规律来看，每一次重大技术平台的代际更迭都遵循着相同的铁律。在云计算时代，最终胜出的企业并不是那些仅仅开发出最炫酷应用的公司，而是在应用底层拥有**最佳单位经济效益（Unit Economics）和最强控制力**的企业。 Agentic AI（智能体 AI）同样完全遵循这一定律：未来胜出的企业绝不会是单纯依赖调用最强模型的公司，而是那些在“机器智能”周围建立起最优单位经济效益，并拥有强大的控制平面（Control Plane）去落地执行治理策略的企业。演讲最后给所有企业决策者留下了一个核心战略问题：“究竟是谁在把守你企业 AI 的‘正门’（Front Door）？你究竟是想将 AI 战略全盘租借出去，还是想真正将其掌控在自己手中？”如果企业发现当前无人把守这道大门，或者希望深入探讨 AI 治理与私有推理架构，欢迎前往 Nutanix 展台展开深入交流。 ## Notable quotes > [01:30](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=90s) 因为从来没有人告诉它们不能这么做 — Tuhina Goel > [03:32](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=212s) 智能体不再仅仅是动嘴说话，它们开始自主采取行动、做出裁决并触发生产事件。 — Tuhina Goel > [05:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=300s) 所谓的失控智能体（Rogue AI）根本不是模型缺陷，而是控制平面（Control Plane）的彻底缺失！ — Tuhina Goel > [05:00](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=300s) 到底谁在为我的 AI 大门守关 — Tuhina Goel > [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) 全公司仅有约 20% 的高度复杂任务真正需要这些最顶级的前沿大模型；剩下 80% 的任务完全是高并发、高重复度的常规工作，在参数量更小、单价更便宜的模型上就能近乎完美地运行 — Tuhina Goel > [09:21](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=561s) 这简直就像在割草机上装了一台法拉利的发动机——它确实跑得动，但你压根用不着！ — Tuhina Goel > [14:45](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=885s) 更是在将自己的整个 AI 战略全盘外包 — Tuhina Goel > [17:33](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1053s) 拥有属于自己的智能（Own Your Intelligence） — Tuhina Goel > [19:18](https://www.youtube.com/watch?v=uhTJt8IAiRM&t=1158s) 究竟是谁在把守你企业 AI 的‘正门’（Front Door）？你究竟是想将 AI 战略全盘租借出去，还是想真正将其掌控在自己手中？ — Tuhina Goel ## Mentioned Tuhina Goel, Nutanix, Nutanix Agent Gateway, Gartner, OpenAI, Anthropic, Google, ChatGPT, Cloudflare, GitHub, MCP (Model Context Protocol), Kubernetes ## Video description Tuhina Goel - Director, AI Product Marketing, Nutanix As organizations scale agentic AI applications, many struggle to move past the pilot phase due to unpredictable token costs and governance concerns. This session explores the critical role of token management in establishing precise cost controls and resource oversight, alongside the implementation of an agent gateway to secure and monitor AI agent, tool, and data interactions. Learn how these solutions enable the deployment of sophisticated workflows without compromising enterprise safety or trust. By unifying security, cost oversight, and scalability, organizations can shift from "AI-enabled" to "AI-efficient" so that every token spent translates into measurable business value and sustainable enterprise AI ROI. [Source](https://www.youtube.com/watch?v=uhTJt8IAiRM)

Source quotes

[1:30] Tuhina Goel: 因为从来没有人告诉它们不能这么做 [3:32] Tuhina Goel: 智能体不再仅仅是动嘴说话，它们开始自主采取行动、做出裁决并触发生产事件。 [5:00] Tuhina Goel: 所谓的失控智能体（Rogue AI）根本不是模型缺陷，而是控制平面（Control Plane）的彻底缺失！ [5:00] Tuhina Goel: 到底谁在为我的 AI 大门守关 [9:21] Tuhina Goel: 全公司仅有约 20% 的高度复杂任务真正需要这些最顶级的前沿大模型；剩下 80% 的任务完全是高并发、高重复度的常规工作，在参数量更小、单价更便宜的模型上就能近乎完美地运行 [9:21] Tuhina Goel: 这简直就像在割草机上装了一台法拉利的发动机——它确实跑得动，但你压根用不着！ [14:45] Tuhina Goel: 更是在将自己的整个 AI 战略全盘外包 [17:33] Tuhina Goel: 拥有属于自己的智能（Own Your Intelligence） [19:18] Tuhina Goel: 究竟是谁在把守你企业 AI 的‘正门’（Front Door）？你究竟是想将 AI 战略全盘租借出去，还是想真正将其掌控在自己手中？

Source quotes

[1:30] Tuhina Goel: because why not—nobody told them not to [5:00] Tuhina Goel: What did AI cost last month, and who spent it? [5:00] Tuhina Goel: Rogue AI is not a model problem—it is a missing control plane problem. [5:00] Tuhina Goel: Who is governing the front door? [9:21] Tuhina Goel: only ~20% of complex tasks require top-shelf frontier models [9:21] Tuhina Goel: 80% consists of high-volume, repeatable work [9:21] Tuhina Goel: It's like putting a Ferrari engine into a lawnmower—we don't need it. [9:21] Tuhina Goel: You cannot govern what you cannot attribute. [14:45] Tuhina Goel: Are you paying per token for everything? [14:45] Tuhina Goel: How flexible is your AI strategy? [14:45] Tuhina Goel: Are you outsourcing your entire AI strategy? [17:33] Tuhina Goel: Who really governs your AI front door, and do you want to rent your AI strategy or own it?

Original transcript

[0:04] माय नेम इज तुहीना गोयल एंड आई एम द [0:06] डायरेक्टर ऑफ एआई प्रोडक्ट मार्केटिंग एट [0:08] न्यूटनिक्स [0:10] एट न्यूटनिक्स वी स्पेंड द लास्ट 15 इयर्स [0:13] सिंपलीफाइंग द हार्डेस्ट पार्ट ऑफ़ [0:15] एंटप्राइ आईटी वेदर इट वाज़ यू नो हेल्पिंग [0:19] द कस्टमर्स नेविगेट शिफ्ट फ्रॉम एचसीआई टू [0:22] वर्चुअलाइज़ेशन टू कुबर्निटीज़ वी हैव [0:25] ट्राइड टू मेड इट्स ईजी सिंपल गवर्नड एंड [0:29] नाउ नाउ व्हेन वी लुक एट एआई [0:31] इंफ्रास्ट्रक्चर आई डोंट सी समथिंग न्यू। [0:34] आई सी अ वैरी कॉमन पैटर्न हियर राइट विद [0:38] मल्टीपल डीआईवाई स्टैक्स पीपल रनिंग देयर [0:42] ओन यू नो शैडो आईटी नॉट नोइंग व्हाट टू डू [0:44] विद एआई एंड डेफिनेटली अह लॉट ऑफ़ लैक ऑफ़ [0:48] कंट्रोल एंड गवर्नेंस। सो वी डोंट सी [0:50] समथिंग न्यू एज़ आई सेड वी रियली पायनियर्ड [0:54] अह गवर्निंग इंफ्रास्ट्रक्चर इन जनरल एंड [0:56] द सेम कॉन्सेप्ट्स एंड थ्योरीज़ अप्लाई टू [0:59] ए आई इंफ्रास्ट्रक्चर [1:01] सो हियर अह टुडे आई वांट टू टॉक अबाउट कपल [1:04] ऑफ़ थिंग्स वन इज़ टोकंस राइट द कॉस्ट एंगल [1:07] द सेकंड इज़ टूल्स राइट द डेटा ए द डेटा [1:10] एंड द गवर्नेंस ऐस्पेक्ट ऑफ़ अह व्हाट पीपल [1:14] आर डूइंग एंड देन मोस्ट इंपोर्टेंटली [1:16] ट्रस्ट व्हिच काइंड ऑफ सिट्स इन बिटवीन [1:18] टूल्स एंड एंड टोकंस व्हिच इट टर्न्स आउट [1:21] इज़ एन इंफ्रास्ट्रक्चर प्रॉब्लम एंड [1:23] इंफ्रास्ट्रक्चर इज़ समथिंग दैट न्यूटानिक [1:25] स्टैंडर्स ब्रिलियंटली वेल एंड दैट्स [1:27] व्हाई आई एम हियर। [1:30] ऑलराइट लेट मी स्टार्ट विथ द स्टोरी दैट [1:32] वी हियर अगेन एंड अगेन फ्रॉम आवर [1:34] कस्टमर्स, राइट? सो, देयर आर प्लेटफार्म [1:37] टीम्स, दे टेक अप एआई प्रोजेक्ट्स, द [1:41] पीओसी एंड द डेमो डज़ रियली वेल, इट डज़ [1:44] ब्रिलियंटली वेल, एंड देन दे लेट इट लूज़ [1:46] इन प्रोडक्शन। एंड देन व्हाट हैपेंस ओवर द [1:49] वीकेंड इज़ व्हाट इट सपोज्ड टू डू राइट इट [1:53] टेक्स अ बिग टास्क इट्स ब्रेक्स इट डाउन [1:55] टू मच स्मॉलर टास्क्स इट स्पॉन्स एन [1:59] ऑटोनॉमस एजेंट दी ऑटोनॉमस एजेंट देन [2:02] स्पॉन्स मल्टीपल सब एजेंट्स एंड एव्री [2:06] सिंगल एजेंट ट्राइज़ टू कॉल योर टॉप शेलफ [2:08] फ्रंटियर मॉडल राइट बिकॉज़ व्हाई नॉट नोबडी [2:11] टोल्ड देम नॉट टू। सो व्हाट हैप्पेंस ऑन [2:14] मंडे मॉर्निंग व्हेन यू कम बैक इन द ऑफिस [2:16] नोबडी इज़ टॉकिंग अबाउट द मॉडल कैपेबिलिटी [2:19] एनीमोर एंड फाइनेंससेस इन द रूम राइट दे [2:21] आर टॉकिंग अबाउट द कॉस्ट दे आर टॉकिंग [2:23] अबाउट कंट्रोल दे आर टॉकिंग अबाउट ट्रस्ट [2:26] सो इट हैज़ नेवर बीन अ प्रॉब्लम विद मॉडल [2:29] राइट एंड योर एआई प्रोजेक्ट डिड नॉट रियली [2:33] फेल इट ब्रिलियंटली सक्सीडेड बट बिलियंस [2:36] ऑफ़ टोकंस एट अ टाइम सो एवरीथिंग वर्क्ड एज़ [2:40] डिज़ व्हाट वाज़ मिसिंग वाज़ द इंटेलिजेंस? [2:43] व्हाट वाज़ मिसिंग इज़ इज़ द कंट्रोल। [2:48] एंड दिस इज़ नॉट अ फ्रेंच स्टोरी। लाइक दिस [2:50] इज़ नॉट जस्ट व्हाट वी आर हियरिंग एनगडोटली [2:52] फ्रॉम आवर कस्टमर्स। अह गार्डनर [2:54] प्रिडिक्ट्स दैट ओवर 40% ऑफ़ आल एजेंटिक [2:58] एआई प्रोजेक्ट्स विल बी कैंसल्ड बाई 2027। [3:02] एंड दिस इज़ नॉट बिकॉज़ द मॉडल्स आर बैड। द [3:04] मॉडल्स आर ब्रिलियंट। इन फैक्ट, दे आर [3:06] गेटिंग बेटर बाय द डे, राइट? [3:09] एंड दिस इज़ बिकॉज़ देयर इज़ नो क्लियर कॉस्ट [3:11] कंट्रोल। देयर देयर इज़ अनक्लियर बिज़नेस [3:14] वैल्यू एंड इनएट रिस्क कंट्रोल्स। एंड दीज़ [3:18] आर नॉट एक्सपेरिमेंट्स और पीए पीओसीज़ [3:20] डाइंग क्वाइटली इन द लैब। दीज़ आर वेल [3:23] फंडेड लोड बेरिंग सिस्टम्स पुटिंग ऑफ़ [3:26] स्विच्ड ऑफ़ इन प्रोडक्शन फॉर द रीज़न आई [3:29] जस्टिफाइंड। [3:32] सो लेट्स लेट्स जस्ट रिवाइंड एंड टेक अ [3:35] लुक बैक एट हाउ डिड वी अराइव हियर एट दिस [3:39] पॉइंट इन टाइम राइट सो ऑल ऑफ दिस [3:41] स्टार्टेड बैक इन 2022 विद चैट बॉट्स [3:44] एवरीबडी नोस चैट जीपीटी राइट ओवर द विंडो [3:47] हॉलिडेज़ अ कपल ऑफ थाउजेंड्स पर टास्क [3:50] क्वेश्चंस इन क्वेश्चन आउट ट्रांजैक्शन [3:52] क्लोज्ड राइट देन वी मूव ऑन टू अह एजेंट्स [3:56] राइट द एजेंट्स अराइव्ड विद रीजनिंग लूप्स [3:59] टूल कॉल्स सो थिंक ऑफ 10्स ऑफ थाउजेंड्स [4:02] ऑफ टोकंस पर टास्क। एंड नाउ वी आर हियर इन [4:05] द वर्ल्ड ऑफ ऑटोनॉमस एजेंट्स। राइट? सो [4:08] थिंक ऑफ यू नो दीज़ आर लॉन्ग रनिंग लॉन्ग [4:12] रीज़निंग एजेंट्स फॉर आवर्स, डेज़ एंड मंथ्स [4:15] एट लेंथ। कैरिंग फुल कन्वर्सेशन हिस्ट्री, [4:18] रेफरेंसिंग फाइल्स, अह, रीिट्राइंग, अह, [4:22] रीगोइंग थ्रू द सेम क्वेरीज़ अगेन एंड अगेन [4:25] एंड जनरेटिंग मिलियंस इफ़ नॉट बिलियंस ऑफ़ [4:27] टोकंस पर टास्क। राइट? एंड इफ यू सी दिस [4:30] इज़ अराउंड थ्री ऑर्डर्स ऑफ़ मैग्नीट्यूड इन [4:32] जस्ट थ्री इयर्स। [4:34] एंड टोकंस आर जस्ट हाफ द स्टोरी, राइट? [4:37] एजेंट्स जस्ट डोंट टॉक एनीमोर। दे एक्ट, [4:40] दे दे टेक अ कॉल, दे ट्रिगर एन इवेंट। सो, [4:44] विथ दिस, इन द बैकग्राउंड, योर एक्सपोज़र [4:47] काइंड ऑफ़ ग्रू ऑन टू एक्सेस। वन व्हाट द [4:50] एजेंट स्पेंड, व्हिच इज़ द टोकंस एंड व्हाट [4:53] द एजेंट्स टच्ड, व्हिच इज द टूल्स। एंड [4:56] दैट्स व्हाट वी आर गोइंग टू टॉक अबाउट [4:57] टुडे। [5:00] सो बेस्ड ऑन अ लॉट ऑफ द कन्वर्सेशन वी आर [5:03] हैविंग विद आवर कस्टमर्स, आवर पार्टनर्स, [5:05] द जस्ट इज़ दैट एव्री सिंगल एआई फेलियर [5:09] स्टोरी वी हियर टर्न्स आउट टू बी टू [5:11] स्टोरीज़। द फर्स्ट वन इज़ कॉस्ट, राइट? [5:14] व्हिच इज़ अह, आय डोंट नो, हाउ मेनी टोकंस [5:18] आय ऍम स्पेंडिंग एंड व्हाट इट्स कॉस्टिंग [5:20] मी। सो समवनस यूजिंग ओपन एआई हियर [5:23] एंथ्रोपिक देयर अ बंच ऑफ सेल्फ होस्टेड [5:26] मॉडल्स समवेयर एल्स एंड नोबडी कैन आंसर द [5:29] सिंपलेस्ट क्वेश्चन व्हाट डीड एआई कॉस्ट [5:32] लास्ट मंथ एंड हु स्पेंट इट? एंड इट्स [5:35] वैरी इंटरेस्टिंग दैट दिस टाइप ऑफ [5:37] फाइनेंसियल मसल और डिसिशन मेकिंग डज़ंट [5:40] रियली एकिस्ट इन एंटरप्राइजेज। राइट? वी [5:42] वर बिल्ड टू काइंड ऑफ़ बिल्ड आर फाइनेंसियल [5:45] मॉडलिंग अराउंड बाय अ लाइसेंस फॉर अ ईयर। [5:49] पे फॉर कंजम्पशन लॉन्ग टर्म। राइट? दिस इज़ [5:53] वेरी डिफरेंट। राइट? दिस इज़ नॉट बाय वंस। [5:55] दिस इज़ विद एव्री मॉडल स्वाप विद एव्री [5:59] रीप्राइसिंग ऑफ मॉडल व्हाट डू यू डू विद [6:01] फाइनेंस। सो इट्स वेरी डिफरेंट। द सेकंड [6:04] इज़ ट्रस्ट। सो, अगेन गोइंग बैक टू टूल्स, [6:07] राइट? इट्स अबाउट रीडिंग योर डेटाबेस, [6:10] फाइलिंग टिकट्स, टचिंग गीत हब रिपॉज़िटरीज़। [6:13] सो इट्स नो मोर जस्ट अ पॉलिसी डॉक्यूमेंट [6:15] व्हेन वी थिंक अबाउट व्हाट इज़ लैकिंग ऑन द [6:18] ट्रस्ट एंगल इट इज़ एक्चुअली एन [6:19] इंजीनियरिंग प्रॉब्लम। एंड मोस्ट ऑफ़ अस [6:22] टुडे आर लिविंग दिस रियलिटी वी ट्रीट देम [6:25] एज़ टू डिफरेंट प्रॉब्लम्स ओनड बाय टू [6:27] सेपरेट टीम्स टू बी सॉल्व्ड बाय टू सेपरेट [6:30] डिपार्टमेंट्स। [6:32] हाउएवर दे आर नॉट टू सेपरेट प्रॉब्लम्स। [6:35] राइट? द रूट कॉज इज़ द सेम एंड हियर इट इज़। [6:37] राइट? रोग एआई इज नॉट रियली अ मॉडल [6:41] प्रॉब्लम। इट इज अ मिसिंग कंट्रोल प्लेन [6:44] प्रॉब्लम। सो जस्ट थिंक अबाउट लाइक वी हैव [6:47] डन दिस। वीव बीन डूइंग इंफ्रास्ट्रक्चर [6:49] फॉर इयर्स। सो थिंक अबाउट हाउ वी हैव [6:51] काइंड ऑफ़ आर्किटेक्टेड आवर स्टैक्स अंटिल [6:54] नाउ। एव्री अदर लेयर ऑफ़ योर स्टैक। फॉर [6:57] एग्जांपल नेटवर्क, राइट? वी डोंट रन इट [6:59] विदाउट राउटर्स एंड फायर वाल्स। थिंक [7:02] अबाउट अ क्लाउड्स, वी डोंट रन इट विदाउट [7:05] आईएम और गवर्नेंस। राइट? एव्री टाइम एन [7:08] एंटरप्राइज अडॉप्टेड अ पावरफुल [7:11] डिसेंट्रलाइज्ड टेक्नोलॉजी द ओनली थिंग [7:14] दैट मेड एंटरप्राइज ग्रेड वाज़ अ कंट्रोल [7:16] प्लेन एंड येट वी आर हियर डिप्लॉयंग [7:20] फ्लट्स ऑफ ऑटोनॉमस एजेंट्स टूल व्हील्डिंग [7:24] मनी स्पेंडिंग एंड नथिंग एट द फ्रंट डोर [7:27] सो इट्स इट्स अ क्लासिक आर्किटेक्चर [7:30] प्रॉब्लम व्हिच वी हैव सॉल्व्ड ओवर द [7:32] इयर्स [7:33] सो द राइट क्वेश्चन इज़ नॉट व्हिच मॉडल द [7:37] लेटेस्ट मॉडल आई शुड बी यूजिंग द राइट [7:39] क्वेश्चन इज़ हु इज़ गवर्निंग द फ्रंट डोर [7:42] एंड इट इज़ एन इंफ्रास्ट्रक्चर क्वेश्चन। [7:47] सो हियर इज़ व्हाट वी हैव बिल्ट राइट? सो [7:49] नाउ लेट्स टॉक प्रोडक्ट। सो वी हैव [7:51] क्रिएटेड समथिंग कॉल्ड एन इटनिक्स एजेंट [7:53] गेटवे। इट इज़ द सेंट्रलाइज़्ड कंट्रोल लेयर [7:57] फॉर ऑल ऑफ़ योर एजेंटिक एआई। थिंक ऑफ़ इट एज़ [8:00] अ ट्रैफिक कंट्रोलर। फॉर ऑल योर एजेंटिक [8:03] एआई ट्रांजैक्शंस, योर वर्क लोड्स। एव्री [8:07] सिंगल रिक्वेस्ट वेदर इट्स कमिंग फ्रॉम अ [8:09] ह्यूमन ओर इट्स कमिंग फ्रॉम एन एजेंट [8:11] पाससेस थ्रू द गेटवे [8:13] एंड योर योर यूज़र्स विल गेट यूज़र्स और [8:16] एजेंट्स विल गेट अ यूनिफाइड एंड पॉइंट [8:19] बिहाइंड इट द गेटवे काइंड ऑफ़ मैनेजर्स एंड [8:21] राउट्स एक्सेस टू योर टॉप शेलफ फ्रंटियर [8:24] मॉडल सच एस ओपन एआई एंट्रोपिक Google ओर [8:28] योर प्राइवेटली सेल्फ होस्टेड मॉडल्स [8:30] रनिंग ऑन योर ओन इनफ्लुएंसिंग प्लेटफार्म [8:33] एंड देन फाइनली आल्सो द एंटरप्राइज टूल्स [8:36] टूल्स एंड प्राइवेट डेटा ऑल थ्रू एमसीपी [8:38] सर्वर्स। इट आल्सो प्रोवाइड्स अ यूनिवर्सल [8:42] एपीआई ट्रांसलेशन लेयर। सो व्हिच इज़ वेरी [8:44] इंटरेस्टिंग बिकॉज़ इट हेल्प्स स्वैप [8:47] प्रोवाइडर्स। ऐड अ फॉलबैक ऑप्शन इफ योर [8:50] क्रेडिट्स आर रनिंग आउट। ओर शिफ्ट ट्रैफिक [8:53] ग्रेजुअली टू अ मच स्मॉलर ओर अ चीपर मॉडल [8:55] डिपेंडिंग ऑन द यूज़ केस विदाउट हैव विदाउट [8:59] हैविंग टू रीराइट योर एप्लीकेशन एव्री [9:00] सिंगल टाइम। [9:02] सो दिस इज द काइंड ऑफ फ्लेक्सिबिलिटी एंड [9:05] वेंडर न्यूट्रलिटी इज समथिंग यू शुड बी [9:07] थिंकिंग अबाउट एज यू आर आर्किटेक्टिंग योर [9:09] एआई इंफ्रास्ट्रक्चर [9:11] वन चोक पॉइंट फॉर फुल विज़िबिलिटी स्टॉपिंग [9:15] शैडो एआई विदाउट स्लोइंग डाउन योर [9:17] डेवलपर्स। [9:21] ऑलराइट। सो आई हैव अ वेरी इंटरेस्टिंग [9:23] एग्जांपल, राइट? सो, ऑल ऑफ़ अस आर यूज़िंग [9:26] एलएलएम्स फॉर फॉर डिफरेंट यूज़ केसेस। सो [9:29] वेदर इट्स एज़ सिंपल एस जनरेट अ कैट मीन [9:32] फॉर मी ओर यू नो गिव मी अ कुकी रेसिपी टू [9:35] बिल्ड मी अ गो टू मार्केट स्ट्रेटजी फॉर [9:37] फिस्कल 2027 ओर डू अह डिफरेंशियल [9:41] डायग्नोसिस ऑन अ डिजीज एंड गिव मी अ [9:43] रिपोर्ट सो देयर इज़ अ वैरायटी ऑफ़ थिंग्स [9:46] दैट वी आर यूज़िंग एलएलएम्स फॉर। द फनी [9:49] थिंग इज़ दैट प्रीटी मच एव्रीवन इन द [9:52] आर्गेनाइज़ेशन इज़ कॉलिंग योर टॉप शेल [9:54] फ्रंटियर मॉडल फॉर ऑल ऑफ़ दिस। बिकॉज़ देयर [9:57] आर नो गार्डन्स हियर। एंड द रियलिटी इज़ [10:00] दैट ओनली अबाउट ए 20% ऑफ योर मोस्ट [10:04] कॉम्प्लेक्स टास्क रिक्वायर दीज़ टॉप शेल [10:08] फ्रंटियर मॉडल्स। एंड द रिमेनिंग 80% इज़ [10:11] हाई वॉल्यूम वर्क व्हिच इज़ यू नो रिपीटेबल [10:14] दैट कैन रन ब्यूटीफुली ऑन स्मॉलर एंड चीपर [10:17] मॉडल्स। सो इफ यू आर नॉट राउटिंग ऑन कॉस्ट [10:20] टू वैल्यू बेसिस। यू आर ओवरपेइंग ऑन मोस्ट [10:24] ऑफ़ योर ट्रैफिक एववरी डे स्ट्रक्चरली। [10:27] इट्स ऑलमोस्ट लाइक देयर आर मेनी एनालॉजीज़ [10:29] बट माय फेवरेट इज़ पुटिंग अ फरारी इंटू अ [10:31] लॉन मोर। अ Ferrari इंजन इंटू अ लॉन मोर। [10:34] वी डोंट नीड इट, राइट? इट्स देयर इट्स [10:36] ग्रेट बट यू रियली डोंट नीड इट। [10:39] सो, हाउ डू यू काइंड ऑफ़ पुट टुगेदर अ [10:41] फ्रेमवर्क वेयर यू कैन कंट्रोल दिस। राइट? [10:43] सो आई आई से फर्स्ट द फर्स्ट थिंग इज़ [10:45] विज़िबिलिटी। यू कैन नॉट रियली गवर्न [10:48] एनीथिंग व्हिच यू कैन नॉट ऐट्रिब्यूट। सो [10:50] नंबर वन इज़ हाउ डू यू मेक थिंग्स विज़िबल? [10:53] अह व्हिच इज़ अ अगेन अराउंड यू नो नंबर ऑफ़ [10:56] टोकंस हु इज़ यूज़िंग राइट पर यूजर, पर टीम, [10:59] अह पर एजेंट, पर मॉडल सो अ लॉट ऑफ़ टोकन [11:02] टेलीमिट्री गोज़ इंटू इट। द सेकंड इज़ [11:05] कंट्रोल, राइट? सो, कंट्रोल इज़ अगेन [11:08] गिविंग अ बजट। अ बजट पर टोकन अह यूसेज, [11:12] फॉर योर डिपार्टमेंट्स, फॉर योर टीम्स पर [11:14] एपीआई की। सो, देयर इज़ नो बिल शॉक। एंड [11:18] व्हाट आय कॉल इट इज़, व्हेनएवर यू हैव अह [11:21] रेट लिमिटिंग डिफाइंड ऑर अ टोकन बजट [11:24] डिफाइंड, योर एजेंट्स आर नॉट गोइंग टू अ [11:27] यू नो हिट योर पीएनएल, दे आर गोइंग टू हिट [11:29] अ बजट वॉल। सो, दैट्स वेरी इम्पोर्टेन्ट। [11:32] एंड फाइनली, द थर्ड वन इज़ ऑप्टिमाइज़्ड। [11:34] व्हिच मींस दैट हाउ डू यू राइ राउट कॉस्ट [11:37] टू वैल्यू व्हाट वी जस्ट टॉकड अबाउट राइट [11:39] यूज केस राइट मॉडल एंड आल्सो अड्डाप्ट टू [11:43] रीप्राइसिंग आउटजेस अह चेंजिंग रेगुलेशंस [11:47] हैव दैट फ्लैक्सिबिलिटी बिल्ड इन सो दीज़ [11:50] आर लाइक लाइक द थ्री पिलर्स ऑफ अ टोकन [11:53] कंट्रोल इज़ सी अम एंड देन यू कंट्रोल एंड [11:57] देन यू ऑप्टिमाइज़ [12:00] नाउ लेट्स लुक एट दी अदर हाफ ऑफ द इक्वेशन [12:03] राइट व्हिच इज़ द टू टूल्स एंड द ट्रस्ट। [12:05] सो वी ऑल नो दैट एजेंट्स एक्ट दे ऑलवेज [12:08] एक्ट थ्रू टूल्स। एंटरप्राइजेस अह दे कॉल [12:12] आई मीन ऑलमोस्ट लाइक द एमसीपी सर्वर [12:14] एवरीबडी प्रॉबब्ली वुड हैव हर्ड व्हाट एन [12:16] एमसीपी सर्वर इज़ इट्स ऑलमोस्ट लाइक अ [12:17] कनेक्टिव टिशू राइट? अह इट्स हाउ योर [12:20] एजेंट टॉक्स टू एंटरप्राइज़ टूल्स एंड एंड [12:23] योर प्राइवेट डेटा। इट द गेटवे रैली सीट्स [12:25] इन द मिडिल ऑफ एववरी वन ऑफ दोज़ कॉल्स। एंड [12:28] इट इनफोर्सेज़ टूल लेवल फ़िल्टरिंग। सो, [12:30] व्हाट इज़ टूल लेवल फ़िल्टरिंग? अगेन वी नो [12:33] दैट ऑल एजेंट्स डोंट रिक्वायर द सेम लेवल [12:35] ऑफ एक्सेस टू एव्री सिंगल टूल। राइट? सो द [12:38] गेटवे रियली लुक्स इनसाइड द एमसीपी [12:41] ट्रैफिक एंड द पॉलिसी ऑपरेटस एट द टूल [12:44] लेवल नॉट एट द कनेक्शन लेवल। सो व्हाट इट [12:47] मीन्स इज़, इफ देयर इज़ एन एजेंट दैट यू हैव [12:49] रिटन लाइक अ कोडिंग एजेंट। व्हिच नीड़ [12:52] एक्सेस टू योर GH रिपॉज़िटरी। इट शुड [12:54] डेफिनेटली बी एबल टू एक्सेस GH फॉर यू नो [12:57] लुकिंग ऐट इशूज़। अह चेकिंग इन योर कोड। बट [13:00] इन एनी सरकमसेंस इट शुड नॉट बी अलाउड टू [13:04] डिलीट योर एंटायर गीत हब रिपोजिटरी। सो [13:06] दैट इज द लेवल ऑफ ग्रनुलर एक्सेस कंट्रोल [13:09] दैट वी हैव टू मैनेज नॉट ओनली फॉर ह्यूमंस [13:11] एनीमोर। बट आल्सो फॉर योर एजेंट्स हु आर [13:14] टेकिंग दीज़ एक्शंस एंड कॉलिंग द टूल्स एंड [13:16] एक्सेस इन योर प्राइवेट डेटा। [13:18] अह आई ऑलरेडी टॉकड अबाउट ग्रनुलर एक्सेस [13:21] कंट्रोल। द सेकंड इज़ ऑडिट ट्रेस, राइट? ऑफ [13:24] कोर्स अह इट्स इट्स वेरी इंपॉर्टेंट विद [13:26] ऑडिट ट्रिल इन प्लेस एव्री सिंगल कॉल [13:29] एव्री टूल एव्री एजेंट इज़ रिकॉर्डेड एंड [13:33] एक्सपोर्टेड इंटू एन ऑब्ज़वेबिलिटी [13:35] डैशबोर्ड ऑर अ ट्रैक दैट रन्स ऑन योर [13:37] इंफ्रास्ट्रक्चर ऑलरेडी। राइट? एंड दिस इज़ [13:40] द देयर इज़ एन इंटरेस्टिंग काइंड ऑफ़ एंगल [13:43] इमर्जिंग व्हेन वी टॉक अबाउट ऑडिट ट्रेस [13:46] दीज़ डेज़। इट्स नॉट लाइक द स्टैंडर्ड ऑडिट [13:49] ट्रेल्स इन द पास्ट दैट वी टॉकड अबाउट हु [13:52] इज़ टचिंग व्हाट डेटा। हु इज़ गॉट व्हाट [13:54] एक्सेस। देयर इज़ आल्सो सम लेवल ऑफ ऑडिट [13:57] ट्रेल रिक्वायर्ड फॉर डिसिशन इंटेग्रिटी। [14:00] राइट, व्हाई वाज़ अ डिसिशन टेकन बाई एन [14:03] एजेंट एंड हाउ एंड व्हेन। सो, दैट्स द [14:06] लेवल ऑफ़ ऑडिट ट्रेल अह थिंकिंग दैट वी नीड [14:09] टू ब्रिंग इंटू प्लेस इन इन ऐडिशन टु जस्ट [14:11] यूज़र आरबैक एंड सो ऑन। [14:15] एंड देन आई मीन इफ यू इफ यू थिंक अबाउट [14:19] बोथ इफ यू पुट इट ऑल टुगेदर द टू लेवल [14:21] फिल्टरिंग द ऑर्डर ट्रेस द गैनलर एक्सेस [14:24] कंट्रोल व्हाट इट रियली डज़ इट इट हेल्प [14:27] डिसॉल्व्स योर ए शैडो एआई स्ट्रक्चरली एंड [14:30] कंसिस्टेंटली बिकॉज़ एववरीथिंग इज़ पॉलिसी [14:33] ड्रिवन। इट्स नॉट डिपेंडेंट ऑन हाउ वन [14:35] पर्सन इज़ गिवेन व्हाट एक्सेस बट इट इज़ अ [14:38] फ्रेमवर्क दैट इज कंसिस्टेंटली डिलीिवर्ड [14:40] अक्रॉस योर एजेंटिक एआई एंटरप्राइज। [14:45] ऑलराइट। सो नो मोर प्रोडक्ट टॉक राइट। सो [14:49] दिस इज़ जस्ट अह अ लिटल बिट ऑफ़ [14:51] इंट्रोस्पेक्शन वी ऑल नीड टू डू। सो एज़ यू [14:54] थिंक थ्रू योर एआई स्ट्रेटेटजी एंड द [14:57] इंफ्रास्ट्रक्चर फाउंडेशन [14:59] टू सपोर्ट इट। देयर आर थ्री क्वेशंस आई [15:02] वांट यू टू लीव विद। राइट? सो वन इज़ ऑफ़ [15:05] कोर्स पेइंग अह पर टोकन फॉर एव्रीथिंग दैट [15:08] यू डू। राइट? [15:09] [नाक से की जाने वाली आवाज़] [15:10] एज आई ऑलरेडी सेड दैट पेइंग फ्रंटियर [15:12] प्राइसेस फॉर वर्क दैट डजंट नीड अ [15:14] फ्रंटियर मॉडल डस नॉट मेक सेंस एंड वी ऑल [15:17] नो दैट द मॉडल यूनिवर्स इज़ एक्सपेंडिंग [15:20] समटाइम्स अ स्मॉलर अ नैरोअर अ मोर निश नॉट [15:24] नेसेसरली अ चीपर मॉडल इज़ इज़ द राइट सेट [15:27] राइट? सो, अह द क्वेश्चन इज़ नॉट शुड आई बी [15:31] पेइंग पर अह टोकन एव्री सिंगल टाइम? द [15:34] राइट क्वेश्चन इज़ डू आई हैव समवेयर टू पुट [15:37] द वर्क दैट शुड बी पेइंग पर टोकन एट आल? [15:41] सो स्टार्ट थिंकिंग अबाउट फिक्स्ड प्राइस [15:43] प्राइस इन्फ्लुएंसिंग ऑन एन [15:45] इंफ्रास्ट्रक्चर दैट यू ऑलरेडी ओन। राइट? [15:47] सो, दिस इज़ नॉट अबाउट कॉलिंग पब्लिक [15:49] मॉडल्स। इट्स सेल्फ होस्टेड, प्राइवेट, [15:51] एववरीथिंग व्हिच इज़ डिफाइंड विथ इन द कंफ [15:54] ऑफ़ योर बाउंड्री। अह, एंड सम्हेयर आय हर्ड [15:57] मे बी मे और मे नॉट बी इट अप्लाइज टू यू [15:59] इज़ अ गुड ऑल ओल्ड इफ एंड देन अह यू नो लूप [16:03] और स्ट्रक्चर वर्क्स फॉर मोस्ट ऑफ़ द [16:05] थिंग्स दैट वी डू टुडे इट डज़ंट हैव टू बी [16:06] अ फ्रंटल मॉडल। [16:08] द सेकंड वन इज़ हाउ डू यू इज़ योर एआई [16:12] स्ट्रेटेजी फ्लेक्सिबल राइट? हाउ आर यू [16:14] प्लानिंग फॉर इट। सो वी टॉकड अबाउट अह लेट [16:17] से टक अबाउट आउटेजेस। वी ऑल नो अ क्लाउड [16:19] फेयर आउटेज पैक इन नवेंबर 2025 ब्रॉट डाउन [16:22] चैट जीपीटी ग्लोबली फॉर फाइव आवर्स ओर सो [16:25] राइट एंड इफ दैट इज़ द मॉडल दैट यू [16:27] स्टैंडर्डाइज्ड ऑन फॉर एग्जांपल राइट [16:29] एव्रीथिंग कम्स टु अ स्टैंड स्टिल। अह [16:32] अल्सो अह अड्डाप्टिंग टू रेगुलेशन्स। सो [16:36] मे बी अ चीपर पावरफुल मॉडल दैट यू आर [16:38] यूज़िंग टुडे। अह कैन बी कंप्लीटली ऑफ़ द [16:42] रेडार टुमॉरो। नॉट बिकॉज़ ऑफ़ अ डिसिशन यू [16:45] हैव टेकन बट मे बी योर गवर्नमेंट्स [16:47] डिसिशन। राइट? एंड देन हाउ आर यू थिंकिंग [16:49] अबाउट प्रोग्रेसिंग योर एआई इनिशिएटिव्स [16:51] विद जीपीयू सप्लाई कंस्ट्रेंट्स राइट एंड [16:54] द फाइनल वन इज़ रीप्राइसिंग। अ लॉट ऑफ़ [16:56] कस्टमर्स टेल अस दैट अ प्राइसिंग चेंज अह [16:59] यू नो वाज़ अ वेक अप कॉल बिकॉज़ दे डिडन्ट [17:01] नो व्हाट टू डू ओवरनाइट द फ्रंटियर मॉडल्स [17:03] ऑर व्हाटएवर मॉडल दे वर यूज़ चेंज द [17:05] प्राइसिंग स्ट्रेटजी राइट। एंड इफ अ [17:08] प्राइसिंग चेंज एक्चुअली शुड सिंपली बी अ [17:11] राउटिंग पॉलिसी चेंज एंड नॉट अ [17:13] रीआर्किटेक्चर प्रॉब्लम। [17:16] सो इफ एन ऑनेस्ट आंसर टू ऑल दिस क्र [17:18] क्वेश्चंस ऑल द थ्री क्वेश्चन फॉर यू [17:20] डिपेंडस ऑन वन सिंगल वेंडर रोड मैप यू आर [17:23] नॉट जस्ट आउटसोर्सिंग योर एआई इंटेलिजेंस [17:28] यू आर एक्चुअली आउटसोर्सिंग योर एआई [17:30] स्ट्रैटजी कम्प्लीटली [17:33] एंड एज़ आय सेड द गेटवे अलोन कैन नॉट आंसर [17:36] दीज़ क्वेश्चन्स राइट बट अ गेटवे बैक्ड विद [17:39] एन इन्फ्लुएंसिंग प्लेटफार्म कैन राइट सो [17:42] दी स्ट्रेटजी इज़ नॉट पिक द बेस्ट मॉडल [17:44] इट्स टू ओन योर इंटेलिजेंस। कीप द [17:46] फ्लेक्सिबिलिटी टू मूव बिटवीन होस्टेड [17:48] प्रोवाइडर्स, ओपन मॉडल्स एंड प्राइवेट [17:51] इन्फ्लुएंस एज़ इकोनॉमिक्स एंड रेगुलेशंस [17:53] चेंज। अह सो दैट यू डोंट हैव टू बिल्ड [17:55] एप्लीकेशन्स एव्री सिंगल टाइम। वी हैव [17:58] ऑलरेडी टॉकड अबाउट, अह द एजेंट गेटवे, [18:01] व्हिच इज़ पार्ट ऑफ़ द न्यूटानिक्स [18:02] एंटरप्राइज एआई प्लेटफार्म। दी अदर थिंग [18:04] दैट यू सी इज़ द प्राइवेट इनफेंसिंग [18:06] प्लेटफार्म। दिस इज़ वैरी पावरफुल बिकॉज़। [18:09] दिस इज़ नॉट जस्ट अ स्टैंड अलोन गेटवे। इट [18:11] इज़ बैक बाय अ वैरी पावरफुल अह ऑलमोस्ट [18:15] प्रिडिक्टेबल फिक्स्ड प्राइस [18:17] इन्फ्लुएंसिंग अह प्लेटफार्म राइट एंड [18:19] व्हाट इट गिव्स यू इज़ प्रीवैलिडेटेड [18:20] मॉडल्स विद प्रिडिकटेबल इंफ्रेंस एज़ आय [18:22] सेड, अह, एंड मोस्ट इंपोर्टेंटली दीज़ आर [18:25] नॉट टू डिफरेंट प्रोडक्ट्स बोल्ट इट [18:27] टुगेदर। राइट? इट्स इट्स पार्ट ऑफ़ द [18:29] प्लेटफार्म विथ अ सेम रोल बेस्ड एक्सेस, [18:33] सेम कीज़, सेम पॉलिसीज़। सो टू योर डेवलपर्स [18:37] ओर योर प्लेटफार्म इंजीनियर्स स्विचिंग [18:39] बिटवीन देम इज प्रीटी मच इनविज़िबल नो मैटर [18:41] वेदर दे यू नो कॉल फ्रंटियर मॉडल्स ओर फॉल [18:44] बैक अ ऑनटू द प्राइवेट सेल्फ होस्टेड ओपन [18:46] मॉडल्स द एक्सपीरियंस इज़ द सेम द पॉलिसीस [18:49] दैट अप्लाई आर द सेम। एंड दिस इज़ हाउ [18:52] व्हाट आय कॉल इज़ यू अनलॉक टू टियर [18:54] इंटेलीजेंस। यू कैन स्टिल रेंट फ्रंटियर [18:56] कैपेबिलिटी अह फॉर 20% ऑफ़ द मोस्ट [18:59] कॉम्प्लेक्स टास्क दैट यू नीड। यू नो इट्स [19:01] इट्स वर्थ पेइंग फॉर इट। अह बट ओन द 80% [19:05] ऑफ द हाई वॉल्यूम एंड रिपीटेबल एट फिक्स्ड [19:08] प्राइस ऑन इंफ्रास्ट्रक्चर दैट यू यू [19:09] ऑलरेडी ओन। सो फाइनली द सीएफओ क्वेश्चन यू [19:12] नो अह व्हाट इज़ एआई कॉस्टिंग अस हैज़ हेज़ अ [19:15] रियल आंसर। [19:18] ऑलराइट। लेट मी ज़ूम ऑल द वे आउट एंड बिकॉज़ [19:21] दिस इज़ अ बिगर पिक्चर दिस इज़ सो मच बिगर [19:23] देन द प्रोडक्ट। राइट? सो वी ऑल नो दैट [19:26] एव्री मेजर प्लेटफार्म शिफ्टस इन दी सेम [19:29] वे। फॉर एग्जांपल, द विनर्स ऑफ़ द क्लाउड [19:31] एरा वर्न द कंपनीज़ विथ द बेस्ट [19:33] एप्लीकेशंस। दे वर द वंस विथ द बेस्ट [19:36] इकोनॉमिक्स एंड कंट्रोल्स अंडरनी दीज़ [19:38] एप्लीकेशंस। सो एजेंटिक एआई रियली फॉलोज़ द [19:42] सेम लॉ। द कंपनीज़ दैट्स गोना विन वोंट बी [19:45] द वन यूज़िंग द बेस्ट मॉडल्स, देयर विल बी [19:47] द वंस विथ द बेस्ट यूनिट इकोनॉमिक्स [19:50] अराउंड इंटेलिजेंस, एंड द कंट्रोल प्लेन [19:52] टू एनफोर्स देम। व्हिच लीव्स ईच वन ऑफ अस [19:55] एव्री कस्टमर एंटप्राइज विद वन [19:58] स्ट्रेटेजिक क्वेश्चन। [20:00] राइट? हु रियली गवर्नस योर एआई फ्रंट डोर [20:04] एंड वेदर यू वांट टू कंप्लीटली रेंट योर [20:07] एआई स्ट्रेटजी ओर यू वांट टू ओन इट राइट? [20:09] सो आई लीव यू विद दिस क्वेश्चन। हु [20:11] गवर्न्स योर फ्रंट डोर। इफ द आंसर इज़ [20:13] नोबडी प्लीज कम एंड फाइंड अस निटानिक्स [20:15] बूथ वी विल लव टू हैव दैट कॉन्वर्सेशन। [20:17] एंड इफ द आंसर इज़, यू नो हु दैट पर्सन इज़, [20:20] आई थिंक दैट विल स्टिल मेक फॉर अ ग्रेट [20:21] कन्वर्सेशन। सो वी होप टू सी यू एट द न्यू [20:24] टैलेंट्स बूथ। फॉर एनी क्वेश्चन जस्ट लेट [20:26] मी नो एंड थैंक यू फॉर जॉइनिंग।