硅谷101
大模型推理成本在两年内骤降约280倍,正推动生成式AI从概念噱头转化为工业引擎,并全面开启企业级智能体协作的爆发时代。
AI-assisted summary of 从“写诗”到“干实事”:“AI同事”是如何炼成的?【硅谷101】 — original source. Check the original for full context.
Source published:
Detailed notes
## Background 该内容由Bilibili频道“硅谷101”于2025年6月25日发布。视频聚焦于2025亚马逊云科技中国峰会现场,探讨生成式AI如何告别“噱头”标签,从“炫技玩具”蜕变为深耕新能源车研发、企业出海合规、数字员工等一线行业的“工业引擎”,并揭秘了驱动其落地爆发的技术、成本与工具三大核心动力。
## TL;DR 视频深入直击了AI在工业级应用中的真实突破,展示了新能源车企如何在云端虚拟工作台加速研发及UI设计,并利用多模态流式大模型赋能售后汽修。同时,具备独立系统权限和自主决策能力的“数字员工”正在财务审批、HR和销售助理等岗位大范围落地,帮助企业将耗时半年的出海数据合规梳理大幅缩短至一天。AI应用之所以呈现爆发之势,背后得益于前沿大模型技术成熟度的跃升、推理与自研芯片成本的骤降,以及亚马逊云科技所倡导的“三层AI架构”带来的工具普惠化。
## Atmosphere & style 整体基调专业、前沿且务实,交织着身临其境的现场感。主持人陈倩与子庆的现场走访与生动体验,将原本高深的科技概念转化为极具实感的现场探展叙事。在对话技术专家和拆解真实落地案例的过程中,视频褪去了科技圈常见的浮躁“画大饼”情绪,透露出一种见证生成式AI真正切入工业、全面重构传统行业时,笃定、振奋且充满信心的行业视角。观众能真切感受到步入AI Agent爆发前夜的紧迫感与智能体时代“电网时刻”降临的宏大工业质感。
## Key takeaways - [00:00](https://www.bilibili.com/video/BV1TpKHzzEDm?t=0s) 生成式AI正摆脱“写诗作画”的噱头,从炫技玩具进化为驱动真实生产力的工业引擎,并在2025年迎来应用落地的爆发期。 - [00:00](https://www.bilibili.com/video/BV1TpKHzzEDm?t=0s) 在新能源汽车研发中,通过云端服务器的虚拟工作台和CICD工具链嵌入AI,实现软件直接反推硬件的开发模式,大幅缩短了软件定义汽车时代的研发周期。 - [00:00](https://www.bilibili.com/video/BV1TpKHzzEDm?t=0s) 大模型的多模态流式输出与车云协同实时决策相结合,让初出茅庐的汽修学徒也能借助汽车专业知识库和实时传感器数据进行精准的故障排查与售后服务。 - [04:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=299s) 具备逻辑推理、自主决策和工具调用能力的“数字员工”(AI Agent)开始在销售、财务审批和人事处理等多场景落地,能为企业减少起码三分之二的重复性人工工作量。 - [04:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=299s) 2025年被视为Agentic AI的协作元年,拥有大脑、记忆、工具和人设四大要素的AI Agent正在推动软件开发、知识型工作和客户体验三大领域的全面转型。 - [09:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=599s) 面向出海企业的数据合规、法律政策梳理等高难度工作,在AI Privacy等工具和AI学习能力的加持下,能将原本需要半年的合规梳理工作极速压缩到1天内完成。 - [09:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=599s) 生成式AI大幅降低了技术门槛,零基础用户通过自然语言输入需求即可在几秒内构建出完整的网页架构,并能无缝对接Figma或导出代码供后续专业开发。 - [14:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=899s) 技术成熟度的飞跃是AI应用爆发的第一大推手,前沿大模型在MMLU、SWE-bench及高难度HLE测试中的表现已超人类平均水平,且开发范式已全面转向推理和AI Agent等实际场景。 - [14:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=899s) 成本经济性的巨大提升是AI规模化部署的核心,过去两年推理成本下降了约280倍,这主要得益于算力服务商自研芯片(如Trainium 2/3)浪潮以及算法效率(如MoE、MLA)的深度优化。 - [14:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=899s) 工具普惠化通过“三层AI架构”(算力层、工具层、应用层)为开发者提供了灵活选择,降低了企业重复造轮子的门槛,推动了生成式AI“电网时刻”的到来。
## Detailed walkthrough 以下是根据您提供的视频转录文本整理的详细、忠实的走访与观察实录:
[00:00](https://www.bilibili.com/video/BV1TpKHzzEDm?t=0s) 现场探展:生成式AI如何渗透新能源车研发与售后
生成式AI正从被调侃的“写诗作画”噱头,悄然蜕变为驱动真实生产力的工业引擎。在2025亚马逊云科技中国峰会现场,硅谷101主持人陈倩与现场出镜主持子庆带观众一起体验了这场“最AI”的线下大会。在上海世博中心庞大的展馆中,观众甚至可以通过亚马逊云科技小程序内置的AI聊天机器人,快速规划路线、整理展台并自动生成日程表。
在新能源汽车展区,生成式AI正在解决软件定义汽车时代的研发痛点。过去,车载系统的研发周期漫长,必须先基于各种不同的车规级控制器搭建硬件,才能开始开发软件。如今,座舱系统的开发可以直接在云端服务器的虚拟工作台上进行。技术人员介绍,通过将Amazon Q等工具嵌入到车载信息娱乐系统的CICD(持续集成与持续部署)工具链中,开发人员可以用自然语言发布指令,加速工件流程并反推到硬件上,从而大幅缩短开发周期。这种虚拟环境让每个开发人员都拥有独立的云端资源,无需人人分摊昂贵的物理硬件。
此外,生成式AI还能加速系统UI的设计。用户只需通过自然语言表达想要切换的风格,系统就会在车机中自动适配对应的UI设置界面。该系统采用非各方的设计语言,嵌入了丰富的设计元素,用户无需编辑任何代码即可直接套用套件进行设计,设计完成后还能直接生成代码嵌入系统。
在售后与客服环节,生成式AI也降低了技术门槛。一个刚入行一两年的汽修学徒,在遇到不会修的转向和悬挂系统故障时,可以询问嵌入了汽车专业知识库和知识图谱的大模型。
- **多模态流式输出**:大模型不仅能以流式(streaming)输出文本,还能配合直观的图像和步骤说明,为技师或客服提供操作性极强的生动建议。 - **车云协同与实时决策**:通过MQTT等物联网中间件,车端产生的各类传感器数据可以与云端进行实时流转与协同。供应商根据采集和分析的数据,能够实时做出决策,为用户提供精准的软件更新和售后服务。该系统同样适用于智能制造、智慧楼宇、零售支付、机器人、无人机及船舶等物联网领域。
---
[04:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=299s) 数字员工(Digital Labor)的崛起与多场景落地
在峰会现场,另一个备受瞩目的焦点是“数字员工”(Digital Labor)。这一概念利用人工智能和自动化技术来执行传统上由人类完成的任务,从而扩展人类的能力和效率。在现场,诸如飞洛(Phyllo)和Software One等公司展示了已经落地应用的数字员工实例。
飞洛的数字员工本质上是一个个具备逻辑推理、自主决策和工具调用能力的AI Agent。它们拥有自己的电脑、邮箱、微信号等员工权限,并具备MCP(Model Context Protocol)工具中的各种技能,能像真人一样在微信、钉钉、企业微信或CRM系统中进行沟通。以销售助理为例,它能自动跟进商机、统计签约率、整理应收账款,并对接主流大语言模型进行数据分析。
Software One则展示了数字员工在财务审批和人事处理(HR)方面的应用。在财务场景中,系统基于OCR技术提取发票信息,结合大语言模型设定的财务政策基线,自动判定发票是否合规,给出审计结果并自动走特殊审批流程。在HR场景中,系统通过自然语言接入,从IDP(智能文档处理)系统中提取用户的部门和个人属性,判定其适用的公司政策(如请假、加班规范等),并调用相应的RAG(检索增强生成)知识库进行精准回应。
- **飞洛数字员工应用岗位**:翻译、分析员、信息安全、IT运维、部门助理、SOC安全运营、MSP实施运维工程师、财务助理、销售助理等。 - **本地化部署(On-premise)**:由于跨境合规等要求,目前飞洛的数字员工多采用本地化部署。据估算,在处理大量重复性、操作性的任务时,数字员工起码能帮客户减少三分之二的人工工作量。 - **Agentic AI 协作元年**:亚马逊云科技大中华区总裁楚瑞松指出,我们正处于Agentic AI爆发的前夜。2025年将开启协作元年,具备“大脑、记忆、工具和人设”四大要素的AI Agent,将推动企业在软件开发、知识型工作和客户体验三大领域实现转型。
---
[09:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=599s) 出海合规提效与自然语言无代码网页构建
对于出海企业而言,应对海外不同国家的数据合规、法律政策、数据本地化及跨境访问审查,往往需要耗费巨大的人力物力。在峰会现场展出的“AI Privacy”等应用,展示了AI如何将原本需要半年的合规梳理工作压缩到10天甚至1天内完成。
该平台利用AI能力快速定位和识别用户的数据流向,并结合全球各国的法律法规及判例进行综合学习,检测出企业目前存在的数据合规问题。在后期,当客户需要应对供应商的尽职调查时,AI Vision等工具能帮助用户快速梳理内部的权限管控和数据流地图。过去人工梳理1000多张业务表格可能需要半年时间,而通过AI工具的学习和梳理,仅需一天时间就能理清100多张核心表格,快速满足合规要求。
在设计与开发展区,一款名为“Ready”的应用展示了自然语言构建网页的惊人速度。即便是没有任何编程和设计背景的零基础用户,只需输入一句简单的需求(例如“我要卖一张演唱会门票”),系统在短短几秒钟内就能生成完整的页面架构,包括顶部布局、导航栏及各个功能区域。
- **双方案提供与无缝对接**:系统会同时提供Plan A和Plan B两个设计方案供用户选择。用户可以通过自然语言继续对话修改,也可以将生成的设计导入Figma,或直接导出代码(Code)交由专业工程师进行后续开发。
---
[14:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=899s) AI应用爆发背后的三大推手:技术、成本与工具普惠
针对“AI如何快速落地”这一问题,亚马逊云科技总结了生成式AI落地的十大类别场景:翻译、运营、内容写作、角色扮演、教辅、办公、知识助手、客服、开发和审核。硅谷101总结认为,AI应用得以快速落地并走向爆发,主要得益于三个方面:技术成熟度、成本经济性以及工具普惠化。
在**技术成熟度**方面,过去一年中,前沿大模型在多项权威基准测试中的表现已超过人类平均水平。例如,评估通用知识的MMLU、考察研究生水平专业科学知识的GPQA、衡量软件工程能力的SWE-bench,以及超高难度的“人类最后考试”HLE(其通过率在短短5个月内从不足10%提升到了20%)。此外,开发范式也发生了转变:强化学习与思维链(CoT)模拟了人类的“慢思考”;MCP协议解决了长对话多轮交互中的上下文限制问题;Amazon Bedrock的自动推理检查(Automated Reasoning Checks)功能则通过数学原理和逻辑算法验证模型生成的信息,显著降低了幻觉率。大模型公司的关注点也从单纯“卷参数”转向了编程、推理和AI Agent等实际应用场景。
在**成本经济性**方面,斯坦福大学2025年人工智能报告指出,过去两年推理成本下降了约280倍,这让AI Agent的规模化部署成为可能。成本下降主要归功于芯片性能的提升和算法效率的优化。
- **自研芯片浪潮**:除了与英伟达合作提供全系列算力外,亚马逊云科技还推出了自研的Trainium 2和Trainium 3芯片用于模型训练。此外,其自研的第四代Graviton CPU采用ARM架构,功耗极低,大幅降低了数据中心的电费和运营成本,从而将省下的成本让利给客户。 - **算法效率优化**:混合专家结构(MoE)、多头潜在注意力机制(MLA)、智能提示路由及模型蒸馏等技术,进一步降低了算力消耗。
在**工具普惠化**方面,亚马逊云科技倡导的“三层AI架构”为开发者提供了灵活选择: 1. **底层(算力层)**:提供强大的算力服务。通过Flexible训练计划,将算力利用率提升了90%,任务执行成本最高降低了40%。 2. **中层(工具层)**:Amazon Bedrock提供统一的API,企业可快速调用DeepSeek、Anthropic、Meta等主流基础模型,避免重复造轮子。 3. **顶层(应用层)**:Amazon Q Developers允许开发人员通过自然语言交互来构建应用。例如,Provident Bank在软件开发生命周期中引入Amazon Q后,技术采用率达到了30%,开发速度显著提升。
在实际应用案例中,安克创新(Anker)利用AI提升运营效率,营销领域20%以上的广告已实现AI全托管;复星医药利用生成式AI将临床试验报告的一致性检查效率提升了70%;TCL则利用AI盘活存量电视内容并推动全球化发展。正如峰会所强调的,当技术、成本和工具的飞轮持续加速,生成式AI的“电网时刻”已经到来,属于智能体的时代已正式按下启动键。
## Notable quotes > [04:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=299s) 我们正处于Agentic AI爆发的前夜。2025年将开启协作元年,具备“大脑、记忆、工具和人设”四大要素的AI Agent,将推动企业在软件开发、知识型工作和客户体验三大领域实现转型。 — 楚瑞松
> [04:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=299s) 在处理大量重复性、操作性的任务时,数字员工起码能帮客户减少三分之二的人工工作量。
> [09:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=599s) 过去人工梳理1000多张业务表格可能需要半年时间,而通过AI工具的学习和梳理,仅需一天时间就能理清100多张核心表格,快速满足合规要求。
> [14:59](https://www.bilibili.com/video/BV1TpKHzzEDm?t=899s) 当技术、成本和工具的飞轮持续加速,生成式AI的“电网时刻”已经到来,属于智能体的时代已正式按下启动键。
## Mentioned 硅谷101, 陈倩, 子庆, 2025亚马逊云科技中国峰会, 上海世博中心, 亚马逊云科技, Amazon Q, 飞洛, Software One, 楚瑞松, AI Privacy, AI Vision, Ready, Figma, Amazon Bedrock, 斯坦福大学, Trainium 2, Trainium 3, Graviton 4, DeepSeek, Anthropic, Meta, Amazon Q Developers, Provident Bank, 安克创新, 复星医药, TCL
[Source](https://www.bilibili.com/video/BV1TpKHzzEDm)