硅谷101
大模型商业模式将在2024年迎来商业化落地验证的关键期,云服务商通过全栈AI架构与简约成本控制工具来抢夺市场主导权。
AI-assisted summary of 四万亿美元增量机会,亚马逊云科技全面押注企业级生成式AI:更开放、更全面和更“俭约” — original source. Check the original for full context.
Source published:
Detailed notes
## Background 本视频由“硅谷101”于2023年12月5日发布在Bilibili平台上。视频记录了作者实地探访在美国拉斯维加斯举办的2023亚马逊云科技 re:Invent 大会,旨在探讨亚马逊云科技(AWS)作为云计算领域的行业领导者,在生成式人工智能(AI)战局已然打响的背景下,如何全面押注企业级 2B 赛道。
## TL;DR 视频全面拆解了亚马逊云科技(AWS)在 2023 re:Invent 大会上展现的 AI 进攻路线图,其核心围绕“三层架构”展开:底层推出自研芯片 Trainium 2 并深化与英伟达的超级算力合作;中间层通过 Amazon Bedrock 构建包含 Anthropic Claude 2.1 在内的多元模型生态,并引入 RAG 技术解决大模型幻觉;最上层则重磅发布企业级 AI 助手 Amazon Q。此外,AWS 还展示了 Serverless 架构在 AI 赋能下的性价比飞跃,以及 CTO Werner Vogels 倡导的“简约架构师”法则与对 2024 年的四大技术预测,展现出 AWS 在 AI 商业化落地上的全面布局。
## Atmosphere & style 整部视频洋溢着科技前沿的兴奋感与理性务实的商业思考。从拉斯维加斯大会现场的宏大叙事,到英伟达黄仁勋、Anthropic 创始人等行业巨擘的亲临助阵,视频传递出一种“AI 变革正在发生”的紧迫感与宏大感。同时,通过对具体技术原理(如 RAG、Serverless 预测模型)的生动动画拆解和客户案例分享,将冰冷的技术转化为具象的商业价值,整体基调既高屋建瓴又脚踏实地,充满了对 2024 年 AI 商业化验证元年的期待。
## Key takeaways - [00:00](https://www.bilibili.com/video/BV1NN411j7Ud?t=0s) 亚马逊云科技 CEO Adam Selipsky 明确了 AI 服务的“三层架构”布局:基础架构层、基础模型服务层和应用层。 - [00:00](https://www.bilibili.com/video/BV1NN411j7Ud?t=0s) 在底层基础架构,AWS 发布了自研芯片 Amazon Trainium 2,并与英伟达达成深度战略合作,推出云 AI 超级计算机及 Project Ceiba。 - [03:15](https://www.bilibili.com/video/BV1NN411j7Ud?t=195s) AWS 向 Anthropic 投资 40 亿美元,其企业级模型 Claude 2.1 通过 Amazon Bedrock 开放,双方在芯片与模型层面实现双向奔赴。 - [03:15](https://www.bilibili.com/video/BV1NN411j7Ud?t=195s) AWS 强调企业不会只押注单一模型,因此 Bedrock 致力于构建包含自研、开源及第三方模型的多元开放生态。 - [05:20](https://www.bilibili.com/video/BV1NN411j7Ud?t=320s) 在应用层,AWS 推出企业级 AI 助手 Amazon Q,专为办公场景设计,并承诺企业数据绝不用于底层模型训练以保障安全。 - [07:45](https://www.bilibili.com/video/BV1NN411j7Ud?t=465s) 针对大模型“胡说八道”的幻觉痛点,AWS 采用检索增强生成(RAG)技术,通过 Amazon Bedrock 知识库提供准确的上下文响应。 - [12:55](https://www.bilibili.com/video/BV1NN411j7Ud?t=775s) AWS 践行 Serverless First 理念,通过机器学习预测模型赋能 Amazon Redshift Serverless,实现数据仓库 10 倍的性价比提升。 - [17:30](https://www.bilibili.com/video/BV1NN411j7Ud?t=1050s) 拳头游戏、F1 赛车技术公司及埃森哲等行业巨头,展示了利用 AWS 算力与 AI 工具进行数字化转型与效率提升的实际成果。 - [20:35](https://www.bilibili.com/video/BV1NN411j7Ud?t=1235s) Amazon.com CTO Werner Vogels 推出新书《简约云架构师》,提出七大黄金法则,呼吁在云成本管理上回归简约与理性。 - [20:35](https://www.bilibili.com/video/BV1NN411j7Ud?t=1235s) Werner Vogels 提醒“并非所有事都要用大语言模型完成”,并发布了 2024 年四大技术预测,指出 2024 年将是 AI 接受商业验证的关键一年。
## Detailed walkthrough ### [00:00](https://www.bilibili.com/video/BV1NN411j7Ud?t=0s) 亚马逊云科技的 AI 进攻路线图与三层架构布局
在 2023 年拉斯维加斯举办的亚马逊云科技(AWS)re:Invent 大会上,AI 毫无疑问成为了贯穿始终的核心主题。面对市场上如火如荼的 AI 战局,亚马逊云科技 CEO Adam Selipsky 在演讲中明确给出了其 AI 服务的整体布局基调——“三层架构”:最底层的“基础架构层”、中间的“基础模型服务层”,以及最上层的“应用层”。亚马逊正在这三层架构上全面展开进攻。
在最底层的**基础架构层**,亚马逊云科技首先发布了针对训练大语言模型和基础模型的自研芯片 **Amazon Trainium 2**。该芯片比前一代快 4 倍,适用于参数超过一万亿的神经网络模型。同时,亚马逊还推出了通用处理器 **Amazon Graviton 4**。英伟达(NVIDIA)创始人兼 CEO 黄仁勋也亲临现场,宣布与亚马逊云科技达成新的战略合作。黄仁勋在现场表示:“AWS 是全球首个认识到 GPU 加速计算重要性的云服务商。” 双方将合作推出全新的超级计算基础设施、软件及服务,包括首款结合英伟达 Grace Hopper 超级芯片与 Amazon UltraCluster 拓展功能的云 AI 超级计算机。此外,英伟达的 DGX Cloud 首次在 AWS 上提供 AI 训练即服务(AI Training as a Service),并计划通过 Project Ceiba 打造配置有 16,384 颗英伟达 GH200 超级芯片的全球最快 GPU 驱动 AI 超级计算机。
对于初创公司而言,在英伟达 GPU 芯片“一张难求”、部署算力耗资巨大且排队时间极长的背景下,AWS 提供的算力服务显得尤为关键。在创业公司媒体会上,3D 视频初创公司 Crykey AI 和图文生成公司 Leonardo.ai 均展示了它们在 AWS 上的全量部署。Crykey AI 的创始人表示,AWS 专门设立的“生成式 AI 加速器计划”对初创公司来说简直是“game changing(改变游戏规则)”的一步。
- **Amazon Trainium 2**:比前代快 4 倍,适用于超一万亿参数的神经网络模型。 - **Amazon Graviton 4**:新一代通用处理器。 - **Project Ceiba**:配置 16,384 颗英伟达 GH200 超级芯片的超级计算机。 - **合作案例**:Crykey AI 与 Leonardo.ai 均在 AWS 上部署,并受益于其生成式 AI 加速器计划。
---
[03:15](https://www.bilibili.com/video/BV1NN411j7Ud?t=195s) 中间层模型生态与 40 亿美元投资 Anthropic 的双向奔赴
在**中间层(基础模型服务层)**,亚马逊云科技同样动作频频。此前,亚马逊宣布向 AI 独角兽 Anthropic 投资高达 40 亿美元。在本次大会上,Anthropic 创始人兼 CEO Dario Amodei 亲自现身,宣布其企业级模型 **Claude 2.1** 将通过亚马逊云科技的全托管服务 **Amazon Bedrock** 以 API 形式对客户开放。
现场展示了多个行业巨头利用 Claude 模型的实际案例: 1. **LexusNexis(律商联讯)**:将 Claude 应用于法律文本起草、摘要和搜索。 2. **桥水基金(Bridgewater)**:尝试开发投资分析师助手,用于自动生成财务汇总图表和摘要。 3. **Lonely Planet(孤独星球)**:应用 Claude 后,其旅行建议的生成成本降低了 80%,且提供了高度准确的推荐。
这笔 40 亿美元的投资并非单向输送,Anthropic 也会反向帮助亚马逊云科技在 **Amazon Inferentia 2** 和 **Amazon Trainium 2** 芯片架构上进行深度优化。Adam Selipsky 强调了一个重要观点:未来企业在选择大模型时,不会只押注于某一家,而是会根据自身需求选择数个“各有优势、有大有小”的模型提供方。因此,AWS 正在构建一个强调安全、信赖与创新的多元模型生态。
- **Amazon Bedrock 平台集成的模型生态**: - AI21 Labs 的 **Jurassic-2** 模型 - 亚马逊自研的 **Amazon Titan** 模型 - Anthropic 的 **Claude** 模型 - Cohere 的 **Command** 文本生成模型及 **Embed** 文本理解模型 - Meta 的 **Llama 2** 开源模型 - Stability AI 的 **Stable Diffusion XL** 开源文生图模型
---
[05:20](https://www.bilibili.com/video/BV1NN411j7Ud?t=320s) 最上层应用:企业级 AI 助手 Amazon Q 的重磅发布
在最上层的**应用层**,亚马逊云科技推出了一个重量级更新——企业级生成式 AI 助手 **Amazon Q**。这款聊天机器人专门针对办公室和工作场景设计,能够根据客户的业务和数据进行个性化定制。
Amazon Q 可以根据不同部门和员工的权限进行个性化定制,帮助员工阅读和查看文件、测试与优化代码、一键生成汇报 PPT 或可视化图表。同时,Amazon Q 还被引入到了 AWS 的多种服务和应用程序中,包括云商业分析服务 **Amazon QuickSight**、云联络中心 **Amazon Connect** 以及供应链管理 **Amazon Supply Chain**,让企业在数据分析、客服培训和供应链追踪上更加智能高效。亚马逊云科技特别强调,**企业的数据绝不会用于 Amazon Q 的底层模型训练**,以此打消企业对数据安全的顾虑。
行业分析师指出,Amazon Q 的推出以及 SageMaker、Trainium 芯片的扩展,表明亚马逊正在 AI 领域进行极其庞大的资金与技术投入。虽然 AI 云服务的竞争刚刚开始一整年,未来胜负未分,但凭借其庞大的市场规模和领导地位,AWS 已经占据了极具优势的竞争身位。
---
[07:45](https://www.bilibili.com/video/BV1NN411j7Ud?t=465s) Swami 揭秘 AI 开放生态与解决大模型“胡说八道”的 RAG 技术
在大会的第三天,亚马逊云科技数据和人工智能副总裁 Swami Sivasubramanian 带来了关于数据与科学技术的演讲。他指出,未来的 AI 技术应当是更加开放的。要让企业简单、安全地拥抱 AI,需要从底层的安全私密环境、简单易用的搭建部署工具,到专门为机器学习构建的基础设施,提供一整套复杂且精细的生态服务。
在底层部署方面,AWS 提供了包括 GPU 芯片、Trainium 和 Inferentia 系列、全托管服务 **Amazon SageMaker**、超大规模集群 **Amazon UltraClusters**、微秒级同步的 **EFA 网络接口**、可按需调度的 **EC2 Capacity Blocks**、安全芯片 **Nitro** 以及开发工具包 **Neuron**。其中,新推出的 **SageMaker HyperPod** 备受瞩目,它通过为大规模分布式训练提供专门构建的基础设施,能将基础模型的训练时间有效减少高达 40%。
在中间工具层,**Amazon Bedrock** 配置了 AI 安全产品 **Guardrails**、能让应用程序自动便捷完成任务的 **Agents**,以及微调和持续预训练等定制化能力。针对目前大语言模型最主要的痛点——“信誓旦旦地胡说八道”(学术上称为 **Hallucination/幻觉现象**),AWS 采用了目前硅谷最前沿的应对方案:**检索增强生成(RAG, Retrieval-Augmented Generation)**。
- **RAG(检索增强生成)的工作原理**:这是一种混合模型方法,当用户提出问题时,系统会先从外部可靠的知识源(Knowledge Base,如企业数据库、文章、网站)中检索和提取高度准确的信息,再交由大模型生成回答。 - **Amazon Bedrock 知识库功能**:已全面转向 RAG 技术,为聊天机器人和问答系统提供更具针对性、更准确的上下文响应,从而大幅降低了大模型商用的壁垒。 - **Amazon Titan 图像生成器**:Swami 宣布了该产品的发布,并强调其生成的每一张图片都会自动包含**隐形水印**。这是亚马逊等七大美国 AI 公司为响应美国白宫对 AI 安全担忧而做出的自愿承诺,旨在有效应对 AI 资产带来的假新闻和版权争议。 - **客户案例**:全球最大旅游电商之一的 **Booking.com** 宣布将推出旅行计划 AI 助理,使酒店推荐和行程规划的定制化更加准确。
Swami 在演讲最后分享了一个生动的生态故事:在巴拿马雨林中,有一种能长到 40 米高的“病毒树”(Virola tree)。当它的果实成熟时,当地的脱歌巨嘴鸟会来啄食,掉落的果核会被刺鼠收集并埋入土中,最终生根发芽长成新的大树。Swami 认为,**数据、人工智能与人类的关系也应如此**:人类创造数据,研发出 AI 及其应用,而这些应用又利用数据为社会创造更高的效率,最终造福人类,形成长久的良性循环。
---
[12:55](https://www.bilibili.com/video/BV1NN411j7Ud?t=775s) Serverless First 的创新之路:用 AI 实现数据仓库 10 倍性价比提升
在第一天晚上的开场演讲中,亚马逊云科技高级副总裁 Peter DeSantis 用生动的动画向观众展示了 AWS 在 **Serverless First(无服务器优先)** 上的创新之路。Serverless 允许开发人员直接构建和运行应用,而无需繁琐地管理底层服务器。Peter 在演讲中重磅发布了三项 Serverless 创新:
1. **Amazon Aurora Limitless Database**:可自动扩展到每秒数百万次写入事务,管理 PB 级数据,同时保持像操作单个数据库一样的简便性。 2. **Amazon ElastiCache Serverless**:让创建高可用缓存服务变得更快、更轻松,并能立即扩展以满足应用需求。 3. **Amazon Redshift Serverless**:引入 AI 模型来预测工作负载并自动扩展与优化,提供高达 10 倍的性价比提升。
Peter 详细拆解了 AI 是如何赋能 **Amazon Redshift Serverless** 的。在过去,数据仓库的扩容就像“消消乐”游戏:每一个数据仓库是一个游戏空间,查询量(Query)是一个个泡泡。泡泡越大,查询越复杂、耗时越长。当负载增加、泡泡太多处理不完时,系统会进行“反应式扩展”——当容量超过一定阈值时,自动配置额外容量并新开一个“游戏空间”。然而,新设容量需要时间,这会对短期运行的查询产生效率拖累;且当一个海量数据的“大泡泡”突然进来时,由于整体容量未达阈值,系统不会自动扩容,导致整个数据仓库变慢。过去客户只能手动创建第二个数据仓库(即 ETL 任务)来专门处理海量数据,但这会导致成本高昂、管理复杂。
如今,AWS 通过构建基于历史数据训练的**机器学习预测模型**彻底解决了这一痛点: - 系统能够主动预测未来的查询负载并提前调整容量。 - 机器学习模型能分析每一个“泡泡”的特征和复杂性。研究发现,**80% 的查询(泡泡)都有历史记录可循**,这使得系统能极高置信度地进行预测。 - 当检测到运行查询容量很小时,系统会自动下调基本容量以节省费用;而当一个海量数据查询(大泡泡)还没开始运行、刚进入系统时,AI 就能瞬间分析并确定其运行需求,直接为其单开一个符合容量大小的数据仓库。 - 这种“主动预测”让每个查询都能以最大效率运行,既无等待,也无空间浪费,从而实现了 **10 倍的性价比提升**。
---
[17:30](https://www.bilibili.com/video/BV1NN411j7Ud?t=1050s) 客户故事:从《英雄联盟》实时胜率到 F1 赛车的数字化转型
在 re:Invent 大会期间,云计算不再是冰冷的技术名词,而是具象化地改变着人们的生活。许多知名企业分享了他们基于 AWS 的数字化转型故事:
- **Riot Games(拳头游戏)**:自 2018 年起开启全云战略,将《英雄联盟》等核心游戏进行现代化云迁移。在 2023 年《英雄联盟》全球总决赛(S13)直播中,Riot Games 引入了**电竞实时胜率预测**。该功能通过跟踪分析比赛过程中的关键数据点,为全球观众实时揭示美支战队在当前战局中的胜率表现。 - **VXC Technology(服务于法拉利车队等 F1 赛车的技术公司)**:赛车产业的快速发展如今高度依赖 AWS 的算力支持,并期待 AI 能在赛车模拟和数据分析上带来更多新突破。 - **埃森哲(Accenture)**:宣布将在工程建设中部署 **50,000 名研发人员使用 Amazon Q 和 Amazon CodeWhisperer**,以极大提升开发效率。同时,埃森哲通过采用 **SageMaker HyperPod** 以及 AWS EC2 P4de/P5 实例,使其大模型训练吞吐量直接提升了 **2 倍**,并成功对 Llama 2 和 Mistral 等开源模型进行了微调,构建出业界领先的 API 服务。
---
[20:35](https://www.bilibili.com/video/BV1NN411j7Ud?t=1235s) Werner Vogels 的“简约架构师”法则与 2024 年四大技术预测
Amazon.com 副总裁兼首席技术官 Werner Vogels 的演讲风格独树一帜,他身穿潮牌 SSSC(Social Social Street Club)的衬衫登台,宛如一场科技舞台剧。作为 CTO,Werner 并没有一味堆砌高深技术,而是将焦点放在了“成本、架构与社会责任”上。
他首先推出了一本新书——《**The Frugal Architect(简约云架构师)**》,并结合自己过去 20 年的经验,从设计、衡量、优化三个层面提出了**七大黄金法则**,呼吁大家在云成本管理上“是时候成为一名简约的架构师了”。
这一观点在当前全球经济放缓、企业紧缩开支的背景下显得尤为重要。根据咨询公司 Gartner 的预测,2024 年全球云终端用户支出将达到 **6,780 亿美元**,比 2023 年的 5,630 亿美元大幅增长。随着企业大举布局 AI,算力与云成本控制将成为未来企业竞争的核心差异。为此,AWS 推出了一系列帮助客户监控成本的工具: - **Amazon Application Manager**:让用户在管理控制台更轻松地监控应用程序的成本、运行状况和安全状况。 - **Amazon CloudWatch Application Signals**:自动检测应用程序,最大限度提高运行效率和成本效益。
Werner 对 AI 的发展也表达了冷静且深刻的看法。他提醒大家:“**并不是所有的事情都要使用大语言模型来完成。**” 世界上有许多已经成熟的、非大模型的 AI 技术同样能造福社会(AI for Good)。例如,菲律宾国际水稻研究所利用机器学习和计算机视觉技术,自动筛选最佳种子以优化水稻种植;Werner 本人也亲自参与了与医院的合作,利用 AI 模型评估患者的脑部扫描图像。
在演讲的最后,Werner 发布了他备受科技界关注的 **2024 年及未来四大技术预测**: 1. **大语言模型相互学习(LLMs learning from each other)**:新的大语言模型将开始互相学习,并更好地融入全球多元文化。 2. **女足与体育科技的爆发**:女性体育业务将因数据和新技术的注入迎来长期、瞩目的关注与增长。 3. **AI 编码助手(AI-Coding Assistants)的普及**:AI 编码助手将彻底改变软件工程,使开发速度和效率大幅提升,让工程师能专注于更具创造力的工作。 4. **教育模式的变革**:教育将随着技术和产业需求的升级,向着更合适、更具定制化的方向演进。
2023 年是生成式 AI 的爆发之年,而 2024 年将被视为这轮 AI 技术接受商业验证的关键一年。面对市场的“FOMO(害怕落后)”情绪与对大模型不确定性的谨慎态度,如果大模型的商业模式在 2024 年得到初步验证,云计算领域将迎来历史性的重大转型。对于行业领头羊亚马逊云科技而言,这既是巨大的挑战,更是前所未有的机遇。
## Notable quotes > [00:00](https://www.bilibili.com/video/BV1NN411j7Ud?t=0s) AWS 是全球首个认识到 GPU 加速计算重要性的云服务商。 — 黄仁勋
> [00:00](https://www.bilibili.com/video/BV1NN411j7Ud?t=0s) 生成式 AI 加速器计划对初创公司来说简直是 game changing(改变游戏规则)的一步。 — Crykey AI 创始人
> [03:15](https://www.bilibili.com/video/BV1NN411j7Ud?t=195s) 未来企业在选择大模型时,不会只押注于某一家,而是会根据自身需求选择数个“各有优势、有大有小”的模型提供方。 — Adam Selipsky
> [05:20](https://www.bilibili.com/video/BV1NN411j7Ud?t=320s) 企业的数据绝不会用于 Amazon Q 的底层模型训练。 — 亚马逊云科技官方
> [07:45](https://www.bilibili.com/video/BV1NN411j7Ud?t=465s) 数据、人工智能与人类的关系也应如此:人类创造数据,研发出 AI 及其应用,而这些应用又利用数据为社会创造更高的效率,最终造福人类。 — Swami Sivasubramanian
> [20:35](https://www.bilibili.com/video/BV1NN411j7Ud?t=1235s) 是时候成为一名简约的架构师了。 — Werner Vogels
> [20:35](https://www.bilibili.com/video/BV1NN411j7Ud?t=1235s) 并不是所有的事情都要使用大语言模型来完成。 — Werner Vogels
## Mentioned 亚马逊云科技, AWS, Adam Selipsky, Amazon Trainium 2, Amazon Graviton 4, 英伟达, 黄仁勋, Project Ceiba, Anthropic, Dario Amodei, Claude 2.1, Amazon Bedrock, Amazon Q, Swami Sivasubramanian, SageMaker HyperPod, RAG, Amazon Titan, Peter DeSantis, Serverless, Amazon Redshift Serverless, Riot Games, Werner Vogels, The Frugal Architect
[Source](https://www.bilibili.com/video/BV1NN411j7Ud)