硅谷101
生成式AI在底层生态确立后正加速向各行业沉淀,2024年行业将迎来去泡沫化,缺乏核心技术、单纯依赖底层模型接口的单点突破式初创项目将大量死亡。
AI-assisted summary of 生成式AI这一年:从群雄混战到生态确立,世界已被改变 — original source. Check the original for full context.
Source published:
Detailed notes
## Background 该视频由“硅谷101”于2024年1月4日发布在Bilibili平台。根据页面简介,视频回顾了过去一年硅谷科技巨头和独角兽在生成式人工智能领域的爆发式发展与生态确立,并与资深从业者共同探讨大模型对世界的改变及2024年的进化趋势。
## TL;DR 2023年是生成式AI的爆发元年,行业经历了OpenAI从频繁更新到高层“宫斗”的戏剧性转变,以及神秘Q*项目引发的超级智能猜想。面对OpenAI的步步紧逼,微软通过Copilot全面深度绑定,谷歌则拉响“红色警报”并密集发布Gemini等多模态和医疗大模型。与此同时,以Meta和Mistral AI为代表的开源力量迅速崛起,英伟达凭借算力垄断地位成为最大赢家,倒逼各大云厂商展开自研芯片的军备竞赛。最终,应用层创业者在底层大模型的快速迭代中经历残酷洗牌,推动整个行业在2024年走向去泡沫化与理性回归。
## Atmosphere & style 整个视频呈现出一种紧迫、宏大且充满戏剧张力的叙事氛围。它就像一部科技版的“权力的游戏”,将巨头之间的针锋相对、董事会内斗的惊心动魄,以及百亿资本狂飙的节奏感渲染得淋漓尽致。在充满极客色彩的技术探讨中,交织着对数据瓶颈、芯片垄断等现实困境的冷静剖析,既有科技狂欢带来的兴奋与震撼,也有创业者被降维打击后的残酷与反思,整体给人一种见证历史转折点的深刻代入感。
## Key takeaways - [00:00](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=0s) 2023年是生成式AI爆发的元年,AI生态初步建立,行业普遍预测2024年技术红利将加速向下游移动,彻底改变世界。 - [00:00](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=0s) OpenAI在2023年通过推出ChatGPT Plus插件、iOS应用、代码解释器、多模态能力以及自定义GPTs,不断刷新行业技术标准。 - [00:00](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=0s) OpenAI内部上演的Sam Altman罢免与回归风波,赤裸裸地暴露出公司内部在商业化、安全与技术路线上的深度分裂。 - [08:19](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=499s) 外界推测OpenAI神秘的Q*项目与强化学习中的Q-Learning技术相关,可能通过“自我对弈”生成内容进行自我强化,以解决大模型的数据瓶颈问题。 - [09:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=599s) 微软通过巨额投资和深度将GPT注入自家生态,成为OpenAI背后的最大赢家,但双方在客户争夺和第三方合作上也呈现出微妙的“亦敌亦友”关系。 - [09:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=599s) 谷歌在OpenAI和微软的步步紧逼下,通过紧急发布Bard、推出PaLM 2和重磅发布多模态大模型Gemini,开启了疯狂的“红色警报”内卷之路。 - [24:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1499s) 谷歌虽然在Gemini演示视频中遭遇“夸大宣传”和非实时交互的争议,但仍密集发布了Imagine 2、Video Poet、Med-LM等一系列多模态和垂直领域大模型。 - [33:19](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1999s) 以Meta发布Llama和Llama 2为代表的开源力量正在强势崛起,成为科技界抗衡闭源垄断的重要力量。 - [33:19](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1999s) 欧洲开源新星Mistral AI通过发布“小参数、高性能”的Mistral 7B模型在硅谷初创圈引发热潮,在极短时间内实现了估值的疯狂飙升。 - [41:39](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=2499s) 英伟达凭借H100和H200 GPU在算力生态上的绝对垄断,成为AI浪潮下的最大赢家,股价与财报净利润实现爆发式增长。 - [41:39](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=2499s) 为了摆脱对英伟达的绝对依赖,微软、谷歌、亚马逊、特斯拉等科技巨头以及芯片厂商AMD、高通等,纷纷开启了自研芯片或替代方案的“军备竞赛”。 - [49:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=2999s) 应用层创业者在过去一年经历残酷洗牌,许多试图解决大模型早期痛点的初创公司,在底层大模型极快的迭代速度和多模态能力面前瞬间失去了竞争空间。 - [49:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=2999s) 展望2024年,行业将迎来“去泡沫化”,纯炒作概念的公司将大量死亡,AI技术将真正沉淀到垂直赛道和基础设施中,迈向追求真实用户和切实的利润的理性阶段。
## Detailed walkthrough ### [00:00](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=0s) 狂飙的 AI 生态与 OpenAI 的“宫斗”风波
2023 年是生成式 AI 爆发的元年。随着各大资本和科技巨头的入场,AI 技术以令人瞠目结舌的速度狂飙突进。从底层的算力基础设施、机器学习操作平台,再到消费端的应用,生成式 AI 的生态已初步建立。行业普遍预测,2024 年随着 AI 训练的进一步稳定,技术红利将加速向下游移动,彻底改变人类的生活与整个世界。回顾 ChatGPT 发布这一年,它真正降低了门槛,让“所有人都可以用上 AI、贴近 AI”,这在科技史上是划时代的事件。
在这关键的一年中,OpenAI 频繁祭出大动作,不断刷新行业标准: - **2023年3月23日**:ChatGPT Plus 用户获得第三方插件和联网浏览模式的访问权限。 - **2023年5月18日**:OpenAI 正式推出 ChatGPT 的 iOS 移动端应用程序。 - **2023年7月10日**:向所有 Plus 订阅者开放专有的代码解释器(Code Interpreter)插件。 - **2023年9月25日**:宣布 ChatGPT 具备“看、听、说”的多模态能力,用户可上传图像,移动端用户可与机器人语音对话。 - **2023年10月19日**:最新的 DALL-E 3 图像生成模型被集成至 ChatGPT Plus 和企业版中,用户可通过对话引导系统编写绘图提示词。 - **2023年11月6日**:首届开发者大会召开,推出自定义 GPTs,并预告了 GPT Store。
然而,就在 ChatGPT 迎来一周年之际,OpenAI 内部却上演了一场戏剧性的“宫斗”大戏。2023 年 11 月 17 日,CEO Sam Altman 突然被董事会罢免;仅仅几天后的 11 月 21 日,他又在多方博弈下重返公司,恢复了 CEO 头衔。这场连续反转的罢免风波,将 OpenAI 内部关于商业化与安全、技术路线的分裂赤裸裸地呈现在世人面前,也让外界对 AI 的未来充满了疑问与担忧。
[04:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=299s) 神秘的 Q* 项目与“自我对弈”的猜想
在 Sam Altman 被罢免前夕,路透社爆料称,OpenAI 的研究人员曾向董事会致信,警告他们发现了一种可能对人类构成威胁的重大人工智能技术,其代号为 “Q*”(Q-Star)。一些内部人士认为,Q* 可能是通往超级智能或人工通用智能(AGI)的重大突破。结合 Sam Altman 此前在 APEC 峰会上关于“见证科技边界再次推开”的言论,外界一时间阴谋论四起,纷纷猜测 AGI 是否已在 OpenAI 内部实现。对此,资深 AI 科学家 Jim Fan 在 LinkedIn 上调侃道:“我从未见过一个让这么多人幻想的算法,只是一个名字,没有论文、没有统计数据、没有产品,就足以开始逆向工程。”
经过与硅谷多位资深 AI 科学家的交流,比较靠谱的推测是,Q* 并非外界传闻的那么神乎其神,它很可能与强化学习中的 “Q-Learning” 技术相关。以 AlphaGo 为例,它最初通过学习人类棋谱与人类高手对弈,水平虽高但仍有来回;然而人类棋谱是有限的,为了实现跨越式突破,Google 推出了 AlphaGo Zero,通过“自己和自己下棋”的自我对弈(Self-Play),在三天内以 100 比 0 的战绩横扫了旧版。
- **数据瓶颈的解决方案**:GPT-3 几乎吞下了整个互联网的人类内容,当人类写的内容被“吃光”后,AI 如何继续进化?Q* 也许代表着大模型通过学习自己生成的内容,进行自我强化与迭代。 - **估值狂飙**:尽管 OpenAI 对 Q* 保持沉默,但其吸金能力不减。2023 年圣诞节前夕,有消息称 OpenAI 正在以 1000 亿美元的估值进行新一轮融资谈判,若能达成,它将成为仅次于 SpaceX 的美国第二大初创独角兽。
[09:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=599s) 微软的“一敌一友”与谷歌的“红色警报”
作为 OpenAI 背后最大的赢家,微软在 ChatGPT 爆火后动作极快。除了追加 100 亿美元投资、斩获 49% 的股份外,微软迅速将 GPT 注入自家生态。2023 年 2 月 7 日推出集成 GPT 的新版 Bing(Bing Chat);3 月 16 日发布 Microsoft 365 Copilot,将 GPT-4 植入 Word、Excel、PPT 等办公全家桶。在 11 月的 Ignite 大会上,微软 CEO 纳德拉宣布“现在是 Copilot 时代”,并将 Bing Chat 更名为 Copilot,推出 Copilot Studio 允许用户自定义工作流。
然而,微软与 OpenAI 的关系正变得微妙。在 Altman 罢免风波期间,微软迅速安抚客户,将大量原本调用 OpenAI 接口的大客户转移到自家的 Azure 云平台上,以规避 OpenAI 的内部治理风险。当时,不少初创企业为了稳定,直接转向了微软 Azure,或者投奔了股权架构更简单的竞争对手 Anthropic。同时,OpenAI 与微软的对手 Salesforce 建立合作,而微软也为 Meta 的开源大模型 Llama 2 站台,双方这种“亦敌亦友”的深度绑定关系充满变数。
另一方面,被逼入墙角的谷歌拉响了“红色警报”,在 2023 年开启了疯狂的“内卷”之路: - **2023年2月6日**:紧急发布聊天机器人 Bard,却在两天后的发布会演示视频中犯下常识性错误,导致谷歌市值一夜蒸发超千亿美元。 - **2023年3月10日**:推出拥有 5620 亿参数的视觉语言模型 PaLM-E。 - **2023年5月10日**:推出 3400 亿参数的 PaLM 2,全面接入 Gmail、Docs 等 25 个产品,并测试其在广告生成中的应用。 - **2023年12月6日**:重磅发布多模态大模型 Gemini(分为 Nano、Pro、Ultra 三个版本),宣称 Ultra 版本在多项指标上超越 GPT-4。
[14:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=899s) 谷歌的“拼凑”争议与多模态、医疗大模型的狂飙
谷歌在发布 Gemini 时放出了一段令人惊艳的演示视频,视频中 Gemini 能够流畅地识别手势、纸画并实时语音互动。然而,这段视频很快在业内引发了激烈讨论。有细心人士在同步发布的 60 页技术报告中发现,Gemini 的测试标注了 “CoT at 32”(思维链尝试 32 次),这意味着视频并非实时交互,而是挑选了 32 次尝试中最好的结果拼接而成的。谷歌随后也大方承认视频经过了后期处理和剪辑。尽管遭遇“夸大宣传”的质疑,谷歌内部已启动“埃尔曼计划”(Project Ellmann),旨在通过读取用户的照片、搜索历史和生活记忆,打造一个“比你更懂你”的鸟瞰式 AI 生活助手。
在 12 月的“狂飙”中,谷歌还密集发布了多款模型: - **Imagine 2**:由 Google DeepMind 开发的文生图增强模型,显著提升了图像质量,支持文本渲染和品牌 Logo 生成。 - **Video Poet**:视频生成模型,通过“根据前一秒预测下一秒”的巧妙方法,突破了其他应用只能生成 2 秒短视频的限制。 - **Med-LM**:基于 Med-PaLM 2 的医疗大模型。Med-PaLM 在 2022 年以 67% 的准确率通过美国执照考试,而 Med-PaLM 2 将准确率大幅提升至 86.5%,达到了专家医生水平。目前,该模型已被 HCA Healthcare 用于自动转录医患对话,并被 BenchSci 用于筛选临床数据。
谷歌一反常态地选择在往年极少发布新品的 12 月底“狂轰滥炸”,业内分析认为,这表明谷歌管理层对 OpenAI 和微软的步步紧逼感到极度焦虑,必须加速证明自己的领先地位。
[19:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1199s) 开源力量的崛起:Meta 与 Mistral AI 的逆袭
在 OpenAI 和谷歌走向闭源、拒绝分享技术细节之际,Meta 却凭借“开源”在硅谷重新赢回了声誉。2023 年 2 月 24 日,Meta 发布了 650 亿参数的开源模型 Llama;7 月 12 日,又发布了 700 亿参数的 Llama 2。硅谷投资人笑称“Meta 重新变酷了”,开源不仅极大地提升了 Meta 的企业形象,也帮其吸引了顶尖人才。
Llama 的开源路线早在多年前就已注定。在《深度学习革命》(Genius Makers)一书中曾提到,当年扎克伯格邀请深度学习三巨头之一的 Yann LeCun 加入 Meta 时,LeCun 提出的唯一条件就是 Meta 的 AI 研究必须保持开源。如今,开源派(如 Llama 2、Stanford 的 RedPajama)正成为抗衡闭源垄断的重要力量,许多人甚至开始探讨未来是否应该引入类似 Linux 基金会的架构来支持 AGI 时代的技术社群发展。
与此同时,欧洲的开源新星 Mistral AI 正在以惊人的速度崛起。这家位于法国、2023 年 5 月才成立的初创公司,在短短 7 个月内完成两轮共计 4.15 亿美元的融资,估值飙升至 20 亿美元。其创始人团队背景显赫,CEO Arthur Mensch 曾是 DeepMind 的高级研究科学家,另外两位创始人 Guillaume Lample 和 Timothée Lacroix 则在 Meta 共同领导了 Llama 的开发。 - **Mistral 7B 的奇迹**:2023 年 9 月 27 日,Mistral AI 发布了仅有 73 亿参数的 Mistral 7B,号称性能超越了 700 亿参数的 Llama 2。相比 GPT-4 动辄 1.76 万亿的参数量,这种“小参数、高性能”的模型在硅谷初创圈引发了极大的使用热潮。
[24:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1499s) 算力霸主英伟达与自研芯片的“军备竞赛”
AI 浪潮的最大赢家,毫无疑问是提供算力弹药的英伟达(NVIDIA)。在过去一年中,英伟达股价飙升超 200%,市值稳稳站上万亿美元大关。在 ChatGPT 发布前,英伟达就已于 2022 年投产了 H100 GPU。ChatGPT 爆火后,官方售价 3.5 万美元的 H100 瞬间成为科技界的“硬通货”,供不应求。2023 年 11 月 13 日,英伟达再发大招,推出 H200 GPU,其容量几乎是 A100 的两倍,带宽增加 2.4 倍,在运行 Llama 2 等大模型时,推理速度比 H100 快了近一倍。财报显示,英伟达单季收入达 181 亿美元,净利润 92 亿美元,是去年同期的 13 倍。
面对英伟达在 CUDA 生态上的绝对垄断,硅谷巨头们虽然不喜欢垄断,但也只能一边给英伟达送钱,一边积极寻找替代方案: - **AMD 的追赶**:AMD 于 2023 年 6 月发布了 MI300X GPU。尽管市场起初反应平淡,但急于摆脱英伟达控制的微软、Meta、甲骨文等巨头已向其投下海量订单。 - **端侧 AI 芯片**:高通发布骁龙 8 Gen3,联发科发布天玑 9300,两款芯片均实现了在手机本地运行 70 亿参数大模型的能力。 - **云厂商自研芯片**:谷歌在 8 月发布了用于大模型训练与推理的 TPU v5e;微软在 11 月的 Ignite 大会上推出了首款自研 AI 芯片 Azure Maia 100;亚马逊则推出了基于自研芯片 Inferentia 2 的云服务,并与 Anthropic 深度绑定。 - **特斯拉的 Dojo**:特斯拉于 2023 年 7 月开始生产 Dojo 超级计算机。据透露,马斯克对英伟达独占 GPU 市场大发雷霆,在不得不购买 1 万张 H100 的同时,正全力加速自研芯片的步伐。
[29:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1799s) 创业者的“降温”与回归理性的 2024
在大模型厂商的绝对力量面前,应用层创业者在过去一年经历了一场残酷的洗牌。最典型的案例莫过于 Jasper——这家基于 GPT-3 接口做文案生成的 YC 明星企业,在 2022 年营收曾达到 8000 万美元。然而 ChatGPT 发布后,用户发现免费版就能达到类似效果,Jasper 的融资随即受阻并被迫裁员。在这一轮浪潮中,创业者最大的竞争对手往往不是同行,而是他们赖以生存的底层大模型厂商。
起初,人们认为大模型有许多无法解决的痛点,比如算不好数学、一本正经地胡说八道(如介绍“番茄炒篮球”)。许多初创项目便瞄准这些痛点展开。然而,大模型迭代的速度超乎想象,GPT-4 的发布以及多模态能力的引入,瞬间将一众做单点突破的初创公司“拍死在沙滩上”。在 11 月 OpenAI 开发者大会当天,推特上最火的段子便是:“Sam Altman 毁掉了我 300 万美元的初创公司,而我只得到了 500 美元的 API 积分。”
不过,硅谷的 AI 创业热潮并未熄灭。在 Altman 罢免风波的第二天,硅谷 AI 孵化器 AGI House 的黑客松聚会上,依然有 200 多位创业者在热烈讨论。业内普遍认为,2024 年行业将迎来“去泡沫化”,纯粹靠概念炒作(Hype)的公司将会大量死亡,资金将向垂直赛道、基础设施和算力优化集中。随着喧嚣退去,AI 将真正沉淀到各个行业中,带来真正的用户、真实的体验和切实的利润。ChatGPT 的第一年只是人类触及 AI 力量的开端,未来的路依然漫长。
## Notable quotes > [00:00](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=0s) 所有人都可以用上 AI、贴近 AI
> [09:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=599s) 现在是 Copilot 时代 — 纳德拉
> [04:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=299s) 我从未见过一个让这么多人幻想的算法,只是一个名字,没有论文、没有统计数据、没有产品,就足以开始逆向工程。 — Jim Fan
> [19:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1199s) Meta 重新变酷了 — 硅谷投资人
> [19:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1199s) 小参数、高性能
> [24:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1499s) 硬通货
> [29:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1799s) Sam Altman 毁掉了我 300 万美元的初创公司,而我只得到了 500 美元的 API 积分。
> [29:59](https://www.bilibili.com/video/BV1VW4y1P7Pm?t=1799s) 去泡沫化
## Mentioned OpenAI, ChatGPT, ChatGPT Plus, iOS, Code Interpreter, DALL-E 3, GPTs, GPT Store, Sam Altman, Q*, Jim Fan, LinkedIn, AlphaGo, Google, AlphaGo Zero, GPT-3, SpaceX, 微软, GPT-4, Bing, Bing Chat, Microsoft 365 Copilot, Word, Excel, PPT, Ignite 大会, 纳德拉, Copilot, Copilot Studio, Azure, Anthropic, Salesforce, Meta, Llama 2, 谷歌, Bard, PaLM-E, PaLM 2, Gmail, Docs, Gemini, Gemini Nano, Gemini Pro, Gemini Ultra, 埃尔曼计划, Imagine 2, Google DeepMind, Video Poet, Med-LM, Med-PaLM 2, Med-PaLM, HCA Healthcare, BenchSci, Llama, 《深度学习革命》, 扎克伯格, Yann LeCun, RedPajama, Linux 基金会, AGI, Mistral AI, Arthur Mensch, Guillaume Lample, Timothée Lacroix, Mistral 7B, 英伟达, H100 GPU, H200 GPU, A100, CUDA, AMD, MI300X GPU, 甲骨文, 高通, 骁龙 8 Gen3, 联发科, 天玑 9300, TPU v5e, Azure Maia 100, 亚马逊, Inferentia 2, 特斯拉, Dojo, 马斯克, Jasper, YC, AGI House
[Source](https://www.bilibili.com/video/BV1VW4y1P7Pm)