硅谷101
AI算力扩张遵循的尺度定律正引爆指数级的能源与水资源消耗,其高碳排特性将彻底击碎科技巨头们的碳中和承诺,迫使全行业在电荒逼迫下向核能博弈转型。
AI-assisted summary of 抢电、圈地、对赌,深聊科技巨头的千亿美元AI能源大战 【硅谷101】 — original source. Check the original for full context.
Source published:
Detailed notes
## Background 该内容由 Bilibili 频道的“硅谷101”于 2024 年 5 月 10 日发布。视频简介指出,随着 AI 军备竞赛的加剧,科技巨头纷纷抢建数据中心,导致竞争从“抢芯片”演变为“抢能源”,本期节目旨在深度剖析 AI 发展背后所带来的千亿美元能源大战。
## TL;DR 随着生成式 AI 的大模型参数量呈指数级暴增,其训练和推理阶段正面临着极端的能源危机,甚至出现了微软工程师爆料 GPT-6 训练震垮电网的现象。这促使科技巨头们的选址逻辑从追求网络带宽转向四处搜寻电力,并倒逼硬件层面加速推广能耗更高的芯片及液冷技术。由于传统电网老旧且清洁能源不稳定,微软等巨头甚至将终极目光投向了核能对赌,而 AI 巨大的电耗与水耗也让巨头们此前的碳中和承诺陷入了难以兼顾的严峻博弈。
## Atmosphere & style 整部内容透露出一种技术狂飙与物理现实激烈碰撞的科技焦虑感与紧迫感。叙事风格硬核而深度,通过兰道尔原理、焦耳定律以及具体的能耗数据,将宏大的千亿美元商业竞争解构为残酷的物理法则制约。观众在聆听时能清晰感受到巨头们在追求 AGI 道路上的疯狂与盲目,以及在面对生态碳排、社会成本与电网极限时那股既震撼又令人担忧的沉重氛围。
## Key takeaways - [00:00](https://www.bilibili.com/video/BV1ax4y1i7GK?t=0s) 大模型的能耗问题正演变成一场能源危机,从微观到宏观其耗电量均呈指数级上涨,2024年全美AI数据中心耗电量已占据总用电量的2.5%。 - [00:00](https://www.bilibili.com/video/BV1ax4y1i7GK?t=0s) 大模型高能耗的物理根源可追溯至“兰道尔原理”,由于处理信息具有能量成本,导致Transformer架构与海量计算和高昂能量成本深度绑定。 - [00:00](https://www.bilibili.com/video/BV1ax4y1i7GK?t=0s) 相较于训练阶段,大模型训练完成后的推理(Inference)阶段是更为庞大的能源消耗源,自回归机制导致其需要海量的多轮重复计算。 - [04:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=299s) 随着算力核心GPU的晶体管和功率密度飙升,数据中心的选址逻辑已从过去的追求网络带宽彻底转变为“寻电之旅”。 - [04:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=299s) 全球数据中心能耗增长虽然带来高额经济回报,但与全球多地(如美国)数十年未翻新、无法承受爆发式电力负荷的老旧电网产生严重冲突。 - [09:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=599s) AI的用电具有剧烈摆幅的特征,容易给电网带来严重的能量震荡;同时,数据本地化的合规与战略限制使得巨头无法将数据中心建在海外。 - [09:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=599s) 微软与OpenAI联手规划预算高达1000亿美元的“星际之门”(Stargate)数据中心项目,预示着科技巨头的AI军备竞赛规模空前。 - [14:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=899s) 英伟达Blackwell架构(如GB200)和液冷技术在理想状态下能大幅提升能耗效率,但在实际部署中面临标准缺乏、保修风险和物理重构的现实阻碍。 - [14:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=899s) AI领域正重演“安迪-比尔定律”,硬件效能的提升降低了单次计算成本,反而刺激了更多人开发复杂应用和购买GPU,导致总能耗不降反升。 - [19:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=1199s) 风能、太阳能等清洁新能源具有不可控性,无法满足数据中心24小时稳定运行的需求,科技巨头因此将终极目光投向核能及可控核聚变。 - [19:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=1199s) 微软与核聚变初创公司Helion Energy签署了首个商业对赌协议,通过资金扶持技术创新来释放强烈的市场能源需求信号。 - [19:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=1199s) AI的爆发正在无情地击碎科技巨头们此前立下的碳中和承诺,同时数据中心巨大的水资源消耗也引发了多地民众的抗议与社会矛盾。 - [19:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=1199s) 人类在追求AGI的道路上,必须将AI推迟碳中和进程所带来的气候与社会成本算入真实成本之中,这面临着两难的社会成本抉择。
## Detailed walkthrough ### [00:00](https://www.bilibili.com/video/BV1ax4y1i7GK?t=0s) 算力狂飙背后的“电老虎”:从GPT-3到星际之门
在AI军备竞赛持续升温的今天,大模型的能耗问题正以惊人的速度演变成一场能源危机。训练一个GPT-3模型大约需要消耗1300兆瓦时(MWh)的电力,这笔电量足够播放网络流媒体视频长达185.5年(约162.5万个小时)。如果从微观角度来看,研究人员发现,使用大模型生成一张AI图片所消耗的电量,平均下来就足以充满一部智能手机。而从宏观来看,在2024年,全美AI数据中心的耗电量已经占据了全美总用电量的2.5%,这笔电力足以点亮整个纽约市。
随着上万张GPU显卡集群成为训练生成式AI的标配,硅谷巨头们(如英伟达、谷歌、微软、亚马逊、Meta、特斯拉、甲骨文等)开始疯狂搭建大型数据中心。其中,OpenAI更是联手微软,计划打造耗资高达1000亿美元的数据中心项目——“星际之门”(StarGate)。在Scaling Law(尺度定律)依然被奉为万能解药、多模态大模型竞争白热化的当下,AI的耗电量正在呈指数级上涨。
为什么训练大模型会如此耗电?这可以追溯到1961年IBM物理学家罗夫·兰道尔(Rolf Landauer)提出的“兰道尔原理”(Landauer's Principle)。该原理指出,当计算机中存储的信息发生不可逆的变化时,系统的熵会增加,并伴随着能量的耗散。简单来说,处理信息是有能量成本的。自从生成式AI确立了使用Transformer架构并遵循Scaling Law以来,大模型就与海量计算和高昂的能量成本深度绑定。
- **GPT参数量指数级暴增**:GPT-3拥有1750亿个参数;GPT-4达到1.8万亿个;GPT-5预计突破10万亿;而传说中正在训练的GPT-6,其参数量可能达到数百万亿甚至数千万亿级别。 - **GPT-6训练震垮电网**:YC前总监Kyle Corbin在推特爆料,一位微软工程师透露,GPT-6的训练曾因耗电量过于恐怖,直接导致微软电网超负荷崩溃,因此无法在同一个州内部署超过10万张H100 GPU。 - **推理阶段的无底洞**:虽然训练阶段耗电惊人,但模型训练完成后的应用和推理(Inference)才是更大的能源消耗源。Transformer作为自回归模型,在推理中需要多轮重复计算,每生成一个Token都需要与显存进行数据交互。例如,ChatGPT每天响应约2亿个请求,消耗超过50万度电,相当于1.7万个美国家庭一天的用电量。
---
[04:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=299s) 物理定律的制约与数据中心的“寻电之旅”
AI算力的核心依赖于GPU芯片的并行计算,而芯片内部有着以亿为单位的晶体管。例如,英伟达最新发布的Blackwell架构GPU就拥有高达2080亿个晶体管。根据物理学中的焦耳定律,电流通过导体产生的热量与电流的二次方、电阻以及通电时间成正比。当万亿参数的大模型运行在上万张GPU芯片、千亿级晶体管之上时,其产生的电流能耗和热量是极其惊人的。
除了芯片本身的能耗,数据中心冷却系统等配套设施的能耗同样庞大。行业内通常使用PUE(电力使用效率,Power Usage Effectiveness)来评估数据中心的能耗效率,即数据中心消耗的所有能源与IT设备能耗的比值。PUE越接近1,意味着浪费的能源越少。根据Uptime Institute的报告,2020年全球大型数据中心的平均PUE约为1.59。这意味着IT设备每消耗1度电,配套设施(主要是冷却系统)就要消耗0.59度电。在许多数据中心里,冷却系统的能耗占到了总能耗的40%。
这种极端的能耗需求正在彻底改变数据中心的选址逻辑。过去,数据中心主要考虑网络带宽,倾向于建在离互联网交换点(IXP)近的地方。而现在,对于拥有数万张GPU的加速计算数据中心而言,对带宽的要求远不如对电力的要求迫切。科技巨头们不再一味追求“便宜的电”,而是面临“根本没有电”的窘境。硅谷的从业者们现在最核心的工作之一就是“Shopping for power”(四处扫货寻电)——哪里能开辟大型电站,巨头们就会立刻跑去买地建数据中心。
- **高额的经济回报**:美银(Bank of America)研报指出,2023年至2028年期间,全球数据中心能耗将以每年25%到33%的复合增长率飙升。虽然耗电,但回报极高。粗略评估显示,每1兆瓦(MW)的AI数据中心负荷,能带来约1000万美元的年收入,而其电力成本可能仅有30至50美元/兆瓦时。 - **全球电力缺口与老旧电网的冲突**:国际能源署(IEA)报告显示,2022年全球数据中心、人工智能和加密货币的耗电量达460太瓦时(TWh),占全球能耗将近2%。IEA预测,到2026年这一数字最糟可能达到1000太瓦时,相当于整个日本的用电量。然而,美国等许多地区的电网基建已数十年未翻新,根本无法承受AI带来的爆发式电力负荷。
---
[09:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=599s) 震荡的电网与千亿美元的“星际之门”
AI训练和应用时的用电特征与传统数据中心截然不同。传统数据中心是一个“稳电”系统,24小时的用电量基本平稳。而AI在训练或推理时,用电量会在短短一秒甚至几秒内出现剧烈摆动(例如从100%瞬间降到16%,再瞬间拉回100%)。这种巨大的用电摆幅会给电网带来严重的能量震荡,极大地威胁电网的稳定性。
此外,欧美等地区的电网在过去20年里几乎没有更新。由于去工业化理念,美国的经济增长在过去很长时间里与用电量脱钩,年均用电增长率仅为0.5%。美国工程师在过去20年里从未面对过如此巨大的电力增长需求,导致电网规划缺乏预案。在私有制为主的美国,升级电网、建设传输线需要跨越无数私人土地,说服土地所有者的过程极其漫长和困难。因此,《纽约客》甚至用“Obscene”(下流、令人愤慨)一词来形容AI对能源的无度索求。
即便面临电网瘫痪和舆论指责的风险,巨头们依然在疯狂加码。Meta目前拥有65万张H100,计划今年投入8亿美元建设AI数据中心;亚马逊计划投资6.5亿美元;谷歌则大手笔投资11亿美元。然而,在微软和OpenAI的“星际之门”(Stargate)计划面前,这些都只是毛毛雨。
- **星际之门(Stargate)**:由微软与OpenAI联手规划,预算高达1000亿美元(是目前普通数据中心规模的百倍以上,相当于8个OpenAI的融资额)。该项目预计于2028年完工,届时将采购数百万个英伟达最新的B200芯片,电力需求将达到数吉瓦(GW)级别。 - **数据作为战略资产的本地化限制**:面对美国的电荒,微软无法将“星际之门”建在海外。因为在芯片短缺、数据短缺之后,能源短缺已成为第三大瓶颈。数据如今已被视为国家战略资产,将数据中心建在其他国家进行训练,在安全和战略上是不可想象的。
---
[14:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=899s) 硬件救局?英伟达Blackwell与液冷技术的理想与现实
面对严峻的能耗挑战,硬件层面的优化成为了救急药方。在2024年的英伟达GTC大会上,黄仁勋介绍,新一代Blackwell架构的GB200芯片在能耗效率上实现了巨大突破。在相同的AI训练量下,GB200的功耗仅为前代Hopper(H100)的四分之一,训练速度提升1倍,推理速度更是提升5倍。
GB200通过高度集成的架构来实现这一优化:两个Blackwell GPU核心与一个Grace CPU(作为主要大脑)拼接在一起,配合8个HBM内存卡组成GB200。两块GB200装入机柜后组成一个计算节点(Node),并引入Infiniband进行高速通信,以及DPU(数据处理单元)来减轻CPU的负担。18个Node再通过NV-Link Switch芯片(交换机)和局域网加速卡组合成机组,最终构成庞大的数据中心。
伴随芯片功率密度飙升,传统的风冷系统已无法满足散热需求,液体冷却(Liquid Cooling)技术正成为行业标配。美银和Supermicro(超微电脑)均指出,未来的AI数据中心必须转向液冷方案(包括直达芯片液冷和浸没式液冷),这有望将PUE降至接近1的理想状态。然而,在实际部署中,液冷和新芯片的替换面临着巨大的现实阻碍:
- **液冷缺乏统一标准与保修风险**:目前市场上液冷技术缺乏统一标准。英伟达出货时默认不带液冷,若客户自行拆卸并加装液冷,一旦出问题将失去保修,这让许多数据中心厂商不敢轻易尝试。 - **无法直接替换的物理限制**:将H100直接拔掉换成B100是非常理想化的设想。实际上,B200/GB200的功耗和散热需求与上一代完全不同,现有的数据中心在变压器、导线、散热和机柜间距等配套设施上难以直接兼容,几乎需要重新设计和重建数据中心。 - **“安迪-比尔定律”的AI版重演**:正如PC时代“安迪给的,比尔要拿走”(硬件提升的性能迅速被软件膨胀的需求吃掉),在AI时代,能耗效率的提升反而会降低单次计算成本,从而刺激更多人开发更复杂的应用、购买更多的GPU,最终导致总能耗不降反升。
---
[19:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=1199s) 终极解法:分布式储能、核能与碳中和的艰难博弈
在短期内,分布式储能和新能源(如光伏、太阳能板)被视为缓解电网压力的重要手段。通过在用电低谷时进行电池储能或抽水蓄能,可以避免发电厂电力的白白流失。然而,风能、太阳能等清洁能源具有不可控性(无风无光时便无法发电),无法为需要24小时稳定运行的AI数据中心提供持续、可靠的电力支持。
因此,科技巨头们将终极目光投向了核能,尤其是可控核聚变。Sam Altman个人投资了核聚变初创公司Helion Energy。Helion与微软签署了核聚变领域的首个商业对赌协议,承诺在2028年之前开始通过核聚变发电,并在一年后以0.01美元/千瓦时的极低价格为微软提供至少50兆瓦(MW)的电力,否则将面临巨额罚款。Helion采用的是直线型反向场构型(FRC)技术路线,大幅降低了建设成本和迭代周期。尽管业内对2029年实现核聚变商业供电普遍持怀疑态度,但微软此举旨在向市场释放强烈的需求信号,用资金扶持创新。
与此同时,AI的电荒正在无情地击碎科技巨头们此前立下的碳中和承诺。在AI爆发前,微软承诺2030年实现碳中和,亚马逊承诺2040年,谷歌和Meta也承诺在2030年实现全价值链碳中和。然而,AI Scaling Law的高碳排特性让这些目标变得遥不可及。当清洁能源占比达到90%后,想要再提升至95%甚至99%,其边际成本呈指数级增长。
除了电力,水资源的消耗同样惊人。数据显示,ChatGPT每进行10到50次对话,就要“喝”掉500毫升的水。2022年微软的用水量显著增长了34%;谷歌在乌拉圭建设数据中心的计划,甚至在2023年因引发当地74年来最严重干旱而遭到民众抗议。
- **两难的社会成本账本**:科技巨头们一面要在技术和商业上打赢AI之战,一面要履行碳中和的环保承诺。IPCC报告指出,若本世纪内无法控制全球升温,气候风险带来的累计损失到2100年可能高达数百万亿美元。如果AI的发展推迟了碳中和进程,这笔高昂的气候和社会成本,必须被算入AI的真实成本之中。人类在追求AGI的道路上,是否真的能算清这笔账,依然是一个巨大的问号。
## Notable quotes > [00:00](https://www.bilibili.com/video/BV1ax4y1i7GK?t=0s) 大模型的能耗问题正以惊人的速度演变成一场能源危机。
> [00:00](https://www.bilibili.com/video/BV1ax4y1i7GK?t=0s) 使用大模型生成一张AI图片所消耗的电量,平均下来就足以充满一部智能手机。
> [00:00](https://www.bilibili.com/video/BV1ax4y1i7GK?t=0s) GPT-6的训练曾因耗电量过于恐怖,直接导致微软电网超负荷崩溃,因此无法在同一个州内部署超过10万张H100 GPU。 — Kyle Corbin
> [00:00](https://www.bilibili.com/video/BV1ax4y1i7GK?t=0s) 模型训练完成后的应用和推理(Inference)才是更大的能源消耗源。
> [00:00](https://www.bilibili.com/video/BV1ax4y1i7GK?t=0s) 处理信息是有能量成本的。 — 罗夫·兰道尔
> [04:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=299s) 科技巨头们不再一味追求“便宜的电”,而是面临“根本没有电”的窘境。
> [04:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=299s) 哪里能开辟大型电站,巨头们就会立刻跑去买地建数据中心。
> [09:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=599s) 在私有制为主的美国,升级电网、建设传输线需要跨越无数私人土地,说服土地所有者的过程极其漫长和困难。
> [09:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=599s) 在芯片短缺、数据短缺之后,能源短缺已成为第三大瓶颈。
> [14:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=899s) 能耗效率的提升反而会降低单次计算成本,从而刺激更多人开发更复杂的应用、购买更多的GPU,最终导致总能耗不降反升。
> [19:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=1199s) ChatGPT每进行10到50次对话,就要“喝”掉500毫升的水。
> [19:59](https://www.bilibili.com/video/BV1ax4y1i7GK?t=1199s) 如果AI的发展推迟了碳中和进程,这笔高昂的气候和社会成本,必须被算入AI的真实成本之中。
## Mentioned 微软, OpenAI, GPT-3, GPT-4, GPT-5, GPT-6, 英伟达, 谷歌, 亚马逊, Meta, 特斯拉, 甲骨文, 星际之门, Scaling Law, Transformer, 罗夫·兰道尔, Kyle Corbin, H100 GPU, ChatGPT, Blackwell, 美银, 国际能源署, 纽约客, B200芯片, GTC大会, 黄仁勋, GB200, Grace CPU, HBM, Infiniband, DPU, NV-Link Switch, Supermicro, B100, 安迪-比尔定律, Sam Altman, Helion Energy, IPCC
[Source](https://www.bilibili.com/video/BV1ax4y1i7GK)