Silicon Valley Vector 硅谷坐标
随着AI算力增速与光连接带宽出现十倍缺口,光互连正从边缘配件蜕变为与计算芯片势均力敌的共生系统,驱动万亿级网络架构重构。
AI-assisted summary of 硅谷坐标 x 中际旭创 于让尘:AI 光互连的超级周期 — original source. Check the original for full context.
Source published:
Detailed notes
## Background 该内容由 YouTube 频道的“Silicon Valley Vector 硅谷坐标”于 2026 年 4 月 24 日发布。视频简介指出,本期节目邀请了全球光互连龙头 TeraHop 的营销副总裁于让尘博士,深度解析 AI 数据中心的架构场景、技术路线平衡、英伟达的战略投资信号、光进铜退的经济账以及 OCS 光交换等 AI 光互连产业的核心议题与万亿美金级价值链重塑。
## TL;DR 在 AI 算力暴涨而光连接带宽遭遇瓶颈的背景下,光互连正成为决定集群效率的关键。于让尘博士深入拆解了 Scale Up 等三大扩展场景,并客观分析了可插拔、NPO 与 CPO 三种技术路线的折中与大厂的务实选择。此外,节目还探讨了谷歌在 OCS 光交换领域的长期布局、400G 单通道速率的技术博弈,以及光芯片上游晶圆尺寸滞后这一产业最大瓶颈与未来光电深度集成的融合前景。
## Atmosphere & style 整个对话呈现出一种极其专业、务实且充满一战线洞察的技术极客氛围。于让尘博士凭借三十年的硅谷行业经验,用生动的“脑灰质与脑白质”等生物学隐喻,将枯燥复杂的硬科技架构讲得既通俗易懂又深刻。节目毫无宏大叙事或盲目信仰的浮躁,而是充满理性辩证与冷静算账的商业思维,让人仿佛置身于硅谷最前沿的技术战略研讨会现场,真实感受到 AI 算力狂飙背后正悄然发生的产业巨变。
## Detailed walkthrough 以下是根据视频转录稿整理的详细技术综述:
[00:00](https://www.youtube.com/watch?v=13qOMeSTBYo&t=0s) AI 时代的“互连墙”与脑白质隐喻
在过去三年多的时间里,AI 算力经历了爆发式增长,增幅大约达到了 300 倍。然而,与之形成鲜明对比的是,光连接的总带宽仅仅增长了约 30 倍。这意味着今天限制 AI 集群继续做大、做强的瓶颈,越来越不是单个算力节点的芯片能力,而是芯片之间的数据搬运效率。用行业的话来说,真正卡住 AI 系统上线的已经不只是“算”,而是“连”。要打穿这堵通信墙,最关键的技术正是光互连。
为了让大众更直观地理解这一底层逻辑,于让尘博士提出了一个生物学层面的“脑灰质与脑白质”隐喻。人的大脑算力其实集中在“脑灰质”(大脑表层),这里相当于 AI 算力中心,负责所有的计算和运算;而大脑内部高度连接的区域则是“脑白质”,它通过神经纤维负责信息的传递与互连。在人类数万年的演化过程中,大脑在资源有限的格局下,最终演变出了脑灰质与脑白质体积、容量基本上接近“一比一”(或 40:60)的比例。与之相比,像猫、狗等低等动物,它们抓老鼠并不需要那么高的智慧,其脑白质与脑灰质的比例只有 10% 到 20% 左右。
目前的 AI 数据中心其实还处于类似“小鼠、小猫”的早期演化阶段——灰质(算力芯片)的占比非常高,而白质(光互连带宽)的比例还相对较小。但于让尘博士强调,随着 AI 大脑越做越大,行业已经深刻认识到“光互连之墙”的严重性。这个十倍的带宽间隙(Gap)需要整个业内一起来努力填补。在未来的发展中,光互连在总体资本开支中的增长速度必然会大于算力的增长速度。
* **算力与带宽增长差异:** 过去 3 年多算力增长约 300 倍,光连接总带宽仅增长约 30 倍,存在 10 倍的差距。 * **资本开支占比:** 目前光互连在整个 AI 数据中心的总体资本开支中仅占个位数百分比(single digit),但增长空间巨大。 * **算力与连接的投入比:** 如果算力的一份投入是 10,连接目前只在 10% 到 20% 左右。为了保证算力不被浪费,连接的投入增长系数必须大于 1。
---
[05:48](https://www.youtube.com/watch?v=13qOMeSTBYo&t=348s) AI 算力集群互连的三大场景:Scale Up, Scale Out, Scale Across
在俯瞰整个 AI 数据中心架构时,业界经常提及三个核心概念:Scale Up(向上扩展)、Scale Out(向外扩展)以及 Scale Across(跨区扩展)。于让尘博士对这三者进行了层层剖析。
过去几年行业主要发展的是 **Scale Out**,即当单个人的大脑算力不够时,通过网络把更多的大脑连接起来。目前大语言模型(LLM)的训练通常需要万卡级别的规模(如训练一个 Trillion 级别的参数),这需要在一个巨大的物理数据中心内通过几层网络进行互连,其物理距离通常在 1 公里到 2 公里之间,对光互连的距离和稳定性要求极高。而最新提出的 **Scale Across** 则是由于单个数据中心受到地理位置、供电和功耗(千兆瓦级限制)的制约,必须通过多数据中心互连来共同承载训练。例如 Meta 最近发布的某些大数据中心园区,规模已经达到了“曼哈顿 Size(纽约曼哈顿区大小)”,其互连距离从几公里一直延伸到几十公里,通常需要更先进的相干光(Coherent)技术。
最引人注目且被视为“最大潜力节点”的是 **Scale Up**,即如何把单个大脑本身做得更强、更大。Scale Up 场景下的带宽需求是极其苛刻的,它需要极大的带宽和极低的延迟,其带宽密度通常是 Scale Out 的 10 倍。以英伟达发布的 NVL72 为例,它是在一个机架之内把 72 颗芯片组成一个“机架式大脑”。目前机架内为了节省成本主要使用铜缆连接,但铜缆的距离和带宽受限于物理极限(突破至多机架时就会遭遇瓶颈)。现在不仅英伟达在推进 576 颗甚至更大型的集群,谷歌的 TPU 系统更是通过混合集成的方式(机架内用铜,机架外用 OCS 光交换与光互连),将多达 9000 个 TPU 互连成一个更大型的超级大脑。Scale Up 虽然物理距离短(从几米扩展到几十米),但它是光互连一个“十倍机会”的战略级爆发点。
---
[11:19](https://www.youtube.com/watch?v=13qOMeSTBYo&t=679s) 光进铜退的经济账怎么算
在 AI 集群中,行业经常讨论“光进铜退”的趋势。但由于光的成本往往比铜高出好几倍,很多人在经济账上存在疑问。于让尘博士指出,行业里有一种广为流传的说法:“Use copper when you can, use optics when you must”(能用铜时就用铜,必须用光时才用光)。因此,在一个机架之内的短距离,铜互连作为一种成熟的生态仍将持续相当长的时间。
然而,铜缆具有不可逾越的物理局限。随着单通道速率走向 400G 甚至更高,铜缆的传输距离可能从 2 米、1.5 米萎缩到 1 米甚至半米,完全无法支撑多机架的算力扩展。此时,算经济账的角度必须发生根本性的转变:不能单纯去对比一根光纤和一根铜缆的价格,而是要站在终端客户构建算力中心的角度,去计算“单位算力输出”或“单位 Token 输出”的综合收益。
"你花了 3 万块钱买一块 GPU,因为要在互连上去省钱,结果造成你这个 3 万块钱芯片的潜力没有发挥出来,你实际上牺牲的是你的算力,牺牲的是你最后的可以给客户产生 Token 的效率。" 于让尘博士一针见血地指出,光互连能够有效提升成千上万个 GPU 集群的整体利用率,避免算力闲置。因此,只要光互连带来的 Token 单位能量和单位成本更优化,客户的付费意愿(willingness to pay)就会非常高,这种投入就是完全必要且合算的。
---
[14:09](https://www.youtube.com/watch?v=13qOMeSTBYo&t=849s) 深度拆解可插拔、NPO、CPO 三条技术路线
目前硅谷科技大厂在光互连方案上正处于技术路径的十字路口。可插拔(Pluggable)方案、NPO(近封装光学)以及 CPO(共封装光学),本质上都在回答同一个核心问题:光接口到底应该离主芯片有多近?
* **可插拔方案(Pluggable):** 这是一种外挂式、可插拔且方便更换的独立部件。它的缺点是离主芯片距离最远,中间的电信号传输距离最长,因而系统功耗也相对偏大。但它的优点极其显著——灵活性极高,坏了可以直接拔掉换新的,不影响主芯片,且供应链最为开放。 * **CPO 方案(Co-Packaged Optics):** 它的思路正好相反,旨在将光引擎和主算力芯片(或交换芯片)做成一个深度集成的整体。它的优点是将电路径压到了最短,从而实现了最高的带宽密度和最小的延迟。但它的代价同样巨大——散热会极度集中,系统耦合非常深,一旦 CPO 部分损坏,可能会导致整块昂贵的板卡和整个系统报废。因此,CPO 被公认为下一代超大规模 AI 集群的终极形态,但面临高昂的维护和可靠性挑战。 * **NPO 方案(Near-Packaged Optics):** 这是一个介于可插拔和 CPO 之间的中间路线。它比可插拔方案离芯片更近一步,把光引擎放在主机板上靠近芯片的位置,但没有激进到与主芯片封装在同一个衬底(Substrate)上,可以说是目前在性能、密度和可维护性之间折中、平衡的一个方案。
于让尘博士强调,这并不是一个非黑即白的单选题,而是一个多维度的“平衡问题”。在构建特定的算力中心时,功耗、成本、带宽密度、可靠性、可维护性等指标都需要进行优先级排列。
---
[15:25](https://www.youtube.com/watch?v=13qOMeSTBYo&t=925s) 硅谷大厂的“成人路线选择”:拒绝宗教式信仰
外界常有许多公开的“小作文”传言,称某家大厂选了可插拔,另一家选了 CPO。但在硅谷一线的于让尘博士直言,真实的互联网巨头是非常务实的,他们绝对不会做宗教式的选择(即不管代价如何只信仰某一种技术方案)。
事实上,各大互联网公司都在“两条腿或多条腿走路”。一方面他们大量采购英伟达的垂直整合系统,另一方面毫无例外地都在自研算力芯片,包括谷歌的 TPU、Meta 的 MTIA、亚马逊 AWS 的 Trainium、微软的 Maya,甚至 OpenAI 在推进的 Titan 以及马斯克的 xAI 芯片。在这样的格局下,大厂普遍欢迎开放的光互连生态,并高度认可光通信走向“硅光集成”的大趋势。
从公开信息来看,谷歌由于对可维护性要求极高,更倾向于优选可插拔模块(在其公开表态中,CPO 总是“两年后”落地);Meta 和亚马逊在某些高密度板卡上对 NPO 展现出浓厚兴趣;而英伟达为了追求极致的垂直整合性能,正极力往 CPO 方向布局。但于让尘博士透露,在私底下和大厂内部不同的 AI 组网架构中,他们往往根据特定场景做排列组合: "可插拔模块、NPO、CPO,它甚至同一个互联网公司它三项都选,叫做‘成年人不做选择题’。"
---
[20:58](https://www.youtube.com/watch?v=13qOMeSTBYo&t=1258s) 光方案的技术演进节奏与 Slow and Wide 畅想
探讨未来近期、中期、远期的技术演进,于让尘博士认为整个行业正沿着多个维度交错推进:
1. **单通道速率的飞跃:** 行业目前正处于 200G per lane(单通道 200G)的阶段,1.6T 光模块在 2026 年迎来量产。而在未来两三年内,400G per lane 已经成为下一个可见的技术热点和讨论焦点。 2. **通道数的激增:** 光模块正从传统的 8 通道(8 Lane)跳跃到 16 通道、32 通道、64 通道(NPO/CPO 阶段),未来甚至会走向 128 通道。 3. **“Slow and Wide”(慢而宽)全新路径:** 这是一个非常有前景的未来探索方向。当铜缆完全退出、光电接口重新再造时,行业的思路不一定非要往极高频、高速率去走(因为高频电芯片功耗极大)。相反,可以把单通道速率降下来,让接口变得极其简单以大幅降低功耗,但通过半导体集成技术把通道数做得极多。这就好比“虽然每辆小车装的货少,但有成百上千辆小车同时并进”,在物理上它的整体效率反而更高。 4. **相干光下沉(Coherent Lite):** 在 Scale Out 和 Scale Across 场景中,随着速率增高,传统的调制方式难以为继,具备更高调制技术和本征放大作用的相干传输技术在特定排列组合下会变得更有效率。
---
[26:10](https://www.youtube.com/watch?v=13qOMeSTBYo&t=1570s) 12.8T 带宽飞跃与英伟达 40 亿美金战投的信号
在光模块带宽从 800G、1.6T 逐步推进的认知中,TeraHop 突然推出了 12.8T 的超大带宽方案,引发行业侧目。于让尘博士从需求与可行性两个维度解释了这一技术飞跃。需求端来自于前述 Scale Up 场景下巨大的 10 倍带宽瓶颈;可行性端则得益于硅光(Silicon Photonics)技术的成熟。只要硅光芯片的良率和可靠性达到一定阶段,增加通道数对半导体工艺来说是顺理成章的。既然 8 通道技术已经完全 ready,那么自然可以向 16 通道、32 通道、64 通道演进,从而在底层支撑起 12.8T 的巨量解决方案。
与此同时,2026 年 3 月初,英伟达向 Lumentum 和 Coherent 共计投资 40 亿美元并签署战略合作协议,这一重磅消息震动业界。于让尘博士解读认为,这清晰地释放了一个产业信号:黄仁勋在公开场合多次强调光互连是算力构建不可或缺的一部分,英伟达正在用真金白银来锁定其供应链。具体而言,由于英伟达在下一步构建超大集群时急需推进 CPO(共封装光学)方案,它极度担心光互连供应链(尤其是上游核心的激光器)跟不上其指数级(X)增长的步伐。
但于让尘博士同时也指出,这只是大格局下的一个小插曲。终端客户不希望被任何一家厂商锁死,因此他们在大手笔自研芯片的同时,也在用钱包投票(Vote with Wallet),极力推动多元化供应链和多源协议(MSA)的落地,以保证整个 AI 生态的丰富性。
---
[30:36](https://www.youtube.com/watch?v=13qOMeSTBYo&t=1836s) OFC 上的多元协议(MSA)与开放生态的抗争
在与英伟达 GDC 几乎同时举行的 OFC(美国光纤通信展览会)上,行业释放出了强烈的开放标准信号。作为主要推动者之一,TeraHop 在这一轮新的标准制定中扮演了核心角色。
为了对抗市场上某些大厂商高度垂直整合、甚至带有排他性质的私有方案(Proprietary),行业各大公司纷纷联合起来建立开放生态。因为垂直整合方案虽然能在短期内推得动,但其高昂的溢价能力让终端客户非常被动,这也是导致 CPO 谈了许多年却迟迟无法规模商用的瓶颈之一。为了给终端客户提供丰富的排列组合和更高的议价权,多项重大多源协议(MSA)应运而生:
* **12.8T XPO MSA:** 推动光互连带宽实现 4 到 8 倍增长的开放协议。 * **OpenCPX MSA:** 针对高密度、小尺寸算力板卡构建的开放式共封装/近封装协议,允许通过 Open Socket(开放插槽)的方式,让不同厂商的 CPO/NPO 引擎易于维护、替换和维修。 * **SDM MCF(空分复用多芯光纤)MSA:** 随着数据中心容量暴增,传统单芯光纤的密度已经不够(一根光纤如头发丝粗细,机架引出海量光纤会造成严重的物理堆积瓶颈)。该协议推动一根多芯光纤同时跑 4 个通道,极大缓解了现代 AI 数据中心的布线和空间瓶颈。
---
[34:55](https://www.youtube.com/watch?v=13qOMeSTBYo&t=2095s) OCS 光交换 vs 电交换:谷歌的十年阳谋
在光模块单点带宽之外,谷歌将整个行业的思考带入到了一个全新的网络架构重组维度——OCS(Optical Circuit Switch,光交换机)。
传统的电交换机需要对每一站的数据包进行判断、处理和转发,会带来昂贵的功耗和明显的时延。而 OCS 是一种透明的、端到端的交换设备,光信号进入 OCS 后直接通过镜面反射等物理专有路径转到另一个通道,不需要做任何光电转换与数据处理。这种特性完美契合了 AI 模型训练大吞吐量、流量路径相对可预测、工作流相对稳定的场景。谷歌公开发布的方案显示,他们已经成功利用 OCS 将多达 9000 个 TPU 互连在一起,组建成了其专属的“最强大脑(Super Brain)”。其核心优势包括: 1. **极低的功耗节省;** 2. **近乎零的时延(Latency)表现;** 3. **极高的容错性:** 万一某个节点出现故障,OCS 可以通过软件算法重新瞬间调度、规划光路径,实现快速修复。
然而,OCS 也并非万能,它存在两大局限性:一是**切换速度相对较慢**(处于毫秒级,而电交换机在纳秒级),无法做到完全动态的数据包级别切换;二是**光路径的反射会带来额外的光损耗**(通常多出 2-3 dB 的损耗)。这反过来对光模块的链路预算(Link Budget)提出了极高的要求。在这种背景下,相干光技术(Coherent Lite)因为具备本征放大的优势,正在成为 OCS 的完美配对。
于让尘博士提到,谷歌在 OCS 领域已经低调布局了近 10 年,在软件调度算法上走得最远。目前其他硅谷大厂也都在积极评估并做实验。未来,OCS 和电交换机将进入长期共存的混合部署状态。虽然电交换不会消失,但 OCS 在数据中心(特别是 Greenfield 新建项目)中的比例将大幅增加,这为整个光互连产业带来了巨大的新蛋糕。
* **谷歌投资动向:** 谷歌的战略投资部门近期投资了专门从事 Coherent Lite 技术的初创公司 Celero,以期丰富低功耗、低时延 OCS 专用数字信号处理(DSP)芯片的供应链。
---
[42:15](https://www.youtube.com/watch?v=13qOMeSTBYo&t=2535s) 价值链重塑与三条 400G per lane 技术路线的 PK
随着 AI 光互连逐步从边缘配件变成与算力芯片共生的核心部件,整个互连市场(包含交换机和光互连)的总价值正在重塑,很快将演变成一个接近**万亿美金级(One Trillion Dollars)**的庞大市场。
面对 400G per lane 的重大技术关口,市场上存在着三种主流的调制与光源技术方案,各大厂商正在 OFC 等舞台上展开激烈的早期验证与演示(Demo)对抗: * **硅光技术(Silicon Photonics):** 具备极高的集成度潜力,在通道数扩展上优势明显。 * **薄膜铌酸锂(TFLN):** 具备极高的带宽和优异的调制效率,目前处于积极的演示阶段。 * **EML 激光器(传统的三五族半导体):** 性能成熟稳定,依然展现出强劲的生命力。
在于让尘博士看来,目前“鹿死谁手”尚无定论,大家都处于激烈的 PK 阶段。作为头部的全面解决方案供应商,TeraHop 采取了“成年人不做选择题”的策略,让三匹马同时在赛道上跑。同时,他们更为看好**混合集成**的方向——例如尝试将薄膜铌酸锂材料“嫁接”到硅光平台上,打造一个融合两者的混合集成平台,这在未来或许更具发展前途。
---
[45:15](https://www.youtube.com/watch?v=13qOMeSTBYo&t=2715s) 产业发展的最大瓶颈:晶圆大小的代际悬殊
当谈到限制整个光互连价值链爆发的最大瓶颈时,于让尘博士认为,核心症结在于光互连行业整体还处于**半导体集成的早期阶段**,整个上游生态尚未完全发育到位。
一个最震撼的对比数据是:今天用于制造硅光芯片的硅基晶圆(Silicon Wafer)早已普及了 **12 英寸(300 毫米)** 的先进工艺;然而,当去询问上游核心的铟镓砷等光激光器(Laser)厂家时,他们的晶圆大小目前居然还停留在 **3 英寸**。虽然他们现在正拍着胸脯努力向 6 英寸艰难推进,但整个光芯片制造的生态成熟度远远落后于现代硅半导体生态。
为了突破这一瓶颈,行业正开辟两条充满希望的展望路线: 1. **量子点激光器(Quantum Dot Laser):** 这是一项颠覆性的前沿技术。如果能够成功实现量子点激光器在硅基衬底上的直接生长,行业就可以直接跳过 3 英寸、4 英寸的桎梏,直接在 **12 英寸的硅片上成规模地制造激光光源**,从而实现供货量的跨代式飞跃。 2. **光电深度集成(3D/2D 封装):** 类似于台积电(TSMC)推进的 COUPE 平台,FAB 厂们正极力将硅光芯片与电芯片(如 DSP、Switch 芯片)通过先进封装技术进行多层次的 3D 深度集成。
---
[48:44](https://www.youtube.com/watch?v=13qOMeSTBYo&t=2924s) 5 至 10 年的中局展望
将时间轴拉长到 5 到 10 年,于让尘博士呼吁全行业纠正一个陈旧的观念:“以前大家都觉得,光互连省下来的钱应该拿去买算力。这个观念必须被纠正。”
在未来的智能化中局里,全行业应该将光互连视作**算力不可分割的一部分**,从整体、共生的视角去寻找算力中心最优化的平衡点。随着 AI 大脑的无限扩张,光互连在整个 AI 算力开支中的比重将越来越大。就像人类大脑最终进化出体积相当的脑灰质与脑白质一样,光互连必将成为与计算芯片“势当力敌”且深度融合的共生生态。
## Notable quotes > [11:19](https://www.youtube.com/watch?v=13qOMeSTBYo&t=679s) 你花了 3 万块钱买一块 GPU,因为要在互连上去省钱,结果造成你这个 3 万块钱芯片的潜力没有发挥出来,你实际上牺牲的是你的算力,牺牲的是你最后的可以给客户产生 Token 的效率。 — 于让尘
> [11:19](https://www.youtube.com/watch?v=13qOMeSTBYo&t=679s) Use copper when you can, use optics when you must
> [15:25](https://www.youtube.com/watch?v=13qOMeSTBYo&t=925s) 可插拔模块、NPO、CPO,它甚至同一个互联网公司它三项都选,叫做‘成年人不做选择题’。 — 于让尘
> [48:44](https://www.youtube.com/watch?v=13qOMeSTBYo&t=2924s) 以前大家都觉得,光互连省下来的钱应该拿去买算力。这个观念必须被纠正。 — 于让尘
## Mentioned 于让尘, Terahop, TeraHop, 英伟达, Lumentum, Coherent, 谷歌, Meta, 亚马逊, AWS, 微软, OpenAI, 马斯克, xAI, Celero, 台积电, NVL72, TPU, MTIA, Trainium, Maya, Titan, OFC, GDC, 12.8T XPO MSA, OpenCPX MSA, SDM MCF MSA, COUPE
[Source](https://www.youtube.com/watch?v=13qOMeSTBYo)