英伟达40亿美元战投光器件巨头 抢跑CPO方案破局AI互连墙

硅谷坐标 x 中际旭创 于让尘:AI 光互连的超级周期 — Silicon Valley Vector 硅谷坐标

Silicon Valley Vector 硅谷坐标

随着AI算力增速与光连接带宽出现十倍缺口,光互连正从边缘配件蜕变为与计算芯片势均力敌的共生系统,驱动万亿级网络架构重构。

AI-assisted summary of 硅谷坐标 x 中际旭创 于让尘:AI 光互连的超级周期 — original source. Check the original for full context.

Source published:

Detailed notes

## Background 该内容由 YouTube 频道的“Silicon Valley Vector 硅谷坐标”于 2026 年 4 月 24 日发布。视频简介指出,本期节目邀请了全球光互连龙头 TeraHop 的营销副总裁于让尘博士,深度解析 AI 数据中心的架构场景、技术路线平衡、英伟达的战略投资信号、光进铜退的经济账以及 OCS 光交换等 AI 光互连产业的核心议题与万亿美金级价值链重塑。

## TL;DR 在 AI 算力暴涨而光连接带宽遭遇瓶颈的背景下,光互连正成为决定集群效率的关键。于让尘博士深入拆解了 Scale Up 等三大扩展场景,并客观分析了可插拔、NPO 与 CPO 三种技术路线的折中与大厂的务实选择。此外,节目还探讨了谷歌在 OCS 光交换领域的长期布局、400G 单通道速率的技术博弈,以及光芯片上游晶圆尺寸滞后这一产业最大瓶颈与未来光电深度集成的融合前景。

## Atmosphere & style 整个对话呈现出一种极其专业、务实且充满一战线洞察的技术极客氛围。于让尘博士凭借三十年的硅谷行业经验,用生动的“脑灰质与脑白质”等生物学隐喻,将枯燥复杂的硬科技架构讲得既通俗易懂又深刻。节目毫无宏大叙事或盲目信仰的浮躁,而是充满理性辩证与冷静算账的商业思维,让人仿佛置身于硅谷最前沿的技术战略研讨会现场,真实感受到 AI 算力狂飙背后正悄然发生的产业巨变。

## Detailed walkthrough 以下是根据视频转录稿整理的详细技术综述:

[00:00](https://www.youtube.com/watch?v=13qOMeSTBYo&t=0s) AI 时代的“互连墙”与脑白质隐喻

在过去三年多的时间里,AI 算力经历了爆发式增长,增幅大约达到了 300 倍。然而,与之形成鲜明对比的是,光连接的总带宽仅仅增长了约 30 倍。这意味着今天限制 AI 集群继续做大、做强的瓶颈,越来越不是单个算力节点的芯片能力,而是芯片之间的数据搬运效率。用行业的话来说,真正卡住 AI 系统上线的已经不只是“算”,而是“连”。要打穿这堵通信墙,最关键的技术正是光互连。

为了让大众更直观地理解这一底层逻辑,于让尘博士提出了一个生物学层面的“脑灰质与脑白质”隐喻。人的大脑算力其实集中在“脑灰质”(大脑表层),这里相当于 AI 算力中心,负责所有的计算和运算;而大脑内部高度连接的区域则是“脑白质”,它通过神经纤维负责信息的传递与互连。在人类数万年的演化过程中,大脑在资源有限的格局下,最终演变出了脑灰质与脑白质体积、容量基本上接近“一比一”(或 40:60)的比例。与之相比,像猫、狗等低等动物,它们抓老鼠并不需要那么高的智慧,其脑白质与脑灰质的比例只有 10% 到 20% 左右。

目前的 AI 数据中心其实还处于类似“小鼠、小猫”的早期演化阶段——灰质(算力芯片)的占比非常高,而白质(光互连带宽)的比例还相对较小。但于让尘博士强调,随着 AI 大脑越做越大,行业已经深刻认识到“光互连之墙”的严重性。这个十倍的带宽间隙(Gap)需要整个业内一起来努力填补。在未来的发展中,光互连在总体资本开支中的增长速度必然会大于算力的增长速度。

* **算力与带宽增长差异:** 过去 3 年多算力增长约 300 倍,光连接总带宽仅增长约 30 倍,存在 10 倍的差距。 * **资本开支占比:** 目前光互连在整个 AI 数据中心的总体资本开支中仅占个位数百分比(single digit),但增长空间巨大。 * **算力与连接的投入比:** 如果算力的一份投入是 10,连接目前只在 10% 到 20% 左右。为了保证算力不被浪费,连接的投入增长系数必须大于 1。

---

[05:48](https://www.youtube.com/watch?v=13qOMeSTBYo&t=348s) AI 算力集群互连的三大场景:Scale Up, Scale Out, Scale Across

在俯瞰整个 AI 数据中心架构时,业界经常提及三个核心概念:Scale Up(向上扩展)、Scale Out(向外扩展)以及 Scale Across(跨区扩展)。于让尘博士对这三者进行了层层剖析。

过去几年行业主要发展的是 **Scale Out**,即当单个人的大脑算力不够时,通过网络把更多的大脑连接起来。目前大语言模型(LLM)的训练通常需要万卡级别的规模(如训练一个 Trillion 级别的参数),这需要在一个巨大的物理数据中心内通过几层网络进行互连,其物理距离通常在 1 公里到 2 公里之间,对光互连的距离和稳定性要求极高。而最新提出的 **Scale Across** 则是由于单个数据中心受到地理位置、供电和功耗(千兆瓦级限制)的制约,必须通过多数据中心互连来共同承载训练。例如 Meta 最近发布的某些大数据中心园区,规模已经达到了“曼哈顿 Size(纽约曼哈顿区大小)”,其互连距离从几公里一直延伸到几十公里,通常需要更先进的相干光(Coherent)技术。

最引人注目且被视为“最大潜力节点”的是 **Scale Up**,即如何把单个大脑本身做得更强、更大。Scale Up 场景下的带宽需求是极其苛刻的,它需要极大的带宽和极低的延迟,其带宽密度通常是 Scale Out 的 10 倍。以英伟达发布的 NVL72 为例,它是在一个机架之内把 72 颗芯片组成一个“机架式大脑”。目前机架内为了节省成本主要使用铜缆连接,但铜缆的距离和带宽受限于物理极限(突破至多机架时就会遭遇瓶颈)。现在不仅英伟达在推进 576 颗甚至更大型的集群,谷歌的 TPU 系统更是通过混合集成的方式(机架内用铜,机架外用 OCS 光交换与光互连),将多达 9000 个 TPU 互连成一个更大型的超级大脑。Scale Up 虽然物理距离短(从几米扩展到几十米),但它是光互连一个“十倍机会”的战略级爆发点。

---

[11:19](https://www.youtube.com/watch?v=13qOMeSTBYo&t=679s) 光进铜退的经济账怎么算

在 AI 集群中,行业经常讨论“光进铜退”的趋势。但由于光的成本往往比铜高出好几倍,很多人在经济账上存在疑问。于让尘博士指出,行业里有一种广为流传的说法:“Use copper when you can, use optics when you must”(能用铜时就用铜,必须用光时才用光)。因此,在一个机架之内的短距离,铜互连作为一种成熟的生态仍将持续相当长的时间。

然而,铜缆具有不可逾越的物理局限。随着单通道速率走向 400G 甚至更高,铜缆的传输距离可能从 2 米、1.5 米萎缩到 1 米甚至半米,完全无法支撑多机架的算力扩展。此时,算经济账的角度必须发生根本性的转变:不能单纯去对比一根光纤和一根铜缆的价格,而是要站在终端客户构建算力中心的角度,去计算“单位算力输出”或“单位 Token 输出”的综合收益。

"你花了 3 万块钱买一块 GPU,因为要在互连上去省钱,结果造成你这个 3 万块钱芯片的潜力没有发挥出来,你实际上牺牲的是你的算力,牺牲的是你最后的可以给客户产生 Token 的效率。" 于让尘博士一针见血地指出,光互连能够有效提升成千上万个 GPU 集群的整体利用率,避免算力闲置。因此,只要光互连带来的 Token 单位能量和单位成本更优化,客户的付费意愿(willingness to pay)就会非常高,这种投入就是完全必要且合算的。

---

[14:09](https://www.youtube.com/watch?v=13qOMeSTBYo&t=849s) 深度拆解可插拔、NPO、CPO 三条技术路线

目前硅谷科技大厂在光互连方案上正处于技术路径的十字路口。可插拔(Pluggable)方案、NPO(近封装光学)以及 CPO(共封装光学),本质上都在回答同一个核心问题:光接口到底应该离主芯片有多近?

* **可插拔方案(Pluggable):** 这是一种外挂式、可插拔且方便更换的独立部件。它的缺点是离主芯片距离最远,中间的电信号传输距离最长,因而系统功耗也相对偏大。但它的优点极其显著——灵活性极高,坏了可以直接拔掉换新的,不影响主芯片,且供应链最为开放。 * **CPO 方案(Co-Packaged Optics):** 它的思路正好相反,旨在将光引擎和主算力芯片(或交换芯片)做成一个深度集成的整体。它的优点是将电路径压到了最短,从而实现了最高的带宽密度和最小的延迟。但它的代价同样巨大——散热会极度集中,系统耦合非常深,一旦 CPO 部分损坏,可能会导致整块昂贵的板卡和整个系统报废。因此,CPO 被公认为下一代超大规模 AI 集群的终极形态,但面临高昂的维护和可靠性挑战。 * **NPO 方案(Near-Packaged Optics):** 这是一个介于可插拔和 CPO 之间的中间路线。它比可插拔方案离芯片更近一步,把光引擎放在主机板上靠近芯片的位置,但没有激进到与主芯片封装在同一个衬底(Substrate)上,可以说是目前在性能、密度和可维护性之间折中、平衡的一个方案。

于让尘博士强调,这并不是一个非黑即白的单选题,而是一个多维度的“平衡问题”。在构建特定的算力中心时,功耗、成本、带宽密度、可靠性、可维护性等指标都需要进行优先级排列。

---

[15:25](https://www.youtube.com/watch?v=13qOMeSTBYo&t=925s) 硅谷大厂的“成人路线选择”:拒绝宗教式信仰

外界常有许多公开的“小作文”传言,称某家大厂选了可插拔,另一家选了 CPO。但在硅谷一线的于让尘博士直言,真实的互联网巨头是非常务实的,他们绝对不会做宗教式的选择(即不管代价如何只信仰某一种技术方案)。

事实上,各大互联网公司都在“两条腿或多条腿走路”。一方面他们大量采购英伟达的垂直整合系统,另一方面毫无例外地都在自研算力芯片,包括谷歌的 TPU、Meta 的 MTIA、亚马逊 AWS 的 Trainium、微软的 Maya,甚至 OpenAI 在推进的 Titan 以及马斯克的 xAI 芯片。在这样的格局下,大厂普遍欢迎开放的光互连生态,并高度认可光通信走向“硅光集成”的大趋势。

从公开信息来看,谷歌由于对可维护性要求极高,更倾向于优选可插拔模块(在其公开表态中,CPO 总是“两年后”落地);Meta 和亚马逊在某些高密度板卡上对 NPO 展现出浓厚兴趣;而英伟达为了追求极致的垂直整合性能,正极力往 CPO 方向布局。但于让尘博士透露,在私底下和大厂内部不同的 AI 组网架构中,他们往往根据特定场景做排列组合: "可插拔模块、NPO、CPO,它甚至同一个互联网公司它三项都选,叫做‘成年人不做选择题’。"

---

[20:58](https://www.youtube.com/watch?v=13qOMeSTBYo&t=1258s) 光方案的技术演进节奏与 Slow and Wide 畅想

探讨未来近期、中期、远期的技术演进,于让尘博士认为整个行业正沿着多个维度交错推进:

1. **单通道速率的飞跃:** 行业目前正处于 200G per lane(单通道 200G)的阶段,1.6T 光模块在 2026 年迎来量产。而在未来两三年内,400G per lane 已经成为下一个可见的技术热点和讨论焦点。 2. **通道数的激增:** 光模块正从传统的 8 通道(8 Lane)跳跃到 16 通道、32 通道、64 通道(NPO/CPO 阶段),未来甚至会走向 128 通道。 3. **“Slow and Wide”(慢而宽)全新路径:** 这是一个非常有前景的未来探索方向。当铜缆完全退出、光电接口重新再造时,行业的思路不一定非要往极高频、高速率去走(因为高频电芯片功耗极大)。相反,可以把单通道速率降下来,让接口变得极其简单以大幅降低功耗,但通过半导体集成技术把通道数做得极多。这就好比“虽然每辆小车装的货少,但有成百上千辆小车同时并进”,在物理上它的整体效率反而更高。 4. **相干光下沉(Coherent Lite):** 在 Scale Out 和 Scale Across 场景中,随着速率增高,传统的调制方式难以为继,具备更高调制技术和本征放大作用的相干传输技术在特定排列组合下会变得更有效率。

---

[26:10](https://www.youtube.com/watch?v=13qOMeSTBYo&t=1570s) 12.8T 带宽飞跃与英伟达 40 亿美金战投的信号

在光模块带宽从 800G、1.6T 逐步推进的认知中,TeraHop 突然推出了 12.8T 的超大带宽方案,引发行业侧目。于让尘博士从需求与可行性两个维度解释了这一技术飞跃。需求端来自于前述 Scale Up 场景下巨大的 10 倍带宽瓶颈;可行性端则得益于硅光(Silicon Photonics)技术的成熟。只要硅光芯片的良率和可靠性达到一定阶段,增加通道数对半导体工艺来说是顺理成章的。既然 8 通道技术已经完全 ready,那么自然可以向 16 通道、32 通道、64 通道演进,从而在底层支撑起 12.8T 的巨量解决方案。

与此同时,2026 年 3 月初,英伟达向 Lumentum 和 Coherent 共计投资 40 亿美元并签署战略合作协议,这一重磅消息震动业界。于让尘博士解读认为,这清晰地释放了一个产业信号:黄仁勋在公开场合多次强调光互连是算力构建不可或缺的一部分,英伟达正在用真金白银来锁定其供应链。具体而言,由于英伟达在下一步构建超大集群时急需推进 CPO(共封装光学)方案,它极度担心光互连供应链(尤其是上游核心的激光器)跟不上其指数级(X)增长的步伐。

但于让尘博士同时也指出,这只是大格局下的一个小插曲。终端客户不希望被任何一家厂商锁死,因此他们在大手笔自研芯片的同时,也在用钱包投票(Vote with Wallet),极力推动多元化供应链和多源协议(MSA)的落地,以保证整个 AI 生态的丰富性。

---

[30:36](https://www.youtube.com/watch?v=13qOMeSTBYo&t=1836s) OFC 上的多元协议(MSA)与开放生态的抗争

在与英伟达 GDC 几乎同时举行的 OFC(美国光纤通信展览会)上,行业释放出了强烈的开放标准信号。作为主要推动者之一,TeraHop 在这一轮新的标准制定中扮演了核心角色。

为了对抗市场上某些大厂商高度垂直整合、甚至带有排他性质的私有方案(Proprietary),行业各大公司纷纷联合起来建立开放生态。因为垂直整合方案虽然能在短期内推得动,但其高昂的溢价能力让终端客户非常被动,这也是导致 CPO 谈了许多年却迟迟无法规模商用的瓶颈之一。为了给终端客户提供丰富的排列组合和更高的议价权,多项重大多源协议(MSA)应运而生:

* **12.8T XPO MSA:** 推动光互连带宽实现 4 到 8 倍增长的开放协议。 * **OpenCPX MSA:** 针对高密度、小尺寸算力板卡构建的开放式共封装/近封装协议,允许通过 Open Socket(开放插槽)的方式,让不同厂商的 CPO/NPO 引擎易于维护、替换和维修。 * **SDM MCF(空分复用多芯光纤)MSA:** 随着数据中心容量暴增,传统单芯光纤的密度已经不够(一根光纤如头发丝粗细,机架引出海量光纤会造成严重的物理堆积瓶颈)。该协议推动一根多芯光纤同时跑 4 个通道,极大缓解了现代 AI 数据中心的布线和空间瓶颈。

---

[34:55](https://www.youtube.com/watch?v=13qOMeSTBYo&t=2095s) OCS 光交换 vs 电交换:谷歌的十年阳谋

在光模块单点带宽之外,谷歌将整个行业的思考带入到了一个全新的网络架构重组维度——OCS(Optical Circuit Switch,光交换机)。

传统的电交换机需要对每一站的数据包进行判断、处理和转发,会带来昂贵的功耗和明显的时延。而 OCS 是一种透明的、端到端的交换设备,光信号进入 OCS 后直接通过镜面反射等物理专有路径转到另一个通道,不需要做任何光电转换与数据处理。这种特性完美契合了 AI 模型训练大吞吐量、流量路径相对可预测、工作流相对稳定的场景。谷歌公开发布的方案显示,他们已经成功利用 OCS 将多达 9000 个 TPU 互连在一起,组建成了其专属的“最强大脑(Super Brain)”。其核心优势包括: 1. **极低的功耗节省;** 2. **近乎零的时延(Latency)表现;** 3. **极高的容错性:** 万一某个节点出现故障,OCS 可以通过软件算法重新瞬间调度、规划光路径,实现快速修复。

然而,OCS 也并非万能,它存在两大局限性:一是**切换速度相对较慢**(处于毫秒级,而电交换机在纳秒级),无法做到完全动态的数据包级别切换;二是**光路径的反射会带来额外的光损耗**(通常多出 2-3 dB 的损耗)。这反过来对光模块的链路预算(Link Budget)提出了极高的要求。在这种背景下,相干光技术(Coherent Lite)因为具备本征放大的优势,正在成为 OCS 的完美配对。

于让尘博士提到,谷歌在 OCS 领域已经低调布局了近 10 年,在软件调度算法上走得最远。目前其他硅谷大厂也都在积极评估并做实验。未来,OCS 和电交换机将进入长期共存的混合部署状态。虽然电交换不会消失,但 OCS 在数据中心(特别是 Greenfield 新建项目)中的比例将大幅增加,这为整个光互连产业带来了巨大的新蛋糕。

* **谷歌投资动向:** 谷歌的战略投资部门近期投资了专门从事 Coherent Lite 技术的初创公司 Celero,以期丰富低功耗、低时延 OCS 专用数字信号处理(DSP)芯片的供应链。

---

[42:15](https://www.youtube.com/watch?v=13qOMeSTBYo&t=2535s) 价值链重塑与三条 400G per lane 技术路线的 PK

随着 AI 光互连逐步从边缘配件变成与算力芯片共生的核心部件,整个互连市场(包含交换机和光互连)的总价值正在重塑,很快将演变成一个接近**万亿美金级(One Trillion Dollars)**的庞大市场。

面对 400G per lane 的重大技术关口,市场上存在着三种主流的调制与光源技术方案,各大厂商正在 OFC 等舞台上展开激烈的早期验证与演示(Demo)对抗: * **硅光技术(Silicon Photonics):** 具备极高的集成度潜力,在通道数扩展上优势明显。 * **薄膜铌酸锂(TFLN):** 具备极高的带宽和优异的调制效率,目前处于积极的演示阶段。 * **EML 激光器(传统的三五族半导体):** 性能成熟稳定,依然展现出强劲的生命力。

在于让尘博士看来,目前“鹿死谁手”尚无定论,大家都处于激烈的 PK 阶段。作为头部的全面解决方案供应商,TeraHop 采取了“成年人不做选择题”的策略,让三匹马同时在赛道上跑。同时,他们更为看好**混合集成**的方向——例如尝试将薄膜铌酸锂材料“嫁接”到硅光平台上,打造一个融合两者的混合集成平台,这在未来或许更具发展前途。

---

[45:15](https://www.youtube.com/watch?v=13qOMeSTBYo&t=2715s) 产业发展的最大瓶颈:晶圆大小的代际悬殊

当谈到限制整个光互连价值链爆发的最大瓶颈时,于让尘博士认为,核心症结在于光互连行业整体还处于**半导体集成的早期阶段**,整个上游生态尚未完全发育到位。

一个最震撼的对比数据是:今天用于制造硅光芯片的硅基晶圆(Silicon Wafer)早已普及了 **12 英寸(300 毫米)** 的先进工艺;然而,当去询问上游核心的铟镓砷等光激光器(Laser)厂家时,他们的晶圆大小目前居然还停留在 **3 英寸**。虽然他们现在正拍着胸脯努力向 6 英寸艰难推进,但整个光芯片制造的生态成熟度远远落后于现代硅半导体生态。

为了突破这一瓶颈,行业正开辟两条充满希望的展望路线: 1. **量子点激光器(Quantum Dot Laser):** 这是一项颠覆性的前沿技术。如果能够成功实现量子点激光器在硅基衬底上的直接生长,行业就可以直接跳过 3 英寸、4 英寸的桎梏,直接在 **12 英寸的硅片上成规模地制造激光光源**,从而实现供货量的跨代式飞跃。 2. **光电深度集成(3D/2D 封装):** 类似于台积电(TSMC)推进的 COUPE 平台,FAB 厂们正极力将硅光芯片与电芯片(如 DSP、Switch 芯片)通过先进封装技术进行多层次的 3D 深度集成。

---

[48:44](https://www.youtube.com/watch?v=13qOMeSTBYo&t=2924s) 5 至 10 年的中局展望

将时间轴拉长到 5 到 10 年,于让尘博士呼吁全行业纠正一个陈旧的观念:“以前大家都觉得,光互连省下来的钱应该拿去买算力。这个观念必须被纠正。”

在未来的智能化中局里,全行业应该将光互连视作**算力不可分割的一部分**,从整体、共生的视角去寻找算力中心最优化的平衡点。随着 AI 大脑的无限扩张,光互连在整个 AI 算力开支中的比重将越来越大。就像人类大脑最终进化出体积相当的脑灰质与脑白质一样,光互连必将成为与计算芯片“势当力敌”且深度融合的共生生态。

## Notable quotes > [11:19](https://www.youtube.com/watch?v=13qOMeSTBYo&t=679s) 你花了 3 万块钱买一块 GPU,因为要在互连上去省钱,结果造成你这个 3 万块钱芯片的潜力没有发挥出来,你实际上牺牲的是你的算力,牺牲的是你最后的可以给客户产生 Token 的效率。 — 于让尘

> [11:19](https://www.youtube.com/watch?v=13qOMeSTBYo&t=679s) Use copper when you can, use optics when you must

> [15:25](https://www.youtube.com/watch?v=13qOMeSTBYo&t=925s) 可插拔模块、NPO、CPO,它甚至同一个互联网公司它三项都选,叫做‘成年人不做选择题’。 — 于让尘

> [48:44](https://www.youtube.com/watch?v=13qOMeSTBYo&t=2924s) 以前大家都觉得,光互连省下来的钱应该拿去买算力。这个观念必须被纠正。 — 于让尘

## Mentioned 于让尘, Terahop, TeraHop, 英伟达, Lumentum, Coherent, 谷歌, Meta, 亚马逊, AWS, 微软, OpenAI, 马斯克, xAI, Celero, 台积电, NVL72, TPU, MTIA, Trainium, Maya, Titan, OFC, GDC, 12.8T XPO MSA, OpenCPX MSA, SDM MCF MSA, COUPE

[Source](https://www.youtube.com/watch?v=13qOMeSTBYo)

中文简报

英伟达40亿美元战投光器件巨头 抢跑CPO方案破局AI互连墙 随着AI算力增速与光连接带宽出现十倍缺口,光互连正从边缘配件蜕变为与计算芯片势均力敌的共生系统,驱动万亿级网络架构重构。 在 AI 算力暴涨而光连接带宽遭遇瓶颈的背景下,光互连正成为决定集群效率的关键。于让尘博士深入拆解了 Scale Up 等三大扩展场景,并客观分析了可插拔、NPO 与 CPO 三种技术路线的折中与大厂的务实选择。此外,节目还探讨了谷歌在 OCS 光交换领域的长期布局、400G 单通道速率的技术博弈,以及光芯片上游晶圆尺寸滞后这一产业最大瓶颈与未来光电深度集成的融合前景。 过去三年多 AI 算力增长约 300 倍,而光连接总带宽仅增长约 30 倍;AI 基础设施瓶颈正从算力芯片转向互连带宽,光互连在整体资本开支中的增速预计将超越算力本身。 (0:00) 随着单通道速率向 400G 演进,铜缆受物理极限限制无法支撑多机架 Scale Up 扩展,“光进铜退”的核心逻辑已转变为提升成千上万 GPU 集群的利用率与单位 Token 输出效率。 (11:19) 硅谷主流互联网大厂在可插拔、NPO 和 CPO 间采取务实的场景化折中策略,同时联合推动 12.8T XPO、OpenCPX 与 SDM MCF 等开放协议(MSA),以打破私有垄断与高昂溢价。 (15:25) 谷歌深耕 OCS 光交换十年并互连达 9000 个 TPU,其零时延与低功耗特性正加速与相干光技术(Coherent Lite)结合,未来数据中心将进入 OCS 与电交换长期共存的混合格局。 (34:55) 光互连产业当前最大瓶颈在于制造生态代际悬殊:硅光芯片已达 12 英寸晶圆,而上游激光器仍停留在 3 英寸;硅基直长量子点激光器与 TSMC COUPE 等 3D 先进封装成为破局关键。 (45:15)

Reading summary

于让尘博士指出,过去三年多算力增长约300倍而光连接总带宽仅增约30倍,数据中心正面临严重的“互连墙”瓶颈。光互连正从边缘配件转变为决定数万美元GPU利用率与单位Token产出效率的核心部件,将与算力芯片走向深度融合的共生生态。 互连墙瓶颈与 Token 经济学重塑 (0:00) 在过去三年多的发展中,AI算力增长了约300倍,而光互连总带宽仅增长约30倍,存在10倍的增速缺口。于让尘提出“脑灰质与脑白质”的演化隐喻:负责计算的脑灰质与负责连接的脑白质在人类大脑中接近1:1,而当前AI数据中心仍如低等动物般白质占比极小,光互连在整体资本开支中仅占个位数百分比。为了避免算力浪费,光连接资本开支的投入增速未来必须大于算力增长。 面对行业内“能用铜就用铜”的传统认知,于让尘强调随着单通道速率向400G演进,铜缆有效距离已压缩至1米甚至半米以内,多机架扩展必须转向光互连。评估光互连的经济账不能单纯比较线缆物料成本,而应立足整体系统:若为节省互连开支而使3万美元的GPU算力闲置,实际损害的是单位Token产出效率。只要光互连能够提升大集群整体利用率并优化Token产出成本,客户便具备充分的付费意愿。 扩展场景分层与 OCS 网络架构重组 (5:48) AI集群互连正清晰分化为三大场景:物理距离1至2公里的Scale Out跨机架网络;延伸至数十公里、需采用相干光技术的园区级Scale Across多数据中心协同;以及单系统内部的Scale Up垂直扩展。其中,Scale Up的带宽密度通常是Scale Out的10倍,正从英伟达NVL72单机架铜缆扩展向多机架甚至数千卡集群演进,构成了光互连未来十倍级的战略爆发点。 为应对大规模互连的功耗与时延挑战,谷歌布局近十年的OCS(光电路交换机)带来了全新的架构可能。OCS通过纯物理反射光路实现透明交换,无需进行光电转换,已被谷歌用于互连多达9000个TPU。于让尘分析指出,OCS具有极低功耗、近乎零时延及软件快速调度容错的优势,但其切换处于毫秒级(慢于电交换的纳秒级),且镜面反射会带来2至3 dB的额外光损耗。这使得具备本征放大特性的Coherent Lite(下沉相干光)技术成为弥补OCS链路预算的关键方案。 封装形态平衡与开放生态标准博弈 (14:09) 围绕光接口贴近计算芯片的物理距离,业界形成了可插拔、近封装光学(NPO)与共封装光学(CPO)三种路径。于让尘指出,硅谷科技巨头在选型上拒绝宗教式信仰:谷歌因追求高可维护性优选可插拔方案;Meta与亚马逊在高密度板卡上探索NPO;英伟达则为追求极致垂直性能重度布局CPO。由于可插拔维护灵活、CPO性能极致但存在散热集中且损坏即报废整板的高昂风险,大厂普遍在内部不同组网场景中多轨并行。 在供应链层面,英伟达于2026年3月初向Lumentum与Coherent战略投资40亿美元以锁定CPO核心激光器产能。但于让尘同时表明,终端云厂商并不愿被排他性的私有方案锁定,正在全力推动多元化供应链与多源协议(MSA)。行业近期主导成立了推动4至8倍带宽增长的12.8T XPO MSA、支持开放插槽插拔维护的OpenCPX MSA,以及解决密集布线物理瓶颈的SDM MCF(空分复用多芯光纤)MSA,通过标准化博弈维持供应链弹性与议价权。 演进路线分歧与底层晶圆制造瓶颈 (45:15) 在技术演进路径上,光模块正从单通道200G(1.6T模块)向单通道400G跨越,通道数亦从8通道向16、32乃至64通道跃升。于让尘提出了“Slow and Wide”(慢而宽)的未来设想:在光接口彻底重构后,可降低单通道频率以降低电芯片功耗,凭借半导体集成技术大幅增加通道数来提升总物理效率。在400G单通道调制技术竞争中,硅光、薄膜铌酸锂(TFLN)与传统EML三足鼎立,将薄膜铌酸锂整合至硅光平台的混合集成被视为极具前景的方向。 然而,光互连全面爆发遭遇了严重的底层制造瓶颈。于让尘披露,制造硅光芯片的硅基晶圆早已普及12英寸(300毫米)先进制程,但制造核心光发射光源的铟镓砷等三五族激光器晶圆目前多数仍停留在3英寸,正艰难向6英寸推进,产业成熟度代际差距巨大。未来突破产能瓶颈的颠覆性路径,在于攻克量子点激光器在12英寸硅片上的直接外延生长技术,以及推进类似台积电COUPE的光电3D/2D深度先进封装。 于让尘强调,光互连与交换市场总价值正迈向接近万亿美元规模,全行业亟需扭转“压缩互连成本去买算力”的旧思维,将光互连视作与算力平等的共生系统。然而,上游激光器晶圆尺寸代际落后、OCS的光损与调度延迟,以及CPO维护成本与良率风险,仍是其实现全面规模化替代过程中必须跨越的工程现实。

Source quotes

[11:19] 于让尘: 你花了 3 万块钱买一块 GPU,因为要在互连上去省钱,结果造成你这个 3 万块钱芯片的潜力没有发挥出来,你实际上牺牲的是你的算力,牺牲的是你最后的可以给客户产生 Token 的效率。 [11:19] Use copper when you can, use optics when you must [15:25] 于让尘: 可插拔模块、NPO、CPO,它甚至同一个互联网公司它三项都选,叫做‘成年人不做选择题’。 [48:44] 于让尘: 以前大家都觉得,光互连省下来的钱应该拿去买算力。这个观念必须被纠正。

Original transcript

[0:00] 过去三年多,AI算力增长了大约300倍但光连接的总带宽只增长了大约30倍这意味着今天限制AI集群继续做大的越来越不是单点的算力而是芯片之间的数据搬运效率换句话说,真正卡住AI系统上线的已经不只是算,而是连而要打穿这堵通信墙最关键的一类技术就是光互联今天这期节目我们请到的嘉宾是全球光互联的龙头硅谷AI云计算顶级巨头的核心供应商Tero Hub的副总裁于让诚博士当算力发展300倍光互联才发展30倍其实这个差距有个10倍的一个gap这个间隙要去填补必须整个业内一起来努力所以在公开的场合可能会有小作文到处去写说这家公司是选这个那家公司选那个我想说的是所有的互联网公司他们是很实际的他们不会做宗教式的选择可萨巴模块NPO CPO它甚至同一个互联网公司它三项都选叫做成人不做选择题整个产业链的环节哪边的蛋糕在变大利润是怎么样重新分配的这个很快变成一个万亿级别的问题余总欢迎您来到矽谷坐标您是光互联领域的资深的专家而且是在矽谷的一线的这些科技的大厂去感受整个光互联的需求的变化您先跟我们介绍一下在整个AI最广义的格局下光互联的重要性其实光互联已经成为整个AI算力非常重要的组成部分所以它不管是一个配件它实际上已经成为整个算力中心的一个不可替代的一个连接那这个连接本身已经变成计算算力的一部分算力的发展这已经不能只靠单个芯片光的互联实际上如果单个的算力芯片已经不能满足需求的情况下怎么通过光互联让它组成这个大脑这样的连接和组成大脑的发展的过程是有一个循序渐进的过程那个过程是早期阶段大家可以看到算力从22年到今年应该45年了整个算力发展了大概300倍其实从AI连接也发展得很快但是从数量级上我们是发展了30倍光互联的强这件事情其实整个业内都已经认识到这一点但算力发展300倍汪富联才发展30倍其实这个差距有个10倍的一个gap就是有一个间隙要去填补必须整个业内一起来努力从人的脑的演化我们可以做一个比喻其实人的大脑它的算力是在脑挥制它实际上是不在大脑的表层的这个挥制实际上相当于人大脑的算力中心它所有的计算运算其实都在挥制上那它实际上又是高度连接的这个高度连接是通过脑白质来连接的你可以想象它就是这两个区隔就一个算的一个连接这么一个作用那刚才说的脑灰质和脑白质现在从人脑的比例来讲基本上是可以说是一比一当然也有是40到60如果看到第一等动物它的大脑其实上是比较小的这是第一个然后它的灰质实际上是更多的它的白质房是更少的为什么人的大脑发展到今天这个情况在早期是小猫小狗的时候它不需要那么智慧小猫小狗它可能在光互联大脑的互联方面它其实花的成本就很低白质和灰质的比例大概就是10%20%就够了因为抓老鼠它可能不需要那么大的算力去像人一样应对这么多的问题过去几万年的发展其实人脑已经发展到基本上白质黑质已经是相当的体积相当的容量就是因为它实际上在一个资源格局有限的情况下这是对它最有利的一个演变方向我们今天可能还在小鼠小猫那个阶段因为我们现在还是灰质式的比例都还是比较大的白质还是相对比较小但是整个算力的发展在大脑越做越大的过程中就会发现其实它的算力的发展灰质的发展实际上是要低于这个连接的发展白质的发展这个总体才是更优化的逻辑在这里那我们希望是关互联实际上作为一个未来发展的方向来讲应该这个比例会吃 [5:00] 而且它的增长速度会大于算力的增长速度那光互联在整个AI数据中心大概是什么样的体量资本开支来讲现在只能占到总体资本开支的single digit大概就是几个percent但是增长的很快如果去跟算力对比的话从算力和连接的对比来讲算力如果是10的话现在连接可能只在10到20左右从这个发展来讲应该说算力的一份投入其实连接的投入应该增长大于一这才能保证整个算力不被浪费光连接的发展还是非常大的增长空间我们如果是从俯瞰整个数据中心架构的一个角度业界经常提的scale up, scale out and scale across然后这三概念你能不能用普通人能够理解的方式简单的讲一下然后以及他们之间有什么区别我们其实过去几年发展都叫scale out那意思就是你当个人算力不够的时候你怎么在算力之间去做连接所以如果用类比的话可以说是一个人的大脑不够那我就更多的人我们实际上是在做在更多大脑之间的连接现在大脑之间的互联规模多大呢现在基本上在万卡你要做一个大的 training可能是需要万卡级别的大语言模型的训练的话一个 trillion parameter 的一个 training可能是需要万卡基本上需要一个大数据中心那这个大数据中心里面互联就是相当于算力之间互联就需要几层网络的一个互联所以这个需求本身已经是很大那大脑之间互联叫Scale Out那要把这个大脑越做越大就是你把大脑的本身做得越强越大那这个就是Scale Up但Scale Up因为是大脑自己的发展它的互联是非常大带宽的它是远超过Scale Out基本上是一个10倍带宽的这么一个比例像英伟达的打个比方它叫NVL72它就是一个机架之内先把72个芯片组成的大脑那这个大脑是一个机架式这个机架式里面完全都是用铜缆来连接的因为是铜缆连接它的带宽有限 它的距离有限实际上已经在制约它这个大脑发展的一个前景再下一个世代如果把这个大脑在线大的话必须通过关互联能够把更多的算力芯片能够连接起来那现在这个连接当机架只是72其实因为大家发布已经开开始进入576颗甚至有更激进的其他互联网公司已经在部件1000颗甚至像谷歌的TPU它其实这个大脑已经建到9000个TPU能够互联起来当然是一个叫做混合集成方式机架内还用铜但是机架外它已经开始用OCS再加上光互联已经在建一个更大型的大脑所以这个都是业内非常有前景的一个发展方向至于说Scale Across就是你一个大的数学中心的物理大楼都不够是因为它有地理的限制供电的限制就是供耗的限制造成说你要通过多个数学中心去互联再把它变成整个training算力中心的一部分这一部分的连接就叫Scale Across当然回来说Scale Up还是一个最大带宽的应该说是一个从关连接还是一个叫做低起点的一个机会但这个机会却是十倍的机会所以从Scale Up, Scale Out, Scale Across来讲整体的都在飞速发展但是Scale Up是一个最大潜力和最大可能发展的一个节点可以说从物理的环节来看Scale up 相对比较距离短所以它一定是从这个核心开始往外延伸的刚才说现在这个延伸还是从一个机架开始那现在会延展到多机架那可能是一个从一米两米叫同栏互联这个局限现在要突破到多机架这多基架可能是8个基架可能是10个基架要到谷歌可能是几十个基架这个范围还是相对比较短的比如说就是从几米扩展到几十米这个是scale up是最重要的部分但是带宽它又是特别宽它10倍的带宽所以这个组合对它的方案的选取实际上也有很多不同的考量另外一个考量点是功耗问题因为整个现代的功耗都花在算力芯片上那现在因为要连接你必须要要去分配一部分的功耗在连接上面那当然因为有十倍带宽的连接对功耗的要求或者说效率的要求又比较高所以这部分怎么去做比较合适的关互联方案是业内也是非常重要而且都在 [10:00] 发展的一个课题Scale out你做一个很大的building大概可以做到需要一公里到两公里因为距离长了所以它对光互联的要求又是不一样总体来讲带宽稍微小了比如十倍八倍但是距离长了所以它对光互联本身的要求又不一样再说Scale cross那就更远了数据中心之间的互联可以从几公里到几十公里甚至像META最近他们发布的一些大数据中心可以是曼哈顿Size那就是像基本上整个纽约市的曼哈顿它是最大的区有那么大的一个数据中心圆区所以你可以想象这个规模是从机架到多机架到大楼到整个曼哈顿是一个规模巨大的发展而且不同的Solution不同的光互联的方案要在这个格局之下来演变来变通来用底层的技术来支持您刚刚讲到Scale Up这个场景它是对于整个带宽延时都是最苛刻的一个场景需要像成千上万的让这些GPU都能够像一个整体一样去运行我们知道现在整个机架内的方案都是用铜的方案现在行业都讲的是光进铜退未来要需要用光用光的话可能普通人一下子会觉得光的成本比铜要高好几倍那我们怎么样去思考这件事情到底经济账应该怎么算很好的问题有一种说法叫做Use copper when you canUse optics when you must所以铜互联还是会持续相当长时间的一个生态只是铜互联它有局限这个是物理局限所以它是不可能改变的一个局限整体的优化来讲在一个机架之内可以用铜就继续用铜但是如果你需要把这个大脑变得更强更大那你就必须要用光的时候那你就要用光那刚刚说成本问题其实这个要反过来算的不能说我们用光互联去跟同互联去相比基本上到最后从中端客户构建算力的角度他是应该看他是单位算力的输出或者是单位Token的输出用不同的互联方案给它带来的收益是什么所以到最后应该是算收益即使你在光互联都花一些钱但是造成你产生的Token的单位能量和单位成本是更优化的那一定会让大家愿意投入去买单如果最后的结果是能够产生更多的Token能够产生更多的算力那这个支出就是必要的最后是对用户能产生价值的总体的一个收益和支出的比较我可以这样理解吗就是一块GPU它是三万到五万美金的体量而一块光波块可能是几千美金的这个价值如果说我们把光互联的方案做得更好能够撬动的是成千上万的GPU这个集群的利用率更高所以说这个经济账的话其实光互联的这个客户的williness to pay还稀稀是可以更高的应该可以这么理解我觉得你这理解也是对的如果你在发展算力但是你的互联没有跟上那就造成你的算力会闲置或者算力的利用率不高这个就像你说的我花了3万块钱因为我互联要去省钱结果我这个3万块钱的潜力没有发挥出来我就是算力损失我就是我的token损失对吧所以从这个角度讲一定要去平衡整体的开销一个是算力一个是整体的互联你要把这个当做一个整体来优化所以不要想说省钱省在互联你省在互联你实际上牺牲的是你的算力你牺牲的是你最后的可以给客户产生token的效率目前硅谷科技大厂在光互联的方案上出现了技术路径的十字路口可插拔方案NPOCPO不过它们本质上都是在回答同一个问题光接口到底应该离主芯片有多近第一类是可插拔方案它是外挂式可以插拔可以更换的独立部件它的缺点是离主芯片最远中间电信号传输距离最大功耗也相对偏大它的优点是灵活换了直接可以拔掉换新的不会影响主芯片供应链也最开放接下来是CPU它的思路正好相反尽量把光和主芯片做成了一个深度集成的整体优点是电路径被压到最短带宽密度最高延迟最小但代价同样也很大它的散热会更集中系统偶合也会更深如果CPU坏了可能会影响 [15:00] 整块板卡影响整个系统CPU目前是公认最适合下一代超大规模AI集群的终极形态而NPO是一个介于可插拔和CPU之间的中间路线它比可插拔方案离芯片更近一步但是也没有激进到跟主芯片封装在一起可以说是在性能和维护之间找到平衡如果把这四条不同的技术路线放在同一个坐标去比较您觉得现在最难平衡的是哪些指标是有几个比较不容易平衡这不是一个选择体问题而是一个平衡问题一个算力中心你要去把它优化的话功耗成本带宽密度所有东西它都要就是一个平衡这就会影响后面在不同的应用场景和不同的解决方案它在做特定的算力构建的时候它会去选它的优先级它会去选它优选的方向刚才我还少讲了一个是它的可维护性这个可维护性可靠性还在多几个维度这个所有的维度对客户来讲都重要那都重要会逼着你要选到底哪一个是最重要这个时候就会比较集中到你的设计方案了比如说你在做算卡的时候的设计到底选哪个你是最优或者你做交换机构建的时候这个交换机的构建你会选什么方案刚刚讲到这三种方案我们也很好奇现在硅谷的几个科技大厂他是怎么去选择这样的技术路线的背后有一些什么样的考量从互联网大厂来讲应该说他们的主要考量是我如果买了英伟达的算力或者我自己自建我自己的芯片现在各大互联网公司都在建自己的芯片这可以说是毫无例外谷歌的TPUMeta的MTIAAWS这个亚马逊的Trainian然后你加上Microsoft的MIA叫Maya甚至OpenAI在做自己的Titan然后你再加上伊朗马斯克的SAI在做他的AI芯片他们所有这些互联网公司他同时在买英伟达的叫做垂直整合的系统垂直整合的芯片他同时自己也在迎接自己的算力的大脑所以他实际上都是两条腿走路甚至多条腿走路那在这个格局之下他一定是欢迎开放的光互联的一个生态第二个他们对走向归光这个方向是非常高度认可的他们也知道说算力这个增长不能靠传统的分立器件的组装来达成一定是要走这个半导体高度集成的方向至于说每个厂家他可能会在优先级上会有不同比如说有一些厂家比较喜欢继续延续Plugable就是这个叫可插拔模块的那他就会更喜欢说12.8T XPO这是我最喜欢要的那其他的互联网公司说我更希望来组建这个很密集的这个算力卡来跟这个交换机去互联那我可能更喜欢NPO更喜欢OpenCPX甚至有可能是Plugable CPO就是通过OpenSocket的方式能够把CPU NPO都能用在它的算力卡上所以各家的大方向应该说是大同小异我们知道谷歌是不是用的还是继续用可查吧然后Meta跟亚马逊选择的是NPO然后英伟达可能是想往CPU方向发展为什么他们会选择这样的不同路线背后是因为从自己自身的公司有一些什么样的不同的考虑我只能说从公开的消息来讲谷歌是比较牵向用Ketsada模块这个是他在OC他们都公开出来讲的就是CPU总是2年后而且是每年都是2年后所以你可以想见他们是比较应该说优选这个可差文化但是私下底下他们是不是把这些所有的工具箱都看而且在不同的算力交换不同的AI组网上面他们会有不同的选项其实并不是外面想象的那样每个互联网公司他自己有所谓的叫做宗教式的信仰说一定要选什么不选什么其实到最后大家都很现实哪个方案能够帮你来构建你最合适最优化的算力中心所以在公开的场合可能会有小作文到处去写说这家公司是选这个那家公司选那个我想说的是所有的互联网公司他们是很实际的他们不会做宗教式的选择什么叫宗教式选择就是说 [20:00] 不管代价如何我就要选这个方案这个是很不合理的其实更合理的是各家的架构有所不同那会有不同的偏好它有优先级的选择或者说在特定的架构的排列组合之下它会优选不同的方案同时也可以说即使在同一个大不了公司内部的架构里面它也会有不同的种类外面的印象只是一个表面欠将更核心的现象是这些互联网公司都会去选对他们的算力中心营件最合适的方式而且不局限于只选一种他会多个选取在不同的应用场景用不同的方案可扎巴模块NPO CPU他甚至同一个互联网公司他三项都选叫做成人不做选择题光模块或光互联的总带宽可以粗略的理解成两件事相成第一是每条车道有多快也就是每通道的速率第二是总共有多少条车道也就是通道的数量观摩块的带宽增加一种是增加车道数另一种是把单条车道做得更快您刚刚讲到这个在新增的一个10x10倍增长的一个市场里在早期现在市场上出现了很多不同的方案您觉得未来市场技术演变的节奏是怎么样的近期中期远期您觉得什么样的方案会先落地未来是会往哪个方向去走对这个也是好问题整个业内的发展本身它也是多个维度的那我就讲讲有哪些现在能看到的比较重要的方向刚才说第一个重要的方向就是Scale Up和Scale Across这个会继续增长但这个增长它本身有自己的节奏的Scale Up是一个在文件内是最大的一个增长机会因为这个是个10X它本身就是个10X的一个增长机会所以近期怎么解决客户来在Scale Up能够构建更大的大脑能够让更多的成百三千个GPUXPU都能够有这个构建更大大脑的这个scale up domain肯定是业内一个最重要的一个发展方向那从我们自己推动来讲这个12.8T的XPU已经推出包括这个6.4T的NPUCPU已经推出这些维度的增长已经给客户这个选项那再往后增长还有哪些增长点第一个它的速率还是有一定空间继续增长我们现在是200G plane1.6T我们今年会开始量产在未来两三年是200G plane会变成一个很大的一个增长维度我们业内已经在讨论这400G plane就是每个通道它有400G这个是一个热点而且是一个可见的一个发展就是未来两三年这个400GPlan一定会上同时一个维度在增长速度的同时我们是不是应该增长它的通道数从我们传统上8Lin一下跳到8倍就是64LinNPO CPU现在是32Lin就是一个多通道的这条路线也一定会继续发展而且不会停留在这64Lane,30Lane,后面可能会再发展128Lane在更高的Lane上面去发展到了一定节点,铜实在走不下去了我觉得是有这么一天是铜走不下去了现在铜也就走一个1米半到2米到400G,它可能1米它都很勉强了那400G以后铜还有没有因为这个是物理你是没办法克服的一米可能最后变半米了那这个时候是不是会变成全光那就是完全铜就退出了这就叫做光进铜退终于退出的时候这时候整个光的形态可能也有不同原因就是因为要支持铜它本身电芯片连接的它这个通道的速率它是有特定的逻辑的那如果要是把这个铜缆的连接完全拿掉这个逻辑上会有一个重新的再造那这个重新的再造可能会有不同的光解决方案甚至这个速度可能不一定是往高的走而是往低的走让这个整个连接的这个接口变得简单变得简单有很大好处就整个功耗降下来但是通道数会急剧增长所以我们这个业内也有一条现在大家在探索叫slow and wide就是你你慢但是宽你可以想象说虽然我每个车砖的这个载量小但是我可以有很多的小车可以同时在往前推进我可能效率会比你一个 [25:00] 很大的车但是很笨重的车装的东西更多这个在物理上是可以实现的所以已经有一些尝试当然这个我现在是在展望未来了是有可能在这条路上也会继续发展所以这个维度很多往高速去发展往这个低速但是宽的方向去发展然后这个lane肯定是继续增多如果再说往这个scale out, scale across我们这一页内也有一个发展方向叫Cohenite就是那是更高的调制技术它不一定马上走到Gill Up但是它可能会在Scale OutScale Across这块越走越需要界限的技术这相干传输在特定的排列组合之下它会成为更有效率的一个方式讲到光模块的带宽我们之前都感觉在讲400G、800G1.6T、3.2T现在TerraHub突然提出了一个12.8T感觉是一个很大的飞跃跟我们外行人如果去科普一下的话为什么带宽能一下提升这么大一个台阶这个是应该分两个维度来回答一个是需求一个是可行性你两个缺一不可有需求不可行也没有用需求的方面我们最重要的瓶颈就是这个10S Gap所以需求我们是看到了另外一个是就跟他说scale outscale up的发展同然在当机柜内已经进入瓶颈所以必须要有光解决方案那这个12.8T实际上是在解决这个需求那从可行性的角度为什么是可行的那回来说到这规观的逻辑对规观来讲只要你自成开发出来良率可靠性发展到一定程度做更多的通道对规观技术来讲是一个必然发展的方向所以从可行性来讲我们已经到的地步都已经出了1000多个这种8通道的下面很自然的我们说16通道32通道64通道可以朝这个方向往下走对吧所以从技术打底的层次来讲它已经是ready,已经是成熟可以来支撑这个12.8T的solution所以需求可信性都到这个点上了所以就必然发生了今年3月初英伟达也是向Lumintum跟Coharant投资了共计40亿美金签署了一个战略合作协议这是释放了一个怎么样的产业信号这个只是在证明是公开的证明英伟达对光互联这件事情的重视程度他基本上是在担心供应链是不是能跟得上X增长的步伐所以他是用真金白银来锁定他的供应链那当然这个细分的这个case它主要是在锁定这个激光器的一个供应那实际上坚守皇已经两次在DCC说这个光互联是我们这个整个算力构建的一个非常重要的组成部分那它里面最重要的核心就是CPU就是它现在在下一步构建的时候要用co-package optics那它在做这件事情的时候它需要激光器所以它就是要锁定这个激光器的提供商从这个角度讲其实这个只是在一个很大的格局之下的一个小插曲但是是一个很明确的公开式的证明说在构建AI大脑的时候的重要性像您刚刚说的可能就像这个芯片一样英伟达的芯片是最好的但是同时这些客户也不希望被英伟达锁死他还需要去推一些自研的芯片所以说他们在同时一边用着英伟达同时也要去从供应链还有战略的角度去考虑所以需要再去多元化自己的这种供应链是这种逻辑吗这个都是相辅相成的第一个中端客户刚才说他不愿意被一家锁死实际上已经叫Vow with Wallet他实际上自己在花钱而且是花大大的钱在零件自己的算力芯片他们觉得到后面构建算力本身是一个核心竞争力的一部分它不光是提供服务它自己要进入这个Infra的Business它就是自己要建它自己的算力中心所以做自己的芯片已经不是选项而是必须做的事情这个是各大互联网公司都在做的事情所以从这个角度讲它一定是需要配合的连接的方案去构建这个算力互联已经不是一个配件它是一个必选项它必须是一个一起来优化算力的一个组成部分整体的应该说解决方案的多样性和丰富性和刚才说的多元协议的充分供应对客户都很重要所以我们也是既要照顾到客户他特定的需求又要照顾到丰富性对整个AI的生态的构建也是非常重要的 [30:00] 一个考量不能只是当个供应商他自己选了一个方案然后就强推给所有的客户我觉得这条路线是一定走不远的可能可以在一定的时间在一定的条件下他可以推得动但是要想得到大规模商用要想得到大规模的采用一定是具备丰富性各种维度的一个可选项让客户去做优化这个才会是一个生态比较健康发展的一个方向今年3月和GDC几乎是同时举行的OFC是你们光互联行业一个非常重要的大会您也是参展商之一我们也感受到一个强烈的信号这次有很多开放标准的组织出现您能解释一下为什么在这个时候有这么多不同的声音去维护这样的一个开放生态今年跟去年相比的话有多项非常重大的业内的多元协议和标准推出我们TelHub也是在这一轮的新的标准和新的多元协议的推出方面是主要的推动者我们有发布了最重要的12.8T XPO的多元协议还发布了一个叫OpenCPX MSA的协议这两项很重大的协议其实都是在从光互联的带宽来讲有一个4倍到8倍的一个增长在这多元协议里面现在已经有100公司愿意参与包括互联网公司包括做芯片的公司包括做模块的公司所以很快就形成一个非常乐见其成的一个生态特别是终端客户对这个方案是非常有兴趣来共同建设下一代的AI Data Center的营件像现在已经在市面上比较热闹的一两家大客户大厂商大供应商他们在用的方案都是比较Proprietary的就是比较私有的比较垂直整合这个形态应该说是可以有一定的市场但是对中章客户来讲他们不是喜闻乐见的因为对他来讲变成一个垂直整合打爆卖他的溢价能力变得非常强势对这个生态的营件并不健康这也是为什么CPU谈了这么久一直没有规模商用其实有很大的瓶颈是第一个客户不太喜欢第二个因为要去做系统垂直整合它的技术瓶颈也是非常挑战性很高的同时还有另外一个opencpx那这个生态是什么呢如果对密度的要求更高如果对整个网络构建特别是涮力板卡构建它需要更紧凑的密度更高的光连接解决方案传统上他们会说那我就去做CPU做CPU是没有问题我们也支持做CPU只是这是一个分闭CPU还是一个开放CPU的差别比如说在可插拔方面它能够继续维持它能够易于维护易于替换易于维修同时也满足如果要做高密度小尺寸又能在板上或者在秤底上面都能够用到的方案那这就是OpenCPSSDM MCF这个有点拗口但实际上是一个多新光纤的一个多元协议为什么要做这个事情因为到了你建这个大脑你现在有这么大的容量要上出的时候光纤本身它变成一个瓶颈就光纤的密度都不够高了光纤的密度就是你的头发丝这么大但是有这么大容量的光纤要从一个机架出来还要部件到整个数据中心本身是变成一个可能的瓶颈所以这是另外一个多元协议让多纤光纤成为一个多元协议大家都能用就一根光纤可以跑四个通道这个是另外一个多元协议也是在帮助终端客户能够在构建数据中心的时候有这么多的选项同时有这么多的排列组合让它能够实现10X的震扎OCS Optical Circuit Switch中文叫做光交换机它不需要像传统电交换机那样需要处理中间的数据一站站的处理 判断和转发数据包而是它可以直接让数据以光的形式沿着专用的路径直接通过建立端到端光路径的一个交换设备所以它特别适合AI训练这种大吞吐相对可预测的场景我们刚刚是谈了很多光模块的带宽我们知道谷歌也把整个问题的思考提到了一个新的维度不光是在谈一个单点的带宽而是在讲整个AI这个网络是怎么样被重组的谷歌已经将OCS大规模的去运用到自己的TPO的系统您是怎么看待OCS对于这个产业的意义这个OCS也是一个热点 [35:00] 这个事情实际上从几个维度来看一个是解决算力连接的问题这个连接问题可以是在整个网络不同的层次来得到解决对TPO的解决方案来讲OCS是它构建ScaleUp的一个非常重要的组成部分按照谷歌公开发布的它是可以用9000个TPO再加OCS来组建一个SuperBrain就是它的最强大脑那这个事情有哪些优势呢第一个它取代了电交换它用OCS来取代电交换那这个好处是它省了功耗同时它又节省了食言因为其实上对这个电交换来讲是有食言的所以光交换它实际上整个就是一个透明的进入这个OCS以后它其实转到另外一个通道他是不需要做任何处理的他直接就转换过去了所以他有几个很大的优势食言加上功耗的节省然后再加上成本但是做OCS也不是没有代价的当然有几个我们可能必须要讲的就是说OCS能不能完全取代电交换现在还不能OCS还是比较慢的它基本上是一个重新规划路径的这么一个工具在什么条件下可用就是它的工作流它是相对比较稳定而且是可预测在这种条件下它是比较好用的OCS另外什么环节是万一要是有什么可靠性问题比如说出了固战了它可以通过重新去调度数据流的方式来得到很快的修复这个是它OCS一个很大的优势所以在一个现在的AI组件来讲OCS也是一个热点大家都在评估怎么能够把这个OCS能用在更多的地方我可以说各大互联网公司也都在在做实验但是谷歌是走在最前面而是走得最远他大概在10年前已经开始在做这个事情所以他这个布局是比所有的互联网公司都走在前面这里面有很多软件开发算法的开发所以这件事情应该各大互联网公司自己都要去开发自己的一套算法怎么去调度这些事情是有一段时间要去发展但是我们也乐见这个方向在未来特别是朝一个全光互联的方向去演进的话这可能是其中一个也非常重要的一个组成部分所以说未来可能是谷歌以外的玩家也都会选择OCS然后可能OCS就是未来的一个趋势和方向是吧我觉得谷歌已经开始混合部件对吧它其实也不是说电交换就没了它电交换也用的非常大规模所以是光交换和电交换它是一个互补它能够做一个混合部件只是它的比例已经开始出现了你在其他互联网公司可能OCS基本上是零基本上都还是非常非常低的一个比例那这个往前发展的时候会大家的比例会增加就OCS的比例会增加那当然因为他OCS比例增加对供应商来讲他的机会就很大了因为这么多叫做Greenfield基本上都还没有任何OCS比例这是一个很不错的一个发展方向也给整个光互联产业带来更多的机会那未来中局的话可能是电交换机就会全没有了吗这个比例会是有多少我现在个人相对保守我不觉得这个比例会完全消失毕竟电交换本身它是非常快它可以在nanosecond那秒级它就可以重新把这数据流做转换做重新的倒流这件事情从物理限制来讲OCS还是有非常长的路要走我们说never say never如果你要是说未来5年我觉得不可能完全取代了但未来10年20年有没有可能取代可能比例会越来越大但是我不觉得会完全取代我觉得做电交换芯片的厂家也不要担心说会完全没生意我觉得这个还是长期共存的一个状态O4S方案您觉得有什么局限性吗局限性刚才说一个是它速度比较慢一些就是它导换速度另外一个是它要做光交换必然带来损耗所以带来损耗本身它对光模块的要求链路预算的要求会提的更高这件事情对供应商来讲必须要考量到跟OCS配合的时候它的光模块链路预算不管是CPO还是MPO还是XPO你都要考虑到链路预算的 [40:00] 形态没关系但是必须要考虑到这一点那你的形态是会有改变而且会有选项不同的因为你要多出来这个两个db三个db的额外的损耗有可能在特定环节Coreline变成一个比较重要的选项虽然它可能成本高一些虽然功耗高一些技术复杂一些但是它带来的好处是它有本真放大的作用所以它的链路预算就更高所以你可以想见Coharion Lite跟OCS是一个比较好的配对特别是往后数率增高发展到下面一代两代这个发展可以预见它会这个叫做配对会变成一个比较大的一个区域您讲到谷歌的站头部门今年也是投了Coharion Lite的初创公司叫Celero您从供应链实现的角度您觉得未来推进有些什么样的困难未来推进的节奏会有什么样的变化CoinLine这个发展本身它会对几个维度会产生推动作用一个DSP 数字处理这个是非常重要然后这个数字处理又不能用常规的数字处理因为你要保证低功耗、低食言你必须要针对OCS这个应用场景要做Copinon Lite的话那跟常规的做长距离的BSP是不一样的所以谷歌站头Celerio是有它的考量它希望这个供应链能够更丰富能保障供应它在做相应的投资保证供应链这件事情我们是在公开是能看到的另外一个就是整个光底层逻辑包括silicon photonics 归光的发展它的复杂度会增加很多因为相干的检测本身它是需要做相对比较复杂的调制还要做偏证处理还要保证接收机的平衡所以这个实际上多个维度来讲对归光的要求更高像现在有可插拔的XPO方案CPU NPO这些方案对于光连接的这些解决方案的供应商来说你们未来会怎么布局呢其实不管是什么样的form factor叫它的载体其实都可以用我们作为一个主流供应商来讲又是头部龙头我们不做选项我们是把这些solution都给客户的那客户按客户的不同的构建它来选取我们知道这个Terra Hub手上也是有很多现金未来你们会怎么去花这个钱是会往上下游发展吗我们作为上市公司可能不便在公开场合来讲我只能讲业内的发展方向主要的大趋势是这个光互联会成为整个AI算力构建的一个非常重要的部分我们从传统上只是10和20%后面要发展到跟它共生这个大脑同时在增长但是我们的比重在增长更大我觉得这个是整个业内看到的最重要的一个发展方向在这个过程中有多个维度的可发展方向我们都会在这几个维度来共同发展至于说生态里面的上游下游共生合作和发展来讲我觉得我们也是不做选项的排除的肯定是共同跟友商跟这个上游下游的供应商还是客户都共同来做发展的合作您刚才讲到以后每通道的带宽会提升到400G这个也是今年OFC的一个比较热门的话题然后现在市场上有三种主流的技术一个是硅光一个是薄膜泥酸梨还有一个是EML技术激光器您怎么样评价不同技术路线他们的各自的强处还有他们的各自的短板我可以说这个还不知道谁是主流只能说现在是大家都在PK的阶段不同的方案都在PK的阶段那今年OSC是很热闹因为可以看到不同的厂家都在做早期的验证验证演示阶段就是归光好像也还很有希望在桂光这个方向已经有一些发布那在伯木林山旅也有一些演示发布然后三五族也有发布所以我觉得现在是蛮热闹的是说这三条路线都在发展那对我们来讲可能比较偏好可集成这个方向那我们也在甚至在做这个叫混合集成方式比如说有可能把伯木林山旅嫁接到桂光作为一个混合基层的一个平台对我们来讲觉得是一个更有发展前途的一个方向那对我们做解决方案提供来讲我们还是那句话成年人不做选项我们会让三条码都在跑不管是EML三五足的方案还是薄膜磷酸铝方案还是硅光方案我们都不放弃我们其实都在 [45:00] 想跟您谈谈整个产业价值链是怎么样重新改变的从可插拔到未来的NPO、CPU整个产业链的环节哪边的蛋糕在变大利润是怎么样重新分配的这个很快变成一个万亿级别的问题整个就是连接不管什么连接你是做交换机你还是做光复联这个整体的市场价值已经基本上接近一个trillion dollars万亿美金的价值那大家现在都在开发自己的方向哪个是CPU 哪个是NPO 哪个Plugable我自己个人觉得是一个混合往前走的一个方向但是我觉得很重要的一个底层逻辑是大家会朝半导体集成的方向去做而且光和电会越来越集成从这个方向性来讲可以说半导体化的光互联这个是一个必然的方向至于说哪个形态他们之间互相之间的价值最后会是多少我觉得可能是一个往前走的时候大家且走且看的一个过程我们作为官方Solution供应商来讲我们并不是锁定一定要做可插把模块我们并不是可插把模块供应商我们是个光互联供应商所以对我们来讲我们是乐见在前面演进的时候用底层的半导体技术不管是光还是电来支撑可插把模块NPO CPU它往前演进时候发展到最后我觉得大的玩家应该是会这样的玩法您目前看到的整个产业链的最大的瓶颈在哪里我觉得最大的瓶颈是我们作为一个产业来讲还在半导体集成的早期阶段拿激光器来讲激光器基本上还是一个小众生产的生态过去两年是逼着大家往前快速增长但实际上这个生态还没有完全发展到位所以这个又是另外一个话题未来几年这个比如关激光器怎么发呢我觉得这个激光器现在的格局你知道现在我们做这个Sylikimutron已经是12英寸300毫米如果你要去问激光器厂家它的晶圆大小它现在是3英寸他们现在是拍子胸脯要做6英寸所以远远落后我们整个半导体的生态最近也有一些新创的企业甚至开始做量子点激光器它的做法是如果能够走到量子点激光器其实后面是可以在硅片上去做激光器这个就是个跳跃你可以直接从现在三寸四寸跳到12英春的亮智点激光器来做激光光源那时候你的瓶颈就是大大的就可以突破这个只是我们在展望未来的一个方向另外一个方向就是刚才说光电集成这个肯定是在光和电之间特别是封装方面会有一个很大的共生发展甚至叫做多层次的集成3D 2D现在其实大家都在开发这方面的集成的这个跟半导体生态其实非常接近像TSMC他们做COOP他专门做了一个包括规光包括电芯片的这么一个集成平台这个方向只是TSMC在做的其他的FAB也都会在这个方向在努力能够把光和电能够做深度集成您觉得把时间拉长到五年十年您觉得未来光互联的行业会怎么样发展这也是几个维度来讲就是刚才说从技术的程度我也讲了很多了那从算力的支出来讲以前大家都说你的光互联的省钱应该省出来放在算力上我觉得这个概念本身需要纠正的地方大家应该把互联光互联看作算力的一部分所以最后怎么样取得一个算力最佳最优化的一个平衡这应该把它看作一个整体而不是把算力和互联看作一个互相争夺资源的两块而是一个共生共同成长共同优化的一个生态那我们乐见的是这个光互联会在整个这个AI算力构建的发展中占越来越大的比重所以会成为像现在人类的大脑脑白体和脑灰体这两个之间的比例我觉得应该还有很大的成长空间会增加到成为一个算力非常不可分的一个而且是一个事单利敌的一个组成股份