幻方DeepSeek发布极低成本推理模型 引发英伟达大跌并重塑硅谷AI格局

幻方DeepSeek发布极低成本推理模型，引发英伟达大跌并重塑硅谷AI格局 DeepSeek通过极端精细的工程协同与算法优化实现了推理成本的断崖式下跌，正通过颠覆SaaS商业逻辑和CUDA生态壁垒来倒逼全球AI产业链进行利润重构。 本期节目深度解析了 DeepSeek 凭借 V3 和 R1 模型震撼全球 AI 界的底层逻辑，肯定了其在 MoE 架构、MLA 机制及 GRPO 强化学习算法上的扎实工程创新，并对模型蒸馏和实际研发成本等外界争议进行了理性澄清。内容进一步探讨了这一冲击如何打破英伟达的软件垄断溢价，重塑硅谷巨头竞争格局，以及如何通过断崖式下跌的推理成本为 AI 应用层与端侧 AI 带来颠覆性利好。最后，节目揭秘了母公司幻方量化及创始人梁文峰在业绩回撤与融资受阻的困境下，凭借技术理想主义和本土极客氛围实现极限突围的传奇历程。 DeepSeek 推出 6700 亿参数的 V3 及推理模型 R1，以极低成本实现媲美 OpenAI o1 的性能，引发全球 AI 圈巨震并一度导致英伟达市值单日蒸发 5600 亿美元。 (0:00) 在技术架构上，团队优化了 MoE 负载均衡与多头潜在注意力机制（MLA），并采用省去 Critic 模块的 GRPO 强化学习算法，驱动模型展现出自发推理与反思的思维链能力。 (9:59) 针对蒸馏抄袭与 557 万美元训练成本的争议，业内指出该数字未计入试错研发开销，但推理阶段仅激活约 1% 参数所带来的推理成本断崖式下跌，对应用层构成了实质性的范式颠覆。 (14:59) DeepSeek 并非真正绕过 CUDA，而是基于底层 PTX 汇编与 FP8 计算进行了极高难度的深度工程优化，虽未摧毁英伟达的生态护城河，但显著动摇了其超高利润率溢价。 (44:59) DeepSeek 脱胎于量化巨头幻方及其创始人梁文峰的技术理想主义，这支平均年龄仅 28 岁的本土年轻团队凭借极致的软硬件协同与极客氛围，打破了硅谷大模型路径的垄断。 (61:30)

《硅谷101》通过采访数十位业内专业人士指出，DeepSeek 凭借在架构与算法上的底层工程极致协同，打破了大模型高昂成本的壁垒；尽管伴随数据蒸馏、真实成本与安全漏洞等争议，它不仅促使硅谷巨头调整产品防线并松动了英伟达的溢价，还从底层重构了大模型应用层的商业逻辑。 架构与强化学习的工程化创新 (0:00) DeepSeek 的核心突破在于对计算与显存效率的极致挖掘。在拥有 6700 亿参数的 V3 基础模型中，团队优化了混合专家架构（MoE）的负载均衡，并结合多头潜在注意力机制（MLA）显著缩减 KV Cache 占用，使模型单次推理仅需激活约 370 亿参数（激活率仅约 1%），大幅降低推理开销，同时辅以多 Token 预测（MTP）和软硬件层面的精细协同。 在推理模型上，DeepSeek 摆脱了主流依赖人类反馈的强化学习（RLHF），推出采用纯无监督强化学习微调的 R1-Zero。该模型运用去除了 Critic 模块的 GRPO 算法以节省计算显存，并通过针对标准答案设定的奖励函数自动习得反思推理能力；针对纯强化学习导致的中英文混杂及可读性缺陷，团队最终引入少量高质量监督微调（SFT）数据构建出 R1，以低算力实现了可比肩 OpenAI o1 的推理性能。 蒸馏指控、研发成本与安全性拷问 (14:59) 在技术出圈的同时，DeepSeek 也面临多方质疑。媒体报道 OpenAI 指责其使用 API 数据进行“黑盒蒸馏”，但业内人士指出蒸馏在行业属普遍操作，且 OpenAI 在不公开自身权重和训练集的情况下陷入了难以自证与被指双标的尴尬境地。在成本方面，DeepSeek 声称的 557.6 万美元 V3 训练成本被 SemiAnalysis 等分析机构指出仅指单次成功训练的硬件租赁理论值，并未计入此前数月的架构试错与人才开销，其实际硬件支出据估计超过 5 亿美元。 此外，网络安全公司 Wiz 在 2025 年 1 月底披露 DeepSeek 曾因数据库暴露泄露超百万条系统日志和 API 密钥等敏感记录，加之遭遇大规模恶意网络攻击导致服务中断，引发了外界对这一年轻小团队承载全球海量并发与合规安全能力的担忧。 重塑算力格局与英伟达溢价松动 (44:59) 针对部分媒体“DeepSeek 绕过 CUDA”的报道，技术嘉宾一致认为该表述并不准确。DeepSeek 是直接在英伟达底层汇编指令 PTX 级别进行深层优化，并结合 FP8 计算与存储降低显存消耗。由于 PTX 优化代码高度定制且难以维护移植，各云厂商并未动摇对 CUDA 通用生态的依赖，英伟达的护城河依然稳固。 但 DeepSeek 的突破证明了弱化绑定顶级芯片的可行性，直接给 AMD、博通、谷歌 TPU 及各家 ASIC 推理芯片提供了生存空间。分析人士指出，这一趋势虽不会摧毁英伟达壁垒，但将对英伟达此前超过 90% 的毛利率溢价形成降价压力；长期来看，推理成本的断崖式下跌将降低准入门槛并激发应用繁荣，算力整体总消耗量反而有望被进一步推高。 大模型巨头应对与应用层商业重构 (24:59) DeepSeek 的极低定价与登顶多国免费榜的表现对硅谷同行造成了直接冲击。OpenAI 迅速反击，不仅推出降价 63% 的 o3-mini 并首次向免费用户开放，还发布 Deep Research 强调顶级任务上的前沿性能；Meta 内部则设立四个“战时控制室”以推进 Llama 4。然而，相较于先行者背负的巨额前沿研发亏损，追赶者的低成本优势正在促使二级市场重新审视巨头的资本消耗速度。 在应用层，模型推理成本的剧降彻底激活了长尾与高算力需求场景。例如用户单次时长高达 2 小时的陪伴类 AI（如 Character AI）以及高频多轮迭代的 AI Agent，其高昂成本痛点得以实质性缓解。此外，端侧小模型性能跃升使边际计算成本趋于归零，正在颠覆传统 SaaS“低价硬件搭载高额软件订阅”的盈利逻辑，也使投资界从横向大模型团队转向具备垂直业务护城河的纵向深耕企业。 量化技术基因与本土极客团队崛起 (61:30) DeepSeek 的技术突破源自中国量化巨头幻方量化的长期积累。创始人梁文峰早在 2016 年便将深度学习引入量化交易，并在 2019 年与 2021 年顶住业绩回撤压力，先后自研搭建拥有上万张 GPU 的“萤火一号”与“萤火二号”算力平台，最终于 2023 年独立成立 DeepSeek。 团队平均年龄仅 28 岁，由国内顶尖高校毕业生组成，不设 KPI 或 OKR，呈现出类似早期 OpenAI 的纯粹学术探索氛围。尽管在 2024 年 5 月曾因量化背景和开源路径遭遇国内创投机构的商业冷遇，团队仍凭借深入底层的研发作风（如耗时月余自研将官方核心算子提速数倍）实现技术突破，这种追求理论极限的工程师文化正在倒逼硅谷反思其既有的技术优越感。 DeepSeek 凭借底层工程创新与彻底的开源策略对既有大模型格局形成了实质性冲击，但初创团队在全球服务稳定性、数据安全合规以及缺乏明确商业闭环下能否持续保持技术领先，仍是其未来面临的关键考验。

[0:00] 业内嘉宾: they did have pretty strict resource limitations [0:00] Satya Nadella / Alexandr Wang: 最主要的智能模型 [0:00] 编排完美的舞蹈 [14:59] 业内嘉宾: Catch-22 situation [14:59] Bill: Inference Cost [14:59] Bill: One-time cost [14:59] Bill: Subscription [14:59] Bill: Game-changer [24:59] a slap in the face [51:50] 业内人士: AI界的拼多多 [54:59] Larry: 杀鸡用牛刀 [61:30] 业内人士: 幻方更像是一家做机器学习的人工智能公司，副业是用量化交易挣了钱 [67:30] 合作伙伴: 一个发型很糟糕的书呆子 [73:50] 吴炳健: 因为他们的老板自己读论文，自己写代码，自己做招聘。 [73:50] Yann LeCun: 错位的优越感

[0:00] 我们来深度聊聊Deep Seek2024年12月底中共幻方量化旗下的人工智能团队发布6700亿参数大语言基础模型Deep Seek V3紧接着在2025年1月20号开源了基于V3的两款推理模型Deep Seek R10和Deep Seek R1一周之后Deep Seek趁热打铁又是推出了开源多模态模型那么震惊全球AI界的点在于DeepSeek使用想象不到的低成本直接得到了不输OpenAI退离模型O1太多的性能那么这代表着潜在对AI大模型发展范式的颠覆对GPU算力市场的影响以及对AI初创企业生态的改变2025年1月底在媒体聚集的达沃斯论坛上微软CEO Satya Nadella以及Scale AI的创始人Alexander Wann的发言直接将Deepseek推到了风口浪尖我们应该非常严重地取得了我们有发现是Deepseek就是最主义的智能码码他们的模特是最好与美国的模特上的最好的模特这直接导致了1月27号美股市场中英伟大重挫17%蒸发市值5600亿美元创下美国上市公司单日损失记录在我们的评论区和邮箱是收到无数人让我们聊聊Deep6的要求所以整个春节期间我们贵股101团队也没闲着组成了一支五人小分队进行了数十人的嘉宾采访想从技术资本市场等等多个维度聊聊Deep Seek带来的影响这包括第一在技术方面Deep Seek的创新到底在哪里第二Deep Seek对接下来的AI发展会带来如何的影响这包括了OpenAI Anthropic这样的闭源公司还有Meta这样的开源AI公司的影响对英伟达这样的顺利提供方的影响以及对于开发应用和创业生态的影响那么第三呢我们也想试图来复盘一下Deepseek为什么会是一家量化金融公司给孵化出来的换方是一家什么样的公司呢那在我们做Deepseek的研究当中啊发现产业中啊依然有一些非共识和巨大的争议包括呢对Deepseek模型蒸馏套壳所谓的数据盗窃还有成本估算啊算力提供以及呢安全性能的一些公寄和指责的观点那我们在这个视频当中也试图去收集业内人士的看法后终隐喻一下希望能够提供一个供大家理性探讨和交流的空间也欢迎大家在我们的弹幕和留言区理性的评论和讨论另外再说一点我们采访的不少嘉宾英文是母语或者工作语言主要为经文所以会有一些中英夹杂的情况请大家多多的包涵那我们就开始吧那抛开DeepSeek面临的众多争议不讲在硅谷的共识是这个又便宜又好的模型确实是有扎扎实实的创新在的这样的创新并不是技术创新而更多的是工程上的创新让AI大模型训练和推理变得更高效 更便宜那首先我们要理清一下DeepSeek目前发布了三个更新分别是6100亿参数的大语言基础模型DeepSeek V3使用无监督数据借助增强学习方式在数学和代码专业问题上微调得到的推理模型DeepSeek R10以及第三是在DeepSeek R10的基础上握入带有标签的监督数据提高模型综合能力而得到的DeepSeek R1我们一个一个的来说首先我们来看一下DeepSeek在基础大模型V3架构上的创新DeepSeek R1那我们一个一个的来说首先我们来看一下DeepSeek在基础大模型V3架构上的创新DeepSeek在2024年5月发布的V2模型当中就已经介绍了两项主要的架构创新分别是混合专家结构MO1和多头潜在注意力机制MLA而这两项技术在随后发布的V3模型当中体现出的效果更加很明显那Deep6声称啊V3模型训练耗时278.8万个H800GPU小时那么按照每GPU小时2美元租赁成本来计算训练成本总共只需要557.600美元V3的里边的重要的点的话我认为基本上都在efficiency就是说这种和这种model架构的efficiency上的提升我觉得在V3里边的话有两个比较重要的工作就是一个是MOEMOE的话以前的话你会发现不同的Expert他的load balance做的不太好所以当你把它分散到不同的这种节点上的话他的load balance会有问题所以他们在这一点上做了一个这种load balance的优化同时呢在第二点上是说他在这种multiheadTension的这个 [4:59] layer的话它要节省这个kv cache所以它提出了一个我记得是multihead latent tension这样的一个方法其实一个核心思想是减少它的这个kv cache的其实也是在提高这个架构的efficiency就是它的性能吧然后这两点作为它的核心的这样的一个创新然后使得它在一个600多币的一个这种这种microsoft级别的这种大模型上然后它的基础模型的表现其实已经挺不错的了那如果是对AI当模型没有基础的小伙伴们是不是听不太懂啊没关系我们技术里面的两个关键词分别是MOE和MLA那我们规估101小分队呢试图来简单解释一下那如果已经是AI业内人士或者是工程师啊可以跳过这段要理解MOE混合专家架构啊咱们不妨来打一个比方它就像是一家餐厅里有一群顶级厨师每个厨师呢专攻一道菜那一个聪明的服务员啊他就会根据顾客的点单需求将任务动态分配给最擅长的道菜的厨师就比如说我既想吃麻婆豆腐又想吃提拉米苏那么这个时候就需要一位川菜师傅和一位甜点师傅分别来做这两道菜而与此同时呢其他的厨师就可以休息反观传统的架构我们更像是有一位全能型厨师他什么菜都会做什么菜都可以做但这样一来消耗的时间和精力越就越高所以MOE这种设计大模型的方法核心就是通过动态路由机制将输入数据分配到不同的子网络或者说专家进行处理每次应用的时候只会激活部分的专家这样就可以提高计算的效率降低训练和推理的成本最后在6700亿参数中Deepseek v3只需要激活370亿参数值得一提的是这并不是Deepseek原创的方法像Google的项目我认为我们在这里看到的大改变是其他人们都没有做到所以他们都能够经常发展这些资金他们都没有资金的限制而 DeepSeek 队伍有的他们也有很严重的资金的限制know, they did have pretty strict resource limitations.不过因为混合专家系统是在建立一个专家团队,那么专家之间的交流与沟通也至关重要。这就是DeepSeek团队在原有的技术基础上创新的点了。我们的采访嘉宾说,DeepSeek让正确的人完成了正确的合作。 And so to really be able to dial that in and achieve those kinds of outcomes, you need your software engineers, your hardware engineers that are looking at the network logs, seeing how much network communication, how much latency that's adding, and then very carefully coordinating across everyone to do that. and I think that's the critical piece where in larger companies when you have that many people working together it can be just really hard to make that just I guess dance get well choreographed and turn into these kinds of outcomes DeepSeek另外一个架构上的创意叫做多头潜在注意力英文是Multihead Latent Attention简称MLA这解决了内存限制问题V3又在此基础应用了多token预测或者叫MTP技术增加了注意力模块以预测接下来的多个token而非单个token这在训练过程中提高了模型的性能好的那么在说完了V3基础模型之后呢其实真正让Deepseek火起来的发布呢是之后的两个推理模型Deepseek R10和Deepseek R1因为呢这是直接对打OpenAI的O1推理模型的那么我们接下来来看一下这两个模型上的成型点在哪里那由于推理的严密性啊推理模型更擅长于解答有标准答案的问题比如说写代码做数学题等等那在R1出现之前OpenAI的Owen知识场上唯一一个推理模型但Deepseek出圈的另一个关键是在于R1它不仅会思考还详细地列出了思考过程在这个过程中Deepseek更大的创新点则是在R1的训练上它使用了无需任何人类反馈的强化学习在这里我们要先提到R1的前身DeepSick R10DeepSick团队提到训练R10时他们用了纯粹的强化学习方法目标是探索大模型是否能够在没有任何监督数据的情况下发展出推理能力那什么是强化学习呢简单来说强化学习方法就是给机器大量的数据和一个 [9:59] 奖励函数我们熟悉的AlphaGo就是通过强化学习完成了从模仿人类到打败人类的超越在这一阶段它完全摒弃了人类的旗谱反而是在不断的自我对异中优化策略然而在目前大模型的训练中还是以基于人类反馈的强化学习Reinforcement Learning from Human Feedback或者叫RLHF为主在这种训练中虽然人类会告诉模型哪种选择是更优的但也有众多弊端包括人类反馈的不准确性和偏见奖励模型的泛化能力差以及策略优化的困难等等那么Deepseek做了什么呢在V3这个基础模型之上Deepseek使用了一个叫做GRPO的算法来提升模型的推理表现GRPO的全称是群体相对策略优化OpenAI的模型基本上是在整个数据的数据所以我们有问问和答案然后模型就全部进入 DeepSeek's model is trained using a reinforcement learning technique called GRPO This is group relative policy optimization This means that instead of giving all the questions and answers to the model you ask the model to optimize its behavior based on what it knows already and to achieve better results This leads to massively more effective你请了模特去更加稳定性的行为基于什么它已经知道了以来成为更好的结果这就引起来更加稳定的训练以及更加稳定的训练OpenAI在此之前提出了另一个强化学习算法PPO或者叫尽端策略优化这种算法通过所谓的Critic来衡量某个行动对于当前策略的优劣提供了更稳定的优化效率但是GRPO则去掉了Critic的部分直接优化策略本身减少成本但有意思的是GRPO也不是新技术甚至被业内人士称为比PPO更退化的算法但是Deepseek就是以这样的方式将大规模强化学习做得更高效了因为说句实话GRPO就是Deepseek用来训练RRL的模型的算法其实并没有什么高升但是从某种意义上来说是PPO的一个退化并不是进化它只是用了GRPU的方式去解决算力的问题和computation efficiency的问题所以从某种意义上来说它用了一个比PPU还退化一点的GRPU的算法去解决大规模RL运算的问题再回到强化学习本身之前我们提到推理模型最擅长的是回答那些有标准答案的问题那么在训练推理模型的过程当中也有这样一大好处就是我们可以直接去验证它的答案Deepseek团队就给R10一系列数学编程和逻辑问题并设计了两个奖励函数这一个是为了验证标准答案另一个则是为了确保输出连贯格式规范DeepSick团队让模型提供多个答案并用这两个奖励函数去为它打分DeepSick团队发现通过这样的训练只要给模型提供正确的激励那么AI就可以自动找到解决问题的策略和思路最后它展示了就是特别是R10纯粹用这样的知道答案以及知道可以验证的方式就可以通过强化学习训练出很好的reasoning的能力然后它这次并没有说具体用了多少但是因为它展示了用了多少步和用了多少数据所以大家其实可以算出来它大概会用多少钱我觉得非常非常多的公司其实现在已经开始验证而且这个问题的方式已经被一些用更小的模型在更简单的数据上做了一些验证大家的确可以观察到就是这个方式的确有效的所以我觉得接下来会激发非常非常多的创新但尝试的过程中也可能有一个问题就是人类无法理解那些完全利用强化学习进行训练的模型所输出的内容Deepseek自己也提到R10的可读性很低一个回答里甚至会出现多种语言所以Deepseek团队最终还是创建了新的监督微调数据集重新训练V3基础模型最终的结果就是今天的R1R1的成功证明了利用无监督机器学习训练推理模型的可能性以及通过少量算力达成模型性能提升的方法从高校团队到初创公司再到大厂玩家都在这里看到了新的机遇而对于将潜在颠覆AI大模型办事的DeepSeek来说也在全球AI界是引发了一些争议包括DeepSeek是不是用了OpenAI的数据来训练模型或者真留了套壳了OpenAI的模型DeepSeek号称的500多万美元成本是真的吗用到的到底是因为打了什么卡以及现在的安全漏洞都让Deep Seek在另外一面面临着不小的质疑那么对于这些问题我们也与业内人士聊了聊首先我们看到Deep Seek面临的一个指控是模型蒸馏有大约的证明Deep Seek在这里做了 [14:59] is they distilled the knowledge out of OpenAI's models, and I don't think OpenAI is very happy about this. That Fox and the Gizong时报等媒体 reported, OpenAI is found that DeepSix found in the training process and used the data to defend OpenAI's knowledge of the data. This process is called the distilled in the industry. Distilled in the industry is basically deep-sea going in and making a lot of queries to OpenAI's API, generating a lot of results, and then trading on top of that results. So DeepSeek doesn't have to have access to OpenAI's models. This is called black box distillation. You don't really have to have access to a larger model to make the smaller model a lot better. So there are some accusations there, but in order to prove that DeepSeek has to sell from OpenAI, OpenAI has to provide evidence on API usage. Maybe there's some suspicious actors making a lot of API requests to OpenAI. Maybe the model performance of DeepSeq's models are very similar to OpenAI's models. And maybe the output and code that DeepSeq generates are very similar to what OpenAI generates. So those can all be used as evidence to show that there might be a distillation happening with DeepSeq When we talk about the technology technology technology蒸馏其实是AI开发人员非常常用的一种做法他们通过使用更大能力更强的模型的输出在较小的模型上获得更好的性能从而以更低的成本在特定任务上获得类似的结果那么在业内尤其是在学术界研究人员经常使用帧流的技术有时候整个训练数据集可能都是GPT输出的内容我想知道他们会有证据的证据我觉得是很难的事证据那么OpenAI为什么会认为Deep6使用这种方法是侵犯了它的利益呢 The agreement is that the data that the OpenAI can be used to use to open AI to open open AI But what does this mean It very complicated that is very unclear in the AI space, which is what is a competitor. The difficult part is that it's very, very hard to exactly prove that there is a solution. Even with all of those things going on it very hard to say okay this is concrete evidence showing that there is distillation going on without OpenAI coming out revealing their own code and revealing their own model architecture as well as their own model weights OpenAI is in a Cache22 situation here It wants to say there distillation but at the same time it cannot do so while protecting its own models I think it's actually pretty ironic because OpenAI has been caught in the past, you know, training their models on copyrighted data. And now it's coming out and saying like, DeepSeek, you're taking my data. And I just think the whole thing is pretty ironic and hypocritical in a lot of ways. That I think this is the case of AI-like technology. The law and law law are not even at all. What is not law? What is law? What is law? What is law? The law and law are very clear. So in the case of the open eye and deep seek, the law and the law of deep seek is a different. I don't know if you agree with this. But we know that law and law and law and law of law and law and law and law are very clear. The drug has a special special care for the drug. So that's why it's been a special care for the drug. So that's why it's protected by the drug companies. And it's been a long time to open for the drug companies. It's been a cheap way to make the drug companies. But the drug companies have been built in the drug companies. So, [19:59] 我们也期待看到呢进一步的法规和业界标准的完善和出台那么另外一个对DeepSeek的争议就是成本了硅谷对DeepSeek的成本讨论这么大是因为V3模型训练只用了557.6万美元注意这并不是DeepSeek实际花的钱而是呢用278.8万个H8每GPU小时2美元租赁成本计算这样算过来的但是这个成本依然是无法想象的低那么在硅谷这边流传很广的一篇来自Semi Analysis的分析就认为说DeepSeek的预训练数字远不及模型实际花费的金额光是在DeepSeek的硬件支出就远高于5亿美元此外在模型开发过程当中还需要花费大量资金来测试新想法新架构和试错那比如说我们在第一章提到的多头潜在注意力MLA这个关键的创新啊就花了几个月的时间去开发耗费了整个团队的人力和GPU小时都得算进去所以呢有一些指责认为说啊一些媒体过度放大了这个数据或者说呢Deepseek团队太用这个一次性训练的数据做噱头了因为训练一次模型的费用还不是烧起了大头此前的各种实验虚脉开发人力这些成本加起来才有意义一般来说H200的租金大概在两年几美金两年五美金左右如果你去就是retail租的话但它如果是那么大一个集群的话确实可以在便宜所以literally你就租这个GPU这个硬件去做这件事情就是这个价格但是事前的试错成本是非常高的大多数的成本都不在哪一次训练上面而是在前面大量的试错上面所以我觉得这个对比本身是有一定价值的但是在训练这件事情上面就这样对比其实价值不很大我们也看到外界对幻方和DeepSick到底用了什么GPU的卡是H100还是H800还是A100是众说分云都有不同的猜测比如说Semi Analysis就说他们认为Deep Seek有5万张英伟达的Hopper GPU包括1万个H800单元1万个H100单元以及额外购买的H20芯片那么毫无疑问这是引发了一些对美国政府进一步加强英伟达GPU出口管控的呼声那么这些目前只是外界的猜测我们无法证实真实性但是Bill的观点其实也非常有意思他说Deep Seek到底用了什么卡这个成本到底是多少其实都不是最重要的重点那么重点是Deep Seek的技术创新是真真实实的带来了推理端的价格大幅度下降而AI界需要认识到这个范式的重要性并且让这个范式全面降低AI的推理价格我觉得更重要的是去研究一下它的推理成本那有一件事情我觉得可能大家很少提到就是DeepSeek它那个模型的Sparcity就是它的吸收度是非常高的它在进行Inference推理的时候它只有35还不是37个Billion的参数是Activate也就是说它只有1%的参数在训练的时候真正被Activate了而大多数的大模型它的真正在训练的推理的时候所得到的那个真正Activate的参数量很大的远高于他们所以他们的训练的即便训练很便宜它不是一个main soundboard我认为它在inference的时候的activation的数量低可能是个更大的 soundboard因为它是个持续的消耗当你一个模型就play出去以后你每一次inference都要去消耗而training是个one time cost当时你完成的时候就是完成了那如果说training训练成本就像一次性买一个大件你要花很多钱那么inferencing推理成本就像是subscription订阅模式一样你得不停地去花钱所以Bill就认为说从财务的角度来说inferencing成本可能远比训练成本更加重要而对于开发者和应用端这才是一个改变游戏规则的事情所以他如果可以做到30几个别的activation的话那就意味着它整个inference所需要花的时长以及computation的complex就会缩小很多虽然它的整个存储就是GPU存储的量数变就是你要load这个model还是需要这么多的GPU memory但是你每一次inference所花的时长就变短了那你一个单位GPU所可以算力的释放就变大所以它inference cost就可以下来所以从这个角度来说这个算力成本可能是对整个硅谷以及整个未来的inference方向以及应用层方向的公司最大impact的一个事而随着DeepSeek的全球广泛下载和讨论热度关于模型安全和相关的法律风险也是成为了一些开发者关心的问题2025年1月底网络安全公司WIS公开了一项研究结果 [24:59] DeepSick将一个关键的数据库暴露在了互联网上泄露了系统日志用户提示甚至用户的API身份验证总计超过100万条记录任何人都可以访问为此的调查报告说这种访问级别意味着对DeepSick自身以及其最终用户的安全构成了严重风险黑客公共记者不仅可以检索敏感日志和实际的成文本聊天信息还可以使用查询直接从服务器窃取成文本密码和本地文件以及专有信息威斯说已经将安全漏洞报告给了DeepSeek团队但是也是让一些人开始担心DeepSeek这样的小团队或许还没有做好去服务全球量级用户的一个准备虽然用户和开发者不一定会为这样的安全漏洞而放弃使用DeepSeek但是可能会触发一些安全上的监管DEEP6在1月27号宣布由于遭受大规模的恶意网络攻击公司是一度暂时从那观看来更加多那说完了一届对DeepSeek创新上的认可那么现在呢压力毫不疑问就给到了硅谷的这些曾经以为自己是领先者的大模型公司了无论是必源的还是开源公司OpenAI, Anthropic, Meta, Mistral等等等等那我们先来说一下必源公司们的反应啊It really is a slap in the facefor both OpenAI and Anthropic因为 DeepSeek 显示的就是有没有机械而温泽和开放 AI会有很难的时间正在评价和价格的价格DeepSeek 对币源模型直接的冲击就是价格 原因也很简单如果有更便宜但是性能差不了太多的那模型还是开研的那么开发者和公司们会怎么选择呢这是毫无疑问的那根据Sensor Tower的数据2025年1月26号Deepstick登上美国免费应用榜单第一名之后在全球范围内是持续的火爆包括在印度等140个全球市场中的移动应用下载量排行榜上都位居榜首数据显示,在日活用户上,DeepSeq已经达到了XGBT的23%,而在每日下载量上已经超过了XGBT。而这对OpenAI来说,直接的打击优势技术领先带来的垄断溢价将面临缩水。第一要不要开源第二你的就是商业模式要如何调整定价要如何调整比如说我们现在就是GPT的TRAO版本它之前收费200块钱是不是要降价在DeepSeek火出圈之后Sam Ultimate在X上面反击说我们显然会提供更好的模型很快在1月31号OpenAI发布推理模型O3 Mini并且首次对免费用户提供推理模型O3 Mini的定价为1.1美元每百万输入Token和4.4美元每百万输出Token那么这比之前的O1 Mini要便宜63%虽然比DeepSeek的定价也就是0.14美元每百万输入Token和0.5美元每百万输出Token依然要贵不少吧但是呢业界普遍认为DeepSick R1的性能比O1呢是要稍差一些的而O3作为O1的升级版目前在性能上是要远优于R1的所以OpenAI的溢价虽然被DeepSick带来的压力打下来了一些但是依然呢有挺高的利润率在但随着竞争的继续我们也非常的期待价格能够进一步的下降那么这会非常的利好整个AI的创业生态开发者社区还有应用公司们这一块我们一会儿来详细讲讲同时我们看到在2月3号OpenAI是发布了另外一个新模型Deep Research号称能够像人类分析师一样对复杂的任务进行初步的分解并且能够在互联网上进行多轮的信息搜索与验证OpenAI还特地与DeepSickR1进行了对比Deep Research [29:59] 在Humanity's Lost Exam测试当中在专家级问题上达到了26.6%的准确率创下新高那么相比之下DeepSaked R1模型的准确率呢是在9.4%所以呢基本上OpenAI这两文发布呢颇有秀肌肉的一文啊一边说我们可以降价同时一边说我们模型还是更好的但是呢不得不说在OpenAI强硬反击的背后呢我们能够稍微感受到Sam Altman与OpenAI所面临的压力我们如果稍微站在OpenAI的角度来看看虽然业界对OpenAI的避原策略是各种的讽刺称之为closed AI但是大家要承认的一点是保持前沿科技的技术龙头地位是不容易的基础研究和探索成本是需要非常多的资金因为他们是探索者需要去砸钱去探路而后来的追赶者相当于是站在巨人肩膀上进行路线的优化从而能省很多的钱那我们在前面提到过在硅谷呢很多人把open AI和deepstick类比为专利药和纺织药的区别那这个意思就是说虽然纺织药用低廉的价格造福了全人类但是专利药背后的多年的研发成本却是大邀请去承担的而回到OpenAI上面来虽然推理侧的利润很高但是在训练侧却是极其少钱的如果推理侧的利润无法去承担前面训练侧少的钱那么OpenAI的商业模式也就失败了你可以想象是Meta Google他们的资源浪费其实肯定是远高于Deepseed因为他们会有大量的各种他们也不是只有100个人他们有上几千个人在那边搞各种各样的不停不停花火对吧所以你很难去直接衡量说真正的cost多少那抛发这一切不谈人力成本可能远高于这一些算力成本They're losing money obviously as a companybecause they spend so much on trainingRightSo the inference itself is a very high marginBut it doesn't recoup the cost of everything else they're doingSo yes they need that moneyBecause the revenue and margins pay forContinuing to build the next thingRightAlongside raising more money这也许解释了为什么OpenAI在连续两场发布会之后是立马开启了新一轮的融资目前有消息爆出新一轮融资当中OpenAI希望筹资400亿美元将公司的估值是推到了3000亿美元的量级而毫无疑问的是在这个时间点是融资即使OpenAI已经得到了软银孙真义投资数百亿美元的承诺但是对于剩下的资金缺口Sam Altman也会面临投资人的各种质疑我觉得有两个事情一个就是确实是这种便宜的模型的出现对吧他们怎么能应对第二的话呢就是一个心态的对吧所以所有finance的这个现象都是跟那个psychology有关就是说如果大家觉得他融不到钱那这种融资他就是self procrastination就是那种就是说越大家觉得融造钱越融造钱这个融资就是这么个现象Deep Seek 现场发生对它融资的话是一个相对来讲是个负面的影响长期来讲本来也是个挺难的事What's interesting is thatboth OpenAI and Anthropichave basically stopped tradingon the secondary marketNo one is buying OpenAI or Anthropicafter Deep Seek has come outThese were the two hottest companiesbefore Deep SeekEvery investor wanted to get their handson these companiesand now it's basically stopped tradingNo one's buyingNo one's sellingAnd you know Deep Seek就是真的要求你需要那些钱你能够多钱吗你能够多钱吗如何能够多钱你能够多钱吗因为一个的故事那些人的传统和 OpenAI都说了是在把钱的他们的模式成为了一个大型的模式比起来的其他公司这个是不正常的传统的传统我们的传统 and this is not as true as people expected. API 价格呢,会直接对 Anthropic 带来打击更何况,目前 Anthropic 并没有推出任何的推理模型也就是说,它完全被 Open AI 和 Deep Seek 所前后夹击 I think for Anthropic specifically, Deep Seek is terrible. It's really bad for Anthropic because Anthropic just raised 3 billion dollars at a 60 billion dollar valuation earlier this month, before Deep Seek and it's definitely going to have to raise more money to continue training its models. This may also explain why Anthropic founder Daryl Amodei in the first question of the question is that deep seek is not a very good question, and even is to encourage the United States to strengthen the source of the supply chain. So, to Sam Altman and Matt Yann Lequan and all the other [34:59] DeepSick的技术创新的表态是非常非常不一样的我们看到在X上面也是受到了非常多评论区的冷嘲热讽但毫无疑问的是DeepSick将对Anthrobic旗下的Cloud等模型的更新带来更大的压力来保证B元模型的领先性这些B元模型它有可能是一直领先它要就是B元如果还不如开源那可能就没有意义但它应该是有这个就是Management上面的这个优势它应该是超过开源如果B缘还不如开源呢我也不知道这公司在干什么对吧你还不如免费好了那么接下来啊我们再来说说Deep Seek对于开源模型和社区的影响那虽然很多人说Deep Seek代表着开源模型的一次大胜利啊但是在开源模型自己的这个竞争格局当中它也是给行业领头洋文带来了非常大的压力比如说Meta根据The Information的报道啊Deep Seek R1发布之后Meta就立刻进入了紧急状态成立了四个war rooms作战时这是因为Meta马上要发布Lama 4开源模型了如果Lama 4落后于Deep Seek那么这对于公司作为开源模型的引领者的地位将会受到非常大的威胁对于Meta来说最开始选择以开源的路线来加入大模型战局而不是像谷歌 奔爱和Anthrobic选择闭眼模型是因为呢想参照当年谷歌开源安卓系统的模式那并不从系统本身赚钱而是等这个生态发展起来之后呢从广告和Google Play等等应用上去赚钱那如今对于Meta也是一样的他们不指望开源的大模型Lama去赚钱但是希望LAMA是最领先的开源大模型之后从生态和应用上去赚钱所以其实比不上最强必源模型的能力但是至少MATA不能在开源模型能力上掉队那么这也是为什么MATA目前必须进入War Rooms状态的原因The Information的报道也指出说此前LAMA在跟OpenAI等必源模型竞争的时候已经有价格上的劣势了比如说虽然MATA的模型是免费的但是实际上运行起来会比OpenAI的模型更加昂贵部分原因是OpenAI可以通过批量处理客户的数百万个Cores查询来降低价格但是LAMA的使用者却没有办法通过这种方式来获得降价而如今Deep6的价格更低那么将给Meta带来进一步的价格压力但是好消息是Meta还没发LAMas我想这其实也是开源的美妙之处它不但带来了竞争但是也带来了互相学习反馈和进步的机会而业内人士就对我们表示这次DeepSick引起非常强烈反响的另外一个原因是它开源的比Meta要更加彻底更加透明我觉得从两个方向上对比Meta开源的时候其实它开源的东西普遍是落后于业界的就是比如说Meta它采取了一个Dance Model然后Meta开源的时候它的训练效率其实比较至少根据它的数据来说它训练的效率也比较低然后它的表现当时最好的模型其实也有些差距就是Meta开源当中的各种限制我个人觉得那些更像是大公司病就是在一个巨大的公司当中大家各个部门扯皮然后最后得出来的一个比较平衡的点DeepSick这次因为首先它开源的是一个业界领线的模型同时它technic report的详细程度远远超过比如像OpenAI或展Soropic Technic Report的详细程度所以业界其实是非常非常开心的就是没有提出太多其他的问题当然它有些第一它的代码本身没有开源然后它的训练数据集没有开源但是因为已经是一个领先的模型同时Technical Report的细节比之前其他领先模型的Technical Report的细节都非常非常多所以我觉得业界开源的人对于Deep Seek的开源都非常满意所以接下来Meta原本在第一季度将会发布的拉玛四表现如何我们也拭目以待了但在硅谷我觉得非常多的AI从业人士和科技领袖都同意Deep Seek这次给大家带来的震撼代表了开源的胜利但是同时也有很多人强调对于开源模型要保持领先特别是针对闭源模型要持续的保持不掉队要保持创新不断推出能与最好闭源模型比肩的产品还是非常难的不光是在资源上还有是在人才上在商业变现上都会有非常大的挑战和压力那么其中的一个例子就是法国AI开源模型公司MIXPRO一度以70亿参数的小模型轰动业界这次DeepSeek的技术创新中的MOE混合专家模型也是由MIXPRO当时大力推行的但是很可惜近一年时间MIXPRO在技术上也慢慢掉队了而公司也面临着商业化的难题甚至要传出需要被收购的声音 [39:59] I tend to be a little bit cynical about open source companies because there has to be a way that they monetize their models, whether this is through hosting, whether this is through like advanced features, whether this is through access to their latest model. They'll have to monetize that one way or the other. And I think a good example is Mistral, right? The European AI giant, the best AI company in Europe. They initially came out and said we were purely open source. And now if you look at Mistral, like most of their best models are not open source anymore. And they're not even like, you know, publishing a lot of details about their research. So I think this is a general direction that open source companies have to go in in order to stay profitable. And I think, unfortunately, this is probably going to happen to DeepSeek as well as they try to maintain profitability. DeepSeek doesn't have any capacity to actually serve the model. They stop signups. The ability to use it is like non-existent now, right? For most people, because so many people are trying to use it, they just don't have the GPUs to serve it. Right. You know, even if you believe our research, which is 50,000 GPUs and a portion of those are for research portion of those are for the hedge fund. Right They still have nowhere close to the GPU volumes and capacity to serve the model Right At scale So it is cheaper A part of that is opening making a ton of money Is DeepSeek making money on their API Unknown I don actually think so 说实的部分会提到非常的讽刺 但是现在应该会有不少投资人和投资方主动去联系他们了 所以在资金和人才也许都不是问题的情况下 DeepSeek能否在开源路径中保持领先 从开源社区中得到技术的反馈和反哺 来进一步提升自己的创新呢 这是接下来的关键 好 那么接下来我们再来聊聊 DeepSeek 对一个大家都非常关心的市场的冲击 AI算力 Deep Seek对英伟达的市场情绪冲击在1月27号是最明显不过的了但是之后跌幅已经止住并且在过去的几天股价开始缓慢回升 Seek Seek所以算力市场的故事呢已经崩塌了而第二种声音是说Deep Seek能够让整个生态的算力成本都得到进一步的降低所以呢会有更多的玩家入局会有更多的应用生态崛起那么这就意味着更多的算力需求GPU算力市场啊其实反而更大了反倒是利好英伟达的目前化金和硅谷的一二级投资市场其实是对第二种逻辑打成了共识这也是为什么英伟达股价只跌在了这个价位截至我们写稿的时候是处于2024年10月份的股价水平依然处在近年来的高点了它其实短期只是说这个模型拒绝的训练成本会降低但是因为模型训练成本降低了并且来去开源的它会释放更多的整个生态的对这个模型的使用应用包括新的开源社区这些developer也会去复现这个模型所以整体上来讲我觉得一个降低的算力成本反而会刺激不管是下一代模型的训练还是开源模型的训练这个DeepSick会推高整体算力的需求量所以呢这是利好英伟达股价那么为什么我们没有在过去一周看到大幅度的英伟达股价的反弹呢这是因为在第二种逻辑之下呢还有一些尚未验证没有达成公实的部分而这部分也恰恰是由DeepSeq的模型创新所造成的那么这就是DeepSeq能击垮英伟达最强的护车盒Cuda吗英伟达它其实是有两个最大的壁垒一个是它的Infiniband就是它的芯片互联然后另一个是Cuda就是它那整个一套调用GPU的系统它跟AMD这些其他芯片公司其实已经不是在一个层面在竞争了因为其他的人都是在争就是我单张卡我的性能怎么样但是英伟达其实真的是我互联的技术怎么样然后我的软件调用软件ecosystem的维持是怎么样所以英伟达真正是这两个壁类我们看到最近很多媒体和文章以Deepstick已经绕过QDA为标题再度是引发了市场对英伟达GPU需求的恐慌和对英伟达护城河是否坚固的制度 [44:59] 那么对此呢我们也几乎把这个问题抛给了所有我们采访的技术派的嘉宾们大家的看法其实呢也出奇的一致啊这类新闻标题是不准确的Deepseek并没有绕过哭档只不过呢英伟达的护称河确实因为Deepseek松了那么一丢丢那我们接下来来详细的展开讨论一下那我们看到这类新闻的论证是Deepseek的创新可以第一直接在英伟达GPU的低级编绘语言PTX上进行优化第二呢它可以同时通过对FP8计算和存储的支持让DeepSick团队实现加速训练和减少GPU内存的使用所以呢结论是这意味着业界之后可以绕过库大生态用其他GPU也能够实现高效训练的目的那么英伟达的护程盒不存在了那我们的嘉宾呢也就这两个说法进行了一些纠正和补充主要观点有三个那么第一是DeepSick没有绕过Kuda没有完全绕过Kuda的ecosystem它可以直接去调用Kuda底下的就不是刚才你说的很高层的API它可以直接去调用PTX就是在instruction set的上头一层的instruction set然后它在这一层直接做一些优化但是这个也是挺大的一个工程它并不是说任何一个小公司都有能力去做这件事情那简单来说呢英伟达的护城河是CUDA的生态而不是单单CUDA本身而PDX是CUDA生态中的一环是用于连接CUDA高级语言代码和GPU底层硬件的指令但是依然是英伟达GPU价格中的技术所以DeepSeek绕过Cuda这个表述在很多人看来是不准确的那么这是第一点那第二点很多人在讨论说DeepSeek可以基于PTX进行优化英伟达GPU那这是不是也说明DeepSeek可以优化其他的GPU和芯片呢那这一点当然是可能的这就是为什么我们看到AMD是迅速的宣布将新的DeepSeek V3模型集成到自己的300XGPU上但是技术从业者就告诉我们DeepSick团队可以基于PTX信心优化但是这不因为着其他团队也有这样的能力和动力因为编写PTX代码的做法非常复杂并且难以维护对技术人员的要求非常的高也很难移植到不同型号的GPU上所以第二个观点是目前来看业界没有动力去大规模改变酸力使用的方式那一旦QDA不存在有一个标准化的开源的生态出来那可能就出现了一个不同的生态说AMD的GPU跟英伟达GPU是一样的没有什么区别那这个就对英伟达比较危险但是呢我觉得短期内要挑战它还是很难因为你很难想象说现在那么多的Data Center全都migrate away from QDA没有人会干这种事情Deep Seek他自己可能有一套infra做了这么一件事情但是我不觉得说AWS Azure Google Cloud他们说OKToday we're going tomove everything away from NVIDIAWe're not going to support Kuda anymorePyTorch developersYou guys go and implement another way这个是不太可能发生的对于developer来说过于的不friendly我觉得短期来说对AMD是一个利好因为AMD我记着他最近已经宣布他把Deep Seek给弄过去了但是长期来看我觉得也不好说吧长期来看我觉得可能还是因为大因为这毕竟只是Deep Seek这一个模型它这件事情就是Cuda的厉害的地方在于它是一个通用的这种GPU调用的一个软件系统就是你什么软件过来都可以用Cuda但是Deep Seek这种做法它只是是Deep Seek所以你后头有别的模型你还要再重新适配一次那我们就是在赌以后是不是Deep Seek就真真的是这个goldstandard就是Deepseek就真的是这个open AI所有的这个初创都在Deepseek上见那如果是这样的话那对AMD挺好的因为它已经移植过去了Deepseek但如果后面不是Deepseek就比如说Deepseek其实它的这个伟大也是在于它对这个reinforcement learningGRPO啊这些方法的一些改进那后面的更多模型如果都是用这种方法你有可能就是来日方长不一定是Deep Seek它如果再是别的模型的话那别模型它又要重新适配那重新适配那就还是挺麻烦的还不如用酷了那声明我们还说到这个Deep Seek通过对FP8计算和存储的支持实现了加速训练和减少GPU内存使用那么这是又让很多人提出了这样一个问题说你这样说起来是不是很多模型的训练和推理就不一定要去买英伟达最好的芯片了很多像Grocker等更便宜的ASIC的专项芯片还有谷歌TPU亚马逊自己的自研芯片是不是就可以有更高效的训练和推理的用途这会不会也能够冲破英伟达的垄断地位呢那么这一点确实是现在市场上大家热议的重点我们也看到最近谷歌的财报之后因为公司预计2025 [49:59] 资本支出将增加到750亿美元远高于市场此前预期的580亿美元那么其中很大一部分预计呢是在自研芯片TPU上而博通Brockham股价大涨也是因为它是谷歌TPU的设计方而类似的Meta等科技巨头呢也都定制了计划去加大对ASIC芯片的投入减少对英伟达的依赖特别是今后的推理策所以呢这个问题可能比前面我们讨论PTX是否绕过了Kuta更为关键那目前呢我们采访的嘉宾认为啊也是我们这里要说到的第三个观点就是这会冲击英伟达的溢价但是不会击垮英伟达的壁垒和护城河DeepSig它肯定是减少了对Kuda的一个深度绑定因为它就是这么这个Fibar的这个策略那这个肯定是给IMD还有Google TPU还有甚至国内的华为的公司带来了一个很大的机会老黄是一个非常具有战略前瞻性的人他一定会在Kuda的生态系统里面也会去优化它其他的对于推理层面的不管是性能也好还是价格也好这个会对英伟达的Growth Margin从今月限英伟达Growth Margin将是90%以上所以它会迫使英伟达降价那么一旦英伟达降价以后那么英伟达本身就是它这个Cruidam的系统还有包括它一系列的生态的支持我觉得还是比其他芯片公司好的所以如果英伟达降价了它可能英伟达也会从某种程度上把市场上的微占拿回来一些我没觉得它动摇了这两个壁垒我觉得这两个壁垒还是非常坚挺的壁垒只是它对这个溢价有一些冲击就是你可能收不了那么高的价格了但是也并不代表就是其他的竞品能突然就进来就比如有个墙现在有一个人大家以前都觉得翻不过这个墙现在这个人跳过去了然后说你看我可以跳过去你们也有可能跳过来但是这个墙没有变低不是说就是他跳过去了别人现在也都能跳过去这就是这件事情的就是他为什么冲击了溢价但是没有打倒壁垒就这个墙没有变低来所以我们这边总结一下Deepsec没有绕过哭的对目前大规模器用英伟达芯片的恐慌也不会发生但是确实新范式给英伟达的壁垒是凿了一道口子然而英伟达GPU和OpenAI一样那之前呢因为技术互成和所以呢利润率和溢价都很高那么接下来要保住自己的市场蛋糕份额势必会降价那么这对业界来说当然都是好消息但是接下来这个市场份额能否保住华尔街和硅谷呢也都在观望那么既然说到算力成本降低会利好应用侧那么接下来我们和硅谷101的特别研究员Sophie一起来看看那些应用层和创业生态会被DeepSeek所带来的新范式和创新所影响在我们和业界嘉宾讨论的时候呢很多人认为啊在DeepSeek取得的几项突破里面对应用层面短期影响最大的肯定是模型推理成本跳水这件事同时呢R1在逻辑推理方面展现出的巨大潜力让业界的小伙伴们看到了未来几年里面软件行业可能会遭遇的颠覆性变革DeepSeek呢作为大家口中的AI界拼多多发布了以后真的是引爆了一场业内的价格战其实早在DeepSeek V2公布以后包括字节在内的大厂就真的是不惜赔本做买卖把API的价格是打到了业界估计的成本线以下真的是要舍命培君子但是对于使用模型的AI应用开发者来讲这样的价格战真的是解锁了全新的可能性对于其中一些开发者来说Deepseek可能是属于锦上添花其实对于在GPT以后Deepseek之前商业化的那一部分的2B的AI应用来讲这一波降价引发的呢可以说是利润的量变而不是质变如果说被替代的是白领工时就像咱们说的律师也好医生也好或者是马农金融分析师像这样的人工基本上呢再贵的AI总归也是贵不过人的所以呢这些赛道的应用者其实就像F1赛车手一样不惜代价追求模型的极致表现就是了这种情况下呢降价直接影响的是同样的生意利润率加倍的上去了同时呢Deepseek对另外一些场景呢就可以用雪中送碳来形容吧那些场景呢之前是需要烧钱补贴的否则呢就很难推广现今却因为API的降价变得有利可图了现在呢也就可以迅速的普及上规模了比如说吧我们有下面两个例子第一个呢是陪伴型的AI其实对于聊天机器人类的创业公司来说用户的热爱说来还珍贵就比如说行业龙头Character AI那之前呢2024年5月份What's the big data发布的一份报告里面就引用了用户在Character AI平台上呢单次使用的平均时长差不多是整整两个小时这个数据呢是XGBT的17倍那么半数 [54:59] 而来的呢就是大幅攀升的这个模型使用成本啊所以很多这一类的公司为了吸引用户呢是真的是选择忍痛免费而且不得不依靠一些手段比如说限制使用时长这样的方式呢来控制开销同时还是需要狠狠的往里砸钱而现在呢DeepSeek就是彻底改变了这一类的陪聊AI产品的成本结构那这个对于这个商业模式来讲的变革是巨大的就是可能以前做不了的事情现在它就是一个好生意了那么另外一个例子呢就是AI agent或者说所谓的AI代理这个呢就是另外一个臭名昭著的算力黑洞了那么因为完成一个任务需要agent多部模型调用以及他反复的去进行自我修正和验证甚至有的时候呢一个代理不够需要多个代理一起上互相配合这样一来呢对API调用的需求就真的是成指数级的上升从而现在在成本和响应速度上由于Deep Seek带来的进步也就特别的显著最后我们来谈一谈这一轮大降价引发了哪些从零到一也就是说崭新的液态的可能那么业内人是普遍觉得由于Deep Seek让得在端部署AI小模型的能力有了一个突飞猛进我们可能会迎来设备端AI的应用尤其是2C方面的应用一个百花齐放这样的状态因为它费用非常低再加上它可运行的设备基本上是Universal所以这样的话在2C的领域它可能会有一个大的爆发什么儿童助玩机器人什么那种硬件的一些这种帮你寄汇一笔记的什么这些东西如果它能在端上的话那这个成本就非常非常低了具体来讲Larry作为投资人尤其看好的是设备端AI2C应用当中的娱乐类或者虚拟人助手类这两种应用一个就是那个entertainment的特别是再一个就是人与人之间交互的给生成那个两个avatar不管是给客服打电话还是朋友之间的交流有可能会有一个新的模式而说到端部AI它的一大特征就是使用推理成本对于应用开发者来讲它的编辑成本几乎是零为什么呢因为你想端应用它使用的计算资源全部是来自于用户所用的设备而不是引服务器那么这一点意味着什么呢它很有可能会颠覆在这个SaaS时代的这样一个经典的商业逻辑那就是硬件加SaaS订阅这个捆绑逻辑这个经典逻辑是怎么回事呢简单的举个比方就叫电动牙刷饼赔钱牙刷头赚钱换句话讲也就是硬件已接近成本甚至是低于成本的价格出售同时绑定独家的这个软件订阅服务最终呢从高利润率的软件订阅上赚回硬件的补贴而且呢实现持续而且稳定的这样一个现金流的收益然而现在呢当这个端部AI服务的编辑成本接近于零的时候呢竞争就会使得订阅服务很难实质性的收费因为永远有对手比你更卷比你更便宜可能确实你的margin会降低因为别人会来卷你这样一来啊所有沿用这个牙刷头补贴牙刷饼思路的SaaS公司在现在被deep seek拉开序幕的这样一个咱们可以说端AI的时代可能真的要好好想一想了另一方面端步AI的跨越也让有的小伙伴问了现在是不是意味着物联网的春天总算来了呢这一点业界目前还比较难下结论原因是这样的物理世界的规则限制了硬件发展的速度不会像数据增长和纯数据应用发展这么快我们对硬件的发展它相对来讲它是个比较线性的增长而数据方面的增长跟数据应用和处理方面的增长它总是个指数型的增长所以这是我们觉得是不可比的对于物联网的布局其实之前孙正义也曾经下手太早栽过了一回所以说现在上牌桌玩这个AI加互联网的这样你的游戏是不是好的时点现在呢还不太好说而在我们和投资人聊天的这个过程中他们认为呢在Deep Seek之后因为我们看到了前沿大模型的效果正在去同那么现在在进入一个所谓效率竞争的阶段这样一来对于单纯追求面面俱到或者说没有一个针对性行业或者使用场景的这个所谓的横向或者是主赛道的AI创业公司来说资本市场呢恐怕就会重新评估他们的前景还有他们的估值这当中呢其实是有很多著名的研究员或者说技术大神创立的曾经呢被风头圈是高价水捧共的零星公司有投资人认为啊越是融资多的名人创业 [59:59] 也是相对来讲越容易陷入高开低走或者说杀鸡用牛刀的这样一种相对比较尴尬的处境前一段时间在主赛道上融资的一些初创企业会有很大的问题我觉得从投资人角度来讲I would be concerned就是他融这么多钱然后呢他所做的事实际上别人也可以做可能以十分之一的价钱这个从工程师上讲也用不到这么优秀的顶级的工程师所以说呢在DeepSick所标志的这样一个AI被commoditize或者说被商品化的这样一个时代成为一个平台以及搭建生态系统可能才是横向AI企业的一条出路与这个相对照的呢就是专注于一个细分领域或者说特定使用场景的这样一种纵向的AI企业呢业内则觉得是更容易建立这个差异化竞争优势当然这里有一个前提就是他们用AI提供的这个解决方案一定要相对于之前的方案有志的卑越任何一个人如果找我们来投资我说你这是不是比以前要好十倍一百倍不管你再狭窄的一个事情都有意思Deepseek的这个效率和逻辑推理方面的突破让更多的Larry提到这样十倍百倍的进步成为可能了与此同时细分领域累积的新数据也好即随之而来的新智能才是真正的副成河总而言之我们聊过的投资人和开发者大概都在逐渐形成这样的一个故事那就是这个深根细分领域的AI模型和相应的应用其实会超越最厉害的通用大模型换句话说也就是专才胜过通才纵强过横经历这一趟变革以后AI行业也在整体在回到理性化的轨道上我们看到的是少了之前玩命融资囤卡还有挖人的狂热那么多了和具体的需求紧密结合以及脚踏实地的进进式的这样一种创新我们看到的是一个发烧的领域正在逐渐恢复健康可能不会有出现像过往那样如此crazy的evaluation但这些公司可能是未来会像早期互联网融资未来慢慢发展的一样会慢慢形成一个更良性的一个公司发展格局而不是说我先扔五个别列看能不能出血话再说这种情况很难再发生但是要注意我们并不是说AI的下半场就没有那么激动人心了恰彻相反对于AI创业者来说下场的黄金时机很可能才刚刚开始要干大事现在正是好时候好事在后面就跟互联网时代一样后来慢慢起来的企业像Google像Amazon这是刚刚开始你要是说AI大浪的话现在今天就是零总而言之Deepseek就像一条大家所说的棉鱼是把大模型行业的鱼塘搅乱了一方面开发者们真的是过亿匪浅但同时呢这个大模型的竞争格局现在却还是六万花明很难讲AI应用对于基座模型的选择其实是一个复杂的问题不是简单的由成本和效能来定的这当中呢切换成本云厂商搭载模型的选择甚至说AI应用这个脚踏几条船啊或者说根据具体的任务动态的来选择合适的模型这样一种越来越普遍的策略都让这个行业很难说轻易的分出谁是赢家最后啊Deepseek R1在逻辑推理方面的这些过人之处让不少人就预测了下一代R2推出的时候很可能就会实现AI编程能力的突飞猛进那么这一点呢无论对于软件开发的工作流也好关键的决策和方案选择也好还是说具体到这个工程师个人的职业生涯甚至说在写代码圈以外人们普遍的生活方式很可能都会带来深远的改变而这一切的改变呢很可能都会比大家原本预料的来得更快就像在我们采访当中嘉宾杨成提到的预测五年以外可能都太远了那感谢Sophie带来DeepSick对应用端和创业者生态的采访和分析那么在这个视频的最后呢我们再试图来挖掘一下孵化出Deep Seek的幻方是一家什么样的公司呢低调的创始人文峰是一个什么样的人以及他们的内部有着什么样的故事呢那对于硅谷来说Deep Seek是一个陌生的名字他此前的曝光太少团队呢也非常低调会有一种少林寺扫地森突然打进世界内台的感觉啊那虽然Deep Seek看起来是横空出世啊但是它背后的团队其实脱胎于幻方量化这家公司在AI方面有着接近8年的积淀中国量化界对这家公司肯定不陌生梁文峰是幻方量化和DeepSick这两家公司的创始人他出生在1985年从小就展示出数学天赋02年的时候14岁的梁文峰成功 [64:59] 考入到了正江大学电子信息工程专业07年的时候他继续攻读硕士研究生专注于极其视觉的研究2018年全球金融危机爆发A股也迎来了一波牛市崩盘当时还在读硕士的梁文峰是看到了量化交易的机会他开始尝试用系统化程序化的方式来研究市场进行交易虽然当时在中国还很少有人知道量化交易是什么毕业之后梁文峰也没有像周围人一样去互联网公司做程序员而是他躲在了成都的一个廉价出租屋里面不停地去编写AI算法来选股用在不同的市场场景中去尝试这个过程可想肯定会很艰辛也会经常遭遇挫败然后到了2015年梁文峰的探索已经趋于成熟他终于建立了自己的交易体系于是就成立了幻方量化这个品牌2015年对中国量化私募行业来说也是一个重要的转值点4月中正500指数期货上市使得量化基金拥有了更强大的工具和更丰富的对冲手段接下来2015年的A股市场的巨大波动也给中国量化基金一次绝佳的试水机会在这一年 梁温峰应该30岁他跟他的大学好友许静市场上关于许静也有很多神奇的传闻然后他们俩一起共同创办了幻方量化在2015年超过的朋友都知道2015年A股经历了什么其实在整个大的市场股灾的情况下幻方反而取得了超额汇报甚至在那一年的年底他就一口气成立了十只对外募资的产品之后的几年整个中国量化基金的行业迎来了一个超级爆发期而换方作为其中的佼佼者他的管理规模也就从2016年的10亿元人民币跃升到了19年的百亿然后又在短短的两年里面直接突破了千亿不过在换方的成长过程当中有别于其他量化基金最大的不同就是梁文峰对AI的指面虽然他身处金融行业但是梁文峰一直专注于模型算法的革新甚至有业内人士就评价到说幻方更像是一家做机器学习人工智能的公司但副业是用量化交易挣了钱2016年是幻方的一个关键之年在这一年幻方推出了第一个AI模型并且首次使用GPU来生成交易仓位并且上线执行2016年在AlphaGo击败理事时候不久我们上线了第一个深度学习的模型从那以后我们一直在深度学习方面进行持续投入我们几乎涉及了深度学习的所有领域来提升预测的能力2016年之后辽文峰就带领团队一直在AI算法和软硬件方面加大投入到了2017年的年底换方几乎所有的量化策略都已经采用了AI模型然后到了2018年辽文峰明确了公司以AI为核心的发展方向并且把整个产品线还有资金管理这些全部加接到了以AI为核心策略的开发体系上并且开始大规模的招显那事吸引了很多年轻的AI专家型人才然而随着幻方在AI训练方面急剧增长的需求一个挑战来了算力为了解决算力瓶颈2019年幻方投资了2亿元自主研发了深度学习训练平台《营火一号》这个平台搭载了1100块GPU显卡2021年幻方又构建了《引火2号》算力提升了18倍之后幻方成了中国5家拥有上万张A100GPU的公司之一在2022年11月底OpenAI发布XGPT是掀起新领人工智能浪潮之际幻方宣布下场做AI大模型并且在2023年5月将技术部门中做大模型的团队独立出来也就是如今的DeepSeek所以DeepSeek并不是一家新公司而是一家有经验有资金有技术有算力深耕了AI技术数年的团队但是就是这么一支团队一度在中国融资失败那根据我们听到的消息DeepSeek在2024年5月有过一次短暂的外部投资的窗口也是目前唯一的一次当时梁文峰想尝试融资看看外界的兴趣去年5月的时候DeepSeek V2的效果已经是非常好了但是在短暂的接触过几家VC之后梁文峰就放弃了对外融资的想法从当时的异议市场大环境来说了解的朋友们肯定都知道由于多年缺乏而上市退出VC们其实都苦于自身的业绩难题深深陷入DPI焦虑很多基金其实不再敢于投资前沿科技的高风险象特别是像基础大模型最终它的投入很大 成本非常高竞争格局又时刻在变化搞不好前浪就被后浪拍死在沙滩上所以风险其实是很大的在这个时间点还愿意投资基础大模型的VC寥寥无几有一位美元基金的朋友跟我们说当时的美元VC们都在竞逐有着明星创始 [69:59] 背景的月之暗面以及更加务实在商业化层面站露头角的minimax这两家在市场上其实已经形成了一定的共识有点club deal的感觉而对于deep seek这种量化出身有点跨界意味的团队然后创神的时间分配也不是很明确一时间很多基金都摸清了情况相比于投资已经形成共识的月之暗面或者minimax显然后者是更容易做出的决策而对于人民BBC来说由于资金期限和风景偏好的问题本身就不大可能投资于基础大模型就算有这方面的投资可能性像质朴这样的政府背景深厚的公司也更容易通过投决会那确实啊你想一个量化基金背景的团队来做AI大模型还是开源模型那还不是Bloomberg做的那种金融锤之类的Bloomberg GBT虽然那个产品Bloomberg最后也没做出来吧但是呢DeepSeek的路线啊确实在短期内很难看到它的商业模式而且啊大家知道中国VC们更喜欢能够更快赚钱的避远模式和更加快落地的商业模式和应用所以当时的梁文峰是不受国内的风险投资人待见的所以当时呢他在融资不利的情况下也出来接受了两次的采访那现在看来呢也是非常珍贵的是我们能从外界一窥梁文峰和DeepSick团队的很好的公开资料梁文峰是一位建筑偏锋的技术理想主义者当他在2021年就团集数千枚英伟达GPU的时候其实行业中那个时候没有人知道他想干什么甚至根据金融时报的报道一位他的合作伙伴在当时用一个发型很糟糕的书呆子来形容第一次见到梁文峰的感受当时不少人都没有足够重视他最终梁文峰决定用幻方来承担DeepSeek的研究经费而从幻方的发展历史上来看梁文峰对技术理想也是坚持的这包括幻方基金遭遇巨大困难的时候他依然坚持对AI的投入幻方业绩最辉煌的是2019年和2020年自然年收益分别为58.69%和70.79%但是在2021年的时候幻方就出现了业绩暴跌并且在12月底发布了指投资者公开信主要解释是因为AI在买卖10点的投资决策上出现了问题那幻方对一级回撤达到历史最大纸也深感愧疚并且关闭了全部的募资通道在这个过程当中也有投资人是产生了非常大的负面情绪认为梁文峰对AI的赤米让他精力分散导致了业绩的滑坡那之后我们看到幻方的资产管理规模就从千亿人民币是逐渐回落到如今2025年的小于300亿元但还是同一年2021年幻方也没有停止对AI的投入并且是构建了比1号算力高18倍的因果2号那幻方的另外一个艰难时刻就是在2024年中国金融监管机构对量化交易进行了进一步的紧缩政策股市当中也有股民的情绪对量化基金们多有争议这个时候DeepSeek的投入开始出成绩了DeepSeek VR系列模型自2024年5月发布开源以来就开始受到业界的关注和好评甚至在我们硅谷101的评论区在2024年的7月份就已经有观众开始给我们反馈提到DeepSeek那之后发生的事情大家都知道了V3发布之后R10和R1是引爆了全球市场而换方之后是不是就会成为一家AI模型为主导量化基金为旗下附属应用产品的公司了呢那么现在看来换方在2021年业绩的低伍器依然能够顶住压力坚定地投入AI而团队不散离不开独特的组织架构和企业文化量化基金是一个源自美国的产物这使得几乎所有中国头部量化基金的创始班底都或多或少有着美国或者欧洲对送基金的履历但唯独换方是一个例外它完完全全是本土起家独自摸索长大像DeepSick也一样它完全是国内本土的团队没有海归团队成员大多数都来自于清华北大 北游 北航这种国内顶尖的高效的计算机专业硬件生或者是再度的博士生梁文峰自己呢他也是一个身前士族的创始人他更愿意被当做工程师而不是交易员他几乎每天都亲自参与鞋代码 炮代码作为一个懂技术并且对技术充满好奇心的创始人这是梁文峰跟其他同行的核心区别这里的同行不只是指国内的直接量化基金创始人也包括像Sam Ottoman这样的创始人身处在这个团队给我的感觉就是快乐很幸运能够和天才们一起共事我们提出一个问题能获得无数的回响而不是身边只有没有想法的小土豆瞪着无辜的大眼睛问你该怎么办空留你一个人在荒野里面呼号前阵子我们在讨论一个核心算子的时候蒙提到这个算子 [74:59] GPU使用率不是很高,有没有更多提升空间了?当时我是持怀疑态度的,毕竟这是官方提供的算制,是当时最快的实现。他们有最硬件架构最深刻的理解,但最终的结果也只有这样,那我们还能做些什么呢?但我们并没有放弃毕竟人生苦短何妨一事和我们的同学一起苦闷挣扎三重水负了一个月之后那天我在回家路上看上去依旧是毫无收获的一天他电话给我说哎呀他说他走在路上一阵凉风袭来他突然之间领悟了而现在版本在最多的情况下比官方快了五倍普遍情况下快了25%直接帮我们节省了25%的GPU时间这就是我们做事的方式我们的追求并不仅仅在我比过去快了多少我比之前的代码快了25%我们追求的是我达到的理论的最大值是百分之多少比如我们的存储指标是用IB带宽的百分之多少从80%到85%到91%92% 93%这一步步爬上来而这种1%的极限追求和突破在此之前都是不敢想象的正是这种扁平而灵活的团队架构带来了DeepSick非常特殊的企业文化DeepSick这个团队其实非常年轻他们的平均年龄只有28岁公司的很多核心基础岗位都是由那种刚毕业一两年的年轻人担任的幻方和Deepsy鼓励内部形成不同主题的技术小组成员之间是可以自由交流和合作内部氛围非常的宽松而它并没有采用我们常见的这种KPI或者OKR的考核方式一切都基于这些职场新人的自我驱动力在幻方每个人都可以根据自己的能力和兴趣选择自己的研究方向即使是刚毕业的那种新人也有机会去主导探索一个全新的领域这种氛围跟国内的互联网大厂其实是非常不一样的那么这样的文化和氛围是不是让人联想到刚刚成立时候的OpenAI呢还是那个非云立组织架构下的OpenAIElias UskaverAndrea Kapafi还有Mira Moratti等等等等都还没有离职的OpenAI那个个时候他们都更像是一个纯粹的AI lab,凝聚着一个技术团队最核心的东西,就是对技术本身的坚定信仰。最近我在刷机课的时候看到,新资本的合伙人吴炳健,他抛了一段自己的感慨。他说他去年的时候去问DeepSync的人,为什么你的模型能做得那么好?对方回答说,其实很简单,因为我们的老板自己读论文,自己写代码,自己做招聘。时间花在哪里哪里就容易出效率这句话其实听着很简单但真相往往就是这么纯粹但随着DeepSeek团队如今走到了聚光灯下更多的压力和更多的目光梁文峰能否带领这个团队保持初心呢我们也拭目以待了那我们也联系上了幻方的创始人和管理团队很遗憾他们在这个时间点拒绝了我们的采访邀约但是希望以后有机会可以直接和梁文峰与Deep Seek团队进行对话和采访但正如我们众多嘉宾所提到的Deep Seek这次带来的创新无论是技术创新还是工程创新都对硅谷带来了非常多的启发和讨论其中一位嘉宾说硅谷的AI发展路线在Deep Seek到来之前都已经开始变得非常的趋同了大家都做一样的事情用一样的技术采取一样的路线但是呢Deep Stick这次带来的耳目一新呢是重新又盘活了整个硅谷的AI大战和活力那无论是Meta还是谷歌还是OpenAI还是Androbic大家的紧迫感呢又都回来了就像Meta上司扎克伯格在最近的一次All Hands全体员工会议当中说的所有人都要为紧张的一年做好准备而就在硅谷重新回到作战史状态最近我也很认同图里奖得主严龙昆最近在linkedin上面得了一段发言他说在硅谷某些圈子里面存在着一种常见的疾病叫错位的优越感认为你的小圈层垄断了所有的好主意假设其他地方的创新是通过作弊获得的但是现实是当大量有才华的人参与并且分享他们的创新的时候科学技术才能够进步的更快而之后的AI格局开源与B源路线之战算力之战大模型与小模型之战应用之战可能才刚刚打响我们也会在硅谷为您持续的关注以上就是这期我们硅谷101的全部内容了那这期内容我们整个编辑部我春节都在加班组成了五人小分队进行了超过十多个核心的采访那如果有任何的技术问题 [79:59] 不够清楚或者呢大家觉得有值得讨论的地方也欢迎大家呢友好交流你们的留言点赞转发和订阅是支持我们硅谷101做好深度科技和商业内容的最佳动力那记得关注我们不要错过更新哦我是陈建我们就下期视频再见啦Bye