OpenAI发布GPT-5被指路由拼凑 现场频出错引核心架构碰壁质疑

OpenAI发布GPT-5被指路由拼凑 现场频出错引核心架构碰壁质疑 大模型依靠参数量提升能力的路径已达瓶颈，OpenAI因无法解决Transformer架构的灾难性遗忘硬伤，转而采用多模型路由拼接的产品层手段维持产品迭代。 GPT-5的发布并未带来预期的“惊艳时刻”，反而因PPT图表错误、代码bug和物理常识翻车而备受争议，其本质更像是一个由“实时模型路由器”拼接而成的联合系统，而非端到端的超级大模型。面对Scaling Law碰壁、合成数据训练受挫以及“灾难性遗忘”等技术瓶颈，OpenAI正通过激进的商业化策略稳住市场，在教育、医疗和编程三大场景快速布局。与此同时，硅谷技术前沿正将目光投向强化学习、世界模型以及非Transformer架构（如JEPA）等全新路径，以期打破AI发展的困局。 GPT-5发布会因数据图表错误、代码bug及物理常识翻车引发外界失望，业内指出其并非端到端超级大模型，而是由“实时模型路由器”串联现有模型的聚合方案。 (0:00) OpenAI加速向垂直领域商业化渗透，在教育场景对多邻国构成降维打击，展示博士级医疗诊断报告解读能力，并在编程领域联手Cursor对抗Anthropic。 (4:59) 发布会低级错误背后反映出LLM的底层瓶颈，通过合成数据训练及持续引入新知识面临“灾难性遗忘”与模型可塑性崩溃等Transformer架构难题。 (14:59) 面对大模型能力提升放缓与过度营销反噬，未来技术突破主要指向强化学习与通用验证器、多模态世界模型以及JEPA等非Transformer架构探索。 (24:59)

《硅谷101》指出，2025年发布的GPT-5因现场失误与性能未达“阶跃式”预期引发舆论反噬，暴露出大模型依靠单一扩大参数的Scaling Laws已步入瓶颈期，迫使OpenAI转向产品层拼接与垂类商业化变现。 GPT-5的本质与路由机制争议 (0:00) 从GPT-3到GPT-4实现了跨越式的改变，但GPT-4到GPT-5则更接近渐进式微调。业内专家指出，GPT-5并非全新的端到端超级大模型，而是由“实时模型路由器”（Real-Time Model Router）串联GPT-4、o3等推理与非推理模型的聚合系统，因此被业内调侃为“GPT-4.99”。这种路由器架构在业内常用于端云分发、应用层模型聚合以及过滤日常简单寒暄以削减高昂算力成本。由于强制替用户分配子模型，GPT-5在上线后引发用户强烈不满，许多人在社交平台X上抗议其实际表现不如旧版GPT-4o，甚至要求退回旧版，迫使Sam Altman紧急回应并承诺推出更多定制功能。 现场频频翻车与预训练技术瓶颈 (14:59) GPT-5发布会因低级失误被调侃为“草台班子”。在编程基准SWE-bench的展示图表中，准确率仅为52.8%的GPT-5柱状图高度被错误绘制得高于准确率为69.1%的o3，且与30.8%准确率的模型持平；在物理原理讲解中，模型还采用了已被主流学界证伪的“等时通过理论”解释伯努利效应。这些失误背后折射出预训练层面的深层困境。OpenAI在“Q*”和“Orion”项目中尝试用强大教师模型生成的合成数据训练学生模型，但高维知识在被迫降维转化为低维自然语言时面临信息折损。同时，持续训练引发了“灾难性遗忘”与“模型可塑性”崩溃，模型在灌输深层知识时容易丢失基础能力，暴露了现有Transformer架构处理连续学习的缺陷。 商业化落地：教育、医疗与编程的渗透 (4:59) 尽管底层突破放缓，ChatGPT正向全能“AI Super App”演进，并在垂直应用场景加速渗透。在教育领域，GPT-5提供多模态语言互动和自制网页测验功能，对多邻国等传统软件构成直接竞争；在医疗领域，其号称具备“博士级别”能力，发布会展示了癌症患者将诊断报告转为通俗方案的案例，相关预测显示全球AI医疗市场将从2024年的26.69亿美元增长至2030年的188.38亿美元（CAGR为38.62%），其参投的Ambience Healthcare近期也完成了2.43亿美元C轮融资；在编程领域，Cursor等AI编程公司站队OpenAI以抗衡Anthropic的Claude，但GPT-5在专业开发场景中仍欠缺端到端的自主测试修改闭环，未能与Claude 3 Opus拉开代际差距。 跳出困局的三条前沿突破路径 (24:59) 面对Transformer架构的局限，硅谷技术界将未来的突破希望寄托在三条新路径上：首先是强化学习（RL），在代码与数理规划等数据匮乏且规则明确的领域，利用“通用验证器”（Universal Verifier）让模型自我博弈与训练，OpenAI正在推进相关验证技术的研发；其次是多模态与世界模型，通过视听等多维信息超越纯文字限制，如谷歌发布的物理世界模拟器Genie 3，被部分业内人士视作比GPT-5更具战略价值；第三是以Yann LeCun倡导的JEPA（联合嵌入预测架构）为代表的非Transformer架构，其在浅层空间进行特征抽象与预测，更接近生物大脑的认知方式，有望打破逐Token预测的低效模式。 GPT-5的口碑受挫不仅源于技术层面的边际递减效应，也受到前期过度夸张营销的反噬。尽管AI领域正在全面打响抢占市场份额的价格战，但要实现真正的代际飞跃，行业仍亟需跨越强化学习验证机制、物理世界模拟以及非Transformer新架构等技术深水区。

[0:00] 从 GPT-3 到 GPT-4 的跨越是天壤之别的“Step Change”（阶跃式改变），而从 GPT-4 到 GPT-5 的提升则更像是一种“Refinement”（渐进式微调）。 [0:00] GPT-5 并非外界想象中端到端的超级大模型，而是一个由“实时模型路由器”（Real-Time Model Router）拼接不同子模型的联合系统。 [0:00] 许多用户在社交媒体 X 上抱怨 GPT-5 的实际效果甚至不如旧版的 GPT-4o，纷纷抗议要求“还我 4o”。 [4:59] 在教育领域，GPT-5 展示了极具丝滑感的韩语多模态教学……这种原生体验对多邻国（Duolingo）等传统语言学习软件构成了直接的降维打击。 [4:59] 对于专业开发者而言，GPT-5 依然缺乏能够自行测试并回过头修改代码的端到端 Agent 能力。 [14:59] 图中代表 GPT-5（准确率 52.8%）的柱子，高度竟然明显超过了代表旧模型 o3（准确率 69.1%）的柱子。 [14:59] 前一秒刚吹嘘完“博士级智能”，后一秒便当场打脸。 [14:59] 这就好比往一个装满水的杯子里继续注水，溢出来的可能是原本非常重要的基础知识。 [14:59] 如何让模型在获取新知识的同时不遗忘旧知识（Continual Learning），是当前 Transformer 架构无法完美解决的硬伤。 [24:59] JEPA 放弃了 Transformer 逐个像素（Pixel）或逐个 Token 预测的低效方式，而是将训练放在浅层空间中完成。

[0:00] GPT5终于来了但在错误百出的发布会之后随之而来的是嘲讽是失望是对AI参数scaling laws大力出奇迹碰壁的反思Hello大家好欢迎来到硅谷101我是陈倩GPT5的发布在硅谷而是引发了不小的舆论争议我身边大多数AI从业者和技术人员本来都是非常期待又一个XGPT Moment的出现但是呢看完发布会基本上都一个表情就这除了诸多错误和漏洞的发布会包括有错误的数据图有bug的代码演示还有翻车的科学原理解释等等而真正让大家失望的点在于以目前的路径去发展AI但模型能力突破显著放缓而GPT5更是印证了这一点然而有一说一啊虽然GPT5的发布呢是一次失败的技术突破但是不可否认的是XGPT正在变成一款越来越好的产品也正在打入更多的锤类领域朝着一款全能AI Super App去进发而一场强占市场份额争夺企业订单的价格战也在同步大模型公司之间正式开打所以这期视频我们来从这几个方向入手聊聊GPT5的这场发布第一我们会聊到OpenAI它发布了什么功能出了什么错为什么引发外界这么多的吐槽和失望第二我们会聊到XGBT作为AI产品将会如何继续占领用户的心智为什么编程教育还有健康医疗是它要进攻的市场那第三呢GPT5的开发过程是什么样子的中途呢它遇到了什么样的技术瓶颈最后选择了什么样的架构来攻克这些难点的那最后呢我们会聊当Scaling Law已经碰壁后面的技术提升要靠什么技术去完成框架的创新还是算法的创新呢强化学习多模态能力以及世界模型又能够如何让我们走出目前的大原模型技术限制呢那这几个方面的时间点我们是分别放在了画面上大家对哪个方向感兴趣可以直接跳去看那我们先来讲讲这场Drama的发布会本身说实话外界对GPT5的发布非常期待原因也很简单GPT4发布已经是两年半之前的事情了而外界已经等待新一代模型已经很久了但是总结来说GPT3到GPT4的能力跨越过于惊艳所谓的XGPT Moment这样的Wall Moment是这一轮生成时AI技术革命的一个基础但是GPT4到GPT5的能力跨越却远没有达到外界的期待值你要横向对比就是GPT4和当年GPT3的对比这个是天和地的区别GPT4跟GPT5如果你是以同样的标准来做对比的话其实差距是没有那么大的它可能是一个在我看来是个refinement而不是一个step change那么GPT5发布了个啥呢首先此前新闻爆料GPT5会成为一个统一大模型所谓的unifying system能强大的将推理编码语音研究等等能力整合进单一模型实现既要和又要的用户需求将GPT系列和O系列的模型融合这个单一模态架构能够自动调取相应的模型和能力而不需要用户之后自己选择模型了虽然OpenAI目前还没有正式发布详细的GPT5的技术报告但是业内的技术专家们猜测这其实不是一个端到端的超级大模型而是由一个实时的的路由器,Real Time Model Router,来拼接下面的不同子模型,其实这个技术路线也不是创新,也不是突破,早就在硅谷初创技术圈里面存在很久了,GP5就是一个典型的联合的系统,它是把已有的GP4,O3等等,Thinking和FaceThinking,就是Reasoning和Face,Reasoning的Model给它串联到一起,我觉得它可能是因为商业化比较着急,我觉得更应该把它叫做GPT4.99因为它是在所有的历史上的一个聚合的方案然后这个router其实并不是一个很新的东西这样的router方案主要是一些出售公司们之前在使用大概有三个使用场景和原因第一是在手机这样的设备端上有端上的小模型也有云端的大模型那么简单的问题用本地的模型而复杂的问题就用云端模型这就需要有个router去帮你做选择了那么第二是初创公司们做模型层之上的开发和应用的时候把所有的开源和闭源模型聚合起来把不同的任务给不同的模型来调用第三个原因是要去平衡系统的成本比如说用户的一些高频又简单的提问像Hello和Thank you这种query量就非常大光是这种简单的问题每天都在消耗 [4:59] OpenAI上百万美元的费用所以这些典型问题都可以直接去分发给非常小的模型去解决所以这些是之前初创企业们因为要去平衡系统的成本开发和应用时的主要三大使用场景但是如今被GPT5作为主打的技术突破让外界不少人怀疑一个端到端训练的超级大模型路线已经出顶了而OpenAI不得不开始使用这些取巧的技术来解决产品层面的问题而不是AI大模型智能飞跃的问题那这是和外界的期待非常相悖的那当然real time model router呢也没有那么好做包括这种各种的多模态也有非常多技术上的挑战这可能也是发布延迟的原因之一有的模型擅长于数学有的模型擅长于这个写作有的模型擅长于编码所以你要根据用户的意图语言类型各种各样的地域位置包括它的语言的偏好去分发模型这其实是一个非常复杂的问题因为不同的模式有很不同的计划的需要和很多不同的关键的需要例如说如果有一个声音模组这需要很小的纳维因为纳维是太大然h the AI and other modules such as deep reasoning or research you know might have two or three minutes of latency even more than that sometimes up to like 30 minutes so like combining all those like modalities together and making sure the product isn't clunky is a pretty big technical challenge That's not a fancy technology But from the user's perspective I think this is a pretty good thing Because before you use chat GPT It was like a big mess You have 4.0,3,4.0 mini,4.0 mini high GPT 4.5,4.1,4.1 mini And there are codecs and the video And the agent's type of GPT It's just too bad So if GPT-5 can be able to choose the most suitable It is actually important to use the user But here is the key word You can choose the right And the effect is good Then open it to the first choice We saw that in the media The user has started to fight against the user Many people think GPT-5 has no 4O The effect is not as good And the user has been removed So in the X In the X we see many users They are asking for the SLOs to come back效果甚至不如4O并且用户有种被剥夺了选择权的感觉所以在AXE上面我们看到非常多用户集体呼吁让4O回来不然就注销查GPT账号那么这也是让OpenAI的CUCM他们不得不在周末之前发出回应保证将上线更多定制化的功能和内容并且持续对GPT5进行改进那么OpenAI在此次发布会中一直在强调要给用户的不是more information更多的信息越多的信息不一定是越好的而是要给Just Write的信息刚刚好的适合的信息那这个出发点看起来是没有什么问题的但是呢在技术上怎么去定义Just Write什么是刚刚好这个还是蛮有争议的那么关于GPT5的优化呢我们也会继续的为大家关注那么接下来呢我们再详细的来聊聊这次的发布会上OpenAI展示的三个应用场景分别是教育编程以及健康医疗那么毫无疑问这将是OpenAI进军商业化的主要三个战场但在发布会上OpenAI是展示了用多么大学习韩语的场景嘛效果确实看上去还挺丝滑的云音模型进一步的升级可以实时的加快和放慢感觉会是非常好的一个教育的交互场景。 而GBT5的玩法是更加的升级了。 你还可以让XGBT直接给你做个学法语的网页或者小游戏应用。 几分钟的时间,记忆闪卡,单词测验,进度追踪等等功能是应有尽有。 So we saw the language learning company, the market in GPT5, which started to increase in the market. It's because the news is very good, it's a big increase in the market. But after OpenAI, it's a big increase in the market. It's also a big increase in the market. ChatGPT will then take over the market market market. I think education is a very obvious vertical for OpenAI. When ChatGPT just launched, it basically killed Chegg, which was like a, you know, education company for students, It was mostly to copy homework from their peers. When ChatGPT came out, students were like, oh, we don't really need to have Chegg anymore. And if you look at the early users of OpenAI's models, like back in early 2023, a lot of them are students. And during the summer vacation, OpenAI's usage goes down a lot. And then OpenAI recently launched the Learn function [9:59] I think that is targeted more at casual learners and people who want to explore a subject. Regarding language learning, I've been using ChatGPT to practice my Cantonese, and I found it to be very good. I used to use Duolingo for that, and I found that Duolingo is a lot more limiting compared to OpenAI because you can explore any topic with OpenAI. And I think OpenAI is definitely going to go after those companies' revenue because it's so easy to replicate within the native ChatGPT experience. 另外 OpenAI强调的市场蛋糕还有健康医疗领域 因为GBT5号称有着PhD博士级别的能力 所以在医疗健康领域呢 也是能够对专业的癌症诊断报告做通俗易懂的解读 那么在发布会中啊 OpenAI就请到了一位女性癌症患者和他的家人 那他分享到说去年他被诊断出癌症病情 收到的报告呢有很多的医学术语 他就让XGBT先帮助他厘清资讯 and with the doctor's opinion, and also make a decision to make a decision. He also described the SHARGBT5 as a quick and完整 and the whole process of treatment that he felt like a friend. I think this is a very strong part of my own The medical field is a huge and the doctor knowledge of the knowledge of the patient It is a huge industry which led to a relationship between two患者通常没有选择我最近身边有个好朋友是进了重症监护室陷入昏迷整整五天他的家人刚开始除了每天去医院求医生感觉什么都做不了但是呢很快他们用上了AI开始对病情和治疗方案各种的学习和讨论之后呢感觉和医生的交流的时候呢障碍就变小了很多而在做出一些关键决策的时候心理也更有底了我觉得这就是技术的一个光明面能够赋能人们的自主权而健康医疗行业占据美国GDP的18%左右是巨大的市场OpenAI不会放过这个市场的同时我们也看到全球AI医疗市场也在出现井喷式的发展市场就预测全球AI医疗领域规模会从2024年的26.69亿美元飙升到2030年的188.38亿美元年复合增长率高达38.62%那包括OpenAI参与投资的专注于利用AI减轻医疗专业人员行政负担的出商公司Ambian Healthcare最近是C轮融资了2.43亿美元迈进独角兽行列还是专业编程场景GPT5都展现出了代码能力的强势升级同时OpenAI还请到了最炙手可热的AI编程出创公司Cursor的CEO到现场分享如何用GPT5打造出最高效的编程体验这里能够看出自从FDRABIT开启了Cloud Code的产品之后AI Coding初上公司们就开始纷纷的站队了之前OpenAI本来是想要买Windsurf没有买成我之前也出了视频跟大家讲了狗血的收购打瓜那么现在Cursor明显就站队OpenAI一起来打Cloud那么这是一轮新的Coding市场的争夺战它其实做了很多事情它在开发者社区的影响力我觉得会大于GPT5GPT5可能大家会做应用各种东西PLC快速起步但是一些专业的开发者可能还是比较喜欢上所以它一定是各有所长但是就算OpenAI主打以及自夸是世界上最强的coding场景其实也是让很多人失望的我可能本来的预期可能是在于说到怎么把这些东西都串联起来然后自行测试完成测试以后可能回过头来再去改自己的代码类似于有这样的一个端到端的能力就从OpenAI的定义上面能超越它的三的定义就是Agent Experience的定义在网上走一点的那种感觉但目前看起来没有就完全没有总体来说是一个跟在我看来是跟Athrobic的可能Opus差不多的一个能力范围吧同时呢这场发布会不得不吐槽的就是现场出的各种bug了让这场万众期待的发布会呢显得特别的草台关子那么这个时候呢OpenAI就得感谢自己还没有上市啊如果是谷歌的发布会出现这么多的错误我们可以想象股价呢早就蒸发上千亿美元了首先在发布会直播中一张展示GPT5在编程基准测试SWEBench上性能的图表是出现了严重的错误图上代表GPT5也就是52.8%准确率的柱状图它的高度竟然明显的超过了代表旧模型O369.1%的准确率的柱状图另外一款模型 [14:59] 的柱状图与O3的水平位置一模一样但是标注的数字呢却是30.8%那么这个错误低级到不敢让人相信是OpenAI的发布会啊那尽管OpenAI事后在官网上是修正的图Sam Altman呢也是发文自嘲了但是这个图的火爆和出圈程度是直接秒杀Sam Altman之前铺垫的任何营销努力啊而更严重的可能是这显示出的不仅仅是匆忙和粗心更是OpenAI团队试图在数据呈现上营造出的巨大进步这样的假象同时Benchmark分数打网的事情其实也变得越来越不重要前两天刚刚release的Obersource Model它在Benchmark上的表现也还可以但是它真正使用起来那个代码能力其实挺拉胯的它出现了很多的bug然后很多的代码都跑不通Benchmarking is deadbut like long-lived benchmarking所有的研究都很努力,都很努力,都很努力,他们会比5%或者3%努力,很多研究都会在研究中,很多研究都会在研究中,但我认为,我的经验是有关的,不代表不代表不代表不代表所以,我认为,我的经验是,用者的细节不是什么意思,所以我认为下一个领域会主要是用者的经验,我觉得它是很难以为一个模特性的表现,像现在的表现。另外还有一个杠杆的细节,在演示过程当中,GPT5在解释博努力效应的时候,错误的采用被主流物理学教材已经正伟的等时通过理论。前一秒CMT还在说GPT5是属于博士级别PhD级别的AI后一秒就直接自己打脸了还挺尴尬的那么这显示出GPT5完全没能够识别过时的错误解释理论让外界对这个新模型的理解和推理能力有了更多的质疑不过有一说一在解释这个理论的时候自动产出的高质量SV机动化与可交互代码还真的挺炫酷的感觉对我们的视频后期会非常有用也说明OpenAI的多模态生成能力确实还是挺强的我的总体感觉是感觉OpenAI在尝试去在那么多个release之后想要能够在这个阶段上面可以站住脚跟把自己这个领先地位给站住所以它必须要去做这么一个release好我们大概是说了GPT5发布的重点那现在总结一下就是GPT5解决的都是产品层面的问题并没有技术颠覆性的创新那么这说明接下来一线大模型的技术差距也可能会进一步缩小大家都用着差不多的方式在把模型能力艰难的解压高式的往前推不过就是对算了一堆数据然后高质量数据筛选后训练还有退离时长工具使用这几个方面因此我也看到一句话说OpenAI从The One变成了One从引领者变成了前沿模型之一那么我下一个问题是为什么GPT5会这么的拉垮呢是不是LLM的发展路径真的已经碰壁了呢其实GPT5的训练从很早就开始了但是非常有意思的是没有一个模型在OpenAI从第一天就被命名为GPT5的我们都知道公司一直在维持新年代的模特但只要他们到达了一个大约的角色他们就参加了这个模特GPT-5一直在2024年代但只要我们到达了一个大约的角色OpenAI将这个模特是GPT-5OpenAI在d GPT-5. For example, in 2023, the OpenAI's name was released by the QSTAR, or Project Q, and this generation was called O1. OpenAI put a lot of efforts into a different project, which is Project Q. A lot of people will call it QSTAR. This project leaked around November 2023 during the Sam Altman saga. And this project ended up being the O1 series, so the O series. And in this project, there's a lot of emphasis on chain of thought reasoning. And just like creating reasoning models. So that was like the Q project. This O series of models was quite successful. Then we saw that it was again new O3 and O4 Mini. But it was still not called GPT-5. Why? The information was released in GPT-5. and also a very powerful article that was released in OpenAI that was the most important part of the GPT-5 development of the project. In the meantime, this kind of a simple way of doing OpenAI is to help the OpenAI to achieve the development of the development of the development of the OpenAI and the development of the OpenAI and the development of the OpenAI was called Teacher Model, which was a very important part of the OpenAI. [19:59] 科学领域以及其他领域方面相比起O1的母模型是取得了显著的进步当然这个进步也是因为OpenAI用上了更强的英伟大芯片服务器但是奇怪的事情发生了当OpenAI将O3的母模型转换为能够让人们提问的XGBT版本也被称为是Student Model学生模型的时候效果出现了显著的下降甚至比O1的表现也好不了多少那么同样的效果下降也出现在了API的模型版本当中那业绩有猜测是因为基于人类自然语言的聊天产品形态是拉低了模型的能力水平限制了AI的发挥那就可以理解说大模型像是一个理解这种高维度复杂内容的这样的一个模型但是最终它要跟我们人类交流或者说要把它转换成人类理解的这个文字的时候它需要通过这样降维的方式那就相当于一个高等的一个生物需要降维才能跟我们人类进行交流这样就是在这个降维的过程中呢其实它会损失很多这种高维度的这个信息包括我们自己其实也有一些各式各样这种潜意识啊或者是高维度的这样的一些思考那最终的话我们要跟人表达的时候其实是要通过语言来表达但是语言其实并不一定真正能够把我们大脑中的所思所想全部都能够去很清晰的表达出来或者甚至说有些东西是没有办法去表达的所以从这一点上来看的话当你需要这个模型通过语言来跟人交友的时候在一定程度上其实也拉低了模型自身的一个智能的一个表现那除此之外呢在03之后OpenEye内部呢也有一个代号为Orient的项目那么在今年2月份呢是推出但是也没有掀起什么水花估计呢OpenAI对他的信心也不大所以我们看到在推出来的时候也没有把GBT5的名字给他而是叫了GBT4.5我个人认为最大的挑战是在前组训练习因为上年上升了一段落连前年甚至比较早因为我们的高质和严重人数的数据数据是最大的重要在OpenAI的原则它有延迟而且那些企业,一些叫做成功,一些叫做成功,但基本上,在研究中,他们已经遭到高-quality,资料和他们在研究中用了一些研究中,但仍然没有结果,他们没有想到他们想到 generated by OpenAI's O1 model to train the Orion series, but still, the results weren't as good as people expected. And I would say the OpenAI 4.5 release, which is the Orion model, wasn't as successful because there really wasn't a wow factor. No one really paid that much attention to 4.5. In the information report, in the last year, Orion could not be able to succeed. The reason is that its pre-work training phase of the Orion series. The same thing is that OpenAI has found that the Orion model is a bit better than the other. The other thing is that the model is not good. The feeling of the model is not good. The other thing will cause the model is a bit better. In the GQ101, the show is a bit better than the model is a bit better. The previous video, the guest of Bill Zhu, we also shared that the model is a bit better. Even in the learning process, it may be a bit better. The most important thing is that the model is a bit better. The training is not possible to do it without any training. You train to a certain extent, it will fall apart. In the 21st region, I often see the catastrophe forgetting. When you train a long time ago, it will be forgotten all the past. The whole reality of the policy is all over. This is why you first have to be a big part. It's like the water. You keep in mind, you keep in mind. You keep in mind, you keep in mind. You keep in mind, y水注到一定程度它满了那你再往里面注水会发生什么就是它会流出来一些但流出来的不一定是注入的水可能是原来已经有的水那如果原来已经有的一部分水是很重要的水就像你大脑里面不停地灌输知识然后到最后你扩载了然后把加减乘除忘了那是不是剩下的所有的知识体系就直接fall apart这个问题本身叫model plasticity就是说它的可塑性到了某种程度就直接崩溃了然后你要怎么去解决这个问题叫continual learning现在可能你有一天会人类生成一个terabyte of data那时间是10个terabyte那未来可能生成数据它会越来越多那你怎么能够用一个模型无限的去训练它让它仍然能够对未来的知识进行获取这是不可能的那么这样看来以Transformer架构为基础的这个LLM模型发展如今确实可能到了一个关键的时刻那或许呢我们需要一个完全不同的新架构来帮助我们突破目前的技术壁垒那我们跟身边的技术大牛聊了一圈啊总结了一下接下来前沿大模型继续优化的方式呢可能会有三种那么第一呢是通过强化学习第二呢是压住多模态能力提升带来的突破而第三呢就是寻找其他的框架的范式 [24:59] 那关于下一步AI能力提升还能怎么走的问题首先呢就是强化学习路线简称RLBrain Enforcement Learning包括呢RL在预训练阶段的尝试我先讲讲以RL为核心的训练机制为了解决什么问题就是说很多的任务是以目标举动的比如说写代码比如说数学物理就是金融机构的一些东西然后再比如说城市规划呀你做operations researchsupply chain这些东西它都是有明确目标的世界机制也很完整如果A发生了会出现B那在这种情况下pre-training就变得不是很有必要第一你这种专业型的目标为驱动的这些场景你可以想象大多数都是没有任何的数据的数学跟代码是唯一的两个可能有相对比较多的数据点的一些场景除此以外我刚刚说的剩下的那些点基本上都没什么数据你很难在互联网上得到大量的数据是完成这个训练第二本质上它要解决的问题是非常泛滑的而数据上已经出现的数据大多数都是非常聚焦在一些经常会发生的coding问题和代码问题数学问题而那些非常高深难测的数学问题是从来没有出现过的那他就必须要通过一个counterfactual的形式就是我要生成一些这事件上从来没有出现过的代码数学物理规划等等等等的这种输出然后靠一个Ground Truth Evaluator来告诉我做的对不对然后去Self Train这种训练方式是非常适合于这种有Ground Truth能够做出精确判断的这种用力然后去进行优化的这个时候RL的最闪光的时候了其实很多research在网上都说过就是说其实现在最大的问题是verification我如果能够找到一个goodverifier那我可以consider the problem solved因为可以通过RL去完成对于这个verifier的occupization就可以了那Bill说的这个verification验证是RL当中非常重要的关键也是The Information爆料当中GPT5在RL上面的杀手锏那报道就说OpenAI一直在开发一个被称为Universal Verifier通用验证器的技术让一个大语言模型使用各种来源的研究来检查和评分另一个模型的答案可以自动执行确保模型在强化学习过程中生成高质量答案的过程这个方向是就像我们当年看到Alpha Zero打败人类一样它所能够走出的一些路子是跟人类正常想象当中想象不到的一些路子可以通过这个机制甚至可以发现新的物理定理可能可以真正去discoverhuman所不拥有的knowledge这个可能是下一步我觉得真正迈向super intelligence的一个关键点但是目前还没有什么很好的一个突破而接下来需要各大模型公司去探索的第二条路就是多模态就像前面我们说到的大元模型的维度是非常有限的而多模态以及世界模型将对接下来AI的发展至关重要还有一个变量我们要注意就是多莫态因为多莫态一旦引入了的话它就有非常复杂的workflow比如说你要用浏览器你要用数学你要用使用代码你要使用各种复杂的工具对吧然后包括多莫态的使用比如说你看那个GaiaFacebook提出来的Matiagent这样的框架对吧它其实是非常复杂的任务人类去完成都不能要6到15分钟如果AI能不断的把时间降到6分钟以下我觉得这个也是在学术界包括创业公司一直在追求的比如说我们在金融领域去做很复杂的自动交易自动策略包括给网红们去做这种发帖其实这里面有非常复杂的步骤你怎么样把它的 boundary能够提高我觉得两个层面一个是在应用层有Multiatiol这样的系统不断去推高这个需求另外一个就在模型能力层面大家不断去在螺旋式上升继续更大的Model当Model因为算力和能源限制的时候它就会去做MultiModel的组合所以上面是MultiModel下面是MultiModel我觉得这个是接下来我比较看好的2到3年的一个发展的路线图对于大方向的突破我感觉应该肯定会发力在MultiModel上面特别是在视频的world model上面人类的语言文语本身是一个非常大的compression它的信息搭载量和视频的信息是一个数量级difference这件事情我是同一样的困难说就是人类从视觉和听觉以及触觉各方面的这种多维度的信息吸收的整个数量级是要比纯文字要高出大几个数量级的文字训练的一个hypothesis就是说我如果能够通过一些简单的rules就是比如说reinforcement或者reward model都是说我通过一个简单的 rule或者一个简单的判断方式Either训练出来或者写出来的判断方式能够去判断一个模型的好坏那他就能够告诉你说我怎么去提 [29:59] 这个模型它就相当于一个文字领域的world model对吧这个比较好理解那比较复杂的点是当你出现了多模态视频可以navigate environment之后它的这个evaluation的难度就会高很多从纯pixel的方式去做evaluation这个是目前robotics领域肯定没有解决的问题如果world model能有大幅度提升的话那我们有一个很大的机会能够去训练比如说视频理解的模型Robotics的基础模型然后再比如说游戏的基础模型这些基础模型诞生再给到一个机会让我们去后面再去做Post Training它可以在整个多模态的世界里面创造Tax Based Model的一个同样的可以Replicate的一个成就然而在那些领域当中它所代表的市场份额或者整个市场的空间其实比纯文字的设想空间要更大它可以把一个纯文字交流式的非常compress information的这种系统拓展成一个 either 线上的非常rich的那种information或者说visual的一些部分或者听觉的部分触觉的部分或者直接线下的robotics的东西它们能够deploy的这个领域有一个非常大的延展所以我觉得我刚刚说的像World Model这个方向visual的方向这一定是下一步最最重要要发力的方向而多模态之战确实在最近变得非常的激烈谷歌最近发布世界模型Genie 3就在一些业内人士看来重要性是要超过GPT5的我们硅谷101也是目前在操作这个选题很快就会放出来所以大家记得关注我们的账号不要错过更新此外Bill提到的图灵奖得主Yanlo Koon近年提出来的核心研究方向叫做Joint Embedding Predictive Architecture简称JEPA翻译过来是联合嵌入预测架构意在克服大语言模型的局限推动AI进一步理解物理世界JEPA本身其实它也是把所有模型的训练放到浅诚空间中去完成它在浅层空间的话对于你的输入是有一个抽象的一个表达然后对于你的输出也是有抽象表达那这样你就可以再把input output都同时放到这样的一个维度空间中去进行一个训练然后再给到它不同的这个state就是一个状态的量然后让它可以在浅层空间中去预测我下一个动作应该是怎么样的或者我下一个就是应该预测的是怎样的一个状态的量然后让它可以在浅层空间中去预测我下一个动作应该是怎么样的或我下一个就是应该预测的是怎样的一个状态那它在这个过程中呢就不是一帧一帧或者是一个pixel一个pixel去预测的而是它是把你mask的某一块或者是遮盖的某一块可以整体的给预测出来那像JAPA本身的话它其实也分它的image的JAPA就是iJAPA和vJAPAv6JAPA然后最新发表的这个文章呢其实也表现出说我在预测一个整个这个视频中的这个事物到那个变化的时候也取得了非常好的表现所以说我个人其实也是比较看好就是一些非Transformer的这样的一些构架是否在未来可以说给到我们一个真正的一个智能更加接近或者是模拟我们人脑思考的一个方式所以说我觉得Transformer局限性它是存在的但是我们也有其他一些Alternative的这些架构也有不同的这个团队在进行探索所以说我觉得大家可能也需要去关注一些非Transformer方面的这些模型究竟是怎么样去模拟人类的智能那么最后还想说的一点是这次GPT5的翻车与Sam Altman本人之前过于浮夸的营销是分不开的在发布会之前他在X上面各种预设还有用词一会儿在他弟弟的播客上感叹自己相对AI毫不用处一会儿呢又是在X上面去晒他跟GPT5的聊天截图各种的暗示但又保持神秘感是非常吊足了公众的胃口同时把这个期待直拉的太高结果呢发布会一出来大家都愣了所以呢这次发布会的失利呢也是这个被市委营销鬼才的Sam Ultimate太过度营销的一次反噬了那么总结一下长期来看到达AGI之前我们可能还有很多的工作要做还有很多的技术壁垒需要突破而这些突破需要脚踏实地的去研发和创新但是很遗憾的是在人类的技术进步能在进一步被推进之际OpenAI等大模型公司却开始在商业化上变得非常的激进包括发布GBT5之际是正式的开始打价格战来圈地圈市场份额那么这事让不少人担心会不会这次GPT5的发布意味着AI泡沫泡灭的一个开始呢AI大模型的进展是否会就此停止呢对我个人也是比较期待类似像Drapa这样的一些新的构架能够出现有更多人能进行探索而不是大家因为说Transfer现在可以给我们带来很多的经济利益 [34:59] 就只是停留在这样的一个阶段然后一直所有人都bet out这个scaling out能够继续持续下去但是从GPT5的发布来讲的话我觉得大家也可以更好的去清醒的认识到Transformer本身这样的一个局限然后可能也有更多人可以去关注其他的一些alternative能够帮助整个AI或者人工智能得到一个更深远的一个发展那最后虽然我们这个视频说了OpenAI和GPT5的这么多幻话我个人其实还是非常非常非常喜欢这款产品的以及我自己其实是一个忠实的用户基本上工作和生活都离不开XGPT了那么这场发布会让我看到了XGPT正朝着一个更好的AI全能Super App的一个迈进很多功能在我看来都会让我的生活和工作更加的高效而看上去OpenAI还会继续的优化GPT5的各种性能到时候我们也会为大家跟进AI发展的进步的分析所以不要忘了关注我们的账号那么这就是本期视频的全部内容真是赶了整个周末的时间出的视频也是非常辛苦团队了所以你们的留言转发和点赞是支持我们硅谷11001做好深度科技和商业内容的最佳动力那我们就下期视频再见了Bye