阿里云智能楼横与Pokey AI朱哲卿：工具调用将助中型模型超越巨型模型

阿里云智能楼横与Pokey AI朱哲卿：工具调用将助中型模型超越巨型模型 企业级垂直Agent因调用工具少、上下文简单而对技术依赖最低，反成当前最赚钱方向，而通用Agent与企业级Agent正因智能增加与极端边缘情况需求而双向演进。 本次对话深入探讨了以“工具调用”为核心的Agent范式变革，指出中型模型配合优秀的工具调用能超越缺乏辅助的巨型模型。同时，嘉宾们拆解了通用Agent与企业级垂直Agent的三层架构认知，指出技术依赖度低的企业级Agent因更贴近业务和私有数据，反而是目前最赚钱的赛道。针对大模型技术演进，对话强调了基于模型的自我强化学习（RL）是突破互联网公开数据枯竭的关键，并分享了云厂商在AI原生全栈基础设施上的角色转变以及企业在AI落地时的架构治理与组织协同建议。 2025年被公认为“Agent元年”，工具调用（Tool Calling）成为核心驱动力；测试显示Grok 4开启工具调用后准确率从20%多飙升至40%多，使32B等中型模型具备逆袭巨型模型的潜力。 (0:00) 云栖大会现场涌现出大量医药研发与病历分析等企业端深水区应用，智能眼镜因无屏交互特征被视为AI Agent最佳落地载体之一，多Agent协同结合MCP协议更催生出“Agent钱包”等新趋势。 (4:59) Agent架构可分为模型层、集成层与垂直企业级三层，其中垂直企业级虽然技术依赖度最低，但凭借行业私有数据与渠道等壁垒反而是当前最赚钱的赛道。 (9:59) 受限于公开数据枯竭与昂贵的人工标注，强化学习（基于模型的自我强化）被视为突破模型能力上限的关键，同时长上下文的工程落地与降低不确定性也是企业级核心诉求。 (19:59) 展望未来一年，业界预测将出现端到端自动生成Web/App的超级Agent公司，AI for Science也有望将传统药物研发周期从数年大幅压缩至数月。 (24:59)

在2025年阿里云栖大会期间，阿里云楼横与Pokey AI创始人Bill指出，工具调用与强化学习正取代单纯堆砌参数，成为驱动Agent性能跃迁与企业级落地的核心动能。 工具调用重构Agent效能与落地载体 (0:00) Bill认为今年被公认为“Agent元年”，其爆发根基在于工具调用（Tool Calling），而非盲目增加参数。例如针对大模型数不清“Strawberry”中“r”数量的缺陷，直接调用Python脚本即可解决。Bill援引xAI的Grok 4在Humanity's Last Exam（HLE）测试中的表现指出，在未引入推理时间计算时，开启工具调用使其准确率从20%多激增至40%多，并大幅压缩了思维链长度与Token消耗，使32B中型模型有能力反超无工具辅助的巨型模型。 在硬件承载端，Bill指出智能眼镜因缺乏物理屏幕，天然依赖语音与Agent交互，是极佳的落地载体；车载系统通过语音指令与Agent跨端操作手机和车机，同样提供了无需触屏的范式。对于未来半至一年，Bill预测视频生成在物理连续性上将达到肉眼难辨的临界点，Agent也将从当前仅能调用十几个至两三百个工具，向跨越整个互联网生态拓展，并结合世界模型与强化学习升级具身智能控制器。 Agent商业分层与企业落地壁垒 (9:59) Bill将Agent划分为三层认知架构：底层是由Anthropic的Claude等主导、用户自备工具的模型层；中间层是集中预置数百种常用工具的集成层，如Pokey AI、Induced AI、Manus以及Composio等；最上层则是针对特定垂直业务工具进行微调的企业级Agent（如Clay、Dekagon）。Bill特别提出，垂直企业级Agent对纯技术深度的依赖往往最低，服务流程相对简短，但却因掌握私有数据、行业人脉与销售渠道，成为当前最具盈利能力的赛道。 针对企业级场景，楼横指出通用Agent向“智能增加、架构变薄”演进，但在面对合同审核等严肃、容错率极低的极端边缘情况（Corner Case）时，通用模型无法替代懂业务规则的资深专家体系。企业当前普遍面临“头脑过去、身体没过去”的转型鸿沟。楼横建议，企业推进AI时必须要求业务团队躬身入局并背负业务指标，统一技术架构管控以避免数百个无序POC造成技术栈混乱，并坚持由高价值业务诉求驱动落地场景。 强化学习破局数据枯竭与技术瓶颈 (19:59) 面对大模型单纯依靠扩大规模未能完全兑现“博士级”预期的现状，Bill分析其根源在于互联网公开数据的枯竭以及监督微调（SFT）的高昂成本——聘请专业博士标注单一化学数据的成本可达十至二十多美元。未来的突破路径在于基于模型的自我强化学习（Model-based Self-reinforcement Learning），使模型在具备判断标准的前提下自主迭代。楼横对此表示认同，认为人工标注仅解决了20%的入门引导，后续90%以上的能力提升必须依赖强化学习在业务结果与用户反馈中的自我演进。 在底层算法与工程方面，楼横指出当前长上下文（Long Context）存在实际性能脱节：尽管宣称支持100万至200万Token，但实测超过3万到5万Token就易发生失真与注意力丢失，未来需聚焦于分层、过滤及关联算法的深耕。此外，在企业级生产环境中，需通过严格控制Batch Size与温度系数等参数，切实压制模型的不确定性与幻觉。 AI原生基建演进与商业前景预测 (24:59) 楼横表示，当AI在企业业务系统的占比从辅助性的1%~10%跃升至超过50%的核心地位时，基础设施必须转向以GPU智算调度、非结构化知识管理、全模态模型管控及MCP/A2A等协议集成为核心的“AI原生全栈基础设施”。针对创业团队，楼横建议在POC阶段优先采用云端MaaS服务快速适配模型；小规模阶段借助云原生向量数据库等组件完成安全隔离；而在大规模后训练或私有数据强化学习阶段，则应采用PaaS化训推一体服务，借助云平台弹性算力抵御业务推理的周期性峰谷。 展望未来一年，Bill预测将涌现出能够端到端自动化构建Web或移动端应用的超级Agent公司，这类企业可能直接替代整支开发团队并实现爆发式营收增长；楼横则预期AI for Science将在医药研发中实质性压缩“十年十亿美金”的传统周期，实现靶向药分子编辑并在高难度确定性场景中取得突破。 对话表明，Agent的产业重心正从盲目扩增参数转向依靠工具调用、垂直场景私有壁垒与自我强化学习。然而，企业级应用仍面临长上下文注意力衰减、高确定性场景容错率低以及遗留系统治理等实际阻碍，全自动化应用开发与医药研发周期的颠覆性缩短仍有待未来实践验证。

[0:00] Bill: 工具调用（Tool Calling）是今年 Agent 爆发的底层基石，它能用更小的模型实现超越大模型的性能。 [4:59] 楼横: 未来可能呈现“100 亿人口拥有 1000 亿个 Agent 服务”的繁荣景象。 [9:59] Bill: 企业级垂直 Agent 往往是对技术依赖度最低的，但它们却是目前最赚钱的。 [9:59] 楼横: More intelligence, less structure [9:59] 楼横: 通用 Agent 就像一个刚大学毕业、具备通识水平的员工；而企业级 Agent 则必须深入业务，成为对流程规则了如指掌的资深专家。 [9:59] 头脑过去了，身体没过去 [19:59] 楼横: 师傅领进门，修行靠个人。前面的打标（SFT）就像是师傅领进门，只解决了 20% 的问题；后面真正能力的提升，90% 以上要靠强化学习在业务结果和用户反馈中的自我修行。 [24:59] 陈茜: 明年这个时候，AI 肯定能够数清楚 Strawberry 里面有多少个 r 了。 [24:59] 吴永明: 大模型是下一代操作系统，AI Cloud 是下一代计算机

[0:00] 怎么样能做出一款AI爆款产品呢企业级的agent是目前最赚钱的企业端的深水区应用其实越来越多的今年涌现出来了工具调用本身其实对于agent能力的提升是非常大的未来呢伴随着长季开始以后呢其实越来越多agent呢可以分化演化成为非常个性化的个人助理AI agent领域其实最好的一个落地点其实在眼镜上面还有车企的一些AI应用其实比我想象中的进然快AI大模型下一步发展会怎么走呢真正最后呢加强部分就是真的靠强化学习的结局无反馈或者一些野物结果的反馈我觉得这个部分会占比越来越大为什么GPD5这个级别的模型还不能解决Strawberry这个单词有多少个20个问题而这个问题本身的解决方案其实很简单我们可以看到并不需要那么大的模型就可以完成比原来更大的模型所能得到的performance的提升OpenAI 加古文软音等巨头正在筹备巨型数据中心而AI基建机云服务上怎么样才能够提供更好的服务呢现在增加了GPU制算能力一定会做调度第二方面我们增加了数据的知识管理能力我们在里面做管理同时会增强算法这里边我们可能要做相关的架构管理同时我们上面还需要有各种的一些生态的对接哈喽小伙伴们大家好欢迎来到硅谷101那么最近AI的进展又到了一个爆款产品频发各大AI公司开始搞事情的时间点那么在9月底正值阿里巴巴2025年云期大会在杭州正式的开幕我今年虽然没有能够回国参加但还是非常开心从硅谷直播连线加入到了现场对话了阿里云智能集团公共云事业部解决方案架构部副总经理AI加速器总经理楼横和Pokey AI创始人兼CEOMENTA前AI应用强化学习负责人Bill朱朱哲卿与两位嘉宾是一起深度聊了聊最近AI应用的爆发Agent与大模型能力的进化算力与云以及中国AI企业的竞争力非常有价值的对话希望大家就跟着我的视频再回顾一下我们在云七大会现场的对话吧产品类的提升其实是弥补开背后的整个基础架构也好整个infra也好整个国性能力也好的一个提升那你们关注到有哪些产品的范式变化以及造成这些范式变化的主导因素是什么我觉得今年最大的大家都说今年是Agent元年的Agent的核心其实就是工具调用然后可以举一些简单的例子比如说一个在硅谷或者说在AI界非常火的一个topic就是为什么GPT5这个级别的模型还不能解决Strawberry这个单子有多少个2这个问题而这个问题本身的解决方案其实很简单你直接拿一个Python script然后直接去搜它说有多少个2就好了其实现在我们可以看到工具调用本身其实对于Agent能力的提升是非常大的举一个简单的例子Grog4也就是XAI最新的模型我们可以发现如果用了工具调用在HLE也就是Humanity's Last Exam这个benchmark上面能够达到40几就是在没有Inference TimeCompute的情况下有40%几的准确率而没有工具的情况下只有20%多所以它工具的本身可以缩短模型本身所需要的Chain of Thought的时长Token数量以及它的Reasoning的复杂度那在这种情况下呢我们可以看到并不需要那么大的模型就可以完成比原来更大的模型所能得到的Performance的提升比如说我们可以看到很多32B的模型在用了工具调用以后可以快速的超过几十个B的模型的performance这个的范式变化从某种意义上来说给现在很多agent产品其实做到了很大的启发比如说工作流产品包括我们在内然后还有很多的类似于像Zapier NAN这些公司都在慢慢的往这上面去靠除此以外其实我们可以看到很多的general agent产品其实都是一个工具调用型的只是分别在于有没有开放性的planning还是封闭性的planning你是一步一步的去plan还是一开始就plan好有没有固定性有没有consistency是不是可不限这些东西是更多产品形态以及模型本身的设计方面的一个区别但是工具调用本身的这个范式的打下的基地是没有就是在横跨这些产品都是没有发生区分的那接下来我们来聊一聊就是这次的云期单会现场我知道两位其实也是去逛了一下现场的这个展会有没有什么让你们觉得耳目一新或者让你们觉得非常好用的AI创业企业也好工具也好其实我们看到的其实在AI应用方面其实蛮多的这个创新应用展现的比如说一些巨身啊包括像一些自动驾驶还有一些智能的一些穿戴其实呢非常吸引很多小朋友啊这个C端客户的这样一些眼球啊但其实从我来看的话其实我认为企业端的深水区应用其实越来越多的今年涌现出来了比如说像在医药企业他们一些药品的研发药品的这样一些医药的一些报告的分析总结包括像一些用病例的一些分析我觉得都是一些蛮好的应用包括像我们也看到说蚂蚁其实今年也在云西大会中有一个比较大的占管 [4:59] AQ专门来介绍了一些针对一些健康类的一些2C端的一些针对复杂病例的诊断包括像一些给他一些很好的健康的主动式的伴随建议我觉得这也是蛮有意思的一些应用场景我其实这两天花了一点时间稍微逛了一下然后其实我自己是做软件的然后其实我对硬件的一些产品都非常感兴趣现在的话其实在AIR Agent领域其实最好的一个落地点其实在眼镜上面是相对来说目前相对比较公认的比较好的一点因为它是没有机会让你去做手动的去点击以及操作的所以其实能看到很多这种穿戴式产品在兵器大会上以及各个展馆里面的一些应用看起来是比较有意思而且比较大的相对比较大的进展然后同时的话还有车企的一些AI应用其实比我想象中的进展快其实我之前这次跟小朋友一些交流然后他们也提到他们对于车本身和手机端的互动以及怎么用AI的方式GIA的方式去通过操作手机和Voice Command来完成对于车的操作也是很有意思的因为现在还没有完全到大家都自动驾驶的情况然后如果可以让你不去点手机不去点屏幕就可以完成很多操作的话其其实对AI agent落地来说是个非常好的一个落地范式未来的6到12个月两位觉得我们的AI产品方向会如何的进化然后可能在哪些程度会出现爆款的产品会出现用户们都觉得哇哦真的很好用的产品我想这是我们这样的普通用户会非常感兴趣的我觉得会有两个大方向三个大方向会出现比较大的飞跃第一个方向是在生成特别在多模态生成上面应该会有一个比较大的飞跃我们现在可以看到的大多数的视频生成和物理世界的consistency其实已经慢慢的开始变好了但我个人认为在未来一年之内应该会有一个临界点的超越就会出现AI视频是人类几乎无法分辨的一个情况当然这个也会带给我们带来一个concern就是当时消失的兔子的视频其实很多人都没有发现消失的兔子人们以为是真实视频然后变得爆火但如果未来超过那个临界点以后我们会发现那些视频我们都不知道是假的那就对于能否鉴别AI视频 AI生成内容给到更大的挑战第二就是工具调用现在工具调用的能力即便是最优的模型还是限制在可能最多十几个MTP多到可能两三百工具然后可能就顶到天了那未来能不能出现横跨互联网的AI agent这是一个我觉得值得期待的一个方向最后我可能觉得聚生智能上面的AI agent的使用可能也是一个非常有意思的一个点因为我们可以把聚生智能当中的controller的每个action都想成agent的一个action某种意义上来说也是一种工具调用那world model的更新能不能让我们真的可以用强化学习的方式去训练出更好的聚生智能的agent也是一个我们值得期待的一个方向我觉得AI产品可能会在这么几个方向上面会巨大的进步在未来12个月一方面就是它的长记忆因为现在Agent其实记忆能力还是比较短但是我们觉得在未来伴随着长记忆开始以后其实越来越多Agent可以分化演化成为非常个性化的个人助理当我们每个人都在以个人的习惯数据包括像跟他的交互方式的时候他越来越懂我们的时候其实Agent变成非常个性化可能就真的有是这个100亿人可能有1000亿个agent的服务于我们的这样一个过程大家指挥着越来越多的agent帮我们来做方方面的工作这是第一方面就是个性化的这个方面伴随着这个常记忆第二呢我觉得呢可能未来的话呢这个在端侧的这种小模型化或者快速推理能力呢会增强会极大加速我们在物理世界端的一些智能化的场景的应用另外呢我是学到呢其实现在伴随着我们说的这个模型的能力不断的搜导化的话呢其实在各种领域现在都在不断的突破啊包括数学啊这个心血啊等等等等我们伴随着企业端我认为也是未来的一个方向因为企业端的这个多刚才Bio提到了说多agent的协同调用方式调用其实我看到呢现在企业端越来越多的希望多agent的去在单任务去实现但是当单任务完成的比较OK的情况下其实一定会设立到多任务的一个意图理解和他的任务的一个协调调度这个过程中其实不仅仅是mcp调function可能还会设立到a to a甚至我看到现在比较流行的就是说ap2对吧可能现在agent可以带钱包了这时候其实我们带了agent钱包以后其实包括像一些function的协议越来越标准化以后其实对他来说我的一个任何任务调度比如说我可能希望做我的供应上的背景调查我需要去查所有的这种提查查各种网站他的邮件等等这时候我去带了钱包的时候我可以去给这种相关提供信息服务商去做微支付这时候很容易帮我把业务流程实现所以我们相信随着这种企业端的渗透的过程中我的企业的协议或者协同的标准化越来越丰富的时候企业的应用深度会越来越广从一个单任务的一个agent变成 [9:59] 整个的一个风群的一个状态那既然刚才我们说到agent那我还在Following一个关于agent的问题那agent其实分为这个通用的agent跟企业级比较垂直的agent两位觉得就是这两个不同的产品但是目前发展到什么样的地步了有没有什么样的明星案例呢我其实一般来说认为agent本身分三个层别吧第一个层级就是只有模型本身然后你自己提供工具然后他去帮你调用然后第二个层级是你帮别人集成完了很多工具让他可以自主去调用然后第三个层级是我在企业端然后我可能有一些非常在这个锤类内部的工具然后不是非常common sense的工具然后agent可能普通的模型调不好的工具然后由一个agent去训练fine tuning完以后去调用那这三个层级现在都有一些相对比较明星或者说很火的一些案例比如说在最底层通用模型那一层当然CloudEnteropic的Cloud基本上就是目前做工具调用的大家都在用的一个模型当然了我们也希望Poke AI现在之后会开出来的API和模型会能够超过他们然后大家可以用更低的成本来完成这些任务那第二级别呢也是我们所在的这个领域之内的之一就是我们会调用集成数千个工具然后互联网上面能知道的一些工具我们都会去把它集成好那大家在调用的时候就不需要自己去集成工具了那这个也是我们的优势之一然后市面上其实有蛮多企业都在做类似的事情那很多的这些企业其实是做2C短的比如说像刚刚前提到的Janspock Manus其实就是其中的一些案例但是现在其实有更多的一些纯工具化的通用agent工具的这些企业也还是冒出来比如说一些比较简单案例像Archid.dev然后比如说Composio这些公司都是说我不提供模型能力我只提供工具也有这样的企业存在然后最后就锤类的公司其实很多比如说像Clay再比如说像Dekagon然后再比如说像一些类似于说之前我们做视频生成的agent做视频生成agent这些企业级在固定的锤类当中做的很好的agent目前也开始越做越大一般来说像这些企业类的锤类agent对于技术的依赖度是最低的但是他们的护生核主要来自于他们自己对于数据的积累在这个行业当中积累的人脉资源以及他们自己的销售资源然后他们通过和AI结合使得他们整个原来的能耗可以快速被传播而这次动化所以目前其实还是属于一个相对比较混沌的一个市场就是每个赛道可能都有这么五六家在同时在跑所以机会还是很大我分了一个问题为什么你说企业对Agent的技术需求是最低的因为它所需要的工具调用的能力相对来说会弱一些因为你只要简单的翻译一下基本上调用的这个accuracy就是准确度就会非常高了因为比如说你只有十几个工具我以clay作为例子好了clay是一个硅谷相对比较火的一个做album sales就是外向型销售的这么一个agent它可以帮助你去在全网搜索到你所要就是想见到的人在linkedin上找到他们的profile然后你可以去在linkedin上面去发或者在email里面去发相应的信息那他所需要调用的工具其实很简单一个数据库找到他们所对应的信息然后再加上email或者linkedin的集成然后可以帮你发送信息所以从这个角度来说他所需要做到的上下文以及说他所需要真正调用的工具数量很低那在这种情况下呢它所需要的模型的能力其实相对比较浅一些但其实企业级的agent是目前最赚钱的因为技术要求低的情况就意味着他们可以用更小的模型就可以完成任务好的罗老师呢你对这个通用agent和企业agent发展方式有什么样的观察对我是觉得呢现在在通用agent的时候呢这个和企业agent呢有两个方向就是因为我觉得现在模型本身也在朝通用agent的话去发展对很多时候呢其实原来agent的做的事情模型当它演进了以后呢越来越多的做到了agent的本身做的事情所以agent的工程会越来越薄所以有人说呢more intelligence less structure对吧这个工程化的越来越少这是本身模型在做但是模型呢可能很难解决到一些深水区的过程这个需求所以这时候呢其实会衍生出来一些大量调用外部工具的这样一些一些通用agent我们叫做通用agent的对吧这种的话也会有比如说我们看到前一段时间比较火的在中国的话15小商品长一些人录了一个短视频说12345然后他就配合数字人去形成了一个实时的一个直播过程他已经配套了相关的是由同意或DeepSig生成文案这时候录的视频就可以形成一个实时的一个直播过程但是我们觉得到企业深维学的时候其实通用可能不一定的 [14:59] 解决所有问题因为通用可能只能解决简单的串接简单的一些准确性要求不那么强严肃性要求不那么强的时候但到深水区的时候其实我觉得原来很多SARS企业做的一些深水区因为它沉留了大量的corner case大量的一些企业深度需求比如说同样一个合同对吧可能在合同审核过程中AI判断就不能过对吧但是可能在企业端这个合同又因为各种其他原因是需要签的这种时候其实我们说的这种通用雷阵可能就解决不了这种深水区的coronar case可能需要企业针对自己的场景来结合他的一些业务流程和coronar case把企业端的agent产品做到深入我觉得这是一个发展所以一定会就像通用的agent就像一个大学毕业的一个具备通识水平的这么一个员工一样但进入到企业的话对企业的业务流程规则越来越了解的话可能进入到企业深水区的这么一个agent的状态我觉得是大概这么一个过程所以本身模型也在做agent的话通用agent会解决到我们一些跨产品跨应用的一些意图理解和调度然后到深水区的过程中其实企业级的这样一些agent的能力会结合企业的知识包括像一些业务规则去形成更针对性的深水区的企业agent的产品我记得你之前在另外的一个演讲中提到过说这个企业要拥抱AI能力的话要所谓的跨过这个AI鸿沟那这个跨AI鸿沟呢包括三点第一个是要选择这个合适的落地战略第二个呢是要选择合适的技术架构第三呢是要这个选择合适的这个场景那能不能具体的来跟我们分开的你讲说企业他们在拥抱这个AI战略的时候他们怎么去注意这三点因为我们觉得呢这个AI爆火的时候呢是先从模型开始爆火的对吧模型的各种搜他的指标啊打绑啊开始这个很惊艳的一个状态然后呢逐步演化到了这个2C端的一些场景查的Bot啊包括像一些视频生成对吧等等等等但是在企业端呢看到这些场景之后呢也非常惊艳希望引入到企业自己内部所以企业往往的是说高层很容易快速的基于这些复杂的场景之后认为在企业端能够很好的啼笑或者帮他解决很复杂的问题这时候企业端的战略很容易去形成一个all in AI或者AI驱动的一个战略这时候战略想的是相对容易的但往往落地难往往企业客户进去容易平衡难因为企业往往带了大量的遗留的一些资产系统一些业务规则往往这个转型不是那么容易的所以我们觉得企业首先要把自己的战略想清楚战略想清楚不仅仅是说头脑过去了可能要把身体的往往是说我们认为跨越红沟是头脑过去了身体没过去怎么样去把身体配套过去这就要企业的上中下层完全的要配套这套战略来去执行比如说有些企业往往是由科技部门牵头做AI转型这个时候其实业务部门就在外面做一个裁判对吧我给你提需求你做的不好我来给你评判这时候往往这个事情是做不成功的往往业务团队也需要公身入局做成他的PD或者同时他要背一部分的AI的专业务目标对吧我销售额的转换我需要多少的AI来辅助等等当这个做到的时候可能才能够驱动业务和科技团队一起来去形成一个AI的准确的一个落地的战略包括像人员的配合这是一方面第二我觉得企业往往做的时候往往容易说用散弹枪去打AI场景因为往往一爆的时候企业各个场景都爆了很多我经常看到一些企业爆了一两百个场景都在想做这时候其实企业的科技团队也就会大量的POC找不同的厂商来去提供这种解决方案最后落下来的话可能基于不同的场景来去选择了各种技术站这时候对于企业后续的话迭代就非常困难技术站也不统一知识也很难共享技术架构的上面的业务的调用也没法标准化所以我觉得对于企业来说往前走的话还需要想清楚自己的技术架构怎么样去演进不能被业务场景带动的技术架构来去走技术架构要去做相关的AI的架构治理而上面的应用可以百花其放但架构还是需要有一定的架构管控和治理第三我觉得企业的落地过程中还是要选择合适的场景场景不选择合适的话往往存在出现要么做过于长时间看不到效果企业的领导对他的耐心战略的定力就是个巨大的挑战要不然可能选择一些简单但是确实用的人少的场景看到的快速上线了但用的人很少这时候企业很难体会到AI真正对它的业务价值所以我们觉得在过程中还需要有一个很好的方法论帮客户选择一个比较高价值异落地的场景这里边我们找了几个方法一个是说一定要有业务团队要有业务诉求不是为了ALA就是一定要告诉我说我业务现象的问题是什么我希望解决什么我可能希望大模型小模型分别解决什么问题然后再来看说它的相关的技术难度场景对于使用的人数的广泛以及数据质量怎么样这是我们觉得给一个 [19:59] 选择常理的一个方法论那下一问题呢就是我觉得GPT5出来之后其实市场起码在硅谷这边还是有蛮多争议的一方面我觉得GPT5它确实是一个更好的AI产品那我在开头也说了就不管是写文章还是很多的多摩泰能力都是有非常大的提升的但同时呢大家其实对GPT5有一点失望的时候就是当时我们也跟Bill做了一个采访就是它其实能力去堆参数堆算力的出来的这个能力是没有达到人们对他的一个期待的所以我们看到这中间其实有一点对大家之前的期望其实有一点mismatch但是同时呢我们也看到就是在硅谷还是就是每天各大的这个大公司大player们在搜查搜查的喊搜查呢先跟大家解释一下就是state of the art就是最前面最顶尖的模型的意思那两位觉得那在接下来的这段时间当中各大player各大的模型厂商们不管是在美国的也好还是在国内咱们做的最好的包括签文也好要把这个模型能力再往前面推的话哪些的技术方向是我们应该关注的重点是比如说上下本还是COT思维链还是强化学习还是刚才两位说的调用工具两位觉得接下来我们的技术方面会怎么走我们先从Bill开始我觉得GPT5给大家的一个印象就是说本来希望它能够真正达到一个我们叫PhD level的intelligent agent或intelligent LM但是它没有达到大家的预期某种意义上来说我个人觉得跟数据本身的枯竭有关系因为不管是目前再好的AI lab目前的做法还是要有大量的free training以及supervised fine tuning来完成很多时候的warm up现在我举个简单例子像如果我们要训练一个可以在化学领域做到很好的一个agent然后我们第一反应是要先把supervised fine tuning做好也就是说我要收集一些人为标注的数据而这个人为标注的数据现在都需要去找博士生来标注了而一条数据在海外的话基本上在甚至于高达十几美金到20多美金只是一条数据而训练一个模型可能几十万条数据所以训练一个模型本身光是数据标注就可能高达几百万美金到上千万美金而这项即便是以这样的价格你还是很难找到这种博士生来帮你打这种标所以我觉得未来很大的一个程度我们要去期待能不能通过我一直叫model-based self-reinforcement learning就是说model-based self-improvement然后用RL的方式reinforcement就是强化学习的方式来让这个模型自行提升它能做到一个点就在于说如果说我们已经有现有的大约模型可以去衡量一个回答是不是好的情况下能不能在这个基础之上达到一个更强的智能强化学习是目前我们看到最好的一个可能达到这个目标的一个希望的一个技术所以我觉得未来可能最有可能出现爆款的方向就是通过自我提升的方式达到一个在某些领域达到PhD Level Intelligence这样的模型好的 罗老师呢我觉得其实未来的模型的发展这几个方面都非常重要第一还是确实刚才像Biu说的强化学习因为我们认为中国有句话叫做师傅领金门修行靠个人前面打标的这种方式更多是像师傅领金门一样它解决前面20%真正最后加强部分就是真的靠强化学习的一些用户反馈或者一些业务结果的反馈我觉得这个部分会占比越来越大我相信可能未来可能占到90%以上的真正能力提升就是靠这部分而且这部分对可能算力要求也不像前面打标方式那么对数据要求以及算力要求那么高就是第一方面第二方面我认为模型的发展一定会基于长上下文来去做越来越多工作虽然现在很多模型提供了蛮长的上下文的支持比如说有的提供了100万Token 200万Token但实际上的模型真正在处理过程中能handle的上下文长度可能也就是3万5万的这么一个规模很难处理再更长了因为再更长的话它就失真或者是丢失掉聚焦所以我觉得模型后面的话一定会基于长上下文做很好的分层和过滤然后处理好它的上下文之间的关联等等第三个我认为模型现在不确定性在一些严肃场景还是有巨大的挑战和压力的因为确实模型需要进入到深水区的时候其实需要解决掉这种不确定性我觉得现在也看到一些论文通过Batch Size的控制通过温度控制去降低我们的不确定性我觉得这也是一个蛮好的突破的另外我觉得其实还是模型就是这个大模型的这个协议的之间的互调对吧比如说像A2AMCP包括像现在AP2等等等等各种协议越来越多我觉得这是蛮好的现象的它更好的去使得模型的具备一个像生态能力跟大家周边的一个很好的协作关系我觉得这是一个蛮好的一个发展方向 [24:59] 我们在看到模型能力在往前走同时我们也看到整个的基建也发展的越来越完善了所以我想接下来follow up一个问题问一下楼老师就是现在的营厂商们都在强调所谓的权战能力咱们怎么去定义一个好的拥有权战能力的AI的基建服务商是什么样子的以他利云在这里什么样的自身的优势其实我们也在被很多客户问或者我们自己问就说为什么叫AI原生对吧原来的时候其实没有AI这个概念已经有了三四十年了对吧以前为什么不叫AI原生就是因为我们自作自作总结因为AI现在已经越来越多的成为一个企业的业务系统的一个主流对吧原来的时候可能只占了1% 5% 10%以内现在越来越多的渗到核心领域中去可能未来超过50%以上都会有所以当这样就像原来云原生出现一样云原生的时候就是因为原来的时候云的基础设施X86规模越来越大的时候它需要有一个很好的架构管控所以原生架构就是要去做架构治理和架构管控的所以AI原生进来的话就是要为我们下一代的AI应用构建具备一个很好的架构管控治理能力这里边我们想会变化什么第一个我们相信会看到是一定会变化算力原来可能以CPU为主现在增加了GPU制算能力一定会做这个调度第二方面呢我们增加了数据的这个这个知识管理能力原来是以大数据结构化数据为主现在很多文本数据啊非结构化数据半解构化数据成为一个知识我们在里面做管理同时呢会增强了算法算法就是我们的模型能力模型里面我们可能需要各种各样的一个尺寸模型啊模态模型啊就是我们不同的业务这里边我们可能要做相关的架构管理同时我们上面还需要有各种的一些生态的对接对吧MCP A2A包括各种生态的集成和对接这我相信也是我们的企业架构需要的所以这些是我们认为一个全站的基础设施提供需要具备的一个能力好的那如果给创业公司们因为公司它不同的阶段其实对云服务商有着不同的要求对吧那比如说给创业公司们一个所谓的云手册他们在不同的阶段那比如说POC阶段到小规模的阶段再到大规模需求的阶段他们需要在每个阶段最应该注意什么样的问题呢我觉得从刚开始创业阶段在POC阶段可能更多是验证它的业务流程功能的可用性对吧然后验证功能work然后原来跟这个步行的模同适配它需要快速适配说我这个场景适用多大尺寸的模型什么样模台模型去适应我这个场景所以这个时候实我们建议呢可以快速的用云上的一些MAS服务来去支撑我的业务不用去自己来去搭整个的一个业务全站对吧我快速在MAS平台上选择不平的模型的这个广场中选择不平的模型尺寸规格以及呢我上面的工具链去快速去构建我的业务场景这是这个阶段再往后阶段呢当我的这个业务链路构建通了以后我可能需要去快速的去实现我的一个规模化这时候我可能往往需要去做一些管控比如说我的数据管控数据隔离这时候其实我们看到说可能企业需要有一部分的数据可能要去做隔离大数据也好数据库也好或者向量数据也好可能往往需要做这时候其实我们也建议企业不用从头端到端的造轮子可以通过一些云原生的架构来去提供我们像云上的一些可以跟我们的MAS集成的这样一些云原生的组件来去跟我们的大模型的一些服务做对接如果说进一步的话需要做大规模可能需要做整个的这个这个模型的后训练啊或者基于企业数据的一个一个强化学习啊这时候呢可能需要企业需要将模型进一步的私有化进一步的这个后面的去做后训练过程这时候呢其实我们也可以在云上面去提供一些PASS的云原生的服务由我们整个的PASS来去将我们企业的这个整个的训推一体的这样一个模型能力去做管理这样的话呢其实使得我们在企业更多聚焦在自己的业务需求业务场景中将基础设施啊基础的资源的调度管理啊包括一些软件的license费用啊都都用通过原生的方式去避免掉而且它可以提供比较大的巨大的弹性能力比如当我可能需要更多资源的时候呢我用原生的话可以弹性到一个快速增长当我过了业务峰值的话可以回缩回来因为很多推理业务往往有一个周期性对吧可能当我不用的时候呢可以快速回缩回来这时候呢其实我们在规模扩展的时候呢其实通过云原生和AI原生架构呢可以很好的去把AI能力跟云的弹性能力做结合这也是我们给一些创业公司的一个从小到大到大规模扩展过程中的一个建议那我再问最后一个问题吧就是希望明年这个时候呢能够还跟两位有一个这样的一个对谈希望明年我可以到现场来跟运气单会的朋友们打个招呼在现场见到大家那两位会觉得明年这个时候我们再来做这样一个对话的时候到时候AI产品会实现一个什么样的能力是我们现在还实现不了的我们来做一个预测好不好我们先从Vail开始然后洛老师我觉得一定会有一个方向是大家会有很多公司涌入并且能够达到目标的就是全站的 [29:59] webapp以及甚至于mobileapp的建立现在有很多公司完全就是专注于比如说像lovable它就专注于前端那比如说像一些纯后端公司像versile啊像sewerbase啊他们就专注于后端我觉得当然很多公司比如说像lovable或者riplet他们也在尝试做后端我认为到了明年这个时间段我们一定会已经看到一家公司可以把端到端全部集成并且我们会看到这样的公司可能已经可以做到很高的revenue的增长我甚至就会认为这些公司的revenue增长会超过现有所有公司的revenue增长速度可以想象如果一家正常的电商公司也好零售公司也好还是法律公司服务公司也好他们的整个端到端业务由一个agent一个prompt来完成而不需要很多的修改任何的公司都会愿意去花几十美金上完美金去做这件事情而不是去招一整个团队来做我觉得其实今年看到了不同的AI领域在C端在B端的落地我感觉有两个方面我觉得可能特别期待不一定是立刻能实现一方面就是我认为AI for Science因为我看到的其实现在医药研发方面其实对AI的依赖或者是需求越来越大因为往往原来的医药研发需要做分子的蛋白的编辑识别再去做实验大量的投入往往是说叫十年十亿可能十年时间投入十亿美元在一个涌道中要跑下去对吧这个管道中跑下去然后这时候其实医药研发企业其实大量的人力物力去组织这个事情我们现在看到越来越多的AIDD的公司在开始用AI的技术来去做分子的实验包括像诊断包括像一些合成去形成一些对于蛋白的编辑等等我们也看到了一些案例比如说可能生成了一些蛋白的编辑之后可以攻克一些病毒细胞等等我们相信未来的这种医药研发会极大的缩短时间可能从十年时间变到月度的时间十个月时间甚至更短同时呢一些靶向药可能越来越精准实现我们对于一些吃每个分子都能够精准定位到这个病毒这个病源身上我觉得这是我们希望非常看到的一个AI for science可能还有其他领域另外一方面我们觉得其实在产业端我们也非常期待其实AI能够真正进入到企业的核心领域中去因为现在其实在朝企业端渗透但是往往其实还是有一些知识管理包括像一些原来的一些小模型的确定性的事情没有办法被大模型攻克我相信随着未来的多模态能力实时化能力越来强确定性越来强的情况下我在这攻坚那种企业高难度场景中会越来越多的看到一些企业端的搜塔能力的出现这也是我非常期待的特别特别棒然后以及我增加一点就是明年这个时候AI肯定能够数清楚Srobbery那边多少个R了对吧希望如此那非常感谢两位的时间那我今年呢也非常的开心能够从硅谷跟两位来进行这样的一个对话希望明年我们的对话可以在云期大会的现场来进行非常感谢两位的时间那这呢就是我在今年的云期大会上与两位AI专家的对话就在这场对话发生之际阿里巴马集团CEO吴永明表示大模型呢是下一代操作系统AI Cloud是下一代计算机而阿里的资本开支会在3800亿的基础上增加更多的投入到2032年阿里云全球数据中心的能耗规模将提升10倍所以在未来的一年我们将看到AI基建的进一步的完善云场上全占能力的进一步提升算力投资的继续扩张大模型技术的继续更新以及coding agent等等产品测无论是企业端还是消费端都将会有新的更新那么这看起来将会是非常精彩的一年也希望明年的这个时候我有机会到杭州来参加运气大会好了那我们这期的视频就先到这里你们的关注留言还有点赞是支持我们硅谷101做好深度科技和商业内容的最佳动力我是陈倩那我们就下期节目再见了拜拜优优独播剧场——YoYo Television Series Exclusive