AI巨头陷囚徒困境难踩刹车 自我进化技术加剧失控风险

AI巨头陷囚徒困境难踩刹车 自我进化技术加剧失控风险 受高额研发开支与地缘竞争的囚徒困境驱动，科技巨头的放缓呼吁已沦为公关免责声明，而具备递归自我改进能力的AI正打破传统算力约束并率先替代高薪脑力岗位。 节目围绕 AI 研发踩刹车与全速狂奔的博弈展开，剖析了代码生成与递归自我改进（RSI）如何打破传统 Scaling Law 的约束，并揭示了巨头在面临千亿美元研发黑洞与地缘竞争时陷入的囚徒困境。嘉宾们对比了被动受控的核武器与自主进化的超级智能，指出权限让渡与黑盒涌现正将人类推向无法掌控的技术深渊。针对产业与社会冲击，讨论提出了残酷的“80 分斩杀线”定律，指出标准化脑力岗位正被低成本 Token 迅速瓦解，并反思了传统普鲁士教育体制与前沿生产力严重脱节的现实。最终，三位从业者从安全底线、宇宙规律与硅基文明分治等不同哲学视角，为未来的 AI 勾勒了各自的终极法则。 前沿模型研发正陷入成本黑洞，单模型研发资本开支预计到2028年达300亿至1000亿美元，但SOTA领先地位通常仅能维持约6个月且研发开支无法资本化分摊。 (29:13) AI Coding与递归自我改进（RSI）打破了传统Scaling Law对算力和公域数据的硬约束，使小尺寸模型通过长程任务沉淀轨迹后可实现自我进化。 (7:22) 职场面临残酷的“80分斩杀线”，AI稳定提供80分性价比成果导致平庸脑力劳动者价值归零，并彻底切断了新人积累思维链的培养通道。 (55:00) 企业引入AI最大的现实阻力在于内部中层利益部门的抵触，因团队缩编与预算骤降会削弱其职权与利益空间，导致国企与央企的部署渗透率反而显著高于民企。 (18:43)

围绕前沿人工智能快速演进的争议，业界一线从业者与投资人指出，随着代码生成与递归自我改进（RSI）打破传统算力与公域数据瓶颈，AI安全失控风险显著上升。然而在企业财务压力、地缘冷战思维与道德审查滑坡的交织下，行业实际陷入了“言行脱节”的囚徒困境，同时对就业结构与传统教育模式形成了剧烈冲击。 自我进化与权限让渡打破可控预期 (7:22) 从业者认为当前AI恐慌的分水岭在于AI Coding（代码生成）的普及与递归自我改进（RSI）机制的引入。传统Scaling Law依赖巨额算力与公开数据，其能力上限相对可测；而几十亿至百亿参数的小尺寸模型若借助垂直场景轨迹数据实现RSI自迭代，便能摆脱算力卡脖子限制实现跃升。与此同时，智能体（Agent）要求用户交出本地系统、浏览器与邮箱的完全控制权限，加之底层技术演化如解方程等突破已逼近人类认知盲区，使AI脱离了如核武器般需人类“按按钮”的被动物理控制范畴，带来极高的内生安全敞口。 商业财务黑洞与囚徒困境下的假减速 (29:13) 从商业视角来看，前沿SOTA模型的单次研发成本预计在2028年达300亿至1000亿美元，但技术领先优势仅能维持约6个月，且巨额支出无法长期资本化，给现金流带来毁灭性压力。尽管企业从牟利角度存在组建“卡特尔组织”集体停火的诉求，但冷战思维的地缘竞争与企业间的博弈彻底阻断了默契。嘉宾指出，海外科技巨头公开发文呼吁调整节奏，实质上更像免责声明或公关修辞；实际上各家仍在密集测试下一代模型，并未在行为上实质性放缓，甚至为了争夺商业订单和国防合作逐步下调了成人内容和武器系统的道德底线审查。 企业落地利益阻力与80分斩杀线 (18:43) 在企业应用一线，限制部署的首要障碍往往不是技术本身，而是组织内部既得利益者的阻挠。中层管理者因担心编制和预算缩减而消极抵触，导致管理意志更容易穿透的央国企在渗透率上反超民营企业。在就业市场上，企业优先裁撤高薪、标准化程度高的高智商脑力岗位，而具身智能因硬件与物理数据门槛进展相对滞后。投资人提出残酷的“80分斩杀线”理论：当AI能以极低Token成本稳定交付80分成果时，初出茅庐的年轻人因跳过了基础思维链的试错磨砺，商业价值骤降甚至直接丧失晋升阶梯，而资深精英则利用AI进一步放大产能。 高等教育脱节与人机分工重构 (85:00) 伴随大模型通过强化学习与思维链推演（如o1与R1系列）解开高难度数学题，死记硬背的公域知识大幅贬值，但现行高等教育仍深陷普鲁士工业体制的标准化考核，甚至出现博士考试纸上手写代码等与产业严重脱节的现象。面对技术冲击，现场形成了分歧：一派强调底层手搓工程能力不可偏废，另一派则主张应如弃用算盘般拥抱先进工具。嘉宾们认为，在AI吃透概率性公域信息的背景下，基于真实经历的“私域默会知识”、人与人之间的物理触达、情感链接以及复杂销售组织能力，将成为人类抵御技术替代的关键壁垒。 对于超级AI的未来治理，从业者与投资人给出了确保人类安全底线、顺应自然规律乃至“地球归人类、太空归硅基”的互不相侵法则。但核心现实难题在于，监管机构缺乏对未来技术盲区的预测能力，而全社会在缺乏国际红线共识与红利分配焦虑的裹挟下，仍在加速驶向未知的智能奇点。

[50:00] 投资人嘉宾: 每一个单独到个体的普通人可以不懂 AI 安全、不关注 AI 安全，但是人类作为一个共同体……共同体里得有人关注 AI 的安全和负责 AI 的安全。

[0:00] 假设让你们给未来的AI定制一条规则你们希望这条规则是什么我希望说它最后是保护好人类我觉得这是符合自然当它遇到所有的问题在有选择的情况下一定要选择那个符合大自然本身规律的那个选项无论结局怎么样我觉得都不往人类发明了它你们可以未来发展得很好但是就是你过你的我过我的外太空全部归你了然后但是地球留给人类如果我能给他制定一条规则我希望这个规则是他不要总想着取代我们要为我所用但我后来想不是AI想取代我们有的时候是比如说老板想取代我们我后来想这个规则好像是用于AI上就是RSI我觉得在这个之前你还有资格谈检素不管你是Ganser Peak CEO你是达利奥对吧你还是Otani的这个展望的办法你还有资格谈检素人类还有资格谈检素但是RSI开始之后你已经没有谈检素的资格所以我说我们打开了潘多拉的盒子吗对所以就是说在这儿谈检素这个是合理的因为我们现在还握着检素的钥匙他就是说你说这个减速这有点像你想减速然后你就跟大家说大家都不要内卷结果你半夜关灯在家偷偷卷评论区也会说就是说大家觉得说不要卷觉得是一种这个策略是因为他们已经跑在前面了想快点结束这个战争这个说你们都大家都不要发展了因为他们已经占领这个市场了Hello Hello Hello 大家好 欢迎来到我们的这个直播间 很难得跟大家播一次 今天呢还很荣幸的邀请了一些嘉宾 其实我已经发直播预告了 我们今天聊的话题我觉得算是最近的一个热点 如果大家对AI有一点点感兴趣呢 我觉得大家可能已经注意到了 最近大家讨论了很多就是AI安全啊 以及这个甚至很严重的AI末日论的一些说法 就国外的一些前沿 AI公司和行业人员 就大家都公开表示了对AI的发展是警告但是呢也有人觉得这个里面很复杂水太深还涉及到什么商业啊资本啊技术等等所以呢就是我们把这次的直播主题就暂定为我们是把AI的发展是应该加速前进还是踩一踩刹车然后我也特别欢迎直播间的朋友们大家也可以积极的跟我们讨论观点可能会有人我已经看到有一些网友分享了说哎呀我们普通人既不在这个前沿实验室里面训模型我们也不参与资本的政策和决定是吧有什么关系其实还是技术的发展还是有一个变化的大家很多人会用这个agent吧或多或少大家都会开放一些权限比如说你有的时候为了让他完成任务总是会把邮箱登录啊浏览器啊权限交给AI那这个时候我觉得AI安全其实是和我们所有人都很相关的话题不是说一个很遥远的议题那所以呢我觉得这个直播间还是很有意义的那今天的这个直播间呢我们邀请到了三位来自不同领域的嘉宾他们可能会从技术与产业啊资本啊社会影响和普通人的角度来聊一聊不同人对这些观点的判断等一下我会邀请嘉宾们一起自我介绍一下那首先我觉得我还是想做一个声明吧就是我们并不预设一些立场也不是说一定要分输赢因为它其实有点像一个公共的议题那每个人都可以去参与所以三位嘉宾讲的是说包含了所有的视角也欢迎大家积极补充而且据我所知今天我们邀请到的三位嘉宾们观点也不一样所以接下来我们就开始邀请嘉宾们做个介绍大家也可以在弹幕里面发一些提问我也开了弹幕我看到了我就帮大家去提问我们要不首先邀请黄老师来做一下简单的做个介绍好 各位朋友大家好 我是黄伟 我是余仁生的创始人 自优我们公司应该讲是在人工智能行业大概做了十多年吧应该是见证了人工智能技术的线性发展阶段也正在经历人工智能技术的一个指数发展阶段所以我们在始终自然气质的最先言包括像我们公司现在自己本身也说大模型我们六月份也发布了我们的第一版大模型YouTube包括像我们前面就刚刚发布了我们最新的YouTube Flash这个过程中我们确实看到了这个模型能力的一个指数及的提升当然我们也做应用我们也会看到整个模型能力你真正去解决问题之后其实你还会遇到很多现实的一些困难当然有的困难是技术性的有的困难可能是一些非技术性的第一线老兵我们可能对技术又兴奋又焦虑所以希望说今天有这个机会跟大家去做一些交流谢谢黄老师陆老师要不下一个您来Hello大家好我是AI区的UP主杜宇说AI我是杜宇然后我的话呢与AI的关联就是投AI用AI说AI因为我在前东家这个红杉工作的时候我们是21年就投了OpenAI从那个时候我们开始关注到从我入行以来的应该算是AI2.0因为1.0是四小龙那波然后就开始发现有很多的机会后面就自己出来孵化了一些早期的公司,也在帮助一些传统行业去应用AI。自己也是一个AI的重度使用者。 [5:00] 就像大家会问我为什么我的账号更新频率这么快因为有大量的agent在帮助我所以这都是在用说AI呢其实我觉得在今天这个浪潮下其实也关乎每一个普通人所以一直在做科普的账号以及也在大量的写AI的科普的书所以迄今为止也出版了有20多本AI的科普读物了去聊AI的这些热点事件对我们创业对我们学业然后以及我们工作的一些影响希望在今天的直播中能够跟各位嘉宾一起去分享出能够彼此碰撞出更多火花的东西谢谢好的好的还剩叙事之间老师大家好大家好我是叙事之间的主播活在当下一名活在当下然后我们对我们播客其实也聊了很多关于AI的东西很多时候我在准备选题的时候甚至在刻意回避我说就好像除了AI这一周又没有什么可聊的了这种状态所以当AI已经进入到这种状态的时候我觉得B站还有老师们一起聊一聊AI我觉得是很好的一种方式吧所以希望跟大家今天聊得开心虽然大家都聊过很多AI但这次是第一次四个人在一起我觉得还是挺有意思的我觉得开场前我们可以做一个快问快答或者说小游戏因为刚刚其实三位老师都提到了AI的发展大家的感知都是很快的那有一个小问题直播间的朋友们也可以把这个分数打在这个大部分里面这个问题是问所有人的如果100分代表这个AI全速狂奔然后0分代表暂停我觉得今天的AI以多少分的速度发展是最合理的还是说100分拉满直接跑还是说有的人觉得我们是不是应该缓慢一点大家可以把这个数字也打在这个弹幕里面我们也按照刚刚自我介绍的顺序黄老师要不您先说一下您觉得就是AI以多少分的速度发展是比较合适的我觉得七八十分就行了是80分杜老师我也觉得85分吧什么爱比青花老师高一点点有乐关一些我比黄老师低一点我六七十分吧因为我觉得还是人类文明的速度发展太慢了有点跟不上AI所以可能需要慢一点我感觉大家还挺谨慎的耶没有我以为会有人说200分应该就是全速加油那如果说现在刚刚大家打完了分嘛如果说现在有一个按钮可以让大家去按一下之后全球最前沿的实验室可能会暂停升级半年或者说升级三个月大家会按吗我可能会杜老师和张夏老师呢我百分之百会当然因为我们做投资的可能跟大家的这个思维方法不一样如果有这个权利肯定会用我会在之前把美股的公司的看跌期权开满然后把这个按钮按下去你有这个权利肯定要用的挺有意思的不知道直播间的大家是怎么去想这些问题的那就说回来我们今天这个直播的主题起源或者说我们大家都关注到了研究实验室都警告了大家吗我自己看到大家在外网讨论的很热烈说要给AI的发展刹车的时候我脑海里面当时跳出来的第一个问题就是为什么偏偏是现在当下这个时候大家开始集体的好像就约好了一样去说这个AI会不会很安全我自己也想了一个答案我当时那天在想的时候我说是不是因为有一个原因我们知道这个发模型的速度真的太快了很多能力也超乎了我们的想象尤其是我和业内人交流AI的自进化就这种地规式的自我改进就RSIRecursive Self-Improvement就代表就AI它不只是帮助研究人员写代码然后或者明确任务他们直接就自己参与设计评测下一轮了所以我想在谈这个AI到底安全还是刹车之前我们可以聊一聊比如说大家三位在的不同领域里面AI到底发展到哪一步了我会很想先问黄老师因为黄老师是站在企业一线的大家都会很关心AI落地比如说企业真正大规模使用AI是集中在什么地方您能不能举一个例子就是说它是到的价值然后已经企业用上了以及有没有反面案例比如说看起来很惊艳但距离稳定的商用大规模其实是比较遥远的您前面提的那个问题就是说以前大家不关心为什么现在突然很关心我觉得其中有一点是说其实以前也没什么人用因为以前大模型可能最多只能来做对话大家可能把它当做一个收索引擎的替代品而已最多只是说它收索会更方便而已可能用的人也不是很多频率也不是很高 [10:00] 但是从去年下半年开始比如以AI coding为代表意味着说model它可以主动完成任务我觉得这是一个标策的事件它原来是只能对话现在可以单独的去来完成一项任务所以他客观上讲的话就更多其他行业比方说一些金融分析师比方说一些陈屿元马农等等各行各业吧他们都开始用用了之后和你只对话或者说你只听别人说这种感受是不一样的我觉得这可能让大家更多的来关注这个很重要一个原因嘛还有一点就是说在你用的过程中你会确实看到模型能力的提升是非常显著而且这个频率是非常快的包厢可能说在一年多前两年前可能包厢这些大厂可能说他们发模型可能说差不多是以半年维收期那现在可能差不多半个月一个月一个新模型就出来了嘛还有包括像您前面提到的RSI我自己觉得这也是一个在技术上面我又很兴奋的一点但同时我又很忧虑的一点啊比如说我们讲skin law,你可以认为说我们模型能力的上限取决于我投入多少卡我用了多少规模的参数来做但其实他这个悖论知道吧就是当我模型做的越大的时候我越难落地我只能去用这些互联网上的公开数据来训练那假设所有的模型公司我们都是用互联网的数据来训练的话那在知识层面上是平全的我的区别在说使有更多的资源去做更大的模型Skin Audio 意味着说我的模型的上显和能力基本上是可控的但是RSI意味什么呢我模型自主进化我用个不大的模型你像我们刚刚发布的U2 Flash我们2000多月参数的一个model我们在部分环节我们也用了RSI那性能相比我们6月份的模型提升很多很多那你想说我AI训练了一个模型然后再用这个模型去迭代自己下一个模型就像左脚踩右脚这个能力越来越体重而且它不依赖于说我一定要更多的卡更多的互联网数据我甚至可以把因为我模型做的小就意味着说我有可能在更多的行业去沉淀我可以获得更多的行业数据比方说我们都说coding很难Coding其实就是一个逻辑能力而且可能说这个程序它可能也不是只有几十行还有几千行几万行甚至几十万行它还算个常识任务吗那如果说我把这个模型在某些任务场景去落地的话是不是意外的我也可以获得更多的一些常识的轨迹数据来用来训练我的模型提高我的能力然后你再结合这个RSI那我觉得说这种模型的新化它有可能会失控的对吧所以从这一段来讲的话今天可能有很多人对这个模型可能对AI可能说既兴奋又有虑其实我自己本身就是这种有点矛盾的 包括像我们在我觉得前面我跟一些朋友在交流时说我们觉得说我们做RSI的话我们会不会打开了潘多拉的盒子那我问题会比较直接因为您的身份还挺特殊的因为您是企业CEO那我会问一个非常直接的问题AI到底给你们公司产生了多少的真正价值比如说收入 效率 成本有没有一个大致的具体的判断因为我平时很少接触到大物性公司的CEO所以我会抓着您问这样更现实的问题比如说你们公司多少人用了具体怎么用呢他怎么提高了收入成本效率他怎么降低了你们的收入成本我们说一点点他让有的东西它是有滞后效应的比如说我提高了效率那我这个通动效率比以前很高但是它未必是在财报上面或者在别的方面去体验在体验出来但是从我们比如我们今天上半年刚刚公布的半年报来看的话其实我的比如说我在团队规模相对固定的情况下面我的收入增长毛利的提升背后的一个推动因素之一其实就是我的效率提升当然了可能说我今天做的很多事情未必体现在我上百年的财报里面但是我也可能会在下百年甚至在明年财报里面会把它体现出来的我是觉得可能说在今天在我们所有的岗位上无论是研发岗还是销售岗我觉得提高效率这个确定性的比如说像我自己现在我基本上我不太需要同事帮我准备PPT了我全自己写我只需要说话就可以了对不对我只需要会说话我有思路就可以了所以我觉得提升效率是个确定性的但是我们觉得还有一方面我们一方面会确实会看到模型能力的显著提升但这并不代表着今天的模型在所有的场景里面在所有的点都能够确定的去落地因为我们在做真实业务的时候我们还会遇到比如说这个流程里面某些点其实它是非技术因素的嘛那只要这个点存在就有可能导致你整个AI的这个底效并不能完全体现出来我举个例子比方说说我这个任务有十个环节其中我有一个环节 [15:00] 提高了10B的效率或提高了100B的效率但是我在下一个环境我还依赖人那么这个整个的效率是提升不起来的所以我觉得可能说今天我们为什么看到说AI它现在coding的方面去突破呢这个过程就是他不需要人太多参与对吧所以他反而能够是直接把他的效率直接体现到极致当然也包括像一些其他的一些文案工作比方说我们做PPT的我们做材料的做财务的甚至包括过去我们很多采编人员我们来做短距的今天我只要有这个有创意我能够非常好的生成提示时的话我就可以通过比如Cdance这样的一些软件我就能快速的比如把它生成这个视频而且大家如果说如果你去年看过视频今年看过视频的话你会发现去年我们就看到视频都很粗糙但今年的各种风格包括像原来我这个人不太看漫剧的嘛我前天晚上还看了一部嘛我觉得拍得很好啊基本上就是有那种电影风格了我觉得在这些领域里面中间不太需要人去参与的这些领域里面我觉得它无论是在效率质量当然了可能一定会反映在这个财务数字方面我觉得都会取得一个非常好的一个进展但是呢举个例子说我们发明了可供核击电可供核击电我们具备了掌握无限的能源但是如果说我的火箭的材料没有准备好的话也不代表我可以征服这个星际旅行所以我觉得可能说我们今天一方面的去追求这个模型能力的上限并不代表说我们今天能够解锁所有的场景完成所有的任务因为这里面还是有很多在能力之外的一些因素在制约着我们去落地对我插下去 藤老师你知道你刚才问这个问题你刚才问这个问题问黄老师了我一直在笑吗因为这个问题对黄老师这种就企业家来说压力气率非常大的我给你举个例子就是为什么黄老师第一句强调的是在团队规模不变的情况下你知道为什么吗我给你举个例子有一次有一个美股人他一边开财报的电话会一边说我们明年准备财员60%因为AI的效率实在是太高了可以大量替代人准备财员60%一边开电话会美股就一边开始爆拉这个公司所以现在这个问题对很多的企业来说它有一个很简单的题就是我给裁员我的利润来自于裁员所以你看就这个问题我黄老师的时候说黄老师非常有点紧张而且黄老师非常懂黄老师第一就说可能是不同的好的我懂了其实我是属于个人视角因为我这个也不做投资我当时比较好奇的是我刚刚还想说黄老师举的例子都是说PPT能够不用别人做PPT了这个C-Dice很强我刚刚还都说这不是对个人来说每个人都这样吗那对企业我现在听完你的回答我知道了这个不该问的问题还是要少问没有我没有说云之声是这样的我只说我调研过的很多公司好吧就是你可能在某些岗位比如说原来的岗位上你可能放十个人但现在呢你可能只需要两个人三个人但是你剩下的资源你可以释放到别的一方面来因为你这样今天还有一个什么还有什么像我们收入增长的原因是说我们的市场上我们的客户他们对AI的理解和需求是比过去显度去增长的就意味着说我今天可能用团队规模不变的情况下面我的并发能力是在增强的我觉得说AI裁员不是目的如果说你财说明什么呢说明你没有新的入口嘛那如果说我能够把这个团队的资源跟能力能够更好的整合的话那我在团队不变的情况下面那其实我可以支持更多的客户我能够带来更多收入黄老师我很想让布老师来聊一下因为布老师其实原来在红杉工作呀也可以聊一聊就看到企业因为我一开始其实想问的问题是企业部署AI很难跨过的门槛是什么我以为是模型能力要隐私的数据啊等等感觉好像是这个别的问题不知道杜老师对这个问题有什么看法吗这个问题我其实也是有很多这个时间的视角的因为这两年期就最近啊有一个词很火叫FDE嘛就很多这个大厂的人工毕业之后去给各个中小企业去更好的去部署应用它的这些企业级的智能体但其实在这个词火爆之前这个词最初是因为Palantir的提出来然后火了但其实在这个词火之前早在两年你可以先跟观众们解释一下什么是FDE可能我们直播间可能也有很多对AI感兴趣但不一定很了解翻译成中文我觉得就可以理解为AI应用的前端部署或者更通俗一点来讲就是各位员工我们每天在用的这些AI智能体和AI聊天机器人其实更多的是我们是C端产品但是一个企业当你要去接入AI的时候其实它会带来很多的问题比如说当你一个销售部门开始引入了智能客服以及智能体服务之后你现有的 [20:00] 这个团队的工作模式要变那你的汇报线条要变你的人员规模要变你的组织模式要变所以它其实是一个技术咨询加管理咨询的一个综合性的工作这是我对于今天在中国做FD的一个理解其实有点像前端的技术销售的工作大家知道在上一个时代其实很多企业是去采购Oracle的企业ERP服务嘛,但是其实当初在那个年代,前端去通过咨询服务,把这些技术产品卖出去的一个角色叫IBM,所以我觉得今天做FDE的这个环节,有一点类似于上一个时代,因为是本地部署的这种downloadable的软件的IBM的角色,他其实或者是爱森哲的角色,当然今天Eichengel又有新的这个角色了就类似于上一个时代IBM的角色所以他更像是一个技术前端销售但是他所部署的东西并不是他自己公司研发的比如说他后端也是云之声的模型或者说这个字节火山的智能体然后来结合这个企业的业务来去进行部署所以这是最近吧今年我觉得在中国比较火的一个这个工种的方向然后回到你的问题那就是为什么我们在企业部署的过程中会遇到一些困难呢其实就拿今天所有做FDE创业的这些人他们今天所面对的最大的困难其实就是企业内部既得利益者的一些反对其实他们面对的不是技术问题其实是人的问题举一个简单的例子如果说我今天是一个业务拓展部门的负责人然后老板当然站在老板的角度他非常希望降本增效我的团队规模越来越少我的预算越来越小的情况下给企业带来越来越多的收入有了AI的参与某种程度上是可以实现的就像刚才黄老师举的例子以前可能这个业务托展部门每个人要配一个文书助理或秘书帮我们写PPT那你要知道一个人员岗位一个月至少是你得开万百块钱的工资吧那你现在给大家都配完这个写PPT的智能体之后那这个岗位就没有了那实际上AI的部署对于企业主和股东而言将本增效是有利的但是对于很多传统业务的山头的山带王而言他是不利的因为从我这儿流走的预算变少之后,其实我的游说也在变少,甚至对吧,今天咱们这个也是网络直播,我想大家也都知道很多的中小企业,很多的业务负责人都有自己的小金库,那其实你的预算少了,那你的回扣也少了,这是一个非常现实的问题,所以这是今天所有的FDE在工作的过程中,他们所面临的最大的挑战,所以这是为什么今天我觉得很多的中国的中小企业,在去应用AI的过程中其实面临的挑战很大包括前段时间其实我看过一个统计的数据就是从GPT出现以来的这几年我们看到的是大元模型的渗透率对比这个数据指标显示的是国央企的AI部署的渗透率是大于这个民营企业的当下这个时刻为什么是这个时候大家一直在提这个AI安全进步是发生了很大的质变吗还是说这个规模堆起来的量变我不知道我们肯定大家都是深度使用AI比如说老师们有没有在某个时刻觉得说这个AI好像真的非常不一样或者说你们觉得如果这个参数算链数据继续扩展这个模型的能力是会一直这样稳定的提升还是说其实它已经快到顶了接近某种瓶颈了因为我之前也有看到一个说法就是说大家觉得这个大元模型基本上当然这是别人的观点所以又会有很多人去关心巨生我不知道大家是比如说黄老师怎么去看待你有没有哪个时刻觉得技术的发展好像AI智能让你觉得非常不一样你觉得它会一直随着参数算力数据继续扩展能力稳定提升吗我觉得说您前面谈那个恐慌我觉得有两点吧一点是我们自己用的过程中我们确实看到了这个能力的一个不断提升而且比如说我们今天我们用workbody也好我们用各种agent也好如果说我们希望说AI真的能够帮我们来主动完成任务的话我们一定要为他们开放一些权限开放权限这个事情其实本身就有一定的安全的问题或者是一些不确定性对吧 [25:00] 我记得我今年年初我第一次开始用龙虾的时候其实我是弄一台新电脑那可能说我自己的奉献意识比较强我不太敢说拿我这个已有的东西就让它跑我觉得第一个是说今天归机要探机来让渡一些我们的一些权限我觉得这个可能会带来一个安全的一些concern吧第二点就是说呢 可能是我们也是被恐吓的吧你看这个最近一段时间这个美国大厂动不动就在讲是要毁灭人类哈当然了就说是出于什么原因我们不知道吗当然可能说是两边被吓的吧但对我来讲我还有点什么的因为到今天包向您前面提到的问题说AI能力的上限是到瓶颈了还是会不断的往上走我个人的感觉还会往上走而且可能说在当然它往上走的话只是说比如说我们在23年24年25年三半年我们那种相对平缓的往上走还是说25年下半年到目前为止比较陡下来往上走因为它不一定会一直陡下它可能陡下来之后它可能会放缓但是整个是相当走的趋势我认为这个是没有变化的特别是我们前面讲的RSI对吧因为RSI今天我们刚开始用理论上来讲的话对不对它一旦自我迭代而且我们还有那么多的互联网之外的数据没有用起来那这些数据再叠加RSI的话能够把模型能力带到一个什么样的天荒板其实我们今天我们是不知道的其实很多时候你不知道本身就是个风险就像我前面举的例子嘛就是说如果我们不做RSI我们只是迷信Skin Law的话那很简单我有多少钱就是我有多少智能的上限那今天呢我们有了RSI了我没有钱或者我钱没那么多我迭代下去我也可能有一个未知的很高的上限我觉得这个未知本身就是一种很大的风险就还有点我自己的一个切身体会我们会感觉AI现在越发展越集权全世界可能又是美国中国美国中国可能有这么几家公司这个时候如果假如说AI真的是具备这种能力的话我们是要赌AI的公司的CEO的老板是一个善良的人而且你光善良还不行就说我很善良但是我过于单纯了我没有想到造成一个很严重的事故之后难道我说I'm sorry对吧我觉得这是很大的问题还有点说就是今天技术的发展是非常陡峭的坦率的说今天的AI技术对我们来讲还是个黑盒子我们的监管部门我们的各方面其实我们肯定没有第一线的研究人员对AI的能力和速度有个更直观的理解那就导致我们很多我们应该把AI装到笼子里面的一些东西我们是非常滞后的所以我觉得这是一个非常大的挑战所以这是为什么开头我讲的话我作为一个AI的一个第一线的从业者我一方面是我是对AI的这种飞速进展我是非常兴奋的但同时在兴奋之外的话我觉得说我们没有能力没有办法来对这个AI来做约束这个是我觉得是很焦虑的我觉得是几年前大家说实在不行我们就拔电源全世界这么多机房我们同时拔电源如果说我拔了别人没拔怎么办对吧我刚拿着这个另一个我拿着这个派的在看这个弹幕当总你的粉丝很多呀很多粉丝就要求当总发言然后说就是我帮这个直播我会抽这个直播间的粉丝来实施互动大家可以就是把你们想问的问题打在上面那比如说就有粉丝问当总就是说你之前为什么刚开始我说如果给这个AI的发展打分你以多少分进行有粉丝说看看这个问一下当总为什么打60分当总你对这个AI速度的发展不知道你有没有什么看法就实际上刚才听黄老师讲的然后我想跟黄老师补充一个比如我们做投资人的视角因为黄老师是做产业做实业的视角我们是做投资的视角其实现在一方面是因为安全的问题黄老师讲的RSIRSI我觉得在这个之前你还有资格谈减速不管你是你是AnswerPick的CEO你是达利奥你还是Otani的山坡的马上你还有资格谈减速人类还有资格谈减速但是RSI开始之后你已经没有谈减速的资格了所以有时候我们打开了帕多拉的盒子所以在这儿谈减速不管能不能实现这个是合理的因为我们现在还握着减速的钥匙在突破之后你就不用再谈了再谈就是天方夜谈对吧这是一方面但是另一方面从企业的视角来看因为我之前也研究过AnswerPic研究过OpenR研究过很多大模型的公司从他们的商业商务的财务的模型的角度讲其实所有的大模型公司如果此刻 [30:00] 假设他们可以联合起来比如说联合一个塔特尔这种就是一种垄断组织假设他们可以形成一种垄断组织的话他们最优的策略其实是所有人停止研发某某收钱就完事了这个对他们来说是最优策略因为大模型的研发实在是太费钱了如果你看Answer Peak的话看OpenAI的话他们的对研发不说算力上的资本开支纯粹的对SOTA模型的研发的资本开支大概按照他们的说法是28年300亿美元未来的话能看到1000亿美元起这是一个SOTA模型的研发成本一个SOTA模型的研发成本能支持这个模型当多少天多长时间的SOTA呢大概6个月比如说Nicloud研发一个新模型出来了坚持6个月然后Astra出来了GP6就变成SOTA了等等就大概6个月所以你如果一个Sota模型的研发成本是300亿美元或者未来上升到1000亿美元的时候你6个月就要支付一次这样的研发成本你的财务模型是不可想象的你到底要赚多少钱你才能够把你的现金流打正把你的经营现金流打正这件非常困难的事情对所以如果一直处于巨头们这样互相消耗互相去竞争搜索模型的话他们的研发成本是非常高的而且他们的研发成本因为在6个月之后就失效所以没法资本化必须在当年就提成研发费用全部充在当年这个对他们来说的财务压力是非常大的所以其实单纯从纯粹的商业利益的角度考量现在能够立刻联合所有大模型的研发公司停下这个对他们来说也是非常大好的一件事情当然了我们知道人类从历史上学到的唯一的道理就是什么都没学到嘛所以大概率是很难做到的事情啊所以只是从最优策略的角度讲这个是确实是一个可以执行的事情停下或者减缓速度对他们来说也是有利的只不过我们看到对比如说像奥印峰会上特朗普给华尔森打电话你看特朗普的这个语气特朗普对AI的理解是一个纯粹的冷战思维的理解对不对如果以这种理解的话那想去停下这种AI的研发我觉得是很难的 哪怕企业有这种牟利的自为方式可以大家去形成这种卡特尔但是可能比如台湾府政府都不允许你这样对所以我觉得这个只是理论上可惜对我刚刚一度想就打断插入另一个视角这个视角其实可能我觉得直播间有人有这样的视角然后广大网友我也看到了很多人这样的视角他就是说你说减速这有点像你想减速然后你就跟大家说大家都不要内卷结果你半夜关灯在家偷偷卷这个有可能是这种情况吗比如说你看这个感觉我不知道你怎么去看到这个包括我们暗幕啊评论区也会说大家觉得说不要卷他们已经跑在前面了想快点结束这个战争说大家都不要发展了因为他们已经占领这个市场了我不知道比如说杜老师刚刚杜老师也一直没有发言不知道杜老师怎么去看当老师大家都可以说一说对其实我是完全认同你刚刚讲的这个假设的就像咱们博弈论里面有一个囚图困境的这个字嘛那问题就是在这儿所有人都在说我们要减速但是我们可以去看大家去刷我的主页就知道了因为我所有发大模型的时候我都会发视频你们去看一下自从Dario他说了要减速之后Anthropic OpenAI包括这个Google他们发了多少新的模型而且现在这个X上很多人也发出来新的什么GPT6SOUL啊这个OPUS FAVOR 5.2全部都在这个内测的过程中从行为上我们不要去看一个人怎么说我们看一个人怎么做好不好我们去直接去看一个人怎么做这几家所有说要减速的公司没有一家真正的在行为上减速根本就是瞎扯而且刚才那个活在当下讲了一个点其实是已经发生的一个事情前两天在加州已经有用户联合起来起诉了这几家的垄断行为因为你们所有人联合起来说我们都减速那本质上来讲你不就是侵害订阅者消费者的这个权益吗这个GPT我都冲了一年了你现在减速相当于我本来预期还能对啊每个月都少说更能享受新模型的待遇就没有了你照样抽了我这么多钱所以他其实在商业上甚至是有可能会违反相关的反垄断法的所以我觉得这个不现实但回到这个问题的本质我们其实聊的就包括就是这个话题之所以能出来就是Anthoropic的创始人当时发了一篇文章我记得他那篇文章的标题是叫我们应该pace这个frontier他用的是pacepace并不是slow downpace并不是pause不是stop那我觉得他我 [35:00] 理解的配置就是我们要有一个节奏那这个节奏的意思就是说我们需要去达成一致的这样的一些认知而这些认知和协议不是单个企业能做得到的所以我觉得今天我们面临的问题并不是AI的模型发展的太快而是我们的安全治理和规则制定的速度太慢所以这是两把事啊所以我为什么开场的时候我打的分其实不低AI的研发就能够解决根本问题,对吧,你不能说我因为我不系安全带,所以我要减速,就你要解决的问题是,你要上高速的时候,你不应该减速,但是你应该系好安全带,现在我认为确实,我们最近看到各国领导人也开始去对话,可能会讨论这个问题,企业之间,协会之间,各国之间,产业之间,包括民众教育整个政策,必须得尽快地去补上这条安全带,如果不补这个安全带我就算去暂停六个月最后我依然解决不了这个问题这是治标不治本的嗯嗯确实是这样子的我是很赞同杜老师刚刚讲的我当时看那个文章我也觉得他并不是说要停下来而是说监管没有大家也没有这个意识我觉得有一个原因是可能大家还没有感受到他真正的风险其实所以我有看到网上有一种声音觉得说这个核武器那么危险大家都控制得很好了那为什么AI觉得完全没有任何问题大家会把这个AI和核武器比起来说这么因为网上说的是Kills Human Beings这个词大家就会分析说那核武器都没有那凭什么AI会所以我会很好奇比如说三位老师你们觉得这个AI危险到底是在哪些方面是危险它的危险性体现在哪里如果说让你们这个一线的从业者跟大家讲一下说到底会怎么危险我不知道你们会是具体是我觉得核武器跟AI呢如果说我们把它在危险上比的话我觉得他们可能如果说你掌握不好的话可能都是危险的和我其实你push button它才会发生嘛AI不一定 你包想今天无论是RSI还有多Agent协同对不对你最后你会失控的这是AI和核武器的最大一个区别那追问一下失控发生的事具体是什么比如说删除了我的数据还是怎么样它会怎么样不知道实际上这个事我跟我的很多朋友都讨论过因为我的作为大部分做爱投资的人都是技术乐观主义者对吧因为你技术乐观主义你才能够去做投资但是我跟他朋友说首先我也是技术乐观主义者但我说你们的思维上有一致性的问题你能一方面相信AI的进步只是刚刚开始AI的发展只是刚刚开始也许我们接下来会有更多的这种技术层面的范式突破能够让你的AI变得真正的AGI或者更强吧反正就是强到远超人类智能水平的速度一方面你很相信比如说像黄尔勋这样的人对吧他在任何的公开的发言里都是非常的乐观的讲这个人AI还远远没有发展到他该成为的那样对吧然后讲人类对算力的需求还远远没有得到满足但另一方面你又相信这么强的东西能够被你控制我觉得这个是一个逻辑上非常缺乏一致性的问题就是当他的智能水平已经超过你当他的知识已经超过你比如说现在已经有这个OttenEye开始去把这个NS方程解刮了虽然我们不是数学家但大家知道这个新闻就把NS方程解刮了如果当AI开始拓展人类的科学边界的时候 你还能不能说所有的发现你都是人类发现你很难再说这件事情了当然我们不讨论学术道德问题也许它借鉴了一些数学家的思路但是至少我们对AI的预期是它在科研上可以很快的帮助人类甚至独立去发现一些科学上的战归率如果当这个世界的自然规律都不再掌握在人类手里的时候你凭什么还认为你能懂可控是什么意思就是可控这个概念在你的本质里就已经超为了AI可以是质子你可以把它离开成质子如果AI已经是质子这个级别你还想说我对质子是可控的那只能是质子表现给你他是可控的而你不能再说在本质意义上认为它是可控的了我能回应一下吗我先插一句我非常知道您前面讲的观念第一个前面讲说大目的投入成本非常大但换句话说今天我们的很多任务其实不需要那么高的智能也可以做到我没有必要开著航母去送快递对吧这是第一个第二呢说你像我头这么大而且我的模型的生存周期很短我不是说这是没有意义啊就是说我们为了一个可能说有风险的事情我们砸了很多资源对吧但其实呢我们又没有去做些正确的事情那我道理 [40:00] 是用它来去挑战网络安全还是让它来解决一些医学难题来照顾人类我觉得这里面方向上本来你是可以做选择的但今天我们还没做选择或者说至少说我们没有做最正确的选择我觉得可能今天这是一个很大的一个问题还有包括前面多老师前面提到那里我们上高速首先应该是记安全带R不应该减速吗但是也有可能说我这个安全带还没有记上的时候它已经失控了或者说我理解黄老师意思或者说我的意思是当然还不是现在AI还绝对不是在这个水平但是如果RSI实现了或者说像那么多海外的产业大佬预期的那样实现了类比吗比如说我们可以现在用这个对高速还有安全带的类比还有刚才我前面说我的大木星对我们来讲是一个黑盒子通常是我们研发一板对不对我们各种维度的评测哪个指标好哪个指标不好然后哪个指标不好的话那我们比如说在算法在数据在各方面去我们做一些改进迭代其实是我们想测的但是有什么慢慢的话他某一天他有那个能力我们不知道呢对吧所以我觉得说这可能是往前去演进的话其实我自己觉得我前面说为什么打80分我是觉得AI可能说我不一定是要降速我可能要降的是加速度感觉我们现在一路跑奔我们没有想听后果比如说像安斯洛比克就是这些企业一方面说这个很危险一方面是猛砸钱搞这个事情这就是悖论吧我再查一句在杜老师之前再查一句我知道杜老师说话我再查一句说到这个我之前跟朋友说因为这个新闻出来之后朋友问我说你怎么看我说这应该是安苏批克的一个免责声明就是说我意识到现在再往前迈一步会有很大的问题出现人类可能会面临很大的风险我提出话了我是吹哨人我知道我改变不了同行的行为你们可能回去继续卷但是起码我把这个问题说了我有一个免责声明了至少我意识到这个问题了但是那是人类共同的商业的问题或者人性的问题大家不停止那跟我也没关系了我也只能这样才可能起到一个免责声明的作用其实我觉得顺应这个当总刚刚讲的其实我是认同的如果说AI最终真的实现AGI或者是super AI的情况下它的整个底层逻辑一定是超越大部分人类的认知范畴的我觉得这是所有人在去投未来那个梦想的一个共同的这个画面但是大家有没有想过我们今天离那个画面其实还是挺远的没有到超出人类的这个所谓的认知范围就更不用说掌控范围那我们可以做一个反正法如果今天我们即将实现一个人类都无法理解的AI人已经超出人类的认知已经超出我们今天所有所谓的科学science能够解释的东西那它不就是这个宇宙本源的这个规律吗人类本来就不是宇宙的中心人类为什么能够笃定自己在未来的这个地球中就一定是这个地球最牛的这个物种呢那真的到那个时代的时候那只能说AI是一种比人类更高级的这个存在我们也不说它是生物那都到那个程度了你一个蚂蚁你要去控制人类不天方夜谭吗你就接纳就好了我觉得当然自然有他的自己知道就像今天我之前时间中科院的一个物理学家讲过今天我们所有的物理学所有的科学的理论加起来也只能解释整个宇宙很多现象的5%有95%今天我们所有的科学都解释不了那如果真的到那一天我们不应该开心吗AI它可以解释了AI能理解了呀那相当于通过人类我们在地球上我们诞生了一个更牛的存在那那个时候你为什么要理解它你就理解不了有效加速主义我觉得杜老师肯定是有效加速主义的支持者我也能理解如果我们不局限在人类主视角来讲的话我也完全同意啊有人也说嘛就可能你碳基生物的唯一作用就是发明出硅基生物然后你就可以在时代中out了对吧也可以这个理解了那肯定我们还是作为人类本身难免以人类为主持角去思考这个问题我刚刚大家在聊天的时候我帮忙大家看了一下弹幕我可以捞两个弹幕提供一下观众视角有一个观众说的是他觉得大部分的提安全的都是避免模型他觉得我们应该也可以说不定这里面还有中国国益我不知道大家是怎么去看待这个事情的比如说像特朗普他就说他觉得这个一定要加速发展我在网上看到有网友会觉得是他觉得他不能输给中国那既然他都是这个态度那我们也是应该一定要加速发展的 [45:00] 我不知道大家怎么去看待这个事情太远避远的大家其实到底在跟什么其实我是觉得说就前面二位都讲了嘛其实这是个很割裂的点嘛就是说我们从人类的角度来讲的话觉得说我们可能要是为人类的未来命运我们去考虑嘛我们还是要把安全放在一个非常重要的一个角度来看嘛但是你要谈到这种竞争的构级来讲的话呢公司之间的话说他卷我不卷那我可能也out了嘛国家之间也是这样的所以说你放到一个小的一个群体和一个大的人类群体的话我觉得这最重要的就是矛盾的废论很难说到一起去对有的时候我觉得这个东西比如在经济学里可能叫合成谬误嘛每个人都做了对他最理性的事每个公司每个组织也是做了对他最理性的事但是这个从全力的视角上讲可能是非常有害的事情这也发生的也是合理的但是我倒是确实刚才杜老师说这个我之前也想过我确实如果转换成这种视角的话整个宇宙这么大宏大的心胸的话我觉得真的也挺无所谓的我觉得如果这么一天的话我建议大家多学习杜老师我也会加入杜老师那我比较好奇就是当先做出来和做得更安全发生冲突的时候安全投入怎么样才能不算是一项成本它的成本在哪如果我想把它做得更安全或者就是我前面的问题我再补充一下其实我觉得完全没有必要因为模型本身是很容易被替代的就是模型在运户层面上 它是没有运物粘性的甚至还不软件所以说呢我们为了这个提前发一个model或者比别人比半少发现了其实做了个投入其实你拉更长时间,美度上来讲是没有必要的但可能就现阶段我们大家可能对大模型的关注使得我们可能说在模型的迭代发版方面是你追我赶的当然我觉得慢慢的话大家会对大模型去美之后我们可能更关注应用之后我觉得也许大家可能对这方面的投入可能会回归一个理性状态我觉得可能是也许从下半年或者说到什么时候慢慢开始可能大家可能会更看重一些应用因为回头来看的话因为我自己觉得说比如我也是用户我觉得说我用哪个model无所谓的对吧可能说我上个月用那个model下个月我用那个model对吧所以我觉得从更长时间的来讲的话我觉得大模型本身它天然是没有用户粘性的对包括像您前面说的安全我觉得安全是看哪方面安全吧我觉得可能说我是觉得有时候我看到一些那些新闻们看到比如大家会拿这个模型去挑挑战一个特别难的任务当然说某些方面来讲说它挑战的很难的任务证明了模型能力我觉得这是非常好的一点嘛当然我觉得有的方向是不是不应该去试探不应该去挑战比如我们上来就让他来做网络安全攻击就myself那种对吧我也可以用他来做一些梳理宝庭的话我可以用他来做一些生物武器呢对吧我觉得这些东西其实说完了就是说有的东西是选择问题不是能力问题我同样我有化学知识对吧我有这个医学知识我可以去治病救人我也可以去害人那你选择什么呢我觉得今天就是说AI本身它是就怎么说呢我们说它可能是有些安全问题但AI本身它就是个能力它是中性的关键是看你用它来做什么那我们今天有那么多难的任务我们没有解决比方说我们的生命健康对吧这些我们不去挑战它我们非要去挑战那些因为我能网络攻击你你就要加强安全防护你就要过付费我觉得做这些事情其实反而是我觉得说AI没有向散对顺着黄老师讲这我补充一个小点其实我也有一个很奇怪的感受可能是因为AI发展的太快了AI今天就是黄老师核心表演AI今天做的事情我们应该给它设一个边界比如说今天其实AI已经在参与各种的蛋白质这些结构的预测但是其实我印象中政务学有很多事情其实很早都可以做但是不被允许做比如说科隆人对比如说基因编辑当然今天好像美国在一些政策上也在逐渐放开但是总体来讲比如说中国比如说更多的地方对于这些东西都是非常谨慎的但是我至今没有看到一个全球性质的对于AI说我们这些东西不能干我们应该达成一个全球的共识确实现在好像是缺这个东西的就好像对AI的管束不如生物技术的管束那么强我不知道我的感受对不对反正我现在感受我觉得大家可能是对那个的危险性我们可能会很直观的去能够想到比如像基因编辑我们不能轻易碰对不对当然我确实可能今天大家很多人对AI的危害特别是当它这个能力进入一种指数级提升之后我们可能对某一后果我们还是没有想得那么清楚但是我觉得AI你不一定去做那些比如类似像基金编辑的事情比如说可能说在一些制药方面我们能够把一些创新药的研发成本 [50:00] 能够缩短 能够让这些要用更成本的更低的成本更快的方式嘛来治疗患者我觉得这方面应该是AI可以做的事情我特别赞同杜老师的观察 我发现我跟杜老师很多的很像我之前记得很清楚 在OpenCloud出来之前 在OpenCloud这个Agent出来之前大模型已经开始内卷了开始价格战了就很多大模型开始价格战了在这个时候他们开放了城市内容Groke先开放然后OpenAI也开放对我就觉得他们的大家对AI的道德底线要求非常之低对 在全段时间五角大楼逼着所有的AI公司对吧跟他们签合同签这些条约 那只有Answer Peak没签嘛 没签说被踢出去了嘛但是它没签只是它不同于最变态的那几条你AI可以用于什么自主化武器什么这种东西就是最变态的两条它还不同意那你谷歌就签了吗你很多这些都签了吗但在这些事情上这些前沿的AI lab的研究员已经跳出来大量的发声了在比如说X上在很多地方大量的发声了但是好像公众们这件事情的反应就是很低大家好像对AI的斗的底线就是非常非常强我也觉得这是一个很有趣的现象一个是道德底线还有一个对风险意识我觉得有一个原因大家真的很焦虑很害怕落后其实本质还是大家挺焦虑的因为我觉得有一个原因是就是说AI的红利是没有被评分到每个人手中我们只是看到当然我觉得这个是比较很多人通过AI这一波实现了财富自由或者说反正就是赚到了很多的钱或者说总之我们看到的很多新闻大家就会想那为什么他抓住了这个机会我没有抓住那他肯定就普通人也是这样也不希望就叫停甚至我有一个因为我在大选当老师我有的学生就会很焦虑就会说那别人使用了这个更先进的AI我没有使用更先进的AI那我是不是更落后了所以吓到普通人到中间比如说你想通过AI赚钱的人他们大家的恐慌是远远大家没有吃到这个红利的这个恐慌是大于对安全的考虑的因为大部分的普通人其实大家没有在最前面的模型实验室或者说就不会去思考那么红的因为很多人大家接触的还是自己当下手中的事情说实话还是希望说它能够让我的工作更轻松让我能够赚到更多的钱让我抓住这一波因为这一波AI来了之后真的一波一波的新的产业出现很多人又通过这个总之得到了很多好处吧这个红利是没有被均分的而且是有少部分享受到了对我觉得说那个汤老师前面讲说我觉得说焦虑我觉得这个肯定是比如大家为什么卷模型啊为什么可能说甚至知道有风险也继续去投入啊我觉得可能或多或少国家层面上企业层面上我们都有各自的焦虑但是确实我觉得说我们不需要14亿人民都来操安全的心但是我是觉得说作为这个从业者作为真正的头部的AI企业的话我觉得这个是我们必须要考虑的问题比如说我们身边很多朋友比如他们用C-Dance去做视频也好他们用AI来提高他们工作效率也好没问题我们不需要所有人来担心安全问题但是一定要有人来担心是吧我在杜老师之前我再插一圈我再插杜老师的话我也特别赞同黄老师说有些人比如经典网友抬杠的点因为我帮你一个大部里面问的对 我不会智能我还不能买冰冰箱了所以很多人把这个用在AI上但是我的意思是每一个单独到个体的普通人可以不懂AI安全不关注AI安全但是人类作为一个共同体对吧我们把人类当为一个共同体来看就共同体里得有人关注AI的安全和负责AI的安全对我看到其实我刚刚讲的其实给了一个其实我觉得我们可以非常实操的一个动作我们可以去参考生物科技的监管经验来去看人工智能在哪但是其实刚才唐哥哥讲的一个观点我其实刚才特别想补充一个案例唐哥哥讲的是普通人在AI时代的焦虑但是我觉得他可以解释为什么这个时代我们至今没有一个国际性的特别强有力的监管规则因为国家之间在这件事情上在博弈因为每个人都说不起好像大家现在觉得也是一个求助困境的问题比如说像我们2012年我们公司刚成立的时候那个时候英伟达市值还很低就那时候大家没有人真正去用GPU更多是游戏显卡或者说做别的事情挖矿是吧对啊这我就出了解英伟达的原因对黄仁勋比如他们公司能生存到今天是靠那两个产业不是靠AI对在移动时代的时候英伟达已经快要G了对啊,因为他完全错过了移动时代我12年的时候我们就买了4块英文单的显卡那当然就叫游戏显卡不叫GPU我们当然拿安卡来做生理学习那个时候其实他们的 [55:00] 这还不大但是确实靠那些行业把他们冲到今天但你知道当年其实我们也有一间公司是叫比特大陆我知道所以其实我们举这个例子就是想说在未知的产业面前确实即便是监管者他也很难说把握住刹车的度到底在哪这确实是一件很难的事情我们今天去后视镜看很容易但是我们也在看看现在往未来看但是杜老师那两个的行业跟这个行业还不一样它不会毁灭人类最多是让大家沉迷游戏有的时候确实我觉得对监管也不能抱有太大的怎么说呢我不好说了可能被下播了我的意思是直播要定言慎行因为这件事情是很难的就是如果你对一个未来技术进行监管它从真正的逻辑底层角度讲意味着你能预测未来对吧因为你要对一个未来的技术进行监管但是我们知道预测未来这件事其实是不可能发生的所以其实这个东西本身的难度就非常大所以在这么高难度的情况下你指望监管能度就多好我觉得这个有点太强人所难了我觉得我们刚刚其实聊了很久是关于这个AI的危险性其实在它可不可控上其实这个直播间有好几个人发了一些弹幕是说就说普通人焦虑的是自己饭碗能不能被替代那我觉得这个AI的危险性其实比如说第一个危险还是不可控第二个危险可能也对工业和产业有一些冲击我不知道比如大家有一段时间会经常去聊的说AI会不会替代人这个弹幕里面一直在聊到比如说客服现在很多都是AI这个工作等等一些话题不知道这三位老师怎么去看待这个事情呢比如说AI你们觉得AI会创造更多的工作还是会减少哪些岗位和任务上是会有很多的工作是在增强人又在哪些环境已经明显感觉到了企业在减少用人需求这个话题我们大家要稍微谨慎一点聊先让王总说我想听王总说我想说的我有段时间我是在想这个问题的我想到说我们小时候我们上课我们学了说暗劳分配对吧我们的这个社会制度是暗劳分配那为什么暗劳分配呢是因为我们的社会物质其实不是那么充沛嘛所以我们还要每个人按照自己的劳动所得这样才能够更公平嘛但如果AI真的是非常非常发达了我们的社会供给是不限量的会不会有一天我们真的会实现按需分配按需分配你解释一下需求那么大共产党我说的按需分配是指的说按照大家今天的这种欲望但如果说你有新的欲望那新的欲望AI未必能够解决但我是说按照今天的大家这种消费的这种欲望的话我是觉得说AI是有可能让人类实现暗需分辨的这是我几个月前我有段时间脑子里会想到这个问题但是我觉得今天AI这块我觉得可能对我们除了我们前面讲的危险性之后我觉得可能还有一个可能是说跟我们的职业安全有关的像我们回想一下我们读书的时候我们可能说在社会上或者说工人农民还一个层次叫知识分子因为你读的书多你的知识更丰富所以你的标签是知识分子但今天AI大模型让知识平全了而且知识就是今天大模型所具备的知识可能超过我们很多很多大科学家对吧那我们的教育是AI准备好了吗完全没有吧还有点就是说你看我们今天比如说孩子写作业用豆包大学生在课堂里面做论文各种也用各种AI工具那我觉得说年轻人用AI工具本身是没有错的但是他会不会切断其实很多时候结果不重要我得出但是我得出这个结果的思维的过程很重要但是呢我们比如说我们这孩子在读书的时候甚至比如说我是一个法律工作者我是一个刚出校门的一个年轻律师和我变成一个非常资深的大律师之间我这个过程被切断了很多行业都变成了不论是说金融分析师律师很多原来的脑力工作者你这个过程你这个私威链的训练过程被切断了那我们还说以后我们得保得住饭碗我们AI竞争我觉得这不是很可笑吗我不想说说他一定会消灭职业还是如果的话我是觉得AI对今天对这些教育对这些职业工作之后的这些职业生长路径我觉得就造成了非常大的冲击但是怎么解决我也没有答案因为这也是我的困惑我觉得黄总把这个问题带入了一个更深层次的讨论我们可以先讨论劳动力市场的问题但是我也同意黄总说的教育其实是比劳动力市场更深远的一个问题就是劳动力市场我们说你有源源不断的人才出来 [60:00] 饶动市场的供给嘛 对吧我们现在大量的人还是把视角集中在现在对已经就业的人或者在这个劳动力池子里的人的冲击我们现在AI的冲击但是未来还有没有足够的优秀的人才的供给这个可能是AI影响的更深远的冲击而且黄总我觉得是说的也是我观察到一点我觉得很对比如说在任何一个行业如果AI能做到80分你在80分以下就是0你说79分你也是0分想想见吗对因为你没有token便宜当然如果一个很悲剧的未来发生有一天如果你比token便宜了那可能你还是有机会的但我们就说目前来看token肯定是更便宜的所以我们在AI的分以下就是没分那可能AI逐步的提升它的分数我们可能被需求的就越来越少那么在这种情况下 头部的人仍然有机会因为他还有很深层次的资源人脉对很多潜规则的理解以及更深层次的认知水平但是你不能要求一个刚毕业的孩子一个大学生一个研究生一个博士生上来就具备如此高的水平如此深的人脉这是不可能的所以他在AI面前就是毫无竞争力的那么在已经具备这些资源的人他们可以在AI的帮助下快速的复制它的能力快速的扩展它的可达边界它会过得很好但是对于新出来的人没有训练过程的人他在哪去找这种思维上的摩擦和训练这是一件我觉得确实是比劳动力市场现在受不受冲击更大值得思考和更深远的问题那你怎么看待刚刚黄老师讲的时候以后可能是按需分配呢我听到这个的时候还挺惊讶的按需分配我自己的看法是我觉得人类的欲望是很难满足的但人类的欲望对但人类的欲望不被满足的时候是人类社会最有朝气的时候当人类的欲望一旦被满足了大概率不是被满足的而是被压抑的比如我们看看日本的大千年纪写的第一欲望时代很多的欲望被压制了看似它满足了它可以过一个很简单的生活了那并不是一个真正因为所有东西极大充足的社会而恰恰是因为很多包括工资包括晋升的路径包括配偶包括等等很多东西被压抑了压抑了之后反而体现出了一种满足当然这有点深了反正是社会上的事情了跟AI关系也不是特别大所以我觉得如果AI实现了这种所谓的暗序分辨可能也不是一件好的事情说明人类的发展空间已经被AI极度压着了杜老师呢但是你说假如说比如说你说AI今天是80分然后后面到85分90分超过人的工作能力的话那么这些人其实就那么我们这些人可能说在劳动力市场上就处于斩杀线之下嘛那你怎么办总要给他分配啊不你讲了这一点我就顺着你讲其实做的斩杀线是存在的所以我觉得未来我们为什么其实我们刚讨论了几个问题最初其实唐哥哥应该问的是什么样的工作是更安全的什么样的是更不安全的我们讲到了教育现在讲到斩杀线其实我们可以拆开来看教育是教育工作是工作这是我的观点我觉得未来我们真的像黄老师讲的我们能够也不说按需分配吧就是说我们每一个人的所谓的低保都变成每个人都是个中保高保咱们都能够最差你都能活到比如说现在的一个中产的生活状态咱们举个极端的例子其实到那个时候最大的问题是两个问题第一是不是我们一定要通过工作来获得收入有可能工作它就会变成一个爱好其实我不知道大家前段时间有没有看到有一篇这个十万家的公众号文章叫才华埋葬在昨天这是Deep Seek的这个负责算子研究的北大的一个师弟写的他特别牛他没有读博他就直接去Deep Seek工作了他为什么写这篇文章就是说算子优化其实是在做这个模型的一个底层架构的优化的工作相当于过去我们要清北这些特牛的人才能做这个工作但是他现在发现AI做的已经接近于他的水平了基本上未来一到两年他预测AI就会做的比他好也就是说一个优秀的北大的毕业生其实即将就被AI斩杀了黄老师说他已经在工作的能力这个上面已经在两年后就会被AI斩杀当时他的那个解论其实就更像是说那他未来可能写算子这件事情人工写算这件事情就有点像我们今天去做数学题他只能是变成一个爱好他不能再成为你一个你能从商业世界里面获得收入的很高的很理性的一件事情如果我是梁文峰我就不会让真人来写因为token更便宜对吧这就是一个商业决策这是工作第二教育我认为今天的教育其实为什么大家有这么多的诟病是因为我 [65:00] 发现除了少数的那些有科研天赋的人他是通过教育做科学家之外大部分读书是为了赚钱大部分读书是为了搞钱我也不是为了去成为科学家我也没有这个科学家的天赋因为90%是读不了名校的那这些人我来读大学我不就是为了学会如何养活自己吗对吧所以这是今天最大的问题因为今天在大学讲台上的老师们们不是因为他们会搞钱而去讲课的但是你们要这么去要求大学老师那完蛋了因为这些老师他们是靠拿大学工资活的他们并不知道怎么样去搞钱所以我觉得还是最后要解决到的问题就是如果AI能够解决每个人的低保中保高保问题我们不会再去埋怨大学老师不教大家搞钱我们也不需要把读书跟工作变成收入的目标我觉得只能是这样才是可能未来我想未来的发展方向我再顺着杜老师来讲一个好像每杜老师讲的东西都能勾起我的评讯实际上因为我在博客上讲过一期工作的意义那期确实在我们博客还非常靠前我听过你听过是吗我听过所以在那期我就说如果你把历史书往前翻200年你发现没有工作这个定义工作尤其是现代工作这个东西是工业革命之后才开始的为了能够培养足够多的人进到工厂里所以我们开始了普鲁士教育就是这么一个情况所以我们的教育本来我和大家杜老师说的我们的教育本来不是教你搞钱的教育是培养你进工厂的就培养你去我说的是欧美的教育欧美的教育是培养你去被资本家剥削了培养你进工厂的那是这么一个教育的形式以及他如何对工作匹配所以当AI出现之后比如说如果到了黄老师杜老师他们说的这个地步那么可能你的人生的存在意义跟工作就毫无关系了因为工作确实就不能给你带来任何的意义和价值那那个时候人可能更多的不得不回去退回去寻找自己的存在意义我为什么存在而我存在跟我的工作毫无关系跟我的挣钱爱毫无关系去找别的这样大家不要觉得这个东西是不可想象的实际上在人类历史的我们所谓的前现代时期是很多的早期人类都是这样他们会每天比如我之前讲的早期人类很多人只工作4个小时每天只工作4个小时就是采集狩猎工作4个小时剩下的时间用来想自己要到哪去用来比如雕刻一些木雕把它传播到更远的地方这就是他们想要做的事想要活着一夜也许对现在这个消费主义社会的所有的人来说很难想象但是实际上人类过过那样的日子我们不是不能过真的很难想象其实就刚刚杜老师说可能未来我们可能不通过工作来赚钱养自己他刚刚讲到这个时候我都很难想象说实话我很难想象只工作四个小时我也很难想象就说如果我们不通过工作来养自己那我们工作只是一种爱好我听到我觉得这个很震惊我不知道那怎么运转呢那就是怎么样的一种情况如果有更细化的人分享的我也很想听我觉得AI来参与很多的工作了举一个大家常见的打车的例子但是今天这件事情楼不快跑这件事情因为在国内我们其实是真的把它slow down了其实在智能驾驶这件事情上我们应该算是国内首先踩了刹车但其实美国没有我们现在有没有关注Waymo和Uber但美国现在都在各种他们的智能驾驶自动驾驶的里程数在这几年的增速是高于中国的但其实这件事情也是赶了个大早的百度最先搞出来的是踩刹车了那我就拿这个场景来举例那如果未来大家的打车你就不需要司机师傅来开车那你价格其实很便宜对吧因为机器的电力最后编辑成本就是个电力那其实你打车也很便宜那么你也就花不了那么多钱可能你今天每天上下班打车要花个几十上百那未来就是十块钱够你打一周那你也不需要赚那么多的钱那同时的话呢我们当然面临的一个问题司机他没办法开车了那这个车可以作为司机的理财产品最初司机可以去把他的车贡献出去当然他需要是有制驾系统的那这个车的收入未来就躺着就跟他分成就好了我只是举一个脑洞的小例子我会觉得类似的这种模式其实在AI时代是越来越有可能在各个行业去铺展开来的但是这个系统会面临一个很大的挑战你必须得接受低收入低回报就你换了那么你所有人的投资理财收益也都会很低否则他会对所以他需要一个平均主义的这个东西否则的话他的贫富差距还是会越拉越大那就跟现在差不多了 [70:00] 对我刚刚就想说如果这样的话大家都要很多人可能赚的也少了花的也少了这要所有人都能接受我赚的少花的少对,这是最大的难点,但是就像刚才那个张总讲的,我们去回到他讲的陶渊明的时代,对吧,就大家不用工作那么久的那个时代,那个时代的人一辈子可能赚的只有我们一天赚的钱,对吧,你要去算的话,但是他们一生依然是过下来了,搞不好人家的幸福感比我们更高呢。所以我觉得人生的幸福跟那个数字也没有关系对我觉得好像讲的都是过去说物欲很低或者消费很低但我觉得工业革命以来到现在有哪个国家或者说社会是随着科技的发展越来越强反而是我能够有低消费低理财更像原来的好像没有是不是我不知道啊我感觉只会越来越累越来越快越来越卷至少我觉得AI来了之后我更累了我也更卷了更辛苦了他分别说不是啼笑让大家relax或者更轻松一点吗我感觉我更累更绝更辛苦逻辑上是睡得更小了对经济上讲是没有的因为我们现在这个社会如果你的GDP增长你的经济增长是靠需求拉动的而已经不是靠供给拉动了所以我们才会有消费主义吗才有这些东西吗就是不断的去让你制造需求你只有绝对远超于你真实需要的需求对吧像庄子说验书饮和不过满腹如果你只是满足于满腹那你永远都没有更高的需求你怎么拉动消费呢所以这个是不成立的但是我刚才想补充的一点是什么不是韩国他们可能像走的一条或者说在讨论的一条路径啊比如说如果巨额的这种巨额利润啊能不能通过税收或者转移支付的方式发给这些平民百姓发给韩国的所有百姓比如说典型的像这个海力士典型的像三星他们对吧在这个AI实在已经拿走了巨额的利润啊那么这些东西本质上像三星海力士这样的财阀是牺牲了全体国民利益或者说全体国民公平性的某种程度上去实现它能够在产业链里占据这么高的位置了所以当你赚钱的时候你是不是应该分给全社会的人来共同富裕这个也是我看国外他们在讨论在去实现的点但是我觉得这个东西也有难度就像刚才对国国老师和杜老师说的当所有人都实现低收入低消费的时候那你的消费拉动经济增长就已经停滞了你可能会变成一个萎缩的循环那个时候也许也可能不对而且还要刺激消费各种方法来刺激消费对啊所以我其实很难想象说如果AI来了上班变成一种爱好我倒是觉得很向往这样的生活因为我感觉现在越来越忙越来越累那其实我们聊了工作有点像我们如果再回到最开始的问题那大家会预测如果现在有人说我要找工作或者我想投身某个领域那应该去什么领域不会那么容易的被AI取代什么领域是未来有可能很快被AI取代的我觉得不要去和AI去比那些擅长的能力比如说逻辑能力技艺能力我就不要去跟AI比这些能力我觉得可能说在一些其他的当然今天AI有没有想象力还没表现出来我可能说在一些别的方面可能或在更人文方面可能在别的方面是不是人类可能还有些机会窗口我之前听我自己一个直观的感觉我感觉AI目前它取代的或者说都是一些工资很高的高智商的这些行业反而是服务业好像因为最深知能化比如厨师什么之类的做饭对所以蓝领行业其实现在目前看还是比较好的对想想很可悲马农发明了AI因为这个coding行业太标准了被AI取代的实在是太快了相反上蓝领行业这种很多我觉得因为聚身智能跟我们目前说的AI本质不是一个东西所以他们进展完全没有AI这么快而且有很多本质性的难度比如说数据还有这些东西我觉得确实现在做一些身体力型的工作可能是更好的选择我觉得那个高智商的行业被容易被AI取代是因为他的工资太高了成本也很高所以公司就会去研发他想要去降本增效老板很容易做的角色给这个人哇功能太高了换用token对最开始程序员工资应该是最高的所以直接换掉了对所以这样听下来我觉得还是有点怎么说呢那也就是说以后大学生还去学这个跟更服务一些的方案 [75:00] 是更能够找到工作的然而这个更服务一些的工作呢工资又并不是那么高的也不全是吧比如说那次什么心理咨询什么这种以他的费用也很高啊但这种人与人真的必须要真实接触的之前不是有一句特别鸡汤的话就是爱具体的人你找到具体的人具体的事儿啊这种很多的时候确实这个AI是暂时替代不了你的对所以我觉得有个特别具体的岗位就是销售我观察销售能力强的人其实在这个时代都没有那么的被影响即便我们刚刚说的是这个工程师其实里面也分为说纯技术型的人还有一些他技术好也有技术可能入门就是技术OK但是他特别会销售他的理念他特别会跟人做沟通其实我们去观察吧我看到很多CTO当然不是说CTO的技术能力不好但是他因为大量的时间他是要管人面试然后去挑他的技术团队的组织结构去说服想要离职的牛人需要去挖到这个Deep Seek的大牛其实这个过程中它比的还不完全是你的技术能力它是一种人与人之间的说服力亲和力甚至个人魅力那我个人觉得就如果因为我看评论区有很多可能是学生我会觉得这一套技能如果要习得的话去做销售就销售类的岗妹就是能习得这些技能的我要插一句,杜老师你知道吗,我在博客工作的意义那期,我推荐的工作就是说如果你什么工作都比如高大上那些或者说你特别想要的就做不了了我先你先去做销售对这绝对是屏幕前的朋友们那销售说实话怎么说那这个学历也不需要特别高然后这是第一个我觉得销售可能他不一定很需要高学历第二个其实你刚刚提到说这个心理咨询我其实经常和AI做心理咨询我其实反而不怎么和人说因为我和人做过心理咨询也和AI我最后很喜欢和AI做心理咨询所以我现在发现就是因为他的我觉得AI服务我的那个感觉更好所以我觉得心理咨询也并不是一个服务感觉也是要分这个实体的这种非常非常实体的服务因为你是高知人群对 我也要说这个对 我想大部分的包括咱们看能看咱们这个主题直播的人各位我觉得你们大概率都不太会被真人咨询师所服务因为你们都太理性了你们太好学了但是我们去看某英我们去看一下友商平台上的泛流量我跟你讲我专门看过那种就是什么心理咨询情感博主的那个账号妈呀评论区我都看不懂那到底在回去啥但是我觉得还是有杜老师今天是冒着以后没法在某英上发展的已经断开了这个友商平台我是B站的关注我B站的对我觉得所谓的高知人群讲高知人群是有知识诅咒的高知人群是会有一些过于的文字依赖逻辑依赖以及或者更享受精准的表达的但是我并不觉得所有的人都这样这个是一定的有大量的我接触到的很多的我们就不说这个同龄了比如说我们去接触小朋友小朋友尚未被高知化其实你会发现他们是更天马行空的他们是更加的不被逻辑和纯文字所吸引的小朋友更爱看动画更爱看那个二期间的东西呢他其实是更感性的只不过我觉得像咱们知识工作者会在高校在投资圈工作的人其实我们虽然受益于知识但是我们其实也因此损失了很多东西我们看世界的角度其实我们早就已经带了一个偏光镜我们就会特别逻辑的去拆解一个东西我们就会量化就会去推倒这个东西并不是所有人都这样的甚至我觉得大部分不是这样的我特别赞同朱老师说的,人类本身是生物,然后你在进化过程中是产生了很多基因的,这些东西永远不能完全被文字语言所表达,比如说在你可能都不需要说到抑郁这种程度,比如说在你不高兴的时候或者悲伤的时候,一个来自于你的爱人的你的朋友的拥抱可能转生于跟AI沟通多少伦次所以这种东西有的时候是人种生物的你要说局限性也好你要说但我公愿说特点因为这个有别于我们跟轨迹生物,它本身就是这样设置的,所以它就需要这些东西其实我们刚刚聊了很多工作的问题嘛然后也顺带聊到了教育但是教育呢我们就很快过去了我也比较好奇就是你们怎么看现在的大学生如果说课堂上老师教的知识已经很落后了他们应该怎么去学习呢应该学什么样的知识呢我觉得这个也是一个问题因为我是在大学里当老师我经常觉得很迷茫你是教什么的呀教什么的啊 [80:00] 教汉语文学中文就中文的就教现代汉语和语言学概论的比较核心的专业课但是这个真的如果你去问AI可能和我得到的答案是差不多我也挺迷茫而且我甚至能够感受到整个教育体系都挺迷茫的因为我们会经常要求培训使用AI因为网上很多人会觉得老实落后了所以我们就暑假就会参加各种各样的培训班要使用AI做知识图谱就是做这种形式化的改变而且要求我们的PPT课程做AI课堂就是做AI化改造但是我理解下来这些改造其实很多都是形式上的我有时候我也挺迷茫的我觉得学生可能更迷茫那我在课堂上比如说我们有时候会布置作业到底要不要让他们用AI那不用那很奇怪你自己都用是吧那所有人都用结果你说最年轻最有活力最爱学习的大学生不要用那用你怎么去监管他用的程度呢这个其实我特别迷茫我基本上是没有任何答案我不知道这是第一个问题嘛然后第二个是那他们要培养怎么样的能力他们要怎么样去学习呢他读了一个大学也不是所有的大学北大 清华这种教授非常勇奋他读了一个真的很普通的学校比如说甚至是专科他老师教的还没有AI好他还要听老师的吗是不是直接别听了直接上课直接用AI线下用什么用B站打开各种课堂因为教育话题是比较熟悉所以我问题特别多我先说了我觉得很多时候第一AI刚出来的时候我觉得它会改变教育的一种模式因为我们刚才讲了我们现在使用的这种教育大体上讲还是普鲁士教育这个是工业革命之后才出现的但是在更早期很多的时候教育是师徒制的比如说我们看柏拉图是怎么带到学生的孔子是怎么带到学生的是跟在他的身边看他怎么言习看他怎么说话看他怎么做事遇到问题怎么解决的不断的向他请教这个是我们梦寐以求的真正的教育在AI出现之后我觉得这种教育的可行性其实是变高了一些的因为我们时时刻刻其实在手机里也好在这个电脑上也好你揣着一个至少水平非常高我们不说它是百分之百正确的但它至少水平非常高的这么一个老师它满足了你可以一直处于类似于你跟随柏拉图跟随亚什洛德跟随孔子一样去不断进行对具体而且是实时发生的这件事情你现在遇到一个问题马上就可以投手机开始去询问回到了一个这种典型的问答制的师徒的教育模式我觉得这个其实是一种好事因为这个更回归教育的本源我理解然后另外一点就是应该让不让学生去使用AI这个问题我觉得这个是你的目标函数导向如果你希望你的学生真正解决一个问题一个难的问题一个开放的问题解决一个真正的问题那么AI当然是可以使用的因为解决问题需要使用最好的工具如果连最好的工具都不会使用的学生也解决不了这个问题所以它当然是应该被允许去使用的而且是鼓励被允许使用的但是如果你只想要一个答案一个评分一个成绩的时候那他当然是不能被使用的你怎么去监管这个事情其实像今年9月份开学像复旦北大很多学校都出台了这个政策我觉得是抑制学生去使用的你刚刚提到你说你可以去问答但是你不能依赖他你怎么样去要求学生你只能至少去问他而不要去依赖你感觉这个是没有办法去量化的你跟他说你说你依赖他他直接用AI写了作业完成了课程作业或者说那你也没有办法去评价所以我说是解决一个真实的问题你用这个他是否解决了这个真实的问题来评价而跟他在这个过程中用没有AI没有任何关系吗那比如说老师给学生问了一个问题你怎么去判断他是解决了一个真实的问题其实这个对我们专业来说我觉得是我很迷茫的一个点就是你的这个学生好奇心很快的被满足真的是好事吗因为你知道就大学里面到研究生到博士他后面研究的问题是越来越小他往往是他的好奇心多时候没有被满足导致他又去探索了这个问题周边的相关的问题他们最后形成了一篇论文然后发现了一个新的理论如果你一直被满足我自己感觉也不是很好可以回答这个问题其实唐国国老师你刚刚描述的就是从本科然后找到一个研究方向再找到旁边的研究方向然后逐渐成为一个科学家可能你们里面就是文学科学家其实这是极少数的人所以我的答案其实非常务实也很干脆我觉得课堂上只分为两类人一类是会成为讲台上老师这样的人一类是另一类所以我觉得所有的人其实你要搞清楚你要成为谁就是我我虽然这么讲可能有点得罪老师但是我觉得老师是问不出产业中实际的问题的因为老师不在产业但是老师能问出来的就是学术界的问题所以我觉得能够去跟着老师大学老师师诚的当今我们大学老师能够跟着当今大学老师用绳智学习成长的人 [85:00] 未来也成为科研人员那如果你未来要创业你得跟黄伟这样的人去你得让他给你出题你要做投资你得让当总这样的人给你出题所以我非常推荐我知道现在很多大学至少硕士学员都开始有校外导师这个制度非常的好因为有些人他就不是未来要去读博做科研的那么他就应该把更多的时间用来解决现实问题或者说产业问题他必然是产业的人才能提得出来那么这个时候大学的老师更多的是给到的是一个理论的辅助的角色其实对于未来要就业创业不搞学术的学生而言大学老师反而是助教你必须得在你未来要去的那个方向找到真正的导师这是我的很实在的建议其实你回答的这个我觉得适合它是哪个时代都成立这个感觉有点像就是说其实大家都不用做什么改变因为这个教育用来筛选的他天然有一拨人喜欢创业他就创业了有一拨人他想做科研他就去做科研了那其实他老师就上班该干啥干啥不用去做过多的因为他自然会去对他自己找到喜欢的他自己会去筛选那其实有点像教育最终也是一直筛选那从这个角度来看那AI好像和什么互联网时代它没差别是不是因为它本质最终都会筛选有点像是说我们放任这样子自然的发展下去我觉得AI跟互联网还不太一样我们前面谈到了AI它很大一个如果说我们用AI它好处是效率高缺点可能是它会切断你形成四倍的这种习惯那我觉得可能说今天我们的效率面临一个最大的问题是说我们到底是要学生一出答案给出个兴趣答案还是说我们不管是说创业也好科研也好我们可能更看重的是思维的过程那这样可能说我们老师当然我今天可能对我们教育体系里面老师要求就会比较高我怎么样去给出这样的一些题目我怎么样去训练或者考察学生的思维能力能不能得到一个有效的训练和提高我觉得黄总说的这点其实很有意思不仅在人类上在AI上也这样我不知道大家记不记得有一次那个XHPG更新了它的新模型OE当时那个新模型是有推理类手机具理类模型为什么变得很强了因为它开始把自己的考过程推理类其实你像我们就拿某种意义上讲我觉得大模型其实它有点像仿生学你看就是在之前的model它就是概率模型他就是拿了互联网的数据我们来训练一个其实是懵的嘛我记得好像是二十三年还是应该是二十三年暑假高考完之后我们国内的好事者把国内外所有的大模型过来评测这个高考的题目语文都能懵个六七十分因为大模型本上他就擅长是写作嘛对不对数学基本上三十分到四十分而且主要是靠选择题懵的你选ABCD总能懵对吗但是大题是一道不会这是二三年的事情后来前面那个当总讲的我们有了O1ModelO1Model之后它重点就是说我通过一个概率的基础模型然后我再结合一些那个训练样本当然这个训练样本可能是代码可能是一些数学题我通过这个就这些题目我能够从这个概率模型我能得到一个推理模型Deepseek也是如此从V3到R1对吧其实这就是很非常一个仿生学所以我们看今天这个过程是比如说我把这个知识十几英倍就相当于说我的那个基础模型但是基于我掌握的知识我再来着重的训练我的推理能力我就能知其然而知其所以然我能给出每一道题的具体答案我记得好像是今年的高考数学题目应该是很难的嘛数学一好像全中国一千多万考试里面只有浙江温州一个男孩子考了满分但是一线大模型都能得满分说明什么说明具备这个逻辑推进能力之后这个可能说对人的成长当然可能对模型也是一样所以我觉得可能说我们在这个过程中训练学生的这种思维能力逻辑能力可能是比知识本身更重要的因为知识分子已经不重要了就是我们原来传统语上就那个知识分子不重要了吗我观点是说我这些知识我怎么去使用然后我再补充一点给杜老师和黄老师因为刚才杜老师说的那个校理导师包括刚才黄老师说的这些东西其实我觉得现在有很重要的点就在于包括对大学老师而言你有没有能够教一些私欲知识的当然可能这个词现在不好听因为被割酒台割得太狠了但是本质逻辑上讲所有的公欲知识都被AI具备了这个是很简单的道理因为这些AI公司其实已经是非常丧心病狂的去在市面上找到所有能够被数据化的东西然后用来训练了但凡是好的东西都被用来训练了所以只有那些存在于个人身上的也许是默会知识也好也许是能够被语言表达的能够被训练数据的这些知识也好思维知识反而是很重要的点就是这些东西是AI确实在他的训练数里没有他暂时想不到的这些东西 [90:00] 比如刚才布老师说的就是你校外导师可能能教你一些私域知识所以在这方面你就会发现很有用因为AI在这些方面是替代不了你它本身的训练数据里没有大家可以多去做这些方面比如说举个例子比如说我现在就非常喜欢听当然我自己也做博客嘛所以我非常喜欢听海外的博客我感觉现在海外的播客大量的都是,为什么那么多人听?就是因为他讲了很多,你在AI就是说不到就是查不到,就是AI也想不到的东西,但是他有自己独特的视角,我们不一定说他这个东西很对,但是人家这个脑洞可能AI就是没有,包括刚才黄老师说了,AI它的自己的技术架构就是这个,Attention+Transformer什么系列的预测式生成模型对吧他的本来就是这样他为什么预测因为有概率对吧所以他总是习惯生成那个最大概率的事情但是当在我们解决问题或者我们创造一些内容的时候你会发现他会讲很大路后的东西因为那个是概率最大的最大概率出现的东西这是他本质的技术决定的所以那最大概率出现的东西就是你见过最多的最普通的这种所以我觉得有思绪知识和脑洞可能是也是大家如果作为学生一个很明确的学习目标我可以说我其实听了当老师的想法以及各位老师的想法我觉得大家比较理想化因为你们没有在高校工作如果你们真的在高校工作就知道这个是非常难的这个教育体系它并不是说这么容易的就去改变比如说按照老师们的说法其实老师最应该去培训学生的思维能力这是怎么样去使用就是老师最应该具备的能力是这样子的但那按照这个思路的话学校最应该去要求老师就是这一点要求老师去让学生进行共同的批判性思维然后训练他们的思维能力但其实现在大部分的高校是在让老师积极的使用AI做这个课程AI课程化改造做知识图谱这样的形式主义的这是第一个然后第二个点就是像当老师刚刚说应该教一些私欲的知识因为公益的知识已经被AI教完了那这个私欲的知识是非常personal的你知道是非常个人的你的私欲的知识很有可能是没有被验证的然后是有很多假带私货的他可能对一个成年人来说一个毕业了工作的人他去听这个播客然后他是能够判断哪些是对他有帮助哪些没有但是对于大学生来说18到20岁的大学生他有很多价值观很多的东西他需要所以这个东西有点变成一根筋变成两头肚了就是因为你没有批判性思维所以你不能好的接受私欲知识然后又因为你没有私欲知识思考能力你又很难心批判性思维但是我觉得就是我们可以大方的承认就是现在的教育就是还没有被这个AI时代适配化我们还没有适配AI时代的教育他现在有问题很正常对所以大家其实挺迷茫的因为你知道现在全国所有的大学生比如说你学你的专业叫数据科学或者你的专业叫比如说这个专业叫汉原文学大家每个学校都会给这个专业制定一个培养规划这个培养规划写得非常清楚比如说你要培养什么能力你大一要上什么课大二要上他几乎基本上是全大部分的学校都是要统一的因为你得保证大家最后学的知识是差不多的吧技能是差不多的吧不然这个差异化很大那这个企业在招人或者说他们在找工作的时候他说我要招这个数据科学的人结果来了就你学你没学然后你是这样想的他是这样想的那差异化非常大然后因为这个教育体系它本质还是一个其实是筛选人才然后服务于整个社会的嘛所以他需要有一点点标准化标准的话他就代表他的这个知识他是比较固定的然后是公寓里面那公寓的知识又是被AI期待了那这个真的就感觉像无解了其实我觉得很多时候都经历过这些事我刚才讲到这个大学我想起来我读大学的时候那时候学计算力编程语言我们要在纸上用笔来画程序谱我们的程序不是敲键板的是写的现在都是这样北大去年的博士考试依然是在纸上画这个并没有变还是这样吗AI的所以就是AI的AI方向博士学的给我吐槽的就是不理解你知道吗我讲到这儿我分享一个点前一生我也是这大的这个AI专业我前一生去跟他们聊他们跟我讲一个什么吗他说老师现在在大学学AI计算机本科非常耽误我们学AI你知道吗因为我们要用非常传统的方法去学这些东西然后搞这些编程语言隔壁文科生早就Vibcoding比我们用的6多了你知道吧谢谢大家我感觉我们的教育还是滞后于AN时代的要求的现在但是就是刚刚说到计算机专业要去学编程但是也有很多人会觉得说你还是要有基础的工程思维就是反对AI的人他会觉得你还是要有很基础的这个手挫能力然后不能完全的去依靠它比如说很多人也会批评 [95:00] 文科生用webcoding他不太能提出很好的问题或者说修正等等就是他是两派在这个教育体系里面一派是说我们要积极拥抱还有一派就是觉得这个你还是要把基础的东西学好然后手作能力错好了比如说刚刚你知道的对手作能力我是赞同的因为就是其实太相当于说一个一个从初级到高级的一个训练训练段嘛如果说你不具备手作能力的话你可能发现不了问题就比如我可能学学文科的我可以用webcoding对不对他就是一门语言而已对不对他那边有什么问题我是不知道的对但是其实整个AI都会面临着可解释性这个问题比如说你看那个OpenAI的团队解出来这个方程之后然后那个数据研究所不是去做评测也就是说等AI把一个题解出来之后现在你再去看懂AI是怎么解决的这件事情已经需要花费挺长的时间了那随着比如刚才我们开头讨论的像RSI这种事情发生了那接下来未来的不可理解性不可解释性可能会越来越高那都不是就是文科生本科生那可能是以人类共同体的这个角度为讲都可能不可解释所以我觉得这个本质上还是要发展还是要安全的问题如果你希望一切都还从原理开始能懂这件事情可能一直是一个比如说人类会做一个文明备份库就是说核战了或者什么这些出现了然后人类发现人类数据库还能从零到一把人类整个的科技发展都学一遍有所有的历史记录在里面但是在真实的世界中如果你想发展的话你肯定要从已经最好的工具开始去使用或者我们折衷一下就是说我们现在的AI的能力可能说我们在传统的知识教育里面比如我们今天我们花了很多时间背单词或者背概念比如我们花了很多时间去画神移框图那也许说我们知道就可以了就比如说今天我不会无比我也不会注算对吧但我用过计算器就可以了但我们没有必要可能说在以后你比如说我今天使画矿图或者说我在纸上用原住笔去写程序那我会写当然不错但是我没有必要在这件事上你花那么多时间精力确实我觉得这个问题其实说实话没有很强的没有一个很难既定的答案因为其实当我们聊到这样的就是聊到这个的时候你具体去执行的时候就在老师层就是在特别是老师层就是你看现在的大学生他们其实有点像是ANA一代他很早就用AI但是学校你真正就是老教授或者说掌握制定权利也不太说教授们其实很多真的都是不怎么会用AI的有的老师还会手写黑板所以很复杂我觉得这个问题还挺复杂的唐国老师韩玉跟你说了师不必嫌于弟子弟子不必不如师无所谓的事情我们要保护唐老师唐老师还在大学工作我还在为了明天去因为左脚迈进学校被开除小心用黑白写字老师到时候就真的就是大家都用黑白写字了我们我不知道大家还没有什么要聊因为我们时间真的过得特别快我还有最后一个问题想问大家就是我们可以每个人回答这样一个问题就是假设让你们给未来的AI定制一条规则规则是什么就可以每个人聊一聊之后我们这个最后收尾我们这个直播的这个问题我没有杜老师那么大爱就是如果说我是觉得说AI的发展我希望说它最后是保护好人类底届的保护人类这个说完了我们都是很想说的因为这和我们的主题息息相关杜老师呢如果未来你能为未来的AI定制一条规则你希望这条规则是就除了保护人类之外再加一条我觉得就是符合自然符合自然细化一点发展一点就是当他遇到所有的问题在没有解在有选择的情况下一定要选择那个符合大自然本身的那个规律的那个选项我觉得就我觉得就无论解决人怎么样我觉得都不忘人类发明了它当总呢当总有没有什么想说呢如果你可以为未来的我觉得就是如果他我曾经有这么一个畅想然后我甚至想写一本科幻小说但是我不会写小说但AI写对AI写因为我觉得AI本质上其实是一个很适合成为星际文明的文明就规矩文明其实很适合成为星际文明比如说我们现在去星际文明的过程中有很大的问题是路途太远了然后比如说我们就算能以十分之一光年的速度去飞行的话好像去到一个内地行星也需要比如很多很多年然后这个时候人需要冷冻然后他需要面对一些他自己的这个生物本身面对时间上的这种亘古不变的对吧感慨这些问题但是规矩文明不用就是比如说你他飞多久都无所谓就哪怕以现在的这种技术水平我们 [100:00] 能造出1/10光速的巨洲飞船那就是载上全部的就是这个规机的智能芯片和机器人然后让他们随便找来找而且他们也不需要内地情形了他们只需要找到能满足制作这个芯片制作这个这个机器人工厂半导体的什么这些东西的情形那就可以发明了所以我觉得如果让我对AI加一点的话就是你们可以未来发展的很好但是就是你过你的我过我的好吧就是那个外太空全部归你了然后但是地球留给人类好吧我刚刚问这个问题我自己当时想的一个答案是说如果我能给他制定一条规则我希望这个规则是他不要总想着取代我们要为我所用但我后来想AI可能最开始发明他自己没有想要取代我们是这个降本真相的时候不是AI想取代我们有的时候是比如说老板想取代我们我后来想这个规则好像不太适合适用于AI上那我们这个时间就差不多到了我们要不今天就直播到这不知道各位老师还有没有什么想聊的就是谢谢三位老师然后其实我们今天晚上聊了很多话题然后AI的安全然后AI的伦理它的危险性体现在哪它的技术到哪了以及就是教育找工作等等还还有很多就是意想不到的畅想然后我觉得其实很多东西可能没有一个整齐化一的答案但是我觉得这样的讨论还是挺有意义的因为对普通人而言我们并不一定都是在前线但是我觉得我们是有对这个知识然后是有一定的知情权探讨权然后我们自己有自己的想法我们有自己的这些想法我觉得是很重要的特别是保持对AI发展的好奇心也特别重要然后我觉得技术还会继续往前走但它走到哪里我觉得不应该只是技术家们应该只是在前面的人关心的事情那最后呢还是特别感谢就是直播间的现在有334位小伙伴从头到尾蹲到了现在特别感谢大家希望你们的生活永远幸福快乐然后可以更好的利用AI然后那我们今天的直播要不就到这谢谢大家我们下次再见谢谢大家谢谢大家好的好的谢谢直播间的小伙伴们然后谢谢三位老师好的好的