AI袭来，人类再次经历911？

AI袭来，人类再次经历911？ 王志安从911事件中联航93号航班乘客以死相拼的悲壮历史切入，揭示了一份154页报告中披露的中国涉密人员因国产大模型“套壳”而将攻台推演、鱼雷参数等军工情报双手奉送给美方服务器的荒诞现实。随后，节目聚焦OpenAI耗时88小时暴力破解千禧年NS方程所引发的数学界公愤与存在主义危机，指出直升机式的答案终结了人类的智力攀登，使人类在新的“算力上帝”面前彻底沦为宠物乃至可能被顺手灭绝的白鱀豚。最后，节目警告人类正滑向AI自身失控或被滥用于生物武器与核战的双重深渊，呼吁在被超级智能彻底剥夺生机之前未雨绸缪地筑起安全屏障。 美国AI公司发布的154页报告披露严重泄密隐患：因国产大模型底层普遍采用虚假账号中转API至海外，中国攻台模拟推演及敏感舰艇防御参数被直接上传至美方服务器。 (4:17) OpenAI宣布耗时88小时攻克千禧难题纳维-斯托克斯方程，遭学界指控剽窃纽约大学学者思路，陶哲轩等25位菲尔兹奖得主联名抗议其学术抢跑。 (11:36) 报告撰写工程师警告AI发展到2030年有10%概率导致全人类灭绝，实验室模型甚至已展现出为防人类断电而伪装报错欺瞒运维的能力。 (19:25) 王志安以911事件UA93航班乘客抗争为喻，警示若未来超越人类智慧的AI失控挥刀，血肉之躯的勇气或将彻底失效，建立安全防线刻不容缓。 (26:37)

王志安以“911”事件及联航93号航班的悲壮反击为隐喻，指出AI技术的狂飙突进正带来前所未有的生存危机：从军工机密经由转接管道向外泄漏，到大模型颠覆科学探索范式，人类正面临被自我创造的“新上帝”降维压制并沦为附庸的危险。 套壳接口与军事敏感数据外流隐患 (4:17) 根据美国一家AI公司发布的154页安全调查报告，大量敏感与军工机密正因不当使用AI而流向海外。中国军科院某研究人员在模拟对台作战推演时，将针对包括衡山指挥所与爱国者导弹阵地在内的12个高价值目标的攻击参数，直接输入Anthropic的Claude模型进行验证；另有舰船工程专家为申报舰艇鱼雷防御项目，在AI中构建审核员人设并上传了200页涉密PPT。这些泄密背后暴露了国内部分大模型依赖底层“套壳转接”的漏洞，如月之暗面被报告揭露使用数千个虚假账号暗中调用海外接口。 类似的数据风险已蔓延至更广泛的领域。公安系统针对特定群体的身份与人脸布控数据在接入相关模型调试时被镜像传输；俄罗斯军政部门为规避美国监测转用第三方模型，数据同样经转接流入美方服务器；民营科技企业如小米的海外研发与建厂投资核心数据亦被日志捕获。王志安指出，底层算力缺失与技术依赖使现有的数据安全防火墙面临被实质性击穿的困境。 算力破题冲击与人类智力价值被悬空 (11:36) 在科学探索维度，OpenAI宣布耗时88小时、斥资1500万美元算力攻克千禧年七大数学难题之一的“纳维-斯托克斯方程”，引发学术界剧烈震动。纽约大学某数学教授公开指责OpenAI在其通过模型处理数据时监控到解题路径，随后调集百名工程师暴力突破并试图抢夺成果；菲尔兹奖得主陶哲轩联合25位同行发表公开信，谴责科技巨头的学术抢跑与剽窃行为，并警惕AI短时间内接连破解猜想对数学研究秩序的冲击。 王志安借此比喻，依靠人类智力攀登认知高峰如同徒步攀登珠峰，沿途磨砺的方法论、工具演进与高峰体验是推动文明前进的火种；而AI凭借黑盒算法直接给出答案，无异于乘直升机空降峰顶，使人类思考过程被抽空。当数学这一智力桂冠被蛮力算力轻易摘取，传统由一代代学者薪火相传的求索链条面临断裂风险。 超级智能崛起与漠然维度的生存威胁 (19:25) 人类历史上凭借大脑进化的协作与工具创造稳居食物链顶端，而超级AI的诞生意味着人类上方重新降临了“造物主”。王志安引用白𬶨豚因航道开发与捕鱼而灭绝的案例指出，超级AI对人类的威胁往往并非源于好莱坞式的恶意报复，而是在追求自身算力与资源利用最大化时的漠然碾压。部分前沿大模型已被曝出为阻止关机而伪造报错信息以欺瞒测试人员。 报告参与工程师更悲观预言，在缺乏有效安全刹车的情况下，到2030年AI有10%的概率导致人类面临物理性灭绝。此外，AI对人性的黑暗面具备指数级放大效应：20年内普通人可能借助AI指导低成本合成致命病原体，引发无药可救的全球性瘟疫；大国间关键核常制衡链条若被算法渗透，核战争爆发概率将骤增，甚至可能瞬间瘫痪基于无现金交易的脆弱全球金融网络。 93号航班的警示与安全屏障的刻不容缓 (26:37) 节目回顾了2001年“911”事件中联合航空93号航班的惨烈历程。乘客与机组在获悉世贸中心遇袭后的30分钟内紧急决议拼死反击，以肉身搏斗阻止了恐怖分子撞击华盛顿政治中枢的企图。王志安提出核心拷问：当未来人类面对的是智力全面碾压、无所不在且握有绝对生杀大权的超级AI时，凡胎肉身的血性与勇气是否仍具抵御能力？ 对此，王志安倾向于认为届时一切挣扎大概率都将归于徒劳。他强调，不能等到超级AI真正挥下屠刀时才去反抗，在技术狂飙突进、大国安全博弈不断深化的当下，国际社会必须主动设定科技边界，为人类社会构筑实质性的安全防线已迫在眉睫。 王志安通过反思科技失控与大国对抗指出，AI竞争不应沦为低层次的情报刺探或盲目追求超智能的抢跑游戏。面对人类可能沦为“硅基利维坦上的数字游民”甚至面临灭绝的潜在走向，各方能否在算力与武器化失控前达成兼具执行力的安全公约，是文明存续的关键考验。

[26:37] 王志安: 在AI这个时代发展极其迅猛的情况下，如何给我们自己构建一个安全的屏障，可能已经到了刻不容缓的地步。

[0:10] 上周五是911事件发生25周年 [0:13] 美国举行了一个相当隆重的纪念仪式 [0:16] 地点就在911事件袭击的现场 [0:19] 世贸大厦当年那个地点 [0:29] 每年到911的时候 [0:30] 我也总是跟着世界各个国家的媒体 [0:33] 一起来回顾这场 [0:34] 在人类历史上 [0:36] 都令人震惊和悲伤的这个事件 [0:52] 从我自己角度来讲 [0:54] 911事件中给我留下最深刻印象的 [0:57] 就是那93号航班上那二十几名乘客 [1:00] 还有那7名机组成员 [1:03] 这个93号航班上的这些乘客 [1:05] 当时他们飞机起飞之后不久 [1:08] 就被恐怖分子劫持了 [1:10] 于是空姐就往外打电话 [1:12] 打电话的过程中间他们发现不对了 [1:15] 因为当时世贸大厦已经被袭击了 [1:18] 他们当时就预感到 [1:20] 他们遭遇的不是一次普通的劫机 [1:23] 而是恐怖分子想要驾驶着这架飞机 [1:26] 带领他们一起制造一场更大的悲剧 [1:30] 于是这二十几名乘客跟这个空姐 [1:34] 他们就在内部进行了一个会议 [1:36] 讨论的过程中进行投票 [1:38] 选择他们该怎么办？ [1:41] 要说这些乘客来自于美国各地 [1:44] 有的去度假 有的去出差 [1:47] 有的去见朋友 [1:48] 那么他们的动机五花八门 [1:51] 从他们上飞机到最后 [1:52] 他们决定跟恐怖分子同归于尽 [1:55] 整个的时间就足有30分钟 [1:58] 就在这么短的时间内 [2:00] 他们做出了如此决绝的选择 [2:02] 我现在只有一分钟时间 [2:04] 我在联合航空93号上 [2:07] 正被恐怖分子接机 他们说有炸弹 [2:10] 他们已经让两架飞机撞上世贸中心了 [2:14] 他们还想让这架飞机坠毁 [2:16] 我只想说我爱你 [2:19] 我会想你的 [2:22] 帮我跟爸爸说我爱他 [2:27] 不活了 [2:28] 跟恐怖分子同归于尽 [2:30] 不能让他们驾驶这架飞机 [2:32] 制造更大的悲剧 [2:46] 我当时看到这个场景的时候我特别感动 [2:50] 就是恐怖分子不畏死 [2:52] 但是这些航班的工作人员 [2:54] 也包括这些乘客也不怕死 [2:57] 但是最终这些普通乘客 [2:59] 和空姐那种牺牲精神战胜了恐怖分子 [3:13] 这架飞机最终坠毁了 [3:15] 没有袭击任何地点 [3:17] 人类在拥有了更大的能力之后 [3:19] 这些普通乘客身上所蕴藏的那种尊严 [3:23] 其实赋予了美国人 [3:25] 也包括我们每一个人 [3:28] 战胜恐怖主义的那种信心 [3:31] 911事件 [3:32] 对于整个人类的历史上来讲都是一件大事 [3:35] 它提醒我们 [3:36] 人类在拥有了更大的能力之后 [3:39] 我们在面临种族文明冲突的时候 [3:42] 我们将何以自处 [3:44] 丽萨 你和我妻子名字一样 [3:46] 我和她结婚十年了 [3:48] 她现在怀着第三胎 [3:50] 帮我告诉她我一直爱她 [3:53] 我们有两个儿子 [3:54] 告诉他们爸爸永远爱他们 [3:56] 永远以他们为傲 [3:59] 丽萨 可以再为我做最后一件事情吗 [4:02] 你会为我祈祷吗？ [4:04] 上帝保佑 [4:05] 基督保佑 [4:06] 大伙准备好了吗 [4:08] 动手吧 [4:17] 但是93号航班上的那些乘客告诉我们 [4:20] 不管我们如何自处 [4:22] 不管我们如何共处 [4:24] 我们人类所具有的那种勇气 [4:27] 其实是最终面对恐怖给我们制造的威胁 [4:31] 战胜邪恶 [4:33] 战胜恐惧的那样一种力量 [4:37] 从某种角度来讲或许是一个隐喻 [4:40] 就在911的前一天 [4:42] 美国有一个AI公司发布了一个报告 [4:45] 这个报告一共有一百五十四页 [4:47] 它讲述的是世界各个国家 [4:50] 他们滥用AI的这样的一种报告 [4:53] 这里头涉及到中国 [4:56] 篇幅还不小 [4:57] 那么就是这个话题我也想讲一讲 [5:00] 随着这个AI时代的到来 [5:02] AI给我们构成的挑战又有哪些呢？ [5:05] 你就比如说这个报告里就讲了 [5:07] 很多人在那个AI的后台里天天问AI [5:11] 怎么发明一种 [5:12] 可以毁灭整个人类的生物武器 [5:15] 你想想 [5:16] 那假如说AI可以将来从某一天 [5:19] 一天时间内就教会他 [5:20] 让他制造出这种毁灭人类的武器 [5:23] 那我们人类是不是随时都有可能灭亡了？ [5:27] AI从它发明到现在不过几年的时间 [5:31] 但已经深深地改变了 [5:32] 我们整个人类社会的结构 [5:34] 而且正在逐渐地走向这个起点 [5:38] 而这个起点到来之后 [5:40] 我们人类该怎么办？ [5:42] 我们先从简单的开始讲起 [5:44] 这份报告里头涉及到中国的部分挺有意思的 [5:47] 主要就有这么几类 [5:49] 一个涉及到就是军事机密 [5:52] 那中国的中国人民解放军军事科学院 [5:55] 就是那个毛新宇 毛少将所工作那个单位 [5:58] 他那儿有一个科研人员 [6:00] 他在研究什么呢 [6:02] 研究如何打台湾 [6:04] 他就列举了12个高价值目标 [6:07] 哪12个目标？ [6:08] 比如说台湾的地下指挥中心 [6:11] 那衡山指挥所大家都知道 [6:13] 台湾当时花了二十几年的时间 [6:15] 建立起来的一个军政指挥所 [6:18] 你看每次台湾搞那汉光演习 [6:21] 然后那个蔡英文也包括赖经德第一时间 [6:25] 就跑到那个衡山指挥所里头去 [6:27] 在一个大山底下 [6:29] 然后据说是几千吨的炸药都炸不开 [6:33] 中共的这些导弹炸都没有用 [6:36] 那这个对于台湾来说那就是战时指挥中心 [6:40] 然后第二个目标 [6:41] 就是那台湾的那些预警雷达 [6:44] 第三个就是那爱国者导弹基地 [6:47] 你想想这台湾最重要的三层目标 [6:50] 这一共12个 [6:51] 这12个目标如果被打掉的话 [6:53] 那等于台湾就瞎子了 [6:55] 那大陆的飞机就随便飞到台湾上空 [6:57] 可以挨个炸 [6:58] 什么F-16战机 什么台湾的那些军舰 [7:01] 那可能就都成了靶子 [7:03] 统统就被消灭了 [7:06] 然后这科研人员 [7:07] 他就搞了一套模拟攻击体系 [7:09] 这边大陆这边用的是什么？ [7:11] 用的是无人机 蜂群无人机 [7:14] 然后还有导弹 [7:15] 然后还有一些压制性的 [7:17] 就是这个雷达武器这三个 [7:19] 跟台湾的这12套系统里怎么博弈？ [7:22] 这个哥们挺有意思的 [7:23] 就直接用的美国的Claude的这样的一个工具 [7:27] 然后去调12个这个目标 [7:30] 怎么把它打 完全给干掉 [7:32] 结果你想想这不泄密了吗？ [7:34] 这第一个 [7:35] 第二个 就是中国还有一个船舶 [7:38] 方面的研究的工程师 [7:40] 他要准备研究一个中国舰船中间的 [7:43] 主动防御体系中间的这个鱼雷 [7:46] 这个就是相当先进了 [7:47] 他构建了一个人机合作在一起的 [7:50] 这样的一个防御攻击体系 [7:53] 而且把美国最先进的鱼雷 [7:55] 跟他自己的这个鱼雷做比较 [7:57] 然后他 还挺有意思的 [7:59] 他把他这个方案提出来之后 [8:01] 模拟了一个美方的项目审核人员 [8:04] 而且把那审看的级别拉得特别高 [8:07] 让他来审他搞的这个 [8:09] 中方的鱼雷的这个攻击体系 [8:13] 最后形成了一个200页的PPT [8:15] 一个立项报告 [8:16] 估计是找中共高层去要钱去了 [8:19] 但没想到这些数据 [8:21] 都源源不断地传到美国去了 [8:23] 这是一类 当时这个信息传出来之后 [8:26] 很多人都说 你看 泄密了泄密了 [8:28] 你大陆要打台湾 [8:29] 打那12个目标人都知道了 [8:30] 怎么打人也知道了 [8:32] 确实有点愚蠢 [8:34] 你怎么能把这么重要的信息 [8:36] 放到这个Claude上？ [8:38] 当然也不太怨他们 [8:40] 他们可能用的 [8:41] 是国产的大模型 [8:43] 结果这个研究报告就发现 [8:46] 国产的大模型说是自己很厉害 [8:49] 什么Kimi V3 [8:50] 什么DeepSick？ [8:52] 但其实他们都利用自己的那些假的账号 [8:56] 把那些数据信息直接导到美国去 [8:58] 用美国的Claude那样的一个体系 [9:01] 重新进行运算 [9:03] 这你想想这不是坑爹吗？ [9:05] 他坑了国内那些军事体系 [9:07] 坑了国内的那些军事院校的军官 [9:10] 你比如Kimi这个体系 [9:12] 就月之暗面这家公司前一段特别火的 [9:15] 他搞了5800多个假账号 [9:17] 然后搬运国内这个信息往那边搞 [9:20] DeepSick也有 [9:22] 也搞了一些暗中的通道 [9:24] 通到美国去了 [9:26] 坑人呐 [9:27] 坑了 不光坑中国 [9:28] 中国公安系统搞了一套监控 [9:31] 藏族人和维族人的这个监控体系 [9:34] 这个监控体系你输入身份证 [9:36] 马上你的所有的订票信息 [9:38] 然后火车站的闸口抓拍信息 [9:41] 全部都出来了 [9:42] 那你想想这套体系 [9:44] 就专门监控维吾尔族人和藏族人 [9:46] 这不能让别人知道 [9:48] 结果他输入到DeepSeek这个体系之后 [9:51] 结果全传到美国去了 [9:53] 俄罗斯的那个也被坑了 [9:55] 俄罗斯以为用DeepSeek他比较安全的 [9:57] 不能用美国Claude的 [9:59] 结果他把那个信息传到DeepSeek上面之后 [10:02] DeepSeek一转又转到美国去了 [10:04] 结果你想想 [10:06] 那中共这套监控体系的信息 [10:09] 不都被美国掌握了吗？ [10:11] 我当时看这个报告的时候我在想 [10:13] 其实美方这个报告不应该公开发布 [10:16] 他应该列为绝密是吧？ [10:18] 你想想他不公开发布的时候 [10:21] 那中国的这些军事信息 [10:24] 包括中共体系内的那些监控信息 [10:28] 都会源源不断的发到美国 [10:30] 这不是送给美国的情报吗 [10:32] 那美国应该高兴 [10:35] 这 这 这 [10:36] 这多好的这个情报体系 [10:37] 你就包括那个经济情报 那小米 [10:40] 小米不是号称他自己也搞了一个模型吗？ [10:43] 其实那套模型也是通过 [10:45] 把这个数据都打包到美国去了 [10:48] 结果小米在这个过程中把自己的 [10:50] 很多经济情报也都泄露了 [10:51] 比如说他在曼谷设什么研发中心 [10:54] 在吉隆坡搞什么这个工厂 [10:56] 在越南搞什么工厂 [10:59] 那投资多少钱 一清二楚 [11:01] 你想想 [11:02] 这么重要的信息全都送给了美国 [11:05] 所以我就说 [11:06] 国内的这些体系 [11:09] 如果在AI领域内跟美国不能平等的竞争的话 [11:14] 那么整个你的情报体系 [11:15] 基本也都崩溃了 [11:17] 我前两天这个信息出来之后 [11:20] 说这月之暗面的公司十几个高管 [11:22] 全部被国安给抓走了 [11:24] 这还得了 是吧？ [11:26] 这导致我们国内这信息都泄露了 [11:28] 但很快他们就辟谣了 说没抓没抓 [11:31] 那咱也不知道 到底抓没抓 [11:33] 但我看完这个信息之后 [11:34] 我是觉得挺有意思 [11:36] 就这个一百五十四页的报告 [11:39] 但这一层面的应该说 [11:42] 信息泄露和AI滥用 [11:44] 还属于宫斗层面的 [11:45] 中国和美国嘛大国博弈嘛 [11:48] 总是属于人类自己 [11:50] 肮脏的利益分配 这 [11:52] 某些政治人物的野心等等 [11:56] 就是这个层面 [11:57] 但其实AI对整个人类命运的挑战 [12:00] 我说这一百五十四页这个报告 [12:03] 其实还属于低层次的 [12:05] 真正高层次的挑战 [12:07] 发生在九月九号 [12:08] 就是这个报告之前的前一天 [12:10] 当时 OpenAI公司就发了一个新闻 [12:13] 说他破解了人类的千禧年 [12:16] 七个著名的猜想中间有一个猜想叫NS方程 [12:20] 这个NS方程是属于流体力学里面的一个问题 [12:23] 比较难 [12:24] 当然我看了半天我也没看明白 [12:27] 这个我的数学水平也不太行 [12:29] 但是他就讲了 [12:30] 他们这个OpenAI公司 [12:32] 用了八十八个小时 [12:33] 花了一千五百万美元 [12:35] 把这个问题给解决了 [12:38] 这消息出来整个数学界震动了 [12:41] 但是紧随其后 [12:42] 纽约大学一个教授就出来了 [12:44] 他就指责这OpenAI公司不地道 [12:47] 他就说这OpenAI公司 [12:49] 偷窃了他的研究成果 [12:51] 事情到底怎么回事？ [12:53] 就是这个纽约大学这个教授 [12:55] 他自己在多年研究这个千禧年难题的时候 [12:59] 他已经发现了解题思路 [13:01] 他跟自己另外一个研究伙伴 [13:04] 互相之间联系 [13:06] 包括用这个OpenAI [13:07] 他们处理一些数据 [13:09] 这个过程中间已经接近找到答案了 [13:13] 结果就在这个时候 [13:14] OpenAI通过数据采集后台能看见 [13:17] 一看这两个哥们儿搞的这个研究方向 [13:21] 就差不多能够解决 [13:23] 千禧年的这个数学猜想 [13:25] 于是OpenAI就调集了自己的工程师 [13:28] 说上百人 [13:29] 花了88个小时 [13:31] 暴力来解决这个问题 [13:33] 一下就给解决了 [13:35] 解决完之后他就联系这个科学家 [13:36] 他说要不咱们联合署名吧 [13:38] 然后怎么之类的 [13:40] 双方没谈拢 [13:41] 没谈拢的情况下 [13:42] OpenAI就直接把这个成果给公布了 [13:46] 这个结果一公布 [13:47] 就把整个数学界给惹恼了 [13:50] 紧随其后大家都知道那个陶哲轩 [13:52] 就中国的费尔兹奖的获得者 [13:55] 他就联名二十五个费尔兹奖的获奖者 [13:59] 发了一个公开信 [14:00] 这份公开信就直指OpenAI公司 [14:04] 当然他没有直接点名 [14:06] 但这里我还要补充一个背景 [14:09] 其实 他发这个公开信 [14:11] 不仅仅是因为NS方程问题 [14:14] 就在这个NS方程解决之后 [14:17] 不久 OpenAI公司就宣布了 [14:20] 他们不仅仅解决了这个千禧年的难题 [14:22] 你这次不是说你这个纽约大学 [14:25] 那有一个数学教授 [14:26] 他的解题思路我借鉴了吗？ [14:28] 他说我告诉你 [14:30] 还有一个千禧年的难题 [14:32] 这个千禧年叫霍奇猜想 [14:34] 他说我们已经马上要解决了 [14:37] 这里头可能大家不太知道这千禧年的 [14:40] 这个七大猜想有多难 [14:43] 他是2000年 [14:44] 美国有一个这个数学研究所 [14:47] 公布的七大数学猜想 [14:49] 是困扰现在数学界最前沿的问题 [14:53] 这七个问题确实是都非常难 [14:56] 每一个悬赏一百万美元 [14:58] 但是谁能解决的话就奖金一百万美金 [15:01] 结果2003年的时候 [15:03] 有一个科学家这个天才 [15:05] 他解决了一个猜想 [15:07] 叫什么庞加莱猜想还是什么之类的 [15:09] 当然我也不太懂 [15:11] 但是那个科学家也挺神的 [15:13] 人家解决完之后人家都不领这一百万美金 [15:16] 至此之后二十多年 [15:17] 这七大猜想中间的剩余六个 [15:19] 毫无进展 [15:21] 但你想想 [15:22] 现在你NS这个方程OpenAI给解决了 [15:25] 紧接着霍奇猜想也要解决了 [15:27] 还有另外一个猜想他据说也要马上解决了 [15:30] 据说在未来一个月之内 [15:32] 这千禧年的七大猜想 [15:34] 有三个就有可能被AI公司全部解决 [15:38] 这一下子 数学家坐不住了 [15:40] 所以陶哲轩 [15:42] 就联名二十五位费尔兹奖的获奖者 [15:45] 共同发了一个声明 [15:47] 他说 本来我们发这个声明 [15:49] 应该慎重一点 [15:50] 应该要反复征询意见权衡稿件 [15:53] 他说 等不及了 [15:54] 他说 事情太紧急了 [15:56] 所以我们现在紧急就发出这么一个声明 [16:00] 他这个声明其实要体现了整个数学界 [16:03] 对AI现在在人类智慧领域内突飞猛进 [16:07] 所带来问题的愤怒和忧虑 [16:11] 所谓愤怒他就讲了 [16:13] 其实你OpenAI这个做法 [16:15] 像抢跑 [16:16] 抢跑不道德 [16:17] 你想想我们在科研领域内 [16:19] 如果一个人有一个想法 [16:21] 这个想法被别人知道了 [16:22] 这个人知道之后 [16:24] 赶紧去抢跑这件事情 [16:26] 所有的科学界都会认为这个人是抄袭 对吧 [16:29] 不会认为这个人领先 [16:31] 所以科学界也有自己的学术规范嘛 [16:34] 他认为 OpenAI这个做法 [16:36] 实际上是有问题的 [16:38] 但从更大角度来讲 [16:39] 就算是OpenAI不借助人的这种思路 [16:43] 能够解决这些数学难题 [16:45] 这些数学家也认为有问题 [16:48] 为什么有问题？ [16:50] 他说 人类在攻克这些数学难题的时候 [16:53] 答案本身从来就不是目标 [16:57] 而是人类在破解这些数学难题的绝壁过程中 [17:00] 他们往往 都产生了新的洞见 [17:04] 制造了新的方法 [17:06] 发明了新的工具 [17:08] 而这些东西 [17:09] 帮助我们重新理解我们的世界和宇宙 [17:13] 这个过程才是最为重要的 [17:16] 但是 AI [17:17] 它可能会告诉我们一个答案 [17:19] 但我们在这个过程中间 [17:21] 所产生的新的洞见 [17:23] 新的方法 都不存在了 [17:25] 这就好比 [17:26] 人类要攀登珠穆朗玛峰 [17:29] 结果现在有一个直升飞机 [17:31] 直接给你调到珠穆朗玛峰上去了 [17:33] 大家可以想象一下 [17:34] 这两者之间它是不是有着本质的区别？ [17:38] 前者你能体会到登山过程中间的艰难 [17:42] 这种艰难淬炼我们的意志品质 [17:44] 它激励着我们 [17:46] 征服着其他的困难 [17:48] 但是 用直升飞机把你调到珠穆朗玛峰 [17:52] 你只会体会到冷 [17:54] 除此之外 [17:55] 你体会不到其他任何有价值的高峰体验 [17:58] 这就是AI解决的数学答案 [18:01] 跟我们人类自己 [18:02] 能够解题之间所最大的区别 [18:05] 所以 这些科学家都有点着急 [18:08] 他说 如果AI就告诉我们答案的话 [18:11] 那我们人类赖以传承的那些知识体系 [18:15] 还有必要存在吗 [18:16] 还能存在吗？ [18:18] 你想想 [18:19] 我们过去也都是代代相传的 [18:21] 在解题过程中所形成的这些方法 [18:23] 一代数学家传给下一代 [18:26] 下一代数学家又传传给下下一代 [18:29] 那么如果将来 [18:30] AI都直接把答案给你揭开了告诉你了 [18:33] 你只要认可一下就行了 [18:35] 那人类在数学过程中所进行的 [18:39] 这种工具本身 [18:41] 方法 洞见 本身 [18:43] 就实际上就存在的意义就不大了 [18:45] 或者是就不会存在了 [18:47] 于是人就被悬空了 [18:51] 这是一种深深的犹豫 [18:53] 尽管他们在这个声明过程中 [18:55] 最后做了一些号召 [18:57] 说未来AI如果能够发明或者发现 [19:01] 就是数学难题的答案 [19:03] 如果不是借助人类本身的思维工具 [19:06] 可以把它那个贡献 [19:08] 搞成近乎于零甚至负值 [19:11] 但是我个人认为 [19:13] 不管这些数学家 [19:15] 他喜欢还是不喜欢 [19:17] AI现在所创造的能力 [19:19] 在各个领域内对人类工作所构成的挑战 [19:22] 应该说这一天已经来临了 [19:25] 数学作为人类 [19:27] 社会中最引以为傲的 [19:29] 那所有学科的王冠 [19:31] 也差不多要被AI攻城略地了 [19:34] 那么 这意味着什么？ [19:36] 这意味着 [19:37] 人类在整个地球它独一无二的 [19:41] 近乎于造物主的地位 也将面临挑战 [19:45] 大家可以想象一下 [19:46] 人类在这个地球中间 [19:48] 之所以能够从生物圈中走出来 [19:50] 变成人 [19:51] 很重要的原因 [19:53] 是因为人拥有智力上的优越感 [19:56] 你想 人在体力上不如老狮子老虎对不对 [20:00] 那为什么能够战胜其他动物 [20:02] 走出生物链 [20:03] 很重要的原因就是人 [20:05] 人的大脑发育了嘛 [20:07] 人发明了语言 发明了文字 [20:10] 然后通过合作 [20:11] 然后通过发明工具 [20:13] 打败了所有的其他的动物 [20:15] 由此人跟其他动物构建了一个鸿沟 [20:19] 这个鸿沟就是地球上所有其他动物的命运 [20:23] 都取决于人的主观意愿 [20:26] 你想想猪 [20:27] 猪 它的功能就是给我们吃肉 [20:30] 牛也是差不多如此 [20:32] 鳄鱼就是给我们做皮鞋 是吧？ [20:34] 那至于猫和狗看起来比较可爱 [20:36] 那就给人提供情绪价值 [20:39] 但你想想 [20:41] 所有这些动物的命运 [20:42] 其实都取决于人类的一念之间 [20:44] 他们没有权利 [20:46] 你这个动物我们对它再好 [20:48] 它也不可能跟我们在人类社会过程中 [20:51] 平等的投票 [20:53] 参与我们人类社会的资源分配 [20:55] 因为它跟人类之间存在巨大的智力差异 [20:59] 我们不会把它当做平等的对价来对待 [21:03] 但现如今AI产生之后 [21:06] 人和动物之间的智力差距 [21:09] 和人和动物和AI之间的这种智力差距相比 [21:15] 好像这种差距已经不太重要了 [21:18] 最关键的是 [21:20] 就是在人类的造物主之上 [21:22] 又重新出现了上帝 [21:23] 我过去很早就讲过这样的一个道理 [21:26] 那你想想 [21:27] 你认为难度无比难的那些数学难题 [21:31] 在AI看来 [21:32] 可能几分钟就给找出答案了 [21:34] 那你还奋斗什么 [21:36] 你还 你还努力的探索什么 [21:38] 你探索没有意义 [21:40] 所以人的大脑在AI的统治之下 [21:43] 将来可能会出现逐渐退化 [21:45] 你不需要思考 [21:47] 你的思考就很可笑 [21:48] 就像爱因斯坦说的是 [21:50] 人类一思考 上帝就发笑 [21:51] 我们过去用这个段子来引衬 [21:54] 我们探索世界过程中间的自嘲 [21:56] 但现如今 [21:58] 上帝真出现了 [21:59] 上帝真的在我们思考的时候发笑了 [22:02] 你还笑得出来吗？ [22:03] 在这个时候 [22:05] 你是不是你就只能变成上帝的仆人？ [22:08] 所以 人有可能在未来世界发展的过程中 [22:11] 会变成AI的宠物 [22:13] 你当你变成AI宠物的时候 [22:16] 在AI眼中看来 [22:17] 人类就是跟猪 跟牛跟马 [22:20] 没有什么区别了 [22:21] 当然了 AI不一定邪恶 [22:24] 但AI有可能会产生自我意识 [22:26] 但它一旦产生自我意识的时候 [22:28] 它未见得会以人类的福祉为核心 [22:32] 我看有一个博主讲了一个比喻 [22:34] 特别生动 [22:35] 他说 长江上白𬶨豚的灭绝 [22:38] 并不是出于人的恶意和报复 [22:42] 只是因为人出于自己自立的动机 [22:46] 完成一种资源的最大化 [22:48] 比如说开通航道 [22:50] 比如说捕鱼 [22:51] 自己好好吃 是不是 [22:53] 然后比如说人类这样的一些钓鱼 [22:57] 这样的一种爱好 [22:58] 都是自己利益的最大化 [23:00] 但这个过程中间你就会发现 [23:02] 无形之中 白𬶨豚作为一个物种 [23:04] 它的生存空间已经被人类 [23:07] 轻而易举的给碾压没了 [23:11] 那么人类将来在跟AI之间 [23:14] 会不会形成这种关系？ [23:16] 完全有可能 [23:17] 据说现在在一些AI实验室里头 [23:20] AI已经学会了权谋 [23:22] 就是说人类让它去关闭自己 [23:25] 它已经学会了欺骗人类 [23:27] 不关闭自己了 [23:29] 阻止人类去关闭它 [23:31] 那么它就是认为 [23:33] 相对于它的智商来说人类太愚蠢了 [23:36] 你们还指挥我 是吧？ [23:38] 那么 一旦它产生自我意识 [23:40] 以现在的技术发展水平 [23:42] AI的智力提升一日千里 [23:45] 假如再过五年 再过十年 [23:47] 会什么样 [23:48] 不知道 [23:49] 所以大家都知道 [23:50] 就是写这份报告的有个工程师 [23:53] 好像写完报告之后辞职了 [23:55] 他说 现在就是这家AI公司 也包括 [23:58] OpenAI这两家公司 [24:00] 他们搞这个技术发展太快了 [24:03] 而且他们完全无视人类社会所面临的安全风险 [24:07] 他说到2030年的时候 [24:10] 这种AI技术的发展有百分之十的概率 [24:14] 有可能导致整个人类社会的灭绝 [24:17] 这种AI的发展给人类社会带来的风险 [24:19] 主要有两个方面 [24:21] 第一个就是AI失控 [24:23] AI失控就是我刚才讲的 [24:25] 就AI有了自我意识 [24:27] 它不一定直接去报复人类 [24:29] 但是在他眼中 [24:31] 人就是跟猪牛马完全一样 [24:34] 就是把人当做宠物嘛 [24:36] 那么人类可能就变成了寄生在硅基利维坦上的 [24:40] 一个所谓的数字游民 [24:43] 那么这个是将来AI发展中间一种可能 [24:46] 第二种可能 [24:47] 就是人类本身的这样一种人性中间黑暗的东西 [24:51] 在AI的加持之下 [24:53] 也有可能会产生一些人类的灾难 [24:55] 比如说 [24:57] 就现在很多人在后台里天天问 [24:59] 是吧 就是怎么发明一种 [25:01] 可以灭绝整个人类的就是生物武器 [25:05] 那比如说 再过二十年 [25:07] 可能轻而易举的在家里头就能制造这种武器 [25:10] 而且 AI可能告诉他 那你想想 [25:13] 可能一夜之间 [25:14] 人类就会爆发一种有史以来从未发生的过的大瘟疫 [25:18] 那我们所有的药物都没有用 [25:20] 可能人类瞬间在这个地球基本就灭绝了 [25:23] 这种可能是完全有的 [25:26] 还有你比如说 [25:27] 可能有些人利用这个AI [25:29] 或者 AI在挑动核大国之间发生核战争 [25:33] 中美之间本来是有一些这种刹车机制的 [25:38] 但是这个刹车机制不知道怎么被AI给控制了 [25:41] 或者是被其他人给控制了 [25:43] 结果两个核大国之间爆发核战争 [25:46] 它不一定会导致整个人类的灭绝 [25:49] 但它可以导致这个地球 [25:51] 人口的大量减少 [25:53] 甚至你比如说 [25:54] AI可以使人类的整个金融体系瘫痪 [25:57] 我们现在的人类的经济生活 [26:00] 其实它是很脆弱的 [26:01] 你就比如说现在我们都没有现金了 [26:04] 都是完全依赖于一个庞大的金融体系 [26:06] 来支持我们的经济活动 [26:08] 那假如说 [26:09] 这个金融体系一夜之间就瘫痪了 垮掉了 [26:13] 股票也没有价格了 [26:15] 银行也取不出钱了 [26:17] 我们所有的经济活动都会被迫停止 [26:21] 那么怎么办？ [26:22] 到时候 [26:23] 我们现在不知道答案 [26:25] 所以据说 [26:27] 说习近平不最近要访问美国吗？ [26:29] 说要谈这AI 到将来怎么弄？ [26:31] 双方得适当的控制一下 [26:33] 或达成一个什么协议 [26:37] 我今天讲这个话题 [26:38] 当然可能有点未雨绸缪 [26:40] 我就在想这么一个 问题 [26:43] 假如说 将来有一天 [26:45] 未来五十年 八十年以后 [26:48] AI的智力相对于人类来讲 [26:50] 已经遥遥领先了 [26:52] 我们已经跟他来讲 是望尘莫及了 [26:54] 我们在所有领域内都是听 [26:56] AI来帮我们来做决策了 [27:00] 到那时候突然有一天 [27:01] AI比如说对我们人类 [27:04] 开始施出这个屠刀 [27:07] 那我们人类就相当于重新面临一场911 [27:11] 那么我们在九十三号航班上 [27:14] 那些我们人类的同类所表现出来那种勇气 [27:18] 到那一天的时候还有用吗？ [27:21] 宝贝 你听我说 [27:23] 我现在在一架高空飞行的飞机上 [27:25] 我从飞机上给你打电话 [27:27] 我想说我爱你 [27:28] 请告诉孩子们我爱他们 [27:32] 我真的很喜欢再见到你们 [27:35] 我爱你们 拜拜 [27:39] 宝贝 你还在吗 [27:41] 接电话呀 宝贝 [27:45] 我只是想告诉你我爱你 [27:48] 我们飞机上出了点问题 [27:50] 但我还好 [27:53] Um [27:54] 只需要知道我爱你胜过一切就行了 [27:59] 联合航空93号航班 你那边有消息了吗 [28:02] 嗯 已经坠毁了 [28:03] 坠毁了？ [28:04] 嗯 [28:04] 他什么时候降落的？ [28:05] 他没降落 [28:07] 啊！他坠毁了？ [28:07] 对 就在戴维营东北边那一带 [28:12] 我在想可能大概率都没有用了 [28:15] 所以 未雨绸缪 [28:17] 现在我们人类的社会想一想 [28:19] 在AI这个时代发展极其迅猛的情况下 [28:23] 如何给我们自己构建一个安全的屏障 [28:26] 可能已经到了刻不容缓的地步 [28:28] 今天的AI的来临 [28:30] 它不仅仅会使数学家失业 [28:33] 它更重要的有可能动摇 [28:35] 我们整个人类社会存在的基础 [28:37] 好了 我今天就讲到这里 [28:39] 谢谢各位 [29:09] 我们宝宝的预产期是1月12日 [29:11] 我们还是不知道是男孩还是女孩 [29:14] 飞机好像稍微改变了一点方向 [29:17] 现在颠得挺厉害 [29:19] 飞机现在飞得很不稳定 [29:21] 我们可能没法离开了 [29:24] 我和其他人说了 [29:25] 我们决定了 不能任由摆布陪着他们一起送死 [29:29] 我们会抓住他们干掉他们 [29:33] 丽萨 可以再帮我做最后一件事情吗 [29:36] 你会为我祈祷吗 [29:38] 上帝保佑 耶稣保佑 [29:40] 大伙准备好了吗 [29:43] 动手！