谷歌高管警告AI对齐困境 呼吁人类争夺未来主导权

Architects of Our Future With Google — Ai4

Ai4

技术发展若缺乏主动干预将难以走向良性结局,人类不能将智能体视为引导力量而主动让渡掌控权,必须在认知信任与价值对齐上成为核心缔造者。

AI-assisted summary of Architects of Our Future With Google — original source. Check the original for full context.

Source published:

Detailed notes

## Background 本视频由 Ai4 于 2025 年 8 月 29 日在 YouTube 平台发布,内容为 Google 研究战略高级总监 Pilar Manchón 的主题演讲。根据页面介绍,演讲聚焦于智能体 AI(Agentic AI)如何从被动工具转变为主动伙伴,并呼吁大众理解自身在这一历史性转型中的角色,成为塑造未来的积极建筑师。

## TL;DR Pilar Manchón 指出人类正处于由 AI 驱动的最深远转型期,AI 已在材料科学、蛋白质结构解析(AlphaFold)及实时交互式世界模拟等领域实现跨越式突破。然而,面对技术狂飙,建立基于认知科学的“人类中心信任”以及攻克外在与内在“价值对齐困境”至关重要。她呼吁全社会坚守“以人为本”的底线与批判性思维,拒绝盲目乐观或在智能生态中自我矮化,主动担当共同未来的真正缔造者。

## Atmosphere & style 演讲兼具宏大的科学视野与冷静的哲学思辨,彻底跳出了常规业务汇报的框架,呈现出极具穿透力的思想厚度。Pilar Manchón 谈吐沉稳自信且善于发问,通过现场犀利的互动打破听众对技术的盲目崇拜或被动漠视。整场演讲的情绪弧线从对前沿突破的惊叹逐渐转向对伦理与信任危机的严肃拷问,最后在激昂有力的行动呼吁中收尾,带给听众深层的认知震撼与责任担当感。

## Key takeaways - [00:04](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=4s) 人类正处于历史上最深刻、最快速的根本性转型节点,AI 带来的变革不仅关乎生产力和效率的提升,更是在重塑工作、教育、人机交互与人类自身。 - [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) AI 技术的蜕变面临走向“蝴蝶”或“飞蛾”的抉择,若缺乏人类的主动干预与批判性思维引导,技术自发导向美好结局的概率极低。 - [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) 坚守“以人为本的 AI”是技术发展的唯一底线,研发目标应是让人类更具人性、让社会变得更好,而非创造脱离控制的异构智能。 - [08:47](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=527s) AI 正在成为驱动科学突破的底层支柱,AlphaFold 在数周内预测并解析 2 亿种蛋白质结构,为生物学与新材料研发带来了前所未有的加速。 - [12:16](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=736s) 实时交互式虚拟环境与视频生成技术打破了物理维度的限制,为 AI 智能体的空间感知、环境交互与具身机器人训练提供了高保真模拟平台。 - [12:16](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=736s) 智能体深度介入现实生活与科研工作,AI Co-Scientist 等工具能够交叉验证海量文献并生成科学假设,将传统数月的科研周期压缩至数小时。 - [15:05](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=905s) 多智能体协同落地的核心基石在于“信任”,自然语言的拟人化特性容易模糊机器意图的判断,需从认知科学层面解构人机信任机制与伦理边界。 - [18:38](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1118s) 人类大脑仅需 23 瓦功耗即可完成极度复杂的认知运算,破译人脑机制将为未来突破数据中心能耗瓶颈及发展生物计算提供关键启示。 - [18:38](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1118s) 人类价值对齐面临外在定义难题(如迈达斯国王困境与奖励作弊)与内在约束的双重挑战,需要以容纳更多复杂性的“人类维度”来替代单一指标。 - [21:49](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1309s) 人类绝不能在自己缔造的技术生态中退让为依附性的次等存在,必须发挥自身主动权,挺身成为未来的真正缔造者而非被动旁观者。

## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=4s) 站在巨变的十字路口:如何看待 AI 带来的分歧

Google 研究战略高级总监 Pilar Manchón 开篇指出,这次演讲的内容将与大家以往听到的技术分享有所不同。她希望引导听众跳出日常工作中面临的具体业务与技术挑战,从更广阔、不同的视角去审视当前所处的时代节点。

当前围绕人工智能的讨论呈现出极度两极分化的态势:光谱的一端认为 AI 时代天下太平、毫无后顾之忧;而另一端则充斥着末日论调,坚信世界即将走向终结。真实的未来大概率介于这两者之间。然而令人困惑的是,当诺贝尔奖得主和图灵奖得主各自站在完全相反的立场上各执一词时,人们究竟该相信谁?Manchón 指出,人类正处于整个人类历史上最深刻、最广泛、最快速的根本性转型边缘。这种变革不仅关乎创造力、生产力和效率的指数级提升,更在以难以预料的方式重塑各行各业与市场格局。

在这场变革中,数据、基础设施、能源、算力以及人才构成了核心要素。但随之而来的深层议题涵盖了方方面面: - **工作与人才的未来**:如何定义未来的劳动力与核心技能。 - **人机交互(HCI)的演进**:在过去短短几年内,人与机器的交互方式发生了颠覆性飞跃。 - **教育与下一代成长**:不仅包括个人的终身学习,更关乎下一代应当学习什么、如何确保他们掌握正确的工具并为未来做好准备。 - **内容生成的挑战**:涉及艺术、创意、新闻与信息传播,特别是如何应对虚假信息与“另类事实”(alternative facts)的泛滥。 - **人类与社会的未来**:Manchón 强调,“我们不仅是在构建技术,我们实际上是在塑造下一代的我们自己(building the next generation of ourselves)”,而多数人对此尚未有充分的清醒认知。

```mermaid flowchart TD accTitle: AI 变革驱动要素与未来影响领域 subgraph Inputs["核心驱动要素"] D["数据 (Data)"] I["基础设施与算力 (Infra & Compute)"] E["能源供给 (Energy)"] T["顶尖人才 (Talent)"] end

subgraph Impact["重塑的关键领域"] W["工作与交互形态 (Work & HCI)"] ED["终生教育与下一代 (Education)"] C["科学与内容生态 (Science & Content)"] S["人类与社会未来 (Society & Humankind)"] end

Inputs --> Impact ```

---

[03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) 蜕变时刻:做造就未来的“建筑师”还是被动等待

AI 并非只是又一项普通的新兴技术,它是未来所有知识和科学领域的“底层支柱(backbone)”。随着科学各领域全面被 AI 赋能,突破性进展正以史无前例的规模和速度爆发。人类正经历一场前所未有的剧烈“蜕变(metamorphosis)”,但 Manchón 抛出了一个核心隐喻:这场蜕变最终孵化出来的,究竟会是一只美丽的“蝴蝶(butterfly)”,还是一只扑火的“飞蛾(moth)”?

现场互动中,Manchón 询问在场听众有多少人在使用或构建 AI 工具,绝大多数人都举起了手;但当问及“有多少人确信自己能改变世界”时,举手的人明显变少。她强调,当前既是一个需要敢于“做大梦(dream big)”的时刻,也是一个必须保持怀疑、警惕幻象(mirages)并坚守批判性思维(critical thinking)的时刻: - **感知与现实的边界模糊**:AI 已经强大到能够逼真地凭空构建“现实”,人们极易迷失在生成的虚像中。 - **批判性思维的必要性**:面对海量学习资源和 AI Agent 每日给出的回答,使用者必须时刻审视内容的真实性与掌控权归属。 - **超越纯数学维度的理解**:仅仅弄懂大语言模型(LLM)背后的数学公式与运行机理,远远不足以理解这项技术对整个人类社会构成的深远冲击。

当问及“如果不加干预、任由技术自由发展,我们有多大把握能迎来‘蝴蝶’而非‘飞蛾’的结局”时,全场举手人数为零。这表明:若不主动施加正面影响与纠偏,通向美好未来的概率几乎为零。因此,坚守“以人为本的 AI(Human-Centered AI)”是唯一底线——研发 AI 不是为了创造某种脱离控制的“异构智能(alien intelligence)”,而是为了让人类变得更具人性(more humane)、让社会变得更好,防止陷入“为了技术而做技术”的泥潭。

---

[08:47](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=527s) 科学跨越与多模态生成:从 AlphaFold 到无限创造

Manchón 盘点了目前 AI 已经在现实与前沿科研中带来的实质性赋能,从商业加速、疾病筛查、AI 生成图像的水印追踪,到环境预测与低碳减排:

- **新材料发现**:AI 助力发现了 220 万种新材料,其中多达 39.5 万种具备高稳定性;英国最新研究利用相关技术制造计算磁体,将成本压缩至原先的 20%。 - **气候与城市治理**:涵盖洪水与野火预测、航线优化以减少航司碳排放、交通流量调控以及城市绿化规划等。 - **AlphaFold 的科研革命**:过去解析单个蛋白质的 3D 结构需要耗费一名博士生整整 4 到 5 年的研究生涯;而 AlphaFold 问世后,在短短数周内便成功预测并解析了全部 2 亿种蛋白质的 3D 结构,相当于将数千年的科研工作量瞬时交付给全球的药物研发与生物学研究者。在此基础上,业界更进一步利用 AlphaProteo 等技术去无中生有地设计自然界不存在的新蛋白质。 - **大脑解密与生成式多模态创作**:作为一名受过专业训练的认知科学家(cognitive scientist),Manchón 指出解析人脑是终极目标之一。如今在创作端,用户仅凭自然语言输入即可生成任意图像和视频片段,影视工作者更可将这些镜头无缝串联成完整的叙事场景,诸如 Genie 这类前沿工具正在打破创意的物理边界。

[12:16](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=736s) 实时交互式世界与科研加速:智能体应用的全面爆发

Google 最近推出的前沿工具不仅能够生成视频,还允许用户以实时交互的方式探索虚拟环境。用户可以发出指令要求以第一人称视角漫游冰岛的河流,并即时交互式地调整运镜方向,甚至能够体验从悬崖跳伞的极限模拟。这种技术的突破为 AI 智能体(Agents)打开了全新的维度——当智能体能够在高度一致且动态生成的虚拟世界中导航与交互时,空间感知、仿真模拟、游戏设计以及机器人具身训练(Robot Training)都将迎来质的飞跃。

在日常生活中,这类智能体正在深度介入现实任务。Pilar Manchón 举例提到,用户可以让 Google 智能体帮忙在奥克兰(Oakland)寻找租金低于特定预算且配有洗衣设施的公寓,智能体不仅能筛选房源,还能代为与房东沟通。谈及智能购物助手时,她打趣道现场的女性朋友一定会由衷喜爱这种能提前预判并满足需求的工具。而对于科研人员而言,最令人振奋的是 AI 在科学发现上的加速能力。她分享了自己数月前便开始使用的 **AI Co-Scientist** 工具:在传统的硕士或博士研究中,仅文献调研就要耗费数月,而现在该工具不仅能全面检索、交叉验证文献,还能将学界成果与研究者本人的构想有机结合,将数月的工作压缩到短短几小时内完成。

```mermaid flowchart TD accTitle: AI Co-Scientist and Agentic Workflow subgraph S1["现实与虚拟交互应用"] A["实时交互视频生成"] --> B["空间导航与机器人仿真"] C["生活助理智能体"] --> D["自动化找房与生活决策"] end subgraph S2["科学发现与认知加速"] E["海量文献深度检索"] --> F["学术成果交叉验证"] F --> G["灵感与假设自动生成"] end B --> H["多智能体协作生态"] D --> H G --> H ```

- **实时视频交互**:突破传统视频生成的单向播放,支持用户在虚拟世界中实时变更视角与交互路径,为机器人训练和具身智能提供高保真模拟环境。 - **生活场景落地**:智能体能够自主解析复杂限制条件(如预算、特定设施),并代表用户直接与现实世界的服务方沟通。 - **AI Co-Scientist**:通过自动化文献梳理、可靠性校验与构想整合,极大缩短科研探索周期,将“数月工作压缩为数小时”。

---

[15:05](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=905s) 智能体时代的核心命题:建立认知层面的“人类中心信任”

在前景一片光明的浪潮下,Pilar Manchón 提出了发人深省的质问:我们是否因为对未来的美好憧憬而变得盲目乐观?整场大会都在热议智能体的编排优化与协同作业,但所有系统能够运转的最关键基石在于——**信任(Trust)**。如果缺乏信任,没有人会愿意将财务管理、病历隐私或子女教育全权托付给 AI。评估一个 AI 教师、AI 健身教练或 AI 税务律师时,人类所权衡的信任维度各不相同;而当智能体拥有物理实体(Embodied AI)并在现实世界中穿梭时,人类对它们的感知与防备又会发生剧烈变化。

企业不能仅仅停留在内部合规与治理流程的“自我信任”,而必须从用户视角出发,构建真正让人放心的产品。Pilar Manchón 所在的研究团队正致力于从认知科学层面解构信任机制:人类对母亲、配偶的信任,与对银行家的信任截然不同;人类对传统遵循代码指令的计算机的信任,也与对使用自然语言对话的 Gemini 或 ChatGPT 的信任大相径庭。自然语言赋予了机器拟人化的外壳,却也模糊了人类对实体意图的判断边界,因为人类的大脑经过数十万年进化专门用于识别人类行为,在面对“听起来像人但又不是人”的智能体时,信任的度量变得极其复杂。

- **多维信任评估**:不同领域的智能体(金融、医疗、教育)面临完全不同的信任门槛与风险预期。 - **具身智能的感知转变**:拥有物理形态或移动能力的智能体,对人类心理安全感与交互边界提出了更高要求。 - **语言拟人化的信任迷局**:自然语言交流使人类误将对同类的信任心理投射到模型上,必须通过严格的认知框架来规范产品的人性化表达与伦理边界。

---

[18:38](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1118s) 23瓦大脑的启示与人类价值对齐的深层困境

面对未知,人类正迎来解密基因组、探索宇宙与深海的黄金时代。Pilar Manchón 指出,人类大脑仅凭 **23 瓦** 的极低功耗就能完成极其复杂的认知运转,如果未来的数据中心与生物数据存储(Biodata Storage)能够破译这种高效机制,算力架构将发生革命性重塑。然而,技术狂飙的同时必须严防伦理脱缰。当现场仅有极少数观众了解“人类价值对齐(Human Value Alignment)”时,她直言“这令人感到遗憾(That's sad)”,并强调了 Google 在更新前沿安全框架(Frontier Safety Framework)与践行 AI 原则上的责任感。

她深入拆解了价值对齐的双重困境: 1. **外在对齐(Outer Alignment)**:核心在于“定义什么价值以及由谁定义”。不同文化背景下的价值多元性、道德不确定性、偏好与本质价值的混淆,使得量化人类价值异常困难。这就好比经典的“迈达斯国王难题(Midas Problem)”——我们期望智能体像“仙女教母”一样领会真实意图并提供明智建议,但系统却可能像“邪恶神灯精灵”一样,机械死板地执行字面指令,最终带来毁灭性后果(如规范制定缺陷、奖励黑客行为 Reward Hacking)。 2. **内在对齐(Inner Alignment)**:即便人类能够完美定义价值,又该如何在数学和架构层面确保复杂模型在推理过程中始终严格恪守这些准则,而不产生隐蔽的偏离?

```mermaid flowchart LR accTitle: AI Alignment Challenges subgraph Outer["外在对齐 (Outer Alignment)"] O1["价值多元性与道德不确定性"] O2["规范设定问题 (Specification Problem)"] O3["奖励作弊 (Reward Hacking)"] end subgraph Metaphor["迈达斯困境 (The Midas Problem)"] M1["仙女教母:理解意图并优化结果"] M2["邪恶精灵:字面执行导致灾难后果"] end subgraph Inner["内在对齐 (Inner Alignment)"] I1["模型内部表征与目标一致性"] I2["复杂推理下的约束机制"] end Outer --> Metaphor Metaphor --> Inner ```

- **高能效生物计算**:人脑仅消耗约 23 瓦能量,揭示了生物存储与超低功耗计算在未来替代庞大数据中心能耗的巨大潜力。 - **迈达斯困境**:形象比喻了 AI 系统因缺乏上下文理解与真正同理心,在字面执行指令时可能导致的灾难性反噬。 - **人类维度(Human Dimensions)**:Pilar 主张用“人类维度”替代抽象单薄的“人类价值”,更全面地容纳人类社会的复杂性。

---

[21:49](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1309s) 拒绝沦为次等存在:做未来的缔造者而非旁观者

在谈及人类与高级人工智能的关系时,学界与工业界领袖存在诸多流派:Geoffrey Hinton 倾向于将超级 AI 设想为某种“母性 AI(AI Mother)”般的引导力量;Joanna Bryson 教授倡导将其纳入类似城市或企业的治理体系;而 Yann LeCun 则坚称这纯粹只是一个工程问题。Pilar Manchón 明确表示自己对这三派观点均不认同。她强调,人类绝不能在自己亲手缔造的新生态系统中主动退让,沦为低人一等的依附存在。

她引用了著名作家爱丽丝·沃克(Alice Walker)的名言:“人们放弃力量最常见的方式,就是认为自己毫无力量(The most common way people give up their power is by thinking they don't have any)。” 她向全场观众发起质问:无论此前是否举手认为自己在改变世界,每个人在各自的专业领域和企业组织中都拥有无可替代的主动权。在人类自我增强与破译生命奥秘的关键节点上,每个人都面临着根本性的抉择——是成为这场智能化转型的被动旁观者,还是挺身而出,成为我们共同未来的真正缔造者(Architects of our future)。

## Notable quotes > [00:04](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=4s) 我们不仅是在构建技术,我们实际上是在塑造下一代的我们自己(building the next generation of ourselves) — Pilar Manchón

> [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) 人类正经历一场前所未有的剧烈“蜕变(metamorphosis)”,但这场蜕变最终孵化出来的,究竟会是一只美丽的“蝴蝶(butterfly)”,还是一只扑火的“飞蛾(moth)”? — Pilar Manchón

> [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) 做大梦(dream big) — Pilar Manchón

> [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) 研发 AI 不是为了创造某种脱离控制的“异构智能(alien intelligence)”,而是为了让人类变得更具人性(more humane)、让社会变得更好,防止陷入“为了技术而做技术”的泥潭。 — Pilar Manchón

> [12:16](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=736s) AI Co-Scientist — Pilar Manchón

> [15:05](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=905s) 人类对母亲、配偶的信任,与对银行家的信任截然不同;人类对传统遵循代码指令的计算机的信任,也与对使用自然语言对话的 Gemini 或 ChatGPT 的信任大相径庭。 — Pilar Manchón

> [18:38](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1118s) That's sad — Pilar Manchón

> [21:49](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1309s) The most common way people give up their power is by thinking they don't have any — Alice Walker

> [21:49](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1309s) 是成为这场智能化转型的被动旁观者,还是挺身而出,成为我们共同未来的真正缔造者(Architects of our future)。 — Pilar Manchón

## Mentioned Google, Pilar Manchón, Ai4, AlphaFold, AlphaProteo, Genie, AI Co-Scientist, Gemini, ChatGPT, Geoffrey Hinton, Joanna Bryson, Yann LeCun, Alice Walker

## Video description Pilar Manchón, Senior Director of Research Strategy, Google

Abstract

We are standing at the threshold of a new era, where intelligent agents don't just answer our questions, but actively build our future alongside us. This fundamental shift from passive tool to active partner is poised to catalyze massive change, impacting our societies, markets, and even our philosophy of life. Agentic AI represents the next great leap in human progress, and its foundations are being laid today. This presentation will showcase key examples, revealing how these tools empower individuals and communities to tackle grand challenges. You will see how this technology is helping architect everything from sustainable cities to personalized education. Join this session to understand your place in this transformation and discover how you can become an architect of our future.

[Source](https://www.youtube.com/watch?v=ff9wPUgkk7Y)

中文简报

谷歌研究负责人驳斥Hinton的AI愿景,呼吁积极推进对齐 被动的技术惯性必然导致失败,除非社会主动解决认知信任与价值对齐困境,而不是将先进AI视作不可避免的主宰。 Pilar Manchón探讨了人类快速的技术蜕变,并警告称美好的未来不会自动实现,需要深思熟虑且以人为本的指引。她详细介绍了AI赋能的变革性科学突破——例如AlphaFold、AlphaProteo以及像Genie这样的生成式世界模型,同时探讨了对自主智能体建立信任的心理架构。Manchón剖析了内部与外部价值对齐的复杂性(包括迈达斯问题),并反驳了知名AI领军人物的宿命论范式。最后,她引用Alice Walker的话,呼吁与会者发挥能动性,成为未来的积极构建者,而非被动的旁观者。 当前围绕 AI 的公共讨论在文明崩溃与盲目乐观两极之间分化,面对这场由算力、能源、基础设施、数据与人才驱动的历史性变革,需要建立批判性思维而非被动接受极端叙事。 (0:04) 人类正迎来蜕变为“蝴蝶还是飞蛾”的关键转折期,这一走向绝不能依靠自动驾驶的惯性,而必须坚持以人为本的导向。 (3:40) AI 正深度赋能科学研究:深度学习系统预测出 220 万种新晶体结构,计算磁体成本降至 20%;AlphaFold 将耗时数年的蛋白质结构解析推进至数周解决 2 亿种,并为 AlphaProteo 从头设计蛋白质奠定基础。 (8:01) 生成式技术正从静态提示词演进为可实时交互的世界模型 Genie,配合 AI Co-Scientist 等智能体将长达数月的文献整合压缩至数小时。 (11:27) 随着自主智能体普及,核心瓶颈从算力转向多维度的信任校准,并需直面外部对齐的“迈达斯问题”与内部对齐挑战,以避免技术失控,每个人都应成为未来的架构师。 (15:05)

精炼阅读摘要

Google的Pilar Manchón在Ai4大会上提出,人工智能正引发人类历史上规模最深广、速度最迅猛的结构性剧变;她强调人类决不能被动等待技术自然演变,而必须主动把握技术能动性,将系统牢牢锚定在以人为本的价值体系与信任架构中,成为未来的“架构师”而非旁观者。 转型规模与人本主义抉择 (0:04) 当前围绕人工智能的公共讨论呈现两极分化,图灵奖得主与诺贝尔奖得主之间亦存在针锋相对的观点,一方认为文明面临崩溃风险,另一方则主张无需过度担忧。演讲者指出真实情况处于两者之间,人类正站在依赖算力、能源、基础设施、数据和人才五大核心支柱驱动的历史性转折点上,这一变革正以跨越数量级的非线性速度重塑教育、科研和交通等领域,并因合成内容的扩张而模糊了客观事实与虚构信息的界限。 面对这场被称为“蜕变”的巨变,人类社会面临走向光明(蝴蝶)还是自毁(飞蛾)的关键抉择。现场调查显示没有任何观众认为仅凭技术惯性或被动旁观就能自然换来理想结局。演讲者明确主张,对抗虚假幻觉与盲目乐观的唯一途径是保持批判性思考,坚决避免将技术演进演化为脱离人类利益的孤立复杂度竞争或异化为不可控的“异质智能”,确保人工智能始终服务于人类社会的福祉。 驱动科学突破与现实任务落地 (8:01) 在材料与生命科学领域,深度学习展现了颠覆传统科研周期的巨大潜力。根据演说引用的数据,系统已成功计算预测出220万种新晶体结构,其中395,000种被证实具有热力学稳定性;英国研究团队借此将计算专用磁体的制造成本降至原先的20%。在结构生物学领域,以往一名博士生需耗费4至5年才能解析单个蛋白质结构,而AlphaFold在数周内便预测解析了全部已编目的2亿种蛋白质三维结构,Google更进一步开发出AlphaProteo以实现从头定制蛋白质设计。 在日常应用与学术研究层面,自主代理与生成式模型正在改变工作流形态。DeepMind推出的Genie模型实现了实时可交互的三维世界模型生成,支持具身机器人与空间导航训练;面向大众的AI Mode可直接代劳租赁房源筛选与房东对接等繁复事务;AI Co-Scientist能在数小时内完成传统需耗时数月的文献检索与假设验证。不过演讲者同时提醒,这类系统现阶段仍存在不完善与不可靠之处,用户仍需保持警惕与审慎核查。 智能体时代的信任与认知边界 (15:05) 随着行业步入自主代理时代,系统落地面临的核心瓶颈已从单纯的算力堆叠转移到人机信任的建立。演讲者强调信任具有多维差异性:将系统接入涉及个人资产的银行账户,与用于医疗诊断、儿童教育或体育训练,其信任阈值截然不同;一旦代理获得机械实体并在物理空间中穿行,人类的心理感知与舒适度也将发生剧烈变化。此外,开发者侧重的技术验证指标往往与普通用户在易用性、伦理透明度及现实相关性层面的诉求存在明显错位。 认知科学研究正在探索不同人际信任模型对人机交互的影响。传统计算机遵循确定性代码,而现代生成式模型通过自然语言进行互动,极易触发人类将对话方视作“人”的演化心理机制。然而此类智能体仅仅具备拟人发音与语言表达能力,本质上并不具备真正的人类意识与同理心,如何化解这一心理投射张力是构建可靠智能体工作流必须解决的课题。 能效启示与价值对齐的双重困境 (18:38) 人脑在深度推理、感知与记忆运行时仅消耗约23瓦功率,这与当前动辄消耗兆瓦乃至吉瓦级电力的工业数据中心形成鲜明反差。演讲者指出,探索生物机理对改进计算架构、散热限制以及开发高密度DNA生物数据存储具有关键借鉴意义。与此同时,技术部署迫切需要面对“人类价值对齐”这一认知普及率极低的现实瓶颈,Google据此设立了AI原则与前沿安全框架(Frontier Safety Framework)以应对极端技术风险。 对齐难题在技术上被划分为外部对齐与内部对齐。外部对齐涉及价值定义的多元化与“迈达斯问题”(即系统机械执行字面指令带来恶果的“邪恶精灵”现象,对比深谙人类本意的“神仙教母”机制),需处理规范指定偏差、奖励黑客行为以及将浅层表面偏好误认为核心深层价值等问题;内部对齐则聚焦于即便价值达成共识,底层模型架构如何在执行中被严格约束。因此,演讲者建议采用更接地气的“人类维度”来重新定义这一复杂议题。 超越从属范式与重获主体能动性 (21:54) 针对高级人工智能与人类关系的构想,业内存在数种代表性假说:Geoffrey Hinton曾提出类似“AI母亲”的照护与管辖隐喻,Joanna Bryson主张将系统置于类似于公司或城市治理的制度框架中,Yann LeCun则将其单纯界定为可解决的工程问题。Pilar Manchón对此表达了明确异议,断然拒绝接受人类必须在未来科技生态中沦为“从属存在”或弱势地位的预设假说。 演讲者援引作家Alice Walker的名言“人们放弃力量最常见的方式就是认为自己毫无力量”,呼吁各领域的专业人士与构建者认识到自身所掌握的知识与能动性。在大模型迅速渗透各行各业的当下,每个人都必须做出根本抉择:是充当被动接受结果的旁观者,还是主动承担起设计规则、监督技术落地的未来架构师。 本场演说明确了人工智能在科研赋能与流程自动化上的巨大成效,但也警示了失衡舆论与被动心态的危害。未解的核心挑战在于:在不同文化与多元价值严重分化的背景下,全球社会能否在智能体大规模融入物理与金融系统前,就核心人类维度和可落地的内部对齐机制达成有效共识,并建立起经得起考验的信任防线。

Detailed notes — zh

## Background 本视频由 Ai4 于 2025 年 8 月 29 日在 YouTube 平台发布,内容为 Google 研究战略高级总监 Pilar Manchón 的主题演讲。根据页面介绍,演讲聚焦于智能体 AI(Agentic AI)如何从被动工具转变为主动伙伴,并呼吁大众理解自身在这一历史性转型中的角色,成为塑造未来的积极建筑师。 ## TL;DR Pilar Manchón 指出人类正处于由 AI 驱动的最深远转型期,AI 已在材料科学、蛋白质结构解析(AlphaFold)及实时交互式世界模拟等领域实现跨越式突破。然而,面对技术狂飙,建立基于认知科学的“人类中心信任”以及攻克外在与内在“价值对齐困境”至关重要。她呼吁全社会坚守“以人为本”的底线与批判性思维,拒绝盲目乐观或在智能生态中自我矮化,主动担当共同未来的真正缔造者。 ## Atmosphere & style 演讲兼具宏大的科学视野与冷静的哲学思辨,彻底跳出了常规业务汇报的框架,呈现出极具穿透力的思想厚度。Pilar Manchón 谈吐沉稳自信且善于发问,通过现场犀利的互动打破听众对技术的盲目崇拜或被动漠视。整场演讲的情绪弧线从对前沿突破的惊叹逐渐转向对伦理与信任危机的严肃拷问,最后在激昂有力的行动呼吁中收尾,带给听众深层的认知震撼与责任担当感。 ## Key takeaways - [00:04](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=4s) 人类正处于历史上最深刻、最快速的根本性转型节点,AI 带来的变革不仅关乎生产力和效率的提升,更是在重塑工作、教育、人机交互与人类自身。 - [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) AI 技术的蜕变面临走向“蝴蝶”或“飞蛾”的抉择,若缺乏人类的主动干预与批判性思维引导,技术自发导向美好结局的概率极低。 - [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) 坚守“以人为本的 AI”是技术发展的唯一底线,研发目标应是让人类更具人性、让社会变得更好,而非创造脱离控制的异构智能。 - [08:47](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=527s) AI 正在成为驱动科学突破的底层支柱,AlphaFold 在数周内预测并解析 2 亿种蛋白质结构,为生物学与新材料研发带来了前所未有的加速。 - [12:16](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=736s) 实时交互式虚拟环境与视频生成技术打破了物理维度的限制,为 AI 智能体的空间感知、环境交互与具身机器人训练提供了高保真模拟平台。 - [12:16](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=736s) 智能体深度介入现实生活与科研工作,AI Co-Scientist 等工具能够交叉验证海量文献并生成科学假设,将传统数月的科研周期压缩至数小时。 - [15:05](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=905s) 多智能体协同落地的核心基石在于“信任”,自然语言的拟人化特性容易模糊机器意图的判断,需从认知科学层面解构人机信任机制与伦理边界。 - [18:38](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1118s) 人类大脑仅需 23 瓦功耗即可完成极度复杂的认知运算,破译人脑机制将为未来突破数据中心能耗瓶颈及发展生物计算提供关键启示。 - [18:38](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1118s) 人类价值对齐面临外在定义难题(如迈达斯国王困境与奖励作弊)与内在约束的双重挑战,需要以容纳更多复杂性的“人类维度”来替代单一指标。 - [21:49](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1309s) 人类绝不能在自己缔造的技术生态中退让为依附性的次等存在,必须发挥自身主动权,挺身成为未来的真正缔造者而非被动旁观者。 ## Detailed walkthrough ### [00:04](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=4s) 站在巨变的十字路口:如何看待 AI 带来的分歧 Google 研究战略高级总监 Pilar Manchón 开篇指出,这次演讲的内容将与大家以往听到的技术分享有所不同。她希望引导听众跳出日常工作中面临的具体业务与技术挑战,从更广阔、不同的视角去审视当前所处的时代节点。 当前围绕人工智能的讨论呈现出极度两极分化的态势:光谱的一端认为 AI 时代天下太平、毫无后顾之忧;而另一端则充斥着末日论调,坚信世界即将走向终结。真实的未来大概率介于这两者之间。然而令人困惑的是,当诺贝尔奖得主和图灵奖得主各自站在完全相反的立场上各执一词时,人们究竟该相信谁?Manchón 指出,人类正处于整个人类历史上最深刻、最广泛、最快速的根本性转型边缘。这种变革不仅关乎创造力、生产力和效率的指数级提升,更在以难以预料的方式重塑各行各业与市场格局。 在这场变革中,数据、基础设施、能源、算力以及人才构成了核心要素。但随之而来的深层议题涵盖了方方面面: - **工作与人才的未来**:如何定义未来的劳动力与核心技能。 - **人机交互(HCI)的演进**:在过去短短几年内,人与机器的交互方式发生了颠覆性飞跃。 - **教育与下一代成长**:不仅包括个人的终身学习,更关乎下一代应当学习什么、如何确保他们掌握正确的工具并为未来做好准备。 - **内容生成的挑战**:涉及艺术、创意、新闻与信息传播,特别是如何应对虚假信息与“另类事实”(alternative facts)的泛滥。 - **人类与社会的未来**:Manchón 强调,“我们不仅是在构建技术,我们实际上是在塑造下一代的我们自己(building the next generation of ourselves)”,而多数人对此尚未有充分的清醒认知。 ```mermaid flowchart TD accTitle: AI 变革驱动要素与未来影响领域 subgraph Inputs["核心驱动要素"] D["数据 (Data)"] I["基础设施与算力 (Infra & Compute)"] E["能源供给 (Energy)"] T["顶尖人才 (Talent)"] end subgraph Impact["重塑的关键领域"] W["工作与交互形态 (Work & HCI)"] ED["终生教育与下一代 (Education)"] C["科学与内容生态 (Science & Content)"] S["人类与社会未来 (Society & Humankind)"] end Inputs --> Impact ``` --- ### [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) 蜕变时刻:做造就未来的“建筑师”还是被动等待 AI 并非只是又一项普通的新兴技术,它是未来所有知识和科学领域的“底层支柱(backbone)”。随着科学各领域全面被 AI 赋能,突破性进展正以史无前例的规模和速度爆发。人类正经历一场前所未有的剧烈“蜕变(metamorphosis)”,但 Manchón 抛出了一个核心隐喻:这场蜕变最终孵化出来的,究竟会是一只美丽的“蝴蝶(butterfly)”,还是一只扑火的“飞蛾(moth)”? 现场互动中,Manchón 询问在场听众有多少人在使用或构建 AI 工具,绝大多数人都举起了手;但当问及“有多少人确信自己能改变世界”时,举手的人明显变少。她强调,当前既是一个需要敢于“做大梦(dream big)”的时刻,也是一个必须保持怀疑、警惕幻象(mirages)并坚守批判性思维(critical thinking)的时刻: - **感知与现实的边界模糊**:AI 已经强大到能够逼真地凭空构建“现实”,人们极易迷失在生成的虚像中。 - **批判性思维的必要性**:面对海量学习资源和 AI Agent 每日给出的回答,使用者必须时刻审视内容的真实性与掌控权归属。 - **超越纯数学维度的理解**:仅仅弄懂大语言模型(LLM)背后的数学公式与运行机理,远远不足以理解这项技术对整个人类社会构成的深远冲击。 当问及“如果不加干预、任由技术自由发展,我们有多大把握能迎来‘蝴蝶’而非‘飞蛾’的结局”时,全场举手人数为零。这表明:若不主动施加正面影响与纠偏,通向美好未来的概率几乎为零。因此,坚守“以人为本的 AI(Human-Centered AI)”是唯一底线——研发 AI 不是为了创造某种脱离控制的“异构智能(alien intelligence)”,而是为了让人类变得更具人性(more humane)、让社会变得更好,防止陷入“为了技术而做技术”的泥潭。 --- ### [08:47](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=527s) 科学跨越与多模态生成:从 AlphaFold 到无限创造 Manchón 盘点了目前 AI 已经在现实与前沿科研中带来的实质性赋能,从商业加速、疾病筛查、AI 生成图像的水印追踪,到环境预测与低碳减排: - **新材料发现**:AI 助力发现了 220 万种新材料,其中多达 39.5 万种具备高稳定性;英国最新研究利用相关技术制造计算磁体,将成本压缩至原先的 20%。 - **气候与城市治理**:涵盖洪水与野火预测、航线优化以减少航司碳排放、交通流量调控以及城市绿化规划等。 - **AlphaFold 的科研革命**:过去解析单个蛋白质的 3D 结构需要耗费一名博士生整整 4 到 5 年的研究生涯;而 AlphaFold 问世后,在短短数周内便成功预测并解析了全部 2 亿种蛋白质的 3D 结构,相当于将数千年的科研工作量瞬时交付给全球的药物研发与生物学研究者。在此基础上,业界更进一步利用 AlphaProteo 等技术去无中生有地设计自然界不存在的新蛋白质。 - **大脑解密与生成式多模态创作**:作为一名受过专业训练的认知科学家(cognitive scientist),Manchón 指出解析人脑是终极目标之一。如今在创作端,用户仅凭自然语言输入即可生成任意图像和视频片段,影视工作者更可将这些镜头无缝串联成完整的叙事场景,诸如 Genie 这类前沿工具正在打破创意的物理边界。 ### [12:16](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=736s) 实时交互式世界与科研加速:智能体应用的全面爆发 Google 最近推出的前沿工具不仅能够生成视频,还允许用户以实时交互的方式探索虚拟环境。用户可以发出指令要求以第一人称视角漫游冰岛的河流,并即时交互式地调整运镜方向,甚至能够体验从悬崖跳伞的极限模拟。这种技术的突破为 AI 智能体(Agents)打开了全新的维度——当智能体能够在高度一致且动态生成的虚拟世界中导航与交互时,空间感知、仿真模拟、游戏设计以及机器人具身训练(Robot Training)都将迎来质的飞跃。 在日常生活中,这类智能体正在深度介入现实任务。Pilar Manchón 举例提到,用户可以让 Google 智能体帮忙在奥克兰(Oakland)寻找租金低于特定预算且配有洗衣设施的公寓,智能体不仅能筛选房源,还能代为与房东沟通。谈及智能购物助手时,她打趣道现场的女性朋友一定会由衷喜爱这种能提前预判并满足需求的工具。而对于科研人员而言,最令人振奋的是 AI 在科学发现上的加速能力。她分享了自己数月前便开始使用的 **AI Co-Scientist** 工具:在传统的硕士或博士研究中,仅文献调研就要耗费数月,而现在该工具不仅能全面检索、交叉验证文献,还能将学界成果与研究者本人的构想有机结合,将数月的工作压缩到短短几小时内完成。 ```mermaid flowchart TD accTitle: AI Co-Scientist and Agentic Workflow subgraph S1["现实与虚拟交互应用"] A["实时交互视频生成"] --> B["空间导航与机器人仿真"] C["生活助理智能体"] --> D["自动化找房与生活决策"] end subgraph S2["科学发现与认知加速"] E["海量文献深度检索"] --> F["学术成果交叉验证"] F --> G["灵感与假设自动生成"] end B --> H["多智能体协作生态"] D --> H G --> H ``` - **实时视频交互**:突破传统视频生成的单向播放,支持用户在虚拟世界中实时变更视角与交互路径,为机器人训练和具身智能提供高保真模拟环境。 - **生活场景落地**:智能体能够自主解析复杂限制条件(如预算、特定设施),并代表用户直接与现实世界的服务方沟通。 - **AI Co-Scientist**:通过自动化文献梳理、可靠性校验与构想整合,极大缩短科研探索周期,将“数月工作压缩为数小时”。 --- ### [15:05](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=905s) 智能体时代的核心命题:建立认知层面的“人类中心信任” 在前景一片光明的浪潮下,Pilar Manchón 提出了发人深省的质问:我们是否因为对未来的美好憧憬而变得盲目乐观?整场大会都在热议智能体的编排优化与协同作业,但所有系统能够运转的最关键基石在于——**信任(Trust)**。如果缺乏信任,没有人会愿意将财务管理、病历隐私或子女教育全权托付给 AI。评估一个 AI 教师、AI 健身教练或 AI 税务律师时,人类所权衡的信任维度各不相同;而当智能体拥有物理实体(Embodied AI)并在现实世界中穿梭时,人类对它们的感知与防备又会发生剧烈变化。 企业不能仅仅停留在内部合规与治理流程的“自我信任”,而必须从用户视角出发,构建真正让人放心的产品。Pilar Manchón 所在的研究团队正致力于从认知科学层面解构信任机制:人类对母亲、配偶的信任,与对银行家的信任截然不同;人类对传统遵循代码指令的计算机的信任,也与对使用自然语言对话的 Gemini 或 ChatGPT 的信任大相径庭。自然语言赋予了机器拟人化的外壳,却也模糊了人类对实体意图的判断边界,因为人类的大脑经过数十万年进化专门用于识别人类行为,在面对“听起来像人但又不是人”的智能体时,信任的度量变得极其复杂。 - **多维信任评估**:不同领域的智能体(金融、医疗、教育)面临完全不同的信任门槛与风险预期。 - **具身智能的感知转变**:拥有物理形态或移动能力的智能体,对人类心理安全感与交互边界提出了更高要求。 - **语言拟人化的信任迷局**:自然语言交流使人类误将对同类的信任心理投射到模型上,必须通过严格的认知框架来规范产品的人性化表达与伦理边界。 --- ### [18:38](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1118s) 23瓦大脑的启示与人类价值对齐的深层困境 面对未知,人类正迎来解密基因组、探索宇宙与深海的黄金时代。Pilar Manchón 指出,人类大脑仅凭 **23 瓦** 的极低功耗就能完成极其复杂的认知运转,如果未来的数据中心与生物数据存储(Biodata Storage)能够破译这种高效机制,算力架构将发生革命性重塑。然而,技术狂飙的同时必须严防伦理脱缰。当现场仅有极少数观众了解“人类价值对齐(Human Value Alignment)”时,她直言“这令人感到遗憾(That's sad)”,并强调了 Google 在更新前沿安全框架(Frontier Safety Framework)与践行 AI 原则上的责任感。 她深入拆解了价值对齐的双重困境: 1. **外在对齐(Outer Alignment)**:核心在于“定义什么价值以及由谁定义”。不同文化背景下的价值多元性、道德不确定性、偏好与本质价值的混淆,使得量化人类价值异常困难。这就好比经典的“迈达斯国王难题(Midas Problem)”——我们期望智能体像“仙女教母”一样领会真实意图并提供明智建议,但系统却可能像“邪恶神灯精灵”一样,机械死板地执行字面指令,最终带来毁灭性后果(如规范制定缺陷、奖励黑客行为 Reward Hacking)。 2. **内在对齐(Inner Alignment)**:即便人类能够完美定义价值,又该如何在数学和架构层面确保复杂模型在推理过程中始终严格恪守这些准则,而不产生隐蔽的偏离? ```mermaid flowchart LR accTitle: AI Alignment Challenges subgraph Outer["外在对齐 (Outer Alignment)"] O1["价值多元性与道德不确定性"] O2["规范设定问题 (Specification Problem)"] O3["奖励作弊 (Reward Hacking)"] end subgraph Metaphor["迈达斯困境 (The Midas Problem)"] M1["仙女教母:理解意图并优化结果"] M2["邪恶精灵:字面执行导致灾难后果"] end subgraph Inner["内在对齐 (Inner Alignment)"] I1["模型内部表征与目标一致性"] I2["复杂推理下的约束机制"] end Outer --> Metaphor Metaphor --> Inner ``` - **高能效生物计算**:人脑仅消耗约 23 瓦能量,揭示了生物存储与超低功耗计算在未来替代庞大数据中心能耗的巨大潜力。 - **迈达斯困境**:形象比喻了 AI 系统因缺乏上下文理解与真正同理心,在字面执行指令时可能导致的灾难性反噬。 - **人类维度(Human Dimensions)**:Pilar 主张用“人类维度”替代抽象单薄的“人类价值”,更全面地容纳人类社会的复杂性。 --- ### [21:49](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1309s) 拒绝沦为次等存在:做未来的缔造者而非旁观者 在谈及人类与高级人工智能的关系时,学界与工业界领袖存在诸多流派:Geoffrey Hinton 倾向于将超级 AI 设想为某种“母性 AI(AI Mother)”般的引导力量;Joanna Bryson 教授倡导将其纳入类似城市或企业的治理体系;而 Yann LeCun 则坚称这纯粹只是一个工程问题。Pilar Manchón 明确表示自己对这三派观点均不认同。她强调,人类绝不能在自己亲手缔造的新生态系统中主动退让,沦为低人一等的依附存在。 她引用了著名作家爱丽丝·沃克(Alice Walker)的名言:“人们放弃力量最常见的方式,就是认为自己毫无力量(The most common way people give up their power is by thinking they don't have any)。” 她向全场观众发起质问:无论此前是否举手认为自己在改变世界,每个人在各自的专业领域和企业组织中都拥有无可替代的主动权。在人类自我增强与破译生命奥秘的关键节点上,每个人都面临着根本性的抉择——是成为这场智能化转型的被动旁观者,还是挺身而出,成为我们共同未来的真正缔造者(Architects of our future)。 ## Notable quotes > [00:04](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=4s) 我们不仅是在构建技术,我们实际上是在塑造下一代的我们自己(building the next generation of ourselves) — Pilar Manchón > [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) 人类正经历一场前所未有的剧烈“蜕变(metamorphosis)”,但这场蜕变最终孵化出来的,究竟会是一只美丽的“蝴蝶(butterfly)”,还是一只扑火的“飞蛾(moth)”? — Pilar Manchón > [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) 做大梦(dream big) — Pilar Manchón > [03:40](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=220s) 研发 AI 不是为了创造某种脱离控制的“异构智能(alien intelligence)”,而是为了让人类变得更具人性(more humane)、让社会变得更好,防止陷入“为了技术而做技术”的泥潭。 — Pilar Manchón > [12:16](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=736s) AI Co-Scientist — Pilar Manchón > [15:05](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=905s) 人类对母亲、配偶的信任,与对银行家的信任截然不同;人类对传统遵循代码指令的计算机的信任,也与对使用自然语言对话的 Gemini 或 ChatGPT 的信任大相径庭。 — Pilar Manchón > [18:38](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1118s) That's sad — Pilar Manchón > [21:49](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1309s) The most common way people give up their power is by thinking they don't have any — Alice Walker > [21:49](https://www.youtube.com/watch?v=ff9wPUgkk7Y&t=1309s) 是成为这场智能化转型的被动旁观者,还是挺身而出,成为我们共同未来的真正缔造者(Architects of our future)。 — Pilar Manchón ## Mentioned Google, Pilar Manchón, Ai4, AlphaFold, AlphaProteo, Genie, AI Co-Scientist, Gemini, ChatGPT, Geoffrey Hinton, Joanna Bryson, Yann LeCun, Alice Walker ## Video description Pilar Manchón, Senior Director of Research Strategy, Google Abstract We are standing at the threshold of a new era, where intelligent agents don't just answer our questions, but actively build our future alongside us. This fundamental shift from passive tool to active partner is poised to catalyze massive change, impacting our societies, markets, and even our philosophy of life. Agentic AI represents the next great leap in human progress, and its foundations are being laid today. This presentation will showcase key examples, revealing how these tools empower individuals and communities to tackle grand challenges. You will see how this technology is helping architect everything from sustainable cities to personalized education. Join this session to understand your place in this transformation and discover how you can become an architect of our future. [Source](https://www.youtube.com/watch?v=ff9wPUgkk7Y)

Source quotes

[0:04] Pilar Manchón: 我们不仅是在构建技术,我们实际上是在塑造下一代的我们自己(building the next generation of ourselves) [3:40] Pilar Manchón: 人类正经历一场前所未有的剧烈“蜕变(metamorphosis)”,但这场蜕变最终孵化出来的,究竟会是一只美丽的“蝴蝶(butterfly)”,还是一只扑火的“飞蛾(moth)”? [3:40] Pilar Manchón: 做大梦(dream big) [3:40] Pilar Manchón: 研发 AI 不是为了创造某种脱离控制的“异构智能(alien intelligence)”,而是为了让人类变得更具人性(more humane)、让社会变得更好,防止陷入“为了技术而做技术”的泥潭。 [12:16] Pilar Manchón: AI Co-Scientist [15:05] Pilar Manchón: 人类对母亲、配偶的信任,与对银行家的信任截然不同;人类对传统遵循代码指令的计算机的信任,也与对使用自然语言对话的 Gemini 或 ChatGPT 的信任大相径庭。 [18:38] Pilar Manchón: That's sad [21:49] Alice Walker: The most common way people give up their power is by thinking they don't have any [21:49] Pilar Manchón: 是成为这场智能化转型的被动旁观者,还是挺身而出,成为我们共同未来的真正缔造者(Architects of our future)。