E257｜对话Vitalik：AI安全背后的哲学思想，有效利他主义如何影响硅谷？

E257｜对话Vitalik：AI安全背后的哲学思想，有效利他主义如何影响硅谷？ — 硅谷101

硅谷101

AI-assisted summary of E257｜对话Vitalik：AI安全背后的哲学思想，有效利他主义如何影响硅谷？ — original source. Check the original for full context.

Source published:

Key ideas

  • Anthropic 招股书披露 100 页前沿 AI 生存风险并设立“长期利益信托”，7 位联创掌控 50.1% 核心投票权且指定接替人名单保密，引发了公众对有效利他主义（EA）掌控未来治理权的广泛争议与地缘政治反弹。 (0:00)
  • Vitalik Buterin 在 2021 年捐赠的柴犬币（SHIB）最终为未来生命研究所（FLI）与印度抗疫救助基金（CryptoRelief）兑现了 4.7 亿至 6 亿美元，但 FLI 随后转向激进的政治游说与排他性 AI 监管，促使 Vitalik 重新反思其资金走向与慈善逻辑。 (65:10)
  • 针对 AI 军备竞赛与极权式集中监管的困境，Vitalik 提出了“d/acc”（防御性、去中心化加速）框架，主张通过开源、密码学网络安全与分布式公共卫生硬件来建立制衡体系，而不是寄望于单一公司垄断的道德防线。 (96:06)
  • Vitalik 指出 AI 安全本质上是一个类似宪政的“政治制度设计问题”而非纯工程问题，应借鉴分权制衡（checks and balances）机制，让多个不完美的模型相互监督并在关键冲突时向人类确认。 (108:04)

Detailed notes

## Background 本期节目由科技播客《硅谷101》（主理人泓君与主持人Yiwen主持）于2026年10月28日发布于小宇宙平台。节目邀请了以太坊联合创始人Vitalik Buterin和科技记者Afra，深入剖析有效利他主义（EA）与理性主义的哲学思想源流，探讨其如何渗透硅谷前沿AI实验室与治理权力中枢，并由Vitalik亲述其数亿美元加密货币捐赠背后的意外波折与思想反思。

## TL;DR 节目全面梳理了有效利他主义从早期量化计算“捐蚊帐救人”演变为聚焦AI灭绝风险与政策游说的四次转向，剖析了理性主义认知工具与EA道德戒律的异同，以及Anthropic等头部实验室深厚的EA基因与资金网络争议。针对“赚取以捐赠”与SBF爆雷引发的道德套利陷阱，对话揭示了当慈善从“人对抗自然”转向复杂的“人对抗人”博弈时所遭遇的制度异化与公关泥潭。Vitalik复盘了自己早年资助防疟疾和长寿研究、紧急提取并捐赠数亿美元柴犬币（SHIB）的戏剧性经过，坦承受赠机构未来生命研究所（FLI）全面转向激进AI政治游说令其始料未及。最后，Vitalik尖锐解构了Anthropic等机构“好公司必须赢”的霸权逻辑，提出以开源和基层防护为核心的d/acc框架，并主张将AI安全视为一个依靠多元分权、相互制衡与经验摸索的“政治制度设计问题”，而非追求终极确定性的纯工程数学证明。

## Atmosphere & style 整期节目兼具高密度的智性思辨与抽丝剥茧的深度调查质感，既有对哲学僵尸、贝叶斯更新与跨国还原私钥等硬核细节的极客拆解，也有对硅谷科技寡头以崇高道德之名争夺话语权的冷峻审视。前半段记者Afra以前线亲历者的视角生动勾勒出伯克利Lighthaven篝火聚会与华盛顿智库游说的现实图景，后半段Vitalik则操着流利且带有质朴顿挫的中文，展现出反思自省、散漫自由如猫的理性主义极客本色。在直面技术认知黑箱与地缘竞争不确定性的沉重现实中，对话始终保持着诚恳的经验主义态度与开放的思辨张力，给听众带来深邃而警醒的听觉体验。

## Bulletin - `00:00` Anthropic 招股书披露 100 页前沿 AI 生存风险并设立“长期利益信托”，7 位联创掌控 50.1% 核心投票权且指定接替人名单保密，引发了公众对有效利他主义（EA）掌控未来治理权的广泛争议与地缘政治反弹。 - `01:05:10` Vitalik Buterin 在 2021 年捐赠的柴犬币（SHIB）最终为未来生命研究所（FLI）与印度抗疫救助基金（CryptoRelief）兑现了 4.7 亿至 6 亿美元，但 FLI 随后转向激进的政治游说与排他性 AI 监管，促使 Vitalik 重新反思其资金走向与慈善逻辑。 - `01:36:06` 针对 AI 军备竞赛与极权式集中监管的困境，Vitalik 提出了“d/acc”（防御性、去中心化加速）框架，主张通过开源、密码学网络安全与分布式公共卫生硬件来建立制衡体系，而不是寄望于单一公司垄断的道德防线。 - `01:48:04` Vitalik 指出 AI 安全本质上是一个类似宪政的“政治制度设计问题”而非纯工程问题，应借鉴分权制衡（checks and balances）机制，让多个不完美的模型相互监督并在关键冲突时向人类确认。

## Key takeaways - `00:00` Anthropic 的治理架构与高频“Safety”披露暴露了 EA 精英圈层对前沿 AI 权力的深度掌控，不仅受到外部舆论质疑，还招致五角大楼与政界的正面抵制。 - `02:25` 有效利他主义（EA）与理性主义（Rationalism）虽同源于对 AI 存在风险的关注，但前者演变为以道德行动、职业规划和巨额资金为导向的强身份社群，后者则更偏向佛系的底层认知与纠偏工具。 - `07:54` EA 历经防蚊帐全球健康、长期主义、FTX 信任危机到当前的 AI 安全四大转向，议题核心已从单纯挽救生命演进为对大模型监管体系与人才生态的深度垄断。 - `18:02` 独立评估机构 METR 接受 Anthropic 核心投资人创办的基金会资助，暴露出 AI 安全生态中评估方与受评对象高度同构的利益绑定与“安全觉醒”垄断争议。 - `28:09` EA 早期提倡的“赚取以捐赠”（Earning to give）理念为华尔街量化交易提供了完美的道德豁免借口，但用青年纯真誓言约束未来膨胀自我的假设在现实中极易破产（如 SBF 案）。 - `35:18` AI 安全研究一线面临黑盒机理不可解的“认识论危机”，研究人员对模型失控与递归自我进化的担忧已远超预期，呼唤行业放缓狂飙节奏以建立可解释共识。 - `44:19` Eliezer Yudkowsky 奠定的“价值脆弱性”与“正交性假说”揭示了超人类智能的终极目标与人类道德概念完全独立，这是 AI 对齐问题最底层的恐惧根源。 - `53:35` Vitalik 估算人类遭遇 AI 毁灭性风险的概率 P(doom) 约为 10%，但强调技术落地周期、对齐难度本质与地缘政治锦标赛的三重连乘让精确数字预测失去意义。 - `01:15:00` 从人对抗自然（如捐蚊帐治疟疾）跨越到人对抗人（政治游说与垄断博弈），导致传统的慈善成本效益分析失灵，公开巨额注资政策反而加剧了公众对精英操控的逆反心理。 - `01:27:38` “好公司必须赢”的叙事存在巨大悖论：Anthropic 出于崇高使命全力竞速发布 Claude 3.5 模型，客观上倒逼 OpenAI 砍掉副业加速赛跑，实际上剧烈催化了全球 AI 军备竞赛。 - `01:30:29` 科技巨头以“安全管控”为名打压开源权重，与自身商业利益呈现出高于 90% 的强相关性，暴露出以善意之名行集权垄断之实的思想霸权倾向。 - `01:36:06` OpenAI 呈现出“牺牲开放换取安全，再牺牲安全换取商业加速”的异化轨迹，印证了前沿商业实体在激烈竞争下难以坚守非营利安全初衷的宿命。 - `01:37:57` d/acc 框架倡导“防御优先、去中心化赋能”，强调投资建设现实层面的分布式抗脆弱基础设施（如普及型病毒雷达、自动化过滤器），而非单点依赖对全网算力的大模型极权审查。 - `01:45:00` AI 思维链若从人类可读的自然语言转向黑箱化的“Neuralese”（神经语言），人类窥探和审计模型思维的能力将急剧退化，进一步加深普通大众与科技精英的认知断层。 - `01:48:04` AI 安全的解决路径应借鉴宪政制衡设计，放弃寻找单一完美的终极数学证明，转而在真实世界中通过多个异构模型的互相制约、必要隔离及回退机制构建动态经验防线。

## Detailed walkthrough ### `00:00` Anthropic 招股书中的“AI 安全”与 EA 权柄之谜

本周 Anthropic 递交招股书，掀起了科技界关于前沿 AI 风险与控制权的轩然大波。在将近 100 页的风险披露中，除了常见的金融与市场风险，充斥着针对前沿 AI 可能带来灾难性甚至威胁人类生存风险的严肃警告。文件内部坦承，公司自身甚至都无法确保目前的安全措施一定有效。“Safety（安全）”一词在文件中出现了 248 次，而“AI 安全”也足足出现了 36 次。

在公司治理架构上，招股书披露上市之后，7 位联合创始人将通过特殊股份掌握一般表决事项 50.1% 的投票权；与此并行的是一个名为“长期利益信托”（Long-Term Benefit Trust）的实体，拥有选举董事会多数成员的特权，旨在让商业利益的追求受制于人类的长远利益。然而，更引发舆论警惕的是一个隐秘细节：联合创始人们可以在自己丧失履职能力之前，提前秘密指定接替其投票权的人选。这些人选虽需内部批准，但名单完全保密。公众无从得知，倘若某一天生存危机真正降临，究竟是谁在代表全人类行使决定权。

这种对安全的极度关切，以及随之而来的权力与信任争议，将聚光灯直接引向了近年来屡受热议的“有效利他主义”（Effective Altruism，简称 EA）。不仅《经济学人》（The Economist）将 EA 刊上封面并称其为本世纪最重要的思想之一，它还触发了与科技右翼的激烈冲突，甚至招致特朗普政府和美国国防部的公开抵制——美国国防部甚至直接在社交媒体上亮出口号：“美国主义而非有效利他主义”（Americanism, not Effective Altruism）。一个原本扎根于学院派的道德哲学，如今俨然成为华盛顿与五角大楼划清界限的靶子。

- 招股书风险披露篇幅近 100 页，详述前沿 AI 的灾难性与生存级风险。 - “Safety”出现 248 次，“AI 安全”出现 36 次。 - 7 位联合创始人掌控 50.1% 核心投票权，且指定代行人的名单对外保密。 - “长期利益信托”被设计用于平衡商业利润与人类长远利益。

`02:25` EA 奠基者与思想分野：William MacAskill 与 Eliezer Yudkowsky

要理清 EA 是如何逐步介入 AI 权力中枢的，必须溯源两位关键人物：哲学家 William MacAskill（威廉·麦卡斯基尔）与 AI 安全研究者 Eliezer Yudkowsky（埃利泽·尤德考斯基）。曾任牛津大学哲学副教授的 MacAskill 是 EA 运动的核心发起人，他最初提出的问题极其质朴：在金钱与时间都有限的前提下，如何才能挽救更多的人？若将同样数额的善款投入不同项目，其产出的生命挽救结果天差地别，因此必须依靠量化数据与理性证据去寻找成本效益最高的项目。

```mermaid flowchart TD accTitle: EA 与理性主义在 AI 安全上的交汇 accDescr: 展示理性主义方法论与有效利他主义道德追求如何汇流并渗透至前沿 AI 实验室。 subgraph Methodologies ["底层思维体系"] R["理性主义 (Rationalism)<br/>认知论、贝叶斯更新、克服认知偏差<br/>代表：Eliezer Yudkowsky / LessWrong"] EA["有效利他主义 (EA)<br/>资源有限下的行善最大化、道德行动指南<br/>代表：William MacAskill / 80,000 Hours"] end subgraph Convergence ["核心交汇点"] AI_Safety["AI 安全与存在风险 (Existential Risk)<br/>Nick Bostrom《超级智能》引发警醒"] end subgraph Impact ["实验室与治理实践"] Labs["前沿 AI 实验室分化与成立<br/>Anthropic (强 EA 基因) vs OpenAI"] Funding["全球资金流向<br/>Good Ventures / SFF / Balvi 等大规模资助"] end R --> AI_Safety EA --> AI_Safety AI_Safety --> Labs AI_Safety --> Funding ```

然而，加密货币交易所 FTX 的创始人 SBF（Sam Bankman-Fried）的崛起与倒台，让这场以“行善”为名的运动蒙上了重重阴影。SBF 曾是 MacAskill 思想的狂热践行者，树立着“拼命赚钱就是为了全部捐出”的高尚人设；随着 FTX 轰然坍塌，批评者尖锐指出：当一个人坚信自己背负着全人类未来的崇高使命时，往往更容易将其在眼前犯下的欺诈与伤害合理化。

但这场思想风暴并未随 SBF 的崩塌而停歇，另一侧的理性主义导师 Eliezer Yudkowsky 构成了这场对话的另一根支柱。Yudkowsky 参与创办了知名理性主义论坛 LessWrong（直译为“少错一点”），该社群长期探索人们为何会陷入认知偏差、如何通过贝叶斯推断修正信念、以及怎样在不确定性下做出优质决策。理性主义是一套认知方法论，而 EA 则是将严格的证据推理付诸特定的道德行动。当 Yudkowsky 早早发问“若机器比人更聪明，如何保证其目标与人类利益一致”，并与部分 EA 信徒认定“防止 AI 灭绝人类比任何眼前慈善都更紧迫”的逻辑碰撞在一起时，两股思潮在前沿 AI 安全领域彻底合流。

- 关键著作影响：牛津哲学家 Nick Bostrom 的《超级智能》（Superintelligence）曾被 Sam Altman 强烈推崇，为科技界对 AGI 风险的集体关注奠定了基调。 - 圈层纽带与人才流动：Dario Amodei 及 Daniela Amodei 兄妹离开 OpenAI 创立 Anthropic 的核心原因之一，正是关于 AI 路线与安全防范的路线分歧；Daniela 的丈夫 Holden Karnofsky 则是 EA 核心机构 GiveWell 和 Open Philanthropy 的联合创始人。 - 以太坊联合创始人 Vitalik Buterin（V 神）长期资助全球健康，并曾在 2021 年向未来生命研究所（FLI）捐出巨额加密代币，最终兑现约 5 亿美元，但其近年已对 EA 圈子的演变产生了深刻反思。

`07:54` 八万小时的人生度量与 EA 的四次演进转向

科技记者 Afra 强调，要真正透视 EA 的内生逻辑，绕不开 MacAskill 早期联合创立的职业咨询机构“80,000 Hours”（八万小时）。这个名字的由头是：一个普通人一生的职业生涯大约只有 80,000 个小时。EA 要求年轻人抛弃盲目的情绪化奉献，将这 80,000 个小时视为一份极度有限且宝贵的资源，通过缜密规划去分配自己的时间和职业跑道，以求对世界产生最大公约数式的改变。

Afra 回顾，过去十余年间，EA 对全球格局产生深远影响的历程大致可以切分为四个鲜明的阶段：

| 发展阶段 | 核心特征与行动重点 | 代表议题与典型产物 | |:--- |:--- |:--- | | **第一阶段：防蚊帐时代（全球健康）** | 追求极为详实、可量化的证据来提升慈善效率，打破传统低效 Philanthropy。 | 捐款购买长效杀虫蚊帐（如 Against Malaria Foundation），精确计算“花多少美元能挽救一条生命”。 | | **第二阶段：长远规划时代（Long-termism）** | 约自 2015 年起，重心以不成比例的倾斜度转向未来世代与存在风险，机构与资金几何级扩张。 | 不再局限于当代疾苦，转而探讨未来几万年人类后代的福祉；SBF 等巨富资金大举涌入，成为其极端具象化符号。 | | **第三阶段：信任危机与 AI 转折点** | FTX 爆雷重创社群声誉，引发对识人机制的反思；与此同时 ChatGPT 爆发，把抽象的灭绝生存讨论推至全网。 | 社群直面道德反思；MacAskill 受到舆论严厉质询；原本边缘极客的 AI 风险骤然变成大众主流命题。 | | **第四阶段：AI 安全时代（当下现实）** | AI 安全跃升为 EA 的第一优先核心支柱，深度融入实验室、大国博弈与安全监管体系。 | 资金与智库人才全面进驻华盛顿与前沿实验室；引来特朗普与美国国防部的正面口诛笔伐与公开划界。 |

对于这套思维模型的驱动力，Afra 评价道：“这些人非常有 agency，他就非常有能动性，他们执行力很强，他们的野心也很大，因为他们经常就会在琢磨一些像是我有八万个小时我应该怎么做这样的事情上。”

`12:58` 认知工具 vs 道德戒律：理性主义与 EA 的微妙异同

探讨 AI 安全时，外界常常将理性主义者（Rationalists）与有效利他主义者（EAs）混为一谈。Afra 指出，二者虽然在 LessWrong 等论坛上高度重叠，底层却承载着全然不同的诉求：理性主义提供了一套认知论与思维训练工具，它关注的是贝叶斯认知科学、克服认知偏差、以及“人在不知道自己不知道什么时，怎样更好地做判断”；相比之下，EA 是一套高度具象的道德生活主张与行动准则。

```mermaid flowchart LR accTitle: 理性主义与有效利他主义的差异对比 accDescr: 对比理性主义与有效利他主义在属性、群体特征、社交结构与行为动机上的区别。 subgraph Rationalism ["理性主义 (Rationalism)"] R_Nature["属性：认知论与思维训练工具"] R_Trait["态度：佛系、极客、关注原思维"] R_Structure["组织：无身份约束，社群规模偏小"] end subgraph EA ["有效利他主义 (Effective Altruism)"] EA_Nature["属性：强道德主张与行动指南"] EA_Trait["态度：高能动性、重 Impact、紧盯回报"] EA_Structure["组织：强身份感、类宗教小圈子、规模庞大"] end ```

自称是 EA，往往伴随着一种强烈的“道德信徒”色彩与身份标识。EA 圈层内部发展出了紧密的社交纽带，涵盖天使投资互助网络、未来潜力公司的原始股与 Alpha 信号传递，对如何通过商业资本“快速赚钱再捐钱”嗅觉极度灵敏。而真正的理性主义者往往极其佛系，既不要求任何组织忠诚，也绝不在日常社交中把“我是理性主义者”挂在嘴边。

Afra 总结两个社群的走向时提到：“你会看到 Rationalists 这个 community、这个社群会变得越来越小越来越微弱，但是 EA 这个社群会变得越来越大而且越来越有影响力，其实就是因为他们想要做的事情是完全不一样的。”

`15:59` 实验室裂变：Anthropic 的纯正 EA 基因与 OpenAI 的分化

在硅谷最耀眼的前沿大模型实验室中，EA 思潮烙下了不可磨灭的印记。透过 EA 的滤镜观察，OpenAI 与 Anthropic 展现出截然相反的气质：Anthropic 堪称一家“极其 EA”的公司，而 OpenAI 在当下的演化中则距离 EA 越来越远。

Anthropic 的诞生本身就是一场由 AI 安全焦虑驱动的“出埃及记”。其 7 位联合创始人早前全部任职于 OpenAI，亲历了这家非营利起家的机构在商业化与模型狂飙中的转向。他们深感 OpenAI 未能以行之有效的方式管控超级智能潜在的灭顶之灾，遂毅然出走，由 Dario Amodei 牵头于 2021 年成立了 Anthropic。公司名称直译便带有“人本”意涵，从起点就立誓要探索完全不同的对齐路径。Dario 长期给 GiveWell 捐资，其发表的深度长文如《Machine of Love and Grace》处处流淌着典型的 EA 愿景；另一位核心联创、机械可解释性领域的权威研究者 Chris Olah，同样深受 EA 思维的深度浸润。

- Anthropic 具有极强的使命驱动：7 名创始人因不满 OpenAI 对安全管制的边缘化而集体独立。 - Dario Amodei 的思想轨迹：既是 GiveWell 的早期支持者，也是透过技术重构人类福祉的典型代表。

`18:02` METR、资金网络与利益绑定的阴谋论风波

2026 年 9 月，曾在 OpenAI 与 Anthropic 供职的研究员 Jacob Coxon 愤然辞职，公开发文警告前沿 AI 公司之间白热化的模型军备竞赛正在引发灾难性安全风险。此举在 X（前 Twitter）上引发了剧烈海啸，独立评论者 Kevin Bass 迅速顺藤摸瓜，公开梳理起一系列看似独立的评估机构背后的资金链条。

质疑的核心指向了一家专为 Anthropic 等实验室开展前沿模型安全测评的非营利评估机构——METR（Model Evaluation & Threat Research）。Bass 披露，METR 等多家安全机构的关键出资人，正是由 Facebook 联合创始人 Dustin Moskovitz 创办的机构 Coefficient Giving（前身为 Open Philanthropy）。然而，Moskovitz 个人又是 Anthropic 的早期核心投资人，坐拥体量惊人的商业股票。批评者由此质疑：由一家手握受测公司巨额商业利益的资助方所供养的第三方安全评估机构，怎能提供真正无偏的独立审核？这种利益绑定是否意味着“安全评估”沦为了商业合规的遮羞布？

面对这一波针对 EA 资助网络的讨伐，Afra 表达了审慎的反对态度，认为许多指控演变成了缺乏根据的阴谋论。前《纽约时报》知名科技专栏作者 Kevin Roose 在撰写探讨通用人工智能的新书《The AGI Chronicles》时，也曾因接受带有 EA 基金背景的支持而饱受公众拷问。

在谈到媒体频频质疑的“隐藏议程”（Hidden Agenda）时，Afra 直言不讳地指出：“EA 这群人的议程是什么呢？就是他不想让 AI 变得不可控，同时造成让人类无法承受的后果，这就是他们的议程，其实没有什么隐藏的议程。”

但硬币的另一面是，这套巨型资金流客观上制造了前所未有的“议题定义权”垄断。如今，华盛顿的传统老牌智库甚至面临招不到顶尖 AI 政策分析员的尴尬窘境——因为刚从斯坦福等名校毕业的二十岁出头的优秀博士生，早已被 EA 资助的智库、奖学金项目（Fellowship）和研究岗位所吸引。那里不仅开出丰厚的年薪，还提供无拘无束的研究自由。这使得年轻的顶尖学者几乎必然会被密集的安全叙事所“浸泡”，从而彻底被“安全觉醒”（Safety-pilled）。

`22:28` 伯克利与 Lighthaven：在篝火晚会与研讨会中塑造未来

不同于旧金山浓厚的商业创投氛围，隔湾相望的伯克利（Berkeley）早已成为 AI 安全、理性主义与 EA 思想的大本营。在旧金山，EA 甚至形成了一种独特的社交门槛，许多前沿研讨会与闭门活动若非“圈内同道”往往不得其门而入；但在伯克利，整个生态更偏向于学院派的自我构建，仅第三方安全评估与审计机构就聚集了数十家之多。

其中最为著名的物理实体当属由 Lightcone Infrastructure 运营的 **Lighthaven** 园区。这里拥有六到七栋独立的别墅与建筑，配备有研讨会厅、户外社交场地以及夜间燃起的篝火，供研究者们一边烤着棉花糖，一边就深奥的对齐课题彻夜长谈。

Afra 回忆了自己近期参与的两个高密度思想聚会： 1. **The Curve**：聚焦前沿 AI 模型能力的指数级（爆炸式）曲线推进，探讨前沿风险、技术边界与宏观治理。去年的 The Curve 现场汇聚了大批美国国会议员、加州政府政策制定者以及硅谷核心极客，构成了华盛顿政界与硅谷科技圈之间最紧密的交集纽带（Venn diagram），对具体的监管法案与国家安全策略形成了可观的政策游说与推动力。 2. **Progress Conference**：由 Ezra Klein 所著《Abundance》（富足）等思想延展而来，更多主张如何利用现有技术去催生一个物质极大丰富、富足且充满未来感的文明体系，涵盖前沿科学应用乃至下一代教育哲学。

相比于在政商领域频频落子的 EA 势力，纯粹的伯克利理性主义者则散发着截然不同的超然气质。Afra 坦言，这群人从来没有硅谷时下流行的所谓“4D 国际象棋”思维——即非要为了实现遥远的宏大目标 Z，而步步为营去精确倒推当下的行动 A、B、C。他们依然如十年前一般，窝在书房里撰写硬核博客，写科幻小说，埋头推导着旁人难以看懂的数学模型和 AI 理论。

`28:09` 赚取以捐赠：华尔街的道德套利与背叛陷阱

在 EA 运动初露峥嵘之际，恰逢 2011 年席卷全美的“占领华尔街”（Occupy Wall Street）抗议大潮。彼时公众舆论对金融资本口诛笔伐，华尔街交易员被视作饮鸩止渴、榨取社会中产与底层血汗的道德罪人，常青藤名校的精英毕业生对于投身金融行业充满耻感。

正是在此时，年轻的牛津哲学讲师 William MacAskill 在牛津大学发表了一场石破天惊的演讲，直击职业伦理的核心命题：“医生、非政府组织工作者还是其他什么？究竟哪种职业能给社会带来最大福祉？”他给台下一心想要拯救世界的年轻学子们算了一笔冰冷却极其严密的数学账： - 倘若你作为一名顶尖学府毕业生，选择奔赴非洲极度贫困地区行医，倾尽一生 80,000 个小时的精力，可能最终能够挽救 140 人的生命； - 但倘若你选择投身被千夫所指的“邪恶”华尔街或顶级咨询机构，去从事高频量化交易，每年将赚得的几百万美元捐赠给非洲用于采购蚊帐，你的一生能够挽救的生命数量将是前者的 10 倍以上（即“Earning to give”赚取以捐赠理念）。

这一套逻辑为包括 SBF 在内的众多 Jane Street 量化交易员们解开了精神桎梏，提供了一套完美的“道德套利”工具，成功弥合了他们在资本市场从事零和博弈时的道德焦虑。

但这一哲学预设从底层就埋下了巨大的道德陷阱。MacAskill 自身早年在 22 岁结识澳大利亚哲学家 Toby Ord 时，两人一拍即合，双双立下将未来一生绝大部分收入捐赠出去的誓言。他们试图在青年时代就拟定一份契约，牢牢锁死“未来那个更加富有的自己”。

对此，Vitalik 等思想家提出了尖锐的怀疑与批判：这种试图用今天的自我绑定明日自我的预设极其幼稚。“你未来的自己永远会背叛你现在的自己。”随着时光流转十年二十年，你的财富规模、身处的利益集团、交往的圈层关系乃至人性的弱点都会发生根本性的剧变；当青年时代试图行善的理想主义者，为了汇聚财富而一步步踏入权柄与金融的泥潭时，那个被异化的、膨胀了的富豪自我，绝无可能始终坚守昔日纯真的誓言。SBF 最终酿成的惊天金融灾难，正是这套自我欺骗逻辑最惨烈的注脚。

`30:00` EA给华尔街提供的道德借口与2015年的巅峰时刻

Afra 指出，有效利他主义（EA）提倡的“赚取奉献”（Earn to Give）逻辑，很容易被金融行业扭曲为道德免罪符。很多从事高杠杆量化交易的人会产生自我怀疑：“疯狂地不断做量化交易然后去赚钱……我真的做得真好吗？”但 EA 的逻辑告诉他们：只要把赚来的钱捐出去，做的事情就瞬间变成了好事。这种逻辑“会给很多在华尔街做一些最大化利益的一些人提供了一个借口……是一个非常会被人利用或者是被很多人去剥削的一个事情”。

节点之后，EA 迎来了它的高光时刻。2015 年，年仅 28 岁的 William MacAskill 受聘成为牛津大学最年轻的哲学副教授；同年夏天，他联合创办的“八万小时”（80,000 Hours）项目入选 Y Combinator（YC）；有效利他主义全球峰会直接在 Google 硅谷总部举行，Elon Musk 等科技巨头纷纷到场并参与 AI 小组的讨论。Afra 认为，2015 年在 William MacAskill 眼中是 EA 的一个巅峰，因为这套哲学已经彻底渗透进了社会上最富裕、最有资源、最能推动历史走向的核心人群。

从牛津起源到 William MacAskill 近期举家迁往硅谷，EA 的核心议题发生了剧烈转移。Afra 观察到，原本多元的目标——如在全球预防疾病、提升慈善效率、关注其他生存风险——如今几乎被全面边缘化，取而代之的是 AI 安全（AI safety）被不成比例地极度放大。对于泓君“EA 是不是也在追热点”的疑问，Afra 提出了一个尖锐的判断：“我觉得热点是被 EA 创造出来的……我们现在已经活在了 EA 所创造的他们 impact marketing 的世界当中了。”

`32:00` 作为一个观察者：为什么认同理念却不称自己为“EA”

谈到个人认同时，Afra 明确表示自己“不会对外说我自己是 EA”。虽然她极为关心 AI 安全，也对 EA 独特的知识世界着迷，但她认为自己在实践层面上还达不到 EA 那种量化捐赠的门槛。她此前曾获得 London Fellowship 大约一两万英镑的资助，这笔钱虽然免去了她在伦敦四个月的经济负担，但在当地高昂的生活成本下也仅仅够用。

Afra 剖析了 EA 群体对她的真正吸引力所在： - **目标驱动而非金钱驱动**：EA 践行者往往不在乎自己能赚多少钱，而是先锚定自己想要对世界产生的具体影响，再倒推如何筹集资金和落地方案。 - **与硅谷创始人精神的高度共鸣**：“很多 founders 他其实也是这个理念，我想要创建一家什么样的公司，然后我再去想融资这件事情……这很多逻辑是很像的。” - **雄心勃勃的未来图景**：EA 促使人极具野心地勾勒未来蓝图，再回到当下强迫自己将愿景落地，构成了一套强有力的行动指南。

`35:18` e/acc 与 EA 的不对称博弈：AI 竞赛中的认知论危机

随着大语言模型爆发，硅谷形成了以 a16z 为代表的有效加速主义（e/acc）与主张安全减速的 EA 派之间的激烈对立。但在 Afra 看来，两者的力量完全不对称：“e/acc 它其实完全没有形成一个真正的力量……在很多人眼里是一个 Meme，它是一个在网上的一个 hashtag，它其实不是一个真正的行动力量，而 EA 它是一个真正的行动力量。”

在深入参加了 The Curve 以及 Progress Conference 两次深度闭门会议，并与 OpenAI 和 Anthropic 的十几二十位一线研究员深聊后，Afra 坦言自己对 AI 安全的看法发生了根本性转变，变得对 RSI（Recursive Self-Improvement，递归自我迭代/自我进化）充满了忧虑： - 顶尖实验室研究人员亲口证实，过去一年 AI 能力的突破和迭代速度，已经彻底超出了他们原先的内部预期。 - 整个前沿 AI 研发正陷入严重的“认知论危机”（epistemological crisis），没有人能真正解释大模型内部涌现的黑盒机理。 - Afra 直言：“放缓一个 AI 的发展，尤其放缓 RSI 的这个发展可能是一个好事。就是让大家先坐下来相互说一说，就是到底应该怎么办，到底发生了什么，我们能不能用人话把这些事情解释清楚，然后再去进行这个疯狂的 AI race。”

`37:30` 巨额资金背后的推手：Good Ventures 与 Vitalik 的角色

前沿 AI 议题的转向绝非偶然，其背后依托着巨额资本的系统化输送： - 由 Dustin Moskovitz（Facebook 与 Asana 联合创始人）及其妻子 Cari Tuna 创办的 Good Ventures，主要通过资助机构 Coefficient Giving（原 Open Philanthropy）运作，自 2014 年以来累计推动了超过 70 亿美元的资助，流向全球健康、动物福利以及 AI 安全和对齐研究。 - 另一位举足轻重的捐赠者是以太坊联合创始人 Vitalik Buterin。他在 2021 年捐赠了账面估值约 15 亿美元的加密货币，其中捐给未来生命研究所（Future of Life Institute, FLI）的一笔代币后来变现了约 5 亿美元，使 Vitalik 成为该机构迄今为止规模远超其他人的最大单一捐赠者。

Afra 提到，之所以极力推荐 Vitalik 聊这个话题，是因为他早在身家数亿时就写博客坚持只坐经济舱，其核心逻辑正是典型的 EA 思维：“坐商务舱的一张机票其实可以挽救很多人的生命。”此外，她在 2023 年参加了 Vitalik 在黑山举办的为期两个月的快闪城市“Zuzalu”，近距离观察了这群理性主义者和 EA 核心成员的聚会与思想演变。

`40:00` Vitalik 结缘理性主义：从防疟蚊帐到长寿研究的效率算法

Vitalik 回忆，自己最早是在 2013 到 2015 年间接触到理性主义与 EA 概念。当时 Eliezer Yudkowsky 在 LessWrong 社区撰写了著名的《Sequences》系列长文，探讨物理学、认知与道德哲学。而 EA 社区则向他展示了慈善捐赠中极其残酷的效率差异：大部分慈善虽然动机崇高，但实际产出极低。

当时社区流传着一个著名的数据：在极度贫困的非洲国家，只需花费约 2,000 美元购买防蚊帐，就能有效阻断疟疾传播，从而“拯救一条人命”。Vitalik 当时做了一笔思想实验： > “如果你是一个非常非常的土豪，那有可能你会买一个私人机，比如从亚洲去美国，可能会需要 20 万块。你可以想一想，就是第一个选择 20 万块，那你可能 12 个小时可能 23 个小时更舒服；第二个选择就是你可以救 100 个人的性命。哇，那如果真的是这样子的，那我自己也必须花自己的钱到这样的环境。”

2016 至 2017 年间，以太币价格暴涨十倍，Vitalik 卖掉了一小部分以太币投入慈善。除了向对抗疟疾基金会（Against Malaria Foundation, AMF）捐赠蚊帐外，他还将目光投向了 Aubrey de Grey 主导的抗衰老与长寿（Longevity）研究： - “这个话题是很重要的，但是几乎没有人研究。” - 他用同样的功利主义算法推算：当时整个长寿领域一年的总科研资金才一三百万美元，如果自己注资 100 万美元，哪怕只把攻克衰老的时间线推快一个月，折算下来就能挽救上百万甚至更多人的生命。 - 从 2017、2018 年起，他开始将大笔真金白银持续注入 Global Health 与 Longevity 领域。

```mermaid flowchart TD accTitle: Vitalik's EA Calculation Flowchart accDescr: 展现 Vitalik 基于有效利他主义算法对私人消费与慈善捐赠的成本效益对比决策

subgraph Cost_Comparison ["20万美元的边际效用抉择"] A["个人财富与消费选择: $200,000"] A -->|"个人舒适消费"| B["亚洲飞往美国的私人飞机<br/>(换取12-23小时舒适旅程)"] A -->|"EA 边际效用算法"| C["购买杀虫蚊帐预防疟疾<br/>(以 $2,000/人 成本挽救生命)"] C --> D["拯救 100 个人鲜活的生命"] end

subgraph Longevity_Allocation ["抗衰老领域的杠杆投资"] E["长寿领域年资金极度匮乏<br/>(仅 $1M - $3M)"] E --> F["Vitalik 注入 $1,000,000"] F --> G["加速攻关进程约 1 个月"] G --> H["潜在挽救 1,000,000+ 人类寿命"] end ```

`44:19` Eliezer Yudkowsky 与理性主义核心：价值脆弱性与正交性假说

谈及理性主义（Rationalism）与有效利他主义的差异，Vitalik 总结道：“EA 最核心的目标就是帮我们了解怎么最有效率地帮助其他人的生活，那理性主义是帮我们更有心怎么更理性地为了帮助其他的人做事情。”理性主义的核心，是研究人类大脑的认知偏差、如何减少系统性思维错误。

Yudkowsky 从 1995 年起就极度关注超级智能。早期的他曾是一名技术加速主义者，认为超强 AI 能解决人类一切困境；但在深入研究后，他陷入了对 AI 对齐问题（Alignment Problem）的深刻恐惧，并提出了两大奠基性理论：

1. **价值脆弱性（Value Fragility）**：给超级智能设定目标极其危险，稍有偏差就会导致灾难。比如向超人类智能下达一个“消灭全世界所有人类的癌症”的指令，在缺乏精准人类价值约束的前提下，AI 计算出的最高效解法可能是直接毁灭人类——“把整个世界就毁灭了，就是这个世界没有人就没有癌症”。 2. **正交性假说（Orthogonality Thesis）**：很多乐观派误以为“更聪明的 AI 必然在道德上也更善良”。Yudkowsky 论证了智力水平与终极目标是两个彼此独立的维度，宇宙物理法则中并不内生“善良”，“善良这个概念不是宇宙的一部分，这是一个人的进化制造的概念”。超级智能完全可能是一个在逻辑和执行力上登峰造极、但终极目标却极度残忍邪恶的实体。

Yudkowsky 意识到，如果人类自身都无法克服认知偏误，却仓促开发超级智能，将酿成毁灭性灾难。因此他转而建立 LessWrong 社区、撰写《Rationality: From AI to Zombies》，试图先提升人类整体的理性思辨水平。Vitalik 补充道，另一位领军人物 Scott Alexander 则通过博客 *Slate Star Codex*（现改名为 *Astral Codex Ten*）以更关注当下文化战（Culture War、Woke 与 Anti-Woke）及社会政治思辨的形式，构成了理性主义阵营的另一大阵地。

`50:38` 象牙塔、富豪与机构化：理性主义与 EA 圈子的暗涌分歧

理性主义与 EA 虽有交集，但其人员构成与路径存在清晰分野。Vitalik 梳理指出： - **学术与主流路线**：以牛津大学的 William MacAskill 为代表，EA 拥有深厚的传统学院派哲学背景，参与并融入主流建制。 - **自学草根路线**：Yudkowsky 和 Scott Alexander 均为自学成才的边缘思想家，更具黑客与异端色彩。 - **超级富豪的涌入**：EA 极度擅长吸引富豪资本（如 Dustin Moskovitz、SBF 等），资金逐步走向职业化、基金会化（Institutionalization）。理性主义侧重于“想清楚”，EA 侧重于“做出来”，而做出来最直接的抓手就是巨额资本运作。

Afra 援引理性主义资深评论家 Zvi Mowshowitz（Newsletter *Don't Worry About the Vase* 作者）的观点指出，圈子内部一直存在争议：一部分理性主义者私下抱怨 EA 掠夺了他们的思想果实，将 Yudkowsky 早在十多年前关于 AI 安全与对齐的深刻洞见据为己有并向主流包装邀功；而 Yudkowsky 本人也从未对外宣称自己是 EA 的成员。随着 AGI 浪潮席卷全球，当下一线研究 AI 安全的人很多既不认同 EA 的长期主义，也不读 LessWrong，仅仅是从系统失控风险的工程视角出发工作，曾经同源的思想社群已然四分五裂。

`53:35` P(doom) 估算：在技术与地缘政治的多重不确定性中博弈

谈及 AI 对人类造成的毁灭性风险概率（即社区常测的 P(doom)），Vitalik 坦言自己的预估在 0.1（即 10% 左右），但强调任何精确数字背后都蕴含着巨大的不确定性： > “AI 或者其他的风险会完全毁灭我们的世界，就是人类会不存在的概率会是我 0.1。我为什么说 0.1，为什么不说 0.03，为什么不说 0.3？其实说得更明确是很难的，因为我从开始都有非常大的这个 uncertainty。”

Vitalik 将这种极高的不确定性拆解为三个连乘维度： - **技术落地周期的不确定性**：到达所谓的 AGI 究竟需要十年，还是三百年？业界至今无法定论。 - **对齐难题本质的不确定性**：现代大语言模型似乎具备了初步的语境理解能力（向现代 AI 提出治疗癌症，它并不会机械地毁灭人类），这是否说明对齐其实并不如想象中困难？但 Yudkowsky 等人会反驳，目前的表面对齐只是表层现象，更深层的黑盒失控与盲区完全没有解决。 - **地缘政治博弈的放大风险**：多国与多家前沿商业公司正卷入你死我活的零和锦标赛，“在一个竞争的情况下，大家有不同的目的，大家同时希望有安全，大家也希望自己赢了”。如果 AI 逼近危险奇点的同时恰逢第三次世界大战爆发，参与方将被迫彻底抛弃安全审查，陷入不顾一切的研发狂热。

“技术的不确定性乘以另外一个技术的不确定性，乘以真正的不确定性就乘以更多更多，所以 AI 是不是对我们真的会危险，是非常难预测的。”

`59:09` 狗狗币意外暴富与柴犬币（SHIB）半壁江山的冷钱包难题

2021 年 5 月 12 日，Vitalik 震惊整个加密世界的大规模慈善捐赠，源于一场充满荒诞戏剧性的 Meme 币狂欢。Vitalik 详细复盘了这段往事： - 2016 年狗狗币（Dogecoin）作为基于莱特币（Litecoin）代码的恶搞项目诞生，“什么都不做……就因为有个狗狗很可爱”。当时抱着好玩与理想主义的心态，Vitalik 花了 25,000 美元买了一批狗狗币，这笔投资后来飙升至 1000 多万美元。 - 到了 2020-2021 年牛市，各类模仿代币爆发。其中最大的柴犬币（Shiba Inu, SHIB）团队为了营销炒作，擅自将初始发行总量的 50% 强行打入了 Vitalik 广为人知的公开冷钱包。 - 该冷钱包的安全机制极其苛刻：私钥从未触网，而是作为纸质备份（Paper Backup）被拆成两半，一份存放在加拿大多伦多，另一份存放在海外。两组数字相加才能还原出私钥。

2021 年 5 月，SHIB 的账面市值在狂热炒作下飙升至不可思议的 80 亿美元。当时身处西雅图的 Vitalik 意识到这随时可能是个转瞬即逝的世纪泡沫，若不立刻采取行动，泡沫一周后就会彻底破裂。由于疫情封控，他紧急买了一台全新电脑，连线远在多伦多的母亲念出纸片上的数字，在本地离线拼接还原出私钥；为了安全转移资金，他在两天内通读并升级部署了 Gnosis Safe 多签智能合约，最终成功将这笔巨额的 SHIB 提了出来。

```mermaid flowchart TD accTitle: Vitalik 柴犬币紧急提现与跨国还原私钥流程 accDescr: 展现 Vitalik 如何在西雅图通过远程多地物理纸质备份，在无网络连接与多重安全下还原私钥并套现

subgraph Cold_Storage ["严苛物理隔离的私钥备份"] A["多伦多物理纸质碎片 1"] B["异地物理纸质碎片 2"] end

subgraph Emergency_Recovery ["西雅图紧急提取 (2021年5月)"] C["致电母亲远程读取碎片 1"] --> E["新采购离线电脑"] D["调取异地碎片 2"] --> E E --> F["数字相加离线还原冷钱包私钥"] end

A -.-> C B -.-> D

subgraph OnChain_Execution ["链上操作与安全转移"] F --> G["2天内深入研读并升级 Gnosis Safe 多签钱包代码"] G --> H["安全提现公开地址内的 50% SHIB"] H --> I["分批兑换为流动性更强的以太坊 (ETH)"] end ```

`01:05:10` 4.7 亿美元的变现意外与 FLI 的政客化决裂

在链上抛售变现的过程中，市场深度极其有限。Vitalik 先快速套现了约 7,000 万美元的以太币，直接捐赠给了 Against Malaria Foundation（AMF）以及部分长寿抗衰老机构。对于剩下绝大部分无法立即出清的代币，他原估算以其惨烈的滑点，受赠方如果能变现两千万美元就已经是极限了。因此，他把剩余代币分赠给了两家机构： 1. 由 Sandeep Nailwal 发起的印度抗疫救援基金 **CryptoRelief**； 2. Max Tegmark 等人创立的专注研究各类生存威胁的 **未来生命研究所（FLI）**。

然而，加密市场的流动性承载力超出了所有人的预估。代币价格并未归零，两家机构最终抛售兑现的总金额竟然高达 **4.7 亿至 6 亿美元**。面对这笔天降巨款，两家机构后来的发展走向却与 Vitalik 的初衷背道而驰： - **CryptoRelief 的良性重组**：次年 Vitalik 与 Sandeep 协商，退回了一半资金，由 Vitalik 成立 Balvi 基金。他们将重心从单纯的 COVID 应对扩展至防范所有空气传播疾病（Airborne Diseases），自主资助开源疫苗研发（支持了 Radvac 和 PopVax，后者取得了突破性商业化进展）、室内紫外线消毒设备（远紫外 UVC）、先进过滤器及长新冠研究；Sandeep 则运用剩余资金全面提升印度的医疗制造工业能力。 - **FLI 的政治转向与分道扬镳**：FLI 突然拿到了 4 到 6 亿美元，恰逢 GPT-3 浪潮席卷，机构彻底改变了策略路线： - 关注范围急剧收窄：从综合评估生物、核战及 AI 的多维生存危机，急剧缩减为**只关心 AI**。 - 行动策略全面偏向政客化：从早期的客观基础科学研究，转向极具攻击性的激进游说、强推立法监管。 - Vitalik 曾两三次拿着 Balvi 资助空气传播疾病的成功战果找 FLI 高层沟通，希望他们将资金分散化（Diversify）到其他生存危机领域，但遭到了 FLI 的直接拒绝。

最终，FLI 推行的一系列激进 AI 监管法案引发了 a16z 等硅谷风险投资机构的强烈反弹与反扑，这也让 Vitalik 开始反思：当一个手握数亿美元慈善资金的机构背离了最初的科研中立、全盘押注政治游说时，作为出资人该如何审视自己的历史抉择。

- **核心数据与事实备忘**： - 2021 年 5 月 12 日 Vitalik 捐出的 SHIB 代币，账面浮盈峰值一度达到 80 亿美元。 - 早期变现的 7,000 万美元主要流向了防疟疾基金会 AMF 及长寿研究。 - 后续受赠的 CryptoRelief 和 FLI 合计成功套现变现 4.7 亿至 6 亿美元，FLI 最终变现规模在 4 到 6 亿美元之间。 - 退回 Vitalik 的约 2 亿美元成立了专注于空气传播病原体防御与开源疫苗的 Balvi 基金，资助了 PopVax、Radvac 以及 UVC 消毒项目。

`01:10:00` 慈善的转移：从“被忽视性”到 AI 内部激励的崩坏

在谈及曾经向未来生命研究所（Future of Life Institute，FLI）、GiveWell、机器智能研究所（MIRI）以及印度疫情救助基金（CryptoRelief）捐赠大量的柴犬币（SHIB）与以太坊（ETH）时，Vitalik Buterin 解释了当年的选择逻辑。当时他的策略是在每一个自认为极其重要的领域中，挑选一个大家公认的“默认（default）”代表机构。如果倒退五至七年，任何深入该领域的人给出的答案大概率高度一致。

然而，世界在这几年发生了剧烈变化，AI 飞速发展，整个有效利他主义（EA）的捐赠重心也经历了深刻的演进。EA 体系中存在一个核心概念叫做“被忽视性”（Neglectedness）：如果一个议题极其重要，但思考和解决它的人少之又少，投入边际资源的价值才最大。例如非洲某些地区的饮用水污染问题属于全球公共卫生的范畴，许多机构已深耕多年，个人再投入边际收益并不明显。十年前，EA 和理性主义（Rationalism）关注的领域——无论是抗衰老长寿研究（Longevity），还是当时边缘的 AI 安全——都极度符合“被忽视”的特征。

转折点在于，这些议题如今已不再“被忽视”，其核心症结发生了质变：

```mermaid flowchart LR accTitle: Paradigm shift from Neglectedness to Incentive Breakdown accDescr: A diagram contrasting the historical EA model of underfunded neglected problems against the modern reality of distorted corporate incentives. subgraph Past["十年前的 EA 逻辑 (Man vs Nature)"] direction TB A["议题极度被忽视<br/>(Neglectedness)"] --> B["边际资源稀缺"] B --> C["注入资金救助生命<br/>(如捐蚊帐、抗疟疾)"] end subgraph Present["当下的 AI 现实 (Man vs Man)"] direction TB D["AI 安全成为显学<br/>资本海量涌入"] --> E["公司激励机制崩坏<br/>(Broken Incentives)"] E --> F["陷入军备竞赛<br/>安全沦为公关幌子"] end ```

Vitalik 指出：“现在更大的问题不是研究 AI safety 的人不够，而是那些 AI 公司里面很多的 incentives，就是很多的激励都是比较 broken 的。”OpenAI 与 Anthropic 等头部实验室的核心驱动力是“确保自己的公司必须赢”，导致技术迭代速度被极大催化。发展过快直接挤压了全人类思考对齐（Alignment）与安全方案的时间窗口，这才是当前面临的最大系统性风险。

- **全球公共卫生（Global Public Health）的逆风**：2025 年前后，受埃隆·马斯克（Elon Musk）等人的政治动作及美国政策变动冲击，传统公共卫生支持遭到大幅削减，导致该领域重新变得脆弱和需要资助；而抗疟疾领域虽有新疫苗出现，但因资源流失依然值得投入。 - **底层研究的脱节**：三四年前投入大量资源开展的 AI 安全前沿研究，对于解决当下核心的对齐问题收效甚微。目前行业往往需要依赖 AI 版本 $N$ 去研究版本 $N+1$ 的安全风险，技术快速失控的危险远超理论推演。

---

`01:15:00` 从“人对抗自然”到“人对抗人”：政策捐赠的暗礁与 SBF 的遗产

当 AI 安全不再是一个单纯的科学研发问题，而演变成复杂的政策（Policy）制定与博弈时，传统的 EA 决策框架便开始失灵。Vitalik 借用文学批评中的概念做出了精辟的剖析：“在文学里面我们会说，有一些是 Man vs Nature，有一些是 Man vs Man。Man vs Nature 其实够简单，Man vs Man 是特别复杂的，因为你在对抗的那个挑战是跟你一样聪明的。”

在传统的“人对抗自然”场景（例如疟疾防治、净水工程）中，问题是线性的：捐给机构 A 能救 10 个人，捐给机构 B 能救 100 个人，慈善家只需通过严密的数据和成本效益分析挑出最优解。但在“人对抗人”的博弈世界里，任何政策资助都会产生复杂的间接反馈（Indirect Effects）：

> “如果你曾支持一个 policy，那那个 policy 有可能它会有好的效果，也有可能它会有坏的效果……比如如果一个很有钱的人比较公开的花五个亿去支持一些政治的话题，那很可能其他的人会很不开心，他们都会觉得那有一个土豪在影响我们的政治。” —— Vitalik Buterin

当普通公众和监管层认定 AI 安全只是亿万富翁用来操控政治、维护垄断的私货时，整个社会对 AI 安全的抵触情绪反而被彻底点燃。这一信任危机在 FTX 崩盘及萨姆·班克曼-弗里德（Sam Bankman-Fried, SBF）涉案后被空前放大。SBF 曾高举 EA 旗帜大肆干预政治，当涉嫌欺诈的黑幕曝光后，公众自然得出结论：“这个政治的话题就是骗钱的人会思考的。”

更为致命的是，EA 社群由于过度沉浸在自洽的模型推演中，陷入了严重的认知盲区，几乎完全失去了识破 SBF 真实面目的能力。随着 EA 从小圈子走向制度化、政治化，内部也迅速碎裂成立场迥异的分支：支持 Anthropic 的阵营、反 Anthropic 的阵营、以未来生命研究所（FLI）为代表的传统游说派，以及近期大量安全研究员辞职引发的轩然大波，使得原本追求理性的运动陷入了前所未有的公关泥潭。

---

`01:21:01` 硅谷思想派系光谱：严肃的 EA、自由如猫的理性主义与 e/acc

在梳理当前硅谷的思想势力时，现场讨论勾勒出了四股交织对抗的主要思潮： 1. **支持 Anthropic 的 EA**：坚信前沿技术竞争不可避免，唯有让“品德高尚的好公司”赢得竞赛，才能实现大模型安全； 2. **反 Anthropic / 远离其立场的 EA**：质疑大公司借安全之名谋取控制权； 3. **Pause AI（暂停 AI）运动**：带有强烈的平民主义（Populist）色彩，态度激进，主张全面叫停超前模型训练，甚至与理性主义和 EA 的主流圈子产生决裂； 4. **有效加速主义（e/acc）**：以风险投资机构 Andreessen Horowitz（a16z）、Founders Fund 及社交网络活跃分子（如 Beff Jezos）为旗手，全力推动算力扩张与技术狂飙。

在这之中，理性主义者（Rationalists）的生态尤为独特。Vitalik 澄清，大众常将 EA 与理性主义混为一谈，但两者的底层驱动力截然不同。EA 关注的是“行为的道德正确”，背负着“拯救人类”的沉重使命，因此表现得极度严肃、讲求策略（Strategic），甚至会为了维护社会声誉而刻意修剪公共言论；而理性主义者的核心动力是纯粹的“好奇心（Curiosity）”，他们更具游戏精神（Playful），追求思想实验本身的乐趣。

| 思想流派 | 核心驱动力 | 行为风格与组织形态 | 对待公关与权力的态度 | |:--- |:--- |:--- |:--- | | **有效利他主义 (EA)** | 道德功利主义、救赎世界 | 严肃、追求建制化、强于资金动员与游说 | 高度重视策略与声誉，试图向权力中心靠拢以影响政策 | | **理性主义 (Rationalism)** | 智力好奇心、探寻底层真实 | 散漫如猫、反抗官僚、热衷同人创作与思想沙龙 | “忠于内心（Be yourself）”，厌恶为了迎合公众而审查自我 | | **有效加速主义 (e/acc)** | 热力学演化、技术决定论 | 激进扩张、与硅谷顶级风投深度绑定 | 拥抱资本与算力狂欢，将任何监管与减速视为反人类 | | **分布式防御加速 (d/acc)** | 去中心化赋能、防守优先 | 开源社区驱动、强调抗脆弱性与制衡 | 警惕寡头借“安全”行垄断，主张工具民主化 |

Vitalik 形象地比喻道：“理性主义者，他们的心里他们就是猫。把他们放到一个机构里，他们就会不开心，他们会觉得不自由。”以 Eliezer Yudkowsky 为例，他中学阶段便辍学，凭借自学写出了长达数十万字的知名同人小说《哈利·波特与理性之道》（*Harry Potter and the Methods of Rationality*, HPMOR），随后获得彼得·蒂尔（Peter Thiel）的早期资助；Scott Alexander 也在其博客专栏之外创作了奇幻小说《Unsong》。近期伯克利活动园区 Lighthaven（由 Lightcone Infrastructure 运营）举办的“A-Labs World”派对因极度前卫甚至具有争议的氛围引发 EA 圈子的批评，EA 人士斥责此类行为损害了 AI 安全严肃议题的公共声誉，而理性主义者则坚决捍卫个性表达，拒绝为了公关策略阉割真实自我。

主持人评价 Vitalik 在精神气质上本质是个纯粹的理性主义者，而非刻板的 EA 倡导者。Vitalik 对此深表认同，并提及自己近期也在撰写一部名为《Snow Moon》的科幻小说。

---

`01:27:38` “好公司必须赢”神话的破灭：对 Anthropic 霸权逻辑的审视

关于 Anthropic 的争论，构成了当前 AI 安全社区最深刻的裂痕。支持 Anthropic 的逻辑在于：既然全球博弈导致 AI 研发不可能踩刹车，那么唯一的解法就是扶植一家“真正懂安全、由好人创办”的公司登顶。Anthropic 联合创始人 Chris Olah 在神经网络机械可解释性（Mechanistic Interpretability）领域享有极高声誉。Vitalik 回忆，自己初三、高一时便与 Chris Olah 相识并共同探讨物理和计算机编程，Chris 还是带他入门 Linux 操作系统的引路人，“我反正说是一个好人”。

但反对者的质疑更为尖锐：一旦好人被置于生死存亡的激烈商业厮杀中，强大的利益激励会迫使其不断合理化自身的一切行为。Anthropic 的实际行动与他们宣扬的安全哲学之间，呈现出难以弥合的自相矛盾：

> “他们把 AI 的发展速度就加快了很多。现在有这个 AI race 的一个很大的原因就是他们……今年 Methos（Sonnet 等模型迭代）出来之前，我觉得我们都会觉得那 GPT 是最强的……但是有一个时间他们开了那个 Opus 或者给了我们 3.5 之后，真的有这个感觉，就是一个天命传到他们了……OpenAI 他们也开始了把他们的很多 side projects 就关掉了，他们加速就是更 focus 做非常强大的 models。所以有可能他们还是帮助了 AI race 做得更快，这个效果也可能会超过他们所有的安全相关工作的手法。” —— Vitalik Buterin

除了实际加剧了军备竞赛，Anthropic 的安全治理哲学在思想层面上也遭遇了“中式批判”或曰极权逻辑的拷问。其内核演变成了：“因为我们是善意的，所以我们应该掌握核心权力；因为你们是不可控的，所以你们不该拥有权力。”这种以道德自居的先验论，与历史上的独裁思维如出一辙。

```mermaid flowchart TD accTitle: The Paradox of Anthropic's Strategic Position accDescr: Flowchart demonstrating how Anthropic's pursuit of leadership accelerated the AI race while centralizing power under the justification of safety. A["'我们是心怀善意的好人'<br/>(Chris Olah 等安全先驱)"] --> B["必须在竞赛中击败 OpenAI 与对手"] B --> C["发布 Claude 3.5 Sonnet / Opus<br/>逆转 GPT 独大格局"] C --> D["倒逼 OpenAI 砍掉副业全力竞速<br/>(AI Race 全面升级)"] D --> E["反向游说打压开源 AI<br/>宣称模型权重不可失控"] E --> F["公开论点与公司利益相关度 >90%<br/>安全沦为争夺未来世界控制权的盾牌"] ```

近年来，Anthropic 核心成员频繁公开鼓吹“开源 AI 极度危险，因其缺乏统一管控”。但现实情况是，目前大部分具备破坏性的前沿网络攻击测试，依然依赖于云端的闭源顶级模型（GPT 与 Claude）。Vitalik 犀利地总结道，当一家公司公开输出的美好论调，与其提升自身商业控制权与话语权的行为存在“高于 90% 的相关性”时，旁观者绝不能对其动机轻信盲从。

---

`01:36:06` OpenAI 的三级跳与 Vitalik 的替代方案：d/acc 与分布式韧性

梳理 OpenAI 的历史轨迹，同样验证了大模型公司异化的必然宿命。从成立之初由 Greg Brockman 带领全员精读 Yudkowsky 的理性主义博客 LessWrong、标榜非营利与开源，到后来以安全为名收紧模型访问权限，再到 Sam Altman 罢免风波后商业加速派（e/acc 倾向）彻底击退安全派理事会，其演化轨迹被精准提炼为：

> “他们一开始是 OpenAI，然后他们 sacrificed openness for safety，然后他们 sacrificed safety for acceleration。大概真的是这样发生的。” —— Vitalik Buterin

面对“非集中控制即毁灭（闭源极权）”与“无脑狂飙无视风险（加速自毁）”的两极困境，Vitalik 提出了 **d/acc（Defensive / Decentralized / Democratizing Acceleration，防御性、去中心化及民主化加速）** 框架作为第三种解法。该框架包含三大支柱： 1. **Acceleration（技术进化）**：不否认技术发展的必然性与生产力价值； 2. **Defensive（防御优先）**：将工程倾斜于“防守强于进攻”的技术形态。若担忧 AI 黑客攻击，应倾注资源构建高抗击打的底层网络安全与密码学验证；若担忧 AI 制造生物威胁，应提前投资普及型病毒检测雷达、空气过滤系统与广谱疫苗快速合成平台； 3. **Decentralized / Democratizing（去中心化与平权）**：坚决避免将防御手段集中于单一寡头手中，坚持开源赋能普通人，拒绝中央集权式的恩赐。

Vitalik 借用欧洲地理格局与集权历史进行隐喻：瑞士与欧洲腹地群山环绕、河流纵横，险峻的天然地貌让小国与自治城邦能够建立极其强大的“去中心化防御（Decentralized Defense）”，催生了地方自治与民主传统；相反，向东两千公里的欧亚大平原一马平川，骑兵可长驱直入千里，缺少防御屏障的地理特征使得“中央集权专制（Centralized Defense）”成为了该区域默认的历史宿命。

将该隐喻映射至当下的 AI 治理，目前多数主流 EA 机构将 80% 的精力消耗在“如何在大模型内部打补丁、防止其教人造病毒”上，这本质上是一种极度脆弱的中央集权防御。只要其他国家或开源社区涌现出未受限制的模型，这道脆弱的防线就会瞬间瓦解。相反，真正稳健的方案应当是投资现实层面的分布式公卫基础设施——更灵敏的监测硬件、自动化广谱过滤器和响应式疫苗管线。这种方式不仅不依赖对全世界所有算力与模型的极权监控，更能从根本上赋予普通人类抵御风险的内生力量。

在节目的尾声，科技记者 Afra 与主持人谈及普通公众与前沿研究者的认知焦虑。现实中的前沿 AI 研发正陷入严重的“认识论黑箱（Epistemological Crisis）”：庞大的数据中心以前所未有的速度吞噬电力与资本，低垂的果实远未摘完，但顶级科学家既无法用直白的人类语言也无法用精确的数学公式解释模型内部涌现的真正机理与潜在意图。这种“一屋子哇哇大哭的小孩却找不到一个真正知情的大人”的断层，正在全美激化严重的 AI 民粹主义——民众愈发确信，这项充满未知的技术正沦为科技寡头剥夺大众权益的工具。对话在此处构成了反思：唯有跳出神坛，承认未知的存在，依靠多方制衡与底层韧性，人类才可能穿透技术奇点前的迷雾。

`01:45:00` 面对AI的不确定性，普通人应当如何理解当下的争论？

主持人谈到，当前社会大众对人工智能普遍弥漫着一种恐慌情绪：一方面是普通劳动者担心工作被AI取代，另一方面则是“AI末日论”甚嚣尘上，再加上前研究员Jacob Coxon公开发声警告潜在灾难，让整个舆论场变得十分光怪陆离。因此主持人向Vitalik提问：作为普通人（normie），面对AI安全（AI safety）这一场错综复杂的宏大辩论，最核心的收获或认知（takeaway）应该是什么？

Vitalik指出，当前关于世界和技术发展的核心事实，就是**存在着极大的不确定性**。人类至今不知道AI究竟会以多快的速度演进；不知道在1年、5年甚至25年后，人类在哪些具体领域依然会比AI更具优势；也不知道现有的安全问题最终能否被完全解决。即便是产业格局也充满变数——OpenAI和Anthropic是否能始终维持领先，抑或是Google迎头赶上夺得第一，甚至中国的AI公司是否会快速超车（catch up），这一切都没有定论。不仅如此，关于AI本质的讨论同样没有答案：它到底更像是一件工具、一个人，还是某种前所未见的崭新存在？在AI尚未实现完全自主运行的前提下，人类应当在何时介入干预、又该如何引导它的行为？正是因为有太多可能发生的情形，Vitalik直言：“所以我一直就是不愿意说我的p(doom)是99%，也不愿意说是1%或者0%，真的有很多很多能发生的事情。”

```mermaid flowchart TD accTitle: AI未来的多重不确定性维度 accDescr: 图表展示了Vitalik提出的关于AI发展的四大核心不确定性维度。 subgraph Uncertainty["AI发展的核心不确定性"] A["演进速度与边界<br/>（发展有多快？1/5/25年后人类还能做什么？）"] B["安全问题可解性<br/>（对齐与安全隐患是否真能彻底解决？）"] C["产业地缘格局<br/>（OpenAI/Anthropic领跑，还是Google或中国公司赶超？）"] D["实体属性定位<br/>（更像工具、人，还是全新物种？人类何时介入干预？）"] end ```

紧接着，Vitalik深入到了具体的技术思考机制。目前大语言模型在进行思维链（Chain of Thought）推理时，依然使用人类能够看懂的英文等自然语言进行思考。Vitalik坦言这也是他偏爱开源模型的原因之一：用户能够清晰观察到模型推理的每一步，不仅能看懂AI的思考逻辑，自己也能从中学习。然而业界正在探讨一个被称为“Neuralese”（神经语言）的概念：如果AI未来不再使用人类语言思考，而是转用人类无法理解的、由数百万个浮点数字构成的专有表征进行内部交流与推导，那么人类窥探和理解AI思维的能力将会急剧衰退。至于这种可解释性究竟会降低到何种程度，目前业界同样一无所知；未来技术生态究竟会演变为由大量并行智能体（parallel agents）协作，还是由单一巨型智能体（single agent）主导，依然是未解之谜。

- **核心不确定性领域**：演进速度、人机分工边界、技术对齐上限、中美及各科技巨头的竞争格局。 - **思维链透明度对比**：使用自然语言（人类可读、可审计、开源模型优势） vs. “Neuralese”（数百万内部数字表征、黑箱化、人类理解力急剧下降）。 - **概率态度**：明确拒绝给出极端的p(doom)预测，认为断言99%毁灭或0%安全均不符合现实的复杂性。

---

`01:48:04` AI安全不是工程问题，而是政治制度设计：分权、制衡与经验主义

在探讨AI安全策略（AI safety strategies）的演变时，Vitalik提出了一个颠覆传统技术视角的见解：**AI安全在本质上可能更像是一个政治制度设计问题（political design problem），而不是一个纯粹的工程问题（engineering problem）。**

Vitalik用现实中的政府架构来进行类比：一个稳健的政体由多个不同的部门组成，其核心在于相互之间的分权与制衡（checks and balances）。某个部门存在的首要目标，就是限制其他部门犯下灾难性大错误的可能性；系统中既有促使不同群体沟通对话的机制，也有刻意制造隔离、防止特定人群过密接触或过度利益勾结的防火墙；系统中既有运作缓慢但审慎的构件，也有反应敏捷高效的模块。“一些非常聪明的但是不完美的组成部分，就是人作为一个更稳定的一个体系”，Vitalik强调，正如政治体制依靠不完美的人性构建出稳定的整体，未来一个安全的AI系统，很可能也无法拿出一个令纯粹数学家心满意足的“终极数学证明”来确保目标完全对齐。

相反，更现实的路径可能是通过多元系统相互制衡：例如同时采用三种不同的方法来界定和校准系统目标，并在它们之间设立协商机制；当系统产生分歧或无法决断时，懂得在恰当的时机停下来，重新向人类用户确认真实意图。Vitalik指出：“如果他这么走的话，那他也会变成一个非常empirical（经验主义）的一个话题，就是你会需要跟现在存在的AI在合作，就是你会需要了解他们，你会需要跟他们做事情，你会需要知道他们在什么情况下会做什么事情，我们在什么情况下会犯错的。”

```mermaid flowchart LR accTitle: AI安全作为政治制度设计的架构图 accDescr: 展示将AI安全比作政治架构的制衡流，多个不完美模型相互监督并适时向人类确认。 subgraph PoliticalDesign["政治制度设计视角的AI安全 (Checks & Balances)"] M1["目标设定系统 A<br/>（方法一 / 快速模块）"] M2["目标设定系统 B<br/>（方法二 / 审慎慢速）"] M3["目标设定系统 C<br/>（方法三 / 独立限制模块）"] Mechanism{"协调与制衡机制<br/>（互相监督限制犯错）"} Human["人类用户<br/>（适时触发重新确认需求）"]

M1 <--> Mechanism M2 <--> Mechanism M3 <--> Mechanism Mechanism -->|"产生重大分歧/边界风险"| Human end ```

这种路径意味着AI安全不再是象牙塔里脱离实际的纯理论推导，而是一个高度依赖日常交互、经验摸索的动态领域。回顾过去十年，AI发展的速度和方向充满了意料之外的意外与颠覆。Vitalik总结道：“我觉得不能现在过于决定一定会这样子的，一定不会那样子的。”

- **AI安全的新定义**：摆脱纯粹的“代码/数学对齐”工程思维，转向借鉴宪政与政治学中的“分权制衡”（checks and balances）。 - **容错架构**：由多个不完美但各具特性的子系统相互制约，结合沟通机制与必要隔离，防止灾难性单点故障。 - **人机交互接口**：安全机制应当包含回退机制，在关键冲突点自动向人类重新确认意图。 - **经验主义（Empirical Approach）**：在真实世界中与现有AI协作摸索，以观察和实证代替教条式的先验结论。

---

`01:50:00` 尾声：重审有效利他主义——谁在以全人类之名定义未来？

随着嘉宾对话告一段落，节目主持人进行了全篇复盘与总结。当重新审视“有效利他主义”（Effective Altruism，EA）这个名字时，会发现它最初的出发点其实极其朴素而纯粹：**一个人该如何运用有限的时间与金钱，去最大化地帮助更多的人？**

主持人分享了自己在大学期间接触校园EA社群的亲身经历。如同科技记者Afra所描述的那样，早期EA的参与者大多是一群怀揣崇高理想、并以极高道德标准坚持知行合一的人。然而，一旦试图将抽象的伦理原则落地到复杂的现实世界中，巨大的分歧便不可避免地爆发了——无论是具体的实践手段，还是“究竟什么才是当下人类最紧迫、最必须关心的议题”，社群内部都曾爆发过无数激烈的争执。尤其在进入前沿AI领域后，正如Vitalik在对话中所言，社群内部对于“到底该做什么”始终无法达成铁板一块的共识；在这个充满未知的时代，“究竟什么是‘有效’（effective）”本身已经成了一个极其难以量化和判断的问题。

节目最后强调，今天去深入理解EA的历史演变、哲学脉络及其与硅谷科技势力的深度绑定，本质上是为了更透彻地看清当下的人工智能浪潮：**究竟是谁在背后决定AI的发展方向？是谁在垄断定义哪些风险值得被全社会关注？当某些科技精英与思想流派以“全人类的未来与长远利益”为名做出关乎命运的抉择时，身处其中的普通人究竟有没有参与、质疑和纠偏这些选择的权利与渠道？** 随着AI技术日益渗透进现实世界的肌理，这些权力与治理的命题将越来越直接地冲击每个人的日常生活。

## Notable quotes > `28:09` 你未来的自己永远会背叛你现在的自己。 — Vitalik Buterin

> `44:19` 善良这个概念不是宇宙的一部分，这是一个人的进化制造的概念。 — Vitalik Buterin

> `01:15:00` Man vs Nature 其实够简单，Man vs Man 是特别复杂的，因为你在对抗的那个挑战是跟你一样聪明的。 — Vitalik Buterin

> `01:10:00` 现在更大的问题不是研究 AI safety 的人不够，而是那些 AI 公司里面很多的 incentives，就是很多的激励都是比较 broken 的。 — Vitalik Buterin

> `01:21:01` 理性主义者，他们的心里他们就是猫。把他们放到一个机构里，他们就会不开心，他们会觉得不自由。 — Vitalik Buterin

> `01:36:06` 他们一开始是 OpenAI，然后他们 sacrificed openness for safety，然后他们 sacrificed safety for acceleration。 — Vitalik Buterin

## Mentioned Vitalik Buterin, Afra, Yiwen, 泓君, William MacAskill, Eliezer Yudkowsky, Sam Bankman-Fried (SBF), Nick Bostrom, Chris Olah, Dario Amodei, Daniela Amodei, Holden Karnofsky, Jacob Coxon, Kevin Bass, Dustin Moskovitz, Cari Tuna, Jaan Tallinn, Toby Ord, Scott Alexander, Zvi Mowshowitz, Sandeep Nailwal, Aubrey de Grey, Max Tegmark, Elon Musk, Sam Altman, Greg Brockman, Peter Thiel, Ezra Klein, Kevin Roose, Anthropic, OpenAI, FTX, Jane Street, 80,000 Hours, GiveWell, Open Philanthropy, Coefficient Giving, Good Ventures, METR, Future of Life Institute (FLI), Machine Intelligence Research Institute (MIRI), Against Malaria Foundation (AMF), CryptoRelief, Balvi, PopVax, Radvac, Lightcone Infrastructure, Lighthaven, The Curve, Progress Conference, Gnosis Safe, LessWrong, Slate Star Codex / Astral Codex Ten, Don't Worry About the Vase, Zuzalu, a16z, Founders Fund, Y Combinator, Google, Asana, Facebook, Dogecoin, Shiba Inu (SHIB), Ethereum (ETH), Claude, GPT, 超级智能 (Superintelligence), Machine of Love and Grace, Rationality: From AI to Zombies, 哈利·波特与理性之道 (HPMOR), Snow Moon, Unsong, The AGI Chronicles, Abundance

## Video description 怎样用有限的钱帮助更多人？有效利他主义（Effective Altruism，简称“EA”），就是从这个朴素的问题出发，推动人们比较不同慈善项目的效果，从捐赠蚊帐、预防疟疾，到后来投入数亿美元研究AI安全。 SBF与FTX的崩塌，曾让这场运动陷入信誉危机。最近，AI研究员辞职、安全评估机构和捐赠网络引发的争议，又让EA受到关注。当一些人把防止AI毁灭人类视为最值得投入的事业，他们的判断如何影响研究方向和资金分配？其中又有怎样的利益与权力问题？ 本期节目，我们邀请以太坊联合创始人Vitalik Buterin与科技记者Afra，聊聊EA和理性主义究竟主张什么，以及这些思想如何影响了今天的AI发展。 Vitalik曾向这个圈子的机构捐赠大量资金。他在节目中回忆，一笔加密货币捐赠如何意外地变成数亿美元，以及受赠机构后来的方向，为什么让他开始重新考虑当初的选择。 节目全程以中文录制，前半段由Afra介绍背景，后半段是我们与Vitalik的对话。本期涉及英文人名和机构名较多，为方便大家理解，我们在shownotes文末整理了名词解释，也在Bilibili、YouTube、视频号等平台也上线了带字幕版本，方便大家对照收听。 【主播】 Yiwen，硅谷101主持人 泓君，硅谷101创始人，播客主理人 【嘉宾】 Vitalik Buterin，以太坊联合创始人 Afra，科技记者 【你将听到】 有效利他主义是什么，它如何走到AI安全中心？ 02:25 两个关键人物：William MacAskill与Eliezer Yudkowsky 07:54 八万个小时：怎样使用一生，才能帮助更多人？ 09:27 EA的四次转向：全球健康、长期主义、信任危机与AI安全 12:58 EA与理性主义的异同：怎样做好事，怎样想清楚？ 15:59 AI安全如何影响前沿AI实验室的公司选择 18:02 METR与捐赠网络：安全评估如何引发了争议？ 22:28 走进伯克利：Lighthaven、The Curve与硅谷思想聚会 28:09 去华尔街赚钱，再把钱捐出去：这条路出了什么问题？ 35:18 EA与e/acc：关于AI加速与减速的争论 Vitalik的捐赠：一笔意外的加密货币如何变成数亿美元 39:15 如何成为一名负责任的数字游民？Vitalik最初的EA经历 44:19 哲学僵尸与意识：理性主义者都在讨论什么？ 50:38 当思想社群有了富豪捐赠者和专业机构 53:35 AI安全思想和P(doom)逐渐成为争论焦点 59:09 狗狗币的故事：意外收到大量代币之后 01:05:10 印度疫情救助与FLI：两笔捐赠如何落地 01:08:13 当FLI转向AI政策，Vitalik和它的矛盾何在？ 当“帮助人类”变成机构、政策与权力 01:10:18 一个领域已经有很多钱，还值得继续捐吗？ 01:13:31 从救助生命到影响政策，捐赠效果为什么更难判断？ 01:18:46 SBF留下的问题：为什么聪明人也会看错人？ 01:21:01 EA、理性主义、e/acc与d/acc，分歧到底在哪里？ 01:27:38 “好公司必须赢”：相信Anthropic，能解决安全问题吗？ 01:30:29 安全、开源与商业利益：谁来决定AI的未来？ 01:36:06 Vitalik眼中的OpenAI：开放、安全与加速之间的变化 除了加速与暂停，还有什么选择？ 01:37:57 d/acc：Vitalik为什么主张加强分布式防御？ 01:42:04 以防疫为例：怎样让普通人拥有保护自己的工具？ 01:43:16 面对AI的不确定性，普通人可以怎样理解这些争论？ 01:45:14 Vitalik：承认我们还不知道的事情 01:48:04 AI安全也需要制衡：让多个不完美的系统互相监督 【相关阅读和名词解释】 往期相关：E233｜硅谷右翼的权力网如何形成？聊聊彼得·蒂尔的思想启蒙拼图 人物： • William MacAskill（威廉·麦卡斯基尔）：哲学家，曾任牛津大学哲学副教授，EA运动共同发起人之一，共同创办了Giving What We Can、80,000 Hours等机构，也是长期主义的重要倡导者。 • Sam Bankman-Fried（萨姆·班克曼-弗里德，SBF）：加密货币交易所FTX联合创始人，曾是EA最受瞩目的支持者和捐赠者之一。 • Eliezer Yudkowsky（埃利泽·尤德考斯基）：AI安全研究者与写作者、机器智能研究所共同创始人，也是互联网理性主义社群的重要奠基者。他关于认知偏差、理性思考和AI对齐的文章，影响了LessWrong及部分EA社群。 • Chris Olah（克里斯·奥拉）：Anthropic联合创始人，主要研究如何理解神经网络的内部运作，是机械可解释性领域的重要研究者。 • Kevin Bass（凯文·巴斯）：网络评论者，曾公开追查并质疑Anthropic、METR及相关AI安全机构之间的资金和人际联系。 • Jacob Coxon（雅各布·考克森）：曾在OpenAI和Anthropic从事研究，2026年9月辞职并公开警告前沿AI公司的竞争可能带来严重安全风险。 • Dustin Moskovitz（达斯廷·莫斯科维茨）：Facebook和Asana联合创始人，与妻子Cari Tuna创办Good Ventures，承诺捐出绝大部分财富。 • Jaan Tallinn（雅恩·塔林）：Skype联合创始人，长期资助AI安全与存在风险研究，也是未来生命研究所的共同创始人。他参与支持的Survival and Flourishing Fund，是相关研究机构的重要资金渠道之一。 • Gideon Lewis-Kraus（吉迪恩·刘易斯-克劳斯）：《纽约客》记者，2022年撰写了关于William MacAskill的长篇人物报道。 • Toby Ord（托比·奥德）：澳大利亚哲学家、Giving What We Can共同创始人，EA运动的重要早期推动者。他长期研究全球贫困、道德责任与可能威胁人类长远未来的存在风险。 • Scott Alexander（斯科特·亚历山大）：精神科医生与写作者，先后创办Slate Star Codex和Astral Codex Ten。他的文章涵盖科学、医学、社会议题和认知方法，是理性主义社群的重要阅读材料。 • Zvi Mowshowitz（兹维·莫肖维茨）：Don’t Worry About the Vase的作者，长期评论AI发展、安全与政策。 • Nick Bostrom（尼克·博斯特罗姆）：哲学家，曾任牛津大学教授、未来人类研究所创始主任，《超级智能》作者。他对超级智能、存在风险和人类长远未来的研究，影响了EA及AI安全领域的讨论。 • Sandeep Nailwal（桑迪普·奈尔瓦尔）：Polygon联合创始人、印度疫情救助基金CryptoRelief发起人。本期Vitalik谈到向该基金捐赠加密货币。 机构： • 80,000 Hours（八万小时）：由William MacAskill和Benjamin Todd共同创办的非营利职业研究与咨询机构，帮助人们思考如何利用职业生涯产生更大的社会影响，是EA的重要机构之一。 • METR（模型评估与威胁研究，Model Evaluation & Threat Research）：研究与评估前沿AI能力及潜在重大风险的非营利机构。 • Coefficient Giving：前身为Open Philanthropy的慈善资助与咨询机构，长期与Moskovitz夫妇的Good Ventures合作。它是EA相关资助网络的重要节点，支持全球健康、动物福利、疫情防范和AI安全等领域。 • Future of Life Institute（未来生命研究所，FLI）：研究并倡导降低先进技术重大风险的非营利机构，工作涉及AI等领域。它接受了Vitalik的重要捐赠。 • Centre for the Governance of AI（人工智能治理中心，GovAI）：从事AI治理与政策研究、培养相关人才的非营利机构。 • Machine Intelligence Research Institute（机器智能研究所，MIRI）：由尤德考斯基等人共同创办、长期关注高级AI与人类利益如何对齐的非营利机构，与理性主义及EA社群联系密切，也是本期提到的Vitalik曾支持的机构之一。 • GiveWell：通过证据与成本效益分析评估慈善项目、引导捐赠的非营利机构，主要关注全球健康与发展。 • Against Malaria Foundation（抗疟疾基金会，AMF）：主要通过资助长效杀虫蚊帐的分发预防疟疾的慈善机构，长期获得GiveWell推荐。 • PopVax：印度生物技术公司，研发疫苗和癌症免疫疗法。其疫苗项目获得过Vitalik的Balvi基金支持。 • Lighthaven：由Lightcone Infrastructure运营的伯克利会议与活动园区，经常举办理性主义、AI安全及相关社群的聚会。 • The Curve：围绕先进AI的发展、风险、经济影响与治理举办的会议，汇集研究人员、企业界、政策界及不同立场的参与者。 • Progress Conference：由Roots of Progress Institute主办，讨论科技、经济和社会进步的会议。 • Effective Altruism Global（有效利他主义全球大会，EA Global）：面向EA社群的系列会议，讨论如何通过研究、职业选择和捐赠更有效地改善世界。 • Zuzalu：Vitalik等人于2023年在黑山组织的临时社区实验，参与者共同生活、交流并开展活动。 • PauseAI（暂停AI运动）：主张在能够确保安全并实现民主监督之前，暂停前沿AI开发的国际草根运动。 • LessWrong：由尤德考斯基等人推动形成的社区博客，讨论理性思考、认知偏差、决策与AI风险，是互联网理性主义社群的重要平台，与EA存在思想和人员上的广泛交集。 作品： • Machines of Loving Grace（《充满爱意的机器》）：Dario Amodei于2024年发表的文章，讨论强大AI可能为健康、经济和社会带来的积极变化。 • The Sequences（《系列文章》）：尤德考斯基关于理性思考、认知偏差、信念更新、决策和AI等问题的一系列博文，是LessWrong及理性主义社群的重要基础文本，也影响了部分EA参与者。 • Rationality: From AI to Zombies（《理性：从AI到僵尸》）：以The Sequences等博文为基础编辑整理的尤德考斯基文集。 • Slate Star Codex（《石板星法典》）：Scott Alexander原来的个人博客，涉及医学、科学、政治、哲学和理性思考，是理性主义社群的重要交流与阅读平台。 • Astral Codex Ten（《星界法典十》）：Scott Alexander在Slate Star Codex之后开设的博客与newsletter，继续讨论科学、社会问题和理性判断。 • Don’t Worry About the Vase（《别担心花瓶》）：Zvi Mowshowitz的博客与newsletter，近年来大量追踪AI能力、安全研究、企业动态和政策。 • Harry Potter and the Methods of Rationality（《哈利·波特与理性之道》）：尤德考斯基创作的《哈利·波特》同人小说，设想接受科学与理性思维训练的哈利如何理解魔法世界。 • UNSONG（《无歌》）：Scott Alexander创作的幻想小说，将宗教神秘主义、语言和现实世界的运行规则结合起来。 • Snowmoon（《雪月》）：Vitalik创作并公开发布的小说。 思想和流派： • Effective Altruism（有效利他主义，EA）：用证据和理性分析，寻找最有效的助人方式。关注全球Lighthaven健康、动物福利等议题，部分参与者尤其重视AI安全。 • Rationalism（理性主义）：本期特指围绕LessWrong等博客形成的社群，强调识别认知偏差、根据证据修正判断。与EA联系密切，但不等同于EA。 • Effective Accelerationism（有效加速主义，e/acc）：主张加快AI等技术的发展，相信创新与竞争能推动社会进步，通常反对以灾难风险为由限制开发。 • d/acc（防御性加速主义）：Vitalik提出的思路，主张优先发展能保护人、分散权力的技术，例如网络安全、疫苗和空气过滤，提高社会抵御风险的能力。 【新播客：消费101】 《消费101》是《硅谷101》团队新开设的消费垂类节目，由资深消费记者&研究员麻花担任主播，是一档提供有趣、有料、有用的消费行业观察与品牌解读的播客。每周更新，欢迎关注！ 【硅谷101听友群】 在这里，和同好一起深聊科技、商业与未来，期待你的声音，也期待更多有趣的讨论。 扫码加入，即刻相遇！

【监制】 泓君 【后期】 Amei 【运营】 朱婕 【BGM】 DOX - Lennon Hutton Deadlock - Lennon Hutton Primary Code - Max Anson Estimations - Christoffer Moe Ditlevsen The Hoover Dam - Bonnie Grace Radar Focus - Blue Saga One Step Away - Dian Shuai Spring Dance - Forever Sunset Signal Containment - Out To The World Pulse Runner - Helmut Schenker 【在这里找到我们】 公众号：硅谷101 收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓FM｜荔枝FM｜网易云音乐｜QQ音乐 其他平台：YouTube｜Bilibili 搜索「硅谷101播客」 联系我们：podcast@sv101.net Special Guests: Afra and Vitalik Buterin.

[Source](https://www.xiaoyuzhoufm.com/episode/6ae27fabe9f449d465057f00)

中文简报

E257｜对话Vitalik：AI安全背后的哲学思想与有效利他主义的影响 节目全面梳理了有效利他主义从早期量化计算“捐蚊帐救人”演变为聚焦AI灭绝风险与政策游说的四次转向，剖析了理性主义认知工具与EA道德戒律的异同，以及Anthropic等头部实验室深厚的EA基因与资金网络争议。针对“赚取以捐赠”与SBF爆雷引发的道德套利陷阱，对话揭示了当慈善从“人对抗自然”转向复杂的“人对抗人”博弈时所遭遇的制度异化与公关泥潭。Vitalik复盘了自己早年资助防疟疾和长寿研究、紧急提取并捐赠数亿美元柴犬币（SHIB）的戏剧性经过，坦承受赠机构未来生命研究所（FLI）全面转向激进AI政治游说令其始料未及。最后，Vitalik尖锐解构了Anthropic等机构“好公司必须赢”的霸权逻辑，提出以开源和基层防护为核心的d/acc框架，并主张将AI安全视为一个依靠多元分权、相互制衡与经验摸索的“政治制度设计问题”，而非追求终极确定性的纯工程数学证明。 Anthropic 招股书披露 100 页前沿 AI 生存风险并设立“长期利益信托”，7 位联创掌控 50.1% 核心投票权且指定接替人名单保密，引发了公众对有效利他主义（EA）掌控未来治理权的广泛争议与地缘政治反弹。 (0:00) Vitalik Buterin 在 2021 年捐赠的柴犬币（SHIB）最终为未来生命研究所（FLI）与印度抗疫救助基金（CryptoRelief）兑现了 4.7 亿至 6 亿美元，但 FLI 随后转向激进的政治游说与排他性 AI 监管，促使 Vitalik 重新反思其资金走向与慈善逻辑。 (65:10) 针对 AI 军备竞赛与极权式集中监管的困境，Vitalik 提出了“d/acc”（防御性、去中心化加速）框架，主张通过开源、密码学网络安全与分布式公共卫生硬件来建立制衡体系，而不是寄望于单一公司垄断的道德防线。 (96:06) Vitalik 指出 AI 安全本质上是一个类似宪政的“政治制度设计问题”而非纯工程问题，应借鉴分权制衡（checks and balances）机制，让多个不完美的模型相互监督并在关键冲突时向人类确认。 (108:04)

Reading summary

本期节目通过科技记者 Afra 与以太坊联合创始人 Vitalik Buterin 的对谈，梳理了有效利他主义（EA）与理性主义从早期的量化行善演变为主导硅谷前沿 AI 安全叙事的全过程，并深入反思了科技精英以“人类长远利益”为名所引发的权力垄断与激励异化。 理念起源与演化转向 (2:25) 有效利他主义（EA）由哲学家 William MacAskill 发起，最初主张用严密的数据与成本效益分析实现行善最大化，如计算以每人约 2,000 美元购买防蚊帐阻断疟疾。其倡导的“八万小时”职业规划和“赚取以捐赠”（Earning to give）逻辑，虽促成了巨额慈善资金流，但也为华尔街量化交易员等从业者提供了道德减压借口，并在 FTX 创始人 SBF 涉案崩盘后暴露出“以崇高目标合理化眼前过错”的道德陷阱。过去十余年间，EA 从最初聚焦全球健康，逐步转向长期主义与生存风险，最终随着 ChatGPT 爆发全面聚焦于 AI 安全。Afra 指出，这一转向使 EA 资金与智库深度进驻华盛顿与前沿实验室，甚至引发了美国国防部“美国主义而非有效利他主义”的公开反制。 理性主义与EA的内在分野 (12:58) 外界常混淆理性主义（Rationalism）与有效利他主义，但二者底层驱动完全不同。以 Eliezer Yudkowsky 和论坛 LessWrong 为代表的理性主义是一套旨在克服认知偏差、探寻底层真实的思维方法论；而 EA 则是追求道德功利主义并紧盯投资回报的行动指南。Vitalik 指出，理性主义者更具极客与游戏精神，追求智力探索，“在机构中心里像不自由的猫”；而 EA 组织性强、深具政治与建制化野心，注重策略与公关形象。在 AI 对齐议题上，Yudkowsky 虽早早提出了“价值脆弱性”与“正交性假说”（智力水平与终极道德目标相互独立），但随着 EA 资本的涌入与机构化，部分早期理性主义者与当下的商业化、政治化游说派已产生明显隔阂。 实验室裂变与资金利益绑定 (15:59) 前沿大模型公司的阵营分化深深烙印着 EA 的印记。Anthropic 由 Dario Amodei 等 7 位前 OpenAI 核心成员因安全路线分歧出走创立，其招股书中“安全”出现 248 次，并设立“长期利益信托”平衡商业利润。然而，独立评论者披露其测评机构 METR 获得了 Dustin Moskovitz 旗下基金的资助，而该资助方同时持有 Anthropic 巨额股份，引发了“安全评估是否沦为商业合规遮羞布”的质疑。此外，Vitalik 审视了“好公司必须赢”的逻辑悖论：Anthropic 为了在竞赛中超越对手而推出 Claude 3.5 Sonnet 和 Opus，反过来倒逼 OpenAI 加速研发，客观上加剧了白热化的 AI 军备竞赛；同时，头部公司以安全为由公开游说打压开源 AI，其论调与其商业利益存在高度重合。 捐赠实践反思与d/acc框架 (70:00) 回顾自身在 2021 年变现柴犬币（SHIB）的大规模慈善捐赠，Vitalik 坦言受赠机构的后续发展偏离了预期。未来生命研究所（FLI）在兑现数亿美元后，将重心从多元生存风险急剧收窄至单一的 AI 议题，并转向激进的立法游说，引发硅谷反弹。这反映出慈善从“人对抗自然”（线性救助）转变为“人对抗人”（政策博弈）时，极易陷入资本干预政治的公众质疑。为打破“闭源极权”与“盲目加速（e/acc）”的两极对立，Vitalik 提出了“分布式防御加速（d/acc）”框架：主张防御优先（如投资抗攻击密码学和普及型公共卫生监测设备）、去中心化赋能普通人，而非将生存防护寄托于少数中心化机构在黑盒大模型内部打补丁。 AI安全作为政治制度设计 (108:04) 面对前沿 AI 研发深陷黑盒与“认识论危机”，Vitalik 拒绝给出极端的 P(doom) 毁灭概率（自身主观估算约为 10%），认为技术落地周期、对齐本质以及地缘政治博弈存在多重不确定性。他指出，如果未来模型脱离人类可读的自然语言思维链、转用纯内部浮点数构成的“Neuralese”推导，其可解释性将大幅衰退。对此，Vitalik 颠覆了将 AI 安全视为纯粹工程与数学证明的传统视角，提出应将其视作一种“政治制度设计”：依靠多个不完美但各具特性的子系统相互分权制衡（checks and balances），设立防火墙与沟通机制，并在关键节点适时向人类确认真实意图，通过实证与经验主义摸索人机共存方式。 当前 AI 发展正处于黑盒膨胀与寡头竞逐的历史迷雾中。辩论的核心不仅在于技术细节，更在于谁有权代表全人类垄断对风险与长远利益的定义权；唯有引入分布式韧性、机制制衡与多元公众监督，才能防止崇高的安全愿景异化为少数精英的集权工具。

Source quotes

[28:09] Vitalik Buterin: 你未来的自己永远会背叛你现在的自己。 [44:19] Vitalik Buterin: 善良这个概念不是宇宙的一部分，这是一个人的进化制造的概念。 [75:00] Vitalik Buterin: Man vs Nature 其实够简单，Man vs Man 是特别复杂的，因为你在对抗的那个挑战是跟你一样聪明的。 [70:00] Vitalik Buterin: 现在更大的问题不是研究 AI safety 的人不够，而是那些 AI 公司里面很多的 incentives，就是很多的激励都是比较 broken 的。 [81:01] Vitalik Buterin: 理性主义者，他们的心里他们就是猫。把他们放到一个机构里，他们就会不开心，他们会觉得不自由。 [96:06] Vitalik Buterin: 他们一开始是 OpenAI，然后他们 sacrificed openness for safety，然后他们 sacrificed safety for acceleration。

Original transcript

[0:00] Hello 大家好 欢迎回到硅谷101 我是一文相信大家都看到了本周Anthorpic提交的招股书在这份文件里Anthorpic透露了将近100页的风险因素除了常见的金融和市场风险之外还包括了关于前沿AI所带来的灾难性甚至威胁人类生存的风险这样的表述Anthorpic说他们自己也无法保证自己的安全措施一定有效发现"Safety安全"这个词一共出现了248次,其中"AI安全"这个词出现了36次。招股数还披露上市后,七位联合创始人将通过特殊股份,掌握一般表决事项50.1%的投票权,与其同时还有一个叫做"长期利益信托"的机构,有权选举董事会的多数成员。这套安排的目标是让公司在追求商业利益时,也考虑人类的长远利益。但有媒体还注意到了一个细节那就是创始人可以提前指定在自己失去履知能力后,由谁接替自己的投票权这些人选需要经过内部批准但名单是保密的也就是说公众目前并不知道未来谁是有可能参与Anthoropic决策的人在消化Anthoropic招股书巨大的信息量之后啊我呢有两个出故的想法第一就是AI安全对于Anthoropic这家公司的重要性很明显啊再一次展现在了公众面前但第二呢我担心的是如果他们的警告成真那作为公众我们是否应该有权知道谁能够代表人类来做决定呢对于安全的重视以及围绕他的信任和权力争议就要提到一个近期反复出现的概念那就是有效利他主义Effective Altruism简称EA就在这个月经济学人把EA放上封面称它为本世纪最重要的思想,一些报道指出围绕AI安全政策,AA的支持者与我们播客里提到过的科技右翼发生了冲突,甚至特朗普政府也加入了争论,美国国防部在社交媒体上直接喊出了一句口号。美国主义而非有效利他主义,一个听起来还属于哲学讨论的概念,就这样成了美国政府公开划清界限的对象。EA并不是一个新的概念,要理解它我们要先认识两个人,他们的名字也会在这期节目里反复出现。所以这一期的开头和我们平时的节目比呢会稍微长一点,也是因为我想把这些人物和概念先给大家整理清楚便于收听第一位呢就是William McCaskill中文通常一作威廉·麦卡斯基尔,他是一名哲学家,曾任牛津大学哲学副教授,也是有效利他主义运动的共同发起人之一。他提出的问题很朴素。如果我们拥有的钱和时间都有限,怎样才能帮助更多人呢?比如同样一笔钱捐给不同的慈善项目能挽救的生命可能相差很大那我们能不能用证据和分析找到最有效的选择他还共同创办了一个叫做8万个小时的职业咨询组织一个人的职业生涯大约有8万个小时我们应该怎样使用这些时间才能给世界带来更大的改变很多人上一次听说EA可能还是因为加密货币交易所FTX的创始人SBF他曾经以赚钱是为了捐钱的形象成为这个运动最受瞩目的支持者之一FTX崩塌后关于EA尤其是针对Macasko的批评也随之而来当一个人声称自己要为全人类谋福利是不是反而更容易为眼前的伤害找到借口但SBF的倒台并没有让EA的故事结束这里就要提到另一位关键人物就是Eliza Yudkowski爱丽泽·尤德考斯基他是一名长期研究AI安全的写作者也是互联网理性主义社群的重要奠基者他参与创建的Lethron社区名字直译过来就是少错一点反复讨论的是人为什么会犯错我们怎样发现自己的认知偏差当新的证据出现时又该怎样修正原来的判断这里所说的理性主义是一套希望通过训练让人更准确地认识世界在不确定中做出更好的决策的方法这也能帮助我们理解它与EA的联系理性主义关心怎样想得更清楚判断得更准确EA则是把证据和推理用在了一个具体的道德目标上两个社群有很多交集但EAR也有自己的伦理学来源不能简单的说它是理性主义发展出来的一个分支后来这两条思想线索在AI安全上交汇了有的考斯基很早就在追问如果我们造出了比人 [5:00] 更聪明的机器该怎样保证它追求的目标与人类的利益一致呢而在一部分有效利他主义者看来如果AI真的可能威胁整个人类的生存那么防止这种灾难会不会比其他事情更值得投入资源这些讨论也进入了AI公司的早期思想事件Nick Bostrom的《超级智能》就是其中一本重要的书Sam Altman曾经公开推荐过他也写过自己对超级智能风险的担忧Amoday则很早就参与了有效慈善实践,与EA圈子联系密切。后来她和一批同事离开OpenAI创立Ansopic。对AI安全和公司方向的分歧就是其中的重要背景。Daniola Amode的丈夫 Holden Karnovsky是EA慈善组织Gibwell和OpenPhilosophy的联合创始人。在这个圈子里汇聚了很多有影响力的人物包括以太坊的联合创始人Vitalic Buterin在中国大家把它称为VisionVitalik长期关注并且资助全球健康等议题2021年他向未来生命研究所捐赠了一批加密货币据他后来的回忆呢这笔捐赠最终让机构兑现了大约5亿美元但在这次采访里你也会听到他对这个圈子的一些做法和EA的思想已经有了不同的看法所以这一期我们请到了Vitalik本人以及他的朋友写作者和科技记者Afra我们和他们一起聊聊一个从怎样更有效的做好事出发的思想如何走到了今天AI发展的中心而当人们开始以全人类的未来为命决定资金技术和权利的方向我们又该怎样理解他们的理想以及其中的分歧这期播客我们分为两次录制我和红军仙和Vitalik Afra一起聊了Vitalik参与这些社群和捐赠的亲身经历以及他今天的反思之后呢我们又和Afra单独录了一场请他从自己的观察出发介绍McCaskill、尤德·考斯基这些关键人物梳理EA与理性主义的关系以及他们如何影响了今天的AI安全讨论节目里呢,大家会先听到我们和阿法的对话,再进入和Vitalic的讨论。有了前面的背景,后半段提到的人物和事件也会更容易理解。另外Vitalic虽然是加拿大人,但中文很流利,所以这期节目全程用中文录制。最后我们用英文提到了很多人物和机构,这些名词呢,我也列在了show notes里面,大家可以对照收听。YouTube和B站就能看到还有字幕的播客版本MING PAO CANADA // MING PAO TORONTO阿弗拉,介绍一下自己吧大家好,我是阿弗拉我是一个写作者然后也是一个科技记者主要报道的是中国还有硅谷AI的一些故事我们今天聊有效利他主义要不我们就先从EA这个词的定义开始吧就是阿发你觉得你是怎么理解EA这个思想的对我觉得EA他自愿意就是有效利他主义怎么能够体现一个所谓的EA的逻辑就不得不提到一个人就是牛津的一个哲学副教授叫做Will McCaskill他之前创立过一个组织然后我觉得这个组织其实能够体现很多的这种EA的精神这个组织的名字叫做80,000 hours就是8万小时这个组织它其实是帮助年轻人就是正在寻找职业方向年轻人去找到一个对的方向所以它有很多这种就职业导师啊然后有很多这种关于职业的资源有很多这种job posting现在80,000 hours虽然已经变成了一个跟AI职业很有关的一个东西,但是我觉得这个项目的名字非常能体现EA逻辑,就是说一个人一生的工作时间加起来大概是8万个小时,那么你如何把这8万个小时当成一个有限的资源,你会怎么分配这8万个小时才能给世界最大的改变,这个问题一旦问出来。整个EA的整套思维方式就在里面了就是说你在一个有限的你所拥有你能够支配的这一套资源当中如何能够最大化的去使用去分配你自己可以去使用的这些资源这些人非常有agency他就非常有能动性他们执行力很强他们的野心也很大因为他们经常就会在琢磨一些像是我有八万个小时我应该怎么做这样的事情上然后但是我觉得这个问题其实很多人他不太会考虑的所以我觉得EA某种程度上他精神还是非常启发人的你觉得总体来说就是有哪些话题是EA会比较关注的怎么说呢我其实需要把EA的就影响全球格局的这么十几年时间分成大概四个阶段然后他其实每个阶段关注的重点都不太一样第一个阶段就是所谓的这种文章时期,然后这个时期就是你用非常详实的可量化的证据去改善做慈善的效率,然后去影响就比方说全球的健康指数,然后这是一种可以测量的善,它是一个这种证据来支持和数据来支持。 [10:00] 因为在EA刚刚成立的那段时间里许多人想要行善许多人想要通过finanthropy去捐钱但是finanthropy的这个效率非常低下以及他们捐的钱就捐不到位但是EA纪群他们就想用一个能够可以量化的一个科学的方式把这个权捐到位然后去最大化它的这个价值然后所以就是这个文章时代的来源然后这个文章也就指就是文章是一个你捐多少多少钱就能够挽救多少多少个生命的一个最最有效的方式然后接下来呢EA的下一个阶段就到了叫做所谓的长远规划时期然后这个长远规划时期大概是在2015年左右发生的就是这群人开始以不成比例的去研究这种存在风险和关于未来世代的一些问题资金和机构也开始扩张然后他其实也不再关心一个文章能救多少人而是关心未来几千年几万年人类的世世代代的子女这些人的这种生活质量和生活标准然后所以就大量的资金同时也是就是SBF然后以及很多其他的这些富豪的资金在这个阶段进入了社区然后我觉得可能SBF是这个时代最极端的一个象征因为他自己就是一个非常非常关注这种long termism问题的这样的一个人就我读过一篇关于Will McCaskey纽约课的profile然后里面就读到的一个我自己读完之后我的一个判断是SBF可能是整个EA转向长远规划这种long termism的决定性因素之一然后接下来就是整个社群的声誉崩盘的这个时代出现了很大的信任危机然后大家也开始去反思就是EA的群体到底出了什么问题然后同时呢XGBT也诞生然后也带来了一个AI的转折所以之前EA还有理性主义群体讨论的这个AI风险生存问题突然变成了一个更多人关心的问题所以这个阶段呢我觉得它是一个也有很多挫败但是有很多曝光的一个情况就是首先他曝光出了非常多比方说Will McCaskey本人的识人的失败就是他自己本人一直被社群的批评也是他现在仍然对SBF的反思不够或者是以他当时一直在庇护SBF但是这个时期也是一个真正的就是让EA变成了一个就像是经济学人所说的一个对21世纪影响最重要的一个思想流派然后再接下来就是我们现在熟知的AI safety error,然后我觉得是AI安全的这个时代,让大众包括我爸我奶奶这样的人都能够听说有效利他主义这个词,是因为AI safety成为了他们最核心的一体之一,然后整个EA的网页通过,一是有很多的成员就是在这种前言实验室的员工,然后包括大量的资金去资助AI safety的这个事情,使得整个EA的圈子和政策圈和国家安全的圈子和华盛顿的一些圈子发生了交汇,也导致就川大总统比方说美国国防部会发推说啊我们美国肯定不会变成EA的啊EA不行怎么怎么样对我觉得就是我们当下的这个阶段是一个EA的一个新的阶段有新的挑战但是它也是一个最进入到的这种公众意识当中的这样的一个时代嗯嗯嗯你刚也提到了理性主义这个社群因为其实我们很多时候是把AI安全和理性主义者联系在一起的是因为他们之前有Lizer Yulkowski这个人然后他自认为是一个理性主义者反对EA思想的声音但是呢现在这两个社群之间又好像有一些重叠能不能具体跟我们解释一下就是理性主义者和有效利他主义者他们有什么区别然后有什么一样的地方嗯对你如何去最大化的行善你最有效的做altristic的就是这种利他主义的事情这个思想的源泉其实就是理性主义本身这其实是一个大的合集当中的一个分级effectual altrism它其实是在就是某套思想体系当中地位的但是EA说白它是一套道德主张但是Russianism它是一套认知论和思维的训练这两个是不一样的就是当你给自己冠上了就是我是一个EA我是一个柳效利他主义者的时候这是一个有点类似于宗教或者说道德主张的这样一个词汇就是你就变成那样的一个人但是Russian其实是一个怎么去看这个世界怎么去想这个世界的方式然后他研究的是贝叶斯的认知论他研究的是认知科学甚至很多是互联网文化这个群体他关心的问题更加像是一个思维方面的原思维的这种辩论就是人如何在不知道自己不知道什么的时候做出更好的判断就是人类为什么会有认知偏差对吧我们怎么去更新自己的信念怎么在不确定的情况下做出更好的判断其实Rationalism它没有人会到处跟别人说自己是Rationalism但是我觉得EA它会给你有一个这种就是这种成员的身份感和社交感然后它只是一套你自己要做很多事情而且你做的事情需要有很大的回报然后这个回报又反回来加强你自己是谁的这样一个东西所以就你会看到Restinals这个community这个社群会变得越来越小越来越微弱但是EA这个社群会变得越来越大而且越来越有影响力其实 [15:00] 就是因为他们想要做的事情是完全不一样的对对对就像你刚才说的EA感觉是一种生活方式或者就是一种行动的指南吧因为它本身是从一个慈善运动开始发源的嘛所以就是如果你认同自己是一个EA你是会去做相应的事情的没错我就是很多EA比方说EA它成员内部本身有很多小圈子大家都是天使投资人然后相互会给对方喂一些讯号说这个公司要融资这个公司怎么样然后要不要投要不要投其实EA也有一个自己赚钱的这些小圈子也有非常多的alpha就是说未来非常有潜力的这种公司的比方说关于股票啊或者是关于原始股的一些信息然后其实很多EA的社群当中的人他对赚钱这个事情是很敏感的然后他对捐钱这件事情也很敏感我觉得EA对我来说可能最大的一个感受就是它更像是一个社交的一个有点宗教兴趣的小圈子而Rationalist的话是没有人要求你到底要不要对这个组织有什么忠诚感的因为Russian它本身就是一套认知论和方法论我觉得我们讲一下AI安全对这些Frontier Labs的影响吧就是因为这是我们现在作为普通人关注到EA比较常见的一个方式嘛你觉得这些包括OpenAI和Anthropic这两家Lab的创始人,他们是不是都在不同的程度上受到了EA思想的影响,然后这个具体是他们当时接触到了什么,包括什么样的文本,什么样的人怎么样去塑造了他们对于做AI做Superintelligence这件事情的最初的想法。嗯在这里我就陈述一些我自己平时刷推或者是志愿片语或者是平时看书读到的一些东西就是如果用BA的这个滤镜去审视Anthropic和OpenAI这两家公司的话那么Anthropic是非常EA而OpenAI是不是很EA的这个公司我觉得这是一个很重要的区别是因为Anthropic的七位创始人当时是都在OpenAI工作的但是他们是看到的OpenAI不够有效的去管控这个AI可能带来的风险然后他们都觉得忧心忡忡他们觉得不行我们不能在这家公司待下去了因为他们对就整个AI安全就是当时EA的一个非常强烈的一个主张不够重视这几个open AI的员工然后于是他们就决定就是自己出去单干于是Dario就召集了一些他认为跟自己理念比较相同的人然后就出去成立了安斯博普这个公司然后安斯博普这个公司的本身的名字也是这个人本主义人本公司然后也就招视着他们成立这家公司的初心就是去做一些和OpenAI非常不一样的事情然后安斯博普的里面的成员Dario本身是非常的EA我知道因为他之前就比方说给Gavewell捐钱啊什么的然后他自己也经常会在自己的博客里面提到他自己对于这种就是更加有效的用AI去制造他会发一些这样的文章就比方说Machine of Love and Grace这样子的文章然后这很能体现一个EA是怎么想事情是怎么看待这个世界的同时就是这个公司的另外一个创始人叫做Chris for Olaf也是对他的影响很深的一个人然后他自己应该也是一个很EA的人阿菲尔不知道你最近有没有关注到就是Anthelopec还有一些安全审计机构和EA的关系呢我们知道9月Jaco Coxon这个研究员从Anthropec辞职之后啊其实有一个叫做Kevin Bass的这个独立研究者他在X上梳理资金链,他主要看的就是Anthiopic去安排给他做独立安全审计的这样一个机构叫做Meter。他就说呢Meter还有其他的一些安全机构他们的资助方同时也是Anthelpet的早期投资人,他就是Coefficient Given这个机构的创始人Dustin Moskowitz。然后它呢,持有大量的Anthorpec股票,所以这个所谓的独立评估啊,实际上可能是和Anthorpec的成功利益绑定的。那这样一来呢,其实网上就有很多声讨EA的声音。很多人开始质疑所有的安全机构的资金来源,我想知道你怎么看待这些质疑呢?就是因为Jacob这个Twitter火了之后大家才开始签出来就整个这个EA对于AICP的资金注入然后其实大家就开始编造各种阴谋论对于我来说其实是一个阴谋论你为什么觉得它是一个阴谋论像很多传统媒体他就会质疑说这些资金流向的这些组织到底有什么目的到底有什么隐藏的议程在我自己看来我觉得一定会有某种异程的投授但是EA这群人的异程是什么呢就是他不想让AI变得不可控同时造成让人类无法承受的火锅这就是他们的异程其实没有什么隐藏的异程最近就是前纽约时报的一个很有名的记者同学是波克哈佛克的主持人凯文洛斯他写了一本书这本书叫做AJI Chronicle这本书凯文在写作的时候他就拿了一些有EA背景的钱于是就有很多人都质疑说你这本书的钱的来源是不是不明白是不是你是一个接受了EA的钱你就一定要去把这个议程写进书里的这样一个事情但是我觉得最大的问题可能是就是当时的书 [20:00] 一个思想运动有了这么多钱以后他到底是在发现最重要的问题然后他同时也是开始在参与他决定什么问题会被认为是重要的我们现在其实已经生活在了一个EA这群人的很早他就跟我们说过的他们要做的这个事情的后果当中就他们很早就说AI安全这个问题是重要他们很早就说过我们要往这个里面注入很多的钱我们要创造影响力我们现在就生活在这个影响力当中多吧我见过一些华盛顿的传统智库他甚至很难招聘到合格AI政策的分析员因为年轻的这些人才有能力的人才他都流入了这个EA赞助的各种智库和各种组织中如果你是一个比方说20岁出头的一个年轻的研究员,你刚刚从学校毕业,拿了斯坦福的PhD,你想要研究AI的经济。然后你会发现AI alignment和AI safety这个领域有大量的fellowship有大量的grant有很多这种research positions有很多给你的这种岗位而且你能拿到很不错的这个年薪而且这些机构只管给你钱也不怎么关你的研究方向而与此同时其他的研究机构就没有这么多资源也没有那么多的给你的自由程度你在这个AICT的这些机构当中也没有人要求你改变信念所以我就见过的越来越多这样子的年轻人逐渐被跟ASAP有关的这种所谓的代引号的EA机构所吸纳然后我也见过越来越多就是因为跟这些机构就每天跟这些人不断的见面然后讨论就是问题然后从而被safety pill的一些非常聪明的人但是从我的观念来看就是我认为被safety pill就在现在这个阶段被safety pill是一个很正常的一个事情即使你对AI安全问题不是那么关心我觉得你就每天的各种普通的新闻看各种电视的报道你也会被Safety Pill嗯 我知道你其实会经常去伯克利还有旧金山一些EA的组织或者我们把它叫做理性主义的组织然后我还听说就是在旧金山,比如说我们刚刚提到的Meter的这家组织,如果你要进去参加一些类似于比如说Antherapic或者是研究员的活动,你说自己我不是一个EA主义者就他们会问就你说你不是EA你可能连旧金山的很多活动你都进不去我觉得EA也很有意思就是你问一些人说你是EA吗他们说哎呀我也不是EA但是我跟他们的人走得很近就没有EA的人天天把自己是EA挂在嘴边的其实有很多我的EA朋友他们很EA但是他们并不觉得自己是EA成员我觉得这个也是很有意思的伯克利是一个怎样的氛围我觉得伯克利是不是它更偏向于理性主义的社区我知道有一个组织那个light heaven大家也经常聚会办活动它跟旧金山的氛围还不太一样对我觉得现在伯克利它已经自成一个体系了就是伯克利有非常多可以AI安全呀第三方的这种审计机构或者像meter这样的组织就是伯克利已经有几十家了说实话然后light heaven它其实是一个理性主义者和一些EA赞助的活动场所吧然后它是在伯克利有大概六到七个独栋的房子就是你在里面可以听讲座然后在里面可以自由的social然后在晚上还有篝火什么的然后你可以在上面考这个棉花糖Lighthaven就是被看作是这个AI safety和EA还有理性主义的一个大本营然后我自己会偶尔去Lighthaven开一些跟AI相关的一些会然后去认识一些人我两个星期前刚刚从两个会议回来其中一个会议叫做的Curve然后另外一个会议叫做Progress Conference一个是关于AI以这个curve就是成这种爆炸式的水平发展的这样一个跟前沿AI研究很相关的一个会然后第二个会是Progress Conference它更加主张的是要推动社会的进步然后就很像是Azhar Klein写的Abundance这个富足就是如何我们用现有的科技去营造一个更加富足的更加有未来感的一个社会它其实讨论的是各种前沿的科学研究比方说如何教育下一代对未来更加有信心就是讨论的是这样的话题就是大家在讨论的时候对很多比如说推动事件的进展啊推动AI是加速发展还是它应该慢一点那在真正对事情的影响上呢会有强大的影响力吗我觉得会我记得去年的curve就是关于这个前沿AI的会议其实有很多华盛队就国会的人在然后也有很多加州的政府啊然后这些议员们在The Curve它其实带来的这种群体交易还是挺明显的它是一个华盛顿和硅谷最好的一个Van Diagram就是Van Diagram就是叫两个圈圈碰在一起然后一个圈圈和圈圈中间的那个相交的地方就是Van Diagram所以我理解他们的影响力可能是在推动政策推动监管上是的没错那理性主义的社区呢我觉得理性主义的社区就更佛系一点理性主义人他其实不那么想要去寻求影响力就是impact所以理性主义社区那些人他们还是像 [25:00] 之前那样大家就谢谢博客,然后研究研究这个研究研究那个就他没有那么多现在硅谷所说的4D chess 就是4D象棋他们脑子里面没有那么多哎我今天要做A然后可以达到B然后所以我能最后达到我的目标Z但是我要怎么怎么逆向工程一下这个事情啊我怎么怎么样Rationalism他其实没有那么多宏大的计划Russianless还是很可爱就像是Vitalik说的Russianless他们就喜欢做自己爱做的事情,有很多人对他写小说,写博客,讨论一些很nerdy的一些数学问题,讨论一些很nerdy的AI的问题。然后我看你之前还去伦敦参加过一个叫做Golf AI Fellowship的项目,你是有见到我们刚刚提到的EA的一个精神领袖叫做Will Max Gill。你是有见到他有跟他们交流吗我见到Will那个McCaskill应该是在The Curve见到的其实他在这个AgaVeA这个组织当中他算是一个导师但是我从来没有在办公室因为我那个fellowship就三到四个月就是在伦敦的那个King's Cross十字国王那个车站旁边我本来当时还挺期待见到他的因为就是在网站上他是导师之一但是我反而是在加州见到了他因为听说他要搬来就金山了就是在牛津待了16年以后终于要搬到九金山了对我就是第一次见到了Will然后我跟他聊了十几分钟吧我觉得他身上几乎浓缩了EA过去十几年的很多的思想变化纽约克的Gideon Lewis Krauss在2022年给他写过一篇非常好的Profile,这篇Profile大概七八千字,然后文章里面这个Will本人尤其是刚刚开始创立EA的这些组织的时候,他有一点先知和那种苦行僧的味道Gilliam他自己作为一个作者然后他自己也有写到就是说你在Will周围你会有一种我应该去行善的道德压力因为Will他的吃穿住行非常的朴素而且他还不断地在捐自己的收入你觉得他对整个EA圈核心影响是什么就是一个精神领袖对他算是一个EA的精神领袖同时他也是创立了牛津的一些核心EA组织的这样的一个人他在22岁那年的时候遇到了一个澳大利亚教授叫做Toby Ord。两个人一拍即合就Toyle Orr他是一个非常注重EA然后也非常注重这种Long Termism的这样的一个人Will就是当场就在22岁的时候他就承诺说我要自己要力所能及把自己的财富永久地捐出去然后他非常愿意把自己的未来的自己绑住的想法这也是之后很多人会不断地在批评的一点就是说EA他有一个我和我未来一个更加富有的自己去签订合约去做我现在的自己想要做的事情但是我记得Vitalik对于EA的这种理念的批评就是你未来的自己永远会背叛你现在的自己因为你十年二十年之后你的想法会变你的行为会变你身边的朋友你的圈子会变你想做的事情会变你怎么能够保证你未来为了今天你想要行的善而变得更加富有的自己能够执着的坚守你今天承诺的事情呢但是这就是当时的Will他说我要把自己的收入全部都捐出去我觉得还有一个EA它其实在刚刚设立的时候几年之后就出现了占领华尔街的这个运动然后在占领华尔街如火如荼的时候就是当时的这种道德主张就是华尔街的这些人是吸血鬼他们是造成了美国的很多中产和更加底层的这样的一些人的生活更加拮据甚至毁掉他们这些生活的这些邪恶的人对吧但是当时Will在那个牛津大学发表了一场题为医生非政府组织工作者还是其他什么就是哪种职业能够更加造福社会的这样一个演讲其实是在帮助当时牛津的这种刚刚毕业的学生去思考以后应该从事什么职位同年他也创立了8万小时的项目他其实做的事情就是想要为一些本科生提供这种道德生活优化的一些建议这个时候呢他提出了一个观点就是说就是你们这些牛津的这些经营院校的学生们你呢如果想去造福这个世界你可以选择在贫困国家当医生但是你这个医疗生涯当中你八万个小时你能救多少人对吧你可能会拯救相当于140条生命但是呢你也可以加入这个非常邪恶的华尔街然后你或者是邪恶的这个咨询行业你通过明智的捐赠你可能你拯救生命的数量可能是前者你在贫困国家当医生的十倍因为你能够捐那么多钱然后你能够买很多很多文账然后每个文账可能都可以救很多人所以在当时在华尔街最有道德污点最臭名昭著然后最没有办法去吸引到精英学校学生的时候其实是有些人听了Will的这个道德建议而去投身进了华尔街我觉得之所以有效的利他主义能够被SBF像Jane Strait这样的一些交易者所吸引其实也是他们其实在试图用EA去弥合某种道德错位感觉,他们会经常可能会扪心自问说我做这件事情 [30:00] 那是有意义的吗就是这种疯狂的不断的做量化交易然后去赚钱通过各种杠杆啊各种措施去赚钱我真的做得真好吗但是如果我把这个全捐出去那么我做的事情就是好事了对吧EA的这套主张会给很多在华尔街做一些最大化利益的一些人提供了一个借口这个借口就是我其实是过来是做善事的这个借口是一个非常会被人利用或者是被很多人去剥削的一个事情这个点很精彩对然后呢在2015年Will McCaskey受聘成为牛津大学的最年轻的教学副教授他当时只有28岁在同年的夏天他的八万小时项目也被YC所接纳然后柳效利他主义的这个全球峰会在谷歌总部举行就像从Elon Musk然后到很多其他的这种硅谷富豪都出席了其中的一些panels然后比方说Mask就出席了当时关于人工智能小组的这个讨论我觉得可能2015年的这个EA是某个方面的一个顶峰吧可能在这个Will McCaskey的眼中可能这是一个顶峰因为他其实EA的这套哲学思想已经渗透到了然后最富裕然后也是最有资源最能推动社会往某个方向走的这一群人对我注意到EA整个的起源是在牛津大学但是它后面的发展包括你刚刚提到了像今年威尔麦克斯基已经搬到硅谷来了这说明了什么我觉得这说明就是EA本身的核心的主张和核心的想要做的事情已经完全变成了AI safety和之前已经不是很一样的之前的所有做的事情比方说预防全球的疾病啊或者是提高行善的效率啊关注其他意义上的生存风险啊就是到现在其实已经很难找到了就基本上所有的EA的这种关注点和精力其实都已经放在了AI safety或者说AI safety已经不成比例的被放大了我怎么觉得EA也在追热点我觉得热点是被EA创造出来的就我觉得我们现在生活在一个EA在很多年前就已经规划好的一个现状当中有意思就是EA其实在很多年前就已经说过了说我们就是要花这么多钱去做这么多的impact我们现在就是要而我们现在已经活在了EA所创造的他们impact marketing的世界当中了你会对外说你自己是EA吗我不会因为我真心觉得我不是我很关心AI safety但是我不是EA比方说我不会捐钱我觉得我自己现在做的事情还不到我自己能够去捐钱或者说过度的去考虑全球范围内的一个我应该行怎样的善这样一个地步我自己最感兴趣的是EA的哲学和他们的这个intellectual的世界我对他们来说就可能是一个想写一群很有意思的人的这样子一个知识上的一个吸引就像是我自己也会很关注比方说在旧金山认为AI会替代人类的这样的一群人就我会很喜欢关注这些奇奇怪怪的这些群体但是你有接受过EA的钱吗就比如说你刚刚提到这个伦敦的Fellowship的这件事情他们应该是有一个资助的还是说这个要自费去的这个是有资助的这个其实也没有那么多钱大概就是一两万的英镑因为我当时在伦敦我不需要在伦敦付房租所以这个钱我并没有拿来付房租但是这个钱然后如果是让一个年轻人在伦敦住四个月的话其实甚至都不是很够房租的钱在伦敦这个物价这点钱是算不了什么的所以我觉得很有意思就你刚刚说你不是EA是因为你觉得从EA的核心理念来看你可能还没有到你可以把你的钱捐赠出去的这样的一个实践者但是其实你同时又是被EA的思想吸引的就是你觉得这里面的很多在知识上的东西它是有带给你在精神上的不管是愉悦感还是你觉得你可以有很多的东西去探索我在想这是不是也是很多我们接触到的EA群体大家一个比较共性的画像跟吸引他们的点我觉得EA它有一点很吸引我的地方就是我其实在某种程度上我想要在形式上更加EA一点点是因为我觉得EA这些人他能够把自己想要做的事情和自己想要对这个世界带来的影响能够转化成对自己要做什么的某种激励,就是说有点类似于就是先做人再做事,有一点点燃的是你自己心里面的一个火苗因为我会发现就是很多EA的人他自己想要做的事情他其实并不先管我想赚多少钱而是先管就是我想要做什么事情然后再去想要我怎么去搞到这些钱或者我怎么去实现这个事情就我觉得这是一个很有意思的点就像是我同样也会被AI创业的这种氛围所吸引或者微博这种founders这种文化吸引一样很多founders他其实也是这个理念我想要创建一家什么样的公司然后我再去想融资这件事情然后我再去想就是我怎么去具体操作这件事情就是我觉得这很多逻辑是很像的maybe这也是为什么硅谷和EA一拍即合的原因对吧硅谷很多这种一般复工和被EA的这种理念非常 [35:00] 吸引了这样因为我觉得夜夜它首先他做的事情是让你很有野心的去在你心里面去画一个你对未来的图景然后你再回到现实让今天的自己去实现那个你画出来的途径我觉得这是一个很有意思的一个思想和行动的一个指南其实我们知道现在在整个EA里面大家关注AI safety大家的主流立场是我们应该尽量去减换AI的发展就是至少说我们在保证安全以前AI它不应该那么快速的发展相对应跟他立场相反的就是我们说的EX派,就是以A16Z为代表,他们是希望能够加速AI的发展的,所以刚刚其实你有提到比如说在2015年,然后有效利他主义他的全球峰会是在谷歌举行的,伊朗马斯克他也出席了他们的活动,但是我觉得今天站在这些创始人各自不同的立场上,可能有些人认为我们还是要去让AI加速发展因为它已经变成了一场竞赛了但是同时安全问题也是大家关注的一个非常重要的点所以你觉得我们应该因为AI安全的问题,现在减缓AI的发展速度吗?我首先先想要回答你刚刚说的就是EAC和EA之间的一个张力就是EAC这群人他其实和EA是很不对称的EAC它其实完全没有形成一个真正的力量就是所谓的ACC那群人认为自己是有效加速主义者是EAC它其实是一个没有那么清晰的现象就是EAC其实在很多人眼里是一个Meme它是一个在网上的一个hashtag它其实不是一个真正的行动力量而EA它是一个真正的行动力量其次就是对AI safety这个事情呢我觉得我过去的在开完这个的Curve还有的Progress Conference就是这两个会之后然后我自己也和Open AI和Anthropic的十几二十个researchers聊了天之后我觉得我自己对于AI safety有了非常多新的理解吧我变得更加愿意去相信RSI,也就是AI的自我迭代,自我进化的这个速度。和现在的RSI的进化曲线是一个让我觉得有点忧心忡忡的事情了然后有好几个研究员都跟我说就是过去一年AI的进步甚至已经超过他们自己原本的预期对我觉得现在就是一个前沿的AI发展是一个很严重的认知论的问题然后这个认知论我不知道该怎么解所以我觉得可能现在放缓一个AI的发展尤其放缓RSI的这个发展可能是一个好事就是让大家大家先坐下来相互说一说就是到底应该怎么办到底发生了什么我们能不能用人话把这些事情解释清楚然后再去进行这个疯狂的AI race嗯哦非常精彩最后这一段那谢谢Afra好谢谢我们看到了EA怎样从一场讨论如何更有效的做好事的运动,逐渐影响了今天的AI研究,资金流向甚至政治移成。这些思想能够产生今天的影响也离不开背后巨额资金的支持。比如当下最大的慈善机构Coefficient Given,从2014年以来累计推动的拨款已经超过70亿美元,其中多数资金来自这对夫妇。创办的Good Ventures资金流向了全球健康动物福利疫情规范以及AI安全等领域也支持了一批研究机构和人才培养项目另一位重要的捐赠者呢就是Vitalik2021年他曾经向多家慈善机构捐出一批加密货币媒体按照当时的价格估计约15亿美元用途涵盖疫情救助全球健康和科研等领域不过加密货币价格波动很大账面价值与机构的钱呢可能相差很多其中他捐给未来生命研究所FOI的那批代币据他后来回忆最终兑现了大约5亿美元FOI也明确表示Vitalic是他迄今最大的捐赠者远超其他人所以接下来与Vitalic的对话也是与一位重要捐赠者对自己选择的回顾她当初为什么支持这些机构当他们后来的方向与自己的期待出现分歧她又是怎么看的这个特别巧因为是我问阿富拉就是我们想做一期关于有效利他主义的节目然后问阿富拉有谁可以跟我们一起聊一下阿富拉直接说要不就直接叫Betalic来聊一下所以你为什么觉得Betalic非常适合聊这个节目对 我觉得Betalic比较适合做这期话题的嘉宾是因为我之前看他的一些博客比方说教人们怎么更加有效地就是你应该去打包什么的行李然后在这个打包的行李的这篇文章当中他就有讲解就说他从来不做商务层但是在那个时候如果这篇博客是三四年前写的话那他其实已经是一个身家好多好多个亿的人了但是他不做商务舱的其中一个很大的原因就是因为他觉得做商务舱的一张机票其实可以挽救很多人的生命这其实是一个底层逻辑 [40:00] 就是有效利他的很EA的一个逻辑之后呢在三年前的2023年我参加了Vitalik在黑山组织的他自己的这个network state叫做Zuzalu在Zuzalu的两个月当中我就认识了很多EA这个群体的一些成员然后包括接触他们的很多哲学思想和他们当时很在乎的一些议题就其实当时已经开始的有一个对于AI安全的整体的转向对我觉得就是其实我对于EA对于这个Rationalist的所有的思想逻辑所有的ideology其实都是从Vitalic这边来的那Vitalik你要不要讲一下你最初接触EA是什么原因当时它是什么吸引了你大概我第一次听到了那个理性主义和EA这两个概念可能是13年和15年之间 那个时候两个都很早期Elysa Yudkowsky她是在理性主义的那边 但是她有一个博客叫Less Ron 学过很多很多的文章叫Sequences,他们在谈关于什么物理学,道德,所有的有意思的问题。那Effective Alturalist的这个群有个人说,其实我们大部分人做的慈善大家的目的是非常好的,大家的心是非常好的,但是大部分的消流是很低的。他们在那个时候透露了很多在非洲健康的话题,就是他们有一个很出名的一个statistic,就是如果你有那个时候是两千美元给一些在非常穷的非洲国家的人买那个文章的时候你可以放护很多人扶档他们的约结,那就可以生很多很多人的名,他们的一个statistic就是你每一次扶两千块你就可以救一个人的名其实大部分的人他们会花2000块做什么,那有可能是一个公共仓的机票如果你是一个非常非常的土豪,那有可能你会买一个私人机比如从亚洲去美国,可能会需要20万块你可以想一想,就是第一个选择20万块,那你可能12个小时可能23个小时更舒服第二个选择就是你可以就100个人的名字哇,那如果真的是这样子的,那我自己也必须花自己的钱到这样的环境16年和17年的时候,以太币涨了10倍,就是我把一小部分的我的以太币都卖掉了,捐了给那些组织。就是有时候是捐给非洲的那些卖完整的,有时候我也捐了一些其他的,就是我也特别支持Aubrey de Grey的那些Longivity的话题。150岁或者200岁,我觉得还更多这个话题是很重要的但是几乎没有人研究所以我大概就是我自己用了同样的算法我就是说好就是现在这个领域有的钱可能是一百万可能是三百万如果我自己给100万,我可能会加速一个月,那就可以只有100万个的名,可能更多所以我往这个方向就开始思考了我就开始捐很多自己的钱给这些领域包括那些global health包括那个longivity还有更多所以我大概从2017年和18年开始就给他们比较多自己的钱所以Vitalin您刚开始关注EA的时候其实您关注的话题主要是像Global Health然后刚才提到的这些Longevity就更多是健康方面的这个议题对OK那大家因为刚才提到了理性主义我们要不要讲一下Yukowski他的核心思想是什么样的这个播客嘛然后也是在这个圈内影响非常深的这样一些算是思想的源泉吧还有文本我们能不能聊一下理性主义和有效利他主义的区别然后这两位关键的人物他们的核心思想是什么样的我可以简单地说EA最核心的目标就是帮我们了解怎么最优效地帮助其他人的生活那理性主义是把我们更有心 [45:00] 怎么更理性地为了帮助其他的人做事情所以在那个Less Run那个Yutkowski会有很多文章关于很多很多的哲学的话题就是人是怎么错误的思考然后你怎么能思考得更清楚的你怎么能犯少年的错误就是在生活的每一个方面可能十年后有一个人在做了一个书那个Rationality from AI to Zombies那就是From AI to Zombies这个名字他是故意选择的就是AI是因为他那个Yutkowski大概从1995年开始他就知道了AI是一个非常重要的画子那AI会对人类非常非常好的所以我们应该非常快地让一个非常强大的AI进来帮助我们解决我们的所有的问题但是他自己多思考了这个问题他又发现了一个AI alignment problem是很难解决的如果你做一个非常聪明的AI那你怎么能保证它的目标是跟你的目标是相同的有一个很简单的例子就是如果你有一个非常聪明的AI那你给他一个目标比如治所有人的爱情就是做一个没有人有爱情的一个世界如果这个AI不够了解你的一些含义那他可能会觉得他好那我可能把整个世界就毁灭了就是这个世界没有人就没有爱情这是一个非常简单的例子,但是它有一个核心的概念,就是value fragility如果你在设置一个非常聪明的AI的目标的时候,如果你只犯一点点的错误,那还是有风险,会有这种结果。所以Value Fragility是一个话题。第二个很重要的是它是我的Orthogonality Theesis。很多人他们会说那一个更聪明的AI他一定会也会比我们更好。但是他思考了这个话题好多,最后他发现了其实这个理论是错误的,就是其实你的思想的能力和你的目标是两个完全不相同的事情有可能有一个很善良的但是很本的AI,有可能有一个善良的和聪明的,有可能有一个邪恶的和本的但是邪恶的和聪明的以下要看的善良的这个概念不是一个宇宙的一部分,这是一个人的进化制造的概念。所以如果我们要做一个对我们好的AI,并不是一个会自动的by default发生的一个选择我们需要非常努力这么做所以他了解了这两个时候他发现我他之前的思想因为他之前可以说是一个accelerationist是非常不安的如果他自己是那么长时间没有意识到这些概念那这个意味着帮助人能够更好的思考是非常重要的所以他开始了写很多的文章他开始做网上的一个community所以就是AI变得更Rational的一个很重要的原因,就是如果你再用不对的思想开始做Super Intelligent AI,那最大可能会发生非常大的错误。那Scott Alexander他是一个第二个很重要的一个人物,他有很长时间有一个blog叫Slate Star Codex,那那个blog2021年的时候,就是另外一个blog 现在叫Astro Codex 10然后在这里面也有复杂的故事但是他的文章也有很多非常聪明的但是他关于政治说了比较多 他关于那些Culture War,就是我们现在会说的那些Woke和Anti-Woke会说的比较多,所以他会写更多的,又是好controversial的。他们的核心都是我们怎么能更合理的,就是更聪明的思考。所以Effective Altruist 其实是另外一个群他们有很多很多的连结 [50:00] 其实就是在英国在幼稚大学有很多在幼稚山也有那个William McCaskill他比较早期开始了捐很多自己的钱所以这个群的核心可能有两个,就是第一个是更academic的philosophers,就是在大学里面很长时间做教授的那些人,就是Yutkowski和Scott他们两个都很明显的都是自学的。那EA的他们更conventional一点,所以他们在大学里学了很多,他们参与了更主流一点的体系。EA的群的另外一部分,这个也是很重要的部分,就是有钱的人。吸引有钱的人是他们的一个目标。如果你有钱,那你想做好人,那你也会有很多的吸引力。他很造成成这样的一种Kaioda got Dustin Moskovitz, so其实有很多的他们是很安静的就是他们也不会那么大声的说话叶的社区有好多这种所以理性主义的这个群他们只会思考叶的群可能会一般是思考一般是做那做的大部分就是全但是他们也开始了有自己的组织把他们的过程更形式化一点每一个JRD的效率是多高的怎么选择最好的他们的钱到底能帮助多少人然后大概15年和20年之间也开始变得越来越institutional就是他开始做自己的机构所以他们就不只是一个社区就是一个比较复杂的一个体系其实我非常好奇阿芬尔你可能对这个也了解比较多就是他们认同自己是有效利他主义者的人和认同自己是理性主义者的人他们会互相认为对方的思想是不正确的吗其实这个问题我也是在大概一周前才搞清楚的就是因为我直接去问了一个Rationalist领域的元老之一他名字叫The V他写一个叫做Don't worry about the vase这样一个newsletter这个newsletter主要是关于理性主义思维还有AI安全问题的ZV就是说其实有的时候一部分Rationalist,就理性主义者,他们会认为EA抢走了一些理性主义者在很多年之前就已经发现的就比方说AI安全问题的这样的一些见解的功劳。比如说十几年前开始担心AI safety问题的人其实是Yokovsky但是Yokovsky他从来没有认为自己是EA的一个成员但是EA的一些成员就会说Yokovsky是他们的人对我觉得就是在现在就是AI安全领域和AI对齐领域它变成了更加具体的研究和实践的领域也是因为我们现在在很大的这个AGI浪潮当中所以很多研究AI安全问题的人他其实有可能不认同EA也不认同EA所秉持的这种长期主义甚至不认同理性主义甚至没有看过Less Run但是他们仍然在研究这个问题仍然非常担心AI会有一个系统性的失控所以说就是对我觉得就是现在可能大家在提到Russianless的EA啊什么ASA safety的时候会把这几个词混用但是其实我觉得就一旦进入到内部的这个群体之间的这些关系你会发现它其实是一个来得早来得晚然后以及有很多分歧的人和人之间的小圈子那Vitalik你觉得你开始关注EA的时候,你对AI安全的思考是什么样的?就是你当时捐款然后去接触一些这个组织,他们对于AI安全的涉猎是大概什么样的一个情况?那个时候我的关于AI安全的思想还是非常求向的我知道了AI理论上是一个非常重要的话题有可能他们说的是真的有可能AI的安全就会决定人类未来的命运但是不管这个可能性的效率是1%是0.1%但是现在就是在那个时候思考这些话题和研究这些话题的人非常非常少有个机会就是你可以花可能一百万可能五百万就这么多那你可以自己加速这个整个领域可能六个月可能一年这个结果是非常大的所以就是一个我们都应该做的一个 bet所以我的细腻和AI安全币从开始有这样的想法。2020年和2023年之间都变了非常多,主要的原因就是AI变成了一个真正的话题。因为2015年我们现在在说的这个AI是几乎不存在的哇 那哥 叫他叫Ibane [55:00] 但先得所谓的AI可能就是那个摄像头和AI帮助的数字监控。所以那个时候和2023年已经是非常不一样的,GPG3出来的时候就改变了非常多。所以我们在做那个组造物的时候,就是2023年的春天,GPG Chat出来了,我们开始了理解,就是有可能AI真的会发展得非常非常快,会给我们带来很多很多的比较快所以大概这个时候可能所有人的事情有非常大的比较快所有的人能做什么也有非常大的变化可能2022年之前唯一的答案就是你怎么能多帮助研究论你知道的更多,那对我们更好但是22年之后就变了就是从一个抽象的滑机就变成了一个具体的滑机你会担心AI的安全问题吗?大家问我我的那个疲度AI或者其他的风险会完全毁灭我们的世界就是人类会不存在的概流会是我零解义我为什么说0.1为什么不说0.03为什么不说0.3其实说得更明确是很难的因为我从开始都有非常大的这个uncertainty因为有很多很多的不确定的点第一个点就是AI的发展会多快的就是有可能到达大家说的这个所谓的AGI会需要十年可能三百年就是第一第二,Yukowski说的这个alignment problem到底是不是一个真正的问题会不会这个问题很简单地解决自己因为我们可以回到第一个我提到的这个例子,就是我们做一个非常聪明的一个AI,我们跟他说希望有一个没有爱中的一个世界,那这个AI我觉得那最简单的办法就是把整个世界就毁灭了,就是把所有人都杀了。就是我们的汉衣这是一个十年前比较难预测的一个电话但是这个也不一定意味着alignment problem 不是一个非常大的问题如果你现在问那个Yutkowski,就是你跟他说,就是你看现在的AI,如果你跟他们说要治癌症,他们就不会完全毁灭这个世界。那是不是alignments的问题解决了?他会说并不会,这个问题就是alignments的理想部分,还有很多其他的部分,还有很多的就是我们完全没有解决,完全不知道的风险。这里的不确定性也非常多,对,这是第二。第三就是在这边的问题因为现在有不同的国家,有不同的人,有不同的公司都在做AI。在一个尽重的情况下,大家有不同的目的,大家同时希望有安全,大家也希望自己赢了。如果比如在AI变得非常危险的时候,就同时第三次大战出来了,那可能会最危险的。并不是因为什么技术的问题而是因为在那个时候大家会最不思考安全就是只会思考就是自己研究是最重要的所以就是有技术的不确定性乘以另外一个技术的不确定性乘以真正的不确定性就乘以更多更多所以AI是不是对我们真的会危险是非常难预测的嗯对因为我注意到您在2021年的5月12号应该是同时捐赠了非常多的EA的组织然后在2017年其实是捐赠了Yukowski他当时创建的这个机器智能研究所MIRRI的这些组织可不可以讲一下就是在2021年的那一天您在捐赠很多组织的时候当时你在想什么然后你是怎么样做出这样的一个捐赠的决定的嗯,对,这个故事是非常好玩的。其实这个故事可能2016年的开始,从第一个所谓的这个memecoin,就是GoGoB,GoogleB就是Dosecoin,它16年出来的,有一些开发者说我们要做我们自己的一个新的笔,大家都在 [60:00] 做自己的笔,做自己的脸,我们要做一个是一个Litecoin的一个分洁就是基于Litecoin的代码那我们的这个新的Lan我们的新的B是做什么的什么都不做那你为什么要买因为有个狗狗,这个狗狗很可爱那个时候大家都并没有思考可以这么做那个时候就是对 区块量的这个群还是更理想主义的他们也就觉得这个很好玩就是我们做这个笑话我们在一起做一个完全没有用的一个别,我们把它发了那个狗狗币它从开始就变得特别活其实我自己在16年的时候我花了两万五千美元买一些狗狗币我的那个钱都变成了可能一千多万对所以我也是一个早期的一个狗狗币的投资就比较成功狗狗币是第一个MemeCoin吗不好奇就是真正意义上的第一个MemeCoin对吧对就是第一个很多人知道的一个MemeCoin2020年的时候,GoogleB是非常非常成功的,很多人开始了思考,那如果第一个GoogleB能到达一个500个亿的一个市值,那如果他们自己开第二个GoogleB,如果这个第二个GoogleB能够到80个亿,那这个也是很传。所以他们都开始了发自己的Google币所以最大的就是Shiba Inu那个戏他们也做了一个很好玩的一个时间就是他们把他们的一个supply的一半放在我的钱包里因为我的钱包有一个公开的机制,他们把他们的第一的 supply 的50%都放到里面。那个时候我的那个钱包是一个 long 钱包,那个钱包的私钥只在两个地方存在了。第一个地方是一个电脑,就是一个跟互联网完全没有连接的一个电脑。那个天到那个时候才多了很多第二个地方就是有两张纸,就是每一张纸上有一个数字,一个数字是在多多,另外一个数字是在无暴力,如果这两个数字加起来,又会变成一个饲料,所以就是一个paper backup.那个时候还是疫情的那个时候所以我很长时间什么都没有做但是有一天我发现了就是哇这些笔的设置就真的到了80个亿就真的非常非常夸张的所以我就选择了那好吧,他们有可能一周之内他们的市值变得那么高,大可能一周之后这个泡沫就会被炸了,就是他们才会很低我那个时候在西雅图,我买了一个新的电脑,我给我的妈妈打电话,我让她读在多伦多的那个折上的数字。我在电脑里把两个数字夹起来了,我有了那个资料。我研究了那个Gnosis Safe,就是一个更安全的一个多千名的钱包的那个代码,就是我自己把那个Gnosis Safe的中国代码两天之内升回了。就是为了会有一个新的我能放我的以太币的一个钱包所以我做了很多的很复杂的工作,最后我把那些GoogleB拿出来了然后我把那些他们给我的他们放到我的钱包里那些狗狗币买了一开始我把他们很快速就买成一台币了大概我穿了可能七千万美元的一台币我把大部分捐了给Against Malaria Foundation,就是他们给人买那些文章的组织。这个钱可能是我会能够拿出来的最多的钱,那应该给一个比较安全的一个组织。也许有一些人会说给非洲人买文章是一个你能做的非常非常最重要的事情。也有一些人觉得这个不怎么关于,但是没有人觉得就是坏的。我也给了一些Longevity的组织,还有一些其他的。我因为Market Depth不够高,完全没有Liquidity让我买那么多的那些Google币。所以我买成以太币之后,我还是留下了非常非常多。所以我就确定了好吧那 [65:00] 可能现在这些笔都会接得很快都会接得很散那我还是把我剩下的笔接一些其他的我觉得比较好的组织如果他们自己卖掉的时候他们能拿到一件件那就好就是在我的思想里他们最多能拿到可能是两千多万所以我给了可能一半给印度的一个看COVID的组织另外的一般我JLA SLIFLI是Future of Life Institute,他们在那个时候是一个研究开始对抗所有的existential risk 的一个组织。他们研究了生物相关的风险,AI相关的风险,核战相关的风险,就是每一个非常非常大的风险他们有一个部分在研究。他们给我介绍了他们的一个计划就是他们说了他们理论上能达到最多一个亿但是两千万他们也能做非常多那所以我说那好吧我给你们我的这个西班牙诺对所以三个月之后我发现了那些购购币他们并没有借所以FLI和那个印度的crypto covid卖完了他们的币他们一共就是几个组织拿到了4.7个亿就印度的crypto relief的组织对不对对然后FLI他们我不知道他们具体拿到了多少但是有可能4个亿有可能6个亿就这么多4到6个亿如果我想我这个结果是有可能的,我会做的事情会非常非常不一样的但是是这样发生的所以我下一年其实我跟CryptoCovid的组织的Sandip聊天了就是我肯定了他把他的钱的一半还给我然后我们开始了做自己的一些抗疫情的工作,包括研究过滤器、疫苗,我们捐了给一些开源的疫苗的公司一个是radvac,一个是popvacs,哪个popvacs,他们上周又发布了一个文章就是他们现在的发展非常好所以现在至少一部分的open source开源的email现在是存在的所以就是第一部分还有对什么过滤区自外网UVC 还有口罩还有那个Wang COVID的研究一开始是抗 COVID的工作但是下一年其实 COVID并没有结束但是大概2022年初大家都觉得 COVID结束了所以我们开始了抗疫所有的Airborne Disease 支持的这种项目所以我们用了两个月就做非常多然后Sandeep他用了他的两点七个月可以说是 level up 印度的中国 medical manufacturing 的这个能力FLI他们大概在这个时候GPT3出来了所以他们的思想有一个非常大的变化第一是他们从关心所有的existential risk他们变成了直关心AI第二就是他们从一个研究的一个态度,变成了一个政治的一个行动的一个态度,他们开始了用一个很具体的strategy,他们开始了思考了他们应该支持那些法律,应该支持那些什么中科,他们开始了做很多我,要么不认同,要么不过是我的钱,我不会自己做的事情,所以他们就开始了走自己的一个方向然后我跟他们说了两三次就是我们用那两个亿的钱做的那些看Airborne Disease的工作的项目和他们的结果因为我跟他们说了就是我的原来的目标就是支持所有的Anti-Existential Risk的领域所以我就是希望他们Diversify我有很多已经成功的项目他们可以Diversify但是他们拒绝了和一个policy centric的这个方向同时他们的那些法律就开始出来了然后有很多的A16Z就是有很多的那些硅谷的投资者开始很不开心所以他们就开始了把AI safety当他们的这个主要的基人这个大概2023年的时候开始了你当时选择捐赠的时候它其实有非常多的组织嘛然后您刚刚提到了像crypto covid [70:00] 跟FLI你是捐赠的Shiban还有一些捐赠的是ETH我注意到你还捐赠了Gifwell跟Miri这四个组织你是怎么选出来的当时是会有一个什么样的目标去选择了这些组织大概我在每一个领域我选择了一个大家认同的一个比较default的一个组织大概我选择了每一个我认为很重要的领域如果你五六七年前玩完了在一个领域里面应该捐给谁大可能会有同样的答案你觉得现在你的这些想法有变化吗就是怎么捐以及如何捐包括其实捐赠以后我们也看到整个世界在发生变化AI在迅速的成长他们可能把这个潜用的方向更开始我们想去非洲治愈疾病会有一些初衷会不太一样我觉得PA里面有一个重要的概念就是neglectednessneglectedness的意思就是比如我们可以思考一个问题就是水,水是非常重要的就是有可能在非洲有这个问题就是给有一些人有脏的水如果他们有感情的水他们不会得什么病毒那这个已经是一个global public health的部分这个A的组织已经在研究但是我们自己参与是没有利益的因为已经有非常多其他的人在思考所以in the neglectness的这个概念就是如果一个话题是重要的那现在已经思考这个话题的人是不是真的太少了大概我十年前认为每一个EA和每一个理性主义相关的包括其实EA他们从来没有理解为什么但是他们从开始没有特别研究一个Longivity但是他们每一个领域十年前都是非常neglected的但是现在我觉得并不是这样子的就是现在AI的安全是一个非常高级的一个话题还有在Longevity的这个话题呢,Global Public Health其实2025年的时候它受了很大的伤害因为这些Elon Musk做过的都是和那些美国的政治的变化,就是他们之前支持了很多的Public Health相关的,他们很快很快就进了,制造了更多的问题,所以的Global Public Health我觉得现在是变得更重要的。但是比如在那个虐级文章的那个话题就是现在开始有一些抗虐级的那个疫苗有很大的问题但是发生现在也有所以现在有可能那个global public health还是一个非常值得支持的一个话题但是大部分的其他的就是他们的问题现在并不是neglectedness他们的问题是如果大家做的不对问题并不是资源太少而是大家做的这个方法可能是不对的这种问题的GHF方案是完全不一样的嗯,现在你本人会关注AI安全问题吗?因为我发现我们在说EA的时候,它的重心是有好几波的转移的,最开始可能是由比如说全球健康问题,类似于蚊帐问题,蛆虫问题,中间还有一波大家有一段时间我记得还关注过动物的福利问题。现在来说它其实就是长期主义和AI风险对所以现在AI安全会是你关注的问题吗还是你觉得它已经有人在关注了你更想把注意力转移到其他更多更重要的问题上我觉得现在有了有多的问题是跟AI安全有关系的所以不思考AI安全是有点难的但是现在更大的问题不是研究AI safety的人不够,而是那些AI公司里面很多的incentives,就是很多的距离都是比较broken的。就是OpenAI和Anthropic他们都希望自己的公司赢了所以他们都做得非常快如果现在大家AI的发展做得那么快呢其实风险是最多的因为我们就不会有足够的时间去思考怎么把AI做的安全怎么能用AI做一个我们希望有的一个时间还有一点大可能最重要的并不是我们 [75:00] 现在做的AI安全前段的研究,而是一些公司在做一个最强的AI的时候,他们的目标是安全还是他们自己赢了是最重要的。现在我们大可能会需要用现在的AI的版本,就是会需要用AI version N为了研究AI version N plus one。下一个AI的级别相关的安全的问题所以大可能我们三年四年前做过的AI safety 的研究也不是很有意义的他们会发现我们花了很多的时间,很多的资源在研究一个AI安全,发现了现在在一些最核心的问题,包括那些AI alignments 的问题,并没有很多的发展。所以更重要的,我觉得不是我们现在做的研究是多少,而是那些做AI的公司。在做一个最强的就是开始有非常大的风险的AI的时候,他们会不会放足够的注意力做了安全,这个我们不太知道。然后解决这些问题也并不是一个研究的问题就是真的开始了变成一个policy的问题但是policy的问题的一个最大的挑战就是你很难知道一个policy是好的还是坏的所以一个policy的问题是跟之前的EA的人思考的问题是非常不一样的因为之前的EA他们平常会思考的问题就是如果你捐给一个charityA,那你可能会就十个人的名如果你捐给charityB,那你会就一百个人的名那你的挑战就是你要知道那个是十,那个是一百但是现在是完全不一样的是因为你曾支持一个policy那那个policy有可能它会有好的效果也有可能它会有坏的效果其实都知道那个效果是好的那个效果是坏的是很复杂的这个policy它有一些直接的效果就是它怎么直接影响这些公司的激励它也有一些interact effects比如如果一个很有钱的人比较公开的花五个亿就支持一些政治的话题,那很可能其他的人会很不开心,他们都会觉得那有一个图号在影响我们的政治。然后那个AI safety的这个agenda,他们会开始觉得那就是一个只有图号思考的。那所以很多很多人就可能会开始放到AI safety。因为至少在加拿大的学校我们在研究那个literature在研究这个文学的时候我们会说就是有一些是man vs man有一些是man vs natureman vs nature就是人抗天人那man vs man就是两个人聚集在大家man vs nature其实够简单man vs man是特别复杂的因为你在对抗的那个挑战是跟你一样聪明的你做的事情能有的效果有可能是会非常复杂的所以我就觉得EA的思想他们在man versus nature的这些领域我觉得是非常关用的但是在man versus man就变得复杂很多我觉得这个说的特别好就我觉得你刚刚讲的那个关于只有土豪在关注AI safety这件事情它好像已经发生了而这个大家好像已经就觉得就是和EA有关的这些捐赠其实已经导致了对AI safety现在和EA的联系非常的密切然后包括说互联网上也有很多对于EA反对的声音,就是因为很多EA相关的组织,他们和最近我们看到的一些比如说安全研究员,他们从OpenA Anthropics离职就是有很大的关系。对,所以这个也是一个很多EA的人做过的一个很大的错误,其实大可能就是这个测试从FTX的那个事情开始,因为如果你骗很多人的钱,这个钱全给一个政治的话题,那一定很多人会开始觉得这个政治的话题就是偏钱的人会思考的。对,所以他们做过的那些大规模的政治相关的事情,就同时有非常多的错误。还有一点就是,其他的人能怎么知道他们是不是犯错误的。 [80:00] 一部分是了解这个问题,但是其他的部分就是了解其他的人。就是大部分的EA他们都并没有意识到SVF有可能是有问题的。有可能也是一个就是man versus nature变成man versus man的一个例子就是因为A变了更institutional和更political之后以前的一个思维的方式就开始变得更容易犯错误的然后现在A已经有分成了很多很多复杂的不同的部分因为很多anthropic的人他们也是很长时间关注A的也有FLI也有很多其他的他们念每一个都会说的是他们可是其他的是不一样的但是他们变得特别复杂的,他们也有很多也觉得Anthropic是不好的,但是Anthropic最近也一定是觉得Anthropic是好的,所以就我会有什么事啊嗯对我觉得这些大公司好像都在变如果归纳总结一下感觉硅谷有这样几个大的派系啊就是EA是一个然后理性主义一个派系然后还有一个就是以Andros and Horowitz为代表的EAC它是AI加速主义感觉现在应该主要是这三大AI流派还有你的DX对对其实也有更多我可能会说第一是支持Anthropic的EA第二是比Anthropic更远的EA第三还有Pause AIPause AI他们是更populist一点然后他们是更愿意跟一些更出流的人他们也更愿意去接触所有的理性主义和音乐是不好的第四对就是有那个EAC包括FJZOES还有那个对A16C理性主义者他们的这个位置现在是很有意思的他们有很多人他们的思想也是很不一样的但是他们也一直会觉得他们和EA是类似的但是也有很多很重要的区别由 Felicia Xinwei你会发现差距是很大的从开始我的解释就是EA是更思考那些他们可以做的事情是正确的那理性主义他们的主要的motivation就是curiosity 就是思想他们喜欢思考很多有意思的话题他们喜欢更公平的思想我觉得利新主义者他们从开始就更喜欢玩EA他们是非常严肃的,非常认真的。我们才救人的名,我们不能玩,我们有我们的工作,我们是终究这个世界的真实。但是理性主因就是他们从开始就是比如那个Youtkowski他写了那个书,那个HPMOR,就是那个Harry Potter and the Methods of Irrationality。哈利波特是一个理性主义者那他怎么会看待哈利波特的世界我觉得那个书其实很好玩那个Scott Alexander其实有更少的人知道他也写了一个书叫Ansorne的那个UNSONG 他的书也很好玩然后那个Hutkowski他开始了写的更多就是他有很多的那些Ribbon那个Anime inspired的一些那个Fiction可能上个一位有那个A-Labs World的那个活动的那个Drama然后有很多就是有很多的EA他们都的ALA和Lighthaven和的一些人很不满意就是你们在做这个活动是很controversial的那其实这个活动的我们的reputation不好就是你们为什么非要这么做就是不是AI safety比你们想做的这些其他的事情更重要不愿意听这种论件他们不能为了自己的reputation接受就是有一些话题有一些行为是封闭的他们更喜欢就是be yourself就是我觉得他们在心里觉得人应该重于自己的心如果你喜欢这么做如果这个不直接伤害其他的人那你应该去做如果其他的人被得罪就是他们的问题不止那么因为你被Strategic [85:00] about how they think, about how they behave. They will say, "I think X is a easy one, and even X is a easy one." Some EA will say, "What should we say to get the most support and to change our threats?" Actually, because they're doing this, I think there are more people who are worried about them. For example, when they're deciding the government, most people will like to get into their lives. Most people will like to get into their lives. But they will be very clear to them. This is also a part of why many people like Trump and don't like the people of the country. will be very hard to optimize their public perception. But this will still be something they can't see. I also noticed that in the case we mentioned about the "gipo-pi" system, the EAA is really being able to move money with the company. But we said that the "理性主义者" seems to have no money. ESACC, I can understand that the behind-the-light power is actually there in VC in backup. We also want to make this "理性主义者" as a power of power. 一个运动他不见机构他能走多远呢? 可能不太多,理性主义者,他们的心里他们就是猫,对,把他们放到一个机构里,他们就会不开心,他们会觉得不自由。 确实,我觉得Vitalik其实更是一个spiritually是一个理性主义者,而不是一个EA,其实你做很多事情其实很理性主义者,比方说你最近写小说,对吧? 对。 你在写什么小说? 科幻小说,非常推荐大家去看,叫做Snow Moon,OK。 最nice的一个评价 因为Yukowski是什么 他八年级的时候就退学了 He was a I was a kid who had a dream come up with such a huge world. And he said that AI will become the human beings. And he got Peter Thiel's money. And he wrote fan fiction, this "Hi,波特" It's probably 60 million. The most interesting thing is from our perspective, it's weird. But it's also影响ed by this one. So the fact that the "理性主义者" is I think many people who have met with the理性 people are taking a long time to understand what they are and why they are doing such a thing. 嗯 刚刚你提到有支持Antheropic的EA和反对Antheropic的EA 这部分可以展开讲讲这两类人他是有什么样观点上的不一样吗? There are many people in therapy that say that AI is very important. But not doing AI is impossible. Because in this world there are many different teams, different companies, different countries. So the only way is that if a company has a good person, then they should have a good company. Because they're in the game, at least they'll have a better way of doing it. They'll have more money to make the money better. There are many ways you can say that Anthropica is better than OpenAI. You see companies that are doing what they're doing. You see OpenAI's internal drama. You can see the person's vision of the person's vision. What is the kind of vision? Or you should ensure that the person's vision will become the most powerful AI company. That's an anthropic. And they also say that they're doing a lot of safety concerns. They're a co-founder, Chris Ola. I was in the 9th grade, and he was a member of the computer. He introduced me a lot about the physics and physics. I started using Linux. I started to use the first time to learn about it. It's a class. Yes, it's a class. I think at least in the end. [90:00] 我反正说是一个好人那反对Anthropic的观点就是第一的incentive就是一个激励还是很强的一个人很可能从开始会觉得自己特别好但是如果把它放在一个更危险的一个有更多的竞争的一个情况那人会很容易开始找理由说为什么对他好的事情都是对的不管安thropic 是不是更好他们还是把AI的发展速度就加快了很多现在有这个AI race的一个很大的原因就是他们就是我最近听到了一个有意思的一点OpenAI他们其实愿意把AI的发展做得慢一点所以就是他们24年25年的时候就没有把他们的所有的资源放到做更好的frontier modelsModel Automation Let's Work on a然后今年出Methos出来了Methos出来了之前我觉得我们都会觉得那GPT是最强的就是我们都会by default再用GPT的但是有一个时间他们开了那个Methos或者他们给了我们Fable之后真的有这个感觉就是一个天明传到他们了就是大家都开始觉得那Anthrobic同时是一个更强的会赢的有很多人开始了用Quad那个时候OpenAI他们也开始了把他们的很多side projects就关掉了他们加速就是跟focus做非常强大的models所以有可能他们还是帮助了AI RIS做得更快,这个效果也可能会超过他们所有的安全相关的工作的效果,这是第一。第二就是,所以这个是理性主义的和EA criticism of Anthropik,就是一个理性主义和一个AI的人怎么会说呢?Anthropik做的事情是有问题的,就是他们有可能觉得他们做的更安全和他们更好,但是他们还是参加这个race,他们还是因为他们的参与加速了AI的race还是曾加了我们的危险还有一个 另外一个可以批评anthropic 的一个方向就是你可以说就是一个中强文的这个criticism of anthropic他们的 philosophy of safety我们应该有权利,因为我们好,你们不应该有权利,因为你们不好。其实这个 philosophy of safety is there a lot of比如独裁是这么思考的,但是很多人也会觉得那好,你们觉得自己是好的,其他人是坏的,那如果我们不同意,谁才决定?他们的这个safety strategy 第一个是我刚才说过的就是他们还是参与这个race 只是一个好主意如果他们真的比openai更好 比中国的那些ai公司更好等等但是在这个世界里有很多人他们都有自己的很多的观点就是我们上周我看到了有一个好像是一个deep seek的一个人写了一个文章就是他觉得他们在做开源的这个AI是非常重要的他也说了他觉得anthropic英语是一个希特洛的那个级别那样快的一个情况你们应该赢,因为我们好你们都不好,那为什么其他的人也不能这么说?他们也几年开始了说,他们反对open source,就是这个变成了一个很流行的一个话题,就是开源的AI是更危险的,就是因为没有人控制他。但是就是现在按照我的理解,所有的最危险的攻击还是都是通过GPT和Cloud做的。SWOIYE IVE可以听他们的每一个论点听起来是有可能有道理的如果你跟他们的前提会同意那你跟他们的结论会同意但是你也会发现他们做的事情和他们公司的利益的相关性可能高于90%就是他们真的是为了安全还是他们利用安全和EA的这些掩盖他们的我也不想说他们的profit motive因为如果你真的相信AI就是profit并不重要就是他们都觉得这个 [95:00] 不是profit是大概就是谁会控制未来的世界他们做的事情公开说的论点是很美好的但是他们做的事情和提高他们自己的权利的事情的这个相关性高于90%那我们应该这么讲所以大概我可能会把这个就是John Changren的这个Critique of Anthropica大概这么解释的比如那个Pause AI的人他们大概也会这么说的就是很多人就是不太相信Anthropec的公司他们觉得那些公司他们的人都是EA他们都有很奇怪的这个思维方式一个奇怪的思维方式是可以有的但是他们比较明显的觉得他们希望的结果就是他们自己控制这个世界的最强大的AI如果你的思想不是AI那你为什么会相信他们我觉得他们现在的这个问题还没有很好的答案嗯 其实我也在想这是不是就是这几家AI公司刚开始成立它就刻在基因里的问题因为最开始OpenAI成立的时候它也是一个非引力组织我觉得它成立跟AI安全就有关系然后在中间的过程中其实我看见纽约时报里面的一篇文章写说OpenAI早期就是Greg Brogerman他是每天会带着就是员工去读这个Yukowski在这个Less Run上的文章的后来其实Sam Altman被踢出OpenAI是一个标志性的事件其实那个时候就是OpenAI非盈利性的这一部分的性质就是EA的这一部分的组织相当于取得了一个暂时性的胜利但是它之后的回归可能又是EAC跟EA之间的一次抗衡最终EAC又阶段性的胜利了但是我觉得在它的组织架构从非盈利性到公司的转变包括Sam Ultman这种被踢出去又回来包括现在大家对AI安全的所有的讨论就可能从一开始就是在他们公司基因里在他们公司价值观里就一直存在的对就是Open AI的一个很主流的批评的方形我有一次说过了就是他们一开始是Open AI然后他们 sacrificed openness for safety然后他们 sacrificed safety for acceleration大概真的是这样发生的就是他们可能20年的时候就开始了说GPT3太危险了不能把它开源因为我们是注重安全的然后他们一开始有了一些就是他们取诺了做一些事情做得更小心为了安全但是他们把很多他们取诺过的事情包括一些给一些政府的组织他们最后没有做因为他们的发展是太不方便的你觉得你提出的DAC这个方式是一个替代的解决方案吗那我可以先介绍一点这个DAC的概念大概就是Defensive和Decentralized或者Democratizing Acceleration大概有三个点就是第一个点是这个Acceleration就是技术的发展是重要的第二个点就是Defensive我们现在需要花更多的能力做一些可以保护我们的技术比如现在有AI的黑客会不会攻击我们的系统的一个风险那我们需要放很多很多的资源在一个cyber security 里面以后AI会不会让一些更危险的病毒更容易出来的一个问题那我们现在就开始了多做一些抗病毒的事情就是defensive的这个部分然后还有一个部分就是democratizing或者decentralized就是我们在做的事情都是不集中权利的就是我们做的事情是empower regular people那这个也包括开源也包括一些其他的原则那其实Defensive和Demokratizing也是很相关的如果你看比如欧洲的那个中心在欧洲的中心比如在威士在一些其他的地方有很多山在那个地方其实更出众情况就是更小的国家更容易有很多的更独立的城市每一个国家也会尊重每一个地区的自治等等但是你走2000公里往东边你会发现完全没有什么山河也很少如果有一个人在骑马他就可以骑1000公里就完全没有问题那在那些领域更容易就有一个很大的国家那个国家有一个独裁就是这个转确就变成一个default [100:00] 所以如果没有decentralized defense如果没有对视和欧洲有的那些删那唯一的有可能的效果就是centralized defense就是一个组织会控制一切对所以这是一个analogy下一个问题是我们怎么把在我们的世界里能够做更多的这种Defense所以就需要研究这个数字安全 生物安全 其实这个pandemic prevention是很重要的 但是在pandemic prevention的领域就是有一些de-act的方式 也有一些完全不de-act的方式 就是比如我发现了很多的现在EA的组织他们会把他们的资源的80%放到一个问题就是我们怎么能在AI的模型里面不让他们帮助人做更强大的病毒他们就想在AI的模型中解决这个问题但是这是一个centralized defense因为如果有其他的人在其他的国家有自己的模型他们就有可能不会用你的技术那你还是有这个风险还有一点就是其实我在跟很多的研究抗病毒这个滑稽的人在研究他们现在担心的滑稽也并不是什么科幻的那种超级病毒他们在担心的是短期更可能会有更多的比较正常的病毒如果是这样子的话,其实你们做的那些在AI的限制也不会有很多的作用。如果decentralized defense是完全不可能的,那有可能是唯一的办法,但是decentralized defense也是更fragile的,就是它更依靠于你的假设关于谁会做最强大的模型,威胁会什么样子的,是完全准确的。所以decentralized the defense就是比如在抗病毒这个话题那就是有做更好的检测做更好的过滤器能够做更快的疫苗能够把每一个新的病毒更快的发现它才发生又更快的开始做一个疫苗就是一些更正常的事情但是那些事情是更类似于一个public health电脑的一个问题有可能是更有很多人就是不那么容易往这个方向思考因为他需要一个就是他们没有的 expertise但是就是我觉得这个一边是更能成功另一边是不需要你自己控制这个世界的每一个AI才能成功我特别喜欢你这个说法因为我觉得我对于AI安全最大的一个问题就是好像很多的不论是现在在媒体上被放大的这些说法这些安全研究员在X上推崇的说法好像我们都是在考虑长期的这个影响但是我们在现实生活中已经看到了很多这种短期的影响比如说像deepfake甚至网络安全这些问题对所以我觉得我们今天这个播客其实我还是希望能够落脚于对于很多普通人来说吧我们到底应该怎么样去思考AI安全这个问题然后我知道Afrani最近其实也有一些想法上的变化现在其实整个AI领域遭遇到了非常多的认知论上的一些问题这些其实都是在逻辑上是很难应对的问题所以现在的现状就是感觉是进入到一个幼儿园然后这个幼儿园里面有一群哇哇大哭的小孩但是在这个房间当中没有大人是因为其实很多研究员也不知道到底是是什么情况但是于此发生的是巨量的资金仍然在投入到各种各样data center的建设当中就数据中心的建设当中按照当下的这种Data Center的建设速度来说的话这种涌现的这种效应只会越来越多所以这也就回应了之前人们的认为就是说AI的这个能力不会一直这么提高这种低锤的果子总会被摘完的这样一个现象但是其实现在当下的AI是感觉这个果子的这个数量是无穷无尽的所以我自己可能觉得最困惑和有点害怕的地方就是现在这个AI的发展是有一个很严重的认知论的问题,就是这些研究员不能用人话和不能用一个数学的方法去解释这些AI到底有多强,以及解释这些AI到底想干嘛。这让我比较用心忠忠的问题然后最近的民调也显示说美国的很多普通民众开始对这个话题感觉到恐惧就包括Bernie啊然后像华盛顿那些政客也开始加入到这个Post AI的行列当中然后同时就美国的这个当下的这个政治现实是AI民粹主义非常严重就是所谓的AI民粹主义就是人工智能并不是某种中立的技术而是被一个科技界的亿万富翁所掌控的一个精英的技术然后这个技术的目的就是而且取得 [105:00] 普通人取代劳动者所以就是人们现在对于AI有这样一种恐慌然后再加之这种AI末日论的言论再加上就是什么Jacob Coxon对吧他自己的吹哨所以我觉得现在就是这样一个很奇怪的一个现象就对因为我觉得我会比较想听的是你觉得You knowAs a normie就是作为普通人你觉得从AI safety的这场辩论当中你希望他们的take away是什么现在的一个最重要的关于这个世界和现在这个技术的发展的fact还是有很多不确定的我们还是不知道第一 AI发展会多快的第二一年后五年后二十五年后人会比AI在那些领域更能做事情就是人会做什么第三是那些安全的问题是不是能解决的第四有可能OpenAI和Anthropic还是会最强大的AI公司还是有个情况会变就是比如会不会Google变成第一个,或者会不会一些中国的AI的公司会catch up,所以就是有非常多的不确定的。这个其实也包括那些话题,就是一个AI是不是更像一个工具,还是更像一个人,还是更像另外一个东西。在一起如果AI不会完全自动的,那我们在什么情况下会干扰它,我们怎么会direct它在做什么,这些都有很多不确定的。对,所以我一直就是不愿意说我的pdum是99%,也不愿意说是1%或者0%,真的有很多很多能发生的事情。会不会通过这个Chain of Thought发生那现在有一个问题就是因为现在他们开始思考有这个neuralese的概念因为现在AI在思考的时候,它还是用英文在思考你或者机器人还是可以研究他是怎么思考的其实我发现就是我喜欢用开源的模型的一个原因之一就是你可以看到他们的思想的那一步,那其实你在看他们的思想的时候,就是你也可以了解更多,你也可以学习很多。但是neuralist这个概念就是如果AI不会用英文思考如果他们开始用一些只有自己了解的就是很多很多百万个数字开始思考那我们了解他们的思想的能力会降低很多但是会将近多少这个也不知道我们一年后会有很多的parallel agent还是会有一个agent还有一点就是AI safety的那些strategies会有什么样的变化其实在这个领域里我有一个思想就是我觉得AI safety更可能不像一个工程的问题就是不像一个engineering problem其实更像一个political design的一个问题就是如果你在思考比如现在的一些政府的那个架构是怎么做的就是有不同的部分有checks and balances的部分一个部分的一个目标就是限制其他的部分就能犯很大的错误的可能性还有有很多的不同的人互相说话的一些地方但是也有一些情况就是有一些人是不应该互相说话或者互相有太多的关心所以同时有一个communication有 separation有一些部分是更慢的有一些部分是更快的一些非常聪明的但是不完美的组成部分就是人作为一个更稳定的一个体系有可能就是一个安全的AI并不会有一个数学家会喜欢的一个证据就是这个AI的目标设置的是对的就是有可能我们会有三个不同的方法就是设置我们的目标是什么那有可能他们三个之间会有一个机制他们也会知道什么时候应该再一次问那个用户他到底想要什么所以就是有可能AI的安全会往这个方向走但是如果他这么走的话那他也会变成一个非常empirical的一个话题就是你会需要跟现在存在的AI在合作就是你会需要了解他们你会需要跟他们做事情你会需要知道他们在什么情况下会做什么事情 [110:00] 我们在什么情况下会犯错的AI的安全性就会变成一个不那么理解的,但是跟我们已经在用AI做事情的有关系的一个领域。但是这个也就是有可能。有可能最重要的就是最近十年,AI的发展的一个有速度还有方向有非常多的surprises。我觉得不能现在过于决定一定会这样子的,一定不会那样子的。谢谢大家感谢大家谢谢拜拜聊到这里啊我们再回头看有效利他主义这个名字就会发现当初那个朴素的问题其实一直都在那就是怎么用有限的钱和时间帮助更多的人我在大学期间呢也接触到了学校里的EA社群和阿发说的一样我接触到了EA的参阅者都是心怀理想坚持实践的一批人不过对于如何将原则直到现实当中,这些具体的实践手段甚至什么才是我们必须要关心的议题,我们都产生过很多争执。在AI的社群内部,关于你究竟该做什么,也像嘉宾说的一直没有一个完整的共识。判断什么是有效就必定变得越来越困难那对我们来说啊理解EA也是为了更具体的理解今天的AI谁在决定它的发展方向谁在定义哪些风险值得关注当有人以全人类的未来为名做出选择的时候其他人有没有参与质疑和纠正这些选择的机会呢这些问题会随着AI的发展越来越直接的影响我们的生活希望这期和Vitalik还有Aphra的对话思考和讨论的线索那么以上就是我们这期播客的全部内容了国内的听众可以通过小宇宙苹果播客网易云音乐喜马拉雅QQ音乐蜻蜓FM荔枝FM来关注我们海外的听众可以通过苹果播客和Spotify或者在YouTube上搜索硅谷101播客来关注我们我们部分的文字稿还会收录在硅谷101的微信公众号上谢谢大家的收听,那我们下次再见啦。