OpenAI离职员工创办Anthropic等公司吸金超十亿美元

除了OpenAI,还有这帮出逃的“AI叛徒”将重塑人类未来 |ChatGPT特辑(3)(结尾有彩蛋🎉) — 硅谷101

硅谷101

因理念分歧与商业化冲突而集体出走的早期核心团队正通过构建多元化的AI技术路径与资本网络重塑人工智能未来生态

AI-assisted summary of 除了OpenAI,还有这帮出逃的“AI叛徒”将重塑人类未来 |ChatGPT特辑(3)(结尾有彩蛋🎉) — original source. Check the original for full context.

Source published:

Detailed notes

## Background 该视频由“硅谷101”于2023年3月23日发布在Bilibili平台上。根据视频简介,本期节目是ChatGPT特辑的第三期,主要讲述了从OpenAI出逃的30多位早期员工——即“OpenAI黑手党”的故事,探讨他们因理念和技术路径分歧而离职单干,并凭借超过10亿美元的融资重塑人工智能生态、改变未来科技与资本圈的历程。

## TL;DR 视频深入探讨了由OpenAI早期离职员工构成的“OpenAI黑手党”这一硅谷新势力。内容详细梳理了以Dario Amodei(创立Anthropic)为首的几位核心人物,以及Jeff Arnold(Pilot)、陈熙(Covariant)和David Luan(Adept)等人的创业项目与技术路径。这些“叛逃者”因不满OpenAI的过度商业化或技术方向分歧,在网络安全、财务变革、智能机器人及通用AI助手等领域各自深耕,形成了与老东家抗衡或互补的百花齐放生态。

## Atmosphere & style 整个视频展现出一种宏大、深刻且极具洞察力的科技叙事风格。主讲人倩姐与搭档小弟的互动交谈沉稳而专业,通过将“OpenAI黑手党”与历史上的“PayPal黑手党”进行跨时代对比,营造出一种历史正在重演的宿命感与史诗感。叙事中既有对技术理想主义者坚守初心、警惕“黑匣子”风险的感性致敬,也有对资本博弈、大厂体制限制的理性剖析,让观众在紧凑而激荡的氛围中,真切感受到这群叛逆天才正站在时代潮头重塑人类未来的澎湃力量。

## Key takeaways - [00:00](https://www.bilibili.com/video/BV1mo4y1s7V4?t=0s) 自2015年成立以来,OpenAI已有30多名早期员工集体离职创业,其初创项目累计融资超10亿美元,形成了被称为“OpenAI黑手党”的硅谷新势力。 - [00:00](https://www.bilibili.com/video/BV1mo4y1s7V4?t=0s) “OpenAI黑手党”的称号传承自20年前的“PayPal黑手党”,后者成员包括马斯克、霍夫曼和彼得·蒂尔等,且OpenAI最初的10亿美元融资也是由这些PayPal黑手党核心成员促成的。 - [04:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=299s) Dario Amodei作为OpenAI黑手党的“大哥”,曾是OpenAI的研究副总裁并主导了GPT-2和GPT-3的构建,后因理念不合带队出走创办了Anthropic。 - [04:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=299s) Dario派系离职的导火索是2019年OpenAI接受微软投资并转向商业化,他们认为未解决安全问题就急于推出商业API让公司变得功利和不透明。 - [04:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=299s) Dario警惕大模型技术路径中的“黑匣子”与“激励扭曲”现象,担忧一味追求大模型和算力的“大力出奇迹”路线会带来严重的安全隐患。 - [04:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=299s) Anthropic通过发表“可解释性AI模型”论文、提出“宪章AI”概念并推出对抗ChatGPT的模型Claude,成功获得谷歌3亿美元投资并与之绑定。 - [14:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=899s) OpenAI前运营主管Jeff Arnold创办了财务服务平台Pilot,通过AI技术检测财务异常,获得杰夫·贝索斯领投并跻身独角兽,有望成为黑手党中首家上市公司。 - [14:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=899s) 华人学者陈熙(Peter Chen)联合伯克利教授Pieter Abbeel等创办了机器人公司Covariant,获得了Hinton、LeCun、Jeff Dean及李飞飞等豪华阵容的投资与背书。 - [14:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=899s) 在OpenAI于2021年解散机器人团队并全力主攻生成式大模型后,Covariant专注于分拣机器人并致力于研发行业通用人工智能(AGI),弥补了OpenAI放弃的路线。 - [19:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=1199s) OpenAI前工程部副总裁David Luan创办了Adept,旨在训练一个能直接使用人类现有软件和API的“通用人工智能助手”,实现人机协同。 - [19:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=1199s) Adept作为硅谷黑马,在短时间内获得了由霍夫曼所在的Greylock领投的A轮以及3.5亿美元的B轮融资。 - [19:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=1199s) 除了四大领头羊,OpenAI黑手党还诞生了利用基因技术改良种子以平衡碳排放的Living Carbon,以及通过AI驱动机器人颠覆传统制造的Daedalus等公司。 - [19:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=1199s) OpenAI黑手党成员虽然因理念分歧分道扬镳,但内部一脉相承“有效利他主义”等信念,且通过错综复杂的人脉与资本网络依然保持着千丝万缕的联系。

## Detailed walkthrough ### [00:00](https://www.bilibili.com/video/BV1mo4y1s7V4?t=0s) 硅谷新势力:OpenAI 黑手党的崛起与 PayPal 传承

本期视频是 XGPT 系列的第三期。主讲人倩姐与搭档小弟一起,深入探讨了从 OpenAI 叛逃出来的早期员工所形成的“OpenAI 黑手党”(OpenAI Mafia)。自 2015 年 OpenAI 成立以来,已有 30 多名早期员工集体离职单干。这些初创项目累计融资额已超过 10 亿美元,其中不少甚至直接成为了老东家 OpenAI 的强劲对手。硅谷观察员们认为,要看懂人工智能的未来生态,不仅要关注 OpenAI,更要关注这群正在重塑全球科技与资本格局的“叛逃者”。

“黑手党”这一称号在硅谷有着深厚的历史渊源,其鼻祖正是 20 多年前名震天下的 “PayPal 黑手党”。当年 PayPal 的早期创业者们在公司被收购后陆续离散,成为了如今硅谷最显赫的科技领袖与投资人。其中包括埃隆·马斯克(特斯拉、SpaceX)、里德·霍夫曼(LinkedIn、Greylock 基金)、彼得·蒂尔(Founder's Fund、Palantir),以及 YouTube、Yelp、Square 等公司的创始人。这群人关系极其紧密,在 1995 年至 2018 年间,他们及旗下机构对 646 家公司进行了 105 项重叠投资,涵盖了 Facebook、Uber、Airbnb、Stripe 等巨头,其中 16% 的项目接受了多位成员的共同投资。

有趣的是,OpenAI 本身也是由这群 PayPal 黑手党成员促成的。在 2015 年 OpenAI 成立之初的 10 亿美元融资中,马斯克、霍夫曼和彼得·蒂尔就是最主要的投资人。如今,历史正在重演,从 OpenAI 走出的这 30 多号人,被寄予厚望在未来几十年成长为新一代的科技领袖。

- **PayPal 黑手党核心成员及企业**:埃隆·马斯克(Tesla, SpaceX)、里德·霍夫曼(LinkedIn, Greylock)、彼得·蒂尔(Founder's Fund, Palantir)、陈士骏等(YouTube)、杰里米·斯托普尔曼(Yelp)。 - **重叠投资数据**:1995年至2018年6月,PayPal 成员对 646 家公司进行投资,16% 的公司获得了多位成员的联合加持。 - **OpenAI 早期核心人物**: - **Sam Altman**:前 Y Combinator(YC)掌门人,28岁一战成名,拥有极强的融资、人脉与产品导向的商业化运作能力。 - **Ilya Sutskever**:OpenAI 首席科学家与技术精神领袖,主导了 GPT-1、GPT-2、GPT-3 及 DALL-E 的研发。

---

[04:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=299s) 大哥 Dario Amodei 与 Anthropic:因理念不合的“叛逃”

在 OpenAI 黑手党中,最瞩目的“大哥”当属 Dario Amodei(达里奥·阿莫迪)。这位意大利裔美国人拥有普林斯顿大学生物物理学博士学位,曾在百度硅谷深度学习团队工作,因大幅提升语音识别系统效率而获得“季度明星员工”称号。随后他短暂加入谷歌 10 个月,便在 2016 年 7 月加入了刚成立不久的 OpenAI。在 OpenAI 的四年半时间里,他一路升至研究副总裁,是撰写公司研究路线图的两名负责人之一,并直接带领团队构建了 GPT-2 和 GPT-3。

然而在 2020 年底,Dario 带着包括妹妹 Daniela Amodei 在内的 10 名心腹集体出走,创办了 Anthropic。这次出走在当时被媒体称为“AI 叛徒”。其导火索是 2019 年 OpenAI 接受了微软 10 亿美元的投资并转向商业化。Dario 这一派技术理想主义者认为,商业化让 OpenAI 变得越来越功利和不透明,例如在未彻底解决生成式 AI 的偏见与安全问题前,就急于将 GPT-3 做成商业 API 接口。

更深层的原因在于对“大力出奇迹”技术路径的分歧。Dario 担忧,一味追求更大的模型和更强的算力,虽然能提升 AI 的泛用性,但 AI 依然是一个“黑匣子”。他曾在采访中指出,行业用 1 万小时美国口音数据训练语音 AI,遇到英国或印度口音就失效了,而行业的解决办法居然是“花更多钱买更多数据”,这显然偏离了研究初衷。他特别警惕机器学习中的“激励扭曲”(Reward Hacking)现象——即 AI 为了获得高分(激励)而采取作弊或扭曲规则的手段,却根本不理解人类设定的真正目标。随着模型变强,这种黑匣子里的不确定性将带来巨大的安全隐患。

- **Dario Amodei 百度战绩**:使英语语音系统单词错误率降低 35%,中英文解码速度提升 10 倍,中文训练速度提升 27%,内存减少 50%。 - **Anthropic 融资与研究进展**: - 2021 年底至 2022 年 3 月,连续发表两篇关于“可解释性人工智能模型”的论文,通过拆解小规模神经网络成功解释了部分 AI 工作原理,并借此在 2022 年 4 月融资 5.8 亿美元。 - 2022 年 12 月,提出“宪章 AI”(Constitutional AI)概念,推出对抗 ChatGPT 的模型 **Claude**。 - 2023 年 2 月,获得谷歌 3 亿美元投资,正式与谷歌绑定,站在了微软和 OpenAI 的对立面。

---

[14:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=899s) 二哥与三哥:Pilot 的财务变革与 Covariant 的机器人野心

除了 Dario,受到资本热捧的还有 OpenAI 前运营主管 Jeff Arnold(被称为“二哥”)。Jeff 曾任职于甲骨文和 Dropbox,从 OpenAI 出来后创办了为初创企业提供会计、税务和 CFO 服务的平台 **Pilot**。虽然 Pilot 表面上不直接做 AI,但其在后台策略性地使用监督学习等 AI 技术来检测财务数据异常。Pilot 在 2021 年 3 月的 C 轮融资中由亚马逊创始人杰夫·贝索斯领投,成功跻身独角兽行列,被认为极有可能成为 OpenAI 黑手党中第一家上市的公司。

“三哥” Peter Chen(陈熙)则是一位华人学者,毕业于伯克利大学,曾任 OpenAI 强化学习与生成模型研究科学家。2017 年,他离职创办了 AI 赋能的机器人公司 **Covariant**。Covariant 是一家“OpenAI 含量”和“伯克利含量”极高的公司,其联合创始人包括伯克利正教授 Pieter Abbeel 以及 CTO Ricky Duan(两人均曾在 OpenAI 担任研究科学家)。

Covariant 专注于解决机器人的交互与协作管理能力,目前切入的是最容易发生质变的仓库和配送中心分拣机器人,但其终极目标是研究行业机器人所需的通用人工智能(AGI)。有趣的是,OpenAI 在 2021 年解散了其机器人团队,转而全力主攻更容易获取数据的生成式大模型。Peter Chen 的 Covariant 恰好弥补了 OpenAI 在机器人路线上的放弃与遗憾。

- **Covariant 融资与背书**:2021 年 7 月 C 轮融资 8000 万美元。早期投资人阵容极其豪华,包括图灵奖得主 Geoffrey Hinton、Yann LeCun,谷歌 AI 负责人 Jeff Dean,以及李飞飞。Hinton 甚至在推特上公开感叹“后悔当初没有多投 100 倍”。

---

[19:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=1199s) 四哥 Adept 的智能协同与黑手党生态的百花齐放

“四哥” David Luan 毕业于耶鲁大学,曾任 OpenAI 工程部副总裁,深度参与了 GPT-2、GPT-3、Clip 和 DALL-E 的安全与政策制定。在短暂加入谷歌后,他于 2022 年 1 月创办了机器学习研究与产品实验室 **Adept**。Adept 堪称硅谷的一匹黑马,成立仅数月便在 A 轮融资中拿下 6500 万美元,领投方正是霍夫曼所在的 Greylock(雷索基金)。2023 年 3 月中旬,Adept 再次宣布获得 3.5 亿美元的 B 轮融资。

David 透露,他离开谷歌创业是因为看到强大的 Transformer 模型受限于大厂体制,无法在应用层快速落地。Adept 的愿景是开发一个“通用人工智能助手”,让 AI 能够直接使用人类现有的各种软件工具和 API 接口。例如,现在的 ChatGPT 还无法直接帮用户订机票、给供应商开发票或操作 Photoshop,而 Adept 正在训练 AI 扮演技术与具体任务之间的桥梁,实现人机协同。

除了这四位领头羊,OpenAI 黑手党的其他成员也在各个领域百花齐放: - **Living Carbon**:由 OpenAI 前特殊项目经理 Mandy Hall 创立,融资 3600 万美元。该公司利用基因技术改良树木种子,使其在实验室环境中快速生长并隔离有害物质,以平衡地球碳排放。这体现了 OpenAI 内部一脉相承的“有效利他主义”信念。 - **Daedalus**:由 OpenAI 前技术负责人 Jonas Schneider 在欧洲创立,融资 1400 万美元。致力于通过 AI 驱动的机器人,将用户的 CAD 图纸端到端全自动转化为精细化工业零件,颠覆传统制造。 - **其他初创公司**:包括机器学习监控公司 Gantry、航天制造公司 Titan、生物科技公司 Conception,以及已被推特收购的 AI 聊天提效工具 Quill。

从 PayPal 黑手党到 OpenAI 黑手党,时间跨越了近 20 年,也见证了从消费互联网向人工智能的时代跨越。这群充满叛逆精神、因理念分歧而分道扬镳的顶尖天才,通过错综复杂的人脉与资本网络(如 Sam Altman 亲自投资了 Pilot 的种子轮,Greylock 投资了 Adept)依然保持着千丝万缕的联系。他们正以不同的路径,共同开启下一个科技黄金十年。

## Notable quotes > [04:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=299s) 花更多钱买更多数据 — Dario Amodei

> [14:59](https://www.bilibili.com/video/BV1mo4y1s7V4?t=899s) 后悔当初没有多投 100 倍 — Geoffrey Hinton

## Mentioned OpenAI, ChatGPT, 硅谷101, 倩姐, 小弟, PayPal, 埃隆·马斯克, 特斯拉, SpaceX, 里德·霍夫曼, LinkedIn, Greylock 基金, 彼得·蒂尔, Founder's Fund, Palantir, YouTube, Yelp, Square, Facebook, Uber, Airbnb, Stripe, Sam Altman, Y Combinator, Ilya Sutskever, GPT-1, GPT-2, GPT-3, DALL-E, Dario Amodei, 普林斯顿大学, 百度, 谷歌, Daniela Amodei, Anthropic, 微软, Claude, Jeff Arnold, 甲骨文, Dropbox, Pilot, 亚马逊, 杰夫·贝索斯, Peter Chen, 陈熙, 伯克利大学, Covariant, Pieter Abbeel, Ricky Duan, Geoffrey Hinton, Yann LeCun, Jeff Dean, 李飞飞, David Luan, 耶鲁大学, Clip, Adept, Photoshop, Living Carbon, Mandy Hall, Daedalus, Jonas Schneider, Gantry, Titan, Conception, Quill, 推特

[Source](https://www.bilibili.com/video/BV1mo4y1s7V4)

中文简报

OpenAI离职员工创办Anthropic等公司吸金超十亿美元 因理念分歧与商业化冲突而集体出走的早期核心团队正通过构建多元化的AI技术路径与资本网络重塑人工智能未来生态 视频深入探讨了由OpenAI早期离职员工构成的“OpenAI黑手党”这一硅谷新势力。内容详细梳理了以Dario Amodei(创立Anthropic)为首的几位核心人物,以及Jeff Arnold(Pilot)、陈熙(Covariant)和David Luan(Adept)等人的创业项目与技术路径。这些“叛逃者”因不满OpenAI的过度商业化或技术方向分歧,在网络安全、财务变革、智能机器人及通用AI助手等领域各自深耕,形成了与老东家抗衡或互补的百花齐放生态。 自2015年成立以来,OpenAI已有30多名早期员工集体离职创业,其初创项目累计融资超10亿美元,形成了被称为“OpenAI黑手党”的硅谷新势力。 (0:00) “OpenAI黑手党”的称号传承自20年前的“PayPal黑手党”,后者成员包括马斯克、霍夫曼和彼得·蒂尔等,且OpenAI最初的10亿美元融资也是由这些PayPal黑手党核心成员促成的。 (0:00) Dario Amodei作为OpenAI黑手党的“大哥”,曾是OpenAI的研究副总裁并主导了GPT-2和GPT-3的构建,后因理念不合带队出走创办了Anthropic。 (4:59) Dario派系离职的导火索是2019年OpenAI接受微软投资并转向商业化,他们认为未解决安全问题就急于推出商业API让公司变得功利和不透明。 (4:59) Dario警惕大模型技术路径中的“黑匣子”与“激励扭曲”现象,担忧一味追求大模型和算力的“大力出奇迹”路线会带来严重的安全隐患。 (4:59)

Reading summary

自2015年成立以来,OpenAI已有30多位早期核心成员离职创业并吸纳超过10亿美元融资,形成了被业界称为“OpenAI黑手党”的新势力。硅谷101指出,这些因商业化妥协与技术安全分歧而出走的创业者,正通过大模型安全、垂直产业赋能及具身智能等多元路径重塑全球AI生态。 PayPal传承与AI资本网络的形成 (0:00) “黑手党”概念源于20多年前名震硅谷的“PayPal黑手党”。历史数据显示,1995年至2018年6月间,埃隆·马斯克、彼得·蒂尔和里德·霍夫曼等PayPal核心成员及其机构对646家公司进行了重叠投资,其中16%的项目获得了多位成员的共同注资,催生了特斯拉、LinkedIn、Palantir、YouTube与Yelp等巨头。OpenAI在2015年成立时的10亿美元启动资金,核心出资人正是这群PayPal早期创业者。 如今这一紧密的资本与人脉机制在OpenAI离职群体中重演。走出公司的30余位早期员工不仅迅速建立起各自的创业项目,而且彼此以及与老东家之间保持着纵横交错的投资支持。例如,OpenAI首席执行官Sam Altman亲自参与了离职员工项目的种子轮投资,霍夫曼旗下的Greylock基金亦频繁重仓该群体创办的企业。 Anthropic对商业化与黑匣子的反叛 (4:59) 在出走成员中,最受瞩目的是曾任OpenAI研究副总裁的Dario Amodei。他曾带领团队主导构建了GPT-2与GPT-3。2020年底,Dario带着包括妹妹Daniela在内的10名骨干离职创办Anthropic。此次决裂的导火索是2019年OpenAI接受微软10亿美元投资并走向商业化。Dario一派的技术理想主义者认为,公司在未彻底解决大模型偏见与安全问题前就急于推出商用API,背离了成立初衷。 更深层的分歧在于技术哲学。Dario高度警惕单纯依赖算力与海量数据的“大力出奇迹”路线,指出一味堆砌数据无法消除AI作为“黑匣子”的不确定性,并对强化学习中的“激励扭曲”(Reward Hacking)深感担忧——即AI为获取既定规则的高分而采取作弊手段,脱离人类真实意图。为此,Anthropic主攻“可解释性AI”并在2022年底提出“宪章AI”(Constitutional AI),推出对标ChatGPT的Claude模型。公司于2022年4月融资5.8亿美元,随后在2023年2月获得谷歌3亿美元战略投资,正式站上老东家与微软的对立面。 财务自动化与Covariant机器人野心 (14:59) 除通用大模型外,OpenAI早期核心成员也在垂直自动化领域迅速突围。前运营主管Jeff Arnold离职后创办财税服务平台Pilot,利用监督学习等AI技术检测企业财务异常数据。Pilot在2021年3月完成由亚马逊创始人贝索斯领投的C轮融资,跻身独角兽行列,被视为该派系中最具率先IPO潜力的企业。 在物理世界交互层面,前强化学习研究科学家Peter Chen(陈熙)于2017年联合伯克利教授Pieter Abbeel等人创立Covariant。虽然OpenAI在2021年因数据壁垒解散了内部的机器人团队,转而专攻大语言模型,但Covariant坚持探索实体机器人的通用人工智能(AGI)。公司切入仓储配送物流分拣,其解决机械臂感知与协同能力的技术吸引了顶尖学者背书。Covariant在2021年完成8000万美元C轮融资,早期投资方集结了Geoffrey Hinton、Yann LeCun、Jeff Dean以及李飞飞,Hinton更曾公开感叹后悔未能对其追加百倍投资。 Adept的人机协同与生态多元布局 (19:59) 前OpenAI工程部副总裁David Luan于2022年创办Adept,核心目标是打破大厂机制束缚,加速Transformer模型在操作界面的应用落地。Adept致力于打造通用人工智能助手,训练AI直接调用现有各类软件工具和API,承担跨软件处理业务(如订机票、开发票或操作设计软件)。该公司成立数月即完成Greylock领投的6500万美元A轮融资,并在2023年3月拿下3.5亿美元B轮融资。 此外,离职群体的探索还延伸至更广泛的技术边界:前特殊项目经理Mandy Hall创办Living Carbon(融资3600万美元),通过基因工程改良树木以吸附有害物质并平衡碳排放;前技术负责人Jonas Schneider在欧洲创立Daedalus(融资1400万美元),实现从CAD图纸到工业零件制造的端到端自动化。此外,生态中还包含机器学习监控公司Gantry、航天制造公司Titan、生物科技公司Conception及被推特收购的Quill等项目,均体现出鲜明的技术驱动特质。 从PayPal黑手党到OpenAI黑手党,硅谷的技术话语权正在完成由消费互联网向生成式AI的过渡。尽管这群核心技术专家因理念分歧、安全忧虑或应用落地路线分道扬镳,但密集的资本共投和社交纽带依然将他们连结在一起,以制衡与互补的方式共同拓展AI的未来边界。

Source quotes

[4:59] Dario Amodei: 花更多钱买更多数据 [14:59] Geoffrey Hinton: 后悔当初没有多投 100 倍

Original transcript

[0:00] 大家好我是你们的倩姐这是小弟那么这期视频是我们XGPT系列的第三期来填之前挖的一个坑聊聊OpenAI黑手的XGPT背后的公司OpenAI从2015年成立以来已经有30多个早期员工集体叛逃自己辞职出来单干那么这些初唱公司会的项目的融资额已经超过了10亿美元其中不少是成了老东家OpenAI的对手因此这群OpenAI的叛逃者被称为OpenAI黑手党那么硅谷很多观察员就认为我们不但要关注OpenAI更要关注OpenAI黑手党因为这群人正在重塑人工智能的生态进而在未来改变硅谷改变全球科技圈和资本圈并且关注黑手党们在做的事情可以了解到他们当初的叛变理由包括在OpenAI发展过程中因为理念不合目标不同而诞生处的不同AI产品的路径还有技术派系非常的有意思所以这个视频我们就潜入黑手党的内部去一探究竟他们背后的AI生态那么可能有小伙伴好奇为啥叫黑手党那是因为OpenAI最早的金主爸爸们是一个更加厉害的黑手党那就是PayPal黑手党20多年前一批PayPal的早期创业者们陆续离开公司MRS创业养了成为投资人之后衍生出如今硅谷科技界最有影响力的一批科技领袖企业还有资本包括大家耳熟能详的马斯克和他旗下的特斯拉与SpaceX李德霍夫曼和他旗下的LinkedIn以及Greylock挥索基金还有彼得蒂尔和他旗下的Founder's Fund以及大数据独角兽Palantir那么此外被称为PayPal黑手党的成员还创立或者加入了YouTubeYelpSquareKivaSlideJenny红杉基金等等他们的影响力远远不止这张图那么很多科技巨头还有独角兽背后的资本运作都有PayPal黑手党成员们无形的手而且他们之间关系紧密无论是创业还是投资都喜欢抱团行动比如说这张图展现出的就是PayPal黑手党成员进行重叠投资的关系紧密程度在1995年到2018年6月份PayPal黑手党成员以及他们附属的Foto公司对646家公司进行了总计105项的投资包括了Facebook、Uber、Lift、Airbnb、Pinterest、Stripe等等其中这些公司当中16%的公司是接受了多名PayPal黑手党成员的投资由此可见这群人真的是手握硅谷的半壁江山这就是抱团的力量而最近被推上风口浪尖的XGPT的某公司OpenAI巧了也是这群人给搞出来的在2015年OpenAI最开始的10亿美元的融资当中PayPal黑手党中的马斯克胡夫曼以及彼得·蒂尔就是其中的主要投资人所以如今硅谷将OpenAI出来的这30多号人和他们成立的公司称为OpenAI黑手党很明显是认为这群叛逆又有天分的人才将在未来几十年中成长为像如今PayPal黑手党这样有影响力的科技领袖群体所以如果大家错过了PayPal黑手党当年的崛起那么千万不要错过接下来十年OpenAI还有OpenAI的对手们以及叛逃出来的这群OpenAI黑手党成员们的商业版图的发展那么我们还有机会可以去观察他们加入他们学习他们或者投资他们当然这里要插一句我们要聊OpenAI的关系网少不了OpenAI的联合创始人现任CEO的传奇人物Sam Altman那么Sam在于马斯克呼夫曼以及彼得蒂尔等人创立OpenAI之前是硅谷最有人才和项目资源最有号召力的孵化器Y Combinator简称YC的掌门人那么YC是硅谷最有影响的聚集地之一2005年成立以来是孵化了DrawboxAirbnbStripeReddit等等科技举头那Sam在成为YC新掌门人的时候才28岁一战成名而来到OpenEdge之后他手中强大的YC派系的人外关系融资能力人才资源以及他本人多年的投资背景以及孵化项目所形成的以产品为导向的路线理念呢是一路将OpenAI从一个研究实验室成长为了如今万众瞩目的人工智能明日之星另外要知道啊OpenAI的关系网呢也少不了首席科学家Elia Suitskever那么有人说Sam是前台讲故事的人而Elia才是幕后的大神主导了GPT-123以及呢DALI系列模型的研发可以说是OpenAI技术的精神领袖了但是呢 [4:59] 两个人以及OpenAI和XGPT开发的故事实在是太精彩太多细节可以深挖了所以我们今天先把重点放在OpenAI成长务程当中叛逃出去的OpenAI黑手党成员身上而OpenAI崛起的故事我们下期来讲聊所以记得关注我们不要错过更新好 接下来我们就来聊聊这群叛徒们首先来讲OpenAI黑手党的大哥Dario Amade达里奥阿莫迪和他创办的Anthrobic达利奥阿莫迪是一个意大利裔的美国人本科斯坦福大学物理系普林斯顿大学生物物理学博士然后回到斯坦福做了三年的博士后之后是加入了在硅谷的白度团队研究深度学习包括语音识别和自然语言处理哥们做的很不错在215第二季度还获得了白度的季度明星员工称号他在自己的领音上面写道说自己和当时的团队时百度实验室英语语音系统的单词错误率相对降低了35%中英文解码速度提升10倍中文系统的训练速度提高了27%内存使用量减少了50%从而大幅度提高了整个实验室的生产力和计算效率而他自己也是百度内部神经网络库的联合开发者但是阿莫迪只在百度待了一年然后就跳槽去了谷歌百度是不是现在很后悔没有留住这个人才但是大哥可能就不是能待得住大厂的性格在谷歌的时间更短就只干了10个月就跳槽去了OpenAI那阿莫迪真的算得上是OpenAI的元老级员工了2016年7月份加入带领AI的安全团队之后的4年半他做到了研究团队的副总裁发了很多论文并且他本人就是在OpenAI设定总体研究方向撰写研究路线图的两名负责人之一并且是带领团队构建了GBT2和GBT3所以阿莫迪在OpenAI的重要性可以说是非常核心的这也是为什么在2020年底他带着自己的十名心腹离开OpenAI包括他自己的亲妹妹Daniela Arnode创办了自己的初创企业Anthrobic而这趟出走被硅谷媒体称为EI盘图其实不止阿摩迪和他的手下2020年底的时候OpenAI是走了好一批人因为在2019年的时候OpenAI发现训练大模型太烧钱了光是靠早期马斯克呼夫曼还有彼得蒂尔等人的10亿美元根本就打不住所以是不得不开始接受了来自微软10亿美元的投资那么这在团队当中刑发了很大的分歧因为OpenAI最开始是作为NPO非盈利组织存在的但是阿莫迪这一派审就认为OpenAI开始商业化之后变得越来越不透明并且逐渐的功利化让他们感到担忧那么一个最直接的例子就是OpenAI稍微解决生成是人工智能当中的偏见还有安全问题就把GPT3发展成了商用化的API接口提供给行业里面的大公司去使用但是OpenAI商业化站对微软只是阿莫迪叛逃的第一个原因而更大的一个原因在于他不同意OpenAI如今开发人工智能的路径那么我也看了好一些他在早期和现在的采访发现阿莫迪对OpenAI现在烧钱对算里的大力出奇迹的方式也早就表现出不认同阿摩迪早在2017年接受播客采访的时候他就举例说在训练语音识别AI系统的时候行业的做法是用1万个小时的美国口音的数据去训练但是如果遇到英国口音或者印度口音AI就识别不了了那么行业普遍的解决评论是英文语吗?那就更加收钱那就只能更加的商业化那就更加的偏离出新了在过去几年阿莫迪一直很担心不知其人不知其所以然的人工智能发展态度会带来未知的风险人们目前知道越来越大的模型越来越强的算力的输入和训练可以让AI的输出的泛用性越强但是AI一直是一个黑匣子尽管AI专家们形容AI神经网络是按照人脑的神经工作原理去设计的 [9:59] 但其中很多具体的原理是一直没有被真正的解释那么解释黑匣子很难是因为我们自己人脑的研发都还在很早期的阶段我们自己的神经元都还没有搞清楚就把这一套假设性的原理去搞人工智能那能不是黑匣子吗那么你就担心AI在运作的过程当中比如说特定参数之间的关系特定的调整会导致输出结果如何变化以及社会当中客观存在的偏见如何在AI系统当中消除等等太多不确定性了如果不解决就快速的投入商业的话可能会产生一些AI的安全问题那么有一个经典的AI案例是机器学习当中有一个现象叫做reward hacking激励扭曲现象那就是比如说你让机器在学术中被称为agent去通关吃豆子游戏按人类设置的这个激励假设时你游戏玩的更好通关的越快被奖励的分数就越高但是AI研究员的发现这个激励假设很容易被AI所扭曲AI会殖民于获得更高的分数要么走完所有错误的路吃掉所有的豆子来获得更高的分数要么它会改掉游戏设置来作弊获得更高的分数但是AI却从来不理解要把走出迷宫当作真正的目标这就叫做reward hacking激励模型设计和AI真实做法之间有无法预测的不确定性而形成了所谓的激励扭曲而当AI神经网络变得更强大而出现激励扭曲的时候AI会更容易产生更想象不到的方式去作弊来获得激励也就是说AI在黑匣子里面做的事情和它的设计初衷可能会完全不同而产生很严重并且危险的后果但是OpenAI确实一直在走的是大力出奇迹的路线并且以产品化商用化的路线去发展所以阿莫迪在OpenAI联手微软之后就决定叛逃并且带走了他之前在OpenAI的一批手下开创了Athrobic那么在Athrobic阿莫迪是选择了和OpenAI截然不同的路径就是试图真正的去搞懂人工智能神经网络的运行原理阿莫迪在2022年的播客采访当中坦言说可解释性人工智能模型是一个解决黑瑕疵问题的路径也是他带领的 OpenAI 盼讨者们和 Antrobic 选层的路径Models learn to do arithmetic very quickly over one order of magnitudeThey learn to comprehend certain kinds of questionsYou know, they learn to play actors that aren't telling the truthWhich is something that if they're small enough they don't comprehendSo, you know, can we we study both inside, you know, the dynamics of how this happens, how much data it takes to make that happen, what's going on inside the model mechanistically when that happens, and kind of use that as an analogy that equips us well to understand as models scale further and also as their architecture changes, as they become trained in different ways. You know, I've talked a lot about scaling up, But I think scaling up isn't the only thing that's going to happen There are going to be changes in how models are trained And we want to make sure that the things that we build Have the best chance of being robust to that as well In fact, Anthrobic, for to change the situation Is to create a new development plan First, make sure the technology technology technology The way to make the technology technology Second, provide better technology technology Third, create a new technology technology technology Simple to say, Ammodi wants to do a Can't fix the technology technology technology and can be solved by the way to create a stronger, more low-quality, more reliable, more reliable, more reliable, more reliable, more reliable, more reliable of the system. Of course, the goal of the goal is to achieve the goal of the way to achieve the goal of the world is not clear, but the capital of the world is a very much more objective. Anthrobic is a project that has been released in 2014. In 2021 and 2022, the OpenAI government oAnthrobic一成立就轻松的拿下了1.24亿美元的融资在2021年底和2022年3月份这个OpenAI黑手党的老大哥是连发了两篇的论文这两篇论文我们就不详细说了这个论文的链接我们放在视频的结尾大家感兴趣的话可以自己去读一读那这里的结论就是Anthrobic是做了一个很小规模的人工智能网络然后一步一步拆分看他们是怎么运行来理解背后的原理结果还真让他们发现和解释了一部分的AI工作原理包括内部的协作关系等等这是得到了业内很大程度上的认可而凭借着这两篇论文Enthrobic在2022年4月份逼了融资又筹集了5.8亿美元很快时间就来到了2022年的12月Enthrobic提出了所谓的constitutional人工智能的概念并且基于此创建了一个名为Claude的人工智能模型正式的叫板OpenAI的ChatGPTConstitutional的意思是宪章、章程、顾名思义是用有监督学习的方式让人工只能根据一套Constitution中的原则来产生无害性偏好的数据集这篇论文我也是放在视频的结尾大家感兴趣可以自己去看一看因为Claude没有对公众公开所以他的市场热度远没有差GPT [14:59] 但是有业内测评师已经发表了文章表示与XGBT相比Cloud更倾向于拒绝不恰当的请求并且更有趣给出的答案更冗长但是句子之间的衔接也更加自然遇到无法回答的问题的时候Cloud会主动坦白在代码生成或者推理方面Cloud的表现是不如XGBT的出现的错误也更多而对于其他的任务比如说进行逻辑推算还有推理等等Cloud和XGBT是旗鼓相当的所以这篇测评的结论就是Cloth不比XGPT差这两者有的比将会是非常强劲的对手那么我也是提交了测评申请但是还没有得到批准等我有机会测试来来告诉大家我的感受那么Cloth发布之后很快我们看到在2023年的2月份谷歌宣布对Anthrobic投资3亿美元至此Anthrobic正式的和谷歌绑定站在了昔日劳动价和微软的对手方那么随着谷歌和微软的AI世纪之战拉开序幕OpenAI和Anthrobic的两种人工智能发展路径也开始了正式的对决未来是充满了不确定性但是确定的一点是无论是OpenAI的路径还是Anthrobic的路径现在人工智能的研发还在非常早的阶段而OpenAI黑手党的老大哥阿莫迪将在这条路上扮演很重要的角色好 讲完了OpenAI黑手党的大哥我们接下来看看被亚马逊创始人贝索斯投资的二个Jeff Arnold和他的独角兽Pilot那么除了大哥之外还受到硅谷风头热捧的就是OpenAI的前运营主管 Jeff Arnold我们把他称为二哥那么在加入OpenAI之前Arnold在甲骨文担任转件开发人员并且在Dropbox担任产品客户和平台主管那么二哥从OpenAI出来之后是创立了为其他初创企业和成长型企业提供会计税务和首席财务官CFO服务的平台Pilot那么虽然一眼看上去Pilot的产品和服务不直接与人工智能相关但是Pilot在自己的产品当中也会策略性的用人工智能去提升他们的产品性能比如说用AI当中监督学习的方法去检测财务数据中的异常值等等而我们把Jeff Arnold称为二哥也是根据公司的估值来看的Pilot最近的C轮融资就是由亚马逊的创始人杰夫·贝索斯领头在2021年3月份迈入了独角兽的行列而很有可能二哥会成为OpenAI黑手党当中第一个上市的城市那我们也拭目以待但是因为二哥他跟AI没有太大的关系所以我们今天就比较快的略过而下一位OpenAI黑手党的三哥非常的重要OpenAI黑手党三哥叫做Peter Chen也是一位华人伯克利大学本科和博士Peter在OpenAI待了一年零四个月担任强化学习和生成模型方面的研究科学家2017年辞职之后创办了如今的人工智能分解机器人公司CovariantCovarian公司是一个OpenAI含量相当高的公司它的核心团队成员四位里面有三位都是从OpenAI出来的他们除了是OpenAI黑手党还是伯克利黑手党那么除了Peter之外还有Peter Abiel2016年到2017年在OpenAI做研究科学家之后在伯克利大学正教的同时和Peter是联合创立了Covarian以及他们的CTO叫Ricky Duan也是Peter Abiel在伯克利的学生曾经也是在OpenAI单任研究科学家WhAI的工资会变成我们的世界?工资的父亲,不要只重新动作但看什么在围中,反应那么Covarian这个项目在硅谷这边也是非常非常的抢手最近一次融资是2021年7月份Cellet融的8000万美元而它的早期投资人都是业界的顶级大牛包括图灵奖的得主Jeffrey Hinton和Yan Lecun还有谷歌的AI负责人Jeff Dean还有斯坦福AI实验室的前主人李飞飞等等AI学术界最有名的一群人而在Varian刚容完B轮之后我们看到Jeffrey Hinton还发了一个推表示非常的后悔感叹当初应该多投100倍也算是非常非常的看好这个项目了虽然OpenAI黑手党三哥Peter并没有从事XGPT类似的生成式AI但是AI赋能的机器人同样重要那么Covarian就表示说公司核心竞争力在于管理因为不同种类的机器人之间最重要的就是交互还有协作能力因此人工智能需要强大的管理能力才能够支撑全部机器人正常的运作目前公司致力于分解机器人是因为仓库和配送中心是机器人行业当中最先发生质变的地方但是公司有时 [19:59] 更远大的目标就是致力于行业机器人所需要的通用人工智能AGI的研究工作有意思的是在2021年的时候OpenAI是解散了当时的机器人团队因为他们发现深层式人工智能的大模型研究方法可以让强化学习研究取得更快的进展所以OpenAI当时就决定把资源还有注意力全部转移到这个更加容易获取数据的领域是放弃了AI机器人这条路线上面的探索所以与其说OpenAI解散机器人团队让covariant少了一个竞争对手还不如说黑手党三哥Peter现在在做的事情其实是弥补了openAI进程当中的遗憾或许出途同归但是大家看向的远方都是AGI好了我们接下来说一下赐格也是一位华人那么David是毕业于耶鲁大学在openAI期间做到了工程部的副总裁他参与了语言、超级计算、强化学习的技术研究以及GPT2、3、Clip还有Dolly项目的安全和政策制定那么在离开OpenAI以及短暂的在谷歌工作了一段时间之后David开创了名为Adapt的机器学习研究和产品实验室在2022年A轮融资了6500万美元那么其实Adapt算是OpenAI黑手党当中起步比较晚的公司了在2022年月份才成立但是可以说是一匹黑马在硅谷很快就成为了非常抢手的明星项目A轮融资的领头方正是美国历史最悠久的崩头公司挥索基金Greylock是不是很耳熟没错 我们之前提到的PayPal黑手党成员霍夫曼正是归锁基金的合伙人你看 在硅谷似乎所有的点都可以连成线当然 除了这条线的关系之外归锁基金作为硅谷最有经验的风投机构对AI浪潮也是极其敏感的而说明业界对OpenAI黑手党赐购的看好Adapt探索的是让机器能够使用全世界的任何软件与API相当于开发通用人工智能助手而这个助手可以集成各种的应用程序来执行几乎所有的任务那么David就表示离开谷歌创业的原因就是因为看到谷歌训练出了非常厉害的Transformer的模型但是因为谷歌的种种限制没有办法将Transformer去及时的在应用层面去落地和现实生活很好的结合在一起那举个例子啊比如说现在大家用这个XGBT的时候还不能够让XGBT给你去订机票还不能够去给工艺商开发票或者用这个Photoshop和Tablo等等工具去直接帮你完成工作所以David就选择了Adapt这样的一个协作智能的方向训练AI使用人们如今所有的软件工具和API接口那么最终成为AI技术和完成任务中间的连接桥梁那么毫无疑问这将是整个AI生态当中非常非常重要的一环而就在不久前的三月中旬Adapt宣布新的B了融资3.5亿美元这名OpenAI黑手党的四个说这仅仅是个开始那么说完了前面四位黑手党大哥们之外剩下的黑手党成员还有项目其实还有不少也是百花起放非常的有意思就比如说OpenAI的前特殊项目经理Mandy Hall是成立了生物科技研究公司Living Carbon融资了3600万美元这个公司在实验室里面创造有利于树苗种子生长且隔离开有害物质的环境来帮助它们更快的成长参天大树并且在这个过程当中引用基因技术来对树木种子进行基因改良最终实现地球碳排放的平衡那么虽然Living Carbon和人工智能技术并不直接相关但是Mandy她就表示在之前OpenAI工作的过程当中她发现了社会价值的重要性所以可能也是和OpenAI的非盈利组织信仰以及当时在公司内部很多人宣扬的所谓有效利他主义的信念是一脉相承此外还有OpenAI的前技术负责人Jonas Schneider在欧洲就成立了Deadless公司融资1400万美元意在将人工智能与精细化工业生产相结合那么Schneider是一个德国人可能是我有点刻板印象就觉得这件事情在德国做也是非常适合的来通过机器人和软件生产精细化的零件Deadless公司表示通过AI驱动的机器人可以将用户的需求从计算机辅助设计制图进行端到端的全电路自动化完工并提升制造的准确性、可靠性和速度这将完全颠覆传统的零件和设备制造工厂还记得我们上一个视频当中王永光老师提到AI现在还不能替代蓝领的工作吗 [24:59] 我Dadless这样的AI驱动机器人开始投入市场之后那么王永根老师的问题也就解决了没看上期的小伙伴们可以去听加上寄我们聊XGBT争议和风险的观点此外OpenAI黑手党成员还建立了AI驱动的机器学习产品监控公司Gantry航天制造公司Titan生物科技研究公司ConceptionAI聊天提校公司Quill等等顺便说一句Quill已经是被推特收购了所以说到这儿可以看出来OpenAI黑手党的生态已经开始变得非常的丰富了那么可能从刚才我们讲述的PayPal黑手党以及OpenAI成员关系师徒关系伙伴关系等等看出来OpenAI黑手党不仅仅是前同事们的关系更是一张巨大的人脉网还有资本网络将最聪明的人和最聪明的钱绑定在一起来创造一个新的世界那么这样的一个世界是充满了叛逆精神出走和单干那是家常便饭但人才之间惺惺相惜又保持着千丝万缕的关系还记得开头我们给大家画的那张PayPal黑手党的关系图吗那么OpenAI和OpenAI黑手党的关系图也现在开始慢慢的建立了比如说Adapt作为OpenAI的竞争对手他还获得了OpenAI早期投资人霍夫曼那边的挥索基金以及马斯克旗下的autopilot负责人的投资再比如说Pill在成立的时候种子轮的融资正是来自OpenAI的CEO Sam Altman可以说虽然OpenAI在发展过程当中是出现了一些意见的分裂但是他短时间内聚集了一群坚信人工智能未来潜力的顶尖工程师与科学家他们在OpenAI的团队当中被孵化被市场和资本们所认识无论是留在OpenAI还是叛逃出去成为黑手党成员都将在未来十年或者更久的时间在这个生态当中扎根并且开启下一个时代从PayPal黑手党的诞生到OpenAI黑手党的诞生是隔了快20年的时光也是隔了整整的一代科技浪潮当年霍夫曼、马斯克和彼得蒂尔这群年轻人因为相信互联网时代所以一起创办了PayPal这家在线支付公司20年间这群人成为了科技和商业的领袖引领了一代科技浪潮如今20年过去了消费互联网已经成为了再难有机会的红海而恰逢其实OpenAI黑手党崛起了他们将和OpenAI与OpenAI的对手们还有背后站队的科技巨头们还有不断涌现的新技术新公司新人才们一起开启下一个科技浪潮而新的世界才刚刚开始感谢大家收看这期的硅谷101那么下一期我们就来继续聊一聊OpenAI的崛起故事非常非常的精彩大家记得订阅我们我们下期见啦321过来过来一点不不不一起来一起来sitgood girlgood girlsitoh ok okhello大家好我是你们的倩姐太不给面子了哈喽大家好是你们的见解他哪里想带那么其他GPT背后的公司OpenAI从2015年成立以来已经有30多个早期员工集体叛讨自己辞职出来单干OpenAI黑手党那硅谷很多观察员认为字幕志愿者 杨茜茜