硅谷101
苹果凭借横跨手机、穿戴设备的庞大硬件护城河,通过端侧模型降本与私有安全计算,率先跑通生成式AI在消费端的商业落地闭环。
AI-assisted summary of 平庸且保守,但苹果或是AI落地的最大赢家【深度解读WWDC 2024】 — original source. Check the original for full context.
Source published:
Detailed notes
## Background 该内容由自媒体“硅谷101”于2024年6月16日发布在Bilibili平台上。视频主要围绕苹果在WWDC 2024上推出的Apple Intelligence套件以及与OpenAI的合作展开,通过采访AI模型研究员、应用开发者和一二级投资人,深度解析苹果的AI战略、端侧模型技术领先性、安全隐私隐患以及硬件与AI交互的未来布局。
## TL;DR 视频深入探讨了苹果在WWDC 2024发布AI战略后市场两极分化的反应。苹果凭借出色的软硬件整合能力,让8GB内存设备流畅运行30亿参数的端侧模型,在端侧技术上实现显著领先,并计划通过“私有安全计算”运行中小型云端模型来处理复杂Agent任务。面对大模型鲁棒性不足的挑战,苹果采取了不花现金、仅以渠道资源交换的保守商业策略,免费引入OpenAI的GPT-4o来解答世界知识,虽然此举引发了马斯克对数据脱离苹果控制的安全质疑。然而,华尔街和开发者生态最终对苹果开辟的从芯片、模型训练到端侧推理的一站式全包生态闭环给出了强烈正面反馈,认为苹果将凭借其全场景硬件护城河成为AI消费端落地的最大赢家。
## Atmosphere & style 整期节目的基调展现出硅谷前沿科技报道的专业性、客观性与深度洞察力。主持人的叙事风格条理清晰、环环相扣,通过密集引用多位一线专家、教授和开发者的独家访谈,将复杂的端侧架构、加密原理和商业博弈拆解得既具技术硬核感又通俗易懂。节目在探讨马斯克的激烈抨击与苹果“私有安全计算”的博弈时充满了戏剧张力,整体给观众一种站在行业风口浪尖、理性推演科技巨头未来十年命运的沉浸式与启发性体验。
## Key takeaways - [00:00](https://www.bilibili.com/video/BV1jT421Y7wu?t=0s) 苹果在 WWDC 2024 上推出了 Apple Intelligence 套件并宣布与 OpenAI 合作,市场对此反应两极分化,股价在经历首日下跌后于次日创下大涨。 - [00:00](https://www.bilibili.com/video/BV1jT421Y7wu?t=0s) Apple Intelligence 架构由自研端侧模型、自研云端模型以及 OpenAI GPT 大模型三大支柱组成。 - [00:00](https://www.bilibili.com/video/BV1jT421Y7wu?t=0s) 苹果的端侧模型约为 30 亿参数,通过采用分组查询注意力(GQA)和 LoRA 框架优化,其测试得分超越了部分 7B 开源模型。 - [00:00](https://www.bilibili.com/video/BV1jT421Y7wu?t=0s) 端侧模型流畅运行的核心瓶颈在于运行内存(RAM),苹果成功让 8GB 内存设备运行 30 亿参数模型,在端侧技术上处于领先地位。 - [07:39](https://www.bilibili.com/video/BV1jT421Y7wu?t=459s) 端侧模型具备极高的隐私安全性,但由于参数量小且通用性有限,必须专注于特定的小任务。 - [07:39](https://www.bilibili.com/video/BV1jT421Y7wu?t=459s) 苹果通过“私有安全计算”运行更大参数的云端模型,官方数据显示其有 50% 的几率跑赢 GPT-3.5 Turbo。 - [07:39](https://www.bilibili.com/video/BV1jT421Y7wu?t=459s) 行业人士预测苹果云端模型约为 300 亿至 700 亿参数,其强项在于利用特定生态内的数据进行复杂的 Agent 决策与多 API 协作。 - [15:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=959s) 大模型在面对千万级用户规模时鲁棒性仍显不足,追求完美体验和产品文化保守的苹果为此选择了折中且聪明的合作方案。 - [15:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=959s) 当 Siri 需要调用世界知识时会弹窗征求用户许可,将数据送往 ChatGPT(GPT-4o),将选择权与责任清晰划分。 - [15:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=959s) 在商业博弈上,苹果未向 OpenAI 支付现金,而是以数亿设备的渠道分销和品牌曝光作为资源交换,这也让 OpenAI 面临沉重的算力成本压力。 - [24:19](https://www.bilibili.com/video/BV1jT421Y7wu?t=1459s) 马斯克对苹果与 OpenAI 合作的安全隐患提出强烈抨击,并威胁若在系统级整合 OpenAI 将全面禁用苹果设备。 - [24:19](https://www.bilibili.com/video/BV1jT421Y7wu?t=1459s) 苹果的“私有安全计算”通过端到端加密架构确保云端服务器的数据安全,但在技术上,一旦数据通过 API 传输给 OpenAI,其安全性将脱离苹果控制。 - [32:39](https://www.bilibili.com/video/BV1jT421Y7wu?t=1959s) 端侧推理能够大幅降低垂直领域开发者的云端算力与带宽成本,为重度 AI 应用的本地运行提供了发挥空间。 - [32:39](https://www.bilibili.com/video/BV1jT421Y7wu?t=1959s) 苹果的野心在于实现生态“大一统”,为开发者提供从硬件、芯片、操作系统到模型训练和本地推理的一站式全包服务。 - [32:39](https://www.bilibili.com/video/BV1jT421Y7wu?t=1959s) 华尔街态度反转并看好苹果,主要是因为意识到苹果率先跑通了生成式 AI 在消费端的商业落地闭环,能提振硬件销量并巩固生态壁垒。 - [40:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=2459s) 苹果对技术的判断标准是必须服务于产品和用户体验,它不盲目激进,而是在等待技术成熟到足以颠覆体验的临界点。 - [40:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=2459s) 苹果对手机、耳机、手表、电脑和头显等全场景硬件生态的绝对掌控,构筑了纯软件大模型公司无法企及的物理护城河。 - [40:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=2459s) 随着 AI 技术向消费端应用落地期收敛,苹果凭借强大的生态整合能力,有望成为生成式 AI 浪潮中的最终收割者。
## Detailed walkthrough ### [00:00](https://www.bilibili.com/video/BV1jT421Y7wu?t=0s) 苹果 WWDC 2024 的两极反响与端侧模型的技术突破
在美国时间2024年6月10日的 WWDC 上,苹果正式宣布入局 AI,推出了围绕 iPhone、iPad 和 Mac 的 Apple Intelligence 套件,并宣布与 OpenAI 达成合作。然而,外界对这次发布的反应呈现出极大的反差。一方面,有人嘲笑苹果的 AI 功能过于简单和落后,认为这些都是安卓手机玩剩下的,导致苹果股价在 WWDC 当天收跌将近 2%;但紧接着在第二个交易日,苹果股价强势反弹超过 7.2%,创下2022年11月10日以来的最大单日涨幅。与此同时,马斯克在推特上公开挑衅,直指苹果与 OpenAI 合作的安全隐患。为了探寻这些底层的技术与商业逻辑,节目组密集采访了 AI 模型研究员、应用开发者以及二级市场投资人。
苹果的 Apple Intelligence 架构由三部分组成:自研端侧模型、自研云端模型,以及 OpenAI 的 GPT 大模型。在端侧(本地)模型上,苹果部署了一个大约 30 亿参数的语言模型。令人惊叹的是,该模型在测试得分上超越了诸如 Mistral 7B 和 Gemma 7B 等许多 70 亿参数的开源模型。苹果在模型框架上采用了分组查询注意力(Grouped Query Attention)和 LoRA 框架,从而压缩了推理过程并有效降低了内存占用。
在硬件门槛方面,运行该端侧模型需要 iPhone 15 Pro、iPhone 15 Pro Max 以及配置 M1 芯片以上的 iPad 或 Mac。虽然芯片算力是一方面(A15 的 NPU 算力其实已经高于 M1),但真正限制旧款 iPhone 使用 AI 的核心瓶颈在于运行内存(RAM)。端侧模型的推理需要至少 8GB 的内存。作为对比,谷歌去年在 Pixel 8 Pro 上部署的端侧模型仅有 18 亿参数,却配备了 12GB 内存,直到今年优化后才勉强让 8GB 手机跑起 18 亿参数的模型。因此,苹果能让 8GB 内存的手机流畅运行 30 亿参数的模型,在端侧技术上已经处于明显的领先地位。
- **Apple Intelligence 三大支柱**:自研端侧模型、自研云端模型、OpenAI GPT 大模型。 - **端侧模型参数与技术**:约 30 亿参数,采用 Grouped Query Attention 和 LoRA 框架,性能超越部分 7B 模型。 - **硬件限制**:仅支持 iPhone 15 Pro/Pro Max 及 M1 芯片以上的设备,核心瓶颈在于 8GB 运行内存。
---
[04:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=299s) 端侧与云端模型的协同:如何用中小型模型实现复杂 Agent 任务
端侧模型最大的好处是数据留在本地,隐私安全极高;但缺点在于参数量小,通用性(Generalization)无法与千亿、万亿级的大模型相比,只能专注于特定的小任务。正如 AI 专家所言,在尺寸限制下,端侧模型必须“focus 在这一个问题上,把这一件事情做好”。在 WWDC 的演示中,Siri 展现了更自然、更具上下文理解能力的交互,例如能听懂关于 Muir Woods 天气预报的连续追问,并能结合用户的日程、邮件、照片等个人数据进行深度整合。
为了解决端侧模型能力不足的问题,苹果的策略是在云端配置更大的模型。苹果计划通过“私有安全计算”(Private Cloud Compute),在搭载苹果自研芯片的服务器上运行更大参数的云端语言模型。官方数据显示,苹果的云端模型有 50% 的几率跑赢 GPT-3.5 Turbo,并有 58.3% 的几率不输给 GPT-4 Turbo。
开发者 Nathan Wang 指出,苹果的云端模型可能并不需要极大的参数,大约 300 亿到 700 亿(30B 到 70B)参数的中小型模型就足够了。因为苹果的应用场景非常具体(Specific),API 调用和运行环境是相对固定的。苹果完全可以用这些特定生态内产生的数据去训练一个中小型模型,来完成大模型才能做到的复杂 Agent 决策。例如,当用户因为开会延迟需要去接女儿时,系统需要调用 iCloud 获取会议时间地点、调用 Apple Maps 计算两点间距离与路况,最后将这些数据作为提示词(Prompt)送给大模型做决策。这种复杂的生态整合与多 API 协作,正是苹果云端模型的强项。
- **云端模型性能指标**:50% 几率跑赢 GPT-3.5 Turbo,58.3% 几率不输给 GPT-4 Turbo。 - **参数量预测**:行业人士猜测云端模型约为 300 亿至 700 亿参数。 - **Agent 协同案例**:整合 iCloud 日程、邮件、Apple Maps 等数据,自动规划行程并计算延迟时间。
---
[09:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=599s) 苹果与 OpenAI 合作的保守策略与商业博弈
在发布会之前,外界最大的疑问在于:面对当前大模型鲁棒性(Robustness,即模型对数据变化的容忍度与稳定运行能力)不足的挑战,追求完美用户体验的苹果会如何选择?从事模型研究的陈于北教授指出,即使是市面上最好的大模型,在面对百万、千万级出货量的手机用户时,鲁棒性依然是巨大的挑战。如果做一个完全开放式的 Agent,极易因为出现幻觉或错误而无法落地。
苹果作为全球市值巨大的科技巨头,虽然有资金和算力去训练大模型,但其产品文化极其保守和追求完美,无法容忍不成熟的技术被消费者诟病。因此,苹果选择了折中且聪明的方案:与 OpenAI 合作,将 GPT-4o 整合进 Apple Intelligence。当用户需要调用“世界知识”或进行更复杂的任务时,Siri 会弹窗征求用户许可(Your Permission),将数据送往 ChatGPT。
苹果 CEO Tim Cook 在接受采访时强调,苹果将选择权和责任划分得非常清楚:需要世界知识时,用户可以选择使用最好的第三方大模型。这一招在商业上堪称精妙。根据彭博社(Bloomberg)的消息,苹果在此次合作中甚至不需要向 OpenAI 支付现金,而是通过其庞大的分销系统将 OpenAI 的品牌和技术推广给数亿苹果用户,苹果认为这种渠道价值等同于甚至大于金钱支付。对于 OpenAI 而言,虽然这能带来巨大的用户基数,但免费提供给上亿苹果用户使用,也将带来极其沉重的算力成本压力。
- **鲁棒性挑战**:大模型在千万级用户规模下难以保证绝对稳定,促使苹果采取保守策略。 - **合作模式**:免费接入 GPT-4o,调用时必须获得用户明确许可。 - **商业条款**:苹果不向 OpenAI 支付现金,而是以数亿设备的渠道分销和品牌曝光作为资源交换。
---
[14:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=899s) 马斯克的安全质疑与苹果“私有安全计算”的技术实现
苹果与 OpenAI 的合作随即招致了马斯克的猛烈抨击。马斯克连发数条推特,直言“苹果无法推出自己的人工智能,却声称能确保 OpenAI 保护你的安全和隐私,这显然是荒谬的”。他甚至威胁,如果苹果在操作系统层面整合 OpenAI,他的公司(如特斯拉、SpaceX 等)将全面禁用苹果设备,访客也必须在门口将苹果设备存放在法拉第笼中。
抛开马斯克作为 OpenAI 创始成员转黑粉的个人恩怨,他的担忧在技术上并非完全没有道理。苹果的端侧模型安全性毋庸置疑,而对于云端模型,苹果推出了“私有安全计算”(Private Cloud Compute)。其技术原理是:手机端会生成一个独有的私钥,将数据加密后发送到苹果的云端服务器(GPU Farm)。在传输过程中,即使数据泄露也无法被破解。只有目标 GPU 服务器上部署了对应的公钥,才能在计算时将数据解密为可读状态,处理完毕后再加密传回手机,由手机私钥解开。这种端到端的加密在技术上几乎是不可破解的。
然而,一旦用户选择将数据发送给 OpenAI,数据就会脱离苹果的控制。OpenAI 是否有同样严密的端到端加密架构,以及是否会拿用户数据进行二次训练,完全取决于 OpenAI 的内部合规与公众对其的信任度。在法律上,苹果通过“用户授权弹窗”将责任撇得一干二净,但在实际的数据安全链条上,这确实是一个潜在的薄弱环节。
- **马斯克的威胁**:若系统级整合 OpenAI,其旗下公司将禁用苹果设备,并用法拉第笼存放。 - **私有安全计算原理**:手机端私钥加密 -> 传输 -> 苹果 GPU 服务器公钥解密计算 -> 加密传回 -> 手机端私钥解密。 - **安全争议点**:数据一旦通过 API 传输给 OpenAI,其安全性与隐私保护将脱离苹果的控制范围。
---
[19:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=1199s) 开发者生态的“大一统”与华尔街的态度反转
对于参会的开发者而言,WWDC 第一天的 Keynote 只是一个“广告”,随后的技术指导会议才是重头戏。Polyverse 创始人 Quinna(其旗下 Mirror AI 曾多次霸榜 Google Play 和 iOS 应用榜)表示,端侧模型的推出对开发者来说是巨大的福音。过去,生成式 AI 应用的云端算力和调优成本极高,而端侧推理能大幅节约开发者的云端带宽与算力支出,为视频等重度 AI 应用提供了更大的发挥空间。虽然苹果自身推出了一些基础的 AI 图像功能,但大公司不会在垂直细分赛道做得太深,这反而给垂直领域的创业公司留出了“站在巨人肩膀上”做深做透的空间。
开发者 Nathan 进一步指出,苹果的野心是“一统天下”。苹果是极少数同时彻底掌控硬件、软件、芯片(M1 到 M4 系列)以及全球最庞大用户生态的公司。在后期的开发者专题中,苹果展示了一套完整的闭环:开发者可以用自己的数据在苹果的 GPU 服务器上训练模型,然后直接部署到自己的 App 中,在苹果设备上进行本地推理。从前端 UI/UX、后端算力到大模型开发与推理,苹果提供了一站式全包服务。这意味着开发者几乎不需要离开苹果生态去寻找 Hugging Face 或 OpenAI 的支持。
正是看懂了这一层生态逻辑,华尔街在 WWDC 第二天做出了强烈的正面反馈。投资人意识到,苹果不仅能通过 AI 功能缩短用户的换机周期、提振硬件销量,更重要的是,苹果率先跑通了生成式 AI 在消费端的商业落地闭环。
- **开发者利好**:端侧模型大幅降低云端算力与推理成本,为重度应用(如视频、图像)提供本地运行可能。 - **生态闭环**:苹果提供从芯片、硬件、操作系统到模型训练(云端 GPU)和本地推理(端侧)的全套开发工具。 - **商业落地**:华尔街看好苹果将 AI 技术转化为消费者愿意买单的实际产品,巩固其生态壁垒。
---
[24:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=1499s) 硬件护城河与 AI 时代的科技收敛
在二级市场投资人看来,苹果对技术的判断标准只有一个:“这个技术目前能不能做出来一个消费者愿意使用的产品”。回顾过去一年,整个 AI 行业虽然热闹,但真正具有高留存率(Retention)的消费端产品屈指可数。苹果虽然在技术上显得不够激进,但它在等待技术成熟到足以颠覆用户体验的临界点。
苹果最核心的胜负手在于其对“硬件生态”的绝对掌控。从手机、耳机(AirPods)、手表(Apple Watch)到电脑(Mac)和 Vision Pro,苹果几乎包揽了人类所有随身携带的智能穿戴设备。这种全场景的硬件占位,是任何纯软件大模型公司无法企及的。
目前,硅谷的大部分资金和创业项目仍集中在基础模型(Infra)和 2B 企业级应用上,普通消费者对 AI 的感知依然有限。而苹果凭借其庞大的硬件帝国,正在将 AI 能力润物细无声地渗透到数十亿用户的日常设备中。在这轮生成式 AI 浪潮中,虽然苹果看似是“后发”,但随着技术的收敛(Consolidation),大公司凭借强大的生态整合能力,往往能成为最终的收割者。
- **苹果的判断标准**:技术必须服务于产品,产品必须服务于用户体验与留存。 - **硬件全场景覆盖**:手机、手表、耳机、电脑、头显,构建了无法被软件颠覆的物理护城河。 - **行业趋势**:AI 正在从基础设施建设期走向消费端应用落地期,苹果凭借生态整合能力占据极佳的主导位置。
## Notable quotes > [04:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=299s) focus 在这一个问题上,把这一件事情做好 — AI专家
> [14:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=899s) 苹果无法推出自己的人工智能,却声称能确保 OpenAI 保护你的安全和隐私,这显然是荒谬的 — 马斯克
> [19:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=1199s) 站在巨人肩膀上 — Quinna
> [19:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=1199s) 一统天下 — Nathan
> [24:59](https://www.bilibili.com/video/BV1jT421Y7wu?t=1499s) 这个技术目前能不能做出来一个消费者愿意使用的产品 — 二级市场投资人
## Mentioned 苹果, WWDC 2024, Apple Intelligence, iPhone, iPad, Mac, OpenAI, 马斯克, Mistral 7B, Gemma 7B, iPhone 15 Pro, iPhone 15 Pro Max, M1, A15, 谷歌, Pixel 8 Pro, Siri, Muir Woods, iCloud, Apple Maps, Private Cloud Compute, GPT-3.5 Turbo, GPT-4 Turbo, Nathan Wang, 陈于北, GPT-4o, ChatGPT, Tim Cook, 彭博社, 特斯拉, SpaceX, 法拉第笼, Polyverse, Quinna, Mirror AI, Google Play, iOS, Hugging Face, 华尔街, AirPods, Apple Watch, Vision Pro
[Source](https://www.bilibili.com/video/BV1jT421Y7wu)