硅谷101
由于真机遥操数据面临极高的物理与成本壁垒,具身智能行业在数据获取上面临严峻的路线分化,且目前尚未跨越任务级泛化的缩放定律鸿沟。
AI-assisted summary of 揭秘数采工厂:稀缺的机器人数据,到底难在哪儿?|机器人特辑 — original source. Check the original for full context.
Source published:
Detailed notes
## Detailed walkthrough ### [00:00](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=0s) 走进机器人数采工厂:机器人被困在数据荒漠
当大语言模型(LLM)借助缩放定律(Scaling Law),利用万亿级参数吃遍互联网文本并一路狂飙、不断涌现出更强大的智能之际,机器人领域却正被前所未有的“数据荒漠”所困。这导致具身智能的泛化性和自主性进展极其迟缓。互联网上大量存在的文本、代码、甚至生图生视的数据,对机器人而言根本无法直接使用。为了深入探讨这个核心的数据难题,栏目主持人陈茜飞赴上海,实地探访了一家拥有200台机器人规模的数采工厂,并亲自体验了门槛极高的“遥操作采集员”工作,同时与智元机器人、觅蜂科技以及Sharpa等公司展开深度对话,系统拆解行业摸索出的机器人数据技术路线与未来发展。
---
[01:42](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=102s) 稀缺的机器人数据:真实缺口有多大?
大语言模型可以通过摄入人类积累的全部知识文本、代码及标注数据来生成语言序列,图像模型使用世界的瞬间截图,声音模型使用震动信号,视频模型则使用世界的连续变化,这些在不考虑版权的情况下都海量存在于互联网上。然而,机器人所需要的数据,是具身本体在真实物理世界中与具体物体发生交互时,产生的多维度传感器信号——包含视觉、力觉、关节位置、电机控制量等,且全部需要精确同步和时间戳对齐,才能构成一条有用的训练轨迹。这些数据天然不存在于互联网上,必须由人布设机器人、搭建场景,并引入遥操人员进行采集。觅蜂科技董事长兼CEO姚卯青指出,目前数据最大的难点在于无法直接采集到机器人自主干活的数据,能采集到的主要是人在操作的数据(如动捕数据或YouTube视频),而通过遥操作(teleoperation)让机器人去操作非常困难,因为“操作员是感受不到机器人的感受”。
为了展示真实真机数据的缺口有多大,视频列举了行业内的代表性数字:谷歌DeepMind在研发第一代机器人模型RT-1时,调动了13台机器人在办公室和厨房环境中持续采集了整整17个月,才累积了大约13万条操作轨迹(覆盖700多项技能);到了RT-2阶段,谷歌联合了全球34所研究机构,合并了60个已有数据集,并加入22种机器人平台的真机数据,才凑出了包含超过100万条操作轨迹的跨机构真机数据集Open X-Embodiment。即便这是目前全球最大的真机数据集,它所涵盖的527项技能和场景,与现实世界的需求相比依然存在数量级计的巨大差距。为此,行业摸索出了由低到高排列的四层数据金字塔,每一层都有其独特的优势、上限与真实的代价。
---
[05:17](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=317s) 数据金字塔顶层:真机数据,准确但昂贵
位于金字塔顶层的是遥操数据,又称“真机数据”。它由遥操员通过外骨骼或遥操系统,在真实场景中实时操控机器人完成动作,并由机器人的传感器全程录制。这层数据包含真实的物理接触、真实的不确定性、以及失败与恢复的过程,信息最为完整,是让机器人真正落地的核心原材料。智元机器人的数据采集工厂拥有200台机器,每台机器至少配备一名采集员,部分任务还需要额外的同事配合布置场景。陈茜在现场亲身体验后直言该工作极具门槛,会导致全身僵硬。金牌采集员的效率与普通采集员可达3倍之差。优秀的采集员需要极高的天赋——协调性和空间感要好,因为他们是在“隔空控制另外一个身体”,无法获得直观的反馈,只能靠肉眼闭环;同时,机器人的手臂构型与人不同,采集员需要预判机器人的触及极限并高效设计轨迹,空间精度判断必须极准,否则容易出现抓过头、够不到或夹滑的情况。即便是零基础且有天赋的采集员,也需要经历一个月的培训与任务难度递加才能达到“九成功力”。
即使是专业水准的遥操员,在8小时的工作中也只能平均产出2至3小时的有效数据(约占四分之一),中间会涉及布置场景、上传数据、操作失败丢弃并重新尝试等环节。真机数据的优势是准确、易部署、后期调参成本低,但代价是昂贵、缓慢且不易指数级扩张。由于涉及到硬件、场地、人工标注、监督以及时间成本,其规模与互联网数据完全不在一个量级。在美国,特斯拉招募采集员的时薪曾达50美金,而中国在人力成本和效率上更具优势。针对这一痛点,觅蜂科技正在构建物理AI数据基础设施,打通硬件、软件、平台和运营全链路,提供一站式物理AI数据服务平台。其2026年的真机遥操产能已接近200万小时,背后是近2000台机器人及对应的采集团队在中国国内和东南亚多地同步运作,同时还规划采集约800万小时以人类为中心(Human-Centric)的数据。这在具身智能行业中被形象地称为“石油业务”,数据生态正在迅速崛起。
---
[11:34](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=694s) 第二层:仿真合成数据,潜力无限但“仿真鸿沟”难解
金字塔从上往下的第二层是“仿真合成数据”(Simulation Data),这是规模效应最极致、也是英伟达CEO黄仁勋重点押注的路线。简单来说,它不是在真实世界采集,而是在虚拟环境中生成的。与真机数据一条条艰难训练不同,英伟达Isaac Lab可以在单台GPU上并行运行成千上万个虚拟机器人同时训练,数据规模理论上是无限的。例如机器人公司Sharpa在2026年CES上出圈的乒乓球机器人,就是通过纯仿真数据训练了40个小时,从而练就了0.02秒量级的击球反应速度。此外,仿真还可以生成现实中极难遇到的边缘场景(Corner Cases),机器人在虚拟世界里反复摔倒和失败不会造成任何真实的硬件损失。Sharpa的研究科学家张凯峰介绍,仿真技术还在“触觉”等高难度数据的采集上带来了突破。他们与英伟达合作开发了触觉仿真工具Tacmap,利用物体与指尖穿膜的深度图作为介质,在仿真中高效得到具有良好物理特性的形变图(Deformation map);在真实环境中,则通过大量数据训练一个翻译模型(Translation model),将原始图像(Raw image)翻译成形变图,基于此成功实现了一些精细化操作技能的Sim-to-Real(从仿真到现实)迁移。
然而,这条路线存在一个巨大的漏洞,即Sim-to-Real Gap(从仿真到现实的鸿沟)。其本质在于,仿真环境只是人类用代码构建的物理世界的近似,而真实世界的物理特征要复杂得多。例如,机器人在仿真里学会了抓取一个重量、摩擦系数和形变方式都固定的塑料杯,但现实中干手与湿手的摩擦系数不同,杯中有无水导致重量不同,粗糙与光滑桌面上的滑动方式也不同。目前,运动学层面的问题(如关节弯曲、手臂轨迹)较易在仿真中解决,但涉及动力学层面(如物体接触时的力传递、软性材料形变、液体流动)对目前的物理引擎仍是极大挑战。机器人在仿真里练了一万次叠衣服,面对真实的毛衣时往往会因为布料柔软度参数对不上而动作出错。行业目前的解决办法包括域随机化(Domain Randomization,即构建大量不同的仿真环境强迫模型忽略差异、抓住本质)、把仿真做得更真(英伟达的核心方向)、以及用少量真机数据微调。但张凯峰指出,动力学上的环境迁移对齐(如状态转移模型 Transition Model 的对齐),最终仍需要科学方法上的创新。此外,难以将充满噪音和不规则细节的真实世界准确搬进仿真世界的Real-to-Sim Gap(从现实到仿真的鸿沟),同样是行业的核心挑战。
---
[16:35](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=995s) 第三层:动捕数据,动作精准但缺乏语义理解
数据金字塔的第三层是动作捕捉数据集(MOCAP)。这一派系通过光学设备或视觉算法来追踪人手的运动轨迹,比纯视觉数据多了“怎么动”的信息维度。动捕数据的本质是记录人的动作,然后再将该动作“映射”到机器人上。机器人算法公司Physical Intelligence的π0系列便大量使用了此类数据,其π0.5模型在大约400小时移动操作数据结合大规模网络数据的基础上,实现了在真实家庭环境中完成长程任务的能力。动捕数据的优点是质量高、在运动结构上能大幅减少无效数据,对机器人跳舞、武术等复杂花哨的动作特别有效,这是纯强化学习很难达到的效果。
然而,动捕路线除了成本高昂、数据覆盖有限外,还面临关键的“Embodiment Gap”(具身鸿沟)。一方面是视觉上的差异(机器人看到的视角是人手而非机械臂);另一方面是状态(State)上的不准确,动捕设备容易受到人体自遮挡或物体遮挡的影响,导致获取的动作出现偏差。具身鸿沟的核心在于人的身体与机器人的身体之间存在操作语义的沟壑:人手操作依赖皮肤上密布的触觉感受器并由神经系统实时调整力度,而缺乏这套系统的机器人即使精确复制了动作轨迹,也无法自动具备完成任务的能力。此外,行业还面临Functional Retargeting(功能重定位)的难题,这意味着机器人只是做了一个运动学上的对应模仿,而没有理解动作本身操作语义上的目的。动捕数据在映射后经常会出现关节角度超限、力矩不够、平衡失败等问题,因此在一定程度上,它与第四层的视频数据一同被行业视为“低质量数据”。
---
[19:05](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=1145s) 最底层:互联网视频,海量低质,能用吗?
从YouTube到抖音,互联网上拥有海量人类完成各种任务的视频,这是目前具身智能训练中唯一真正“不缺”的原材料。然而,姚卯青指出,这些视频目前主要用于让机器人的大脑模型学习一种通用的表征,即对简单认知和物理规律的粗浅理解,它还“停留在一个认知的阶段”。他用了一个生动的比喻:“看再多别人打乒乓球的比赛视频,你第一天拿起球拍,也接不住球。”视频中根本没有动作信号,只有结果,因此从“知道”到“会做”之间隔着一道巨大的鸿沟。Sharpa也将其称为最低质量的数据,因为YouTube视频最大的劣势在于完全没有力和触觉信息。但它的优势在于量大,能提供世界如何变化的“世界模型”(World Models)信息,以及物体预设用途(Affordance)等关键的操作信息。
在视频数据中,对机器人最有价值的是Egocentric(自我中心/第一视角数据)和Human-Centric(以人类为中心的数据)两类。Egocentric指的是以机器人第一视角看出去的视频,包含桌子、杯子、自身机械臂以及遮挡、接触等动态变化,能直接用于决策。人形机器人摄像头看到的视角天然就是Egocentric。苹果公司在2025年5月发布了完全开源的Egocentric数据集EgoDex,利用Apple Vision Pro采集了829小时第一人称视角视频,每帧都配有手部各关节精确的3D追踪数据,覆盖194种桌面操作任务。觅蜂科技也推出了MEgo系列无本体数据采集设备(MEgo Gripper和MEgo View)及MEgo Engine一站式数据治理服务平台,试图降低物理AI采集对机器人实体的依赖,让高质量第一视角数据走向轻量化与规模化。Human-Centric数据则是围绕人类行为、意图、偏好和示范构建的视频,让机器人理解人类想达到的目标和正确做法。当Egocentric与Human-Centric交叠——即人类在第一视角下完成任务的数据,被视为视频数据中最有价值的“黄金区域”。例如英伟达在2026年3月推出的EgoScale,就使用了超过20000小时的人类视频进行预训练,通过精确的骨骼手部追踪提取并重新定位21个运动关键点,构建统一的机器人运动空间。
尽管互联网视频质量低,但因其海量与低成本,若能通过技术突破使其“更可用”,将带来巨大的商业价值,这也成为大厂和初创公司押注的重点。特斯拉在2025年6月做出重大策略调整,将此前依赖动捕套装和VR头显的采集方式,换成了让工人戴着装有5个摄像头的摄像机头盔录制日常操作,以此来更快规模化地训练Optimus。这非常符合马斯克的第一性原理,因为自动驾驶(FSD)本质上就是用汽车这一物理本体在Egocentric视频数据路线上驱动的成功案例。同时,初创公司也积极尝试“点石成金”。Sharpa在2026年年初发布了CraftNet,通过一套触觉反射层系统System 0进行补偿,机器人的上层策略(System 1)只需要给出粗糙的动作意图和手势,底层触觉感知系统就能根据实时力反馈自动完成精细调整(Fine manipulation),从而大幅降低了对上层数据精度的要求,让低质量的动捕和视频数据也能被高效利用。
---
[25:19](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=1519s) 各家公司的混搭配方:数据与成本如何取舍?
面对这四层数据的优劣势,行业普遍共识是鱼与熊掌不可兼得:最高质量的真机数据最难获取,最易获取的视频数据质量最低。因此,当前的解法是将它们混合使用,在数据质量与成本之间寻找平衡。然而,目前并没有一个统一的黄金配比标准,每个公司都有自己的天平。姚卯青表示,技术路线上仍处于多路径探索阶段,并未归一到确定的范式。此外,训练的目标也不同:如果是在工业场景,要求机器人将某一特定场景干到极致,追求人类的节拍效率与100%的成功率,数据配比会高度偏向精准;而如果是要求高泛化性的场景,即使成功率只有98%或99%、允许人类中途接管兜底,使用的数据比例也会完全不同。
Sharpa在不同任务上也采取了差异化的数据策略:其乒乓球机器人是在仿真中训练了约40小时;而发牌机器人则采用模仿学习(Imitation Learning)方式,使用了两三百小时的遥操作数据(Teleoperation data)和一些第一视角(Egocentric)数据。张凯峰给出了一个较为平均的粗略估算:在训练复杂任务时,各层数据之间的轨迹数量比大约为“遥操数据: 动捕数据 = 1: 100”,“动捕数据: 互联网视频数据 = 1: 100”。换算下来,真机遥操数据在整个数据池中仅占万分之一,但恰恰是这万分之一,往往决定了模型最终能否在真实场景中落地。张凯峰强调,如果非要二选一,他会选择“数据质量”,因为只有高质量数据才能训练出有用的模型。当数量难以规模化时,通过数据金字塔进行折中,把每一部分数据的环境变化理解和操作语义利用起来,是完成操作任务的关键。
---
[28:10](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=1690s) 硅谷的数据“捷径”
中国机器人公司如智元等,倾向于通过直接建立数采工厂、利用国内的人力成本和效率优势来打造护城河。而在人力成本高昂的硅谷,几家备受关注的机器人公司则不得不寻找数据的“捷径路线”。
#### [28:31](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=1711s) Physical Intelligence:让机器人在真实试错中自我进化 Physical Intelligence(PI)的数据策略核心是“精度加迭代”。他们在旧金山的Dandelion Chocolate工厂部署了一台机器人整天打包巧克力盒子,同时在办公室提供咖啡服务,员工在Slack中发送指令机器人就会执行。创始人Sergey Levine的哲学是直接观察机器人不得不在真实世界中完成任务时会发生什么,并利用这些部署数据继续改善系统。在此基础上,PI试图让机器人在真实部署中通过强化学习(RL)持续自我改进。他们于2025年11月发布π0.6模型,采用RECAP方法在折叠衣物、装纸箱、做浓缩咖啡等任务上将最难任务的吞吐量提升了一倍以上,失败率降低约一半;2026年3月发布的RLT方法,则引入了一个特殊的输出token作为大视觉-语言-动作模型(VLA)与轻量级RL策略之间的紧凑接口,仅需几小时的真实操作练习,就能将机器人在精细操作上的速度提升三倍,某些动作甚至超过人类遥操员。这种强化学习路线的吸引力在于让机器人自主产生训练数据,绕过了人工采集,但也带来了三个尚未解决的现实难题: * **奖励函数(Reward Function)难以量化:** 例如衣服怎样才算叠得“够好”很难定义,如果定义不准,机器人就会找捷径,比如将衣服揉成一团塞进角落以满足“占用空间最小”的错误优化目标。 * **安全边界(Safety Boundary)代价高昂:** 机器人在客户生产线上试错和失败会带来真实的损坏产品、影响节拍甚至伤及工人的现实代价。 * **数据归属(Data Ownership)模糊:** 强化学习的数据是机器人利用客户的物理空间和资产试错产生的,其所有权比有明确人工生产主体的遥操数据更加模糊。目前PI验证的仅是受控实验环境里运行13小时的相对结构化任务,距离真实工厂陌生场景的大规模稳定部署还有相当距离。此外,PI也在2025年12月发布研究显示,在积累足够真实操作经验的基础上,加入第一人称人类视频(Egocentric),能让各个泛化任务的平均成功率接近翻倍。
#### [31:05](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=1865s) Figure AI:把地球上最大的房东变成数据采集场 2025年9月,Figure AI与全球最大的另类资产管理公司Brookfield签署战略合作。Brookfield旗下管理着超过10万套住宅、5亿平方英尺的商业办公室以及1.6亿平方英尺的物流空间。Figure AI的计划是在这些真实的住宅和写字楼中让人佩戴摄像头拍摄视频,用来训练其Helix模型,旨在建成全球规模最大、最多样化的人形机器人预训练数据集。为此,Brookfield跟投了Figure超10亿美元的C轮融资。Figure随后发布的初步结果显示,Helix模型在仅使用第一人称人类视频训练、没有任何机器人真实数据的情况下,已经能够根据自然语言指令在杂乱的真实房间中进行导航移动。
#### [31:55](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=1915s) Sunday Robotics:众包家务视频,让普通人参与训练 还有一家规模更小的初创公司Sunday Robotics走了一条更为极端的路线。他们直接付钱给普通大众,让人们在自己家里录制日常做家务的视频,然后用这些视频来训练机器人。这种方式直接将高门槛的数据采集员转变为了一种“众包经济”的工作。对比而言,整个硅谷正在全面往视频数据靠拢以减少对遥操的依赖,押注可以被动规模化的采集方式,这与中国公司通过工厂化硬磕真机数据的方向形成了差异化。不过在行业超级初期,任何尝试都有其独特的意义。
---
[32:45](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=1965s) 种树人和数据飞轮:开源百万条数据换来的是什么?
2024年,智元机器人做出了一个让行业颇为困惑的决定——将自己辛苦采集的百万条遥操数据打包成AgiBot World(智元世界)数据集,免费向全球开放。这背后隐藏着一个被大多数人忽略的行业困境:2023至2024年间具身智能公司大量涌现,但整个行业面临着根本性的“认知危机”——由于没有公共的数据基准(Benchmark),大家无法判断自己的模型训练方法究竟对不对。谷歌的RT系列和开源的OpenVLA在学术界虽然引发广泛关注并开创了VLA范式,但因为训练数据全是学术级数据集,实际场景效果非常有限,导致VLA范式的真实潜力长期得不到验证。姚卯青坦言:“工业界的人得迈出第一步……面对这个数据荒漠,我们算是种下第一棵树,希望将来能变成一片森林。”
这棵树很快发芽并引发了巨大的连锁效应:2025年3月英伟达在GTC大会上发布第一代具身基础模型GR00T N1,其训练所使用的真实世界数据中,大约有80%都来自于开源的AgiBot World。不仅如此,开源还带来了商业闭环:越来越多的学术和研发团队在使用了AgiBot World数据集后,为了获得更好的模型效果,转而去采购智元的机器人本体进行开发,因为在同一款本体上采集的数据训练出来的模型在该本体上表现最好。这就形成了“数据开源带来生态,生态带来硬件销量,硬件销量产生更多数据”的良性循环。
对于具身智能能否形成像大语言模型一样的数据飞轮,姚卯青给出了绝对肯定的回答。具身智能的数据飞轮核心要义在于:模型部署后,在用户使用过程中持续接收反馈,并利用反馈不断提升能力,最终转化为用户体验的提升。与语言模型相比,机器人其实更需要也更会催生这样的飞轮。因为大语言模型跟你絮絮叨叨说一堆话,说错几个字或者似是而非,人类觉得“还好”,容错度较高;但机器人如果进工厂打螺丝,属于毫米级的作业,差一点点都不行。机器人必须在现实部署中遇到并收集大量失败场景的数据,带回来不断提升,才能最终达到人类的节拍,并实现百小时、千小时级别的平均故障间隔(MTBF)。这种数据飞轮,在本质上与大语言模型的缩放定律(Scaling Law)是一回事。
[35:49](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=2149s) 数据飞轮的筛选机制与高价值数据触发
数据飞轮的运转必须建立在实际业务部署的形态之中。智元机器人合伙人姚卯青指出,目前智元已将数据收集功能作为所有机器人产品的“标配搭售”。在获得用户许可的前提下,这些已部署的机器人员工会像自动驾驶汽车一样,在日常运行中持续采集数据并回流。然而,并非所有的数据都有被存储和回流的价值。姚卯青透露,在机器人实际部署收集到的数据中,真正能回流用于训练的比例“可能在5%以内”。
这种极低的回流比例背后有一套严密的筛选逻辑:绝大多数时候机器人都在成功执行既定任务,这些“已经会的东西”对模型能力的提升并没有实质性意义。如果将所有的实时数据全盘接收,全世界的存储空间甚至都无法容纳。因此,系统只会触发并收集那些还不会的、失败的“高价值数据”。
[36:44](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=2204s) 机器人行业的Scaling Law难题与泛化能力的瓶颈
虽然数据飞轮的机制已经建立,但它的转速能否达到预期,取决于一个更基础的科学问题——具身智能的 Scaling Law(缩放定律)是否成立。在语言大模型领域,这一规律已经得到了明确证实,即数据翻倍、模型变大,智能就会涌现。但在机器人行业,目前依然没有确切的答案。整个行业都在迫切观察,随着数据量和模型规模的激增,机器人是否也能迎来任务级别的泛化能力。
姚卯青坦言,目前行业内“还没有看到有任务级别的泛化”。当前的具身智能所展现出的泛化,往往还停留在较低的层面。 * **物体层面的泛化**:机器人看到过很多类似的物体,即使遇到没见过的同类变形,也能成功进行抓取或处理。 * **环境层面的泛化**:机器人在不同的物理场景和光照条件下,能够适应并完成基础动作。 * **任务层面的泛化**:要求机器人即便从来没见过某一类任务,也能做到举一反三、无师自通。这与前两者有着完全不同量级的能力鸿沟,也是行业走向下一步进化的核心钥匙。
[37:49](https://www.youtube.com/watch?v=ZvHIuIIZ3Is&t=2269s) 大规模部署的破局点与未来展望
在机器人实现真正的大规模部署之前,任务级泛化的谜底或许很难被彻底揭开。Physical Intelligence (PI) 的创始人 Sergey Levine 教授曾在其 Substack 文章中推算过一个极具画面感的例子:全美国大约有 1 万家麦当劳,如果每家门店各放置一台机器人,每天仅工作 2 小时,一年下来就能产生高达 1000 万小时的具身智能训练数据。这个数字将比目前全球积累的数据总量还要高出数个数量级。
回归国内市场,产业的推进速度同样迅猛。在今年 3 月底,智元机器人在产量上已经率先突破了 1 万台具身机器人。随着万台机器人走入真实世界,整个行业距离找到那把解开数据荒漠的“钥匙”似乎又近了一步。节目最后,主持人陈茜对观众表达了感谢,并预告了《硅谷101》“机器人系列”接下来的内容,团队将带观众实地探访机器人的本体测试工厂,深度拆解本体与硬件供应链,并针对仿真数据这一极具潜力的路线进行更深入的挖掘。
[Source](https://www.youtube.com/watch?v=ZvHIuIIZ3Is)