机器人触觉的爆发前夜:五大技术路线、数据困局与模型之争|机器人系列

机器人触觉的爆发前夜:五大技术路线、数据困局与模型之争|机器人系列 — 硅谷101

硅谷101

AI-assisted summary of 机器人触觉的爆发前夜:五大技术路线、数据困局与模型之争|机器人系列 — original source. Check the original for full context.

Source published:

Detailed notes

## Detailed walkthrough 以下是根据视频转录稿 Part 1 整理的详细内容:

[00:00](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=0s) 触觉:具身智能的最后一块拼图?

在 2026 年的世界人工智能大会(WAIC)现场,主持人体验了一台搭载触觉传感器的按摩机器人。不同于早期没有触觉、容易因用力过猛而让人产生安全顾虑的设备,这台机器人能够精准寻找穴位并给予适度的力道。在具身智能领域,包括黄仁勋在内的多位行业巨头近期多次强调:触觉是机器人迈向物理世界的“最后一块拼图”。拥有触觉后,机器人能否变得更聪明、更强大?如果触觉如此重要,为何目前大多数机器人依然没有搭载?整个市场又面临哪些技术路线的探索与冲突?

---

[01:00](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=60s) “挑花生挑战”:为何仅靠视觉无法应对复杂现实

为了直观展示触觉的重要性,节目现场进行了一项“挑花生”测试:在一堆真花生中混入假花生,仅凭视觉盲猜,人类很难准确分辨。然而,搭载了触觉传感器的机器手却做到了 100% 的精准识别。原因在于假花生由石头制造,其表面温度更低、更光滑、重量更沉且内部实心,缺乏真花生摇晃时的振动感。这些特征无法单纯依靠视觉获取,必须通过物理接触才能感知。

现实生活中存在大量无法单靠视觉完成的复杂操作。学术界曾做过短暂麻醉人体手部触觉神经的实验,被测试者在失去触觉后,连拧螺丝、抓握物体甚至系扣子等日常动作都会失灵。业内人士指出,评价机器人不能仅看低速试错下的“成功率伪命题”;在实际应用中,“力”的感知至关重要,无论是控制抓握力度、判断机械咬合,还是进行线缆等柔性物体的装配,都需要触觉的实时反馈。

广义的触觉包含两大维度: - **力的感知**: - *静态力*:持续施加的压力,用于判断抓握紧度与物体硬度。 - *动态力*:物体滑动时产生的高频信号,用于判断是否即发生滑脱及摩擦力大小。 - **形态学感知**:对材质与表面纹理的识别(如判断光滑或粗糙程度)。

---

[04:11](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=251s) 五大技术路线:机器人如何获得触觉

目前市场上实现机器人触觉的技术路线主要有五种,各自具备不同的物理特性与适用场景:

1. **压阻式**:最为传统和成熟的路线(类似电子秤原理)。材料受力发生形变导致电阻变化,以此反推压力。优点是成本低、技术门槛低;缺点是只能测量垂直方向的力,且受温湿度影响易产生漂移。 2. **压电式**:利用石英、PZT 陶瓷等材料在受力时产生电压信号的特性(类似打火机放电器)。特点是对变化的力极度敏感,松开或按下瞬间有信号,静态按压时信号则衰减至零,因此极适合高频振动与冲击检测,但无法测静态力。 3. **电容式**:基于平行板电容器原理。受力时弹性体形变改变极板间距或面积,从而改变电容值。优点是灵敏度极高、响应快、成本较低;缺点是力感知范围(动态范围)有限,且易受电磁干扰。 4. **光学式(视触觉)**:目前最热门、精度最高的路线。最上层为柔性材料,背面设照明层,底部微型摄像头实时捕捉形变图像,通过算法反算出形貌与三维力的分布。缺点是结构复杂、成本较高。 5. **磁感应**:结构与光学式类似,但在弹性材料中掺入磁性颗粒,底部采用磁传感器捕捉磁场变化。可推算三维力,但分辨率有限,且易受外部电磁环境干扰。

---

[07:10](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=430s) 多传感器结合:解法不在单打独斗

采访嘉宾指出,实现全身触觉并不意味着全身上下都堆砌最高端的技术。人类皮肤各部位的感知需求不同,机器人亦然: - **指尖区域**:对精度和分辨率要求极高,适合采用光学式方案。 - **手掌与手臂**:覆盖面积大,若全用光学式不仅体积难以压缩,成本也难以承受,因此更适合采用压阻式或电容式方案。

在 WAIC 展会上,已有电容式触觉传感器批量应用于工厂的产品分拣与检测,其采购成本仅为光学式的 1/4 到 1/2。未来,单一部位也可能融合多种技术(如结合压阻的量程与电容的灵敏度),但前提是制造工艺、良率与量产能力能够跟上需求。

此外,为了实现对丝绸、棉布等材质细粒度纹理的感知,仅靠测力传感器还不够,还需要在系统中加入加速度计或麦克风,用于捕捉高频摩擦产生的振动信号,从而拼凑出完整的触觉方案。

---

[09:47](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=587s) 走进实验室:光学触觉的四大难点

光学视触觉(Tactile Sensing via Vision)最早可追溯至 2000 年前后。2009 年,麻省理工学院(MIT)Edward Adelson 教授团队提出 GelSight 方案,让机器人首次拥有了“看懂触觉”的能力。人类指尖 1 平方厘米内约有 3,000 个感知点和 12,000 个神经元,而一目科技自研的光学传感器已能做到 24 万个感知点,分辨率远超人类。然而,光学路线要迈向实用,必须克服四大难点:

#### 1. 材料的“不可能三角” [10:38](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=638s) 触觉皮肤材料需要同时满足三大指标:**杨氏模量低(极度柔软以展现微小形变)**、**耐磨损(防止高频任务下性能漂移或破损)**以及**极薄(降低整体体积)**。这三者在物理特性上天然对抗。在一目科技的材料实验室中,研发团队正在从底层化学基底与单体入手研究配方,开发具备特殊官能团的“可恢复性材料”(分子键断裂后可自愈),试制出了触感比婴儿皮肤还要柔软的新型材料。

#### 2. 结构的极限压缩 [12:42](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=762s) 为了让灵巧手更加灵活,传感器厚度需要被压缩至极限(一目科技已将传感器厚度降至 16 毫米以下,与 SIM 卡尺寸相当)。光学方案最大的物理制约在于摄像头或感光芯片的微距焦距与视场角。为此,团队放弃了传统透镜(Lens),转而采用超表面(Metasurface)与定制芯片技术压缩视距。同时,为了在弯曲的手指表面实现 270 度均匀照明且避免光线串扰,团队进行了大量的光追踪(BSDF)仿真,甚至由内部专家自行搭建了一套原本价值百万级的光测量设备。

#### 3. 算法的演进路径 [15:15](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=915s) 光学触觉主要依靠以下三种算法将图像转化为力学信息: - **标记点法(Marker-based)**:在皮肤层印制微小点阵,追踪点位偏移。算法简单但分辨率上限受限制(通常仅几十个点,其余靠插值)。 - **纹理分析法(Texture-based)**:表面喷涂随机颗粒或利用材质自带纹理(类似光学鼠标的三维升级版)。无需制作标记点,但算法计算量大、延迟较高。 - **光度立体法(Photometric Stereo)**:采用红、绿、蓝(RGB)多色光源从不同角度照射均匀皮肤,利用图像中各像素点 RGB 值的变化解算形变。该方法兼顾了精度与制造复杂度,是目前较优的折中方案。

#### 4. 成本与算力的双高 [17:18](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=1038s) 目前光学触觉单指售价仍处于千元级别,未来有望随量产降至数百元。除了硬件制造,视触觉模型通常占用较大的算力资源。然而,高成本带来的是极高的性能上限:在实验室对比中,缺乏触觉的灵巧手抓取薯片时极易夹碎或夹飞,而搭载视触觉的夹爪不仅能轻柔抓取薯片和易形变的树叶,还能感知微小的晃动与弹性反馈并进行卸力。

- 一目科技传感器参数:厚度 $< 16\text{ mm}$,感知点位 $240,000$ 个。 - 光度立体法:RGB 三色光源打光,结合预训练模型进行像素级 RGB 分析。

---

[18:51](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=1131s) 数采悖论:极度匮乏的真机数据

即便硬件可行,机器人触觉还面临着严重的数据困境——业界高保真、可用的触觉数据目前“基本为 0”。不同于文字和视频,触觉数据极度依赖真机采集,但真机数据采集存在三大难以克服的痛点:

1. **“数据采集悖论”**:正如戴上厚手套拿豆腐难以掌握力度一样,在人手与物体之间安装传感器进行示范(Demonstration)时,实际上隔离了采集员自身的触觉,导致操作者动作变笨,采集到的数据质量大幅下降。目前虽然有超薄型(如 3mm 贴片)传感器或织物手套等方案,但人体工学与感知保留依然是行业难题。 2. **数据密度不足**:目前市面上最好的触觉织物手套,一只手仅有约 500 个感知点。当用于抓取 M2 螺钉等精细零件时,由于点位过于稀疏,模型无法学习到螺丝的方向和形状,精细动作数据失效。 3. **格式与标准割裂**:触觉行业处于极早期,各家硬件(两指夹爪、多指灵巧手等)数据格式不统一,且触觉与视觉、本体感知在时间轴上的对齐能力较差,难以汇聚成大规模的数据集,导致“缺少数据 $\rightarrow$ 模型效果差 $\rightarrow$ 缺少投资 $\rightarrow$ 硬件无法成熟”的恶性循环。

- 织物触觉手套密度:约 $500$ 点/手,难以应对精细装配。 - 触觉基础模型数据需求量预测:约 $10$ 万小时(基于视觉的模型通常需要 $100$ 万小时以上,因为触觉数据天然过滤掉了无接触时的无效过程)。

---

[23:53](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=1433s) 仿真补位:算力瓶颈与虚实迁移

为了突破真机采集的瓶颈,利用虚拟环境(如英伟达 Isaac Lab)进行合成数据采集成为重任。在仿真环境中,开发者会为几何模型赋予刚度、重量、表面粗糙度等物理属性,并输入传感器的光学与弹性特征来推演形变与图像。

仿真的核心瓶颈在于**计算量过大**:若采用传统的有限元分析法(FEM)精确计算弹性体形变,生成一帧图像可能需要耗费 1 小时。为了提升速度,学术界与工业界(如英伟达 TacSL 论文)提出了“软接触模型”(Soft-contact Model),允许刚体之间按受力大小发生“微小穿透”来逼近形变,大幅提升了计算效率。

目前,仿真与现实之间仍存在 10% 左右的 gap(差距),主要集中在柔性物体的模拟上。业内普遍采取“仿真预训练 + 少量真机微调(Post-training)”的策略(如通过 TacSL 实现零样本迁移,在真机插拔销钉任务中达到了 82.7% 的成功率)。在短期内,仿真数据与真实数据的比例预计将维持在 1:1 甚至更高。

- 有限元分析法(FEM):精确但极慢(1 帧/小时)。 - 软接触模型(TacSL):牺牲极小精度换取高频计算,真机插拔销钉成功率達 $82.7\%$。

---

[28:37](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=1717s) 模型之争:加了触觉,成功率反而下降?

在算法应用层,行业遇到了一个极其反直觉的现象:在李飞飞、Jim Fan 等学者发布的 T-Rex 论文实验中,若直接将触觉信号输入到现有大模型(如 $\pi_{0.5}$)中,任务成功率反而出现了下降。

造成这一现象的根本原因在于触觉信号的三大特征: - **无法用传统规则硬编码**:软硬、脆弹等状态难以用单一数值界定(如抓纸杯允许轻微形变,但抓鸡蛋绝对不行)。 - **维度极多且易成噪声**:包含纵向力、剪切力、摩擦力、振动等多维信号,直接输入容易干扰模型主干。 - **频段严重错配**:触觉天然属于高频信号(百赫兹级),而视觉语言大模型(VLM)通常运行在低频段(十赫兹级),直接融合会导致资源浪费和响应迟钝。

为了解决这些难题,业界演进出了不同的范式路线:

#### 解决路线一:端到端与触觉编码器(Encoder) 利用自监督学习训练独立的触觉编码器(如 Tactile Transformer Encoder),将复杂的力学与形态信号前置打包为“软、硬、摩擦力”等高层语义理解,再接入主干网络。

#### 解决路线二:MoT 架构与双系统异步执行 T-Rex 论文提出了 MoT(Mixture of Tactile Experts)架构,分设三大专家: - **Latent Expert(潜在专家)**:低频运行,处理视觉与语言,负责上下文与长程规划(类似 System 2 慢思考)。 - **Action Expert(动作专家)**:生成粗略的动作轨迹。 - **Tactile Expert(触觉专家)**:高频独立运行,作为机器人的“反射系统”(类似 System 1 快反应),在执行过程中对力度与角度进行异步实时修正。

#### 行业分歧:单独训练 vs 模态深度融合 - **一目科技(Eric)观点**:主张触觉模型单独训练闭环,通过语义解耦后像“即插即用”模块一样与其他模态融合,更易于平衡各模态权重。 - **北美学者(于弢 / 哥大 Yunzhu Li 团队)观点**:主张触觉必须与三维点云(视觉)结合训练。因为力在空间中的分布是局部的,离开具体载体与视觉上下文,单纯的力信号难以进行跨平台迁移(Tabero 论文主打前置的“语义力控”)。

以下是视频后半部分(试产车间参访与触觉产业展望)的详细文字记录与深度实录:

### [36:43](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=2203s) 走进一目科技试产车间:探秘触觉传感器的精密制造 为了直观了解触觉传感器如何从实验室走走向实际生产,摄制组穿上无尘服、摸过防静电球去除身上静电后,深入一目科技的试产车间。由于光学触觉传感器的内部光学路径与材料对微尘极其敏感,任何参数偏差都会导致算法无法计算出正确的数值,因此第一步便是将凝胶材料放入模具内固化,用作手指表面的弹性体。此工序绝不能有任何灰尘和气泡,现场采用了能够提供局部 100 级超洁净空间的超净工作台来保障凝胶制备。制备完成后,工作人员会通过视觉拍摄结合上位机算法判断进行双重筛选,剔除含有气泡或杂质的不合格品。

随后,各类制备好的零部件被送往集成产线进行分步组装,涉及粘接、预总装等多个工位,将壳体、灯带、相机和芯片等组件进行精密整合。在总装前的预检测工位上,触觉传感器会接受成像检测,电脑屏幕上实时展示着传感器内部精密的力学反馈动态与 AI 算法解析图像。只有通过严苛检测与自动化测试、验证了工艺参数稳定性的批次样品,才能最终成为合格的成品交付。

- **超洁净制备**:凝胶固化需在局部 100 级超净工作台中完成,防止气泡与杂质干扰光路。 - **双重检测关卡**:采用“视觉拍摄筛选 + 上位机数据判断”双重机制过滤瑕疵。 - **精密组装部件**:涵盖外壳、LED 灯带、微型相机及 Processing 芯片等高密度元件。

### [38:34](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=2314s) 手工试产与标准化矛盾:定制化需求与规模化量产的平衡 目前试产阶段的许多步骤依然依赖于手工操作,这揭示了触觉传感器作为全新品类所面临的行业痛点——标准化与自动化设备尚未统一。正如采访中所探讨的,触觉传感器的量产无法脱离上下游独立进行。不同的数据采集设备或灵巧手结构,在协议、接口以及机械手掌的结构适配上均存在巨大差异,这要求传感器厂商必须配合客户的需求提供定制化服务。

因此,当前的行业成熟形态呈现为“双线并行”:一方面依靠自动化量产线稳定交付标准化产品;另一方面借由试产线灵活承接定制化需求并验证新工艺。这种两条线的协同运转,正是机器人触觉行业正逐步迈向工业化成熟的重要标志。

- **上下游适配壁垒**:不同灵巧手与数采设备在接口、通信协议和物理结构上各有不同。 - **生产模式**:自动化量产线(标准品稳产交付)与试产线(定制化与新工艺验证)协同配合。

### [39:23](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=2363s) 2026 年行业拐点:触觉数据赋能“物理 AI”与工业装配 到了 2026 年,几乎所有受访嘉宾都一致认为机器人触觉正处于“爆发的前夜”。市场需求的激增,源于整个具身智能行业逐渐意识到:触觉数据是训练出更高性能物理 AI(Physical AI)模型的决定性因素。从灵巧手厂商到整机企业都在拼命研发与出货,直接带动了触觉传感链条的成熟。

在今年的 WAIC(世界人工智能大会)展台上,一目科技展示了某大型汽车电池装配工厂将触觉传感器搭载于机械臂上的工业级应用。由于不同电池包的形态变化繁多,传统的工业自动化依赖频繁的预编程和繁重的二次开发,根本无法适应产线的高频调度;而引入触觉后,机械臂获得了柔性装配能力。未来,这种精密感知还将拓展至实验室场景,例如通过精确控制力与形变,实现毫克级的滴管精准取液。

- **工业实测案例**:某大型汽车电池装配厂引入触觉机械臂,突破传统预编程限制,实现柔性化电池包装配。 - **高精度应用潜力**:实验室毫克级精准液体抽取,依赖微小力与形变的精准触觉反馈。

### [40:48](https://www.youtube.com/watch?v=BmcoQDwdkeM&t=2448s) 市场爆发倒计时:千万级需求与“人类第一语言”的终极拼图 根据美国银行的预测,到 2030 年全球人形机器人出货量将达到 120 万台。若按每台机器人配备 10 根带触觉的手指计算,触觉传感器的市场需求将暴增至千万级别。按照行业“研发与测试周期需倒推 1 至 2 年”的规律来看,实现 2030 年大批量产的关键里程碑节点,恰恰就落在今年或明年年初这一关键窗口期。

在专访的最后,一目科技创始人兼 CEO 李智强 Eric 总结道,触觉不仅是多了一个维度的数据,更是让机器人掌握了“人类的第一语言”,是让机器人走向类人甚至超越人类的“最后一块拼图”。人类婴儿刚出生时,视觉和听觉尚未发育完全,最先感知世界的方式就是通过伸手触摸——摸妈妈的脸、摸床单的材质、甚至用嘴舌接触。GelSight 的发明者 Adelson 也是在观察小孩对触摸的强烈好奇中获得了灵感。正如人类幼崽通过每一次抚摸理解物理世界一样,如今人们也在教机器人摸花生、摸树叶、摸鸡蛋;当机器人通过触觉真正理解了物理世界,具身智能的时代才算真正到来。

- **市场预测数据**:美银预测 2030 年人形机器人出货达 120 万台,对应千万级触觉传感器需求。 - **时间节点**:上量前的关键研发与测试节点预计在当前(2026年)至明年年初爆发。 - **核心观点**:触觉是人类认知世界的第一语言,也是机器人迈向真实物理世界的“最后一块拼图”。

[Source](https://www.youtube.com/watch?v=BmcoQDwdkeM)

中文简报

触觉如何成为具身智能的关键能力 触觉被视为机器人迈入物理世界的关键拼图,能有效弥补视觉在硬度、微小振动及动态摩擦感知上的缺陷。硬件端涵盖五大主流路线且光学方案正攻克工艺与算法难点,算法端则通过 MoT 等解耦架构实现触觉快反射与视觉慢规划的协同;随着人形机器人需求激增,触觉传感器正克服适配矛盾并迎来产业爆发期。 触觉被黄仁勋等业界领袖誉为机器人迈向物理世界的“最后一块拼图”,“挑花生挑战”证明了仅靠视觉无法感知物体的硬度、微小振动及动态摩擦力。 (1:00) 触觉硬件涵盖压阻、压电、电容、磁感应与光学视触觉五大路线,其中最高精度的光学方案正努力攻坚材料“不可能三角”、结构极限制程与光度立体法等难点。 (4:11) 针对直接接入高频多维触觉信号导致大模型性能反向下降的难题,业界提出了 MoT 异步专家等架构,将触觉作为独立的“快反射”系统与视觉慢规划解耦执行。 (28:37) 美银预测 2030 年人形机器人出货量将达 120 万台并撬动千万级传感器需求,当前触觉传感器正在克服上下游定制适配矛盾,迈入产业爆发的关键窗口期。 (40:48)

Original transcript

[0:00] 你敢让机器人给你按摩吗 [0:02] 它刚才是在找我的穴位 [0:05] 说实话 以前我是不敢 [0:07] 万一它用力过猛 真的有点吓人… [0:10] 但在今年的WAIC上我体验了一把之后 [0:13] 发现... [0:15] 还挺舒服的啊 [0:17] 这台给我按摩的机器人 [0:18] 很大的不同在于 它搭载了触觉传感器 [0:23] 有人说 “触觉”是具身智能的最后一块拼图 [0:27] 真是如此吗 [0:28] 老黄也提出来 [0:29] 触觉其实是 [0:31] 机器人有了触觉后 [0:33] 真的能更强大吗 [0:34] 干活会更聪明吗 [0:36] 如果答案是肯定的 [0:37] 那么为什么目前大多数机器人都还没有触觉 [0:40] 市场上有哪些路线与冲突呢 [0:43] 大家好 欢迎收看硅谷101 [0:45] 我是陈茜 [0:46] 这期视频 跟我们一起走进实验室 [0:48] 去看看触觉传感器的前线研究 [0:51] 我们来聊聊机器人的触觉 到底发展到什么程度了 [0:59] 第一个问题是 机器人为什么需要触觉呢 [1:02] 我们不妨先玩一个游戏 [1:03] 这一堆花生中 有三个是假的 [1:05] 只能看 不能摸 [1:07] 你能够最快挑出假的吗 [1:09] 这个 [1:10] 这个 [1:11] 然后这个 [1:13] 好难选 [1:15] 这个吧 这个 [1:16] 很遗憾 可能三颗都没选对 [1:17] 全错吗 [1:20] 先别着急嘲笑我 [1:22] 大家也可以跟着来“云挑战”一下 [1:24] 接下来我们降低一点难度 [1:26] 把这一堆花生变成六个 [1:28] 其中有两个是假的 [1:30] 大家来盲猜一下 哪两个是假的呢 [1:32] 我们也同时让机器手做一下这个挑战 [1:34] 看一下它能否分辨得出来 [1:36] 看一下它的准确率 [1:40] 这个是真的 [1:43] 这个是假的 [1:44] 是的 [1:45] 看一下最后一个 [1:47] 全对 [1:49] 厉害 厉害 [1:50] 怎么样 你猜对了吗 [1:51] 猜错了也没有关系 [1:53] 毕竟两个假花生做得实在是太真了 [1:56] 为什么机器手能猜对呢 [1:59] 就因为它搭载了触觉传感器 [2:01] 相信我 只要能够上手摸 [2:03] 你也能够很快分辨出来 [2:05] 因为假花生是石头做的 [2:07] 表面更冰凉、更光滑 重量也更重 [2:10] 还是实心的 [2:11] 摇起来没有真花生中果粒的振动感 [2:13] 通过这个案例 [2:15] 相信你也明白了触觉的重要性 [2:17] 现实中有很多任务 [2:19] 是无法单纯通过视觉来完成的 [2:22] 行业界有一些实验 就比如说 [2:24] 专门把有一些正常人的手 [2:27] 我们打一些麻药 [2:28] 就触觉感知神经给它短暂地麻醉掉 [2:32] 这个时候的人其实对一些操作是 [2:34] 就已经失灵了 [2:35] 拧一些东西、抓握 [2:37] 或者甚至系扣子等等 [2:39] 你可能会疑惑 [2:40] 一些没有触觉的机器人 [2:42] 不是在很多任务上的成功率都很高了吗 [2:45] 但是业内人士就指出 [2:47] 成功率高并不等于可用性强 [2:50] 只用视觉 我动得非常非常慢 [2:53] 每次微调一毫米 我不断地去试 [2:56] 总归我是能完成这些任务的 [2:58] 所以如果我们只是去看这个成功率的话 [3:01] 其实它是一个伪命题 [3:02] 那么在这种情况下 [3:03] 力就变得非常重要 [3:05] 比如说我握一个东西握得多紧 [3:08] 两个物体有没有咬合上 [3:11] 比如说我要去拧一个螺丝 [3:13] 那我不能只靠视觉说 [3:15] 螺丝拧花了我才会认为 [3:17] 这个力过大了 那太晚了 [3:20] 就比如说我柔性的操作 [3:21] 我每根线的软硬度、它的材质都很重要 [3:25] 那么触觉到底是什么呢 [3:27] 它听上去是一种感觉 [3:29] 但我们把它拆开来看会发现 [3:32] 它其实包含两种不同维度的信息 [3:35] 一类是对“力”本身的感知 [3:37] 另一类是对“形态学”的感知 [3:39] 其中力的感知还分为静态力和动态力 [3:42] 静态力是抓握物品的时候 [3:44] 手指持续施加的压力 [3:46] 它告诉你 捏得够紧吗 物体有多硬 [3:49] 动态力是物体滑动时候产生的高频信号 [3:52] 它会告诉你 [3:53] 是不是要掉了、摩擦力够不够 [3:55] 而形态学的感知就是对不同材料的分辨 [3:58] 比如说通过触摸分辨苹果和橘子 [4:01] 就得判断表面是光滑还是粗糙 [4:03] 摩擦时候的振动频率等等 [4:06] 这么多复杂的维度 [4:07] 放在机器身上该如何识别呢 [4:15] 目前我们看到市面上的方案主要有五种 [4:18] 分别是压阻式、压电式、电容式、光学式 [4:21] 还有磁感应 [4:22] 我们先来说一下压阻式 [4:24] 这是最传统、最成熟的一条路线 [4:27] 材料受力之后发生形变 [4:29] 电阻值发生变化 [4:30] 通过测量电阻变化来反推压力 [4:33] 我们常用的电子秤就是这个原理 [4:36] 它最大的优势是成熟、便宜、技术门槛低 [4:39] 但是它只能测垂直方向上的力 [4:41] 并且会随着温度、湿度产生漂移 [4:44] 第二种是压电式 [4:46] 一些特殊材料 [4:47] 比如说石英、PZT陶瓷受力时 [4:50] 内部正负电荷中心发生偏移 [4:52] 从而产生电压信号 [4:53] 就像打火机的放电器 [4:55] 而它最大的特点是只对变化的力敏感 [4:58] 什么意思呢 [4:59] 就是你按下去的一瞬间 [5:00] 它会产生一个电压信号 [5:02] 但是如果你一直按着不动 [5:04] 信号就会慢慢地衰减到零 [5:07] 松开的时候又会产生一个反向的电压信号 [5:10] 所以压电式非常适合检测振动、冲击 [5:13] 这类高频动态信号 [5:14] 却难以测量静态力 [5:16] 前面两种都是直接把“力” [5:18] 转化为“电信号” [5:19] 后面三种就不太一样了 [5:21] 是把“力”转为了“形变量” [5:23] 然后测形变的程度 [5:25] 这样做的一大好处就是 [5:27] 不再只局限在垂直方向 [5:29] 而是能够检测出三维的力 [5:32] 电容式的原理就是平行板电容器 [5:35] 当材料受力的时候 弹性材料会形变 [5:38] 比如按下去的时候上下两层更近了 [5:41] 电容变大此时就能够测量垂直方向上的力 [5:44] 或者滑动的时候 [5:45] 板面积变化 电容也变化 [5:47] 能够感受到平面上的力 [5:49] 它的优点是灵敏度极高、响应速度快 [5:52] 而且成本相对较低 [5:53] 但问题在于动态范围有限 [5:55] 同时容易受到电磁干扰 [5:58] 第四种是光学式 也叫视触觉 [6:00] 它是在传感器最上层覆盖一层柔性材料 [6:04] 接触到物体时会产生形变 [6:06] 材料背面有照明层 [6:08] 而藏在最底下的摄像头 [6:09] 会实时检测材料的状态 [6:11] 通过算法反算出形变量 [6:13] 再换算成力的分布 [6:15] 因此这是一种可以同时解算接触形貌 [6:18] 和接触力的传感器 [6:20] 这就是目前行业最热门的方式 [6:23] 也是精度最高的方式 [6:24] 但是成本较高 [6:26] 其中的细节点我们稍后来说 [6:28] 我们先聊完最后一种方式 [6:29] 也就是磁感应 [6:31] 这种方式结构和光学式类似 [6:33] 只是表面的弹性材料加入了磁性颗粒 [6:36] 去掉了中间的照明层 [6:38] 底部的摄像头变成了磁传感器 [6:40] 这样表面弹性体变化的时候磁场也变化 [6:43] 底部传感器捕捉变化之后反算出形变量 [6:46] 同样能够推算出三维力 [6:49] 但磁感应容易受电磁干扰 [6:51] 周围的磁场环境会影响精度 [6:53] 而且分辨率有限 [6:54] 还有一些其他不太常用的方式 [6:57] 比如说磁流体 还有超声等等 [6:59] 我们就不详细说明了 [7:01] 以上不同的方式各有优劣 [7:03] 我们的采访嘉宾就认为 [7:04] 对于机器人的触觉来说 [7:06] 多传感器结合也许是更好的方案 [7:11] 你看 我们除了手指之外 [7:13] 其他的每一寸皮肤都是有感知的 [7:16] 如果机器人想做到人类的水平 [7:18] 是不是也需要全身都布满触觉呢 [7:21] 但如果全身都用最好的技术 [7:23] 那么成本就很难控制了 [7:25] 而且不同部位的要求也不一样 [7:28] 同一种技术路径也难以适用全身 [7:31] 比如指尖的精度要求非常高 [7:33] 使用光学式的方案就能达到更高分辨率 [7:36] 但是如果是手掌、手臂等其他部位 [7:39] 精度要求没那么高的时候 [7:40] 用昂贵的光学式就不划算了 [7:43] 同时它的面积也比较大 [7:44] 比如说我们去考虑视触觉的话 [7:46] 那我们这个光学模块的设计 [7:49] 就会非常非常的困难 [7:51] 但是如果我们使用 [7:52] 比如说压阻式或者电容式的 [7:54] 那它就会比较容易去覆盖这么大的面积 [7:58] 在一些比较简单的应用场景下 [8:00] 也可以选择精度不那么高的路径 [8:03] 比如说我们在WAIC的展会上 [8:05] 就看到一些采用电容式的触觉传感器 [8:08] 已经被批量用于工厂的产品分拣 [8:11] 还有检测了 [8:12] 原因就在于成本相对较低 [8:15] 与精度最高的光学式相比 [8:17] 采购价只有四分之一到二分之一 [8:19] 而且即使是同一个部位 [8:21] 未来也有机会融合多种技术 [8:23] 但前提是技术得足够成熟 [8:26] 电容其实它的灵敏度非常高 [8:28] 但这个问题就在于 [8:29] 当你把这个材料已经压紧了之后 [8:31] 它对于力的感知范围就会非常有限 [8:35] 但压阻其实是一种必须硬碰硬的技术 [8:39] 所以在这种情况下 [8:41] 其实结合两者是一个可行的方案 [8:44] 但是问题就在于 到底这个制造的工艺 [8:48] 和它的良率和它的量产能力 [8:52] 是否能够跟上我们的需求 [8:54] 但是现阶段 [8:55] 可能大家都还在尽可能地去完善 [8:58] 单一技术路线本身的一些缺陷 [9:01] 除了力的感知 [9:02] 广义的触觉还包括振动、材质感知等等 [9:06] 这就得依靠其他的传感器来补足 [9:08] 比如说人类想分辨丝绸和棉布的时候 [9:11] 会通过触摸加滑动的方式来产生振动 [9:15] 来感知材质的细粒度 [9:17] 那么到了机器人身上该怎么做呢 [9:19] 我们会加入 像加速度计 [9:21] 或者像麦克风这种传感器 [9:23] 能够更有效地捕捉到高频振动产生的信号 [9:26] 所以完整的触觉方案 [9:28] 不是选一种技术路线就完事了 [9:31] 目前行业里面最前沿、精度最高的 [9:33] 就是光学式 [9:35] 我们的采访嘉宾Eric [9:36] 所创办的公司一目科技 [9:38] 也就是选择了这个方向 [9:39] 那么接下来我们就走进他的实验室 [9:42] 探究一下光学式的原理 [9:48] 2000年前后 [9:49] 一批研究人员开始尝试一个大胆的想法 [9:52] 触觉能不能也像视觉一样 [9:54] 被摄像头“看见” [9:55] 其中最具代表性的探索之一 [9:57] 是来自MIT教授Edward Adelson [9:59] 领导的团队 [10:00] 他们在2009年提出了GelSight [10:03] 让机器人第一次拥有了 [10:04] 类似“视觉”的触觉能力 [10:07] 光学式最显著的优势就是分辨率高 [10:10] 甚至已经超过了人类 [10:12] 人的一个指尖大概1平方厘米 [10:15] 上面布了3000个触觉的感知点 [10:16] 上面布了3000个触觉的感知点 [10:18] 感知点 [10:19] 对 每一个点下面 [10:20] 有四个不同的nerve(神经元) [10:21] 就相当于12000个不同的神经元 [10:24] 在去做感知 [10:25] 我们的传感器现在可以做到24万个点 [10:29] 就已经超过人了 [10:30] 但是代价也不小 [10:32] 接下来我们从材料、结构、算法、成本 [10:35] 四个方面详细来说说 [10:37] 首先是材料 有三大要求 [10:39] 第一就是得特别软 [10:41] 业内称为“杨氏模量”低 [10:43] 这样才能够通过细致的形变 [10:45] 精确地反映物体的硬度和力度 [10:48] 第二是得耐磨 不然日常执行任务久了 [10:51] 就会出现性能漂移或者破损 [10:54] 第三是要尽量薄 [10:55] 才能尽可能缩小整个传感器尺寸 [10:58] 扩大应用场景 [11:00] 而这三点却天然对立 无法同时满足 [11:03] 我们一直讲 它是个不可能三角 [11:05] 但我们只能找平衡 [11:06] 以及说找一些新的方法 [11:09] 能不能把某些的变量给的约束条件去掉 [11:13] 或者说减弱 [11:15] 接下来我们去到材料实验室 [11:17] 看看新材料的研发过程 [11:23] 这边是我们自己做配方研究的一个实验台 [11:27] 可以看到其实这边我们这些原材料 [11:30] 大部分都是这种液态的材料 [11:32] 其实种类很多 [11:34] 感觉是个化学实验室 [11:35] 对 [11:36] 通过我们自己研究 [11:37] 要把这些不同的原材料给它混到一起 [11:41] 从而能够使它在成型之后 [11:44] 达到我们想要的这种性能 [11:47] 这个事情的难点在哪里 [11:49] 就是配方的各种不一样的配比 [11:52] Ratio(比例) 还是 [11:53] 它其实还不仅仅是这种配方 [11:55] 我们从底层的一些化学基底开始研究 [11:58] 单体 然后到我们的配方 [12:00] Eric告诉我们 [12:01] 现在行业出现了一种很有意思的材料 [12:03] 叫做“可恢复性材料” [12:05] 就像人一样 就算不小心给划破了 [12:07] 过段时间就能够自愈 [12:09] 它恢复性一般来自于一些特殊的官能团 [12:14] 就比如说我们会发现有一些分子 [12:16] 它的分子键断裂之后还会恢复 [12:18] 就是这种特殊的一些官能团 [12:20] 我们(做配方时)要去保留 [12:21] 这是我们新型的、非常新颖的一种材料 [12:25] 能做到跟人皮肤很接近吗 [12:28] 很接近 这个就是 [12:31] 你可以上手试一试 [12:33] 这超软的 [12:34] 比刚才那个软很多 [12:36] 对 像婴儿摸起来 [12:39] 它也没有任何伤害的感觉 [12:42] 我们再来聊聊结构 [12:43] 手指肯定是越小越灵活对吧 [12:46] 这就要求触觉传感器也尽可能做得小 [12:50] 我们的产品体积是最小的 [12:52] 我们的厚度和SIM卡的大小 [12:54] 基本上是一致的 不到16毫米 [12:56] 为什么做得薄是一个技术领先的事情 [12:59] 光触觉它背后需要有一个感光的芯片 [13:02] 要么用摄像头 要么用一些感光芯片 [13:06] 但是你为了达到把整个视场都能看到的 [13:10] 相当于我们微距摄影一样 [13:12] 它总是需要有一定距离的 [13:14] 这个距离就是它最底层的 [13:17] 一个物理的制约因素 [13:20] 要做得小 一方面就是 [13:21] 前面我们提到的材料要尽可能地薄 [13:24] 另一方面就得从摄像头上下功夫了 [13:26] 尽可能去降低摄像头的对焦距离 [13:29] 同时还要扩大视场角 [13:31] 来覆盖更多的感应区域 [13:33] 我们通过自研的一些 [13:36] 超表面和芯片的技术 [13:37] 能够去压缩它的视距 [13:40] 不再用一些传统的这种lens(透镜) [13:42] 这种镜头的方式来做了 [13:44] 在结构上 照明层的光路设计 [13:47] 也是一大难点 [13:48] 因为手指的形态不是完全平面的结构 [13:51] 左右两边都有一些弯曲的弧度 [13:53] 这就需要精细设置照明灯珠的排布 [13:56] 保证不同位置照明的一致性 [13:59] 照射的光路这里边是非常有讲究的 [14:03] 所以我们要做大量的仿真 [14:04] 我们叫光追踪 [14:07] 看到每一个光子在传播的路径里边 [14:11] 会怎么去做传播 [14:14] 在设计的时候我们就要把它做到 [14:17] 一方面是覆盖最广 [14:18] 这样我才能在270度都能覆盖到 [14:20] 另外一方面就是说 [14:22] 它精度和轨迹是可预测的 [14:24] 否则的话可能光和光之间就打架 [14:26] 就会产生了串扰 [14:27] 这是一台BSDF测试装置 [14:29] 用于我们不同产品的 [14:32] 表面材料的光学特性的测量 [14:35] 可以将测得的光学特性输入到仿真模拟中 [14:38] 使我们的仿真更加准确 [14:40] 有个小故事 [14:41] 之前如果买一套这种设备好像很贵 [14:43] 我记得大概多少 [14:44] 专业一点的设备要 [14:47] 百万级 [14:48] 百万级 [14:48] 这个是我们胡博士自己搭的 [14:51] 是吗 [14:52] 对 他们当时说我们买一台吧 [14:55] 胡博士说我们来自己试试能不能搭一台 [14:57] 而且精度各方面挺好的 [14:59] 你们这个有点SpaceX的味道了 [15:03] 自己搭了一个百万级的设备 [15:06] 另外 照明的灯珠 [15:07] 在市场上有两种方案 [15:09] 一种是单色 另一种是多色 [15:11] 为什么呢 [15:12] 这就要说到第三点 也就是算法 [15:15] 光学式具体是怎么去识别触觉的呢 [15:18] 主要有三种方式 [15:20] 第一种叫做标记点法 [15:22] 在皮肤层上会印很多微小的标记点 [15:25] 摄像头跟踪这些点的位移变化 [15:27] 来计算皮肤层的形变 [15:29] 优点是算法简单、制造容易 [15:32] 但缺点是精度上限很低 [15:34] Marker(标记点)我能点多少个 [15:35] 一般可能顶多就几十个Marker点 [15:38] 它就是你resolution(分辨率)的上限了 [15:41] 顶多我中间做一些插值 但这都不是真值 [15:44] 所以它的问题就在于 [15:47] 相对来说精度低一些 [15:48] 第二种是纹理分析法 [15:51] 皮肤表面不再需要规则的点阵 [15:53] 而是随机喷涂的细小颗粒 [15:55] 或者利用材料本身自带的不规则纹理 [15:58] 受力时摄像头通过追踪光影纹理的流动 [16:01] 来计算形变 [16:02] 它的优点在于硬件制造简单 [16:04] 因为不需要做标记点了 [16:06] 其实大家手里面的光学鼠标 [16:08] 原理就是简化版的纹理分析法 [16:11] 为什么是简化版呢 [16:12] 因为鼠标检测的是二维平面上的变化 [16:15] 而触觉传感器需要检测的是三维 [16:18] 这也是它的缺点所在 [16:20] 算法复杂 计算量更大 [16:22] 相对的响应延迟也较高 [16:24] 前面两种算法主要关心的是亮度 [16:26] 还有对比度这些信息 [16:28] 所以用单色照明方案就够了 [16:31] 而第三种光度立体法 就必须用多色光了 [16:34] 这种方式不需要任何标记点和纹理 [16:37] 皮肤比较均匀 [16:38] 照明层用红、绿、蓝三种颜色的光 [16:41] 从不同方向打光 [16:43] 发生形变的时候 [16:44] 由于皮肤表面凹凸变化 [16:45] 不同颜色光线打到同一个点的距离不同 [16:48] 相机捕捉到的就不再是均匀的颜色 [16:51] 算法会分析图像中的 [16:53] 每一个像素点的RGB颜色值来计算形变 [16:56] 第三种其实是兼顾了这两者优缺点的 [16:59] 比较好的一个折中方案 [17:01] 制造方面来说也没有那么复杂 [17:05] 但是它在解算的时候 [17:07] 通过预训练的一些模型 [17:09] 就可以快速地去做分析了 [17:11] 所以它算力要求比第一种大 比第二种小 [17:15] 精度也是比较优的 [17:17] 而光学式的第四个挑战就在于成本 [17:20] 通过前面的解析 [17:21] 相信大家也能够看出来它的结构有多复杂 [17:25] 相应的成本也更高 [17:26] 单价来讲的话 [17:27] (单指)还是千元级的这么一个价格 [17:30] 可能会比别的技术路线稍微贵一些 [17:33] 其实我们也看到了 [17:35] 把整个的成本降到小几百 [17:38] 可能性随着它的量上升 [17:40] 而且不光是制造本身 [17:42] 后续的算法、算力要求也更高 [17:44] 视触为什么现在大家比较流行 [17:47] 因为大家发现我可以比较好地 [17:49] 用这种视觉的模型就直接可以处理 [17:53] 但它的问题是什么 [17:54] 这个视觉的模型一般都会比较大 [17:56] 所以它对于算力的要求相对来讲会是更高 [18:00] 当然高成本也对应着高上限 [18:02] 在实验室里面我们也看到了直观的对比 [18:05] 这是一个没有触觉的灵巧手 [18:07] 在没有视觉的辅助下夹起薯片的时候 [18:09] 因为掌握不好力度 很容易就夹飞了 [18:12] 而这是带有视触觉的夹爪 [18:14] 不仅可以轻轻夹起薯片 [18:16] 当我想从它手中抽离时 [18:18] 它还会感知到轻微的晃动和摩擦 [18:21] 慢慢卸力 [18:23] 还有更好玩的 就是夹树叶 [18:25] 相比起薯片 树叶缺少了刚性 [18:28] 稍微多一点力就会发生形变 [18:30] 但我们看到夹爪依然能精准感知到 [18:33] 树叶发生微小的形变之后 [18:35] 因弹性而对两边释放的微小力 [18:39] 不过业内人士认为 [18:41] 现阶段更应该优先考虑的不是成本 [18:44] 而是验证路径的可行性 [18:46] 所以接下来 [18:47] 我们先来说说应用路上的第一道障碍 [18:50] 也就是数据采集 [18:55] 机器人最稀缺的就是训练数据了 [18:57] 而到了触觉领域已经不仅仅是“少”了 [19:01] 现在触觉的数据基本为0 [19:05] 就可用的数据基本为0 [19:06] 高保真的这种传感器其实之前是缺失的 [19:10] 然后我们通过传统的一些方法 [19:13] 采集来的数据跟人不太接近 [19:16] 且没有那么高保真的能力 [19:18] 你看对于“触觉”这种强调实感的维度 [19:22] 普通的视频还有文字等互联网数据 [19:25] 是无法反映出“力”的大小和方向的 [19:27] 所以这个领域尤其强调真机数据 [19:31] 但是真机数据在获取上存在着三大难点 [19:34] 我们再来做个简单的小实验哈 [19:37] 我们戴上这个很厚的手套 然后试图拿起一块豆腐 [19:40] 真的很难掌控力度 [19:43] 要么就是它会滑下去 [19:44] 要么我可能稍微一用力 它就破了 [19:47] 最主要的原因就是厚重的手套完全屏蔽了我们的触觉 [19:51] 我们无法判断豆腐和手指之间的摩擦力是否够 [19:55] 是否快掉下去了 [19:56] 以及豆腐的形变程度 是不是快破了 [19:59] 也是触觉数据采集时要面临的最大悖论 [20:04] 采集人的触觉也就意味着 [20:06] 我们会需要在人手和物体之间做一个隔离 [20:10] 那也就是说在某种程度上 [20:11] 我们屏蔽了人自己的触觉 [20:13] 如果人手被传感器覆盖 [20:16] 导致人本身的触觉没有办法被有效利用 [20:20] 导致人本身的触觉没有办法被有效利用 [20:21] 那么操作者的手变笨了 [20:23] 那我的这个demonstration(示范) [20:25] 其实质量会下降 [20:27] 那我这个数据其实训练出来的结果 [20:30] 就没有办法让机器人能 [20:33] 具有像人一样的灵巧的能力 [20:35] 这是一目的数采设备 [20:37] 把整个传感器放在了手指前面 [20:39] 操作起来就像用筷子一样 [20:41] 我认为它确实跟真实世界有gap(差距) [20:44] 通过一些算法能把它回退回来 [20:47] 可以去做一些gap的弥补 [20:49] 但是我不可否认它跟人是不一样的 [20:52] 所以最大的问题就是 [20:53] 要采集触觉 就得先屏蔽触觉 [20:56] 但是屏蔽触觉之后又难以采集触觉 [20:59] 这个好绕口 [21:01] 而且采集设备本身也比较复杂 [21:03] 一定程度上也会影响采集员的操作 [21:06] 其实大多数数采设备都非常的笨重 [21:09] 就是它尺寸大 穿戴比较麻烦 [21:11] 都会在某种程度上影响操作员 [21:13] 采集数据本身的一些行为 [21:15] 要解决这个问题 [21:16] 一方面需要行业做出更薄的传感器 [21:19] 尽可能减少对采集员触觉的屏蔽 [21:22] 我们下一代的触觉传感器 [21:23] 是超薄型的 3毫米 [21:25] 你不需要戴一个非常复杂的手套 [21:27] 只在某些关键的地方贴一些触觉点 [21:29] 另一方面 行业需要设计出 [21:31] 更舒适、更符合人体工学的采集设备 [21:34] 而这需要多学科领域交叉 [21:37] (人体工学设计)这个其实是 [21:38] 和设计一个触觉传感器和灵巧手 [21:41] 是完全不相干的东西 [21:42] 这个是我觉得接下来一年 [21:44] 非常重要的一个课题 [21:46] 行业里也有一些 [21:47] 对采集员影响较小的织物采集手套 [21:50] 但是这就牵扯到第二个问题了 [21:53] 数据密度不够 [21:54] 最好的织物的触觉手套 我们看到的 [21:56] 也就500个点一个手 [21:58] 我如果想把这个数据应用在 [22:01] 比如说我们的传感器上 [22:02] 那其实这个gap(差距)还是挺大的 [22:03] 那其实这个gap(差距)还是挺大的 [22:05] 也就是说如果我戴着这个手套 [22:06] 去抓一个M2的螺钉 [22:09] 其实在这个上面就是一个点 [22:11] 我是没有办法去检测到这个螺丝的方向 [22:14] 或者它的大小的 [22:16] 即使模型再强 也没有办法有效地 [22:19] 让它去学习到这样的一些信息 [22:22] 于弢团队和MIT去年合作了一个项目 [22:25] 用这类手套采集触觉数据 [22:27] 结果发现大部分有效数据都是 [22:29] 用整个手掌抓取一个较大的东西 [22:32] 因为这种任务对密度的要求最低 [22:34] 一旦涉及到精细操作数据就失效了 [22:38] 行业面临的第三个问题是 [22:39] 由于触觉还是非常早期的行业 [22:41] 各家公司的数据采集格式不统一 [22:44] 难以形成大规模的训练集 [22:46] 比如有的采集设备是两指的 [22:49] 就只适合在工业场景的机器夹爪上 [22:51] 不适用于灵巧手的训练 [22:53] 在数据的存储和对齐方面 [22:56] 我觉得现在还做得不够好 [22:58] 它们之间的一致性好不好 [23:02] 触觉和其他模态的对齐好不好 [23:04] 比如说我同时采了触觉、视觉、本体信息 [23:08] 这些模态是不是能从时间轴 [23:11] 到它数据本身的对齐能力做得更好 [23:15] 就这块其实也是缺失的或者做得不够好 [23:17] 硬件其实现在是相对不成熟的 [23:21] 不同的技术也好 [23:22] 不同的传感方式、数采设备 [23:26] 各自的数据格式、各自的数据形态 [23:31] 其实都不一样 [23:33] 算法就没有办法去演进 [23:34] 因为数据的量上不去 [23:36] 设备不够成熟就采不到高质量数据 [23:39] 然后训练不出好模型 [23:40] 然后就没人愿意投资这个领域 [23:43] 这会是一个不断的恶性循环 [23:46] 既然真机采集这么难 [23:48] 那如何才能够规模化呢 [23:51] 这就得用到仿真合成了 [23:53] 仿真是在虚拟的环境中模拟真实场景 [23:56] 可以同时、批量采集不同的数据 [23:59] 到了这一步 [24:00] 就不得不说到 [24:01] 大家比较熟悉的公司 英伟达了 [24:04] 这条是老黄重点押注的路线 [24:06] 他们为此也搭建了 [24:07] 非常完善的框架Isaac Lab [24:10] 实际训练的时候 [24:11] 触觉公司会利用各种公有的模型 [24:13] 并对不同的模型加入一些真实的物理特性 [24:16] 比如一个螺母 [24:18] 它就是刚性的、比较重、表面光滑 [24:20] 或者是一个毛线球 [24:22] 它有多软、多重、表面粗糙程度如何等等 [24:26] 同时还要在系统里输入触觉传感器的特征 [24:29] 比如说表面的弹性体的物理特征 [24:31] 手指内的光源分布等等 [24:33] 而有了这些数据之后 [24:34] 就可以在系统内模拟触觉传感器 [24:37] 接触到不同物体时 [24:38] 表面的形变程度、光路变化 [24:40] 推算出最终采集到的数据 [24:43] 仿真的结果还会和现实表现做对比 [24:46] 通过数据标定来进一步修正 [24:48] 这边图上面就是展示的 [24:50] 我们在某一个确定的条件下 [24:53] 实际上的图像采集 [24:55] 后面蓝色的点就是仿真的形变 [24:58] 红色的点就是标定的 [25:01] 我们暂时的这部分修正是在解算层面 [25:04] 最后做一个映射的矩阵去修正输出 [25:07] 后续会在模型输入的层面去做修正 [25:10] 另外在今年五月 [25:11] 有一篇名为Tabero的论文 [25:13] 还提出了一种方法 [25:14] 那就是复用已有机器人数据 [25:16] 把这些轨迹重新放入Isaac Lab当中 [25:19] 并且加入触觉传感器模拟 [25:21] 最终生成完整的“视觉-触觉-语言-动作”数据 [25:26] 这其中最大的难点就是计算量太大了 [25:29] 如果说要精细地进行 [25:31] 弹性体变形的计算的话 [25:33] 如果说我们用一些有限元的方法 [25:35] 来进行精细的计算的话 [25:37] 可能一帧就需要一个小时的时间 [25:40] 这对于需要快速实时地获取数据而言 [25:44] 是不能接受的 [25:46] 所以学术界提出了很多简化的计算方式 [25:49] 比如说英伟达在2025年 [25:50] 就发布了TacSL论文 [25:52] 就介绍了一种用于视触觉的仿真方式 [25:55] 它的核心思路是 [25:56] 用软接触模型代替有限元计算 [25:59] 什么叫做软接触呢 [26:01] 比如说我们把物体和皮肤都当作刚体处理 [26:04] 但它们之间可以“互相穿透” [26:07] 接触的力越大 穿透得越多 [26:09] 这样算出来的形变虽然不是最精确的 [26:12] 但也能大致模拟 [26:13] 而且在计算速度上更快 [26:15] 但不可否认 [26:16] 仿真和现实之间永远都会有差距 [26:19] Eric就告诉我们 [26:20] 他们仿真的准确率大概是在90%以上 [26:24] 而其中10%的差距 [26:26] 主要在于柔性物体的模拟 [26:28] 这也是目前的挑战所在 [26:30] (针对柔性物体)我们也可以 [26:31] 去补充一些后训练数据 [26:33] 比如说我们已经有一个80分的模型了 [26:35] 我再加一点点后训练 [26:36] 很快就可以到90分以上 [26:38] 这个思路和TacSL论文的策略是一致的 [26:42] TacSL在训练策略的时候做了两件事 [26:44] 一是随机化物理参数 [26:46] 让策略适应不同的刚度、阻尼 [26:49] 二是在触觉图像上做大量的数据增强 [26:52] 让策略对摄像头差异、光照变化鲁棒 [26:55] 这样他们在真机上实现了零样本迁移 [26:57] 在插拔销钉的任务上 [26:59] TacSL在真机上达到了82.7%的成功率 [27:03] 所以仿真的意义 [27:04] 更多是作为真机数据的补充 [27:06] 两者需要搭配训练 [27:09] 我到底真实的(数据)多一点 [27:10] 和仿真的多一点 [27:11] 每家可能不太一样 [27:13] 我们的判断可能至少1比1 [27:15] 甚至1比1以上 [27:16] 仿真可能会占多数 在短期之内 [27:19] 到底需要多少数据 [27:21] 才能够训练出较好的模型 [27:23] 在这点上业内人士给出的答案 [27:25] 比我们想象的更乐观一些 [27:27] 什么时候我们能够收(集)到100万小时 [27:30] 等同于一个人一生的物理经验的数据 [27:32] 我觉得可能我们才开始后面的探索 [27:35] 这是我们采访做具身模型的人时 [27:37] Physical Intelligence的嘉宾Kay [27:39] 她给我们的答案 [27:40] 但到了触觉领域 数据量却只要十分之一 [27:43] 训练一个带有触觉的基础模型 [27:47] 所需要的数据 [27:48] 应该是要远低于基于视觉的基础模型 [27:51] 当你有10万小时的数据往上走 [27:54] 你会发现它逐渐就开始有一定的泛化能力 [27:57] 这背后的原因其实不难理解 [27:59] 因为机器人的行为模型 [28:01] 其实包含了大量操作的“过程”信息 [28:04] 比如说转身、伸手、移动等等 [28:06] 并不是说这些信息不重要 [28:08] 但真正对训练有效的部分 [28:10] 往往是那些“拿起”、“放下”等关键的操作 [28:13] 而对于触觉数据来说 [28:15] 平时在没有操作时 输入的信息基本为零 [28:18] 相当于这10万小时 [28:20] 已经减掉了无效操作的部分 [28:24] 说完数据采集 [28:25] 我们再来聊聊触觉的第二个障碍 [28:28] 算法模型的应用 [28:29] 有意思的是 [28:30] 如果你直接把触觉信号 [28:32] 输入到行为模型当中 [28:34] 机器人任务的成功率反而会下降 [28:37] 这是为什么呢 [28:41] 今年6月 伯克利、英伟达、斯坦福 [28:43] 集结了李飞飞、Jim Fan等众多知名学者 [28:46] 联合发布了一篇名为T-Rex的论文 [28:49] 其中一项实验结果表明 [28:50] 如果把触觉信号 [28:51] 直接输入到π0.5的模型当中 [28:54] 各项任务的成功率反而下降了 [28:57] 这反映出一个问题 [28:59] 加了一个模态不等于模型表现就能够变好 [29:03] 所以如何利用触觉信号 [29:04] 目前是最大的挑战之一 [29:06] 我觉得最大挑战其实是 [29:08] 大家对于触觉这个模态还是比较陌生 [29:11] 以及它真的怎么融入到我们模型训练里边 [29:14] 其实大家还没有一个 [29:16] 完整跑通cycle(闭环)的 [29:17] 这么一个好的SOTA(最先进的)模型出来 [29:19] 我们先简单来说说 [29:21] 此前触觉应用的三大挑战 [29:24] 第一个问题是触觉没法用规则定义 [29:27] 一个东西到底是软还是硬、是脆还是弹 [29:30] 超过多大的力会破坏物品 [29:33] 物品能不能被破坏 [29:34] 我们没法单纯地设置一个数值 [29:36] 写一个规则 [29:38] 这样在执行任务的时候模型会难以判断 [29:40] 比如拿起纸杯这件事 [29:42] 力气小一点能够拿起来 [29:44] 稍微再夹紧点 杯子有点形变 [29:46] 也可以接受 [29:47] 但是到了鸡蛋上就绝不能让蛋壳有形变 [29:51] 第二个问题是触觉信号维度太多 [29:53] 直接输入到模型当中反而成为了噪声 [29:56] 我们前面说过 [29:57] 触觉包含了纵向的压力 [29:58] 横向剪切力和摩擦力 [30:00] 还有表面材质感知的温度 [30:02] 振动、音频等等数据 [30:04] 这些数据不加处理地输入到大脑中 [30:07] 模型将难以分解 [30:09] 第三个问题是 [30:10] 触觉和其他模态的频率不匹配 [30:12] 触觉信号天然是高频的 [30:14] 而视觉语言模型通常运行在低频率 [30:17] 这就意味着两者难以直接结合 [30:20] 会出现计算资源浪费、反应速度慢 [30:22] 触觉噪声干扰高层规划等问题 [30:26] 到了今年 由于AI的进步 [30:28] 业界是看到触觉应用的范式 [30:30] 之所以触觉最近两年开始火 [30:33] 并不是因为触觉这个技术本身 [30:35] 这两年才存在 [30:36] 而是在很久以来 [30:37] 大家并不知道怎么样去用触觉 [30:39] 其实像最近这些AI算法的演化 [30:42] 和这种端到端模型的实现 [30:44] 其实对于触觉的利用是非常大的促进 [30:47] 我们知道端到端 [30:49] 就是直接把信号输入给神经网络 [30:51] 让模型自己学习 不需要人为定义规则 [30:54] 这就解决了第一个挑战 [30:56] 第二个挑战的解决思路 [30:58] 就是利用编码器(Encoder) [31:00] 前置处理触觉信号 [31:02] 将这些数据打包后输出完整的语义理解 [31:06] 就是用这种 [31:07] Self-supervised learning(自监督学习)的方式 [31:09] 去train Encoder(训练编码器) [31:10] 我们可以很容易地 [31:12] 把不同类型的触觉模态 [31:14] 甚至视觉结合在一起 [31:17] 然后利用现有的一些 [31:19] 比较常见的这种 [31:20] Attention的mechanism(注意力机制) [31:21] 就可以比较好地去抓取 [31:23] 不同模态的触觉之间的这种相互的关系 [31:27] 然后从模型训练的角度 [31:29] 这个能够比较有效地把这样的一个信息 [31:32] 集成到更大的一个 [31:33] Backbone(主干网络)里面 [31:34] 我们叫 [31:35] Tactile Transformer encoder(触觉Transformer编码器) [31:36] 然后通过编码器对它进行一个语义理解 [31:39] 比如说到底是软的、硬的 [31:41] 有没有摩擦 [31:43] 包括形态上来说像什么 [31:45] 等等这些语义理解 [31:46] 它做完这个编码之后 [31:48] 再进到这个backbone(主干网络) [31:50] 大模型里面去做一个判断 [31:53] 再来说说如何解决频率不匹配的问题 [31:56] 在T-Rex论文当中就提到了MoT的方式 [31:59] 这篇论文提出的“MoT”架构 [32:01] 借鉴了MoE的思想 [32:03] 由不同专家处理不同类型的信息 [32:06] 为此构建三个不同的专家 [32:08] Latent Expert 潜在专家 [32:10] 负责处理视觉和语言观察 [32:13] 预测未来的视觉表征 [32:14] 提供“上下文理解” [32:15] 这是慢速的、认知层面的 [32:18] Action Expert 动作专家 [32:20] 负责根据视觉语言上下文生成动作序列 [32:23] 比如说往哪里走、手臂大概怎么摆等等 [32:26] 但是它输出的只是粗略的动作 [32:29] 而最具创新的是第三个专家 [32:31] 叫Tactile Expert 触觉专家 [32:34] 它就像机器人的反射系统 [32:35] 在动作执行过程当中 [32:37] 通过实时触觉反馈 [32:39] 对力度、角度和接触状态进行快速修正 [32:42] 听上去好像也不算啥创新 [32:44] 毕竟MoE架构早就有了 [32:46] 只是额外设置了一个触觉专家而已 [32:49] 别着急 这套系统最重要的思想 [32:52] 在于“异步执行” 什么意思呢 [32:55] 在推理时 动作专家生成动作规划 [32:58] 同时触觉专家以更高的频率独立运行 [33:01] 不断对动作进行修正 [33:03] 这样机器人在利用触觉的时候 [33:05] 可以复用已经算好的上下文缓存 [33:07] 只进行快速的触觉推理 [33:09] 这样既保留了大模型的理解能力 [33:12] 又获得了类似人类触觉反射的 [33:14] 快速响应能力 [33:16] 这也类似我们之前聊 [33:17] 基础模型的双系统架构 [33:19] 它的System 2负责慢思考、长程规划 [33:23] 而System 1负责快反应、本能动作 [33:26] 触觉也不例外 [33:28] 所以我们就觉得它应该是两个不同的系统 [33:31] 以及它可以去打通 [33:32] 就比如说在 触觉在边缘端 [33:35] 我其实应该有一个快速响应机制 [33:37] 比如碰到了 我们就应该做什么动作 [33:39] 同时我觉得触觉信息也应该能回到大脑去 [33:42] 对我一个相对长程的这个过程里边 [33:44] 做一定决策的影响 [33:46] 但是它就偏reasoning(推理) [33:48] 我们在采访过程当中 [33:50] 也发现了业界的一点分歧 [33:51] 那就是触觉模型是单独训练 [33:54] 还是要结合摄像头、激光雷达等 [33:56] 其他传感器来一起训练呢 [33:58] Eric就认为触觉模型可以单独训练 [34:01] 这样才能够更好地去平衡权重 [34:04] 就像T-Rex这篇论文的思路 [34:06] 我们会更倾向于触觉模态的单独训练 [34:10] 因为触觉模态它本身的语义理解 [34:12] 就可以完成一定的闭环了 [34:15] 当它的语义理解结束之后 [34:17] 再和其他的模态进行融合 [34:19] 让大脑去判断会更好一点 [34:21] 因为它每一个模块 [34:23] 可以去单独地做训练、测试、闭环 [34:27] 然后同时这些模块可以像即插即用一样 [34:30] 去插到不同的系统里面去做应用 [34:33] 它还能跟其他模态更好对齐 [34:36] 不然的话你这个眉毛胡子一把抓 [34:38] 都混在一起 [34:39] 到底模态之间的数据怎么去平衡 [34:42] 其实是个挺难的问题 [34:44] 而来自北美的于弢就认为 [34:46] 两者必须要同时进行 [34:48] 这样才能够判断 [34:49] 每个“力”在空间中的分布 [34:51] 让模型更好地理解 [34:53] “我是拿了什么东西才会有这样的感知” [34:56] 视觉它是一个全局的 [34:58] 而触觉它真的是一个非常局部的事情 [35:00] 我的手的形态动的时候 [35:02] 同一个传感器 [35:03] 对应的在空间上的分布是不一样的 [35:06] 当大家做视觉和触觉的模态融合的时候 [35:10] 其实并不是一个简单的 [35:12] Latent space representation(表征空间) [35:13] 你在同一个embodiment(载体) [35:14] 做同样一件事情的时候是可以的 [35:17] 但一旦这样做完之后 [35:18] 你的transfer(迁移)非常难 [35:20] 比如像哥大李昀烛(Yunzhu Li)老师 [35:22] 是把这种触觉的力的分布是 [35:26] 结合到这种三维点云上的 [35:28] 那么也就是说这个力并不只是一个力 [35:31] 而是它在这个空间中力的一个分布 [35:35] 那么在这种情况下 [35:36] 其实是需要触觉和视觉的结合的 [35:39] 于弢的思路也对应着 [35:41] 我们前面提到的Tabero这篇论文 [35:43] 他认为触觉应该参与到高层决策中 [35:46] 理解“轻一点”和“重一点”的语义 [35:48] 简单来说Tabero主打前置的“语义力控” [35:52] 而T-Rex是执行过程的“高频修正” [35:55] 由于触觉这个行业 [35:56] 目前处于非常早期的阶段 [35:58] 多条路线在同时探索 [36:00] 没有绝对的优劣之分 [36:02] 我们也只是向大家来展示不同的路径 [36:04] 最后我们来说说触觉的第三个障碍 [36:07] 就是规模化 [36:12] 量产的最大的难题就在于性能的一致性 [36:15] 上周在ICRA 2026 在维也纳 [36:19] 我们看到非常多的触觉传感的公司 [36:22] 我们亲手去测了一下这个事 [36:25] 它是否一致 [36:27] 其实大多数是做不到的 [36:28] 因为手指的调整动作都是非常微小的 [36:31] 在做精密操作的时候 [36:33] 输出的力稍微有点偏差 [36:34] 就可能导致任务失败 [36:36] 但触觉传感器又太精密了 [36:38] 但凡表面的弹性体厚度相差太大 [36:41] 弹性系数不一致、传感器间距不同 [36:43] 都会导致参数偏差 [36:45] 算法就难以计算出正确的数值 [36:48] 接下来我们就去一目科技的试产车间 [36:51] 看看他们是如何验证新工艺的 [36:56] 我们现在穿上了无尘服 [36:58] 接下来会去到他们的试产车间 [37:03] 大家先摸一下这个防静电球 [37:05] 去除身上的静电 [37:07] 第一步是先把凝胶材料放到模具内固化 [37:11] 作为手指的表面弹性体 [37:12] 这一步得注意 [37:13] 不能有任何的灰尘和气泡 [37:15] 这是一个超净工作台 [37:17] 它可以提供一个局部100级的超洁净空间 [37:21] 有利于我们的凝胶制备 [37:23] 制备完成之后还得先检验是否合格 [37:27] 这边会做一些拍摄 [37:29] 如果发现里面有气泡、杂质的情况 [37:32] 我们是可以通过视觉来筛选的 [37:34] 并且我们所有的数据会经过上位机的判断 [37:38] 再筛选一次 [37:39] 最后就是将其他地方制备的零部件 [37:41] 集中到一条产线上进行组装 [37:44] 大家刚才看到的材料 [37:46] 会在这里进行分步组装 [37:48] 从第一个粘接工位 [37:51] 到这边的预总装工位 [37:51] 到这边的预总装工位 [37:53] 包括壳体、灯带、相机、芯片等 [37:58] 各个零部件的精密组装 [38:00] 然后我们会到总装前的预检测工位 [38:04] 我们的触觉传感器会在这里 [38:07] 进行一个成像的检测 [38:09] 可以拉近看一下我们电脑里显示的画面 [38:11] 可以拉近看一下我们电脑里显示的画面 [38:12] 它展示了我们触觉传感器的一些精密动态 [38:17] 它是力学的反馈 [38:20] 里面有很多的AI算法在里面 [38:23] 经过检验的成品最后就变成了我们的成品 [38:25] 经过检验的成品最后就变成了我们的成品 [38:26] 当然每个批次的试产样品 [38:28] 还得经过自动化测试 [38:30] 用来验证工艺参数的稳定性 [38:34] 相信大家都能看出来 [38:36] 在试产阶段很多步骤依然依赖于手工操作 [38:39] 因为触觉传感器是一个比较新的品类 [38:42] 现成的标准化、自动化设备 [38:44] 暂时还没有统一 [38:46] 这个(触觉的)量产 [38:46] 它不是脱离了你的上下游自己去生产 [38:50] 你的上下游 比如说是数采 [38:53] 或者是灵巧手 [38:55] 其实它有不同的协议、有不同的接口 [39:00] 有不同的关于它手的适配 [39:03] 所以来讲 你的量产还是要跟着它的需求 [39:08] 有一些定制化的操作 [39:10] 一方面是自动化量产线稳定交付标准品 [39:14] 另一方面是试产线 [39:15] 承接定制化需求和新工艺验证 [39:18] 那么这两条线协同运转 [39:20] 正是这个行业走向成熟的标志 [39:23] 而到了2026年这个时间点 [39:25] 我们采访的几乎所有嘉宾都表示 [39:27] 触觉已经是处于爆发的前夜了 [39:30] 今年我们确实是看到了说 [39:32] 整个需求有一个大幅度的上涨 [39:36] 大家慢慢认识到了 [39:39] 触觉的数据 其实对于物理AI [39:42] 最后训出更好的模型来讲 [39:45] 是非常重要的 [39:46] 今年来讲的话 [39:48] 灵巧手、上下游 [39:50] 包括具身的整机 [39:51] 大家都在去拼命地做、拼命地出货 [39:54] 自然也会带动整个触觉传感更加成熟 [39:58] 在今年的WAIC展会上 [40:00] 我们也在一目科技的展台 [40:02] 看到了某大型汽车电池装配工厂 [40:05] 将他们的触觉传感器搭载到了机械臂上 [40:08] 实现了工业级的应用 [40:10] 不同的电池包 [40:11] 这样的一些形态、它的一些变化 [40:14] 如果我们依赖传统的自动化 [40:16] 纯去做每次的预编程和大量的开发 [40:19] 是没有办法去做 [40:21] 适应这种产线的频繁调度和变化的 [40:24] 这样的一个过程 [40:25] 所以基于这个触觉 [40:27] 就得到了一些柔性装配的能力 [40:30] 而未来还将应用到实验室里 [40:32] 做更多精密操作的项目 [40:34] 比如说像滴管 去做精准的取液 [40:37] 我恰好要把它控制到 [40:39] 毫克级的这样一个精准程度 [40:42] 有了触觉的一个精准反馈 [40:44] 我可以精准地去控制 [40:45] 对于滴管施加的一个力 [40:47] 形变这样的一些变化 [40:48] 根据美国银行的预测 到2030年 [40:51] 人形机器人的出货量将达到120万台 [40:54] 假设都装配了触觉传感器 [40:56] 每个机器人10根手指 [40:57] 那么触觉的市场需求将提升到千万级别 [41:01] 如果那个时候是量产 [41:02] 我们倒推一年 或者一年半到两年 [41:05] 这么一个研发的周期 [41:06] 或者测试的周期 [41:08] 也就是说下一年(要开始上量) [41:10] (触觉的)下一个里程碑节点 [41:11] 会在什么时候发生 [41:14] 我觉得就是今年或者明年年初 [41:16] 应该就这个时间段 [41:22] 在我们采访的时候Eric就提到 [41:24] 触觉是让机器人类人 [41:27] 甚至超越人的“最后一块拼图” [41:30] 因为这不仅是多了一个维度的数据 [41:32] 更是让机器人掌握到了“人类的第一语言” [41:35] 人类的婴幼儿 他刚出生之后 [41:38] 他第一个会的其实并不是看和听 [41:42] 小朋友都是靠触觉 [41:44] 我摸这个世界 [41:45] 甚至可能用舔、用舌头 [41:47] 这个其实是我们人类 [41:49] 对于这个世界的第一语言 [41:51] Adelson也提到 [41:52] 启发GelSight的灵感是源于观察小孩时 [41:55] 发现触摸对他们更有吸引力 [41:58] 是啊 如果我们想想 [41:59] 我们的小孩刚出生的时候 [42:01] 他不会说话、不会走路 [42:03] 连看都看不太清楚 [42:04] 想感知世界 就只能够伸手 [42:06] 去摸妈妈的脸、摸床单的材质 [42:09] 摸脚趾头的形状等等 [42:11] 而今天我们正在教机器人做同样的事情 [42:14] 让它摸花生、摸树叶、摸鸡蛋 [42:17] 每摸一次对物理世界的理解就多一点 [42:20] 或许很多年之后 [42:22] 机器人走进我们的生活 [42:24] 那个时候我们回望 [42:25] 可能会发现转折点就在触觉普及时 [42:29] 因为那一刻 [42:30] 机器人才开始真正地理解了世界 [42:33] 好了 这就是这期视频的全部内容 [42:35] 非常感谢大家看到这里 [42:36] 你们的留言、点赞还有转发 [42:37] 是支持我们《硅谷101》 [42:39] 做好深度科技和商业内容的最佳动力 [42:41] 我是陈茜 那我们就下期再见啦 拜