02 4.75
多指灵巧手学到的技能大多还停在简单抓取或者原地转物体,稍难一点的手内操作,最常见的失败是把东西掉了,可是以往的工作很少专门统计掉落。这篇让 LEAP 机械手把手里的物体挪到几乎任意位置和朝向,手腕朝向也随机变,而且一个目标接一个目标连续做。主策略完全在仿真里训练,直接迁到真机。真机上 95.2% 的新目标都能准确到达。作者再在冻结的主策略上叠一个小网络,它只看手和物体的状态,用强化学习学会给每步动作加一点修正,奖励是物体不掉、修正越小越好。修正的惩罚权重可以在运行时调,调大就更接近原动作。这样掉落减少 75%,到达率仍有 91.5%。
03 4.40
人形机器人的行为基础模型(BFM,给一段参考动作就输出全身关节指令的通用跟踪策略)大多在平地动作上训练,碰到台阶、沟和平台就容易摔。常见做法是连同感知一起重训或微调整个模型,成本高,还可能把平地上原有的能力弄坏。小米机器人实验室的 GRAFT 把基础模型完全冻住,只加一个小的适配器,按脚下地形给下半身的执行目标加一点修正,平地上的修正被压到接近零。四个冻结的基础模型在最难的地形上原本几乎都过不去,加上 GRAFT 后,表现最好的从 40 次里成功 3 次升到 39 次。适配器最后只靠机载深度相机就在宇树真机上跑通。
04 4.40
VLA 模型(看图像、读指令,直接输出机器人动作的大模型)擅长按指令抓取和摆放,但大多是在没有障碍的桌面上训练的,旁边多一个箱子或者有东西移过来,它就会直接撞上去。用避障数据去微调 VLA 最直接,可这种数据很难采,还可能伤到原来的任务能力。VLA-Stem 不动 VLA,只在它后面接一个用强化学习训练的小策略:把 VLA 给出的一段动作当作参考路线,结合机器人自身状态和附近障碍物,实时调整实际执行的轨迹和快慢。在六个有障碍的仿真设置里,既不碰撞又完成任务的比例平均 52.8%,最强的安全基线只有 23.7%,没有障碍时原有成功率基本不掉。
05 4.40
用 Flow Matching 生成动作的多任务机器人策略,通常让所有任务都从同一团高斯噪声出发,沿直线路径变成动作。可开抽屉和叠积木的动作差别很大,共用一个起点和路径,很难每个任务都学好。TOPS 不改网络,只改这两样。它把专家动作沿训练好的策略倒推回噪声空间,发现不同任务落在不同区域,于是给每个任务拟合一个起点分布,按语言指令从对应区域开始生成。它还比较起点分布和专家动作在各个方向上散开的程度,专家动作散得更开的方向,生成前期少往目标挪、后期多挪,其余方向照常匀速。在 LIBERO 最难的长任务子集上,只走一步的 TOPS 把成功率从标准 Flow Matching 十步的 53.44% 提到 69.67%。
06 4.40
灵巧手做接触密集的操作时,手指常常把物体挡住,相机看不清,单靠视觉的 VLA 模型很难把握接触和力度。已有工作开始加入触觉,但多数只是把触觉和视觉特征直接拼在一起,不管当下有没有碰到物体。DeCAL 让触觉按接触情况决定参与多少:没碰到时少用,碰到时多用。它还让模型在出动作之前,在隐空间里一起预测接下来画面和触觉的变化,借此学到一些物理规律。在作者的灵巧手任务上,它的平均成功率达到 71%,在没见过的场景里也保持了较好的表现。
07 4.40
教灵巧手最省事的办法,是把人手示范直接换算成机器人动作,即重定向。可现有方法只对齐指尖位置和关节角度,不管手和物体之间有没有接触、用了多大力,机器人手该贴住物体的地方常常没贴住。CARD 先记下每一帧人手哪些位置碰到物体、用了多大力:触觉手套直接读压力,视频没有力的信息,就用作者训练的模型从画面判断哪些位置在接触,每个接触点按同样的力算。重定向时,机器人手除了跟随手指位置,还要在对应位置产生这些接触力。它保住接触的帧数是只对齐运动学方法的好几倍。把这个思路加进基于物理的重定向,在 GRAB 数据集的仿真回放里,物体真被搬过大半程、该抬起时确实抬起才算成功,成功率从 12% 提到 32%。
08 4.40
两台移动双臂机器人通过同一个物体协作时,失败往往不是谁的单项技能不行,而是时机没对上:该等的时候没等,该让的时候没让,该松手的时候还在拉。常规做法要两个人同时遥操作采示范,成本高,也很难同步。这篇的 SAI 只要一个操作员,分三步:先由人扮演配合度很高的搭档,教会机器人 A;再让 A 按学到的策略自己动,操作员遥操作 B 跟它配合,采到的示范用来训练 B;最后只在 A 快要配合失败的地方让人插手纠正。这样机器人见到的搭档越来越像真实情况,会有延迟、节奏错位和让得不够。真机实验里,它的成功率、同步程度和让步表现都好于两台各自独立模仿的做法。
09 4.40
大模型都在预测离散 token,机器人基础模型却几乎都把动作当连续向量来预测,默认的理由是离散化会损失精度。这篇在仿真和真机、单任务和多任务 VLA 上系统比了一遍,发现最朴素的离散做法,把每个动作维度均匀切成若干档,成功率也能追平甚至超过连续动作。离散策略真正的问题不在精度,而在于各个时间步、各个维度分开预测,拼起来可能是互相矛盾的组合。借用扩散模型里的无分类器引导,放大有观测和没观测两次预测的差别,让每个动作维度的概率集中到少数几档上,档位划分不变。这样做后,离散回归在 RoboCasa 上的成功率从 27.1% 升到 49.2%,接近多步迭代生成的离散流匹配的 53.9%。机器人动作未必需要和其他 AI 领域不同的表示。
10 4.10
PPhysical Intelligence
Physical Intelligence 把自家最新的机器人基础模型开放成了 API 测试版:开发者上传示范数据,在它托管的算力上微调 π 系列模型,再通过云端推理直接控制自己的机器人。早期用户覆盖了不少行业,有在真实商业现场无人驾驶装载机装车的,也有用 API 迭代四天,就让双臂机器人给自己的零件去毛刺的。官方总结的共同经验是,改进流程大同小异:采示范、训模型、上机测试,再根据失败决定下一批采什么数据。部分用户遇到了网络问题,云端推理对现场网络有要求。对做机器人应用的团队来说,这意味着不必自建训练基础设施就能用上前沿模型,但数据和失败分析仍要自己做。