02 4.40
灵巧手要学会推物体、在手里把物体转到任意姿态,通常要么为每个任务采示范,要么在仿真里跑强化学习再迁移到真机。亚马逊 FAR 等单位的 PlayPolicy 只让人遥操作机械手随意摆弄物体几分钟,用行为克隆学出一个不针对任何任务的玩耍策略,再让机器人自己照着玩上几个小时,用这些数据训练一个预测动作后果的世界模型。执行具体目标时,玩耍策略提出候选动作,世界模型预测各自的结果,挑最接近目标的执行。真机上,它的成功率比事后补标目标的行为克隆高 69.6%,与强化学习相当,所用交互数据却少约 490 倍。
03 4.40
视频扩散模型看过大量物体怎么移动、怎么被碰撞,但要把这种理解用到机器人控制上,得先解决两件事,各数据集的相机数量和视角不同,各机器人的动作格式也不同。复旦大学的 X-World 给预训练视频模型加了一路跨视角注意力,让它能同时看一到三个相机。它再把视频特征压成固定长度的一串 token 交给共享的动作模块,每个数据集另配一个轻量投影层,把共享模块的输出换算成该机器人自己的动作格式。它在 LIBERO 上平均成功率 98.5%,在六个真机双臂任务上达到 81.7%,高于最强基线 X-VLA 的 58.3%。去掉视频适配或跨视角融合时成功率下降最多,说明起作用的正是视频先验。
04 4.40
机器人操作常常败在最后几毫米,策略认得出要抓的物体,却对不准姿态偏差、物体边缘和接触前的位置。论文认为问题出在视觉编码器上,常用编码器追求语义上的不变,把这些细微的几何差别抹掉了。扩散模型的特征对像素级的对应关系很敏感,但带随机噪声、速度慢,没法直接用于实时控制。Robot-DIFT 把输入带噪声的扩散模型蒸馏成一个输入干净图像、一次前向就出特征的确定性网络,再把从粗到细的多层特征融合成视觉 token 交给策略。在 RoboCasa、LIBERO-10 和真机上,它在需要精细接触的任务上胜过视觉语言、自监督、几何类和扩散类编码器。
05 4.40
推车、搬重箱子、擦白板,这些活不光要控制手怎么动,还要控制用多大的力。人形机器人的力往往要两只手和全身配合着给,单靠运动轨迹描述不出来。FLoRe 用两个带力传感器的手持夹爪和穿戴式追踪器采示范,不用机器人就能同时录下手的动作、接触力和全身动作。策略除了预测动作,还给每只手输出力的指令,全身控制器在保持平衡的同时,让每只手沿指令方向跟住这个力,其他方向保持柔顺。在宇树人形机器人的三个接触任务上,它的成功率是 80%,用同样示范训练、只控制位置的策略只有 26.7%。对要干推、擦、搬这类活的人形机器人,力应该写进示范和策略输出里。
06 4.30
给看图、读指令、直接输出动作的 VLA 模型补上 3D 空间感,常见做法是让它的内部表示直接对齐预训练 3D 基础模型的特征。论文发现,这种逐点对齐相当于给特征空间加了一个低秩约束,会让 VLA 原有表示的秩严重塌缩,丢掉原本的表达能力。伦敦玛丽女王大学等单位的 RIGID 改为只对齐关系。3D 模型里任意两个位置的特征有多相似,VLA 里这两个位置的特征也要同样相似,至于每个特征本身指向哪里、有多长,不再做要求,VLA 因此能保留自己原有的特征坐标系。在公开基准、作者新建的空间推理基准和真机操作上,它都把 3D 空间信息带进了 VLA 的推理,泛化也更稳。想给 VLA 加 3D 先验的团队,值得先检查对齐之后表示有没有塌缩。
07 4.30
机器人策略里的 RoPE 通常按 token 在序列或网格里的序号算相对位置,可同样相差几个像素,在不同相机里对应的视角不同,同样相差几帧,真实经过的时间也不一样。而且一个图像 token 本来就覆盖一片像素,压缩过的视频 token 还混合了好几个时刻,只用一个中心点描述并不准确。POD-RoPE 在每个 token 覆盖的像素区域和时间段里取若干观察点。每个点的相机位置、观察方向和采样时间拼成一个坐标,像普通 RoPE 用序号乘频率那样,用坐标乘一组固定频率得到旋转角度,再把各点旋转角的余弦和正弦分别取平均,作为这个 token 的位置编码。接进 Fast-WAM 后,两个真机任务的平均成功率从 32.5% 提到 52.5%,延迟只比普通 RoPE 多约 17%。
08 4.30
给 VLA 多采几组候选动作,再用一个打分模型挑最好的一组,是不加数据也能提高成功率的办法。但常见的打分模型从整条轨迹的成败里学,把每个时刻一视同仁。其实在空中移动、抓起后搬运这类时刻,采出来的候选几乎一样,挑哪个都差不多,只有抓取前、放置前对位这类少数关键时刻,候选差别大,选错就会失败。DiVeR 在每个时刻从 VLA 采若干个候选动作,对每个候选取动作模块最后一层、最后一步去噪时各动作 token 的平均向量,再求这些向量各维方差的平均值,方差越大,这一刻越关键。训练打分模型时按这个分数给关键时刻更大权重,不需要逐步标注。在 Franka 真机的四个任务上,平均成功率从只采一组时的 58.3% 提到 71.9%。
09 4.30
绳子、线缆这类细长软物体难操作有两个原因,它们太细,视觉上很难定准位置,而怎么变形又取决于软硬、粗细这些物理属性。PS-DLO 让策略先从开始的画面判断这根绳子的属性,比如有几根、软硬如何,作为生成动作的先验。训练时,一个教师网络只看 SAM3 在下一帧画面里分割出的绳子区域,把它编码成一组特征。策略只看当前画面,但它内部对绳子的表示要尽量贴近教师的这组特征,于是学会预判绳子下一刻的位置和形状。在单臂和双臂平台的九个真机任务上,包括解几种绳结、拉直、缠绕和穿绳,它的平均成功率为 68.9%,比最强基线高 20 个百分点。处理线缆和绳索时,把物体属性和未来形状明确交给策略,是一条值得试的路。
10 3.65
Google
Google DeepMind 把机器人的高层推理模型 Gemini Robotics ER 2 放上了 Google Cloud,开放公开预览。这个模型充当机器人的大脑,能理解空间和视频里的任务进程,把要跑好几分钟、做上百个决定的长任务拆开,再调用底层的 VLA 模型和硬件接口去执行,还能在对话中接受操作员临时改口。上云之后,企业可以在同一个平台上先用 MuJoCo 或 Isaac Sim 仿真测试,用模型的指点、找关键片段和判断任务进度的能力给示范视频打标签,再训练自己的 VLA。对做机器人落地的团队,高层规划可以直接调用托管模型,自己专注底层动作和硬件。