02 4.65
用少量演示把通用的视觉语言动作模型(VLA)微调到一个具体任务上,任务本身做得更好了,但换个物体、换个背景或换种说法,就容易失败。RAFT 把后训练拆成两步:先在带推理标注的数据上训一组 LoRA,标注写的是这个任务该关注哪些物体和区域;然后把这组 LoRA 冻住,再用动作演示微调策略。在真实的 DROID 机器人上,遇到训练里没见过的情况时,成功率从普通微调的 27.9% 提到 75.0%。训出的策略也更多地看向任务相关的区域,先教会它看哪里再教动作,泛化就丢得少。
03 4.40
GPT-6 Astra 这类前沿大模型已经能直接控制机器人,泛化还比 VLA 好。作者认为这种能力可以拆成两件事:看懂任务要什么,以及把机器人动起来。小的开源 VLM 第一件已经会,主要缺的是第二件。ZAP 只在仿真里补这一课,练的是简单的基础动作任务,学的是模型自己做成功的轨迹,不用真机数据,也不蒸馏大模型。在真实任务上,它的成功率达到 96.7%,和 GPT-6 Astra 持平,完成一个任务的花费却只有后者的十七分之一。缺什么就只补什么,小模型也能接近前沿模型。
04 4.40
VLA 越做越大,每一步都要等大模型推理完才能出动作,机器人的反应就慢了。ARP 把两件事拆开、各跑各的:大的 VLM 隔一阵更新一次它对任务和场景的理解,论文叫语义记忆;一个小的视觉动作模型参考这份记忆,高频地输出动作。大模型的理解总会晚上一拍,所以小模型每一步都会被告知这份记忆已经过时多久、自己的动作执行又要延迟多久。训练时也故意喂给它较旧的记忆,让它学会在这种错位下照样出动作。在 Franka 机械臂上和常规 VLA 基线相比,它的成功率更高,完成任务的时间少 20%。大模型不必每一步都在场,VLM 降到原来十分之一的频率,效果也基本不掉。
05 4.40
灵巧手操作不只是把物体挪到某个位置,还要让手指一直以合适的方式握着它,后面的动作才接得上。很多方法只给物体的目标位姿,手该怎么握留给策略自己摸索。DexHOT 把目标直接写成手的关节姿态加上物体相对手腕的位置,策略学的是从一种握法换到下一种握法,长任务就拆成一串这样的子目标。训练数据全部是合成的,不用人类示范动作。在 120 个物体上,一个策略对见过的物体成功率 80.5%,对没见过的是 69.4%。
06 4.40
用户让移动机器人把玩具收进玩具箱,机器人得先弄清哪些东西算玩具、用户指的是哪个箱子。场景表示如果是在收到指令之前建好的,里面可能根本没有回答这些问题需要的信息。FEIJOA 让语言模型 agent 拿到指令后再去查:反复调用一个定位工具检索扫描好的场景,检查返回的候选,改写查询,直到能确定目标。在开放式的定位查询上,它完全找对 94.2%,最好的预建场景表示只有 68.0%。在 Spot 机器人的真机任务里,失败大多来自抓取这类物理动作,而不是没理解指令。
07 4.40
深度估计、分割这类视觉基础模型能给机器人操作提供很有用的信息,但放进闭环控制里太慢,前后帧的输出也不稳定。AFO 只在训练时用它们:先训一个老师策略,同时看 RGB 图像和多个基础模型的输出;再把老师学到的东西蒸馏给一个只看 RGB 的学生策略,部署时只跑学生。在仿真基准上,学生的参数比基于基础模型的编码器少 30 多倍,延迟比老师低 50 倍,效果仍好于此前借助基础模型的方法。想用基础模型的感知能力又受不了延迟,这是个省事的办法。
08 4.40
用手持夹爪采抓取数据又快又便宜,但常见的设计要么依赖外部基站,要么手指太硬,看不出抓得多用力。这篇在 YUBI 上做了一款带电池的手持夹爪:软手指会包住物体,受力时明显变形,相机画面里就能看出用了多大力,手指形状也和机器人的夹爪一致。他们用它采了一份多物体的抓放数据来训 π0.5,得到两个实用的结论。顶部相机即使只有约一半的数据里有,也能让成功率高 13 个点。先在这份多任务数据上做中间训练,再到新物体上微调,成功率从 35% 提到 57%。
09 4.40
机器人模仿学习的数据通常靠遥操作员凭感觉去采,很多数据其实对策略帮助不大。以往的做法是采完再筛,可没用的数据已经花钱采了。GUILD 改成边采边调方向。先让 VLM 根据部署场景提出该采哪些环境、物体摆放和目标;采回来后,用采到的数据训一次策略,再用数据归因的方法估算每条轨迹对目标场景表现的影响,也就是它加进训练后会让表现变好还是变差。这个估算结果决定下一轮采什么。在仿真和真机上,它都比被动采集、几种基线和有经验的机器人工程师更省数据。只让 VLM 出题、不看反馈的版本,平均表现要低约 25%,该采什么要看对策略的实际影响。