02 4.50
机器人学习的工具链很碎:电机通信、数据采集、数据集格式、训练算法和推理部署往往各用一套,换一台机器人或一个数据集就要重新拼一遍,别人的结果也很难复现。LeRobot 把整条链路放进一个开源库:从底层电机控制和低成本硬件接入,到统一的数据集格式和流式读取,再到多种主流策略算法的实现和异步推理。它的价值不在提出新算法,而在于让不同实验室的数据和结果能放在同一套工具里对比和复用。
03 4.40
训练模仿学习策略时,验证集上的损失低,并不代表机器人在真机上做得好。作者让五指机器手抓取并插入网线水晶头,真机测了 281 个策略,想找出真正决定成败的设计。结论是输入和动作怎么表示,比优化器和采样方式重要得多:例如点云策略只保留目标附近的区域、把点云换到机器人底座坐标系,每一项都能把成功率提高 70 到 100 个百分点。几十种离线指标里,只有衡量预测动作是否平滑、是否走直线的少数几项和插入成功率明显相关,而且只在同一类策略内部成立。想用离线指标代替真机测试,目前还靠不住。
04 4.30
机器人上线后每天都在干活,但想让策略继续变好,通常还得请专家示范或纠正动作,机器人越多越难扩展。这篇论文让整队机器人从自己的执行记录里学:操作员只需标出每一轮是成功还是失败,并帮忙复位。训练时拿失败时的情境去成功轨迹里找相似片段,优先模仿这些片段里的动作,再把更新后的共享策略发回所有机器人。每台机器人采集时间固定时,机器人越多效果通常越好;在多步骤的手机包装任务上,96 台机器人一起学,把成功率从 79.2% 提到 98.3%。不加专家示范,只靠成败标签也能让整队机器人持续变好。
05 4.30
用离线示范训练的移动操作策略,一遇到没见过的情况就容易出错,手臂、躯干和底盘要一起动的长任务,靠多录示范也很难覆盖。I3L 让操作员在机器人出错时接管。操作员手边有一对和机器人手臂同步运动的主控手臂和一对手柄,一握或一推,控制权就整体交给人,主控手臂纠正机械臂,手柄调躯干和底盘。纠正数据拿去重训,新策略再上机,下一轮专门纠正它的新错误。四轮之后,自主成功率平均比初始策略高 68.3 个百分点。同样数量的训练轨迹,比只用示范训练高 35.6 个百分点。示范预算花在策略真正出错的地方,比平均多录更有效。
06 4.30
人形机器人的全身动作跟踪控制器,通常给定一段参考动作就输出唯一一组关节指令,想临时让它躲开障碍,只能手工改参考动作或重新训练。DiffWBC 把控制器换成一步扩散模型:它输出的是未来轨迹的分布,每个控制步仍只需一次前向计算。这样不改模型参数也能在线引导动作:先写一个代价函数,比如身体离障碍物有多近,再对生成器的输入噪声求梯度、直接调整噪声,生成的动作就会避开障碍。例如让机器人从 1.25 米高的横杆下钻过去,它不碰横杆顺利通过的比例是 0.84,改参考动作的办法只有 0.10。同一段动作多次采样,结果越分散越可能跟踪失败,不用物理仿真就能挑出问题片段。
07 4.30
机器人边执行边推理时,模型算得越慢,动作偏了就越晚被纠正,而现有的视觉运动策略大多依赖很重的视觉主干,难以在端侧芯片上跑快。RTPolicy 用一层跨视角注意力让几个摄像头的画面特征互相参考,再用池化把每路画面压成 4 个 token,交给流匹配动作生成器,视觉编码和动作生成两部分的计算都降了下来。在 RoboTwin 仿真基准上,它的平均成功率是 52.26%,在对比的方法里最高;在真实双臂平台上,它在端侧芯片 RDK S600 上每次推理只要 30.35 毫秒。端侧实时不一定牺牲精度,关键是先把多视角画面压小。
08 4.30
灵巧操作里很多动作要靠手感,比如分拣瓶子时判断有没有抓稳,可带触觉的机器人数据很难大规模采集。TacClaw-Infinity 用一种指尖带触觉传感器的手持夹爪采数据:人在家里、实验室、工厂、商店和户外直接拿着它干活,同时记录画面、指尖触觉和夹爪轨迹,不需要真机器人在场。最终攒出超过 1 万小时的示范,覆盖上千类任务,并统一做了质检、筛选和分段标注。在三款结构不同的机器人上,给策略加入触觉输入后,π0.5 的平均成功率从 50.0% 提到 74.0%,提升主要来自分拣瓶子这类靠接触判断的任务。
09 4.10
现在的机器人大模型大多按固定频率一次输出一段动作,相邻时刻的动作几乎一样,输出位置被大量浪费;想看得更远,就得牺牲接触时需要的局部精度。Vela 每次输出固定数量的控制点,每个控制点是动作空间里的一个位置,连起来是一条平滑的样条曲线,可以在任意时刻取值。这条曲线覆盖多长的未来,由模型和控制点一起输出;训练时,每段示范的标签取固定数量控制点在误差允许范围内能表示的最长时长,所以动作平缓时覆盖得长,需要精细接触时覆盖得短,同样多的控制点就排得更密。在真实的鸡蛋饼烹饪长任务上,Vela 在四个子任务上的平均成功率是 67.5%,π0.5 是 37.5%。动作表示从逐点改成曲线,输出预算才能按需分配。