今日场景今天具身赛道的主线是数据从哪来。AIRoA-0 只用人手持夹爪录的演示就训出双手操作模型,软手指夹爪那篇讲怎么把这类数据采得更好,GUILD 讨论该采什么数据,Liber-0 则直接从人类视频和手套数据里学。另一条线是让大模型的能力在机器人上用得起:ARP 让大模型低频更新、小模型高频出动作,AFO 把视觉基础模型蒸馏成只看 RGB 的小策略,ZAP 在仿真里给小 VLM 补上动作控制这一课。 — 评分 140 篇,入选 10 篇,分数 3.42 – 4.79

本期目录 · 10 篇
  1. 01AIRoA-0: Long-Horizon, Precise, Cross-Embodiment Manipulation from Handheld Data
  2. 02RAFT: Reasoning-Aligned Fine-Tuning Improves Robustness of VLA Post-Training
  3. 03Pretraining Knows What, Simulation Teaches How: Compositional Generalization for Agentic Robotics
  4. 04Asynchronous Robot Policies
  5. 05DexHOT: Learning Hand-Object Configuration Transfer for Dexterous Manipulation
  6. 06FEIJOA: Task-Driven Grounding and Execution for Mobile Manipulation
  7. 07All-For-One: Distilling Visual Foundation Models to a Fast, Memory-Efficient Visuomotor Policy
  8. 08Robot-Matched Soft Fingers for UMI Data Collection: Lessons from 100 Hours of Pick and Place
  9. 09GUILD: Guided Iterative Data Collection for Imitation Learning
  10. 10LiberAI Unveils Liber-0, a World Action Model That Grounds Human Experience in Robot Action
LEAD STORY · 今日必读

AIRoA-0: Long-Horizon, Precise, Cross-Embodiment Manipulation from Handheld Data

机器人模仿学习一般要先在机器人上遥操作采数据,AIRoA-0 一条机器人数据都没采。它只用人拿着手持夹爪录下的 16,151 小时双手演示训练,机器人只在测试时才出场。在一个训练数据从没录过的场地,它只靠两只手腕上的相机,完成分拣零件、给扫地机器人换拖布和刷子、叠毛巾等十项任务,平均成功率 78%。同样用这些任务的演示做后训练,另外四个视觉语言动作模型(VLA)里最好的只有 27%。采数据不必绑在某一台机器人上,装同款夹爪的机器人都能直接用。

相关 5新颖 4实用 5证据 4时效 5
4.65
综合分 / 5
偏好调整 4.79
Yueh-Hua Wu, Kei Ota, Hanlong Li, Hayata Yuasa, Jason Wang, Kengo Ikeuchi, Kensuke Chiyoma 等 20 人 · 2026-11-02 · arXiv

今日其余入选

9 篇 · 按综合排名
02 4.65

RAFT: Reasoning-Aligned Fine-Tuning Improves Robustness of VLA Post-Training

用少量演示把通用的视觉语言动作模型(VLA)微调到一个具体任务上,任务本身做得更好了,但换个物体、换个背景或换种说法,就容易失败。RAFT 把后训练拆成两步:先在带推理标注的数据上训一组 LoRA,标注写的是这个任务该关注哪些物体和区域;然后把这组 LoRA 冻住,再用动作演示微调策略。在真实的 DROID 机器人上,遇到训练里没见过的情况时,成功率从普通微调的 27.9% 提到 75.0%。训出的策略也更多地看向任务相关的区域,先教会它看哪里再教动作,泛化就丢得少。

Shresth Grover, Andrey Kolobov, Dhruv Shah
arXiv·2026-11-03·Relevance 5 · Novelty 4 · Practical 5 · Evidence 4 · Timely 5
03 4.40

Pretraining Knows What, Simulation Teaches How: Compositional Generalization for Agentic Robotics

GPT-6 Astra 这类前沿大模型已经能直接控制机器人,泛化还比 VLA 好。作者认为这种能力可以拆成两件事:看懂任务要什么,以及把机器人动起来。小的开源 VLM 第一件已经会,主要缺的是第二件。ZAP 只在仿真里补这一课,练的是简单的基础动作任务,学的是模型自己做成功的轨迹,不用真机数据,也不蒸馏大模型。在真实任务上,它的成功率达到 96.7%,和 GPT-6 Astra 持平,完成一个任务的花费却只有后者的十七分之一。缺什么就只补什么,小模型也能接近前沿模型。

Benjamin Pikus, Daniel Saunders, Mircea Mironenco, Salman Mohammadi, Mathew Mathew, Sirou Zhu 等 14 人
arXiv·2026-11-03·Relevance 5 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
04 4.40

Asynchronous Robot Policies

VLA 越做越大,每一步都要等大模型推理完才能出动作,机器人的反应就慢了。ARP 把两件事拆开、各跑各的:大的 VLM 隔一阵更新一次它对任务和场景的理解,论文叫语义记忆;一个小的视觉动作模型参考这份记忆,高频地输出动作。大模型的理解总会晚上一拍,所以小模型每一步都会被告知这份记忆已经过时多久、自己的动作执行又要延迟多久。训练时也故意喂给它较旧的记忆,让它学会在这种错位下照样出动作。在 Franka 机械臂上和常规 VLA 基线相比,它的成功率更高,完成任务的时间少 20%。大模型不必每一步都在场,VLM 降到原来十分之一的频率,效果也基本不掉。

Sombit Dey, Luc Van Gool, Danda Pani Paudel
arXiv·2026-11-03·Relevance 5 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
05 4.40

DexHOT: Learning Hand-Object Configuration Transfer for Dexterous Manipulation

灵巧手操作不只是把物体挪到某个位置,还要让手指一直以合适的方式握着它,后面的动作才接得上。很多方法只给物体的目标位姿,手该怎么握留给策略自己摸索。DexHOT 把目标直接写成手的关节姿态加上物体相对手腕的位置,策略学的是从一种握法换到下一种握法,长任务就拆成一串这样的子目标。训练数据全部是合成的,不用人类示范动作。在 120 个物体上,一个策略对见过的物体成功率 80.5%,对没见过的是 69.4%。

Zhewei Gui, Anthony Bolton, Jiyao Zhang, Zeyuan Chen, Qiyang Yan, Tianyu Wang, Hao Dong
arXiv·2026-11-03·Relevance 5 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
06 4.40

FEIJOA: Task-Driven Grounding and Execution for Mobile Manipulation

用户让移动机器人把玩具收进玩具箱,机器人得先弄清哪些东西算玩具、用户指的是哪个箱子。场景表示如果是在收到指令之前建好的,里面可能根本没有回答这些问题需要的信息。FEIJOA 让语言模型 agent 拿到指令后再去查:反复调用一个定位工具检索扫描好的场景,检查返回的候选,改写查询,直到能确定目标。在开放式的定位查询上,它完全找对 94.2%,最好的预建场景表示只有 68.0%。在 Spot 机器人的真机任务里,失败大多来自抓取这类物理动作,而不是没理解指令。

Aditya Agarwal, William Shen, Sahit Chintalapudi, Lucy Cai, Nishanth Kumar, Aidan Curtis 等 9 人
arXiv·2026-11-02·Relevance 5 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
07 4.40

All-For-One: Distilling Visual Foundation Models to a Fast, Memory-Efficient Visuomotor Policy

深度估计、分割这类视觉基础模型能给机器人操作提供很有用的信息,但放进闭环控制里太慢,前后帧的输出也不稳定。AFO 只在训练时用它们:先训一个老师策略,同时看 RGB 图像和多个基础模型的输出;再把老师学到的东西蒸馏给一个只看 RGB 的学生策略,部署时只跑学生。在仿真基准上,学生的参数比基于基础模型的编码器少 30 多倍,延迟比老师低 50 倍,效果仍好于此前借助基础模型的方法。想用基础模型的感知能力又受不了延迟,这是个省事的办法。

Byungkun Lee, Minho Park, Hojoon Lee, Dongyoon Hwang, Donghu Kim, Hyunseung Kim, Kyungmin Lee 等 9 人
arXiv·2026-11-03·Relevance 5 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
08 4.40

Robot-Matched Soft Fingers for UMI Data Collection: Lessons from 100 Hours of Pick and Place

用手持夹爪采抓取数据又快又便宜,但常见的设计要么依赖外部基站,要么手指太硬,看不出抓得多用力。这篇在 YUBI 上做了一款带电池的手持夹爪:软手指会包住物体,受力时明显变形,相机画面里就能看出用了多大力,手指形状也和机器人的夹爪一致。他们用它采了一份多物体的抓放数据来训 π0.5,得到两个实用的结论。顶部相机即使只有约一半的数据里有,也能让成功率高 13 个点。先在这份多任务数据上做中间训练,再到新物体上微调,成功率从 35% 提到 57%。

Kobi Kelemen, Tomasz Niedziałkowski, Marcin Paszczak, Victoriano Montesinos
arXiv·2026-11-02·Relevance 5 · Novelty 3 · Practical 5 · Evidence 4 · Timely 5
09 4.40

GUILD: Guided Iterative Data Collection for Imitation Learning

机器人模仿学习的数据通常靠遥操作员凭感觉去采,很多数据其实对策略帮助不大。以往的做法是采完再筛,可没用的数据已经花钱采了。GUILD 改成边采边调方向。先让 VLM 根据部署场景提出该采哪些环境、物体摆放和目标;采回来后,用采到的数据训一次策略,再用数据归因的方法估算每条轨迹对目标场景表现的影响,也就是它加进训练后会让表现变好还是变差。这个估算结果决定下一轮采什么。在仿真和真机上,它都比被动采集、几种基线和有经验的机器人工程师更省数据。只让 VLM 出题、不看反馈的版本,平均表现要低约 25%,该采什么要看对策略的实际影响。

Shivin Dass, Kevin Nguyen, Rohan Yelandur, Junhong Xu, Roberto Martín-Martín
arXiv·2026-11-03·Relevance 5 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
10 3.40

LiberAI Unveils Liber-0, a World Action Model That Grounds Human Experience in Robot Action

让机器人向人学动作,难点在于人类视频里没有动作标签,人手和机器人的身体也不一样。北京创业公司 LiberAI 发布的 Liber-0 用超过 220 万小时的人类经验数据预训练,同时预测未来的画面和动作,并用数据手套直接记录手部动作来补上标签。在 GPT-6 出的一组任务上,不针对这些任务采机器人演示,整体成功率是 36.0%。简单的抓放任务好得多,长流程任务只有 10.5%,目前这些数字都来自公司自己的评测。

技术博客·2026-11-04·Relevance 4 · Novelty 3 · Practical 3 · Evidence 2 · Timely 5

其他赛道今日

点击切换

开源雷达

GitHub / HuggingFace 热门 · 8 个项目
tacclaw-infinity/TacClaw-InfinityTacClaw-Infinity: research code and dataset resources for a large-scale Vision-Tactile-Language-Action dataset.Python · ★ 18 · 2026-10-30 · GitHubtehfalcon-vw/mst2-nar-carplay-mapsMST2 Delphi NAR CarPlay route-guidance and Virtual Cockpit map researchC · ★ 14 · 2026-11-02 · GitHubShawnL1N/intuit-to-ideaTurn human intuition into research ideas. You provide a direction; AI asks focused questions, develops your intuitive answers, and checks prior work and feasibility—keeping you in charge of discovery.★ 14 · 2026-11-01 · GitHubinternlm/InternLumina-U2pipeline: any-to-any; tags: transformers, safetensors, diffusion, multimodal, unified-model, image-generation, image-editing, vision-languagemodel · ★ 17 · 2026-09-01 · HuggingFaceAlibaba-DAMO-Academy/RynnUnify-GEU-BenchRynnUnify-GEU-Bench RynnUnify-GEU-Bench is the GEU (Generation Enhanced Understanding) benchmark used for the RynnUnify family. It contains 2000 multi-turn samples across 10 subsets and 3 task families, each paired with its source images and a stored rollout video. Each record wa; tags: task_categories:visual-question-answering, language:en, license:other, size_categories:1K<n<10K, region:us, embodied-ai, spatial-reasoning, video-understandingdataset · ★ 2 · 2026-10-29 · HuggingFacemoonshotai/Kimi-K3.1-Propipeline: image-text-to-text; tags: transformers, safetensors, kimi_k31, text-generation, compressed-tensors, conversational, image-text-to-text, custom_codemodel · ★ 382 · 2026-11-02 · HuggingFaceAlibaba-DAMO-Academy/HoloCT-4Bpipeline: image-text-to-text; tags: safetensors, qwen3_vl, medical-imaging, computed-tomography, 3d, visual-question-answering, image-segmentation, report-generationmodel · ★ 1 · 2026-11-02 · HuggingFaceAlibaba-DAMO-Academy/HoloCT-8Bpipeline: image-text-to-text; tags: safetensors, qwen3_vl, medical-imaging, computed-tomography, 3d, visual-question-answering, image-segmentation, report-generationmodel · ★ 1 · 2026-11-04 · HuggingFace