Soft-Object World Model:面向双臂软体衣物操作的上下文学习世界模型
作者提出 Soft-Object World Model,用 transformer 骨干在大规模仿真软体交互数据上训练,通过上下文学习从变长部分点云历史推断潜在形状与材质线索,实现生成式全状态估计和动作条件动力学预测。
推荐理由:论文提出用上下文学习从部分点云历史推断软体衣物形状与材质,并跨本体泛化,为软体操作的世界模型路线提供参考。
技术方向
与机器人感知、决策和物理交互直接相关的具身智能进展
143 条精选近 30 天 140 条共收录 290 条
作者提出 Soft-Object World Model,用 transformer 骨干在大规模仿真软体交互数据上训练,通过上下文学习从变长部分点云历史推断潜在形状与材质线索,实现生成式全状态估计和动作条件动力学预测。
推荐理由:论文提出用上下文学习从部分点云历史推断软体衣物形状与材质,并跨本体泛化,为软体操作的世界模型路线提供参考。
LocoManiLab 提出一个覆盖数据采集与生成、策略训练、评估和物理部署的人形机器人移动操作统一测试台。其任务套件包含五类家庭场景下的 234 个原子与组合任务,配有 51.5 小时仿真遥操作数据;评估覆盖十二个策略在共享控制器下的任务与场景划分及扰动水平、两个策略在五种控制器下的表现,以及示范规模和数据来源混合的研究。
推荐理由:该预印本把数据采集、策略训练、评估与实机部署整合为统一测试台,可用于比较不同策略与控制器在扰动下的泛化差异。
Wei Zhang 等人提出 CARE,一个由 critic 引导的自适应执行框架,动态决定何时将控制从本地执行器升级到更强的云端模型。轻量 critic 模型监测执行可靠性并在本地执行不可靠时触发升级,升级后控制持续到智能体恢复,避免逐步切换;共享 handoff memory 在切换时保留执行上下文与任务进度。
推荐理由:论文提出本地执行与云端模型之间的动态升级机制,并给出成功率与动作间隔时延的对比数据,可供云端-本地协同部署参考。
Houzhu Ding 等提出 CW-WAM,一个联合预测视频、运动与接触力旋量的世界动作模型,将运动与力旋量作为统一建模目标并输出时间对齐的运动-力旋量块作为控制参考。
推荐理由:论文把接触力旋量纳入世界动作模型,并给出插入与擦拭任务的力参考误差对比,可供力控操作研究参考。
TARSphere 是一个面向长时程具身智能体的机器人全栈框架,包含在物理仿真器中运行机器人策略的 TARSphere-Infra、让冻结多模态大模型通过多级可执行技能行动的 TARSphere-Harness,以及覆盖30个室内场景、360个回合的 TARSphere-Bench。
推荐理由:该预印本提出面向长时程具身智能体的全栈框架与360个回合的仿真基准,并给出8个MLLM的对比结果。
RangeNav 提出一个仅 183k 参数的 LiDAR 距离图像编码器,完全在合成数据上预训练,用于移动机器人导航。该方法采用各向异性卷积和循环填充处理距离图像的极端长宽比与方位接缝,并以距离重建、语义分割和 BEV 预测组成的导航对齐目标预训练后冻结用于策略学习。
推荐理由:论文给出仅183k参数的LiDAR距离图像编码器预训练方案,并对比不同监督目标对导航成功率的影响。
OMAR 提出一套开放世界多属性推理流程,让机器人在没有预设物体词表和物体-容器对应关系的情况下,推断货架的隐含组织方式并摆放新物体。方法先用视觉语言模型给出标签及内容、包装类型等属性,经分割、深度和多视角关联完成跨视角实例定位,构建实例级3D场景图,再由LLM推理摆放排序,最后做几何与运动学可行性检查。作者称实验在实例映射和摆放一致性上优于单视角语言定位与纯几何基线,可自主摆放此前未见过的物体。
推荐理由:论文提出用视觉语言模型与LLM推理货架隐含组织规则,为开放世界物体摆放提供可迁移的推理流程。
SpatialDex提出一种从纯RGB人类视频学习3D双臂灵巧操作的框架,通过重建场景几何并结合手部运动估计进行视觉运动预训练。该方法将重建几何同时作为策略输入和预测目标,用门控残差融合把预训练视觉语言模型的token网格锚定到该几何上,并预测未来场景几何与手腕、手指动作。
推荐理由:论文给出从纯RGB人类视频重建场景几何并联合预训练双臂灵巧策略的方法,附仿真与实机对比结果。
CausGround 是一个非参数化的因果交互接地框架,把交互经验提炼为以动作为中心的因果知识,用于具身规划。它识别动作前置条件与效果,并以分解式世界状态表示组织物体属性和物体间关系,规划时把任务相关因果依赖接地到当前观测,支持前置条件的反向推理与效果的正向推理。
推荐理由:论文把交互经验整理成可复用的动作前置条件与效果知识,并在仿真基准和实机操作上给出对比结果。
AirPlayground 是一个用于训练和评估空中导航策略的统一基准,构建了覆盖室内、城市户外和植被场景的94个3D高斯泼溅(3DGS)环境,并配有对齐的碰撞几何。
推荐理由:该预印本公开了94个3DGS场景与94K飞行演示,并给出ACT随训练场景扩展的成功率变化,可供比较空中导航策略的闭环评测。
arXiv 论文 Watch Your Step 提出预期感知方法,用轻量落脚点预测模型(FPM)仅凭本体感知和速度指令预测未来落脚点,再只在这些落脚点周围采样高程图小块,替代完整机器人中心高程图输入。
推荐理由:论文提出用落脚点预测裁剪高程图输入,训练迭代约为完整地图的三分之一,并零样本迁移到 Unitree G1 实机。
论文提出关系几何强制(RGF),通过对齐成对特征关系而非逐点特征,把冻结3D基础模型的几何先验迁移到世界动作模型(WAM)。作者发现逐点几何对齐虽改善视频特征却会损害动作学习,RGF 用帧内、跨视角和动作-时序三类关系目标,且仅在训练阶段使用,不增加几何分支或推理模块。仿真与实机实验显示,该方法在多种操作场景和 WAM 范式下取得一致提升。
推荐理由:论文指出逐点几何对齐会损害动作学习,提出用成对特征关系迁移3D先验,并在仿真与实机中验证。
作者提出 DepState-JEPA,一种双流 RGB-D 联合嵌入预测架构,通过共享隐状态 DepState 把空间理解与动作条件预测连接起来。该框架基于 V-JEPA 2.1,将深度同时作为互补观测流并把两种模态锚定到度量三维空间,动作条件转移后由同一组解码器预测未来 RGB 与深度特征。
推荐理由:论文提出以深度观测锚定共享隐状态的双流预测架构,可用于比较机器人操作中的状态表征设计。
Yash Rampuria 等作者提出开源 GPU 加速图库 GGraph,同时支持真实机器人部署和大规模策略训练。GGraph 通过 ROS 2 接口接入真实机器人,并支持向量化 GPU 策略训练,内置 3-D 导航、探索和回环整合等任务。单机器人运行时图更新为毫秒级,规模化训练可跨数百个并行机器人,训练实际耗时降低一个数量级;结果来自仿真与真实世界实验。
推荐理由:GGraph 把图构建放到 GPU 上,并同时覆盖 ROS 2 部署与并行训练,为图表示机器人策略提供可复用基础设施。
COWBOY 是一个可扩展的 sim-to-real 框架,用于学习情境化全身操作,在全身灵巧抓取任务上零样本迁移到数百个物体和杂乱桌面、货架、抽屉等非结构化场景。
推荐理由:论文给出把场景感知全身控制器与局部强化学习专家蒸馏为单一视觉策略的 sim-to-real 框架,可参考其分层训练思路。
AdaDex 是一个目标条件强化学习框架,能把数秒的单条手-物轨迹(来自动捕或野外 RGB(D) 视频的 HOI 重建)转化为可泛化的灵巧技能。其核心 Hybrid Dexterous Mimicking 在两类大规模并行环境上训练共享策略:密集运动跟踪环境注入人类先验,带噪声初始状态与稀疏物体成功奖励的泛化环境迫使技能脱离参考轨迹。
推荐理由:论文提出混合模仿与目标条件强化学习框架,把数秒人手轨迹转成可泛化的灵巧操作技能,并给出跨仿真器与实机迁移结果。
IndustrialRemembr 提出面向机器人车队的共享时空记忆系统,扩展 NVIDIA ReMEmbR,仅在需要时生成场景描述以降低服务端计算。每台机器人用 NVIDIA Jetson 将视频片段编码为检索嵌入、视觉 token 和重建潜变量,不上传原始相机画面。
推荐理由:论文给出机器人车队共享时空记忆的端侧编码与按需解码方案,并报告缓存 token 解码与未拆分模型输出一致。
CLOSER提出证据感知的主动验证框架,把物体目标导航中的停止决策当作闭环证据采集,将视觉语言模型验证与主动感知结合。该框架微调开源VLM,把候选目标在各帧的视图标注为目标、非目标或不确定,用基于嵌入的多样性门控挑选互补视图,再由轻量网络融合各视图概率;若融合判断仍不确定,扩散策略仅依据跟踪掩码和深度驱动智能体靠近候选目标,直到判断明确。
推荐理由:论文把停止决策改写为闭环证据采集,用VLM多视角验证加扩散策略主动靠近,为ObjectNav误检问题提供可迁移方法。
研究提出 GPT-as-Tactile-Policy,将专家演示总结为任务指引和触觉参考,由 GPT-6-Astra 结合多模态观测与交互历史生成控制指令,无需额外机器人专用预训练或逐任务策略微调。在五项 UniVTAC 任务上平均成功率为 93.8%,Insert Hole 任务中触觉反馈将成功率从 31% 提升到 99%。执行分析显示模型能依据接触反馈进行试探与纠正。
推荐理由:论文用接触丰富操作任务检验通用多模态模型能否借触觉反馈调整动作,并给出与专用策略的对比结果。
研究在 Idealworks 的 iw.hub 实机上评测 NVIDIA X-Mobility 与 COMPASS 导航策略训练流程,并用 NVIDIA Cosmos 生成仿真到现实变体。
推荐理由:在 Idealworks 实机上对比数字孪生与 Cosmos 增强训练,给出成功率与耗时差距,可作为 sim-to-real 评测参考。