条件神经过程用于动作模仿中的自监督目标发现
研究评估条件神经过程能否自主学出可反映动作潜在目标的动作表征。在隐空间加入注意力机制后,模型能在动作序列观察早期形成稳健的目标表征,被视为面向机器人自监督通用学习器的候选模型。
NEWS / 动态
按时间浏览,使用右上角筛选切换领域。
研究评估条件神经过程能否自主学出可反映动作潜在目标的动作表征。在隐空间加入注意力机制后,模型能在动作序列观察早期形成稳健的目标表征,被视为面向机器人自监督通用学习器的候选模型。
首尔大学团队提出从大规模演示数据学习速度先验,为机器人演示重定时。给定任务指令、运动路径及沿途图像,该先验预测路径上的执行速度分布,取选定分位数作为统一时钟;单个训练好的先验可覆盖语料库中所有任务,无需为每个新任务重新拟合或标注。
推荐理由:论文提出从大规模演示数据学习速度先验,为每条演示统一重定时,并给出仿真与实机对比结果。
研究提出面向纯视觉自动驾驶车辆的鲁棒无偏移模型预测控制(OF-MPC)框架,用于高速大曲率弯道下的车道保持。数值仿真显示,基于插值管约束迭代线性二次调节器(itube-CILQR)的求解器平均计算时间低于5 ms,优于IPOPT和OSQP求解器。该算法随后在仿真环境的视觉车道保持实验中控制车辆,并用OF-MPC框架量化多任务UNet在训练未见交通场景中的感知不确定性。
作者提出增强滤波蒙特卡洛定位(AF-MCL),仅用四个单点测距传感器和实测航向实现室内无人机二维定位。方法会剔除与已知静态地图不一致的测距值,并自适应注入粒子以从定位发散和绑架问题中恢复,束分类只在上一位置估计处进行,使射线投射开销与粒子数无关。
论文提出面向 ROS 2 Nav2 的自然语言策略接口,由本地大语言模型把操作员指令转成 JSON 策略,指定目的地、空间约束和时间或事件条件,再经确定性检查与三个代价地图适配器接入现有导航栈,不改动规划器与控制器。
推荐理由:论文给出自然语言到 Nav2 策略的接口与验证数据,可供比较语言指令如何接入现有导航栈。
作者提出 OWLS(开放世界语言条件速度场),直接在一张单目图像的视觉语言模型稠密特征图上规划,无需任务训练、地形标注或持久地图。方法用可通行地形描述提示视觉语言模型为每个像素打分,将分数投影到地面并经两次形态学操作适配平台,作为最小时间规划器的速度场,使地形外观与障碍间距共同塑造轨迹。作者在室内与越野的实体漫游车、200 个程序生成地形上的仿真火星与月球漫游车以及真实行星影像上进行了评估。
推荐理由:论文把开放词汇视觉语言模型的逐像素地形评分接入最小时间规划器,为无地图、仅靠单目相机的越野导航提供了一条可迁移思路。
UAV-SwarmAgent 提出一种层级多智能体系统,操作员用一句自然语言下达任务,地面站智能体生成并执行代码,将其转化为每架无人机的航线。该系统用视觉语言模型在空中地图上定位巡检目标,按路线长度均衡分配给 N 架无人机,再由机上紧凑决策模型核验事件。
I-Tak Ieong与Hao Tang提出HGWM,一种分层图引导世界模型,通过类别条件房间-锚点先验与持久空间语义记忆完成零样本目标导航。粗阶段用视觉语言模型给候选朝向打分,细阶段将观测到的物体与关系同目标先验显式比对,再按阶段融合语言模型建议引导局部导航。
推荐理由:论文给出分层图引导世界模型在HM3D与MP3D上的零样本目标导航结果,并列出各组件消融幅度,便于比较导航方法。
Yonghyeon Lee 汇编编辑的讲义《Optimization, Optimal Control, and Reinforcement Learning for Robotics》发布,梳理优化、最优控制与强化学习在机器人学中的数学联系与实际相关性,内容为已有材料的整理而非新研究成果。
Ning Zhou 与 Edmund R. Hunt 在 arXiv 预印本中提出兼性集群(facultative swarming)统一控制框架,主张把集群能力视为一种动态能力而非固定的系统类别。该框架让系统在条件宽松时按集中式规划运行以追求最优性,在环境压力下平滑退化为去中心化集群以保持鲁棒性。作者认为这为兼顾集中式最优性与自组织灵活性的集体机器人系统提供了一条路径。
推荐理由:论文提出集中式规划与去中心化集群之间的可切换控制框架,为多机器人系统在环境压力下保持鲁棒性提供一种架构思路。
研究提出解剖锚定的模仿学习框架,将解剖引导的探头放置与学习式超声导航结合,用于自主机器人超声扫描。该框架先由外部视觉确定任务相关的解剖起点并建立初始探头位姿参考系,再由基于流的策略根据锚点相对位姿、超声图像、探头相机视图和接触力生成扫描动作,终止头预测任务完成。
推荐理由:论文给出解剖锚定的模仿学习框架与手持采集平台,并在16名未见参与者上报告成功率与跨机器人迁移结果。
CoCarry 提出一个协同搬运数据集,包含 21 种任务方案、5 种共享物体几何、4 类地形下的 220 条同步双人序列,约 61 分钟运动数据。作者同时提出 Contact-Support-Structured Retargeting,从单人标称动作出发,围绕同一给定物体轨迹联合优化两台人形机器人。
R²E 是一个角色驱动的奖励进化框架,用多个 LLM 角色自动设计强化学习奖励函数。其中 Explorer 负责提升新颖性以扩大搜索空间,Guardian 做保守修正以改善训练稳定性,Evolver 通过交叉和变异重组高性能奖励,动态调度策略让搜索从广泛探索逐步转向集中利用。
作者提出轨迹束图(GTB)方法,用于非线性、黑箱动力学系统的运动规划,将采样运动规划、轨迹优化与图搜索结合。GTB 基于工作空间的凸集图分解,迭代构建轨迹束图以刻画各顶点处的局部动力学,并在图上求解最短路,得到在极限下满足系统动力学及碰撞规避等约束的迭代解。作者称该方法可处理高度非线性、不稳定甚至黑箱动力学以及复杂碰撞与规格约束。
LogLook提出一种执行日志式记忆,让前沿视觉语言模型规划器保留执行记录与先前笔记,并自行决定查看哪些帧。在基准自带运动规划器下,它的成功率与仅用笔记的记忆相当,但token减少43%、图像用量不到一半,因记忆或观察失误导致的失败回合也明显更少;直接控制时在RoboMME测试集上解决93.5%。
推荐理由:论文提出面向前沿模型机器人规划器的执行日志式记忆,在RoboMME上以更少token和图像达到相近成功率,可供比较记忆设计。
DynaSlots 是一个无需动作标签的 3D 动态预训练框架,将每帧点云分解为少量时序一致的 slot,并在 slot 级别而非场景级别建模动态。它通过时序 slot 传播模块保持跨帧分配一致,用逆动力学模型从特征差异中提取每个 slot 的隐动作,再由扩散式前向动力学模型配合自监督交互头预测各 slot 未来状态。
推荐理由:论文把场景级动态预训练拆成逐 slot 建模,并在仿真与 RealMan RM65-B 实机上对比场景级基线。
MAST-VLA提出一种面向多技能机器人操作的双重条件框架,在LLM主干中引入技能条件化LoRA-MoE适配器,由技能查询token和路由偏置引导低秩专家分工,并把预测的可供性热图转为动作头的patch级轨迹可供性空间先验。
研究在24关节人形机器人上训练运动跟踪策略,并在独立CPU MuJoCo测试环境中评估指令延迟的影响。训练随机化下每个策略在30次试验中至少26次完成动作,但加入40毫秒恒定延迟后平均存活率降至15%(0%–45%),延迟裕度仅20–30毫秒。
推荐理由:论文用独立仿真测试量化了训练时随机化指令延迟对人形机器人运动跟踪策略延迟裕度的影响,并给出延迟范围应按实测延迟设定的建议。
研究在 Unitree Go2 四足机器人搭载 AgileX Piper 机械臂上部署 VLA 模型,实现闭环移动操作。作者报告了使实机部署可行的模型变体、动作时域和演示约定等选择,并针对抓放任务区分数据覆盖与模型容量。结果显示扩大演示覆盖使留出集末端执行器误差降低 30%,加入推而非抓等次级技能引入新行为模式且未降低基线性能。
该研究将ARAIM解分离与保护级计算建立在紧耦合GNSS/IMU因子图优化的后验上,利用当前状态边缘化与Woodbury更新计算无故障、单星、星座级和二阶故障假设下的保护级,无需重复全状态求逆或图重优化。
RoboCode 提出一种共享软门控动作基元接口,把动作块表示为多个学习基元的软组合,而非单一离散编码。该接口在多个任务的动作块上学习后冻结,再训练任务特定的状态编码器映射到共享潜空间。在五个 ManiSkill 操作任务上,动作块平均重建 MSE 为 0.0187,闭环平均成功率为 75.6%,高于 ACT 的 68.8% 和 Diffusion Policy 的 41.6%。
推荐理由:论文提出跨任务共享的软门控动作基元接口,并在五个 ManiSkill 任务上给出重建误差与闭环成功率对比。
研究显示 OpenVLA 激活的稀疏自编码器(SAE)表征含有结果预测信息,可在机器人进入不可恢复状态前预测任务失败。作者还找出与成功或失败特定阶段相关的单个 SAE 特征,通过定位这些特征激活显著变化的时间区间来归纳重复出现的行为模式,并构建基于 VLM 的解释流程生成行为描述,在留出区间上验证其与特征激活的对应关系。
推荐理由:研究用稀疏自编码器解读 OpenVLA 激活,把失败预测与可解释行为模式联系起来,为诊断机器人策略提供一种可迁移的分析路径。
研究将机器人辅助穿衣表述为几何感知插入问题,用身体部位与衣物开口的空间关系替代完整可变形物体状态,并提出结合分阶段课程与逐指插入软门控的强化学习框架。训练后可变形评估中完整方法成功率为84.7±1.2%,消融显示插入门控贡献最大,叠加课程后得分最高。在假人手模型上,同一完整策略于实机20次试验中成功15次。
推荐理由:论文把穿衣任务建模为几何感知插入问题,并用消融实验定位插入软门控与课程学习的贡献。
TravSUITE 是一个面向越野高速导航的可通行性系统,由利用视觉基础模型构建几何语义局部地图的体素建图器,以及联合预测 BEV 几何、语义、速度与代价的统一神经网络组成。
推荐理由:论文给出无标注自监督的可通行性系统,消融显示代价学习与辅助修复各自贡献规划质量,并附实机风险适配实验。
一项 arXiv 预印本研究指出,流匹配 VLA 策略中数值求解器深度与执行时域存在耦合,且呈现符号反转:快速重规划时粗粒度积分降低精度,而在延长开环执行时反而明显提升任务表现。
作者把测试时训练(TTT)接入 InternVLA-A1 和 Pi0.5,用成对的人类演示与机器人轨迹研究以演示为条件的动作生成。实验显示,在当前规模下加入 TTT 并用成对数据训练,并未带来基于演示的一致目标选择;更短序列、全轨迹梯度连通和对比正则化在测试设置下也未明显提升对演示的响应。
DiscoDemo 提出用强化学习生成多样化机器人演示数据,再导出为静态数据集供下游视觉运动模仿学习使用。该方法训练带特权信息的潜在条件强化学习生成器,结合并行逆向课程与成功门控的多样性目标,产出多条成功的闭环行为并做安全过滤。
推荐理由:论文把强化学习当作数据生成器,用多解多样性提升下游模仿学习,并给出仿真与实机成功率对比。
一项对比诊断研究在 HandMeThat v2 基准上评测了结构化社交与具身推理框架 FISER 与多模态增强方法 CEMIR,覆盖从 Qwen2.5-Omni-3B 到 GPT-5 的四款大模型。经多重比较校正的统计分析显示,两者在全部十六组模型与难度组合上均无统计显著差异,针对性消融亦如此,性能主要与骨干模型能力和歧义固有难度相关。
研究者提出一种标准化机器人模块,将磁吸对接接口与两个驱动关节结合,可从平面二维构型折叠为三维结构,并组装成三模块“trilobite”和五模块“seal”两种形态。
一项预印本研究指出,人形机器人安全滤波器的碰撞保证只在参数配置正确时成立,而参数配置依赖具体任务与环境,目前没有通用方法确定。作者提出目标插入攻击,并开发自动化工具 SIREN 为给定任务和环境寻找可插入的脆弱目标;在 SPARK 数据集的所有脆弱场景中,SIREN 均能识别攻击,数量是基线方法的三倍,并在真实人形机器人执行任务时触发碰撞。
提出偏差感知高斯过程(Ba-GP)框架,利用已记录GP后验均值梯度将估计的输入偏差与噪声传播为均值与协方差修正,并借助加性协方差结构实现数值高效的一阶校正算法。仿真研究与室内光照强度建图实验显示,Ba-GP相对噪声输入GP基线提升了预测精度与不确定性校准,计算成本比完整GP重训练低一个数量级。
研究提出一个将神经细胞自动机(NCA)与现有站点分配和避碰控制结合的模块化框架,用于机器人通过局部交互组装目标形状。框架引入分散式附着点发现机制,已在编队中的机器人更新并共享局部NCA状态以识别新附着点,部署时无需预定义站点列表。
论文研究以全身近距传感器作为归纳偏置,学习反射式避碰行为,并在强化学习环境中比较八种候选表征,包括隐空间压缩、未来接触预判、有损退化和特权状态估计。作者在刻意受限的样本与算力预算下端到端训练超过200台人形机器人玩简化版躲避球,发现低分辨率有损传感器比高分辨率全覆盖是更强的偏置,而预判接触发生的时间与部位反而降低了学习样本效率。该工作为预印本,结论基于仿真训练环境。
arXiv 论文研究月面机器人集群能否以自身成员作为热屏蔽,用强化学习训练一套由二十台机器人共享的策略。策略只在月夜结束时收到一次奖励,即最冷五台机器人的平均温度,奖励不含位置、间距、暴露或运动信息,集群仍涌现出聚集和在外围与核心间轮换两种行为。
推荐理由:研究用单一末端温度奖励训练共享策略,让二十台机器人自发形成聚集与轮换行为,并给出与静止抱团及物理下界的能耗对比。
一项 arXiv 预印本研究指出,VLA 模型以 bf16 训练且无 fp32 主副本时,AdamW 会把小于权重 1/512 的更新直接舍入掉;12 个开源 VLA 代码库中有 9 个默认或文档配方这样训练,包括 LeRobot 的 SmolVLA 默认配置及其 π0/π0.5 指南。
推荐理由:研究指出 bf16 微调 VLA 会静默抹掉大部分权重更新,并给出 fp32 主副本在 LIBERO 上的对比结果,可作为训练配置的参考。
论文提出BM2PC,一个用于可变形线性物体敏捷操作的贝叶斯多模态MPC框架,将多模态规划建模为集合优化问题,并加入执行动力学模型补偿快速操作中的执行偏差。在绳索跟踪与避障的仿真和硬件实验中,BM2PC在最长任务上把RMSE降低44.0%,避障性能与现有多模态MPC方法相当,规划时间减少29%至66%。
推荐理由:论文提出面向可变形线性物体动态操作的多模态MPC框架,并给出仿真与实机跟踪、避障的量化对比。
EgoForesight 提出一种视觉-语言-动作框架,联合利用机器人演示与带噪第一视角视频训练策略,通过可靠性条件加噪、可靠性加权回归和特权未来表征蒸馏降低不可靠动作标签的影响。在 3 万小时预训练数据下,其缩放斜率比基线更陡,真实世界开环动作 MSE 降低 20.5%,RoboCasa 少样本成功率提升 8.1 个百分点。后训练后,该方法在仿真与真实世界的灵巧操作任务上也取得较强的绝对性能。
推荐理由:论文提出用带噪第一视角动作联合训练 VLA 策略,并给出 3 万小时预训练下的缩放对比与实机开环误差数据。
FORCA 是一个以视觉观测和腕部力/力矩测量为输入、为接触探测与力响应运动编写 Python 程序的编码智能体,无需演示、任务特定训练或仿真。它在五次实机任务中覆盖三类接触密集操作:提升操作精度、适应物体或表面属性变化、在表面变化与物体运动下调节接触。与同一智能体的纯视觉版本相比,FORCA 提升了抓取精度和任务成功率,并减少了擦拭与剥离中的接触丢失。
推荐理由:论文展示编码智能体如何结合腕部力/力矩反馈改写接触操作程序,为力感知策略提供可迁移的闭环思路。
SAGE(Semantic-to-Action Grounded Execution)是一个读-决策-执行-校验框架,用视觉语言模型的轨迹作为对完整几何候选路径的偏好,并通过排序融合结合几何分数与VLM轨迹一致性。
WorldMirror 是一个智能体式 real-to-sim 框架,可从野外机器人演示构建可交互数字孪生。它把 real-to-sim 构建表述为可执行世界程序的迭代精炼:编码智能体分解场景、规划重建步骤并调度图像与 3D 生成工具,再通过验证反馈修正程序。在 DROID 上的实验显示,该框架能重建视觉忠实、几何一致的可交互世界,并保持所记录机器人轨迹的物理有效性。
推荐理由:论文把野外机器人演示转成可交互仿真世界,其世界程序迭代修正思路可供仿真数据构建参考。