跳到正文

NEWS / 动态

#强化学习

按时间浏览,使用右上角筛选切换领域。

10月30日周五
  1. arXiv · cs.RO67

    MOVER:从人类视频学习可泛化人形机器人搬运策略

    研究提出 MOVER,一个多阶段 Teacher-Assistant-Student 强化学习框架,用于人形机器人物体搬运。该方法先用 GENMO 和 GMR 重定向视频数据并做数据增强,再分三阶段训练,最后用 Dagger-PPO 蒸馏去掉本体位置观测和参考关节位置,使部署策略依靠机载 RGB-D 相机感知物体位姿。

    推荐理由:论文给出从视频数据到实机部署的三阶段强化学习框架,可用于比较人形机器人搬运策略的空间泛化路径。

  2. arXiv · cs.RO62

    LPS:通过一步流策略实现潜空间策略引导的离线强化学习方法

    作者提出潜空间策略引导(LPS),将原始动作空间的Q梯度通过可微的一步MeanFlow策略回传,以更新潜动作空间actor,从而省去代理潜空间critic。该方法让原始动作空间critic端到端引导潜空间优化,同时以一步MeanFlow策略作为行为约束的生成先验。

    推荐理由:论文提出用可微一步MeanFlow策略回传原始动作空间Q梯度,省去代理潜空间critic,为离线RL策略改进提供可迁移思路。

  3. arXiv · cs.RO65

    Combining Constrained Sampling and Reinforcement Learning for Manipulation 论文提出约束采样重置方法

    Marc Toussaint 等人提出一种状态采样器,将约束流形上的采样用于重置状态分布,以提升接触丰富操作任务中目标条件强化学习的探索效率。该方法结合约束采样重置、投影插值和课程学习,作者称其优于无约束采样的强化学习及替代重置方法,并在全身与手内接触丰富场景中训练出通用、抓取与非抓取操作策略。论文被 CoRL 2026 接收,项目页面提供视频与完整源码。

    推荐理由:论文把约束流形采样用于重置状态分布,为接触丰富操作中的强化学习探索提供了一种可迁移的训练思路。

  4. arXiv · cs.RO60

    MoVLR:用视觉语言模型为肌肉骨骼控制学习奖励函数

    作者提出 MoVLR 框架,利用视觉语言模型在控制优化与 VLM 反馈之间迭代探索奖励空间,为高维肌肉骨骼系统的运动与操作发现和细化奖励函数,而非依赖手工设计奖励。该方法把语言和视觉评估转化为具身学习的结构化引导,论文称结果说明 VLM 能把抽象动作描述对应到生理运动控制中的隐含原则。该工作已被 L4DC 2026 接收,arXiv 编号 2512.23077。

    推荐理由:论文提出用视觉语言模型迭代反馈来发现高维肌肉骨骼系统的奖励函数,可了解语言目标如何转成控制奖励。

10月29日周四
  1. arXiv · cs.RO58

    面向自动驾驶卡车的短时域MPC学习终端代价

    论文提出一种MPC与强化学习混合框架,用于自动驾驶卡车在高速公路交互交通中的行驶控制,由有限时域MPC通过动态规划求解,并用预训练RL模型估计终端代价。作者在带反应式周围交通的仿真环境中,将该框架与零终端代价的纯MPC、使用基础策略估计终端代价的rollout以及纯RL进行对比。结果显示混合方法实现零碰撞,且代价在所有配置中最低。

  2. arXiv · cs.RO58

    LLM引导的四足机器人平面移动操作规划与推挤策略

    研究提出一种LLM引导的分层框架,用于四足机器人在有可移动障碍物的环境中完成交互式导航与平面推挤。语言条件任务规划器用LoRA在合成数据上微调,将自然语言任务和结构化场景表示映射为变长参数化动作序列,由低层强化学习策略执行,在交互式导航任务上优于经典规划器和提示式前沿模型。

  3. arXiv · cs.RO72

    Humanoid Dodgeball:用强化学习训练人形机器人快速躲避动态障碍

    Humanoid Dodgeball 提出一个面向人形机器人敏捷动态避障的强化学习框架,通过威胁感知奖励塑形和多个方向特定的对抗运动先验,让机器人对飞来的抛射物做出全身躲避动作。作者称仿真与硬件实验显示,该框架在不同障碍速度和发射距离下提升了动态避障表现,同时保持稳定且物理可行的人形运动。

    推荐理由:论文给出人形机器人躲避高速抛射物的强化学习框架,可用于比较动态避障中的奖励设计与运动先验。

  4. arXiv · cs.RO60

    SONIC-K1:在单张 GPU 上为 Booster K1 小型人形机器人移植全身运动跟踪器

    SONIC-K1 是作者称为首个面向 Booster K1 人形机器人的开放权重全身运动跟踪器,通过将 SONIC 框架适配到这一更小的机器人得到。策略在单张共享 GPU 上从零训练,算力只占 SONIC 报告算力的一小部分;在 MuJoCo 仿真中按 SONIC 的成功判据跟踪了几乎所有留出动作片段,并在外部基准上表现良好。

    推荐理由:论文给出在单张共享 GPU 上从零训练小型人形全身运动跟踪策略的流程,并区分仿真与实机表现。

  5. arXiv · cs.RO71

    Event2Reward:从进度关系学习机器人奖励

    Event2Reward 提出从机器人演示中学习奖励的方法,用归一化时间标签锚定进度尺度,并用轨迹内的停滞、回退与恢复关系约束局部变化,将进度预测作为奖励塑形的势函数。

    推荐理由:论文用轨迹内的停滞、回退与恢复关系约束进度预测,为从失败执行中构建稠密奖励提供了一种可迁移方法。

  6. arXiv · cs.RO60

    Data Inoculation:用残差策略扰动遥操作指令的机器人数据采集框架

    Qiyang Li、Sergey Levine 等提出 Data Inoculation(DI),一种共享控制数据采集框架:人类提供闭环遥操作指令,残差策略在线训练并扰动这些指令,使机器人接触更广的状态范围,人类的持续纠正则提供恢复演示。作者称在三个真实机器人任务上,DI 的成功率持续优于或持平行为克隆与离线 RL 训练的策略。论文为预印本,未给出任务细节与成功率分母。

    推荐理由:论文提出共享控制的数据采集框架,用残差策略扰动遥操作指令,为机器人演示数据的覆盖问题提供可迁移方法。

10月28日周三
  1. arXiv · cs.RO69

    约束感知强化学习实现力驱动的钩型连接拆卸

    Nadeen Elhadad 等提出约束感知强化学习框架,从接触力在线推断可行的拆卸方向,在机器人无关的物体中心仿真中训练后零样本部署到实机。该方法结合粒子滤波信念提供时序积分的方向信息,在四类真实任务上成功率分别为 100%、100%、90% 和 75%,且每项任务路径效率最高;在空调前盖上相比未使用该信念的策略把成功率从 45% 提升到 75%。

    推荐理由:论文用接触力在线推断拆卸方向,并在四类真实任务上给出成功率,可看力觉策略从仿真零样本迁移到实机的做法。

  2. arXiv · cs.RO80

    ELEVATE:从任务失败中为四足操作机器人自动获取控制器

    ELEVATE 框架利用任务程序优化中的持续失败识别缺失的全身控制能力,由编码智能体构建并迭代强化学习问题,验证后的控制器加入能力库并与已有控制器组合重试任务。

    推荐理由:论文展示编码智能体从任务失败中自动合成全身控制器的闭环流程,并给出仿真与实机迁移的成功率数据。

  3. arXiv · cs.RO64

    MATCH:面向连续环境视觉语言导航的执行感知分层强化学习框架

    MATCH 是一个联合学习语言条件规划器与目标条件原子动作执行器的框架,用于连续环境视觉语言导航(VLN-CE)。它用执行感知拓扑图表示依赖起点的执行选项,并结合执行器价值估计与实际结果记忆,让规划器通过有界连续偏移细化执行请求。该模型以 0.5B 参数在 R2R-CE 和 RxR-CE 基准上取得 state-of-the-art,初步实机部署也展示了应用潜力。

    推荐理由:论文把执行器能力纳入规划器训练,为连续环境视觉语言导航提供可迁移的分层强化学习方法。

  4. arXiv · cs.RO60

    相对动作信用学习:扩展 PPO 以逃离局部最优

    论文提出用动作条件价值评论器扩展 PPO,通过在同一状态比较已执行动作与采样替代动作来改善信用分配,并结合广义优势估计与探索噪声约束。作者称该方法能在相同探索设置下逃离平台期,在 PPO 停滞的训练预算内完成精密轴孔插入任务。研究将 PPO 在长程接触丰富任务上的失败归因于状态价值评论器只按回合结果判断进展,导致策略收敛到部分解后无法区分动作优劣。

    推荐理由:论文把 PPO 在长程接触任务上的停滞归因于状态价值评论器缺少动作区分,并给出可迁移的算法改动思路。

  5. arXiv · cs.RO69

    ThinkWorld:用世界想象强化动力学链推理的VLA学习框架

    ThinkWorld 是一个 VLA 学习框架,把动作推理建立在世界动力学上,并通过世界想象的强化学习加以强化。它将每个动作思考表示为 Chain-of-Dynamics(CoD),即一串离散运动 token,刻画从当前世界到未来状态的中间动力学,并作为跨本体的通用动作表示。

    推荐理由:论文提出以世界动力学链作为跨本体动作表示,并用世界想象强化推理,为无动作标注视频提供监督路径。

  6. arXiv · cs.RO71

    ARC:用稀疏人工纠正引导机器人策略残差后训练

    研究提出自适应残差纠正模块 ARC,在冻结的模仿策略之上用强化学习学习残差纠正,并以稀疏人工纠正决定残差控制何时激活、在残差动作空间的何处探索。在真实机器人的三个精密操作任务上,ARC 将平均任务成功率从 33.3% 提升到 75.0%。作者称人工纠正定义了七关节残差空间中依赖任务的 2-3 维子空间,保留 96.0-97.7% 的纠正幅度平方。

    推荐理由:论文把稀疏人工纠正用于定位残差探索的子空间,而非当作模仿目标,为冻结策略的后训练提供了一种可迁移思路。

  7. arXiv · cs.RO83

    无渲染事件帧仿真加速自主机器人导航强化学习

    研究提出一种解析事件仿真器,直接从场景几何与自运动合成事件流,无需视觉渲染,单 GPU 生成 64x64 事件观测耗时 17 微秒,比先进渲染管线快 400 倍以上。

    推荐理由:论文给出不依赖渲染的事件流仿真方法,并附实机飞行结果,可用于比较事件相机导航的训练效率与部署路径。

  8. arXiv · cs.RO64

    StabBot 用学习立体视觉与残差强化学习实现机器人管道对扣

    StabBot 机器人管道对扣系统结合摆锤卡尔曼滤波、ResNet-18 关键点网络与残差强化学习策略,在 200 组随机作业中全部完成对扣,传统固定导向器为 74%。

    推荐理由:论文给出管道对扣机器人在缩比仿真中的成功率与接触力对比,可用于了解学习策略与视觉定位在对接任务中的组合方式。

  9. arXiv · cs.RO72

    研究用强化学习实现固定翼无人机自主拦截

    一项预印本研究提出用强化学习训练的神经网络控制固定翼拦截机,将滤波后的单目视觉观测直接映射为执行器指令。策略在自建 Python 环境中用近端策略优化训练,随后部署到固定翼平台并在真实拦截场景中测试;仿真中该策略在多数条件下优于两个经典制导控制器,实机中成功拦截了机动的固定翼目标。

    推荐理由:论文给出固定翼拦截机从仿真训练到实机拦截的完整链路,并附经典制导控制器作对照。

10月26日周一
  1. arXiv · cs.RO38

    果蝇自主探索的内在目标:分层探索智能体复现未来意志动作

    研究结合果蝇全脑记录与神经力学数字孪生,测试内在动机算法能否复现果蝇探索行为。果蝇全脑记录可提前10秒以上表征自发探索决策;在虚拟拴系球实验中,DIAYN在好奇心、熵与胜任力等20种内在动机算法中取得与果蝇最接近的行为与神经前瞻编码表现。

10月25日周日
  1. arXiv · cs.RO58

    DSGN:面向多机器人监视与围堵的双流门控网络

    DSGN 是面向多机器人同时监视与围堵(SSC)问题的双流门控网络架构,将监视与围堵拆分为专门的表示流,并通过上下文感知门控机制协调两者。作者称概率先验进一步正则化门控过程,减少模糊的中间决策,在恒定密度跨规模设置下保持任务效果与可扩展性;消融和分阶段评估显示动态门控与概率先验在纯监视和任务切换场景中支持模式切换。源代码已发布于 https://github.com/zuozysama/DSGN。

  2. arXiv · cs.RO71

    RoboLongR:因果一致奖励引导机器人逐步掌握长程操作

    RoboLongR 是一个离线到在线的框架,通过学习依赖历史的奖励引导策略适应新任务,核心目标是让奖励进度与执行历史支持的前置条件保持因果一致。方法采用阶段打乱监督、循环记忆和两轮训练,并以稀疏终端反馈触发对重复高分失败的纠正。

    推荐理由:论文提出以因果一致性约束长程操作奖励学习,并给出仿真与实机成功率对比,可用于比较长程任务奖励设计。

  3. arXiv · cs.RO72

    AdaDexTrack:面向自适应灵巧操作的动态调制跟踪框架

    AdaDexTrack 提出一种调制器在环的框架,用于语言条件下的灵巧手物交互跟踪。该框架以大规模专家到通才蒸馏得到的跟踪器承载技能,调制器经强化学习训练,对参考轨迹、物体隐表示和位置目标做三类反馈修正。作者称其在未见轨迹和未见物体集合上的平均跟踪误差与成功率均优于此前 SOTA,并在真实硬件上展示了零样本 sim-to-real 迁移,加入调制器相比仅用跟踪器有显著提升。

    推荐理由:论文把语言条件下的灵巧操作重构为闭环调制跟踪,并给出未见轨迹与实机零样本迁移的对比结果。

10月24日周六
  1. The Robot Report62
    The Robot Report的报道配图

    Eka Robotics 完成 1.5 亿美元 A 轮融资,扩展视觉-力-动作模型

    Eka Robotics 本周宣布完成 1.5 亿美元 A 轮融资,由 a16z 和 F-Prime 领投,资金用于扩展技术和客户部署。这家 2024 年成立、位于马萨诸塞州剑桥的公司正在构建视觉-力-动作(VFA)模型,通过大规模强化学习让机器人建立物理直觉,并称其机器人在训练分布外抓取物体速度约为每小时 1500 次操作,还能拧灯泡和插线。

  2. arXiv · cs.RO58

    HA-DiPO:面向异构机器人协同搬运的扩散策略优化框架

    HA-DiPO 是一个面向异构腿式机器人协同搬运的分层多智能体强化学习框架,采用集中训练分散执行(CTDE),将团队级协调与本体特定运动控制解耦。高层用集中式评论家联合训练独立协调策略,并以扩散策略表示可能的多模态协调响应;低层由本体特定鲁棒运动策略跟踪协调指令,协调策略通过奖励驱动的仿真交互从零学习,无需示范。

  3. arXiv · cs.RO78

    MimicAll:面向跨人形本体全身运动跟踪的结构化本体条件框架

    MimicAll 是一个强化学习框架,用于在异构人形机器人之间共享全身运动跟踪策略,将结构化本体描述符编码为全局与关节对齐条件,并结合观测历史与匹配本体的运动参考预测关节目标偏移。

    推荐理由:论文给出跨人形本体的结构化条件编码与464个本体的评测基准,可用于比较共享策略与单本体专家的差异。

  4. arXiv · cs.RO58

    MDPO:面向灵巧操作的多约束策略优化强化学习方法

    MDPO 将灵巧操作建模为同时包含累积代价约束和逐状态代价约束的多约束策略优化问题,并把多约束投影集成到策略优化过程中。方法用针对不同约束的策略投影,把最大化任务性能的中间策略映射到累积代价约束与逐状态代价约束定义的可行域。在 ReDMan 上的安全关节控制、手指安全和抓取任务实验中,MDPO 相比基线取得更好的约束满足,同时保持有竞争力的任务性能,代码已公开。

  5. arXiv · cs.RO72

    Active Reachability Learning:面向人形机器人可恢复性监控的主动可达性学习

    论文提出 Active Reachability Learning 框架,把给定回退策略的随机有限时域可恢复性包络作为学习目标,用于人形机器人运行时监控。该方法在价值学习与主动探索之间迭代,将数据探索重构为 reach-avoid 问题,由不确定性引导的探索器发现未见状态并避开确定不可恢复区域,同时结合时序差分与蒙特卡洛目标改善分布内价值预测和不确定性估计。

    推荐理由:论文把可恢复性监控建模为随机有限时域包络学习,并用主动探索补足接触丰富系统的数据盲区,可供研究人形机器人运行时安全监控参考。

  6. arXiv · cs.RO58

    RobustRLlib发布:统一17种鲁棒强化学习算法与评测基准

    RobustRLlib 是一个以算法为中心的鲁棒强化学习库与基准,将17种代表性在线、离线与安全强化学习算法整合到统一接口,以提升算法复用性。该工作还提供覆盖多种真实世界偏移以及人形机器人和视觉-语言-动作任务的评测平台,并在273种扰动配置上系统评估,给出当前鲁棒强化学习算法的能力图谱,指出仍存在明显鲁棒性差距的场景。作者称其开源且可复现、可扩展。

  7. arXiv · cs.RO75

    RynnUnify:16B统一具身模型发布,兼顾理解、视觉规划与机器人控制

    研究团队提出16B统一具身模型RynnUnify,通过交错的视频-语言推理把具身理解与长程视觉规划结合起来。实验显示其在所评估统一多模态模型中取得最高具身理解平均分,Rynn-VP总分比Cosmos 3 Nano高9.75分;经强化学习的智能体扩展使Rynn-GEU平均分比直接推理高6.0分。

    推荐理由:论文给出16B统一具身模型在理解、视觉规划与真机控制上的分项结果,可用于比较统一模型与专用方案。

  8. arXiv · cs.RO58

    HoloBoxing 提出人形机器人拳击训练配方,单 GPU 约七分钟完成任务学习

    HoloBoxing 提出一种基于预训练全身控制器的人形机器人拳击学习配方,将可复用运动技能与任务决策分离。紧凑规划器输出未来身体点目标,冻结的控制器负责关节级执行,学习到的解码器把 32 维动作映射为结构化目标窗口,并用实测状态模仿初始化规划器,再以强化学习优化交互行为。

10月23日周五