GSBR:按动作距基策略支撑集距离做在线RL正则
热点事件持续更新
GSBR:按动作距基策略支撑集距离做在线RL正则
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Charles Xu 等作者提出 GSBR(几何支撑行为正则化)在线强化学习方法:对落在基策略支撑集内的动作不施加惩罚,对支撑集外的动作按距离平滑增大惩罚,当价值增益超过惩罚时仍允许改进。作者称,基策略通常是在大规模多样数据上经模仿学习训练的扩散或流匹配模型,能覆盖许多合理但次优的行为;现有行为克隆正则会把 actor 拉向完整基策略分布,硬支撑约束则禁止支撑集外的改进。 GSBR 从有限个基策略采样中估计该距离,因此只需对基策略的采样访问。作者在四个机器人基准的 19 个任务上报告,平均成功率由基策略的 33% 升至 95%,平均成功率和吞吐在所有对比方法中最高,归一化吞吐比次优的 RL 方法高约 23%。上述为预印本作者自报结果,未经同行评议或独立验证。
AI 根据报道生成 · 1 小时前更新
最新进展11月4日 13:00
GSBR:面向在线强化学习的几何支撑行为正则化报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- arXiv · cs.RO精选GSBR:面向在线强化学习的几何支撑行为正则化
GSBR 提出一种面向在线强化学习的几何支撑行为正则化方法,按动作到基策略支撑集的距离施加惩罚。基策略通常是在大规模多样数据上经模仿学习训练的扩散或流匹配模型,能覆盖许多合理但次优的行为;现有行为克隆正则会把 actor 拉向完整基策略分布,硬支撑约束又禁止支撑集之外的改进。GSBR 对支撑集内的动作不惩罚,使 actor 可集中于高价值模式;支撑集外则随距离平滑增大惩罚,当价值增益超过惩罚时仍允许改进。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。