论文 / 摘要阅读
TOPPO:用 Critic Balancing 重构 PPO 的多任务强化学习
TOPPO: Rethinking PPO for Multi-Task Reinforcement Learning with Critic Balancing
AI 导读 · 根据来源整理
TOPPO(Tail-Optimized PPO)通过 Critic Balancing 重构 PPO,以改善多任务强化学习中的梯度条件并平衡各任务的学习动态。作者诊断出 PPO 在 MTRL 中存在此前被忽视的评论家侧梯度病态问题,可能导致尾部任务停滞、简单任务主导价值函数更新。在 Meta-World+ MT50 基准上,TOPPO 的平均与尾部任务表现优于此前的 SAC 系列和 ARS 系列方法,同时参数量明显更少、达到其最终性能所需环境步数更少;消融实验确认了各模块的有效性。论文已被 NeurIPS 2026 接收,代码链接见原文。
本站目前提供摘要
以上是对来源材料的中文整理,不是完整论文或全文。研究方法、数据与完整论述请到来源页面核对。
前往 arXiv · cs.RO 阅读原文 ↗来源:arXiv · cs.RO · arxiv.org