arXiv · cs.RO· Siting Wang, Xiaofeng Wang, Zheng Zhu, Minnan Pei, Xinyu Cui, Cheng Deng, Jian Zhao, Guan Huang, Haifeng Zhang, Jun Wang·· 3 小时前精选AI 评分72
论文 / 摘要阅读
π-StepNFT:面向流式VLA的逐步负样本感知在线强化学习框架
$\pi$-StepNFT: Wider Space Needs Finer Steps in Online RL for Flow-based VLAs
AI 导读 · 根据来源整理
论文提出π-StepNFT(Step-wise Negative-aware Fine-Tuning),一个面向流式VLA的在线强化学习框架,无需计算最终动作似然。作者指出,多步去噪使策略梯度在线RL难以处理,因为采样器诱导的最终动作似然不可直接求解;同时去噪轨迹中存在探索与监督不匹配,SDE采样探索更宽的局部随机转移空间,而基于最终去噪输出的监督未直接利用采样中观察到的相邻转移。π-StepNFT将观察到的SDE转移作为监督单元,用方差归一化的转移误差对镜像的正负速度分支排序,把rollout反馈映射为局部速度更新。
本站目前提供摘要
以上是对来源材料的中文整理,不是完整论文或全文。研究方法、数据与完整论述请到来源页面核对。
前往 arXiv · cs.RO 阅读原文 ↗来源:arXiv · cs.RO · arxiv.org