PGPG:面向生成式控制策略的进度引导偏好生成框架
论文提出 Progress-Guided Preference Generation(PGPG),一种无需人工在环监督的无监督偏好对齐框架,用于微调预训练的生成式控制策略。该方法通过有序覆盖对齐衡量自主采集轨迹相对少量专家演示的序列进度,自动提取伪偏好标签,并称无需手工设计奖励函数。在多项长程操作任务实验中,PGPG 优于标准监督微调基线,并可同时集成扩散策略与流匹配策略。
推荐理由:论文提出无需人工标注的偏好对齐框架,用少量专家演示自动生成伪偏好标签,可比较其与监督微调在长程操作任务上的差异。