跳到正文
热点事件持续更新

TinyAstral提出两阶段自进化harness蒸馏方法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Kehong Gong等作者提交预印本论文,提出TinyAstral两阶段方法:第一阶段冻结开放权重教师模型,用递归自我改进让前沿LLM智能体读取教师轨迹并提出harness修改,每次修改须通过配对统计检验才被接受;第二阶段冻结最终harness,采集带推理与失败恢复的教师轨迹,蒸馏出在同一harness中替代教师的小型学生模型。 作者称,在RoboTwin上,harness演化把教师成功率从33.4%提升到63.6%,最终4B学生模型达到62.8%;四个harness版本上蒸馏出的4B学生均接近对应教师,且后续版本的学生更强。作者还称,在相同episode上,最终4B学生优于开放4B智能体、开放27B的harness-RSI模型SenseNova-RoboRSI,以及自家教师模型置于三家竞品harness中的表现;在实测部署episode上,其加速器用时约为教师模型的五分之一。上述结果来自预印本,未经同行评议与独立验证。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv · cs.RO精选
    TinyAstral:将自演化 harness 迁移到小型通用操作智能体

    TinyAstral 提出两阶段方法,把大型教师模型 harness 的自演化收益迁移到紧凑操作智能体。第一阶段冻结开放权重教师模型,通过递归自我改进(RSI)让前沿 LLM 智能体读取教师轨迹并提出 harness 修改,每次修改须通过配对统计检验才被接受;第二阶段冻结最终 harness,采集带推理与失败恢复的教师轨迹,蒸馏出在同一 harness 中替代教师的小型学生模型。在 RoboTwin 上,harness 演化把教师成功率从 33.4% 提升到 63.6%,最终 4B 学生模型达到 62.8%;四个 harness 版本上蒸馏出的 4B 学生均接近对应教师,且后续版本的学生更强。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。