北京通用人工智能研究院提出 TaF-VLA:在 VLA 模型中实现触觉-力对齐的力感知操作
北京通用人工智能研究院团队提出 TaF-VLA,将经物理力与压力监督的触觉表征接入 VLA 主干,用于接触密集的力感知操作。团队搭建自动化触觉-力采集装置并构建 TaF-Dataset,包含超过 1000 万条同步触觉观测、六轴力/力矩测量与力分布图。
推荐理由:论文提出以力觉而非视觉对齐触觉表征的 VLA 框架,并公开千万级同步触觉与六维力数据集,可供接触密集操作研究参考。
内容类型
按内容形态浏览
327 条精选近 30 天 327 条共收录 632 条
北京通用人工智能研究院团队提出 TaF-VLA,将经物理力与压力监督的触觉表征接入 VLA 主干,用于接触密集的力感知操作。团队搭建自动化触觉-力采集装置并构建 TaF-Dataset,包含超过 1000 万条同步触觉观测、六轴力/力矩测量与力分布图。
推荐理由:论文提出以力觉而非视觉对齐触觉表征的 VLA 框架,并公开千万级同步触觉与六维力数据集,可供接触密集操作研究参考。
北京通用人工智能研究院团队提出触觉引导探索与定位框架TacEP,将单目视觉估计与基于视觉触觉传感器的高分辨率实时探索结合,用于机器人轴孔装配中的目标孔位精确定位。
推荐理由:论文给出视觉与触觉融合的孔位定位框架,并在实机上用五类连接件测试,可作为高精度装配的对照参考。
arXiv 论文研究月面机器人集群能否以自身成员作为热屏蔽,用强化学习训练一套由二十台机器人共享的策略。策略只在月夜结束时收到一次奖励,即最冷五台机器人的平均温度,奖励不含位置、间距、暴露或运动信息,集群仍涌现出聚集和在外围与核心间轮换两种行为。
推荐理由:研究用单一末端温度奖励训练共享策略,让二十台机器人自发形成聚集与轮换行为,并给出与静止抱团及物理下界的能耗对比。
一项 arXiv 预印本研究指出,VLA 模型以 bf16 训练且无 fp32 主副本时,AdamW 会把小于权重 1/512 的更新直接舍入掉;12 个开源 VLA 代码库中有 9 个默认或文档配方这样训练,包括 LeRobot 的 SmolVLA 默认配置及其 π0/π0.5 指南。
推荐理由:研究指出 bf16 微调 VLA 会静默抹掉大部分权重更新,并给出 fp32 主副本在 LIBERO 上的对比结果,可作为训练配置的参考。
论文提出BM2PC,一个用于可变形线性物体敏捷操作的贝叶斯多模态MPC框架,将多模态规划建模为集合优化问题,并加入执行动力学模型补偿快速操作中的执行偏差。在绳索跟踪与避障的仿真和硬件实验中,BM2PC在最长任务上把RMSE降低44.0%,避障性能与现有多模态MPC方法相当,规划时间减少29%至66%。
推荐理由:论文提出面向可变形线性物体动态操作的多模态MPC框架,并给出仿真与实机跟踪、避障的量化对比。
EgoForesight 提出一种视觉-语言-动作框架,联合利用机器人演示与带噪第一视角视频训练策略,通过可靠性条件加噪、可靠性加权回归和特权未来表征蒸馏降低不可靠动作标签的影响。在 3 万小时预训练数据下,其缩放斜率比基线更陡,真实世界开环动作 MSE 降低 20.5%,RoboCasa 少样本成功率提升 8.1 个百分点。后训练后,该方法在仿真与真实世界的灵巧操作任务上也取得较强的绝对性能。
推荐理由:论文提出用带噪第一视角动作联合训练 VLA 策略,并给出 3 万小时预训练下的缩放对比与实机开环误差数据。
FORCA 是一个以视觉观测和腕部力/力矩测量为输入、为接触探测与力响应运动编写 Python 程序的编码智能体,无需演示、任务特定训练或仿真。它在五次实机任务中覆盖三类接触密集操作:提升操作精度、适应物体或表面属性变化、在表面变化与物体运动下调节接触。与同一智能体的纯视觉版本相比,FORCA 提升了抓取精度和任务成功率,并减少了擦拭与剥离中的接触丢失。
推荐理由:论文展示编码智能体如何结合腕部力/力矩反馈改写接触操作程序,为力感知策略提供可迁移的闭环思路。
WorldMirror 是一个智能体式 real-to-sim 框架,可从野外机器人演示构建可交互数字孪生。它把 real-to-sim 构建表述为可执行世界程序的迭代精炼:编码智能体分解场景、规划重建步骤并调度图像与 3D 生成工具,再通过验证反馈修正程序。在 DROID 上的实验显示,该框架能重建视觉忠实、几何一致的可交互世界,并保持所记录机器人轨迹的物理有效性。
推荐理由:论文把野外机器人演示转成可交互仿真世界,其世界程序迭代修正思路可供仿真数据构建参考。
作者提出 SEVI 框架,用于真实世界策略在线学习中的可靠性感知安全干预,其 Evidential Safety Critic 在一次前向计算中同时估计未来约束违反风险与认知不确定性。
推荐理由:论文提出带证据不确定性的安全干预框架,在仿真与真实USB插入任务上对比恢复式安全强化学习,可用于评估在线学习的安全过滤思路。
PrefO2O 提出一种离线到在线潜偏好迁移框架,可在没有人工反馈的情况下对未见目标任务做零样本偏好强化学习。该方法从源任务的少量离线偏好数据中学习任务无关的潜偏好空间,将可迁移偏好结构与任务特定变化解耦,并用置信度加权最优传输对齐生成伪偏好监督用于在线奖励适配。
推荐理由:论文提出从少量源任务偏好数据学习任务无关潜空间,在无人工反馈下迁移到新任务,可供比较偏好学习的数据效率路径。
KiRoSe 提出用机器人运动学数据而非原始多路视频来分割机器人演示,以降低多模态大模型的处理成本。该方法借鉴 Huffman 编码思路构建稀疏运动 token(SMT),用带时间分段监督的运动轨迹编码并量化得到离散运动词汇,再以演示子任务标注监督开放语言模型解读 token 序列。
推荐理由:论文用机器人运动学数据替代多路视频做演示分段,并给出跨本体零样本迁移的评测结果,可供数据清洗与检索参考。
RepresentNav 是一个建立在自构建表征空间上的导航基础模型,该空间由策略自身目标从视觉基础模型中构建。它用三层 transformer 的 Representation Residuals 聚合多个视觉基础模型全深度特征,并在每次动作前通过潜在思维链预测下一时刻场景表征,以 JEPA 方式与策略端到端训练。
推荐理由:论文提出用策略自身目标构建视觉表征空间的导航基础模型,并给出与拼接编码器输出的对照结果。
OpenTac 提出一种可定制、可扩展的电阻式触觉皮肤及全栈生态,通过结构化可变形覆盖层把切向载荷转为空间变化的压力分布,相邻 taxel 的差分响应可解码局部剪切向量,共模响应编码法向力。
推荐理由:论文给出可定制电阻式触觉皮肤的设计工具与配套生态,并在四种真实机器人本体上验证三维触觉反馈控制与策略学习。
作者提出Progress Probes P²,在演示数据上对VLA策略激活训练线性探针来估计任务进度,并标记偏离预期进度的执行。在开源VLA π0.5及仿真和真实世界操作任务实验中,该方法在任务失败检测上不逊于或优于基于VLM的监测器和需要失败数据训练的方法。研究据此认为,对VLA内部做简单探针即可构建运行时监测器,无需外部基础模型。
推荐理由:论文用VLA自身内部激活训练线性探针做运行时进度监测,为免外部基础模型的失败检测提供可比较方案。
研究提出一种人形机器人移动学习框架,将运动数据仅作为训练先验,用自监督注意力接触规划器预测未来身体与环境接触,再由接触条件跟踪器生成全身协调动作。该框架让单一策略在部署时仅依赖机载观测、无需参考输入,并通过后续微调探索原始运动数据未覆盖的环境变化。作者称这一设计使策略内化接触感知的运动结构,而非直接复刻运动学轨迹。
推荐理由:论文把接触规划作为观测与动作之间的接口,为参考动作数据与强化学习探索的结合提供了一种可迁移的训练框架。
Echo提出一种框架,将停止与失败两类任务状态信号作为每个动作块的两个维度,与机器人动作一起去噪,从而区分执行中、成功完成和失败三种状态。该方法无需帧级进度标注,通过构建成功、失败和恢复轨迹进行监督,并让状态信号比动作更快去噪,使后续动作去噪步骤能基于更干净的状态估计。真实世界操作实验显示,Echo能较准确预测任务状态并持续提升策略性能。
推荐理由:论文把停止与失败信号并入动作块联合去噪,为VLA执行决策提供了一种免帧级进度标注的训练思路。
论文提出去中心化实时规划器 WarpWeaver,通过分散式列生成让多机器人协商共享空间租金,在静止时给出近最优协议认证。在 Dynobench 仿真中,其总行程时间较集中式离线规划器最多降低 22%,较去中心化实时基线最多降低 37%,在图连通性任务上成功率接近任务专用规划器的两倍。六台机器人机载规划的硬件实验表明该协议具备实际可实施性。
推荐理由:论文提出多机器人去中心化实时规划协议 WarpWeaver,并在仿真与六机器人实机上给出与集中式离线规划器的对比结果。
作者提出 SkeLAM,一种骨架引导的潜动作模型,用于可控机器人世界建模,将潜动作分解为由机器人骨架监督约束的运动学分量和保留其余视觉动态的残差分量。在 DROID 上,SkeLAM 相比 DreamDojo 将末端执行器 ADE 降低 19.5%、LPIPS 降低 11.1%。
推荐理由:论文把机器人运动学分量从潜动作中分离出来,为世界模型的可控生成提供了一种可迁移的建模思路。
Jian Hou、Xin Zhou 与 Adam J. Spiers 提出 VecTile,一种 6 mm 厚、可自制的柔性触觉阵列,通过压阻层与被动硅胶凸点把法向和剪切力转换为可区分的压力图案,4x4 阵列整套成本低于 35 美元。
推荐理由:论文给出低成本柔性三轴力触觉阵列的制造与标定方案,并用插头插入任务展示其对策略的增益。
研究提出一种稀疏拓扑度量图,作为室内导航的结构化表示,节点编码局部3D几何,距离加权边表示可通行连通性,并用学习到的图匹配网络跨会话寻找一致子图。在跨会话点目标导航实验中,该方法在Gibson上成功率为77.1%,在3D-FRONT场景变化下为40.0%,内存相比点级表示降低两个数量级以上。作者称该表示对局部场景变化、不同传感器模态和有限空间重叠具有鲁棒性,并支持跨会话对齐与目标导向导航。
推荐理由:论文提出稀疏拓扑度量图用于跨会话室内导航,在场景变化下报告成功率并大幅降低内存占用,可供比较建图与定位方案。