跳到正文
热点事件持续更新

预印本:延迟与视角偏移叠加放大VLA安全风险

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Liangkai Liu、Bimal Thapa Magar 在 arXiv 预印本中提出“跨层变异传播”框架,主张机器人基础模型的物理安全不是模型单独属性,而是物理环境、模型、计算平台与执行在闭环中交互的结果,并用交互对比衡量联合变化是否超过各自影响之和。 作者在 LIBERO 闭环仿真中对 pi0.5 视觉-语言-动作模型做了 4000 组配对实验:400 毫秒推理延迟在训练视角下使安全违规率上升 3.5 个百分点,在 60 度相机偏移下上升 37 个百分点,比两种效应简单相加多出 33.5 个百分点(95% 置信区间 25 至 43)。 论文据此提出研究议程,即预测变化何时转化为风险,并相应调整计算、功耗与控制。该文为 11 页、3 张图的预印本,尚未经同行评议,结果限于仿真环境。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · cs.RO精选
    论文指出机器人基础模型物理安全是跨层问题:延迟与视角偏移叠加风险

    论文提出机器人基础模型的物理安全并非模型单独属性,而是物理环境、模型、计算平台与执行在闭环中交互的结果,并将其形式化为跨层变化传播,用交互对比衡量联合变化是否超过各自影响之和。作者在LIBERO上对pi0.5视觉-语言-动作模型进行4000组配对闭环实验:400毫秒推理延迟在训练视角下使安全违规率上升3.5个百分点,而在60度相机偏移下上升37个百分点,比两种效应简单相加多出33.5个百分点(95%置信区间25至43)。论文最后提出面向可预测物理智能的研究议程,即预测变化何时转化为风险,并相应调整计算、功耗与控制。该文为arXiv预印本,共11页、3张图。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。