VLA对抗补丁防御:检测到攻击时抑制SAE特征
热点事件持续更新
VLA对抗补丁防御:检测到攻击时抑制SAE特征
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Yukiya Horiba等作者对VLA模型的内部表征做机制性分析,用稀疏自编码器(SAE)找到一个激活与对抗补丁强相关的特征;在线性探针检测到攻击时,于推理阶段抑制该特征,从而在不微调VLA的情况下提升鲁棒性。作者称该方法在LIBERO-10上评估对抗VLA对抗补丁攻击的效果。 结果显示,条件式干预(仅在检测到攻击时抑制)提升了间歇性攻击下的成功率,而持续施加同一干预会明显降低策略性能。作者据此认为,攻击相关的内部表征可作为VLA对抗防御的目标,控制干预时机对减少对正常策略行为的干扰很重要。 该工作为arXiv预印本,发表于CoRL 2026的The Science of Physical AI Safety Workshop,尚未经同行评议。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:00
Detect and Suppress:针对VLA模型对抗补丁的机制性防御报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- arXiv · cs.RODetect and Suppress:针对VLA模型对抗补丁的机制性防御
研究对VLA模型的内部表征做机制性分析,用稀疏自编码器(SAE)找到一个激活与对抗补丁存在强相关的特征,并在线性探针检测到攻击时于推理阶段抑制该特征,从而在不微调VLA的情况下提升鲁棒性。作者在LIBERO-10上评估该方法对抗VLA对抗补丁攻击的效果,结果显示条件式干预提升了间歇性攻击下的成功率,而持续施加同一干预会明显降低策略性能。结论认为攻击相关的内部表征可作为VLA对抗防御的目标,控制干预时机对减少对正常策略行为的干扰很重要。该工作发表于CoRL 2026的The Science of Physical AI Safety Workshop,为arXiv预印本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。