SACQ：面向超低比特视觉-语言-动作模型的结构感知码本量化

SACQ: Structure-Aware Codebook Quantization for Ultra-Low-Bit Vision-Language-Action Models

AI 导读 · 根据来源整理

SACQ 是面向视觉-语言-动作（VLA）模型的超低比特权重量化框架，针对从大语言模型沿用的训练后量化在 VLA 超低精度下退化的问题。方法包含三部分：结合输入统计与下游敏感度的角色特定二次度量做结构感知码本拟合；依据逐层压缩带来的最终动作误差增量做动作感知混合比特分配；以及带二阶误差补偿的码字索引重分配与面向解码动作的码本和行组尺度校准的两阶段量化后精修。在 GR00T N1.7 上，语言/动作权重 1.5 比特时四个 LIBERO 套件平均成功率 93.85%。