ActionFlow：面向边缘 VLA 模型的流水线动作加速框架

ActionFlow 是面向资源受限边缘平台的系统级推理框架，用于缓解 VLA 模型在真实动态环境中的高推理延迟。研究指出，平滑机器人交互需要 20-30 Hz 控制频率，而现有 VLA 模型在边缘设备上通常只有 3-5 Hz，原因是自回归解码受内存带宽限制，已有优化往往需要大量重训练或牺牲精度。ActionFlow 的核心是跨请求流水线策略，把 VLA 推理重构为微请求的宏流水线，将内存受限的 Decode 阶段与计算受限的 Prefill 阶段跨连续时间步批处理，并配套跨请求状态打包前向算子和统一 KV 环形缓冲区。