VLA推理优化跨GPU测量研究发布

Muhammad Danish Waseem 与 Ahmed Ali-Eldin Hassan 提交预印本，对七类 VLA 推理优化方法（含 CUDA graphs、编译、token 剪枝与量化）在七种 VLA 模型和四类 GPU（从数据中心 H100 到嵌入式 Jetson Thor）上做测量研究。作者称，以往优化结果多只在单一 GPU 类型和少数 VLA 模型上报告，缺少对特定硬件上真实瓶颈及优化泛化性的分析。 研究分析 CPU 启动开销、内存带宽与内核效率如何共同影响优化收益，以及一种方法如何改变另一种方法的收益，并据此提出 VLA-Triage 指南，用于在延迟预算下叠加优化，指出哪些阶段能提供所需节省、哪些组合需在部署执行模式下测试。该论文为预印本，尚未经同行评议。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。