#异步推理 (2)

FlashVLA：流式动作解码实现快速异步 VLA 推理

视觉-语言-动作（VLA）模型在机器人操作领域前景广阔，但实际部署受制于高推理延迟与不稳定的异步执行——在基于流匹配（flow-matching）的 VLA 模型中尤为突出：动作解码需要在 VLM 上下文条件下进行多步迭代。高效推理方法能提升控制频率，异步方法能减少执行空等，但现有方案往往无法同时兼顾低延迟推理与精确、时序一致的异步执行。FlashVLA 提出一个统一的流式动作解码框架：维护一个包含多个不同噪声水平动作块的流式缓冲区，并用块级因果注意力（chunk-wise causal attention）解码，每个推理步即可产出一个可执行动作块；块级自回归结构隐式保持动作连续性，无需额外的未来状态条件即可平滑异步执行。大量仿真与真机实验表明，FlashVLA 在保持强任务性能的同时大幅提升推理速度，单 GPU 即可达到 ≥30Hz 控制频率并实现平滑异步真机部署。