NVIDIA提出ReplaySSM优化混合模型解码

2026年10月13日，NVIDIA Developer发布一手报道，正式提出名为ReplaySSM的技术方案。该方案旨在通过优化状态存储机制，加速包括Nemotron 3和Qwen3.5-3.8在内的混合架构模型的解码过程。针对结合状态空间模型（SSM）层与注意力层的特定架构，ReplaySSM的核心策略是利用固定大小的状态来替代传统随序列长度增长而膨胀的键值缓存（KV cache）。这一改变意在显著提升推理效率，解决混合模型在长序列处理中的内存与计算瓶颈问题。目前报道主要聚焦于该技术的提出及其针对混合模型架构的基本原理阐述，尚未披露具体的性能基准测试数据或详细的实施时间表。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。