vLLM 推出原生速度的 Transformers 建模后端

vLLM 的 Transformers 建模后端现已实现与原生手写实现相当或更快的推理速度。该更新利用 torch.fx 和 AST 在运行时动态应用层融合等优化，支持 Qwen3 等多种架构及并行策略。用户只需添加 --model-impl transformers 标志即可直接运行 Hugging Face 模型，无需为推理单独编写优化代码。