Hugging Face Blog·· 2026-07-23精选AI 评分82
Diffusers 原生集成 Nunchaku 4-bit 扩散推理引擎
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 导读
Hugging Face Diffusers 现已原生支持 Nunchaku 4-bit 扩散推理引擎,用户可通过 `from_pretrained()` 直接加载预量化检查点,无需本地 CUDA 编译或独立推理库。
推荐理由
Diffusers 原生支持 Nunchaku 4-bit 推理,无需编译即可加载量化模型,显著降低显存占用并提升速度。
来源:Hugging Face Blog · huggingface.co