跳到正文
原文
Hugging Face Blog·· 2026-07-23精选AI 评分82

Diffusers 原生集成 Nunchaku 4-bit 扩散推理引擎

Bringing Nunchaku 4-bit Diffusion Inference to Diffusers

AI 导读

Hugging Face Diffusers 现已原生支持 Nunchaku 4-bit 扩散推理引擎,用户可通过 `from_pretrained()` 直接加载预量化检查点,无需本地 CUDA 编译或独立推理库。

推荐理由

Diffusers 原生支持 Nunchaku 4-bit 推理,无需编译即可加载量化模型,显著降低显存占用并提升速度。

来源:Hugging Face Blog · huggingface.co