一、Nunchaku介绍
今天继续分享一个超级给力的新玩意 Nunchaku,让你的出图速度快到不可思议,比以前说的TeaCache厉害多了。
Nunchaku 是由 MIT Han Lab 开发的 4位扩散模型高效推理引擎,专为优化生成式模型(如Stable Diffusion)的推理速度和显存占用设计。结合 SVDQuant量化技术,它在保持生成质量的同时显著提升性能。
Nunchaku安装指南
首先,需要看下自己的安装包中pytorch和python的版本是多少。
查看的方法是在启动的时候,后台页面中最顶部有python版本和pytorch的版本号,如下图,我的python版本就是3.12.7,pytorch版本就是2.5.1。
如果pytorch版本是小于2.5版本,那么需要先升级。(秋叶启动器:高级选项->环境维护->安装pythorch)
第二步,根据刚才的版本号,到这个页面下载对应的wheel文件:
https://modelscope.cn/models/Lmxyy1999/nunchaku/files
比如说我刚才的版本是2.5+3.12,系统是windows系统,所以下载这个版本就可以了,如果你的版本不一样,一定要下载对应的版本型号(torch版本+python版本+系统型号)
第三步,下载完成后,将下载好的whl文件放在python目录下,比如说我的就放在了D:ComfyUI-aki-v1.6python
文件夹下。
第四步,在地址栏输入cmd并回车:
打开的页面里边输入:
python -m pip install "nunchaku-0.2.0+torch2.5-cp312-cp312-win_amd64.whl"
也可以指定:D:ComfyUI-aki-v1.6pythonpython.exe --m pip install "nunchaku-0.2.0+torch2.5-cp312-cp312-win_amd64.whl"
注意,引号里边要替换成你下载的版本的文件名称。
然后回车。
安装插件
插件地址:https://github.com/mit-han-lab/ComfyUI-nunchaku
或者在节点管理器里面搜ComfyUI-nunchaku
安装完成后重启comfyui。
模型下载:
注意,打这里还不能正常使用,需要下载新的量化模型,为了照顾网络不好的同学,这里已经把最常用的几个模型打包放在了下方网盘
首先将这四个大模型,放在ComfyUImodelsdiffusion_models文件夹下:
注意,务必连同文件夹一起放进去,最好不要改文件夹名称。
然后将这两个lora文件放在loras文件夹下。
如果想要下载别的版本的模型,也可以到魔塔社区去下载:
https://modelscope.cn/collections/svdquant-468e8f780c2641
第八步,到这里,就可以刷新comfyui(或者重启也行),手工选择一下默认没找到的模型,然后正常运行加速版本的工作流了。