The result of a model quantization experiment on the SDXL architecture—my merge based on Noob AI.

The model was converted from SafeTensors to Diffusers, then quantized using UNET. Clip_l and clip_g were also taken from the Diffusers version. Quantization is possible, but ComfyUI doesn't have a node that can run them.

Quantization was performed using the stable-diffusion.cpp project.
More versions here https://huggingface.co/DS27/FalafelMIX/tree/main/SDXL_quantize_unet

Результат эксперимента по квантованию модели на архитектуре SDXL - моего мерджа на базе нуб аи.

Модель была сконвертирована из сейфтензорс в диффузерс, а затем квантован юнет. Также из диффузерс версии взяты клип_л и клип_г. Их квантование возможно, но в ComfyUI нет ноды, которая могла бы запустить их.

Квантование производилось с помощью проекта stable-diffusion.cpp

Больше версий тут https://huggingface.co/DS27/FalafelMIX/tree/main/SDXL_quantize_unet