Как запустить Stable Diffusion 3.5 Large на 4090? ⇐ Python

[Anonymous]

У меня 4090 и этот код:

Код: Выделить всё

login(HF_TOKEN)
self.pipe = StableDiffusion3Pipeline.from_pretrained("stabilityai/stable-diffusion-3.5-large", torch_dtype=torch.bfloat16)

self.pipe = self.pipe.to("cuda")

Не удалось загрузить vram из-за oom.
Как правильно его запустить?
Пытался использовать другие числа с плавающей запятой, но не сработало

Подробнее здесь: https://stackoverflow.com/questions/792 ... ge-on-4090