Как я могу опустошить память графического процессора, когда получаю ошибку, как OOM? ⇐ Python

[Anonymous]

Иногда, когда я получил ошибку OOM, но параметры LLM загружались в GPU, и ее нельзя очистить автоматически. < /p>
Итак, я пробую это < /p>

Код: Выделить всё

torch.cuda.empty_cache()

Но это не работало.>

Подробнее здесь: https://stackoverflow.com/questions/797 ... r-like-oom