ОШИБКА сохранения save_pretrained_gguf. Ошибка выполнения: не удалось скомпилировать llama.cpp. Пожалуйста, сообщите об ⇐ Python

[Anonymous]

Используя unsloth и пытаясь сохранить модель как gguf, я получаю следующую ошибку:

Код: Выделить всё

-> 1052 if check != 0: raise RuntimeError("Failed compiling llama.cpp. Please report this ASAP!")
1053 check = os.system("rm -rf llama.cpp/build")
1054 if check != 0: raise RuntimeError("Failed compiling llama.cpp. Please report this ASAP!")

RuntimeError: Failed compiling llama.cpp. Please report this ASAP!

Я заметил, что по этой теме существует проблема. У кого-то есть новости или альтернативные решения?

Подробнее здесь: https://stackoverflow.com/questions/793 ... lama-cpp-p