Проблема с пакетом bitsandbytes, поддерживающим версию CUDA 12.4. ⇐ Python

[Anonymous]

при запуске программы тонкой настройки peft выполните следующий код:
model = get_peft_model(model, peft_config)
сообщите об ошибках:

Код: Выделить всё

Could not find the bitsandbytes CUDA binary at WindowsPath('D:/Users/1/anaconda3/Lib/site-packages/bitsandbytes/libbitsandbytes_cuda124.dll')
The installed version of bitsandbytes was compiled without GPU support. 8-bit optimizers, 8-bit multiplication, and GPU quantization are unavailable.
The latest bitsandbytes package has been installed, version bitsandbytes-0.43.1

Я также проверил на GitHub, последняя версия поддерживает CUDA 12.4, но
D:/Users/1/anaconda3/Lib/site- packages/bitsandbytes/
В каталоге libbitsandbytes_cuda124.dll еще нет,
но их 117-123.
Пожалуйста, ответьте мои вопросы.
Надеюсь, эту проблему можно решить.

Подробнее здесь: https://stackoverflow.com/questions/786 ... -4-version