Как устранить ошибку импорта для ускорения и битов и байтов для точной настройки llms? (Питон/Мистраль) ⇐ Python

[Anonymous]

Я не знаю почему, но хотя я установил оба продукта через pip, я снова и снова получаю одну и ту же ошибку.
Ошибка:

Код: Выделить всё

ImportError: Using bitsandbytes 8-bit quantization requires Accelerate: pip install accelerate and the latest version of bitsandbytes: pip install -i https://pypi.org/simple/ bitsandbytes

Кто-нибудь знает, почему это вызвано или как это решить?
Я пробовал это на нескольких системах, и пока мне приходится использовать оба импорта какие бы доработки я не нашел для модели, которую хочу обучить (Мистраль).

Подробнее здесь: https://stackoverflow.com/questions/781 ... uning-llms