Я пытаюсь настроить Unsloth на своем компьютере под управлением Windows с графическим процессором NVIDIA GeForce RTX 5090 (архитектура Blackwell), но столкнулся с проблемой.
Сведения о среде:
ОС: Windows 11
Python: 3.12
Среда Conda: unsloth
Версия Torch: (по умолчанию) из pip)
Графический процессор: NVIDIA RTX 5090
CUDA: 12.x
Проблема:
Когда я пытаюсь запустить простой тестовый сценарий с использованием FastLanguageModel, я получаю следующую ошибку:
ModuleNotFoundError: Нет модуля с именем «triton»
Кроме того, когда я пытаюсь установить Triton с помощью pip:
pip install triton
Я получаю:
ОШИБКА: Не удалось найти версию, удовлетворяющую требованию triton (из версий: нет)
ОШИБКА: Не найдено соответствующего дистрибутива для triton
Похоже, что пакет triton>=3.3.1, необходимый для поддержки графического процессора Blackwell, недоступен в PyPI для моей среды.
Шаги, которые я выполнил:
Создал среду Conda с Python 3.12
Установил unsloth, unsloth_zoo, bitsandbytes
Попытка установить pip triton (не удалось)
Попытался запустить тестовый скрипт с FastLanguageModel (не удалось с помощью ModuleNotFoundError)
Подробнее здесь: https://stackoverflow.com/questions/798 ... ot-install
