Как точно настроить модель мерлинита 7B в Python ⇐ Python

[Anonymous]

Я новичок в программировании LLM на Python и пытаюсь настроить модель instructlab/merlinite-7b-lab на своем Mac M1. Моя цель — научить этой модели нового музыкального композитора Ксеноби Амилена, которого я изобрел.
Текст этого композитора находится здесь.
Используя новый интерфейс командной строки Ilab от RedHat, я создал этот обучающий набор для модели. Это файл JSONL со 100 вопросами/ответами о изобретенном композиторе.
Я написал этот скрипт Python для обучения модели. Я протестировал все части, связанные с токенизатором и наборами данных, и, похоже, все работает. Однако последний поезд получил эту ошибку:

Код: Выделить всё

RuntimeError: Placeholder storage has not been allocated on MPS device!
0%|          | 0/75 [00:00

Подробнее здесь: [url]https://stackoverflow.com/questions/78689873/how-to-fine-tune-merlinite-7b-model-in-python[/url]