Проблема с несовпадающими размерами тензоров во время обучения с помощью DeepSpeed ​​[закрыто] ⇐ Python

[Anonymous]

Я тренирую модель с помощью Hugging Face Trainer с интеграцией DeepSpeed ​​и сталкиваюсь с ошибкой, связанной с несовпадением размеров тензоров:

Код: Выделить всё

The size of tensor a (50) must match the size of tensor b (3) at non-singleton dimension2

Как это исправить?
мои данные
мой код
Я проверил, что input_ids и метки имеют одинаковую форму.
Я проверил размер пакета как в конфигурации Trainer, так и в конфигурации DeepSpeed.
Я также убедился, что модель правильно установлен на устройстве (cuda или процессор).
может быть, я не уверен.

Подробнее здесь: https://stackoverflow.com/questions/792 ... -deepspeed