Точная настройка шепота на нескольких графических процессорах ⇐ Python

[Anonymous]

На самом деле я настраиваю модель шепота, но она работает только на одном графическом процессоре, а остальные 3 графических процессора простаивают.
Проблема в том, что она не использует остальные 3 графических процессора
Я хочу точно настроить модель шепота на 4 графических процессорах в наборе аудиоданных и
ОПИСАНИЕ графического процессора:
4 NVIDIA Графические процессоры RTX A4000 со следующей конфигурацией:
Память: 16 ГБ (GDDR6) на каждый графический процессор
Ядра CUDA: 6144 ядра на каждый графический процессор
Тензорные ядра: для ускорения искусственного интеллекта, идеально подходят для таких задач, как глубокое обучение.
Интерфейс памяти: 192-битная
Память Пропускная способность: 624 ГБ/с.
Архитектура: Ампер.
TDP: 140 Вт на графический процессор.
Вся система. Оперативная память: 128 ГБ

Подробнее здесь: https://stackoverflow.com/questions/790 ... tiple-gpus