Внезапные скачки в обучении и проверке. Потеря во время обучения.Python

Программы на Python
Гость
Внезапные скачки в обучении и проверке. Потеря во время обучения.

Сообщение Гость »


Как видно на следующем рисунке, я получаю внезапные всплески в недетерминированные моменты времени (на показанном графике около 70-й эпохи) при подгонке моей модели (с использованием потерь Адама и SME). Поскольку в каждой эпохе должны использоваться одни и те же данные обучения и проверки, просто перетасованные случайным образом, мне совершенно неясно, что вообще может вызвать это.

У кого-нибудь есть идеи?


Изображение

Вернуться в «Python»