Постоянное значение потерь в методе оптимизации Адама ⇐ Python

[Anonymous]

У меня есть код NN, написанный с помощью pytorch. При вычислении значения потерь, когда код использует метод оптимизации Адама, значения потерь не изменяются в течение цикла, пока метод оптимизации LBGFS работает, все в порядке, и значения потерь уменьшаются обычным образом. Как мне избавиться от этой проблемы?

Код: Выделить всё

    for epo in range(epo_adam):
model.train()
optimizer_adam.zero_grad()
loss , momentum_loss , loss_data , loss_BC , continuity_loss = adop_loss_Weight(model, x, y, z, u_exact, v_exact , w_exact , p_exact ,
x_b, y_b, z_b, u_b, v_b, w_b ,p_b)
loss.backward()
if epo %500 == 0:
print(f'Epoch Adam {epo}, Total Loss: {loss.item():.10f}')
if loss.item() 

Подробнее здесь: [url]https://stackoverflow.com/questions/79031881/constant-loss-value-in-adam-optimization-method[/url]