Почему моя нейронная сеть переоснащается даже после использования исключения и регуляризации L2? ⇐ Python

[Anonymous]

Я работаю над задачей двоичной классификации, используя нейронную сеть в TensorFlow/Keras.

Набор данных содержит около 9500 обучающих выборок и 2500 тестовых выборок.
Архитектура моей модели:

Код: Выделить всё

model = Sequential([
Dense(128, activation='relu', input_shape=(X_train.shape[1],)),
Dropout(0.4),
Dense(64, activation='relu', kernel_regularizer=tf.keras.regularizers.l2(0.001)),
Dropout(0.3),
Dense(1, activation='sigmoid')
])

Я использую:

• Оптимизатор: Адам
• Потери: двоичная кроссэнтропия
• Эпохи: 30
• Размер пакета: 32

Даже после добавления отсева и регуляризации L2 точность обучения продолжает расти (≈97%), в то время как точность проверки остается примерной (≈81%). Потери при валидации также растут, что явно похоже на переоснащение — но я уже использую методы регуляризации.

Подробнее здесь: https://stackoverflow.com/questions/798 ... egularizat