RecBole: очень плохие результаты при обучении последовательных моделей (BERT4Rec, SASRec). ⇐ Python

[Anonymous]

В настоящее время я пытаюсь исследовать различия в скорости и точности между моделями BERT4Rec и SASRec, используя реализацию RecBole. Обращаясь к этой статье в основном для сравнения результатов https://arxiv.org/pdf/1904.06690.pdf.
Используя предоставленный набор данных ml-1m, я получаю очень плохие результаты от обучения этих модели, не запускал их более 50 раз из-за нехватки вычислительной мощности, но они всегда выравниваются примерно через 20 эпох с ndcg@10, равным 0,0523. Хотя в статьях утверждается, что я достиг значения 0,48+ по этому измерению, я много пытался изменить гиперпараметры, предполагая, что реализация этого алгоритма, а также предоставляемых им наборов данных проходит без проблем, но я не могу получить его выше 0,07.
В чем может быть проблема?
Конфигурационный файл:

Код: Выделить всё

#Enviroment settings
gpu_id: 0
log_wandb: true
train_neg_sample_args: ~

learning_rate: 0.001
weight_decay: 0.005
mask_ratio: 0.2
hidden_size: 64

data_path: C:\user\MyScripts\dataset
load_col:
inter: [user_id, item_id, rating, timestamp]
item: [item_id, movie_title, release_year, class]
user: [user_id, age, gender, occupation, zip_code]

threshold: {'rating': 3}

И я просто вызываю это с помощью:

Код: Выделить всё

from recbole.quick_start import run_recbole
run_recbole(model='BERT4Rec', dataset='ml-1m', config_file_list = ['configExample.yaml'])

Я заметил действительно большую потерю поезда:

Код: Выделить всё

Train    40: 100%|█████████████████████████| 48/48 [00:07

Подробнее здесь: [url]https://stackoverflow.com/questions/78340594/recbole-very-poor-results-with-sequential-models-bert4rec-sasrec-training[/url]