Разница в количестве параметров между документом UNETR и реализацией MONAI ⇐ Python

[Anonymous]

Я сравниваю многие модели глубокого обучения друг с другом, включая UNETR, в наборе данных BTCV и заметил несоответствие в сообщаемом количестве параметров.
В статье под названием «UNETR: Трансформаторы для сегментации 3D-медицинских изображений» в таблице 5:


Кроме того, используемый входной размер был следующим:

Для задач сегментации нескольких органов и селезенки мы случайным образом выбираем входные изображения с размерами объема [96;96;96].

Входные каналы равны 1 :

Задача сегментации нескольких органов сформулирована как задача сегментации 13 классов с 1-канальным входом.

Теперь, если бы я использовал:

Код: Выделить всё

from monai.networks.nets import UNETR

model = UNETR(
in_channels=1,
out_channels=13,
img_size=(96, 96, 96),
feature_size=16,
hidden_size=768,
mlp_dim=3072,
num_heads=12,
proj_type="perceptron",
norm_name="instance",
res_block=True,
dropout_rate=0.0,
)

params = sum(p.numel() for p in model.parameters())
print(params / 1e6)

I get:

121.079693
Это примерно 121,1 млн параметров, что значительно превышает значение, указанное в документе (92,58 млн).
Мои вопросы:

• Что вызывает разницу между количеством параметров, указанным в документе UNETR и MONAI реализация?
• При написании собственной статьи лучше ли сообщать количество параметров из фактической используемой реализации, даже если она отличается от исходной статьи? Пожалуйста, посоветуйте.

Большое спасибо.

Подробнее здесь: https://stackoverflow.com/questions/798 ... ementation