Разница в количестве параметров между документом UNETR и реализацией MONAI ⇐ Python

[Anonymous]

Я сравниваю многие модели глубокого обучения друг с другом, включая UNETR, в наборе данных BTCV и заметил несоответствие в сообщаемом количестве параметров.
В своей статье под названием «UNETR: Трансформаторы для сегментации 3D-медицинских изображений» в таблице 5:


Кроме того, используемый входной размер был следующим:

Для задач сегментации нескольких органов и селезенки мы случайным образом выбираем входные изображения с размерами объема [96;96;96].

Входные каналы 1:

Задача сегментации нескольких органов сформулирована как задача сегментации 13 классов с 1-канальным входом.

Теперь, если бы я использовал:

Код: Выделить всё

from monai.networks.nets import UNETR

model = UNETR(
in_channels=1,
out_channels=13,
img_size=(96, 96, 96),
feature_size=16,
hidden_size=768,
mlp_dim=3072,
num_heads=12,
proj_type="perceptron",
norm_name="instance",
res_block=True,
dropout_rate=0.0,
)

params = sum(p.numel() for p in model.parameters())
print(params / 1e6)

Я получаю:

Код: Выделить всё

121.079693

Это примерно 121,1 млн параметров, что значительно превышает значение, указанное в документе (92,58 млн).
Мои вопросы:

• Что вызывает разницу между количеством параметров, указанным в документе UNETR, и реализацией MONAI?
• Когда пишу свою собственную статью, лучше ли сообщить количество параметров из фактической использованной реализации, даже если оно отличается от исходной статьи?

Подробнее здесь: https://stackoverflow.com/questions/798 ... ementation