В первый раз я обнаружил это на примере torchvision.models.efficientnet_v2_s< /code>.
А также попробовал более легкую модель torchvision.models.vgg11.
(И разница еще более заметна с моделью effectnet_v2_s)
вот код
Код: Выделить всё
model = torchvision.models.vgg11(weights = None).cuda()
model.eval()
model = model.features
inputs = torch.rand([128, 3, 128, 128]).cuda()
# small batch size
out1 = model(inputs[:2])
# largs batch size
out2 = model(inputs)[:2]
resnet :
[img]https:/ /i.sstatic.net/7lzUgPeK.png[/img]
efficientnet :
[img]https://i.sstatic .net/DdGlAQs4.png[/img]
Подробнее здесь: https://stackoverflow.com/questions/786 ... ch-size-is