(PyTorch) Как ускорить вывод для очень тонкой сети? ⇐ Python

[Anonymous]

Справочная информация:
У меня есть глубокая сеть с 20 слоями, в которой как входная, так и промежуточная карты объектов имеют очень мало каналов. Вот упрощенный пример:

Код: Выделить всё

import torch
from torch import nn

model = nn.Sequential(*[nn.Conv2d(2, 2, 3, padding=1) for _ in range(20)]).cuda()
x = torch.rand(16, 2, 64, 64).cuda()
while True:
model(x)

При запуске на графическом процессоре NVIDIA RTX 4090 загрузка составляет около 15 % или ниже. Это говорит о том, что графический процессор используется не полностью, что приводит к неоптимальной скорости вывода.
Вопрос:
Как я могу ускорить вывод для такого глубокого и тонкая сеть, чтобы лучше использовать графический процессор? В моем случае входная форма и формы промежуточных объектов фиксированы. Будем очень признательны за любые предложения или идеи.

Подробнее здесь: https://stackoverflow.com/questions/785 ... im-network