Microsoft.ML C#: графический процессор не найден в контейнере K8s/Docker ⇐ C#

[Anonymous]

Я создал приложение .NET, которое использует Microsoft.ML.OnnxRuntime.Gpu для взаимодействия. Теперь я пытаюсь интегрировать его с Azure Kubernetes.
Мы выполнили настройку с помощью графического процессора Tesla T4 и подтвердили, что он виден:


Итак, мы знаем, что T4 виден под идентификатором = 0.
По сути, это мой код, который работает локально на моем компьютере с Windows:

Код: Выделить всё

MLContext _mlContext = new();

var estimator = _mlContext.Transforms.ApplyOnnxModel(
modelFile: _modelFile,
inputColumnNames: _inputColumnNames,
outputColumnNames: _outputColumnNames,
gpuDeviceId: gpuId
);

но при развертывании в ACR, K8s и т. д. мы получаем исключение:

Код: Выделить всё

System.InvalidOperationException: GPU with ID 0 is not found.

Много информации, которая, я думаю, может помочь.

• Журнал nvidia-smi на моем локальном компьютере:

• Использованные библиотеки:

  Код: Выделить всё

• Изображение, используемое в нашем файле Docker:

  Код: Выделить всё

  nvidia/cuda:12.3.2-runtime-ubuntu22.04
  

• Моя локальная версия nvcc
  

  Код: Выделить всё

  nvcc: NVIDIA (R) Cuda compiler driver

  Код: Выделить всё

  Copyright (c) 2005-2024 NVIDIA Corporation

  Код: Выделить всё

  Built on Wed_Oct_30_01:18:48_Pacific_Daylight_Time_2024

  Код: Выделить всё

  Cuda compilation tools, release 12.6, V12.6.85

  Код: Выделить всё

  Build cuda_12.6.r12.6/compiler.35059454_0

Подробнее здесь: https://stackoverflow.com/questions/798 ... -container