Не удалось запустить сеанс OnnxRuntime на C# с устройством CUDA ⇐ C#

[Anonymous]

Я создал модель YOLO v11 DL с использованием заданного набора данных, и модули обучения и прогнозирования отлично работают в PyCharm.


Однако после экспорта файла модели в формат ONNX и запуска сеанса прогнозирования в среде C# CUDA устройство не работает. Когда я создаю класс SessionOptions() или назначаю индекс CUDA, сеанс всегда завершается сбоем.
Сначала я проверил версию среды выполнения ONNX. Вот список версий пакета:

Код: Выделить всё

CUDA toolkit: 12.8
CUDNN: 9.15.1
Microsoft.ML.OnnxRuntime.Gpu
Microsoft.ML.OnnxRuntime.Gpu.Windows
Microsoft.ML.OnnxRuntime.Managed: 1.23.1
Microsoft.ML.OnnxRuntime.Extensions: 0.14.0

Несмотря на то, что я следовал инструкциям и проверил код, ошибки все равно есть.

Код: Выделить всё

using var gpuSessionOptions = SessionOptions.MakeSessionOptionWithCudaProvider(0);
using var session = new InferenceSession(modelPath, gpuSessionOptions);

Компиляция с этими строками работает, но инициализация SessionOptions всегда сообщает: Не удалось загрузить общую библиотеку.


После импорта onnxruntime.dll в Dependency.exe, я обнаружил, что модуль ortextensions отсутствует, хотя я скопировал его в выходной каталог. Понятия не имею, может кто-нибудь объяснить?



Подробнее здесь: https://stackoverflow.com/questions/798 ... uda-device