Не удалось запустить сеанс OnnxRuntime на C# с устройством CUDAC#

Место общения программистов C#
Anonymous
Не удалось запустить сеанс OnnxRuntime на C# с устройством CUDA

Сообщение Anonymous »

Я создал модель YOLO v11 DL с заданным набором данных, и модуль обучения/прогнозирования хорошо работает в Pycharm.
введите здесь описание изображения
Но после того, как файл модели был экспортирован в формат onnx и запустил сеанс прогнозирования в среде C#, устройство CUDA не может работать. Когда класс SessionOptions() создавался или ему присваивался индекс CUDA, сеанс всегда завершался сбоем.
Сначала я проверял версию onnxruntime. Вот список версий пакета:
Инструментарий CUDA: 12.8
CUDNN: 9.15.1
Microsoft.ML.OnnxRuntime.Gpu &Microsoft.ML.OnnxRuntime.Gpu.Windows и Microsoft.ML.OnnxRuntime.Managed: 1.23.1
Microsoft.ML.OnnxRuntime.Extensions: 0.14.0
Несмотря на то, что я следовал инструкциям и проверил код, ошибки все равно существуют.

Код: Выделить всё

using var gpuSessionOptions = SessionOptions.MakeSessionOptionWithCudaProvider(0);
using var session = new InferenceSession(modelPath, gpuSessionOptions);
Компиляция с этими строками проходит нормально, а инициализация SessionOptions всегда сообщает «Не удалось загрузить общую библиотеку».
введите здесь описание изображения
И после того, как я импортировал onnxruntime.dll в Dependency.exe, я обнаружил, что модуль ortextensions отсутствует, хотя я скопировал его в [Каталог вывода]. Понятия не имею, кто-нибудь может объяснить?
введите здесь описание изображения

Подробнее здесь: https://stackoverflow.com/questions/798 ... uda-device

Вернуться в «C#»