Не удалось запустить сеанс OnnxRuntime на C# с устройством CUDAC#

Место общения программистов C#
Ответить
Anonymous
 Не удалось запустить сеанс OnnxRuntime на C# с устройством CUDA

Сообщение Anonymous »

Я создал модель YOLO v11 DL с заданным набором данных, и модуль обучения/прогнозирования хорошо работает в Pycharm.
введите здесь описание изображения
Но после того, как файл модели был экспортирован в формат onnx и запустил сеанс прогнозирования в среде C#, устройство CUDA не может работать. Когда класс SessionOptions() создавался или ему присваивался индекс CUDA, сеанс всегда завершался сбоем.
Сначала я проверял версию onnxruntime. Вот список версий пакета:
Инструментарий CUDA: 12.8
CUDNN: 9.15.1
Microsoft.ML.OnnxRuntime.Gpu &Microsoft.ML.OnnxRuntime.Gpu.Windows и Microsoft.ML.OnnxRuntime.Managed: 1.23.1
Microsoft.ML.OnnxRuntime.Extensions: 0.14.0
Несмотря на то, что я следовал инструкциям и проверил код, ошибки все равно существуют.

Код: Выделить всё

using var gpuSessionOptions = SessionOptions.MakeSessionOptionWithCudaProvider(0);
using var session = new InferenceSession(modelPath, gpuSessionOptions);
Компиляция с этими строками проходит нормально, а инициализация SessionOptions всегда сообщает «Не удалось загрузить общую библиотеку».
введите здесь описание изображения
И после того, как я импортировал onnxruntime.dll в Dependency.exe, я обнаружил, что модуль ortextensions отсутствует, хотя я скопировал его в [Каталог вывода]. Понятия не имею, кто-нибудь может объяснить?
введите здесь описание изображения

Подробнее здесь: https://stackoverflow.com/questions/798 ... uda-device
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «C#»