введите здесь описание изображения
Но после того, как файл модели был экспортирован в формат onnx и запустил сеанс прогнозирования в среде C#, устройство CUDA не может работать. Когда класс SessionOptions() создавался или ему присваивался индекс CUDA, сеанс всегда завершался сбоем.
Сначала я проверял версию onnxruntime. Вот список версий пакета:
Инструментарий CUDA: 12.8
CUDNN: 9.15.1
Microsoft.ML.OnnxRuntime.Gpu &Microsoft.ML.OnnxRuntime.Gpu.Windows и Microsoft.ML.OnnxRuntime.Managed: 1.23.1
Microsoft.ML.OnnxRuntime.Extensions: 0.14.0
Несмотря на то, что я следовал инструкциям и проверил код, ошибки все равно существуют.
Код: Выделить всё
using var gpuSessionOptions = SessionOptions.MakeSessionOptionWithCudaProvider(0);
using var session = new InferenceSession(modelPath, gpuSessionOptions);
введите здесь описание изображения
И после того, как я импортировал onnxruntime.dll в Dependency.exe, я обнаружил, что модуль ortextensions отсутствует, хотя я скопировал его в [Каталог вывода]. Понятия не имею, кто-нибудь может объяснить?
введите здесь описание изображения
Подробнее здесь: https://stackoverflow.com/questions/798 ... uda-device
Мобильная версия