InsightFace игнорирует параметры поставщика выполнения OpenVINO (тип_устройства: графический процессор) и по умолчанию и ⇐ Python

[Anonymous]

Среда:

• Устройство: HP ProBook
• ЦП: Intel Core i5-8365U (8-го поколения)
• Графический процессор: Intel UHD Graphics 620 (проверено через clinfo как [0x3ea0])
• ОС: Ubuntu/Linux (работает внутри WSL)
• Пакеты: Insightface, onnxruntime-openvino, intel-opencl-icd

Проблема:

Я пытаюсь запустить InsightFace (

Код: Выделить всё

buffalo_l

модель) с использованием поставщика выполнения OpenVINO для использования моего встроенного графического процессора Intel. Несмотря на то, что графический процессор виден системе и clinfo определяет его правильно, InsightFace всегда по умолчанию использует ЦП.
Я пытался передать параметры поставщика вручную в Python, но журналы инициализации показывают, что эти параметры удаляются или игнорируются:
python

Код: Выделить всё

# My initialization code
gpu_provider = (
'OpenVINOExecutionProvider',
{
'device_type': 'GPU',
'precision': 'FP16'
}
)
app = FaceAnalysis(name='buffalo_l', providers=[gpu_provider, 'CPUExecutionProvider'])
app.prepare(ctx_id=0, det_size=(640, 640))

Результат журнала:

Журналы показывают, что словарь параметров провайдера пуст { при применении:
текст

Код: Выделить всё

Applied providers: ['OpenVINOExecutionProvider', 'CPUExecutionProvider'], with options: {'CPUExecutionProvider': {}, 'OpenVINOExecutionProvider': {}}
find model: /home/smith/.insightface/models/buffalo_l/1k3d68.onnx landmark_3d_68 ['None', 3, 192, 192] 0.0 1.0
Applied providers: ['OpenVINOExecutionProvider', 'CPUExecutionProvider'], with options: {'CPUExecutionProvider': {}, 'OpenVINOExecutionProvider': {}}
find model: /home/smith/.insightface/models/buffalo_l/2d106det.onnx landmark_2d_106 ['None', 3, 192, 192] 0.0 1.0
Applied providers: ['OpenVINOExecutionProvider', 'CPUExecutionProvider'], with options: {'CPUExecutionProvider': {}, 'OpenVINOExecutionProvider': {}}
find model: /home/smith/.insightface/models/buffalo_l/det_10g.onnx detection [1, 3, '?', '?'] 127.5 128.0
Applied providers: ['OpenVINOExecutionProvider', 'CPUExecutionProvider'], with options: {'CPUExecutionProvider': {}, 'OpenVINOExecutionProvider': {}}
find model: /home/smith/.insightface/models/buffalo_l/genderage.onnx genderage ['None', 3, 96, 96] 0.0 1.0
Applied providers: ['OpenVINOExecutionProvider', 'CPUExecutionProvider'], with options: {'CPUExecutionProvider': {}, 'OpenVINOExecutionProvider': {}}
find model: /home/smith/.insightface/models/buffalo_l/w600k_r50.onnx recognition ['None', 3, 112, 112] 127.5 127.5
set det-size: (640, 640)

Что я пробовал:

• Проверка драйверов: Установлены intel-opencl-icd и ocl-icd-libopencl1.
• Разрешения: Добавлен пользователь в группы видео и рендеринга и перезагрузился.
• Проверка: ort.get_available_providers() возвращает OpenVINOExecutionProvider.
• Обработка ошибок: Если я попытаюсь принудительно использовать FP16 без указания графического процессора, анализатор выдаст: [ОШИБКА] [OpenVINO] Выбрана неподдерживаемая точность вывода. ЦП поддерживает только FP32. Это подтверждает, что поставщик по умолчанию использует ЦП.
• Прямой тест ONNX: Запуск необработанного ort.InferenceSession работает с графическим процессором, но при переносе в FaceAnalysis InsightFace настройки теряются.

Вопрос:

Как заставить класс FaceAnalysis в InsightFace учитывать конфигурацию device_type: GPU для OpenVINO, или есть ли способ глобально установить в среде целевое устройство OpenVINO на GPU, чтобы InsightFace был вынужден его использовать?


Подробнее здесь: https://stackoverflow.com/questions/798 ... -gpu-and-d