Невозможно запустить WHISPER AI Transcription на графическом процессоре или CUDA, несмотря на правильную установку. ⇐ Python

[Anonymous]

У меня есть ноутбук Gigabyte Aorus с картой RTX3070, и я не могу запустить Whisper с CUDA или графическим процессором. Я каждый раз получаю одну и ту же ошибку и не знаю, как ее решить. Будем признательны за любую помощь.
Вот дамп ошибки:

Код: Выделить всё

File "C:\Python\lib\runpy.py", line 196, in _run_module_as_main
return run_code(code, main_globals, None,
File "C:\Python\lib\runpy.py", line 86, in run_code
exec(code, run_globals)
File "C:\Python\Scripts\whisper.exe_main.py", line 7, in
File "C:\Python\lib\site-packages\whisper\transcribe.py", line 444, in cli
model = load_model(model_name, device=device, download_root=model_dir)
File "C:\Python\lib\site-packages\whisper_init.py", line 144, in load_model
checkpoint = torch.load(fp, map_location=device)
File "C:\Python\lib\site-packages\torch\serialization.py", line 1014, in load
return _load(opened_zipfile,
File "C:\Python\lib\site-packages\torch\serialization.py", line 1422, in _load
result = unpickler.load()
File "C:\Python\lib\site-packages\torch\serialization.py", line 1392, in persistent_load
typed_storage = load_tensor(dtype, nbytes, key, _maybe_decode_ascii(location))
File "C:\Python\lib\site-packages\torch\serialization.py", line 1366, in load_tensor
wrap_storage=restore_location(storage, location),
File "C:\Python\lib\site-packages\torch\serialization.py", line 1296, in restore_location
return default_restore_location(storage, map_location)
File "C:\Python\lib\site-packages\torch\serialization.py", line 381, in default_restore_location
result = fn(storage, location)
File "C:\Python\lib\site-packages\torch\serialization.py", line 304, in _hpu_deserialize
assert hpu is not None, "HPU device module is not loaded"
AssertionError: HPU device module is not loaded

Я установил набор инструментов NVIDIA. CUDA возвращает true, когда я проверяю IsAvailable.
Я даже установил среду выполнения cuda от NVIDIA

Код: Выделить всё

pip install nvidia-cuda-runtime-cu12

Ничего не работает. Если я не использую параметр устройства, по умолчанию будет использоваться ЦП, и все будет работать нормально. Однако графический процессор продолжает возвращать ошибку.
И последнее замечание: способ проверить, использует ли он графический процессор, заключается в том, что я проверяю диспетчер задач и смотрю на использование графического процессора. . Я также просматриваю центр управления AORUS на панели управления, чтобы проверить загрузку графического процессора.
Спасибо за вашу помощь.

Подробнее здесь: https://stackoverflow.com/questions/773 ... installati