Как использовать GPU NVIDIA в Docker Ubuntu Server [закрыто] ⇐ Linux

[Anonymous]

Я использую Ubuntu Server 24.04.2 на моем домашнем сервере Healsess. Я установил Docker в качестве Snap, и я хотел бы передать свой NVIDIA GTX 1070TI в контейнеры, которые у меня работают. Я следовал некоторым руководствам здесь и там, но все они, кажется, используют не-SNAP версию Docker, и я не могу заставить его работать должным образом.
Это вывод NVIDIA-SMI на сервере. < /P>

Код: Выделить всё

+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 550.144.03             Driver Version: 550.144.03     CUDA Version: 12.4     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce GTX 1070 Ti     Off |   00000000:01:00.0 Off |                  N/A |
|  0%   32C    P8              5W /  180W |       2MiB /   8192MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI        PID   Type   Process name                              GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+

Когда я запускаю «sudo docker run-rm-gpus all nvidia/cuda: 12.8.1-cudnn-runtime-ubuntu22.04 sudo nvidia-smi». Я получаю следующий выход.

Код: Выделить всё

docker: Error response from daemon: failed to create task for container: failed to create shim task: OCI runtime create failed: runc create failed: unable to start container process: error during container init: error running prestart hook #0: exit status 1, stdout: , stderr: Auto-detected mode as 'legacy'
nvidia-container-cli: initialization error: load library failed: libnvidia-ml.so.1: cannot open shared object file: no such file or directory: unknown.
< /code>
Больше вещей, которые я сделал: < /p>
sudo nvidia-ctk runtime configure --runtime=docker
[sudo] password for invra:
INFO[0000] Loading config from /etc/docker/daemon.json
INFO[0000] Wrote updated config to /etc/docker/daemon.json
INFO[0000] It is recommended that docker daemon be restarted.
sudo cat /etc/docker/daemon.json
{
"default-runtime": "nvidia",
"runtimes": {
"nvidia": {
"args": [],
"path": "nvidia-container-runtime"
}
}
}%

Я не уверен, как идти дальше.

Подробнее здесь: https://stackoverflow.com/questions/795 ... ntu-server