У меня проблема с установкой инструментария cuda для nvidia rtx 5070 через torch ⇐ Python

Программы на Python
Ответить
Anonymous
 У меня проблема с установкой инструментария cuda для nvidia rtx 5070 через torch

Сообщение Anonymous »

Версия Python, которую я использую: Python 3.12.10

Я хочу, чтобы мои агенты ИИ работали на графическом процессоре, хотя проблема в том, что он возвращает процессор, даже если я использую возможность вернуть процессор.
Я получаю это после запуска агентов n:

Код: Выделить всё

INFO:agent_service:Using device: cuda
Agent Service initialized
Device: cuda
CUDA available: cuda
Изображение

Код: Выделить всё

    INFO:     Will watch for changes in these directories: ['C:\\Users\\veeti\\Desktop\\EHK OY\\realestate-pipeline\\apps\\api']
INFO:     Uvicorn running on http://127.0.0.1:8000 (Press CTRL+C to quit)
INFO:     Started reloader process [40832] using StatReload
INFO:agent_service:Using device: cuda
WARNING:main:Schema self-heal skipped: (psycopg2.errors.QueryCanceled) canceling statement due to statement timeout

[SQL:
ALTER TABLE agents
ADD COLUMN IF NOT EXISTS last_input TEXT,
ADD COLUMN IF NOT EXISTS latest_error TEXT;
]
(Background on this error at: https://sqlalche.me/e/20/e3q8)
INFO:     Started server process [41428]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     127.0.0.1:58319 - "GET / HTTP/1.1" 200 OK
INFO:     127.0.0.1:58320 - "GET /favicon.ico HTTP/1.1" 404 Not Found
INFO:     127.0.0.1:58334 - "POST /token HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /users/me HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58337 - "GET /projects HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58345 - "GET /agents/65/runs HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents/65/runs HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agent-runs/1 HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agent-runs/1 HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agent-runs/1 HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agent-runs/1 HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58349 - "GET /agent-runs/1 HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1"  200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1"  200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
INFO:     127.0.0.1:58334 - "GET /agents HTTP/1.1" 200 OK
Хотя кажется, что CUDA работает правильно, загрузка занимает бесконечное время, пришлось ждать несколько часов. Я загрузил его один раз, но затем он снова завис из-за возврата к процессору, хотя использование процессора строго запрещено. База данных Backend и Supabase в порядке. Я не знаю, правильно ли отформатирован вопрос, но это то, что я могу сделать на данный момент. Я получаю ответы «200» от серверной части. Агенты правильно извлекаются из супабазы ​​и всегда загружаются снова и снова перед тестированием только в целях тестирования, чтобы я мог увидеть, не связана ли проблема с загрузкой моделей из Huggingface.
Похоже, проблема заключается в наборе инструментов cuda. Не совсем уверен.
Если тебе нужно что-то еще, только не жарь меня, я здесь новенький. Просто дайте мне знать

Подробнее здесь: https://stackoverflow.com/questions/798 ... -via-torch
Вернуться к началу
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Python»