Проблемы с использованием локальной OLLAMA во время встраивания в ChromaDB.Python

Программы на Python
Ответить
Anonymous
 Проблемы с использованием локальной OLLAMA во время встраивания в ChromaDB.

Сообщение Anonymous »

Я запускаю скрипт Python на виртуальной машине Linux без поддержки CUDA и локальной OLLAMA. При проверке ОЛЛАМА на консоли с помощью

Код: Выделить всё

ollama run jina/jina-embeddings-v2-base-de "Hello world"
Ответ очень быстрый. Занимает менее 2 секунд.
При запуске скрипта для встраивания тела письма скрипт работает очень медленно. Тем более начинает подключаться к какому-то хосту в США. Ниже вы найдете выходные данные регистратора:

Код: Выделить всё

18:24:35 DEBUG : connect_tcp.started host='127.0.0.1' port=11434 local_address=None timeout=None socket_options=None
18:24:35 DEBUG : connect_tcp.complete return_value=
18:24:35 DEBUG : send_request_headers.started request=
18:24:35 DEBUG : send_request_headers.complete
18:24:35 DEBUG : send_request_body.started request=
18:24:35 DEBUG : send_request_body.complete
18:24:35 DEBUG : receive_response_headers.started request=
18:24:36 DEBUG : Starting new HTTPS connection (1): us.i.posthog.com:443
18:24:36 DEBUG : https://us.i.posthog.com:443 "POST /batch/ HTTP/1.1" 200 15
18:45:52 DEBUG : receive_response_headers.complete return_value=(b'HTTP/1.1', 200, b'OK',[(b'Content-Type', b'application/json; charset=utf-8'), (b'Date', b'Sat, 03 Jan 2026
17:45:52 GMT'), (b'Transfer-Encoding', b'chunked')])
18:45:52 INFO : HTTP Request: POST http://127.0.0.1:11434/api/embed "HTTP/1.1 200 OK"
18:45:52 DEBUG : receive_response_body.started request=
18:45:52 DEBUG : receive_response_body.complete
18:45:52 DEBUG : response_closed.started
18:45:52 DEBUG : response_closed.complete
18:45:54 INFO : Done!
Я не понимаю, почему локальный LLM начинает разговаривать с каким-то внешним хостом. Как мне запустить OLLAMA soley на этой машине? Возникают ли какие-либо проблемы с защитой данных, если OLLAMA подключается к серверу Posthog?
Кроме того, журналы OLLAMA сообщают мне для каждого встраиваемого электронного письма, что существует проблема

Код: Выделить всё

Jan 03 18:24:51 LLM01 ollama[6039]: init: embeddings required but some input tokens were not marked as outputs -> overriding
Jan 03 18:24:59 LLM01 ollama[6039]: init: embeddings required but some input tokens were not marked as outputs -> overriding
Jan 03 18:25:07 LLM01 ollama[6039]: init: embeddings required but some input tokens were not marked as outputs -> overriding
Jan 03 18:25:19 LLM01 ollama[6039]: init: embeddings required but some input tokens were not marked as outputs -> overriding
Похоже, что-то введено неверно. Однако я нахожу электронные письма в ChromaDB. В чем здесь проблема?

Подробнее здесь: https://stackoverflow.com/questions/798 ... o-chromadb
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Python»