Как запустить ollama с помощью Docker Compose с конкретной моделью ⇐ Linux

[Anonymous]

У меня есть Docker Compose, в котором фиктивное приложение Python использует LM-модули ollama в фоновом режиме для некоторых задач. Я хочу иметь возможность каким-то образом сообщить олламе, какую модель загрузить и использовать при развертывании приложения. Теперь моя композиция докера выглядит так:

Код: Выделить всё

version: '3.8'

services:
elasticsearch:
image: docker.elastic.co/elasticsearch/elasticsearch:7.10.0
container_name: elasticsearch
environment:
- discovery.type=single-node
- "ES_JAVA_OPTS=-Xms512m -Xmx512m"
ports:
- "9200:9200"
volumes:
- esdata:/usr/share/elasticsearch/data
healthcheck:
test: ["CMD-SHELL", "curl -f http://localhost:9200 || exit 1"]
interval: 30s
timeout: 10s
retries: 5

pokemon_app:
build: .
container_name: pokemon_app
ports:
- "8000:8000"
depends_on:
elasticsearch:
condition: service_healthy
ollama:
condition: service_started
environment:
LLM_MODEL_NAME: ${LLM_MODEL_NAME}
ELASTICSEARCH_URL: ${ELASTICSEARCH_URL}
OLLAMA_URL: ${OLLAMA_URL}
LOG_LEVEL: DEBUG
healthcheck:
test: ["CMD-SHELL", "curl -f http://localhost:8000/healthcheck || exit 1"]
interval: 30s
timeout: 10s
retries: 5

ollama:
image: ollama/ollama:latest
container_name: ollama
volumes:
- ollama:/root/.ollama
ports:
- "11434:11434"
healthcheck:
test: ["CMD-SHELL", "curl -f http://localhost:11434 || exit 1"]
interval: 30s
timeout: 10s
retries: 5

volumes:
esdata:
driver: local
ollama:
driver: local

У меня есть переменная env с именем LLM по умолчанию, которое я использую в своем приложении:

Код: Выделить всё

LLM_MODEL_NAME

Как я могу сделать так, чтобы, изменив значение этой переменной env, я контролирую, какую модель использует Ollama?

Подробнее здесь: https://stackoverflow.com/questions/793 ... ific-model