CMAKE в файле require.txt: установите llama-cpp-python для Mac. ⇐ Python

[Anonymous]

Я поместил свое приложение в Docker и поэтому создал файл require.txt. Теперь мне нужно установить llama-cpp-python для Mac, так как я загружаю свой LLM из langchain.llms import LlamaCpp.
Моя команда установки специально для Mac:

Код: Выделить всё

"CMAKE_ARGS="-DLLAMA_METAL=on" FORCE_CMAKE=1 pip install llama-cpp-python"

Но это не сработает, если я помещу это в свой файл «requirements.txt».
Мой файл «requirements.txt» выглядит следующим образом:

Код: Выделить всё

chromadb==0.4.14
langchain==0.0.354
pandas==2.0.3
python-dotenv==1.0.0
python_box==7.1.1
PyYAML==6.0.1
streamlit==1.29.0
torch==2.1.0
sentence-transformers==2.2.2
faiss-cpu==1.7.4
CMAKE_ARGS="-DLLAMA_METAL=on" FORCE_CMAKE=1 pip install llama-cpp-python # Does not work like this

Мой Dockerfile выглядит так после комментария @ivvija:

Код: Выделить всё

FROM python:3.11.5
WORKDIR /app
COPY . .
RUN pip3 install -r requirements.txt
RUN CMAKE_ARGS="-DLLAMA_METAL=on" FORCE_CMAKE=1 pip install llama-cpp-python
EXPOSE 8501
HEALTHCHECK CMD curl --fail http://localhost:8501/_stcore/health
ENTRYPOINT ["streamlit", "run", "streamlit_app.py", "--server.port=8501", "--server.address=0.0.0.0"]

Что приводит к этой ошибке: ОШИБКА: Не удалось создать диски для llama-cpp-python, который необходим для установки проектов на основе pyproject.tomlКак мне это сделать?

Подробнее здесь: https://stackoverflow.com/questions/777 ... on-for-mac