CMAKE в файле require.txt: установите llama-cpp-python для Mac.Python

Программы на Python
Ответить
Anonymous
 CMAKE в файле require.txt: установите llama-cpp-python для Mac.

Сообщение Anonymous »


Я поместил свое приложение в Docker и поэтому создал файл require.txt. Теперь мне нужно установить llama-cpp-python для Mac, так как я загружаю свой LLM с помощью langchain.llms import LlamaCpp.

Моя команда установки специально для Mac:

"CMAKE_ARGS="-DLLAMA_METAL=on" FORCE_CMAKE=установка llama-cpp-python за 1 пункт"

Но это не сработает, если я помещу это в свой файл «requirements.txt».

Мой файл require.txt выглядит следующим образом:

chromadb==0.4.14 лангчейн==0.0.354 панды==2.0.3 python-dotenv==1.0.0 python_box==7.1.1 ПиЯМЛ==6.0.1 стримлит==1.29.0 факел==2.1.0 преобразователи предложений==2.2.2 файсс-процессор == 1.7.4 CMAKE_ARGS="-DLLAMA_METAL=on" FORCE_CMAKE=1 pip install llama-cpp-python # Так не работает Мой Dockerfile выглядит так после комментария @ivvija:

ИЗ Python:3.11.5 РАБОЧИЙ ДИАПАЗОН/приложение КОПИРОВАТЬ. . ЗАПУСК pip3 install -r требования.txt RUN CMAKE_ARGS="-DLLAMA_METAL=on" FORCE_CMAKE=1 пункт, установка llama-cpp-python ВЫСТАВКА 8501 HEALTHCHECK CMD curl --fail http://localhost:8501/_stcore/health ENTRYPOINT ["streamlit", "run", "streamlit_app.py", "--server.port=8501", "--server.address=0.0.0.0"] В результате возникает эта ошибка: ОШИБКА: не удалось создать диски для llama-cpp-python, который необходим для установки проектов на основе pyproject.toml

Как я могу это сделать?
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Python»