Совет для npmai ⇐ Python

[Anonymous]

Я разработчик программного обеспечения и искусственного интеллекта и в настоящее время работаю над агентным искусственным интеллектом и RAG. Могу ли я использовать библиотеку npmai pypi во время разработки, тестирования или обучения в качестве LLM
Проблемы/ограничения: -

• Мне придется платить за API, если я использую Chatgpt, Grok или другое.
• Мне нужно тестировать во время разработки, а также публиковать небольшие проекты
• Существует даже модель с открытым исходным кодом, но система ограничивает меня в использовании моделей Ollama

Я нашел этот репозиторий: - https://github.com/sonuramashishnpm/npmai
Я использовал код через документацию: - https://npmai.netlify.app
и npmai предоставляет 10+ LLM, инструменты Rag, такие как pdf, image, video, yt-video в текст, встроенная память.
ПРИМЕЧАНИЕ: - инструменты, такие как шепот pytesseract и все для Rag, не требуют установки и запускаются локально, они будут работать в облаке без регистрации или входа в систему.
Я хочу знать, следует ли мне использовать npmai или нет.
Интересный факт : разработчику и сопровождающему npmai 14 лет, как это возможно.
проверить и предложить мне это сделать
pip install npmai

эти фильмы я получаю:-
llama3.2

qwen2.5-coder:7b

mistral:7b

CodeLLaMA-Instruct 7B

Gemma-2-Instruct 9B

Mistral 7B Instruct

Phi-3 Medium (8B)

Falcon 7B Instruct

Baichuan-2-7B

InternLM-Chat-7B

Vicuna 7B


Подробнее здесь: https://stackoverflow.com/questions/798 ... -for-npmai