Совет для npmai ⇐ Python

[Anonymous]

Привет, я разработчик программного обеспечения и искусственного интеллекта и в настоящее время работаю над агентным искусственным интеллектом и RAG, поэтому я хочу спросить, могу ли я использовать библиотеку npmai pypi во время разработки, тестирования или обучения в качестве LLM
Проблемы со мной: -
1.Мне нужно платить за API, если я использую Chatgpt, Grok или другое
2.Я тестирую во время разработки, а также публикую для небольших масштабов материал
3.даже модель с открытым исходным кодом есть, но система ограничивает меня в использовании моделей Ollama
теперь я нашел этот репозиторий: - https://github.com/sonuramashishnpm/npmai
я использовал код через документацию: - https://npmai.netlify.app
и npmai предоставляет более 10 LLM, Rag Tools, такие как pdf, изображение, видео, yt-video в текст, встроенная память.
ПРИМЕЧАНИЕ: - инструменты, такие как шепот, pytesseract и все для Rag, не требуют установки и запускаются локально, они будут работать в облаке без регистрации или входа в систему
поэтому теперь я хочу спросить, следует ли мне использовать npmai или нет
один интересный факт, разработчик и сопровождающий npmai 14 лет, как это возможно.
чтобы протестировать и предложить мне это сделать
pip install npmai
эти llms, которые я получаю: -
llama3.2
qwen2.5-coder:7b
mistral:7b
КодLLaMA-Инструкция 7B
Гемма-2-Инструкция 9B
Мистраль 7B Инструкция
Фи-3 Средний (8B)
Сокол 7B Инструкция
Байчуань-2-7B
ИнтернLM-Chat-7B
Викунья 7B

Подробнее здесь: https://stackoverflow.com/questions/798 ... -for-npmai