Как разработать чат-бота промышленного уровня, используя инструменты и библиотеки с открытым исходным кодом на Python ⇐ Python

[Anonymous]

Итак... Я работаю в компании, где нет старших разработчиков, и я новичок и понятия не имею, как разрабатывать приложения производственного уровня. Также менеджер заявил, что для этого мне нужно использовать только инструменты и библиотеки с открытым исходным кодом. Клиент не будет платить за такие расходы, как графический процессор, платные модели/фреймворки, отсутствие платной базы данных и т. д.
Предполагается, что чат-бот будет создан для веб-сайта онлайн-курсов, в основном это информация о курсе, часто задаваемые вопросы по курсу, рекомендации и т. д.

Будет очень полезно, если я смогу дать некоторые рекомендации о том, какие инструменты и технологии с открытым исходным кодом я могу использовать для этого. Базовая архитектура того, как это можно сделать

Язык: python

Я изучал такие модели, как openai, ollama и т. д., но, судя по всему, компания не будет платить ни за графический процессор, ни за API.
пока я рассматривал возможность использования

• pgvector+postgres для базы данных
• fastapi бэкэнд
• ollama
• может быть, langchain или llamaindex

но я не уверен, эффективно это или нет, или я что-то упускаю, поскольку никогда раньше не создавал чат-бота

Подробнее здесь: https://stackoverflow.com/questions/798 ... -libraries