Как я могу эффективно реализовать генерацию и объяснения запросов SQL с учетом затрат с использованием Langchain и LLMS? ⇐ Python

[Anonymous]

В настоящее время я создаю внутреннего помощника по искусственному интеллекту для фармацевтической компании, которая позволяет нетехническим пользователям запросить базы данных SQL с использованием естественного языка. Решение создано с использованием Langchain и направлено на перевод пользовательских запросов в SQL, выполнить их и объяснить результаты на простом английском языке.
Вот архитектура, которую я разработал до сих пор:
Ввод: Пользователь подчиняет натуральный язык. SQL Schema и предоставляет структуру для LLM.
генерация запросов: LLM генерирует соответствующий запрос SQL. В удобных пользователях. GPT-3.5 или Gemini Flash) для суммирования.
plan B (текущий подход):
Сначала направляйте пользовательский запрос к меньшей модели. Generation. Оптимизированные затраты рабочих процесса LLM для генерации и объяснения SQL с использованием Langchain? Вывод? /> Любые конкретные примеры, архитектурные улучшения или цитаты будут оценены. < /p>

Подробнее здесь: https://stackoverflow.com/questions/796 ... xplanation