Как сделать быстрое и точное извлечение данных для чат -бота? [закрыто] ⇐ Python

[Anonymous]

Я работаю над помощником по управлению недвижимостью, которому необходимо искать в базе данных, содержащей информацию о квартирах, удобствах, услугах, контактной информации и т. Д., Но я борюсь с проблемами производительности и точности. В настоящее время у меня есть большой файл JSON с вложенной информацией о недвижимости, и я использую навигацию по деревьям с несколькими вызовами API Claude, чтобы пройти и находить соответствующие данные, когда пользователи задают вопросы естественному языку, такие как «Что такое график спортзала?» Или «Как я могу сообщить о проблеме обслуживания?» Я ищу решение быстрого поиска, которое может понимать запросы естественного языка, в идеале с одноразовой настройкой, где я могу сбросить все текстовые данные и автоматически обрабатывать API или сервис, чтобы получить более точный поиск контекста для пользовательских вопросов. Идеальный сценарий был бы, если бы я мог просто поместить все эти данные в контексте для LLM, но это сделало бы затраты слишком высокими и могло бы превышать окно ввода токена, поскольку база данных имеет довольно много текста. Любые советы о том, как справиться с этим или опыта с подобными проектами, были бы очень оценены! Мой текущий технический стек - Python с API Claude для обработки и ответов.

Подробнее здесь: https://stackoverflow.com/questions/796 ... -a-chatbot