Хранение и получение данных с помощью Milvus и LangchainPython

Программы на Python
Anonymous
Хранение и получение данных с помощью Milvus и Langchain

Сообщение Anonymous »

Я пытаюсь создать векторную базу данных, которая будет заполнена вставками статей из блога моего работодателя.
У меня есть запущенный экземпляр Milvus, и я могу следуйте пошаговому руководству на веб-сайте Langchain.
На основе пошагового руководства моя реализация на данный момент выглядит примерно так:

Код: Выделить всё

def parseWPDataFile(filename):
# redacted for brevity
return {
'meta': parsed_headers,
'body': doc_body.strip()
}

parsed_doc = parseWPDataFile('sample_data.txt')
text_splitter = RecursiveCharacterTextSplitter(is_separator_regex=True, separators=['\n+'], chunk_size=5000, length_function=len)
docs = text_splitter.create_documents([parsed_doc['body']], [parsed_doc['meta']])
embeddings = OpenAIEmbeddings()
vector_db = Milvus.from_documents(docs, embeddings, connection_args={"host": "127.0.0.1", "port": "19530"})
Я впервые использую векторную базу данных, и последняя строка меня немного смутила. В документации Milvus.from_documents указано, что он создает векторное хранилище из документов, я полагаю, в памяти. Что мне нужно, так это постоянное векторное хранилище, в которое я могу загружать данные, а затем, в отдельном скрипте, извлекать их. Я не могу найти примеров этого в Langchain.
Как мне создать постоянное хранилище VectorStore, добавить к нему и получить ссылку на него позже в другом скрипте?

Подробнее здесь: https://stackoverflow.com/questions/785 ... -langchain

Вернуться в «Python»