Проблема с передачей полученных документов в большую языковую модель в цепочке RetrivalQA ⇐ Python

[Anonymous]

В настоящее время я записываюсь на курс на Coursera, где учусь реализовывать систему поиска ответов на вопросы (RetrivalQA) на Python. В курсе представлен код, который использует метод RetievalQA.from_chain_type() для создания цепочки RetievalQA как с большой языковой моделью (LLM), так и с векторным ретривером.
После рассмотрения предоставленного кода выяснилось, что очевидно, что соответствующие документы извлекаются из хранилища векторов с помощью Vectordb.similarity_search(). Однако, по-видимому, не существует четкого шага для явной передачи этих полученных документов в LLM для ответа на вопросы в цепочке RetievalQA.
Насколько я понимаю, в типичном процессе RetievalQA соответствующие документы, полученные из векторного хранилища, впоследствии передаются в LLM. Это гарантирует, что LLM может использовать полученную информацию для генерации точных ответов на запросы пользователей.
Мне нужны разъяснения по правильной методологии интеграции полученных документов в цепочку RetrivalQA для обеспечения эффективности использование LLM. Мы будем очень признательны за любые идеи, предложения или примеры кода о том, как добиться этой интеграции. Спасибо за помощь!
from langchain.vectorstores import Chroma
from langchain.embeddings.openai import OpenAIEmbeddings
persist_directory = 'docs/chroma/'
embedding = OpenAIEmbeddings()
vectordb = Chroma(persist_directory=persist_directory, embedding_function=embedding)
question = "What are major topics for this class?"
docs = vectordb.similarity_search(question,k=3)
len(docs)
from langchain.chat_models import ChatOpenAI
llm = ChatOpenAI(model_name=llm_name, temperature=0)
from langchain.chains import RetrievalQA

qa_chain = RetrievalQA.from_chain_type(
llm,
retriever=vectordb.as_retriever()
)result = qa_chain({"query": question})
result["result"]


Подробнее здесь: https://stackoverflow.com/questions/782 ... ievalqa-ch