Проблема с ошибкой Langchain (LLM HuggingFaceEmbedding OLLAMA) ⇐ Python

[Anonymous]

Я новичок в мире искусственного интеллекта и машинного обучения. Просто пытаюсь запачкать руки простой программой ответов на вопросы.
У меня есть программа, показанная ниже, которая принимает PDF-файл в качестве входных данных и должна отвечать на наши запросы, связанные с PDF-файлом. Поскольку у меня нет кредитов OpenAI, я использовал HuggingFaceEmbedding & Ollama. Я получаю сообщение об ошибке при попытке выполнить запрос. Благодарю за помощь.
Вот мой код:

Код: Выделить всё

from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.core import  Document
from llama_index.llms.ollama import  Ollama
import streamlit as st
from dotenv import load_dotenv
from PyPDF2 import PdfReader
from streamlit_extras.add_vertical_space import add_vertical_space
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.vectorstores import FAISS
from langchain.chains.question_answering import load_qa_chain
import os
import pickle

#sidebar contents
with st.sidebar:
st.markdown('nothing here')
add_vertical_space(5)
st.write('with the help of a youtube video')

def main():
st.header('chat with pdf')
load_dotenv()
pdf = st.file_uploader("upload your file",type='pdf')

if pdf is not None:
pdf_reader = PdfReader(pdf)

text = ""
for page in pdf_reader.pages:
text += page.extract_text()

text_splitter = RecursiveCharacterTextSplitter(
chunk_size=1000,
chunk_overlap=100,
length_function=len
)
chunks = text_splitter.split_text(text=text)
# Wrap each chunk in a Document
documents = [Document(text=chunk, metadata={"source": "PDF"}) for chunk in chunks]
store_name = pdf.name[:-4]
embed_model_bge = HuggingFaceEmbedding(model_name="BAAI/bge-small-en-v1.5")
if os.path.exists(f"{store_name}.pkl"):
with open(f"{store_name}.pkl","rb") as f:
VectorStore = pickle.load(f)
st.write('Embeddings loaded from disk')
else:
chunk_embeddings = [embed_model_bge.get_text_embedding(doc.get_text()) for doc in documents]
texts = [doc.get_text() for doc in documents]
text_embedding_pairs = zip(texts, chunk_embeddings)
VectorStore = FAISS.from_embeddings(text_embedding_pairs, chunk_embeddings)
with open(f"{store_name}.pkl", "wb") as f:
pickle.dump(VectorStore,f)
st.write('Embeddings created and saved to disk')

query = st.text_input("ask question about pdf file")

if query:
query_embedding = embed_model_bge.get_text_embedding(text=query)
docs = VectorStore.similarity_search_by_vector(embedding=query_embedding)
llm = Ollama(model="llama-2")
chain = load_qa_chain(llm=llm, chain_type="stuff")
response = chain.run(input_documents=docs, question=query)
st.write(response)

if __name__ == '__main__':
main()

*ОШИБКА:
ValidationError: 2 ошибки проверки для LLMChain llm.is -instance[Runnable] Входные данные должны быть экземпляром Runnable [type=is_instance_of, input_value=Ollama(callback_manager=

Подробнее здесь: https://stackoverflow.com/questions/791 ... ing-ollama