ValueError: получен неизвестный тип S при использовании GPT-4 с LangChain для суммирования. ⇐ Python

[Anonymous]

Я пытаюсь использовать LangChain с моделью GPT-4 для задачи суммирования. Когда я использую модель GPT-3.5-турбо вместо GPT-4, все работает нормально. Однако как только я переключусь на GPT-4, я получаю следующую ошибку:

Код: Выделить всё

ValueError: Got unknown type S

Вот соответствующая часть моего кода, которая вызывает ошибку:

Код: Выделить всё

llm = ChatOpenAI(temperature=0, model_name="gpt-4")
text_splitter = RecursiveCharacterTextSplitter(
chunk_size=4000, chunk_overlap=0, separators=[" ", ",", "\n"]
)

texts = text_splitter.split_text(readme_content)
docs = [Document(page_content=t) for t in texts]

prompt_template = """template"""
PROMPT = PromptTemplate(template=prompt_template, input_variables=["text"])
chain = load_summarize_chain(llm, chain_type="map_reduce", map_prompt=PROMPT, combine_prompt=PROMPT)
summary = chain.run(docs)

В этом коде документы — это фрагменты, созданные с использованием класса RecursiveCharacterTextSplitter.
Полное отслеживание ошибки выглядит следующим образом:

Код: Выделить всё

Traceback (most recent call last):
File "/Users/maxhager/Projects2023/githubgpt/testing_env/test_single.py", line 136, in 
print(create_tweet(info, readme_content))
File "/Users/maxhager/Projects2023/githubgpt/testing_env/test_single.py", line 120, in create_tweet
summary = llm(prompt)
File "/Users/maxhager/.virtualenvs/githubgpt/lib/python3.10/site-packages/langchain/chat_models/base.py", line 128, in __call__
return self._generate(messages, stop=stop).generations[0].message
File "/Users/maxhager/.virtualenvs/githubgpt/lib/python3.10/site-packages/langchain/chat_models/openai.py", line 247, in _generate
message_dicts, params = self._create_message_dicts(messages, stop)
File "/Users/maxhager/.virtualenvs/githubgpt/lib/python3.10/site-packages/langchain/chat_models/openai.py", line 277, in _create_message_dicts
message_dicts = [_convert_message_to_dict(m) for m in messages]
File "/Users/maxhager/.virtualenvs/githubgpt/lib/python3.10/site-packages/langchain/chat_models/openai.py", line 277, in 
message_dicts = [_convert_message_to_dict(m) for m in messages]
File "/Users/maxhager/.virtualenvs/githubgpt/lib/python3.10/site-packages/langchain/chat_models/openai.py", line 88, in _convert_message_to_dict
raise ValueError(f"Got unknown type {message}")
ValueError: Got unknown type S

Кто-нибудь сталкивался с подобной проблемой при использовании GPT-4 с LangChain? Будем очень признательны за любые предложения по устранению этой ошибки.


Подробнее здесь: https://stackoverflow.com/questions/760 ... marization