Langgraph -SQL create_react_agent - SQLDatabaseToolkit - Пропустить после выполнения SQL ⇐ Python

[Anonymous]

В настоящее время я выполняю POC для чат-бота, который использует SQL для ответов пользователей. Ищу вашего совета относительно сценария, включающего create_react_agent. Я намерен использовать 2 LLM: усовершенствованный в настоящее время LLM, такой как GPT 4 32k, для генерации SQL и какой-нибудь экономичный LLM для построения ответов пользователей. Пока мне не удалось прервать поток create_react_agent (сразу после выполнения SQL). Ниже приведен соответствующий блок кода.

Код: Выделить всё

def get_response(state: gr.State, user_input: str, history: list)->any:

toolkit = SQLDatabaseToolkit(db=DB, llm=LLM)
tools = toolkit.get_tools()
system_message = SystemMessage(content=SQL_PREFIX)
agent_executor = create_react_agent(LLM, tools, messages_modifier=system_message)
for s in agent_executor.stream(
{"messages": [HumanMessage(content=user_input)]}, stream_mode="values"
):

message = s["messages"][-1]
if isinstance(message, tuple):
print(message)
response = message.content
else:
message.pretty_print()
response = message.content

history.append((user_input, response))
return ["", history]

create_react_agent имеет параметр Interrupt_after. Хотя я совершенно не уверен в его использовании/реализации.
Пожалуйста, поделитесь здесь своими идеями о том, как действовать.

Подробнее здесь: https://stackoverflow.com/questions/786 ... ql-executi