Тема: Нужна помощь с ошибкой создания агента JSON (Langchain) при использовании LLM llama-2.
Я столкнулся с некоторыми проблемами при попытке создать агент JSON (langchain.agents) с использованием LLM llama-2.
Я работал с агентом JSON langchain, стремясь использовать LLM llama-2. Однако в процессе создания я столкнулся с неожиданной ошибкой, связанной с форматированием, что привело к возврату к стандартному исключению.
Мои сомнения: 1. Может ли агент langchain json поддерживать любой LLM или только OpenAI LLm( ГПТ). 2. Почему возникает ошибка исключения форматирования.
Код:
json_agent_executor = create_json_agent(llm=llm,toolkit=json_toolkit, verbose=True)
Вот конкретная ошибка сообщение:
Неожиданное исключение форматирования. Возврат к стандартному исключению
Traceback (последний вызов последний):
Файл «/opt/conda/lib/python3.10/site-packages/IPython/core/interactiveshell.py», строка 3553, в run_code
exec(code_obj, self.user_global_ns, self.user_ns)
Файл «/tmp/ipykernel_34/2881189423.py», строка 4, в
json_agent_executor = create_json_agent(
Файл «/opt/conda/lib/python3.10/site-packages/langchain/agents/agent_toolkits/json/base.py», строка 42, в create_json_agent
Файл «/opt/conda/lib/python3. 10/site-packages/langchain/agents/agent.py», строка 768, в from_agent_and_tools
:meta Private:
Файл «/opt/conda/lib/python3.10/site-packages/langchain /load/serializable.py», строка 75, в init
Файл «pydantic/main.py», строка 339, в pydantic.main.BaseModel.init
Файл «pydantic/main.py», строка 1100, в pydantic.main.validate_model
Файл «/opt/conda/lib/python3.10/site-packages/langchain/agents/agent.py», строка 779, в validate_tools
» Выполнено не нашел его, поэтому добавил его в конец."
KeyError: 'tools'
В официальной документации Langchain они попробовали это с OpenAI LLM (https://python. langchain.com/docs/integrations/toolkits/json), и у них все работает нормально. Но поскольку кредиты OpenAI LLM не доступны в свободном доступе, повторить то же самое невозможно. Но я попробовал это с LLama-2, но это выдало мне ошибку. Поэтому я сомневаюсь, что агент langchain json поддерживает любой LLM или только OpenAI LLm (GPT).
Подробнее здесь: https://stackoverflow.com/questions/782 ... in-llama-2
