OpenAI gpt-5-mini with_structured_output возвращает неверный JSON, заполненный пробелами, вместо допустимого ответа ⇐ Python

[Anonymous]

Я использую ChatOpenAI.with_structured_output() от LangChain с gpt-5-mini для классификации намерений пользователя в модели Pydantic. Время от времени модель возвращает неверный формат JSON — ответ начинается с действительного ключа, но никогда не закрывает объект, вместо этого заполняя десятки тысяч символов пробелами, символами новой строки и табуляциями.
Пидантическая схема:

Код: Выделить всё

from pydantic import BaseModel, Field
from typing import Literal

class RouteDecision(BaseModel):
flow: Literal[...] = Field(
description="Detected intent flow from user message."
)
response: str = Field(
default="",
description="Direct response text (only for off_topic flow)"
)

Настройка LLM:

Код: Выделить всё

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(temperature=0, model="gpt-5-mini", timeout=15, max_retries=2)
routing_llm = llm.with_structured_output(RouteDecision)

decision = routing_llm.invoke(messages)  #