Текст потоковой трансляции в Nodejs становится медленнее в производстве ⇐ Javascript

[Anonymous]

Я пытаюсь сделать чат -бот, используя Nodejs и NextJs, но текстовый поток становится медленнее в производстве.
Этот фрагмент содержит экспресс -проект node.js для потокового чата для клиента. Он работает быстро в Localhost, но в производстве он медленно транслирует текст.export async function getChatStream(
req: RequestWithUserAuthInfo,
res: Response,
next: NextFunction
): Promise {
try {
const query = req.query?.q as string;
const params = req.params;
const sessionId = params.id;
const userId = req.user.id;

if (!query || !sessionId) {
throw {
status: 400,
message: "Query and SessionId are required",
};
}

if (!userId) {
throw {
status: 400,
message: "User id is required",
};
}
console.log("Incoming request:", { userId, sessionId, query });

const session = await findOrCreateSession(userId, sessionId, query);

await saveMessage(session, query, MessageSender.USER);

// Set up SSE headers for real-time streaming
res.setHeader("Content-Type", "text/event-stream");
res.setHeader("Cache-Control", "no-cache");
res.setHeader("Connection", "keep-alive");

let botResponse = "";
let messageId = "uuid";

let clientDisconnected = false;

req.on("close", () => {
clientDisconnected = true;
console.log("Client disconnected. Aborting stream.");
});

// Stream bot response in chunks
for await (const chunk of getStreamFromAPI(query, sessionId)) {
if (clientDisconnected) break;
botResponse += chunk;
res.write(`${chunk}`);
}

await saveMessage(
session,
botResponse,
MessageSender.BOT,
messageId,
false
);

res.end();
} catch (error) {
next(error);
}
}


Подробнее здесь: https://stackoverflow.com/questions/797 ... production