Эффективно поддержание контекста чата с Genai API (GPT, Claud ⇐ Python

[Anonymous]

Я использую Genai API (GPT, Claude) для создания разговорного ИИ, который обрабатывает многократные диалоги. Моя цель состоит в том, чтобы сохранить контекст разговора без повторного вторжения всех предыдущих подсказок с каждым новым запросом, поскольку этот подход быстро становится дорогим из -за использования токенов.conversation_history.append({"role": "user", "content": user_message})
response = openai.ChatCompletion.create(model="gpt-3.5-turbo", messages=conversation_history)
conversation_history.append({"role": "assistant", "content": response['choices'][0]['message']['content']})
......
< /code>
Мой вопрос < /h3>
Есть ли способ сохранить контекст разговора с API без необходимости повторно отправить все предыдущие подсказки и ответы в каждом запросе? В идеале я ищу метод для сохранения разговорного состояния на стороне сервера или более эффективный способ управления контекстом. < /P>

Использование GPT или Claud>

Подробнее здесь: https://stackoverflow.com/questions/788 ... out-resend