Лучшие практики управления состоянием и контекстом в агенте AI с использованием API OpenAI [закрыто] ⇐ Android

[Anonymous]

Я работаю над ИИ-агентом, который взаимодействует с пользователями и выполняет многоэтапные задачи. Я использую API OpenAI (GPT‑4.1) для генерации ответов и управления поведением агента.
Моя цель — поддерживать контекст разговора и состояние агента на протяжении нескольких ходов, чтобы агент мог запомнить предпочтения пользователя и предыдущие решения. Однако я не уверен, как эффективно хранить этот контекст и управлять им, не отправляя всю историю каждый раз в API (что становится дорогостоящим и медленным).
Что я пробовал

• Добавление истории разговоров к каждому запросу (работает, но становится слишком большим)
• Использование простого списка «важных сообщений» и обрезка старых
• Сохранение состояния в локальной базе данных и повторная отправка только выбранных частей

Проблема
Когда я обрезаю историю слишком агрессивно, агент теряет контекст (например, предыдущие настройки пользователя). Когда я отправляю полную историю, задержка и стоимость API становятся проблематичными.
Что я ищу

• Лучшие практики управления состоянием и контекстом при разработке агентов ИИ
• Способы суммирования или сжатия контекста без потери важной информации
• Примеры архитектурных шаблонов (например, модули памяти, внедрения, векторные хранилища), которые хорошо работают с OpenAI API

Ожидаемое поведение
Я ожидаю, что агент:

• Поддерживает контекст при длительных взаимодействиях
• Избегает избыточности или нерелевантная история в запросах API
• Будьте эффективны как с точки зрения производительности, так и с точки зрения затрат

Заранее благодарим за любые предложения или примеры!

Подробнее здесь: https://stackoverflow.com/questions/798 ... openai-api