Как устранить ошибку «InvalidRequestError: превышена максимальная длина контекста этой модели» в OpenAI API ⇐ Python

[Anonymous]

Я столкнулся с ошибкой в ​​коде API OpenAI и не знаю, как лучше всего ее устранить. Я использую модель «text-davinci-003» для генерации ответа ИИ, используя следующий код:

Код: Выделить всё

completion = openai.Completion.create(
engine="text-davinci-003",
prompt='\n'.join([f"{m['role']}: {m['content']}" for m in message_history]),
temperature=0.7,
max_tokens=1024,
n=1,
stop=None,
timeout=60,
)

Я получаю следующую ошибку:

openai.error.InvalidRequestError: Максимальная длина контекста этой модели
составляет 4097 токенов, однако вы запросили 4401 токен (3377 в вашем
подсказке; 1024 для завершения). Пожалуйста, сократите количество запросов; или
длина завершения.

Я не уверен, как лучше всего решить эту проблему. Можете ли вы дать мне совет, что мне следует сделать, чтобы исправить эту ошибку?

Подробнее здесь: https://stackoverflow.com/questions/757 ... th-is-exce