Почему я получаю сообщение об ошибке ограничения скорости, когда гарантирую, что не превышу свой предел скорости? ⇐ Python

[Anonymous]

Я новый пользователь OpenAI API. Я написал скрипт Python, который помещает текст в файл .txt, а затем передает этот текстовый файл вместе с приглашением в поток OpenAI. Насколько я могу судить, этот процесс работает так, как я и ожидал, когда я запускаю его для одного файла. Однако я сталкиваюсь с проблемами при попытке масштабирования и повторения этого процесса. Я пытаюсь выполнить создание и анализ 10 моих текстовых файлов и получаю следующую ошибку:

LastError(code='rate_limit_exceeded', message='Достигнут предел скорости для gpt-3.5-turbo-1106 в организация org-zCh0v22Q1oaob4QcpuOHgeu0 по количеству запросов в минуту (об/мин): лимит 3, использовано 3, запрошено 1. Пожалуйста, повторите попытку через 20 секунд. Посетите https://platform.openai.com/account/rate-limits, чтобы узнать больше. Ты можете увеличить лимит ставки, добавив способ оплаты в свою учетную запись на странице https://platform.openai.com/account/billing.') Я понимаю, что с учетом уровня моего аккаунта и модели, которую я использую (gpt-3.5-turbo-1106), мой лимит составляет 3 запроса в минуту. Однако я попытался разместить в своем сценарии 20-секундную функцию сна между запросами, чтобы гарантировать, что количество запросов в минуту не может превышать 3. Мое замешательство усугубляет тот факт, что, когда я пытаюсь запустить одни и те же 10 текстовых файлов снова и снова, иногда процесс завершается сбоем в первом файле, иногда в третьем файле и т. д. Я не могу различить закономерность, когда программа терпит неудачу, а когда она завершается успехом, но она никогда не могла пройти через более чем 5 файлов до сбоя.

Дополнительная информация: я единственный пользователь, использующий мой ключ API, и единственный пользователь в своей организации. Из того, что я могу сказать, либо я не понимаю, что считается запросом, либо API считает больше запросов, чем я на самом деле делаю. Как я уже сказал, я новый пользователь, и любая помощь и советы будут очень признательны! Включая мой код ниже:
импортировать панд как pd время импорта из openai импорт OpenAI клиент = OpenAI(api_key = «[МОЙ API-КЛЮЧ]») поток = client.beta.threads.create() помощник = client.beta.assistants.create( name = "Идентификатор слушания по выдвижению кандидатуры", Instructions = "Учитывая полную стенограмму слушаний в Сенате США, определите, было ли это слушание слушанием по выдвижению кандидатуры. Отвечайте только «ДА» или «НЕТ» и не предоставляйте обоснований.", инструменты = [{"тип": "извлечение"}], модель = "gpt-3.5-турбо-1106" ) files = ["CHRG-108shrg1910401.txt", "CHRG-108shrg1910403.txt", "CHRG-108shrg1910406.txt", "CHRG-108shrg1910407.txt", "CHRG-108shrg1910408.txt", "CHRG-108shr" g1910409.txt" , "CHRG-108shrg1910410.txt", "CHRG-108shrg1910411.txt", "CHRG-108shrg1910413.txt", "CHRG-108shrg1910414.txt"] Jacket_classifications = pd.DataFrame(columns = ["jacket", "is_nomination"]) для файла в файлах: gpt_file = client.files.create( файл = открыть (файл, «рб»), цель = 'помощники' ) сообщение = client.beta.threads.messages.create( thread_id=thread.id, роль="пользователь", content="Определите, описывает ли стенограмма в этом файле слушание по выдвижению кандидатуры. Отвечайте только «ДА» или «НЕТ» и не предоставляйте обоснований.", file_ids=[gpt_file.id] ) запустить = client.beta.threads.runs.create( thread_id=thread.id, Assistant_id=assistant.id, ) в то время как run.status != "завершено": запустить = client.beta.threads.runs.retrieve( thread_id=thread.id, run_id=run.id ) печать(run.status) если run.status == "не удалось": печать (run.last_error) Выход() сообщения = client.beta.threads.messages.list( thread_id=thread.id ) вывод = messages.data[0].content[0].text.value если «да» на выходе или «Да» на выходе или «ДА» на выходе: is_nomination = 1 row = pd.DataFrame({"jacket":[file], "is_nomination":[is_nomination]}) Jacket_classifications = pd.concat([jacket_classifications, row]) print("Спящий режим 20 секунд, чтобы гарантировать, что предел скорости вызовов API не превышен") время.сон(20) Jacket_classifications.to_csv("[ПУТЬ К МОЕМУ ФАЙЛУ]/test.csv")