Я использую модели Gemini через Open AI SDK в Python.
Я отправляю изображение и приглашение. Это происходит 10 раз. Каждое изображение представляет собой фотографию, созданную симуляцией робота, и короткую текстовую подсказку.
Иногда я получаю ответ с 0 жетонами завершения. Я попробовал зациклиться, пока ответа нет, с увеличением времени ожидания. Однако я видел, что когда запрос не удался, он имеет тенденцию повторять неудачу с тем же вводом. Это занимает сколь угодно много времени.
Вот ответ:
ChatCompletion(id='xxxx', choices=[Choice(finish_reason='stop', index=0, logprobs=None, message=ChatCompletionMessage(content=None, refusal=None, role='assistant', annotations=None, audio=None, function_call=None, tool_calls=None))], created=1771525496, model='gemini-2.5-flash', object='chat.completion', service_tier=None, system_fingerprint=None, usage=CompletionUsage(completion_tokens=0, prompt_tokens=3234, total_tokens=3234, completion_tokens_details=None, prompt_tokens_details=PromptTokensDetails(audio_tokens=None, cached_tokens=2314)))
Я не передаю никаких параметров для максимального количества токенов.
response = self.client.chat.completions.create(
model=self.model_name,
messages=openai_messages
)
Подробнее здесь: https://stackoverflow.com/questions/798 ... openai-sdk
