Какое число max_tokens я могу указать для функции генерации OpenAI GPT? ⇐ Python

[Anonymous]

Я пробовал использовать 100_000, 20_000, но кажется, что возможно только 10_000:

Код: Выделить всё

from openai import OpenAI
client = OpenAI()

messages = {"role": "user", "content": "Hello"}

completion = client.chat.completions.create(
model="gpt-4o-mini", messages=messages,
max_tokens=10_000
)

print(completion.choices[0].message.content)

На https://platform.openai.com/docs/api-re ... max_tokens есть документ, но нет четкого указания на то, какое максимальное значение max_tokens. возможно значение.

Подробнее здесь: https://stackoverflow.com/questions/788 ... e-function