Я пытаюсь протестировать свою размещенную модель с помощью API Gradio-Client (он прекрасно работает в пользовательском интерфейсе).
Итак, я следовал документации, и, похоже, она только ждет, пока она не вернется. первый токен и завершает программу Python. Это происходит как для .predict(), так и для .submit()
Вот мой фрагмент кода градиентного клиента.
client = Client("https://some.model.url/") # connecting to a Hugging Face Space
result = client.predict("write python program to find if given number is even or odd.",
True, # bool to use System prompt
fn_index=0)
print(result)
Подробнее здесь: https://stackoverflow.com/questions/783 ... he-program
