Медленный запрос OpenAIC#

Место общения программистов C#
Ответить
Anonymous
 Медленный запрос OpenAI

Сообщение Anonymous »

Попытка использовать ChatGPT в приложении (с его помощью пользователь может создать командную строку ffmpeg). Но обращения к апи занимают до 20-30 секунд, что кажется чрезмерным. Не знаю, что делаю не так, поскольку никогда раньше не использовал этот API:
using OpenAI.Chat;
using System.Net;

namespace ISC_VideoTranscode
{
public class CommandLineAI
{
static readonly string _apiKey = "REDACTED";
static readonly ChatClient _client = new ChatClient("gpt-5", _apiKey);
static readonly List _messages = [];

static CommandLineAI()
{
ServicePointManager.SecurityProtocol |= SecurityProtocolType.Tls11;
ServicePointManager.SecurityProtocol |= SecurityProtocolType.Tls12;
}

public static async Task GetCommandLine(string prompt, Action callback)
{
_messages.Add(new UserChatMessage(prompt));
ChatCompletion completion = await _client.CompleteChatAsync(_messages);
var response = completion.Content[0].Text;

_messages.Add(new AssistantChatMessage(response));
callback(response);
}

public static void ClearHistory()
{
_messages.Clear();
}
}
}

У нас есть платная учетная запись на уровне использования 1. Просто назовите ее так:
await CommandLineAI.GetCommandLine(
"Create an ffmpeg command line to convert an mp4 to avi." ,
(s) => /* Do something with result */);


Подробнее здесь: https://stackoverflow.com/questions/798 ... query-slow
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «C#»