Альтернативный AI API для генерации Json из текстовой подсказки [закрыто] ⇐ JAVA

[Anonymous]

Привет всем специалистам по искусственному интеллекту!

В настоящее время мы тестируем возможность интеграции в наше программное обеспечение (на основе Java) возможностей искусственного интеллекта. Наша идея состоит в том, чтобы использовать способность ИИ понимать текстовый файл, чтобы попросить его сгенерировать JSON на основе сценария инструкций, который сообщает ему модель JSON и способы заполнения каждого поля. Эта концепция уже работает в бета-версии с OPEN AI API. Для openAI код довольно простой, это 20 строк кода вот такого:

ArrayListchatMessageList = new ArrayList(); chatMessageList.add(новый ChatMessage(ChatMessageRole.SYSTEM.value(),message1)); chatMessageList.add(новый ChatMessage(ChatMessageRole.USER.value(),message2)); Map requestData = new HashMap();//"model":"text-davinci-002", Map responseFormat = new HashMap();//"{ "type": "json_object" }", responseFormat.put("тип","json_object"); requestData.put("модель", "gpt-4-1106-preview"); // gpt-3.5-turbo-1106 gpt-4-1106-превью requestData.put("response_format", responseFormat); requestData.put("сообщения",chatMessageList); requestData.put("температура", 0,8); requestData.put("max_tokens", 4096); // Настраиваем по мере необходимости logger.debug("Поля ЗАПРОСА CHAT GPT: \n " + requestData.size()); Строка requestDataToString = новый Gson().toJson(requestData); logger.debug("Данные ЗАПРОСА CHAT GPT: \n " + requestDataToString); // Делаем вызов API Запрос HttpRequest = HttpRequest.newBuilder() .uri(URI.create(GPT3_API_ENDPOINT)) .header("Тип контента", "приложение/json") .header("Авторизация", "Носитель" + OPENAI_API_KEY) //.версия(HttpClient.Version.HTTP_1_1) .POST(HttpRequest.BodyPublishers.ofString(requestDataToString)) .строить(); HttpResponse ответ = httpClient.send(request, HttpResponse.BodyHandlers.ofString()); где строка «Message1» — это системное приглашение, сообщающее ИИ его роль, инструкции и формат ответа, а строка «Message2» — это входной текст, который ИИ должен интерпретировать для генерации JSON.

Наша проблема в том, что openAi медленный, не настолько «умный», он делает неверные и нелогичные предположения при интерпретации текста, которые человек не сделал бы, и после нескольких недель настройки подсказки системных сообщений мы все еще сталкиваемся с проблемами, когда интерпретация текста невозможна. текст, отправленный в поле message2, неверен.

Мы пробовали экспериментировать со значениями «модели», значениями «температуры» и добавлением «начальных» значений, но пока не найдена комбинация, решающая все проблемы. Нам не хватает каких-то параметров, стоит ли продолжать оптимизировать подсказку, есть еще идеи?

Можем ли мы также добавить в систему подсказку о том, что ИИ должен искать дополнительную информацию в Интернете в случае сомнений? Сможет ли оно это сделать? Я не помещал сюда системную подсказку, потому что она состоит из 4400 слов с образцом json и всем остальным, но проблема не в формате, проблема в понимании текста...

Спасибо!!