Среда выполнения Onnx Helsinki-Nlp на Java ⇐ JAVA

[Anonymous]

кому-нибудь удалось что-то перевести с помощью Helsinki-NLP и ONNX Runtime на Java? Используя скрипт Python, я сгенерировал следующие файлы:

Код: Выделить всё

├── encoder_model.onnx
├── decoder_model.onnx
├── decoder_with_past_model.onnx
├── config.json
├── generation_config.json
├── tokenizer_config.json
├── special_tokens_map.json
├── source.spm
└── target.spm

Затем я пытаюсь запустить его на Java следующим образом:

Код: Выделить всё

OrtSession.SessionOptions opts = new OrtSession.SessionOptions();

// 2. Load models
System.out.println("Loading encoder and decoder...");
OrtSession encoder = env.createSession(modelDir + "/encoder_model.onnx", opts);
OrtSession decoder = env.createSession(modelDir + "/decoder_model.onnx", opts);

// 3. Tokenizer
HuggingFaceTokenizer tokenizer = HuggingFaceTokenizer.newInstance(modelDir);

Но проблема в том, что tokenizer.json нет, а токенизатор пытается загрузить его с Hugging Face, в результате чего выдает 404 — я не знаю, как создать tokenizer.json.
А может быть, есть какой-то другой более простой способ использовать эту модель в Java?>

Подробнее здесь: https://stackoverflow.com/questions/797 ... lp-in-java