Загрузить модель из папки контрольной точки в pyTorch ⇐ Python

[Anonymous]

Я пытаюсь загрузить модель с определенной контрольной точки и использовать ее для вывода. Папка с контрольной точкой выглядит так. Как загрузить модель в Torch из этой папки. Ресурсы, которые я смог найти, предназначены для загрузки из файла контрольной точки, а не из папки.
[img]https://i.sstatic.net /wi97AlyY.png[/img]

Код: Выделить всё

import whisper_timestamped as whisper
from transformers import AutoProcessor, WhisperForConditionalGeneration
from peft import prepare_model_for_kbit_training, LoraConfig, PeftModel, LoraModel, LoraConfig, get_peft_model
from peft import PeftModel, PeftConfig
import torch
from datasets import Dataset, Audio
from transformers import AutoFeatureExtractor, WhisperModel

peft_model_id = "aben118/finetuned_model/checkpoint-3900"

language = "en"
task = "transcribe"
peft_config = PeftConfig.from_pretrained(peft_model_id)
model = WhisperForConditionalGeneration.from_pretrained(
peft_config.base_model_name_or_path, load_in_8bit=False, device_map="auto"
)
model = PeftModel.from_pretrained(model, peft_model_id)
print(model)
model = model.merge_and_unload()
model.save_pretrained()

Но он сохраняет его в формате .safetensors. Я хочу, чтобы это была модель, которую можно было бы загрузить с помощью torch.load.

Подробнее здесь: https://stackoverflow.com/questions/787 ... in-pytorch