Как загрузить настроенную модель фильма Vision? Чехол для модели Moondream ⇐ Python

[Anonymous]

Я настроил модель moondream для своего собственного случая вывода изображений. Я использовал сценарий тонкой настройки, представленный в официальном репозитории.
Все прошло хорошо после того, как я узнал, как использовать сценарий для моего набора данных.
Сценарий сгенерировал следующие файлы, когда я ve "save_pretrained()":

• config.json;
• generation_config.json;
• model.safetensors

теперь я хочу загрузить его и сделать некоторые выводы с помощью некоторых изображений. как мне это сделать?
Я пробовал использовать много способов, но мне это не удалось, например:

Код: Выделить всё

model = AutoModelForCausalLM.from_pretrained(
pretrained_model_name_or_path=model_root_dir,
use_safetensors=True,
state_dict=load_file(model_path),
config=model_config,  # Provide a configuration file for the model
trust_remote_code=True,
)

но я получаю такие ошибки, как:

Код: Выделить всё

AttributeError: module 'transformers_modules.vikhyatk.moondream2.fb2293ab7450beb1dae536b069f5966becf58e5c.moondream' has no attribute 'Moondream'

Как устранить эту ошибку?
Если я упустил что-то важное, дайте мне знать!

Подробнее здесь: https://stackoverflow.com/questions/793 ... model-case