Трансформеры AutoModelForCasualLM невозможно импортировать. ⇐ Python

[Anonymous]

Я пытаюсь следовать этой статье, чтобы использовать AutoModelForCasualLM из преобразователей для генерации текста с цветением. Но я продолжаю получать сообщение об ошибке, говорящее, что Python не может использовать AutoModelForCasualLM из преобразователей. Я пробовал несколько компьютеров и несколько версий трансформаторов, но всегда получаю следующую ошибку. (Обратная связь из последней версии преобразователей)

Код: Выделить всё

---------------------------------------------------------------------------
ImportError                               Traceback (most recent call last)
Cell In[28], line 1
----> 1 from transformers import AutoTokenizer, AutoModelForCasualLM, BloomConfig
2 from transformers.models.lboom.modeling_bloom import BloomBlock, build_alibi_tensor

ImportError: cannot import name 'AutoModelForCasualLM' from 'transformers' (/mnt/MLDr/venv/lib/python3.10/site-packages/transformers/__init__.py)

фрагмент кода, в котором возникла ошибка (первые ~10 строк):

Код: Выделить всё

import os
import torch
import torch.nn as nn
from collections import OrderedDict
def get_state_dict(shard_num, prefix=None):
d = torch.load(os.path.join(model_path, f"pytorch_model_{shard_num:05d}-of-00072.bin"))
return d if prefix is None else OrderedDict((k.replace(prefix, ''), v) for k, v in d.items())
from transformers import AutoTokenizer, AutoModelForCasualLM, BloomConfig
from transformers.models.lboom.modeling_bloom import BloomBlock, build_alibi_tensor
model = "./bloom"
config = BloomConfig.from_pretrained(model_path)
device = 'cpu'

Результаты среды Transformers-cli:

• Код: Выделить всё

  transformers

  версия: 4.25.1
• Платформа: Linux-5.15.0-58-generic-x86_64-with-glibc2.35
• Версия Python: 3.10.6
• Версия Huggingface_hub: 0.11.1
• Версия PyTorch (GPU?): 1.13.1+cu117 (False)
• Версия Tensorflow (GPU?): 2.11.0 (False)
• Версия Flax (CPU?/GPU?/TPU?): не установлена (NA)
• Версия Jax: не установлена
• Версия JaxLib: не установлена
• Использовать графический процессор в скрипте?:
• Использовать распределенную или параллельную настройку в скрипте?: