Код: Выделить всё
from transformers import AutoTokenizer
import transformers
import torch
model = "tiiuae/falcon-7b-instruct"
tokenizer = AutoTokenizer.from_pretrained(model)
pipeline = transformers.pipeline(
"text-generation",
model=model,
tokenizer=tokenizer,
torch_dtype=torch.bfloat16,
device_map="auto",
trust_remote_code=True
)
ValueError: загрузка tiiuae/falcon-7b-instruct требует выполнения
файла конфигурации в этом репозитории на вашем локальном компьютере. Убедитесь, что
вы прочитали код, чтобы избежать злонамеренного использования, а затем установите параметр
`trust_remote_code=True`, чтобы удалить эту ошибку.
Возможно, мне нужно установить переменную среды, чтобы удаленное выполнение кода работало? В документации по преобразователям мне не удалось найти ничего об этой ошибке.
Подробнее здесь: https://stackoverflow.com/questions/765 ... ot-working
Мобильная версия