NotImplementedError: невозможно скопировать метатензор; нет данных ⇐ Python

[Anonymous]

base_model = AutoModelForCausalLM.from_pretrained( 'мета-лама/Лама-2-7b-чат-хф', токен=токен_доступа, Trust_remote_code = Верно, device_map="авто", torch_dtype=torch.float16, offload_folder="выгрузить/" ) модель = PeftModel.from_pretrained( базовая_модель, 'FinGPT/fingpt-forecaster_dow30_llama2-7b_lora', токен=токен_доступа, offload_folder="выгрузить/" ) модель = модель.оцен() После запуска этой модели в Google Colab я столкнулся с ошибкой:

NotImplementedError: невозможно скопировать метатензор; нет данных! Пожалуйста, попробуйте устранить ошибку

Я пытался изменить float16 на bfloat16 и float32, но все равно столкнулся с той же ошибкой.