Ядро Jupyter аварийно завершает работу при загрузке локальной модели HuggingFace .safetensors с помощью AutoModelForCausPython

Программы на Python
Ответить
Anonymous
 Ядро Jupyter аварийно завершает работу при загрузке локальной модели HuggingFace .safetensors с помощью AutoModelForCaus

Сообщение Anonymous »

Я пытаюсь загрузить большую локальную модель Hugging Face (
./ltx-2-19b-dev.safetensors", формат .safetensors) внутри JupyterLab с помощью преобразователей, но ядро ​​сразу же аварийно завершает работу во время from_pretrained() без какой-либо обратной трассировки Python.
Когда я запускаю этот код:

Код: Выделить всё

from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "./ltx-2-19b-dev.safetensors"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)
Ядро немедленно перезагружается, и я получаю всплывающее окно с сообщением чего-то вроде:

Похоже, ядро ​​Untitled.ipynb умерло. Он перезапустится автоматически.

В записной книжке не отображается обратная трассировка Python — просто происходит сбой.
Почему AutoModelForCausalLM.from_pretrained() может привести к сбою ядра без обратной трассировки?

Подробнее здесь: https://stackoverflow.com/questions/798 ... el-with-au
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Python»