У меня возникла ошибка аутентификации мета-3b-инструкции при выполнении моего веб-приложения в облаке с потоковым освеще ⇐ Python

[Anonymous]

Я создаю приложение в облакеstreamlit, которое использует репозиторий GitHub для выполнения кода. Теперь я использую в коде модель обнимающего лица. У меня есть ключ API и разрешение, предоставленное для мета-3b-Instruct и 8b-instruct. Когда я запускаю приложение в облаке с потоковым освещением, оно показывает эту ошибку.
Ошибка ОС: вы пытаетесь получить доступ к закрытому репозиторий.
Убедитесь, что у вас есть доступ к нему по адресу
https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct.
401 Ошибка клиента. (Идентификатор запроса:
Root=1-67548f30-095cd98c1ddbd00c71f600a7;c0521d6a-9a16-4df8-a8b0-bffe17427f8e)
Невозможно получить доступ к закрытому репозиторию для URL
/>https://huggingface.co/meta-llama/Llama ... onfig.json
Доступ к модели мета-llama/Llama-3.2-3B-Instruct ограничен. Для доступа к нему вы должны иметь
доступ к нему и пройти аутентификацию. Пожалуйста, войдите в систему.
2024-12-07 18:08:50.428 Проверка пути поднятого torch.classes: попыталась создать экземпляр класса 'path.path', но это не так. не существует! Убедитесь, что он зарегистрирован через torch::class
Ниже приведен мой код. Я использую библиотеку LIDA для создания приложения для анализа данных.

Код: Выделить всё

text_gen = llm(
provider="hf",
model="meta-llama/Llama-3.2-3B-Instruct",
api_key=hf_api_key,
device_map="auto"
)
lida = Manager(text_gen=text_gen)

textgen_config = TextGenerationConfig(
n=1,
temperature=0,
model="meta-llama/Llama-3.2-3B-Instruct",
use_cache=use_cache
)

st.write("## Summary")`

Нужна помощь в решении этой проблемы, идентификатор активен, и мне предоставлено разрешение на использование вышеуказанных метамоделей для обнимания лица.
Также У меня есть еще один вопрос: сколько у меня есть стримлит-облака для выполнения моей модели. Если описанная выше проблема будет решена, я не знаю, какую модель я смогу загрузить.
Нужно ли кому-нибудь загружать модель каждый раз, когда они заходят на этот веб-сайт?
Я ожидаю, как решить эту проблему проблема, а также какую модель я могу использовать, которая лучше всего подойдет для пространства, доступного в облакеstreamlit и github.

Подробнее здесь: https://stackoverflow.com/questions/792 ... n-streamli