Как устранить ошибку аутентификации мета-3b-инструкции при выполнении веб-приложения в облаке Streamlit с использованием ⇐ Python

[Anonymous]

Я создаю приложение в Streamlit Cloud, которое использует репозиторий GitHub для выполнения кода. Теперь я использую в коде модель обнимающего лица. У меня есть ключ API и разрешение для мета-3b-инструкции и 8b-инструкции. Когда я запускаю приложение в Streamlit Cloud, оно показывает следующую ошибку:

Ошибка ОС: вы пытаетесь получить доступ к закрытому репозиторию.
Убедитесь, что у вас есть доступ к нему по адресу
https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct.
401 Ошибка клиента. (Идентификатор запроса:
Root=1-67548f30-095cd98c1ddbd00c71f600a7;c0521d6a-9a16-4df8-a8b0-bffe17427f8e)
Невозможно получить доступ к закрытому репозиторию для URL
/>https://huggingface.co/meta-llama/Llama ... onfig.json
Доступ к модели мета-llama/Llama-3.2-3B-Instruct ограничен. Для доступа к нему вы должны иметь
доступ к нему и пройти аутентификацию. Пожалуйста, войдите в систему.
2024-12-07 18:08:50.428 Проверка пути поднятого torch.classes: попыталась создать экземпляр класса 'path.path', но это не так. не существует! Убедитесь, что он зарегистрирован через torch::class

Ниже приведен мой код. Я использую библиотеку LIDA для построения анализа данных. приложение:

Код: Выделить всё

text_gen = llm(
provider="hf",
model="meta-llama/Llama-3.2-3B-Instruct",
api_key=hf_api_key,
device_map="auto"
)
lida = Manager(text_gen=text_gen)

textgen_config = TextGenerationConfig(
n=1,
temperature=0,
model="meta-llama/Llama-3.2-3B-Instruct",
use_cache=use_cache
)
st.write("## Summary")

Мне нужна помощь в решении этой проблемы: идентификатор активен, и мне предоставлено разрешение на использование вышеуказанных метамоделей при обнимании лица.
Кроме того, у меня есть еще один вопрос: сколько места у меня есть в Streamlit Cloud для выполнения моей модели? Если вышеуказанная проблема решена, я не знаю, какую модель я могу скачать. Нужно ли кому-нибудь загружать эту модель каждый раз, когда он заходит на этот веб-сайт?
Я ожидаю, как решить эту проблему, а также какую модель я могу использовать, которая лучше всего впишется в пространство, доступное на Streamlit. Облако и GitHub.

Подробнее здесь: https://stackoverflow.com/questions/792 ... -web-app-o