Модель:
nvidia/Mistral-NeMo-12B-Instruct
и ссылку на Huggingface nvidia/Mistral-NeMo-12B-Instruct
На большинстве страниц моделей в Huggingface есть пример кода Python...
но на этой странице модели его нет есть пример кода.
Как запустить эту модель на Python?
Это пример кода для некоторой модели:
# Use a pipeline as a high-level helper
from transformers import pipeline
messages = [
{"role": "user", "content": "Who are you?"},
]
pipe = pipeline("text-generation", model="mistralai/Mistral-Nemo-Instruct-2407")
pipe(messages)
Подробнее здесь: https://stackoverflow.com/questions/787 ... nd-mistral
