Symfony AI: Как добавить дополнительные модели для моста LM Studio?Php

Кемеровские программисты php общаются здесь
Anonymous
Symfony AI: Как добавить дополнительные модели для моста LM Studio?

Сообщение Anonymous »

Я работаю с Symfony AI и LM Studio Bridge для локального управления своими языковыми моделями.

Моя цель — добавлять собственные модели, которые не включены в каталог моделей Symfony по умолчанию.
Моя конфигурация YAML выглядит следующим образом:

Код: Выделить всё

ai:
platform:
lmstudio:
host_url: "http://127.0.0.1:1234"

agent:
test:
platform: 'ai.platform.lmstudio'
model: 'ministral-3-3b'
tools: false
Несмотря на то, что модель загружена в LM Studio, Symfony не обнаруживает ее.

Я создал собственный ModelCatalog:

Код: Выделить всё


Подробнее здесь: [url]https://stackoverflow.com/questions/79857625/symfony-ai-how-to-add-additional-models-for-the-lm-studio-bridge[/url]

Вернуться в «Php»