Symfony AI: Как добавить дополнительные модели для моста LM Studio?Php

Кемеровские программисты php общаются здесь
Ответить
Anonymous
 Symfony AI: Как добавить дополнительные модели для моста LM Studio?

Сообщение Anonymous »

Я работаю с Symfony AI и LM Studio Bridge для локального управления своими языковыми моделями.

Моя цель — добавлять собственные модели, которые не включены в каталог моделей Symfony по умолчанию.
Моя конфигурация YAML выглядит следующим образом:

Код: Выделить всё

ai:
platform:
lmstudio:
host_url: "http://127.0.0.1:1234"

agent:
test:
platform: 'ai.platform.lmstudio'
model: 'ministral-3-3b'
tools: false
Несмотря на то, что модель загружена в LM Studio, Symfony не обнаруживает ее.

Я создал собственный ModelCatalog:

Код: Выделить всё


Подробнее здесь: [url]https://stackoverflow.com/questions/79857625/symfony-ai-how-to-add-additional-models-for-the-lm-studio-bridge[/url]
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Php»