Вызовите прокси -сервер Litellm с учетными данными Litellm SDK и клиентами (Bedrock Iam + Openai)Python

Программы на Python
Ответить Пред. темаСлед. тема
Anonymous
 Вызовите прокси -сервер Litellm с учетными данными Litellm SDK и клиентами (Bedrock Iam + Openai)

Сообщение Anonymous »

Можно ли вызвать прокси -сервер Litellm, который не настроил учетные данные модели с помощью SDK Litellm Python с использованием учетных данных на стороне клиента? Заинтересованы в том, чтобы сделать это для Bedrock с клиентской стороной, а также Openai с явным ключом API, переданным на стороне клиента. Примеры в документах https://docs.litellm.ai/docs/proxy/clientside_auth reference extra_body param для клиента Openai, но это не то, что я вижу в завершении Litellm .

Подробнее здесь: https://stackoverflow.com/questions/796 ... rock-iam-o
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение

Вернуться в «Python»