Можно ли вызвать прокси -сервер Litellm, который не настроил учетные данные модели с помощью SDK Litellm Python с использованием учетных данных на стороне клиента? Заинтересованы в том, чтобы сделать это для Bedrock с клиентской стороной, а также Openai с явным ключом API, переданным на стороне клиента. Примеры в документах https://docs.litellm.ai/docs/proxy/clientside_auth reference extra_body param для клиента Openai, но это не то, что я вижу в завершении Litellm .
Подробнее здесь: https://stackoverflow.com/questions/796 ... rock-iam-o
Вызовите прокси -сервер Litellm с учетными данными Litellm SDK и клиентами (Bedrock Iam + Openai) ⇐ Python
-
- Похожие темы
- Ответы
- Просмотры
- Последнее сообщение