Как настроить параметры прокси-сервера для Google Vertex AI Python SDK? ⇐ Python

[Anonymous]

Я пытаюсь настроить SDK Google Cloud Vertex AI Python (https://github.com/googleapis/python-aiplatform) для работы через корпоративный прокси-сервер в производственной среде.
Все сетевые подключения в моей среде должны маршрутизироваться через этот прокси-сервер.
Есть ли способ настроить его только для Google Vertex AI Python SDK, не мешая другим частям моего система или приложения?
Существует ли встроенный метод или рекомендуемый шаблон для настройки прокси-сервера для каждого экземпляра или клиента для Vertex AI Python SDK?
Мой текущий код Python: структурировано примерно так:

Код: Выделить всё

import vertexai

# ...
class VertexClient

def generate_stream(credentials, contents):
vertexai.init(project="...", location="...", credentials=credentials)
model = GenerativeModel("...")
generation_config = GenerationConfig(max_output_tokens=8192, temperature=1, top_p=0.05)
return model.generate_content(
contents=contents,
generation_config=generation_config,
stream=True)

Глобальная настройка прокси-сервера с использованием переменных среды (https_proxy, http_proxy) влияет на другие приложения и модули Kubernetes, что приводит к сбоям и нестабильности системы.
Я также попробовал установить, а затем удалить переменные среды программно в моем коде Python для каждого вызова методаgener_stream:

Код: Выделить всё

os.environ["https_proxy"] = "http://my-proxy:port"
os.environ["http_proxy"] = "http://my-proxy:port"

Я не совсем уверен, но считаю, что этот подход потенциально может создать проблемы, если я настрою и отключу среду таким образом.
Любой помощь или рекомендации будут оценены по достоинству!

Подробнее здесь: https://stackoverflow.com/questions/792 ... python-sdk