Я хочу реализовать балансировку нагрузки в своей службе Python.
Это служба grpc. Когда поступают запросы, я хочу обработать запрос в процессе, потому что каждый запрос будет выполняться в графическом процессоре.
Итак, я создаю пул процессов, когда приходят запросы, помещаю запрос в очередь задач (многопроцессорная очередь) и использование задачи в пуле процессов. Поскольку запрос сервера grpc Python обрабатывается с использованием пула потоков, он помещает задачу в очередь задач в потоке, и ему нужно дождаться завершения задачи в этом потоке, и моя задача - это вся вычислительная задача, а не задача ввода-вывода. Итак, как я могу дождаться завершения этой задачи в потоке основного процесса после того, как я поместил задачу в очередь задач? поскольку GIL Python, ему нужна блокировка освобождения этого потока сразу после того, как он помещает задачу в очередь задач, и ему нужно, чтобы подпроцесс уведомил этот поток о завершении задачи.
как я могу это сделать?
возможно ли это в питоне?
Подробнее здесь: https://stackoverflow.com/questions/793 ... -in-python
Как синхронизировать и взаимодействовать между подпотоками и подпроцессами в Python? ⇐ Python
-
- Похожие темы
- Ответы
- Просмотры
- Последнее сообщение