Рэй устанавливает максимальное количество потоков на клиенте grpc, ссылка на код: https://github.com/ray-project/ray/blob ... #L112-L129
Я не понимаю, почему номер темы должен быть настроено на стороне клиента, и имеет ли это какой-либо эффект.
Насколько я понимаю:
Аргумент сделан в пользу грпк-сервер. Потоки распределяются на стороне сервера, по умолчанию каждый запрос grpc обрабатывается отдельным потоком, исходящим из пула потоков, поддерживаемого внутри; квота, указанная в коде, ограничивает максимальное количество ресурсов потока.
На стороне клиента, за исключением потока опроса (все вызовы синхронизации grpc построены на асинхронном вызове, который создает цикл событий в потоке опроса), я не уверен, зачем нужны другие потоки, поскольку он использует HTTP/2 и мультиплексирование ввода-вывода.
Рэй устанавливает максимальное количество потоков на клиенте grpc, ссылка на код: https://github.com/ray-project/ray/blob/2e4a126deecf84d2930ad772e763e206e2f5f7d2/src/ray/rpc/grpc_client.h#L112-L129 Я не понимаю, почему номер темы должен быть настроено на стороне клиента, и имеет ли это какой-либо эффект. Насколько я понимаю: [list] [*]Аргумент сделан в пользу грпк-сервер. Потоки распределяются на стороне сервера, по умолчанию каждый запрос grpc обрабатывается отдельным потоком, исходящим из пула потоков, поддерживаемого внутри; квота, указанная в коде, ограничивает максимальное количество ресурсов потока. [*]На стороне клиента, за исключением потока опроса (все вызовы синхронизации grpc построены на асинхронном вызове, который создает цикл событий в потоке опроса), я не уверен, зачем нужны другие потоки, поскольку он использует HTTP/2 и мультиплексирование ввода-вывода. [/list]