Многопроцессорный imap Python выполняет итерацию по всему итерируемому объекту ⇐ Python
Многопроцессорный imap Python выполняет итерацию по всему итерируемому объекту
В своем коде я пытаюсь добиться следующего:
[*]Я получаю каждый результат сразу после завершения любого из процессов. [*]Следующую итерацию следует вызывать только тогда, когда это необходимо (если она будет преобразована в список, у меня возникнут проблемы с оперативной памятью)
Насколько мне известно, модуль imap from multiprocessing должен идеально подойти для этой задачи, но этот код:
импортировать ОС время импорта защита txt_iterator(): для меня в диапазоне (8): выход я print('итерируется', я) функция защиты (х): время.сон(5) вернуть х если __name__ == '__main__': импорт многопроцессорной обработки пул = multiprocessing.Pool(processes=4) для меня в пуле.imap(func, txt_iterator()): печать('P2', я) пул.закрытие() Имеет такой вывод:
повторяется 0 повторено 1 ... повторено 7 # 5-секундная пауза П2 0 П2 1 П2 2 П2 3 # 5-секундная пауза П2 4 П2 5 П2 6 П2 7 Это означает, что он перебирает всю итерацию и только потом начинает назначать задачи процессам. Насколько я смог найти в документации, такое поведение ожидается только от .map (часть итерации).
Ожидаемый результат (может отличаться, поскольку они выполняются одновременно, но суть вы поняли):
повторяется 0 ... повторено 3 # 5-секундная пауза П2 0 ... П2 3 повторено 4 ... повторено 7 # 5-секундная пауза П2 4 ... П2 7 Я уверен, что здесь что-то упускаю, но если я совершенно не понимаю, как работает эта функция, я был бы признателен за любую альтернативу, которая будет работать должным образом.
В своем коде я пытаюсь добиться следующего:
[*]Я получаю каждый результат сразу после завершения любого из процессов. [*]Следующую итерацию следует вызывать только тогда, когда это необходимо (если она будет преобразована в список, у меня возникнут проблемы с оперативной памятью)
Насколько мне известно, модуль imap from multiprocessing должен идеально подойти для этой задачи, но этот код:
импортировать ОС время импорта защита txt_iterator(): для меня в диапазоне (8): выход я print('итерируется', я) функция защиты (х): время.сон(5) вернуть х если __name__ == '__main__': импорт многопроцессорной обработки пул = multiprocessing.Pool(processes=4) для меня в пуле.imap(func, txt_iterator()): печать('P2', я) пул.закрытие() Имеет такой вывод:
повторяется 0 повторено 1 ... повторено 7 # 5-секундная пауза П2 0 П2 1 П2 2 П2 3 # 5-секундная пауза П2 4 П2 5 П2 6 П2 7 Это означает, что он перебирает всю итерацию и только потом начинает назначать задачи процессам. Насколько я смог найти в документации, такое поведение ожидается только от .map (часть итерации).
Ожидаемый результат (может отличаться, поскольку они выполняются одновременно, но суть вы поняли):
повторяется 0 ... повторено 3 # 5-секундная пауза П2 0 ... П2 3 повторено 4 ... повторено 7 # 5-секундная пауза П2 4 ... П2 7 Я уверен, что здесь что-то упускаю, но если я совершенно не понимаю, как работает эта функция, я был бы признателен за любую альтернативу, которая будет работать должным образом.
-
- Похожие темы
- Ответы
- Просмотры
- Последнее сообщение
-
-
Есть ли какая-либо причина предпочитать переменный параметр итерируемому типу?
Anonymous » » в форуме Php - 0 Ответы
- 17 Просмотры
-
Последнее сообщение Anonymous
-
-
-
Itertools.islice выполняет итерацию по вводу, даже если остановка меньше, чем начало
Anonymous » » в форуме Python - 0 Ответы
- 31 Просмотры
-
Последнее сообщение Anonymous
-
-
-
Itertools.islice выполняет итерацию по вводу, даже если остановка меньше, чем начало
Anonymous » » в форуме Python - 0 Ответы
- 17 Просмотры
-
Последнее сообщение Anonymous
-