Многопроцессорный imap Python выполняет итерацию по всему итерируемому объектуPython

Программы на Python
Ответить Пред. темаСлед. тема
Гость
 Многопроцессорный imap Python выполняет итерацию по всему итерируемому объекту

Сообщение Гость »


В своем коде я пытаюсь добиться следующего:
[*]Я получаю каждый результат сразу после завершения любого из процессов. [*]Следующую итерацию следует вызывать только тогда, когда это необходимо (если она будет преобразована в список, у меня возникнут проблемы с оперативной памятью)
Насколько мне известно, модуль imap from multiprocessing должен идеально подойти для этой задачи, но этот код:

импортировать ОС время импорта защита txt_iterator(): для меня в диапазоне (8): выход я print('итерируется', я) функция защиты (х): время.сон(5) вернуть х если __name__ == '__main__': импорт многопроцессорной обработки пул = multiprocessing.Pool(processes=4) для меня в пуле.imap(func, txt_iterator()): печать('P2', я) пул.закрытие() Имеет такой вывод:

повторяется 0 повторено 1 ... повторено 7 # 5-секундная пауза П2 0 П2 1 П2 2 П2 3 # 5-секундная пауза П2 4 П2 5 П2 6 П2 7 Это означает, что он перебирает всю итерацию и только потом начинает назначать задачи процессам. Насколько я смог найти в документации, такое поведение ожидается только от .map (часть итерации).

Ожидаемый результат (может отличаться, поскольку они выполняются одновременно, но суть вы поняли):

повторяется 0 ... повторено 3 # 5-секундная пауза П2 0 ... П2 3 повторено 4 ... повторено 7 # 5-секундная пауза П2 4 ... П2 7 Я уверен, что здесь что-то упускаю, но если я совершенно не понимаю, как работает эта функция, я был бы признателен за любую альтернативу, которая будет работать должным образом.
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение

Вернуться в «Python»