Я пытаюсь выполнить операции с привязкой к ЦП в неблокирующем стиле, используя ProcessPoolExector из модуля concurrent.futures и функции asyncio.get_running_loop().
У меня есть работающая функция Операции, связанные с процессором, с полярами под капотом. Вторая функция запускает первую функцию в ProcessPool, используя цикл asyncio. Приведет ли это к ухудшению производительности или функции, реализованные таким образом, будут выполняться в отдельных процессах и все будет в порядке?
def process_zip_file(file: ZipFile):
try:
csv_files = unzip_file(file)
except Exception as e:
raise ZipfileProcessingError("Error unzipping file.")
try:
dataframes = create_dataframes(csv_files) # polars operations under the hood
concat_df = concat_dataframes(dataframes, file.filename)
return concat_df
except Exception as e:
module_logging.error(e)
raise DataframeProcessingErorr("Error processing csv files.")
async def process_zip_file_concurrent(zip_file: ZipFile):
loop = asyncio.get_running_loop()
with ProcessPoolExecutor(max_workers=4) as excecutor:
result = await loop.run_in_executor(excecutor, process_zip_file, zip_file)
return result
Подробнее здесь: https://stackoverflow.com/questions/792 ... -in-asynci
Правильно ли запускать операцию с привязкой к ЦП с использованием ProcessPoolExecutor в цикле asyncio? ⇐ Python
Программы на Python
1732825767
Anonymous
Я пытаюсь выполнить операции с привязкой к ЦП в неблокирующем стиле, используя ProcessPoolExector из модуля concurrent.futures и функции asyncio.get_running_loop().
У меня есть работающая функция Операции, связанные с процессором, с полярами под капотом. Вторая функция запускает первую функцию в ProcessPool, используя цикл asyncio. Приведет ли это к ухудшению производительности или функции, реализованные таким образом, будут выполняться в отдельных процессах и все будет в порядке?
def process_zip_file(file: ZipFile):
try:
csv_files = unzip_file(file)
except Exception as e:
raise ZipfileProcessingError("Error unzipping file.")
try:
dataframes = create_dataframes(csv_files) # polars operations under the hood
concat_df = concat_dataframes(dataframes, file.filename)
return concat_df
except Exception as e:
module_logging.error(e)
raise DataframeProcessingErorr("Error processing csv files.")
async def process_zip_file_concurrent(zip_file: ZipFile):
loop = asyncio.get_running_loop()
with ProcessPoolExecutor(max_workers=4) as excecutor:
result = await loop.run_in_executor(excecutor, process_zip_file, zip_file)
return result
Подробнее здесь: [url]https://stackoverflow.com/questions/79235235/is-this-correct-to-run-a-cpu-bound-operation-using-processpoolexecutor-in-asynci[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия