Мое приложение Python постоянно работает в модуле K8s в среде AWS поверх ОС Linux на базе Alpine. Он потребляет данные из Kafka и сохраняет их в очереди. Другой поток получает данные из очереди и запускает многопроцессорную обработку (5 параллельных процессов). Каждый рабочий процесс выполняет некоторую предварительную обработку (вычисления по фреймам данных и сохранение в базе данных) над своими соответствующими фреймами данных и возвращается к основному процессу после выполнения своей работы. Теперь проблема в том, что использование памяти внутри модуля постоянно увеличивается, когда я использую верхний модуль kubectl. В Windows, в pycharm я не вижу такой проблемы. В основном это связано с созданием и манипулированием кадрами данных. Существует один глобальный кеш, который также является фреймом данных.
Я пробовал это до сих пор, но пока безуспешно:
1.) Удалены фреймы данных после их использования.
2.) gc. Collect()
3.) malloc_trim() не работает в ОС Alpine
Я выделил 5 ГБ каждому поду (работает 2 пода). Я не уверен, почему возникает эта проблема. Для меня это вопрос жизни и смерти. Кто-нибудь, спасите меня!!!
Подробнее здесь: https://stackoverflow.com/questions/793 ... rnetes-pod
Приложение Python не выпускает память в капсуле Kubernetes ⇐ Linux
-
Anonymous
1737874245
Anonymous
Мое приложение Python постоянно работает в модуле K8s в среде AWS поверх ОС Linux на базе Alpine. Он потребляет данные из Kafka и сохраняет их в очереди. Другой поток получает данные из очереди и запускает многопроцессорную обработку (5 параллельных процессов). Каждый рабочий процесс выполняет некоторую предварительную обработку (вычисления по фреймам данных и сохранение в базе данных) над своими соответствующими фреймами данных и возвращается к основному процессу после выполнения своей работы. Теперь проблема в том, что использование памяти внутри модуля постоянно увеличивается, когда я использую верхний модуль kubectl. В Windows, в pycharm я не вижу такой проблемы. В основном это связано с созданием и манипулированием кадрами данных. Существует один глобальный кеш, который также является фреймом данных.
Я пробовал это до сих пор, но пока безуспешно:
1.) Удалены фреймы данных после их использования.
2.) gc. Collect()
3.) malloc_trim() не работает в ОС Alpine
Я выделил 5 ГБ каждому поду (работает 2 пода). Я не уверен, почему возникает эта проблема. Для меня это вопрос жизни и смерти. Кто-нибудь, спасите меня!!!
Подробнее здесь: [url]https://stackoverflow.com/questions/79388107/python-application-not-releasing-memory-in-kubernetes-pod[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия