У меня есть задания PySpark, работающие в AWS EMR. Недавно я обновился (AWS EMR 6.4, Spark 3.1.2) и переключился на выполнение задания в докер-контейнере. С тех пор в журналах stdout появляются спорадические дампы потоков, которые начинаются с полного дампа потока OpenJDK 64-битной серверной виртуальной машины (смешанный режим 25.312-b07).
Мне не удалось выяснить, почему они происходят. В stderr нет связанных ошибок или предупреждений, и это не повлияет на задание. Однако эти дампы потоков затрудняют чтение журналов стандартного вывода, и я не смог понять, почему они происходят. Я пробовал использовать предыдущие версии AWS/EMR и даже более простые конфигурации EMR, так как я подозревал, что AWS EMR куда-то отправляет SIGQUIT, поскольку я не нашел в исходном коде Spark ничего, что могло бы это сделать (за исключением дампов потоков, инициируемых пользовательским интерфейсом Spark, и средства чтения задач Spark, которое отключено).
Не зная, что делать, я бы смирился с тем, чтобы дать JVM указание перенаправить этот поток сбрасывает или даже игнорирует для них сигнал, если это возможно. Я открыт для альтернативных предложений.
Я знаю о -Xrs, но подозреваю, что это не то, что мне нужно, поскольку это, скорее всего, приведет к завершению процесса при первом SIGQUIT.
Как перестать видеть дампы JVM Full Thread в журналах stdout заданий AWS EMR Spark? ⇐ JAVA
Программисты JAVA общаются здесь
1777808759
Anonymous
У меня есть задания PySpark, работающие в AWS EMR. Недавно я обновился (AWS EMR 6.4, Spark 3.1.2) и переключился на выполнение задания в докер-контейнере. С тех пор в журналах stdout появляются спорадические дампы потоков, которые начинаются с полного дампа потока OpenJDK 64-битной серверной виртуальной машины (смешанный режим 25.312-b07).
Мне не удалось выяснить, почему они происходят. В stderr нет связанных ошибок или предупреждений, и это не повлияет на задание. Однако эти дампы потоков затрудняют чтение журналов стандартного вывода, и я не смог понять, почему они происходят. Я пробовал использовать предыдущие версии AWS/EMR и даже более простые конфигурации EMR, так как я подозревал, что AWS EMR куда-то отправляет SIGQUIT, поскольку я не нашел в исходном коде Spark ничего, что могло бы это сделать (за исключением дампов потоков, инициируемых пользовательским интерфейсом Spark, и средства чтения задач Spark, которое отключено).
Не зная, что делать, я бы смирился с тем, чтобы дать JVM указание перенаправить этот поток сбрасывает или даже игнорирует для них сигнал, если это возможно. Я открыт для альтернативных предложений.
Я знаю о -Xrs, но подозреваю, что это не то, что мне нужно, поскольку это, скорее всего, приведет к завершению процесса при первом SIGQUIT.
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия