Мне нужно сделать следующее:
Проверить, включен ли сервер. Если да, я проверяю, работает ли кластер Spark на этом сервере, если он не работает, я попытайтесь запустить его, если он уже запущен, я перехожу к запуску задания Spark.
Я подумал о создании задачи, чтобы проверить, работает ли кластер Spark (возможно, пытаюсь запустить простое задание Spark). В случае сбоя я бы запустил задачу «Запустить кластер Spark».
Я использую Airflow, но не нашел способа запустить задачу в случае предыдущего один терпит неудачу. Кроме того, мне нужно будет проверить предыдущую задачу на случай успеха, чтобы она перешла к задаче задания Spark и пропустила задачу «Запустить кластер Spark».
Если Вы могли бы предоставить несколько образцов, это было бы здорово. Я пробовал использовать триггер_rule и оператор ветвления, но пока ничего не получилось. Возможно, потому, что в сети слишком мало примеров кода.
Спасибо
Подробнее здесь: https://stackoverflow.com/questions/420 ... he-airflow
Как запустить задачу, если предыдущая не удалась в Apache Airflow ⇐ Python
Программы на Python
-
Anonymous
1732604625
Anonymous
Мне нужно сделать следующее:
Проверить, включен ли сервер. Если да, я проверяю, работает ли кластер Spark на этом сервере, если он не работает, я попытайтесь запустить его, если он уже запущен, я перехожу к запуску задания Spark.
Я подумал о создании задачи, чтобы проверить, работает ли кластер Spark (возможно, пытаюсь запустить простое задание Spark). В случае сбоя я бы запустил задачу «Запустить кластер Spark».
Я использую Airflow, но не нашел способа запустить задачу в случае предыдущего один терпит неудачу. Кроме того, мне нужно будет проверить предыдущую задачу на случай успеха, чтобы она перешла к задаче задания Spark и пропустила задачу «Запустить кластер Spark».
Если Вы могли бы предоставить несколько образцов, это было бы здорово. Я пробовал использовать триггер_rule и оператор ветвления, но пока ничего не получилось. Возможно, потому, что в сети слишком мало примеров кода.
Спасибо
Подробнее здесь: [url]https://stackoverflow.com/questions/42059393/how-to-run-a-task-if-a-previous-one-fails-in-apache-airflow[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия