Я работаю с Apache Beam(2.62) и столкнулся с запутанным поведением DoFn.process() при использовании выходных данных из и TaggedOutput.
Когда функция do_something_ Second выдает несколько TaggedOutput, все работает нормально.
Но когда в функции do_something_first возникает исключение, и я пытаюсь получить TaggedOutput в блоке исключения, он не появляется в вывод.
Вот мой упрощенный код:
class MyTransform(PTransform):
def expand:
return input >> beam.ParDo(MyDoFn()).with_outputs(
"result-1",
"result-2",
"error",
)
class MyDoFn(DoFn):
def do_something_first(self):
# Get data from GCS Bucket
...
def do_something_second(self, element) -> Iterable[beam.TaggedOutput]:
# These works fine
yield beam.TaggedOutput("result-1", element)
yield beam.TaggedOutput("result-2", element)
def process(self, element)
try:
do_something_first()
yield from self.do_something_second(element)
except Exception:
# This log is printed
logger.error("Error while processing...")
# But this yield is ignored
yield beam.TaggedOutput("error", element)
Подробнее здесь: https://stackoverflow.com/questions/798 ... utput-in-e
Apache Beam: выход из работает для TaggedOutput, но выходной луч.TaggedOutput в исключении игнорируется ⇐ Python
Программы на Python
1762894262
Anonymous
Я работаю с Apache Beam(2.62) и столкнулся с запутанным поведением DoFn.process() при использовании выходных данных из и TaggedOutput.
Когда функция do_something_ Second выдает несколько TaggedOutput, все работает нормально.
Но когда в функции do_something_first возникает исключение, и я пытаюсь получить TaggedOutput в блоке исключения, он не появляется в вывод.
Вот мой упрощенный код:
class MyTransform(PTransform):
def expand:
return input >> beam.ParDo(MyDoFn()).with_outputs(
"result-1",
"result-2",
"error",
)
class MyDoFn(DoFn):
def do_something_first(self):
# Get data from GCS Bucket
...
def do_something_second(self, element) -> Iterable[beam.TaggedOutput]:
# These works fine
yield beam.TaggedOutput("result-1", element)
yield beam.TaggedOutput("result-2", element)
def process(self, element)
try:
do_something_first()
yield from self.do_something_second(element)
except Exception:
# This log is printed
logger.error("Error while processing...")
# But this yield is ignored
yield beam.TaggedOutput("error", element)
Подробнее здесь: [url]https://stackoverflow.com/questions/79817082/apache-beam-yield-from-works-for-taggedoutput-but-yield-beam-taggedoutput-in-e[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия