Переместите данные из Postgres/MySQL в S3 с помощью AirflowPython

Программы на Python
Ответить
Anonymous
 Переместите данные из Postgres/MySQL в S3 с помощью Airflow

Сообщение Anonymous »

Мы пытаемся перейти от Pentaho Kettle к Apache AIrflow, чтобы реализовать ETL и централизовать все процессы обработки данных с помощью одного инструмента.

Мы используем Kettle для ежедневного чтения данных из баз данных Postgres/Mysql и перемещения данных в S3 -> Redshift.

Как проще всего это сделать? Я не вижу Оператора, который мог бы это сделать напрямую; Итак, следует ли мне использовать оператор MySQL/Postgres для помещения данных в локальный файл и оператор S3 для перемещения данных в S3?

Спасибо

Подробнее здесь: https://stackoverflow.com/questions/467 ... ng-airflow
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Python»