У меня есть задание aws Glue Python, которое объединяет две таблицы Aurora и записывает/принимает выходные данные в корзину s3 в формате json. Работа работает нормально, как и ожидалось. По умолчанию выходной файл записывается в корзину s3 в формате/шаблоне этого имени "run-123456789-part-r-00000" [За сценой выполняется код pyspark в кластере Hadoop, поэтому имя файла похоже на Hadoop]
Теперь мой вопрос заключается в том, как написать файл с определенным именем, например "Customer_Transaction.json", а не "run-***-part****"
Я попробовал преобразовать в DataFrame, а затем записать в формате JSON, как показано ниже, но не помогло
customerDF.repartition(1).write.mode("overwrite").json("s3://bucket/aws-glue/Customer_Transaction.json")
Подробнее здесь: https://stackoverflow.com/questions/501 ... cific-name
Как записать вывод файла AWS Glue под определенное имя ⇐ Python
Программы на Python
-
Anonymous
1768475230
Anonymous
У меня есть задание aws Glue Python, которое объединяет две таблицы Aurora и записывает/принимает выходные данные в корзину s3 в формате json. Работа работает нормально, как и ожидалось. По умолчанию выходной файл записывается в корзину s3 в формате/шаблоне этого имени "run-123456789-part-r-00000" [За сценой выполняется код pyspark в кластере Hadoop, поэтому имя файла похоже на Hadoop]
Теперь мой вопрос заключается в том, как написать файл с определенным именем, например "Customer_Transaction.json", а не "run-***-part****"
Я попробовал преобразовать в DataFrame, а затем записать в формате JSON, как показано ниже, но не помогло
customerDF.repartition(1).write.mode("overwrite").json("s3://bucket/aws-glue/Customer_Transaction.json")
Подробнее здесь: [url]https://stackoverflow.com/questions/50183775/how-to-write-aws-glue-file-output-to-a-specific-name[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия