Я хочу запустить код, который сможет принимать данные с помощью драйвера jdbc и сохранять их в пути к файлу. Он успешно принял данные, но функция сохранения не сработала. Я знаю, что мы можем использовать такой код для сохранения данных:
a.write.mode("overwrite").parquet("test/partition_test.parquet")
Можно ли как-нибудь установить путь к файлу в качестве параметра? Я попытался установить параметр, как показано ниже, но это не сработало.
Мой код:
def ingest(spark, db_url, tablename, username, password,destination, driver, save_format="parquet"):
a = spark.read.format("jdbc").option("url",db_url).option("dbtable",tablename).option("user", username).option("password",password).option("path", destination).option("driver",driver).load()
return a
ingest(spark, "jdbc:mysql://192.168.122.1:3306/users", "users", "root", "123456@h21","/path", "com.mysql.jdbc.Driver", save_format="parquet")
Подробнее здесь: https://stackoverflow.com/questions/638 ... on-pyspark
Установка файла пути в качестве параметра не работала в Python pyspark ⇐ Python
Программы на Python
1766572552
Anonymous
Я хочу запустить код, который сможет принимать данные с помощью драйвера jdbc и сохранять их в пути к файлу. Он успешно принял данные, но функция сохранения не сработала. Я знаю, что мы можем использовать такой код для сохранения данных:
a.write.mode("overwrite").parquet("test/partition_test.parquet")
Можно ли как-нибудь установить путь к файлу в качестве параметра? Я попытался установить параметр, как показано ниже, но это не сработало.
Мой код:
def ingest(spark, db_url, tablename, username, password,destination, driver, save_format="parquet"):
a = spark.read.format("jdbc").option("url",db_url).option("dbtable",tablename).option("user", username).option("password",password).option("path", destination).option("driver",driver).load()
return a
ingest(spark, "jdbc:mysql://192.168.122.1:3306/users", "users", "root", "123456@h21","/path", "com.mysql.jdbc.Driver", save_format="parquet")
Подробнее здесь: [url]https://stackoverflow.com/questions/63824121/set-path-file-as-parameter-didn-t-work-in-python-pyspark[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия