Установка файла пути в качестве параметра не работала в Python pysparkPython

Программы на Python
Ответить
Anonymous
 Установка файла пути в качестве параметра не работала в Python pyspark

Сообщение Anonymous »

Я хочу запустить код, который сможет принимать данные с помощью драйвера jdbc и сохранять их в пути к файлу. Он успешно принял данные, но функция сохранения не сработала. Я знаю, что мы можем использовать такой код для сохранения данных:
a.write.mode("overwrite").parquet("test/partition_test.parquet")

Можно ли как-нибудь установить путь к файлу в качестве параметра? Я попытался установить параметр, как показано ниже, но это не сработало.
Мой код:
def ingest(spark, db_url, tablename, username, password,destination, driver, save_format="parquet"):
a = spark.read.format("jdbc").option("url",db_url).option("dbtable",tablename).option("user", username).option("password",password).option("path", destination).option("driver",driver).load()
return a

ingest(spark, "jdbc:mysql://192.168.122.1:3306/users", "users", "root", "123456@h21","/path", "com.mysql.jdbc.Driver", save_format="parquet")


Подробнее здесь: https://stackoverflow.com/questions/638 ... on-pyspark
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Python»