Объект Java в кадре данных PySparkJAVA

Программисты JAVA общаются здесь
Ответить
Anonymous
 Объект Java в кадре данных PySpark

Сообщение Anonymous »

Я выполняю хранимую процедуру MySQL (код ниже) и пытаюсь преобразовать ее в фрейм данных pyspark.

Код: Выделить всё

driver_manager = spark._sc._gateway.jvm.java.sql.DriverManager
connection = driver_manager.getConnection(args["sql_server_jdbc_url"], database_username, database_user_password)

exec_statement = connection.prepareCall("EXEC SP")
exec_statement.execute()
result = exec_statement.getResultSet()
from pyspark.sql import SQLContext, DataFrame
sqlContext = SQLContext(sparkContext=spark.sparkContext, sparkSession=spark)
df = DataFrame(result, sqlContext)
df.printSchema()
df.printSchema не работает и выдает ошибку Py4JError: произошла ошибка при вызове o83.schema. Трассировка:
ищем указатели на то, как преобразовать результаты хранимой процедуры в фрейм данных pySpark.
Пробовал этот Pyspark Jupyter — фрейм данных, созданный в коде Java, а не в коде Python

Подробнее здесь: https://stackoverflow.com/questions/785 ... -dataframe
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «JAVA»