Как упаковать сценарий Pyspark + Delta Lake в Exe с PyinstallerPython

Программы на Python
Ответить Пред. темаСлед. тема
Anonymous
 Как упаковать сценарий Pyspark + Delta Lake в Exe с Pyinstaller

Сообщение Anonymous »

Я пытаюсь преобразовать свой сценарий pyspark в исполняемый (.exe) файл с использованием Pyinstaller.
Сценарий работает нормально в Python, но после конвертации в EXE и выполнение его, я получаю следующую ошибку: < /p>

Код: Выделить всё

 'JavaPackage' object is not callable
Traceback (most recent call last):
File "job8.py", line 34, in 
.getOrCreate()
File "pyspark\sql\session.py", line 559, in getOrCreate
File "pyspark\sql\session.py", line 635, in __init__
TypeError: 'JavaPackage' object is not callable
< /code>
Вот мой фрагмент кода pyspark: < /p>
import logging
import traceback
from pyspark.sql import SparkSession
from pyspark.sql import functions as F
import re
import time
from pyspark.sql.functions import to_date, col, to_timestamp, trim

log_file = "C:\\BI\\Data\\gdelta_job.log"
logging.basicConfig(
filename=log_file,
level=logging.INFO,
format='%(asctime)s - %(levelname)s - %(message)s'
)

try:
spark = SparkSession \
.builder \
.appName("Delta with PySpark") \
.config('spark.jars.packages', 'io.delta:delta-spark_2.12:3.1.0') \
.config("spark.sql.extensions", "io.delta.sql.DeltaSparkSessionExtension") \
.config("spark.sql.catalog.spark_catalog", "org.apache.spark.sql.delta.catalog.DeltaCatalog") \
.config("spark.sql.legacy.timeParserPolicy", "LEGACY") \
.config("spark.driver.memory", "4g") \
.config("spark.sql.warehouse.dir", "C:\\BI\\Data\\") \
.master("local[*]") \
.enableHiveSupport() \
.getOrCreate()

except Exception as e:
print(e)
logging.error(f"Spark job failed: {e}")
< /code>
А вот команда Pyinstaller, которую я использовал для преобразования скрипта: < /p>
pyinstaller --onefile Job8.py ^
--add-data "C:\BI\Program Files\Python\Python310\Lib\site-packages\pyspark\errors;pyspark\errors"
Не могли бы вы помочь разрешить ошибку и преобразовать в файл exe

Подробнее здесь: https://stackoverflow.com/questions/797 ... yinstaller
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение
  • Подключение и аутентификация к Delta Lake в Azure Data Lake Storage Gen 2 с использованием API Python delta-rs
    Anonymous » » в форуме Python
    0 Ответы
    36 Просмотры
    Последнее сообщение Anonymous
  • Azure Data Lake Gen 2 и Python копируют файлы в папках Data Lake
    Anonymous » » в форуме Python
    0 Ответы
    77 Просмотры
    Последнее сообщение Anonymous
  • Запись формата Delta в Data Lake в AWS S3
    Anonymous » » в форуме Python
    0 Ответы
    38 Просмотры
    Последнее сообщение Anonymous
  • Как создать дельта-таблицу с помощью автономного озера Delta Lake и записать данные
    Anonymous » » в форуме JAVA
    0 Ответы
    20 Просмотры
    Последнее сообщение Anonymous
  • Delta Lake для настройки ноутбуков AWS Glue
    Anonymous » » в форуме Python
    0 Ответы
    8 Просмотры
    Последнее сообщение Anonymous

Вернуться в «Python»