Способен выполнить сценарий pyspark в терминале pycharm, используя виртуальную среду, но выполнение не выполняется при зJAVA

Программисты JAVA общаются здесь
Ответить Пред. темаСлед. тема
Anonymous
 Способен выполнить сценарий pyspark в терминале pycharm, используя виртуальную среду, но выполнение не выполняется при з

Сообщение Anonymous »

/Users//spark/spark-3.5.2-bin-hadoop3/bin/spark-class: строка 71: /usr/libexec/java_home/bin/java: не каталог
/Users//spark/spark-3.5.2-bin-hadoop3/bin/spark-class: строка 97: CMD: неправильный индекс массива
head: неправильное количество строк - - -1

Код: Выделить всё

Traceback (most recent call last):
File "/Users//PycharmProjects/pythonPro/pp.py", line 5, in 
spark = SparkSession.builder \
File "/Users//PycharmProjects/pythonPro/lib/python3.8/site-packages/pyspark/sql/session.py", line 497, in getOrCreate
sc = SparkContext.getOrCreate(sparkConf)
File "/Users//PycharmProjects/pythonPro/lib/python3.8/site-packages/pyspark/context.py", line 515, in getOrCreate
SparkContext(conf=conf or SparkConf())
File "/Users//PycharmProjects/pythonPro/lib/python3.8/site-packages/pyspark/context.py", line 201, in __init__
SparkContext._ensure_initialized(self, gateway=gateway, conf=conf)
File "/Users//PycharmProjects/pythonPro/lib/python3.8/site-packages/pyspark/context.py", line 436, in _ensure_initialized
SparkContext._gateway = gateway or launch_gateway(conf)
File "/Users//PycharmProjects/pythonPro/lib/python3.8/site-packages/pyspark/java_gateway.py", line 107, in launch_gateway

Код: Выделить всё

    raise PySparkRuntimeError(
pyspark.errors.exceptions.base.PySparkRuntimeError: [JAVA_GATEWAY_EXITED] Java gateway process exited before sending its port number.
то же самое работает нормально в терминале (pycharm), я пробовал проверить переменные среды, PYTHONPATH, JAVA_HOME, SPARK_HOME, все они такие же, как настроены в zsh.
Я также добавил /bin/zsh -l в конфигурации, чтобы загружать настройки во время выполнения, но ничего не работает, пожалуйста, кто-нибудь может помочь с этим.
Я использую Mac OS
Я пробовал проверить переменные среды: PYTHONPATH, JAVA_HOME, SPARK_HOME, все они такие же, как настроено в zsh.
Я добавил /bin/zsh - l в конфигурациях, а также загружать настройки во время выполнения, но ничего не работает, пожалуйста, кто-нибудь может помочь с этим.

Подробнее здесь: https://stackoverflow.com/questions/790 ... but-execut
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение

Вернуться в «JAVA»