При запуске Spark-trift-server с использованием < /p>
[*] java 1.8, < /li>
язвы-3,5,0-бин -Hadoop3 и < /li>
hadoop-3.3.6....
< /ul>
Spark-submit, показывающий, что задание отправлено, Запуск и завершен в течение нескольких секунд успешно, однако, получая ошибку, как показано ниже -< /p>
ERROR SparkContext: Error initializing SparkContext.
MultiException[java.lang.IllegalStateException: class org.apache.hadoop.yarn.server.webproxy.amfilter.AmIpFilter is not a javax.servlet.Filter, java.lang.IllegalStateException: class org.apache.hadoop.yarn.server.webproxy.amfilter.AmIpFilter is not a javax.servlet.Filter]
Suppressed: java.lang.IllegalStateException: class org.apache.hadoop.yarn.server.webproxy.amfilter.AmIpFilter is not a javax.servlet.Filter
[CIRCULAR REFERENCE:java.lang.IllegalStateException: class org.apache.hadoop.yarn.server.webproxy.amfilter.AmIpFilter is not a javax.servlet.Filter]
< /code>
На проверке, hadoop-yarn-server-web-proxy jar, обнаружил Hadoop-yarn-server-web-proxy-3.3.6.jar находится в Hadoop, а также в Spark Оба -> < /p>
$ jar -tf $SPARK_HOME/jars/hadoop-yarn-server-web-proxy-3.3.6.jar | grep AmIpFilter
Picked up _JAVA_OPTIONS: -Djava.io.tmpdir=/opt/disk1/tmp
org/apache/hadoop/yarn/server/webproxy/amfilter/AmIpFilter.class
$ jar -tf $HADOOP_HOME/share/hadoop/yarn/hadoop-yarn-server-web-proxy-3.3.6.jar | grep AmIpFilter
Picked up _JAVA_OPTIONS: -Djava.io.tmpdir=/opt/disk1/tmp
org/apache/hadoop/yarn/server/webproxy/amfilter/AmIpFilter.class
$ echo $HADOOP_CONF_DIR && echo $SPARK_HOME && echo $HADOOP_HOME
.../hadoop-3.3.6/etc/hadoop
.../spark-3.5.0-bin-hadoop3
.../hadoop-3.3.6
Подробнее здесь: https://stackoverflow.com/questions/792 ... er-webprox
Невозможно запустить Thrift-Server из-за класса org.apache.hadoop.yarn.server.webproxy.amfilter.amipfilter не javax.serv ⇐ JAVA
-
- Похожие темы
- Ответы
- Просмотры
- Последнее сообщение