Как подключиться к удаленному HDFS ⇐ JAVA

[Anonymous]

Я пытаюсь подключиться к экземпляру HDFS, работающему на удаленном компьютере.

Я запускаю eclipse на компьютере с Windows, а HDFS работает на компьютере с Unix . Вот что я пробовал

Код: Выделить всё

         Configuration conf = new Configuration();
conf.set("fs.defaultFS", "hdfs://remoteHostName:portNumber");
DFSClient client = null;
System.out.println("try");
try
{
System.out.println("trying");
client = new DFSClient(conf);

System.out.println(client);
}
catch (IOException e) {

e.printStackTrace();
}

finally {
if(client!=null)
try {
client.close();
} catch (IOException e) {

e.printStackTrace();
}

}

но это дает мне следующее исключение

Код: Выделить всё

Exception in thread "main" java.lang.NoSuchMethodError: org.apache.hadoop.ipc.RPC.getProxy(Ljava/lang/Class;JLjava/net/InetSocketAddress;Lorg/apache/hadoop/security/UserGroupInformation;Lorg/apache/hadoop/conf/Configuration;Ljavax/net/SocketFactory;ILorg/apache/hadoop/io/retry/RetryPolicy;Z)Lorg/apache/hadoop/ipc/VersionedProtocol;
at org.apache.hadoop.hdfs.DFSClient.createRPCNamenode(DFSClient.java:135)
at org.apache.hadoop.hdfs.DFSClient.(DFSClient.java:280)
at org.apache.hadoop.hdfs.DFSClient.(DFSClient.java:245)
at org.apache.hadoop.hdfs.DFSClient.(DFSClient.java:235)
at org.apache.hadoop.hdfs.DFSClient.(DFSClient.java:226)

кстати, я получил номер порта из файла hdfs-site.xml на удаленном компьютере.

Есть этот подход правильный?

А не проще ли было бы сделать это на Python?

РЕДАКТИРОВАТЬ

Обратите внимание, что в моих окнах разархивированы двоичные файлы Hadoop, и я соответствующим образом установил переменную среды HADOOP_HOME. Может ли это быть причиной проблемы?

Подробнее здесь: https://stackoverflow.com/questions/336 ... emote-hdfs