Hadoop 2.6.0: Erro básico “iniciando MRAppMaster” após a instalação

Question

Acabei de começar a trabalhar com o Hadoop 2.

Após a instalação com configurações básicas, eu sempre falhei em executar qualquer exemplo. Alguém viu esse problema e por favor me ajude?

E o erro é algo como

Error starting MRAppMaster
java.lang.RuntimeException: java.lang.reflect.InvocationTargetException

Este é o log

20152015-01-06 11:56:23,194 INFO [main] org.apache.hadoop.mapreduce.v2.app.MRAppMaster: Created MRAppMaster for application appattempt_1420510526926_0002_000001
2015-01-06 11:56:23,362 FATAL [main] org.apache.hadoop.mapreduce.v2.app.MRAppMaster: Error starting MRAppMaster

java.lang.RuntimeException: java.lang.reflect.InvocationTargetException
at org.apache.hadoop.util.ReflectionUtils.newInstance(ReflectionUtils.java:131)
at org.apache.hadoop.security.Groups.<init>(Groups.java:70)
at org.apache.hadoop.security.Groups.<init>(Groups.java:66)
at org.apache.hadoop.security.Groups.getUserToGroupsMappingService(Groups.java:280)
at org.apache.hadoop.security.UserGroupInformation.initialize(UserGroupInformation.java:271)
at org.apache.hadoop.security.UserGroupInformation.setConfiguration(UserGroupInformation.java:299)
at org.apache.hadoop.mapreduce.v2.app.MRAppMaster.initAndStartAppMaster(MRAppMaster.java:1473)
at org.apache.hadoop.mapreduce.v2.app.MRAppMaster.main(MRAppMaster.java:1429)

Caused by: java.lang.reflect.InvocationTargetException
at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)
at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstructorAccessorImpl.java:62)
at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:45)
at java.lang.reflect.Constructor.newInstance(Constructor.java:408)
at org.apache.hadoop.util.ReflectionUtils.newInstance(ReflectionUtils.java:129)
... 7 more

Caused by: java.lang.UnsatisfiedLinkError: org.apache.hadoop.security.JniBasedUnixGroupsMapping.anchorNative()V
at org.apache.hadoop.security.JniBasedUnixGroupsMapping.anchorNative(Native Method)
at org.apache.hadoop.security.JniBasedUnixGroupsMapping.<clinit>(JniBasedUnixGroupsMapping.java:49)
at org.apache.hadoop.security.JniBasedUnixGroupsMappingWithFallback.<init>(JniBasedUnixGroupsMappingWithFallback.java:39)
... 12 more

2015-01-06 11:56:23,366 INFO [main] org.apache.hadoop.util.ExitUtil: Exiting with status 1

    

Answer 1

Mensagens de erro: "Erro ao iniciar o MRAppMaster", "InvocationTargetException", "UnsatisfiedLinkError"

Causa raiz: Falha ao executar a função nativa "anchorNative" na classe "org.apache.hadoop.security.JniBasedUnixGroupsMapping"

Descrição: a função "anchorNative" chamará uma função na biblioteca "libhadoop.so". O caminho desta biblioteca é especificado por estas variáveis de ambiente:

export JAVA_LIBRARY_PATH
export HADOOP_COMMON_LIB_NATIVE_DIR

No código-fonte do Hadoop, imprima o caminho da classe da biblioteca java

System.err.println( (System.getProperty("java.library.path") );

# result
/home/maidinh/hadoop2/build/hadoop-2.6.0-src/hadoop-dist/target/hadoop-2.6.0/lib/native:
/usr/java/packages/lib/amd64:
/usr/lib64:
/lib64:
/lib:
/usr/lib

Versões diferentes da biblioteca "libhadoop.so" podem ser encontradas nesses locais que causam um conflito.

Solução: Exceto o caminho certo da biblioteca nativa (em hadoop-2.6.0 / lib / native), exclua todos os "libhadoop.so" em outros diretórios.

Notas: exclua todas as bibliotecas relacionadas do hadoop

rm -r libhadoop*
rm -r libhdfs*