Java é de fato uma linguagem multiplataforma e deve funcionar em qualquer plataforma ... mas ...
O Eclipse usa bibliotecas nativas para seu kit de ferramentas GUI; É provável que você não tenha uma compilação desses compilados para o ARM. Os binários nativos reais são encapsulados nos arquivos JAR fornecidos; é por isso que os pacotes do Eclipse vêm em sabores específicos da plataforma, mas a base do Eclipse não prepara builds do ARM.
Se você realmente quer o Eclipse no Ubuntu no ARM, você terá que construir o Eclipse, e suas bibliotecas nativas, para o ARM, você mesmo. Não tenho certeza de como isso é prático sem uma certa quantidade de pesquisa.