Multilib é a ideia de ter lado a lado 64 e 32 bits em um sistema. Para ser de 64 bits, um processo deve usar exclusivamente bibliotecas de 64 bits. Se uma ou mais bibliotecas necessárias não estiverem disponíveis em 64 bits, o aplicativo será executado no modo de 32 bits. Essas bibliotecas são separadas em dois diretórios / lib separados: um para 64 bits e outro para 32 bits.
O ideal é que você execute quase tudo em 64 bits. De fato, se você sabe que tudo o que vai rodar é de 64 bits, algumas distros (minha experiência é com o Gentoo) permitem que você desative o multilib e diminua o tamanho da instalação.
A Red Hat não tem o equivalente a ia32-libs. Você precisa instalar as versões de 32 bits do software que você precisa usando o yum:
yum install <package>.i586
Você pode usar ldd para determinar as dependências da biblioteca e, em seguida, usar yum provides para procurar o pacote apropriado.
Por fim, verifique se você está usando um JRE de 64 bits. Eu normalmente não uso JREs ou JDs não-Oracle, então não tenho certeza de como o OpenJDK / IBM / etc. pacotes são manipulados, mas com o Oracle é uma simples questão de escolher a versão correta para fazer o download.