Eu não sei nada sobre o AIX. Com base em algumas pesquisas rápidas, eu provavelmente diria que não.
Primeiro, a biblioteca compartilhada teria que estar no formato ELF comumente usado, suportado pelo Linux e outros. Com base em algumas pesquisas rápidas no Google, parece que o AIX provavelmente usou o COFF. Então isso é um ataque.
Então, é claro, as arquiteturas teriam que combinar. Você não especificou qual arquitetura está usando, então verifiquei a lista de arquiteturas suportadas no AIX. Infelizmente, não espero que nenhuma delas seja uma escolha popular para rodar o Linux (o PowerPC é o único potencialmente plausível). Então isso é greve dois.
Finalmente, você provavelmente precisaria ter sorte com as ABIs usadas pela biblioteca compartilhada. Toda função que a biblioteca chamar em libc e outras dependências teria que existir também no Linux com exatamente a mesma ABI. A maioria das funções POSIX são, na verdade, provavelmente correspondências, mas só é necessária uma função ausente para obter uma falha de link ... Então, isso é três.