existe um formato de pacote comum para o envio de arquivos compilados (não de fontes) no Redhat Linux, IBM AIX e Solaris?
Infelizmente, não. Pelo menos não de uma maneira que se integre com os pacotes de sistema "padrão". Já vi pacotes RPM no AIX, ele é usado principalmente para instalar pacotes de código aberto lá. E o empacotamento está completamente morto no Solaris. Existem melhorias no OpenSolaris, mas ainda não são amigáveis entre plataformas.
Embora todas as três variantes Unix mencionadas sejam executadas na arquitetura x86 (e outras), é mais provável que você execute o AIX no PowerPC, o Solaris no SPARC e o RedHat no x86. Sendo esse o caso, um único pacote para um determinado aplicativo seria bastante grande na tentativa de lidar com várias versões do sistema operacional e vários conjuntos de instruções.
O que nos coloca de volta no modo clássico do Unix: tarballs de código-fonte ou scripts shar, com make config e make install para lidar com as dependências do sistema operacional em um nível de CLI, sem tentar fazer detalhes de baixo nível.
Não, o RPM é principalmente específico do Linux e os formatos binários são diferentes em todas as três plataformas. Você não pode usar um único pacote para direcioná-los. O mais próximo que você será capaz de obter é um script de shell com os dados codificados dentro dele. A Sun faz algo semelhante com seu instalador Java para Linux. Efetivamente, quando você executa o script de shell, ele grava um tarball em disco, depois extrai esse tarball e executa a instalação.