Uma maneira de fazer isso é usar o pacote pulsação . Instale-o nos dois servidores e configure-os no modo ativo-passivo. Se um servidor falhou, o outro estará pronto para atender aos usuários.
Para sistemas baseados no Debian, como o Ubuntu, você pode instalá-lo por:
$ sudo apt-get install heartbeat
Você pode usar três endereços IP para dois servidores. Um IP é atribuído para cada máquina e o terceiro IP (chamado VIP: IP virtual) é atribuído por pulsação ao servidor atualmente ativo. Os usuários acessarão o serviço fornecido por meio do VIP.