Para remover o ponto único de falha, você pode fazer o seguinte:
1- Remova o balanceador de carga completamente e configure os servidores para trabalhar no modo ativo-passivo. Você pode usar o pacote heartbeat para o Linux. Nesse caso, você perde o poder de processamento de uma máquina e usa apenas uma como failover!
2- Instalar e configurar outro balanceador de carga. Os dois balanceadores de carga funcionarão no modo ativo-passivo. Além disso, a pulsação pode ser configurada em ambos os servidores (estou assumindo balanceadores de carga baseados em Linux). Isso é um pouco mais caro, pois requer um novo sistema.
3- Instale os dois balanceadores de carga nos mesmos sistemas debian. Então, você não precisa instalar um novo sistema. No entanto, isso pode não ser recomendado, pois complica os sistemas e combina mais serviços no mesmo servidor (o servidor já funciona como servidor da Web e servidor de banco de dados).