O balanceador de carga secundário não está lá para quando o primário não pode lidar com a carga, ele está lá como um failover redundante caso algo aconteça ao primário, o que o tornaria inoperante, como a necessidade de manutenção que o deixaria offline , uma fonte de alimentação com falha, discos rígidos com falha, componentes queimados e assim por diante.
Ter hardware redundante em geral é uma prática bastante comum para praticamente qualquer coisa que possa interromper um sistema de um dispositivo de alto nível para um componente de baixo nível desses dispositivos: controladores de domínio redundantes, balanceadores de carga, servidores da Web e servidores de banco de dados. firewalls, roteadores, switches - depois, há discos rígidos redundantes, fontes de alimentação, placas de rede, ventiladores e outros componentes que podem atuar como um único ponto de falha para qualquer sistema.
Em termos de balanceadores de carga de "backup" secundários, sim, isso é bastante comum, pois suas solicitações da Web atingirão o balanceador de carga primeiro e depois serão distribuídas para um servidor da web. Se um balanceador de carga ficar inativo, essas solicitações não serão distribuídas.
Isso pode ser útil para ler:
Como posso equilibrar o tráfego da Web recebido entre os servidores N apache?