A única maneira de balancear a carga no nginx é ter um único frontend (proxy reverso) dos servidores back-end de balanceamento de carga do host.
A idéia / hipótese por trás desse design é que a carga acontecerá apenas no backend e que o seu único ponto de entrada sempre será capaz de lidar com qualquer tráfego com o qual ele deveria lidar, pois ele simplesmente redireciona e nunca processa nada em si.
O que você está falando é, na verdade, failover , não balanceamento de carga . Sua preocupação é a falha do seu único ponto de entrada.
Como @coding_hero explicou, isso não tem nada a ver com o nginx, é algo a ser tratado nas camadas subjacentes (OS / network).
Uma maneira de fazer isso pode ser lida na página seguinte (exemplo antigo falando sobre oldstable do Debian, porém, os comandos podem precisar ser atualizados): link . O Heartbeat é uma tecnologia bem conhecida que permite que vários servidores idênticos monitorem uns aos outros, elegendo um mestre e reprovando para escravos com o necessário.
Você ainda tem hardware de rede dedicado fazendo o mesmo trabalho redirecionando o tráfego (ou talvez reconfigurando roteadores dinamicamente para redirecionar?) para o mestre atualmente eleito.