IIRC, com o método de rotação ip_hash, a ordem é importante. Nginx rouba o ip do cliente e envia os clientes para um dos itens da lista. Se você alterar a ordem, o ip_hash direcionará os clientes para outro nó upstream. De acordo com a recomendação aqui , deixo a lista inteira de servidores em seu arquivo o tempo todo e simplesmente marque-a ' down 'se estiver off-line.