Parece que você está procurando uma solução GSLB (Global Server Load Balancing). O GSLB geralmente usa DNS "inteligente" para direcionar os usuários para diferentes servidores com base em vários parâmetros (por exemplo, servidor indisponível, alta carga, localização geográfica por ip, etc).
Por exemplo, digamos que você tenha dois servidores da Web, um para o oeste (10.10.10.1/24) e um para o leste (10.20.20.1/24). Digamos que seu nome de host seja www.connect.com.
O GSLB pode ser configurado para ser seu DNS ou como um CNAME. De qualquer forma, um usuário digita em www.connect.com, a consulta dns é direcionada para a solução GSLB e responde com 10.10.10.1 ou 10.20.20.1 dependendo dos parâmetros. O GSLB geralmente define um TTL baixo para que o host / navegador do cliente armazene em cache a resposta pelo menor tempo possível. Existem diferentes maneiras de abordar a persistência, mas isso vai além do escopo deste cenário.
Digamos que o servidor web do leste (10.20.20.1) fique inativo. O GSLB geralmente implementa verificações de integridade para verificar a integridade dos nós de back-end. Os avisos do GSLB de leste estão inativos e todos os registros de DNS subseqüentes para www.connect.com serão resolvidos para 10.10.10.1.
Se você tiver uma solução de balanceamento de carga de servidor local (SLB), poderá configurá-la de forma que www.connect.com seja um VIP / VS (digamos 192.168.1.1/24) com dois nós de back-end (10.10.10.1 / 24 e 10.20.20.1 / 24). Tecnicamente, os nós podem estar em segmentos de rede diferentes, desde que o SLB local possa alcançar o outro servidor. A solução SLB pode ser inteligente o suficiente para redirecionar os usuários para um servidor disponível se um nó de back-end ficar inativo. Se você estiver usando o F5 LTM, poderá criar facilmente uma iRule para esse evento. O Citrix NetScaler e outras soluções SLB também devem ter recursos semelhantes.
O DNS RR não funciona neste caso. O DNS RR não possui inteligência embutida. A única maneira de realizar o caso de uso com o DNS é usar algum tipo de DNS "inteligente" por meio de uma solução GSLB (ou similar).
A CDN geralmente implementa soluções GSLB / SLB para garantir o HA para seus clientes.