A resposta CNAME de SvenW é boa, mas há outra coisa que deve ser lembrada ao usar o DNS para failover, e esse é o TTL do cache que você definiu. As pessoas terão o endereço IP antigo em cache por até esse período de tempo, então você provavelmente precisará de algo menor que um dia. No entanto, se for muito curto, os usuários terão que aguardar repetidamente uma viagem de ida e volta à resolução de DNS.
Dependendo da configuração do seu servidor (ambos no mesmo local / rede e acesso à configuração do sistema em cada um), talvez você queira considerar atribuir o IP do servidor corrompido ao servidor em funcionamento. Isso seria praticamente instantâneo (especialmente se você usar o ARP gratuito para atualizar o cache de arp do roteador). Isso torna um pouco mais difícil colocar o servidor quebrado novamente online, já que seu IP estará em uso, mas se os usuários fizerem alterações nos sites, você deverá deixá-lo off-line até que possa copiar as alterações feitas para o outro servidor (com IPs de "manutenção" extras nos dois servidores ajudará aqui). Se você tiver acesso ao roteador e estiver usando o NAT para mapear endereços IP externos para endereços IP internos, será ainda mais fácil: basta fazer o remapeamento desse IP para o servidor em funcionamento no roteador. Então, quando você inicializar o servidor morto, ele não terá conflitos de endereço IP, e você poderá acessá-lo do servidor de trabalho usando o IP interno para deixar tudo pronto antes de configurar o mapeamento NAT de volta ao normal.