Sim ... mais ou menos.
Há duas coisas que você pode fazer aqui: se você colocar vários registros A em seu servidor DNS para um determinado nome, todos eles serão exibidos aos clientes, e esses clientes escolherão um do conjunto ao qual se conectar, o que significa esse tráfego será distribuído "razoavelmente" uniformemente entre todos os sites simultaneamente. Isso não é exatamente o que você parece estar descrevendo, mas é uma situação comum (embora eu não confie, por uma variedade de razões).
A outra opção é que você só coloca um registro A em seu servidor DNS, e o servidor DNS (ou algo semelhante a ele, como um script de monitoramento) fica de olho no endereço principal do seu site, e se ele falhar, O registro A do servidor DNS é alterado para seu outro site. Isso significa que apenas um site receberá tráfego por vez.
A desvantagem dessa segunda estratégia é o cache do DNS. Qualquer pessoa que tenha o endereço do site antigo será SOL até que as entradas de cache do DNS que contêm o endereço antigo sejam removidas. Isso significa que você precisa manter seus TTLs baixos (aumentando a carga na sua infraestrutura de DNS, embora isso raramente seja um problema prático), mas ainda há o problema de caches DNS "desonestos", que não honram TTLs. Estes são um enorme problema para qualquer pessoa que tenha que alterar entradas de DNS, mas eles são um milhão de vezes piores para quem precisa alterar as entradas de DNS "frequentemente" (esperamos que seu site não esteja diminuindo várias vezes por dia, mas ainda assim ...) Basicamente, qualquer pessoa por trás de um desses caches DNS mal-intencionados verá seu site como "inativo" por um período extremamente longo, e tentará explicar a eles que é o cache DNS deles a culpa ... Eugh.
Em suma, eu não faria isso por um site, porque há maneiras melhores de atenuar qualquer risco que você esteja pensando, mas você precisará descrever esse risco se quiser sugestões sobre como mitigá-lo.