Vários registros A definitivamente não são a resposta. Se um de seus hosts morrer, o DNS ainda distribuirá o endereço IP inativo.
GSLB (Global Server Load Balancing) ou equivalente, fará verificações de saúde em todos os seus servidores e distribuirá um único IP para o servidor que estiver "mais próximo" do cliente ou vários endereços, mas sempre excluindo hosts mortos, e fornecerá a ordem preferida com base na "proximidade". Fundamentalmente, você precisa de algo que execute uma verificação de integridade de todos os seus hosts e impeça o DNS de fornecer o endereço IP de todos os hosts mortos.
Qualquer coisa que dependa da interpretação individual do cliente sobre o que fazer com vários registros A causará problemas, pois cada cliente (sistema operacional, navegador, armazenamento em cache do ISP DNS, etc.) será diferente.