Rápido, confiável e barato. Escolha dois.
Honestamente, porém, "tempo de inatividade zero" é, para todos os efeitos, impossível. Você está querendo tempo de inatividade zero, mas não parece que você está disposto a gastar o dinheiro necessário para fazê-lo.
Eu acredito que você esteja no caminho certo com o heartbeat e balançando o IP do front end para outro nó. Qualquer coisa mais envolvente do que isso envolveria contratar os serviços de um CDN como Akamai ou Limelight ou, alternativamente, obter um número AS, configurar o BGP, obter uma alocação de IP, configurar equipamentos em duas colunas geograficamente distantes e replicar dados entre eles. Qualquer uma dessas opções seria bastante cara e complexa de implementar.