Como bdonlan afirmou, o que você deseja é um failover de alta disponibilidade (HA). Você pode aprender sobre HA com o linux em
- www.linux-ha.org/wiki/Main_Page
- www.linuxvirtualserver.org
- www.redhat.com/software/rha/cluster
Mais importante, você precisará fazer o failover do seu banco de dados MySQL. Isso pode ser muito complexo com coisas como planejar a replicação de dados entre seus nós. Leia sobre cluster MySQL e replicação MySQL