Se eu entendi sua pergunta corretamente ...
Pegue o 404 e use um script para enviar uma solicitação GET ao seu outro servidor. Se isso gera um 404, então você pode apresentar um 404 para o usuário. Se obtiver um 200 OK (o outro servidor tem a página), então você pode seguir adiante.
Essencialmente, você está escrevendo um script que realiza um pouco do balanceamento de carga da Camada 7.
Parece um pedido estranho, se eu for honesto. Se você tem um segundo servidor, você pode usar o Round Robin DNS (fácil de configurar) para enviar conexões para um servidor e depois para o outro, depois o primeiro ... etc etc, mas você precisa do mesmo conteúdo em ambos os servidores.