Você altera os registros DNS de mail.mydomain.com (ou o que seus clientes usam para endereços SMTP / IMAP) para apontar para o servidor secundário até que o problema seja corrigido.
Isso pressupõe que os dois servidores tenham as mesmas contas, o mesmo conteúdo de caixa de correio, etc.