so if one mail server goes down we can automatically start sending emails from the fallover
Você não pode (facilmente) ter máquinas em locais diferentes com o mesmo endereço IP. Você não precisa de um registro 'A' para enviar e-mails de um servidor. Você não pode implementar o failover alterando registros DNS.
O importante é ter qualquer servidor que envie e-mails listados em seus registros SPF TXT (se você tiver um SPF publicado).
Se você está falando de uma máquina de gateway MTA, (mensagens SMTP são originadas em outras máquinas e todas são roteadas através deste servidor antes de acessar o resto do mundo), então isso é um assunto diferente - você pode influenciar isso usando DNS, mas não esperando por uma interrupção para alterar os registros. O SMTP foi projetado para acomodar esse cenário publicando vários registros MX do DNS com prioridades diferentes. Os clientes devem tentar se conectar a cada servidor na zona ordenada pela prioridade MX - se não conseguir se conectar, ele deve tentar o próximo. na prática, a maioria dos MUAs não se incomodará em procurar mais do que o MX principal - mas se o cliente for um MTA e, em seguida, IME, todos se comportarão corretamente. Você não nos contou como seus e-mails enviados chegam ao MTA - por isso, é difícil informar se isso funcionará na prática.
Desculpe, mas você claramente não entende o DNS e entende pouco sobre SMTP. Você precisa fazer muito mais leituras do que apenas olhar as respostas aqui.