Is there a way to make it so that if sub.domain.com on server A is unavailable, forward to server B until A comes online?
Não via DNS - pelo menos não sem um servidor DNS personalizado monitorando e mudando os registros na hora (o que não funcionaria muito bem). Para obter esse comportamento, você precisará de um sistema entre os clientes e os servidores que manipulam a lógica de failover. O HAProxy é sempre uma boa opção, e supondo que seja o tráfego http, vários tipos de servidores web comuns (Apache, nginx, lighttpd) também podem fazer o que você precisa.