Então eu finalmente configurei isso com servidores HAProxy na minha conta da AWS.
Basicamente, você tem dois servidores executando o HAProxy com quase a mesma configuração. E você dá um IP secundário ao servidor principal enquanto vincula um novo IP elástico diferente ao IP privado secundário.
Você terá que configurar a instância para trabalhar com vários IPs, o que é explicado aqui link
Você também precisará do awscli, que pode ser instalado com o seguinte
apt-get install python-pip python-dev build-essential
pip install awscli --upgrade --user
export PATH=~/.local/bin:$PATH
aws configure
Agora você pode usar um comando como este para puxar o endereço IP secundário da instância a que está vinculado para o atual
aws ec2 assign-private-ip-addresses --allow-reassignment --network-interface-id <your eni ID> --private-ip-addresses 172.31.0.0
Eu ainda tenho que descobrir como verificar se o servidor HAProxy está sendo executado no servidor oposto, mas para puxar automaticamente o IP privado secundário, mas isso definitivamente é um lugar sólido para começar.