Se você quiser balancear a carga do tráfego entre duas haproxies diferentes, precisará ter outro balanceador de carga na frente deles e isso não será útil.
Se você quer maior disponibilidade, você já a usou usando duas haproxies e o VIP atribuído a uma delas por keepalived ou heartbeat. Geralmente, esta é a solução para problemas de HA e de balanceamento de carga.
Eu posso pensar em uma maneira de usar duas haproxies ao mesmo tempo. Você pode configurar o keepalived para atribuir um VIP a cada servidor haproxy. O balanceamento de carga pode ser feito pelo DNS. O nome DNS deve resolver para os dois VIPs. Quando um haproxy falhar, o outro nó irá segurar os dois VIPs e receber todo o tráfego.