Geralmente, você teria ARR no nível do NLB, direcionando o tráfego para os servidores de conteúdo de segundo nível no farm que veiculam a mesma configuração / IIS compartilhado (mesmos aplicativos).
Veja Alcançando Alta Disponibilidade e Escalabilidade - ARR e NLB
Em seu cenário, você realmente não precisa ARR - você só quer NLB entre 2 servidores de conteúdo, o que permitirá que 1 servidor fique inativo e o tráfego ainda vá para o servidor que está para cima.
O ARR concederá a funcionalidade Reverse Proxy / Rewriting, mas você também pode fazer a reconfiguração de URL sem ARR, portanto, certifique-se de que deseja fazer, pois o ARR é normalmente necessário apenas para gerenciar farms de servidores IMO.