Suponha que um webapp hipotético mantenha uma conexão por usuário (por exemplo: app de chat usando cometa, long pooling, etc ...). Como posso balancear essa coisa para escalar além do limite de conexão de uma única máquina (C10 [0] K)?
Eu posso ver o round robin DNS como uma solução, gostaria de saber o que mais seria possível ...
O extremo disso é o DNS Geográfico distribuindo pools de endereços IP discretos round-robin que, por sua vez, apontam para balanceadores de carga de hardware em cluster usando o Virtual IP para lidar com o failover. Eu digo hardware, já que os grandes balanceadores de carga de hardware são projetados para contagens de conexão verdadeiramente massivas.
O balanceamento de carga do DNS fará, mas você não tem muito controle sobre ele - é melhor usar um balanceador de carga.