O número de conexões tcp simultâneas é um fator limitante para balanceadores de carga?

Question

Estou tentando entender se o número de conexões tcp simultâneas em um balanceador de carga é um fator limitante para um site "normal", em vez da taxa de transferência de dados.

Quando vejo as folhas de dados dos balanceadores de carga, não encontro informações sobre quantas conexões elas podem manipular. Isso significa que o número de conexões não é um fator limitante, ou significa que é muito difícil dizer, porque outros fatores, em combinação com o número de conexões, são mais importantes?

No final, estou tentando descobrir quando nosso balanceador de carga será afetado devido a muitos visitantes do site. É um lb virtual, um Barracuda BBF 340 Vx, com 2 GB de RAM e 2 CPUs.

    

Answer 1

Geralmente não. Para a maioria dos sites, o comportamento normal "sem estado" das conexões http significa que as conexões podem ser demolidas muito rapidamente. Apache, por exemplo, o tempo limite padrão é de 15 segundos, o IIS dois minutos (embora isso possa ser reduzido).

Um cenário pior é que você tem a afinidade de sessão ativada e um tempo limite de conexão longo (15 minutos, 30 minutos, etc ou mais) e muitos visitantes únicos. Nesse cenário, as conexões máximas poderiam ser ordens de magnitude mais baixas. Esse design com uma alta carga de conexão seria raro.

    

Answer 2

O número de conexões TCP simultâneas que um dispositivo suporta é sempre a fator limitante - Cada sistema operacional tem uma tabela interna que rastreia o estado das conexões TCP e essa tabela tem um número limitado de entradas possíveis.

No caso típico, o número de conexões TCP não é O fator limitante: esse limite é tão alto que você atingirá outras limitações do seu ambiente antes de atingir aquele. Por exemplo, se o balanceador de carga estiver manipulando a criptografia SSL para o seu ambiente, você provavelmente atingirá uma limitação de CPU / RAM antes de atingir o limite de conexões TCP.

Obter este número de um fornecedor é de utilidade duvidosa - os fornecedores mentem. Eles normalmente apresentarão o número máximo teórico do melhor caso (que muitas vezes é impossível de ser alcançado em qualquer tipo de ambiente de produção real). Você pode obter figuras de terceiros de um site de resenhas, mas a única maneira de conhecer os limites do seu ambiente é execute um teste de carga em seu ambiente . Supondo que você possa gerar trabalho suficiente, o fará com que o ambiente falhe, e você poderá dizer por quê. (Você pode então decidir se o desempenho / limites são aceitáveis - Se eles não são, você pode trabalhar na melhoria do seu ambiente para lidar com a carga antecipada).