Suponho que você esteja falando sobre o tráfego HTTP aqui (há uma grande diferença entre protocolos com e sem estado).
O problema é que, para obter o melhor desempenho, você deseja que a retomada da sessão SSL funcione - o que favorece uma abordagem de sessão fixa -, mas se as sessões forem muito complicadas, você não terá nenhum failover. As grandes e caras caixas da f5, Cisco e cols podem lidar com isso, mas é difícil fazer isso em caixas de commodities rodando (por exemplo) stunnel.
Ainda acho que a melhor solução para a maioria dos problemas de balanceamento de carga é o DNS round-robin - onde a detecção de falhas é o único local em que uma falha pode ser detectada com segurança (o cliente) e é onde o failover é implementado. fornece afinidade de servidor, mas ainda permite o failover de pedidos (note que ele não suporta a retomada de pedidos - mas ainda não encontrei nada que suporte isso para HTTP).
Uma outra coisa a ter em mente é que o suporte keep-alive da Microsoft para o HTTP O SSL é diferente daquele implementado por todos os outros. Isto não é apenas uma coisa openSSL - outros fornecedores dão o mesmo conselho. Dadas as sobrecargas adicionais na negociação SSL e o enorme retorno usando keep-alives para o tráfego HTTP, pode valer a pena considerar o uso do MS-ISA para terminação SSL - embora eu esteja supondo que é possível configurar o software como tal e eu Nunca fiquei impressionado com a escalabilidade / confiabilidade dos produtos. Então, se eu tivesse muito dinheiro para gastar, provavelmente veria o MSISA para a terminação SSL, mas não usaria o software de cluster da Microsoft e moveria o failover para outro lugar (por exemplo, para o cliente!).
Para uma solução barata, termine o SSL nas caixas do servidor web com o DNS round-robin. Adicione muitos servidores da Web. Opcionalmente, use uma placa aceleradora de criptografia (não uma placa de rede com capacidade SSL) no servidor da Web para aumentar a potência.
Para uma solução muito rápida - (possivelmente) vários nós MSISA endereçados via DNS round-robin, conversando com um cluster LVS de servidores web .
HTH