Determinar o tempo limite da verificação de integridade do balanceador de carga

Question

Como você determina os tempos limites razoáveis de verificação de integridade para balanceadores de carga?

Meu aplicativo está com falha nas verificações de integridade do balanceador de carga. Estou usando o tempo limite de verificação de integridade padrão de 5 segundos, mas percebi que os gráficos de latência média no CloudWatch aumentam para ~ 50s durante períodos (com duração entre 2 e 4 horas) quando o aplicativo é executado em seu pico de ~ 30% Utilização da CPU. A utilização de memória e os IOPs são todos baixos e estáveis. A utilização de 30% é alta o suficiente para esperar que as respostas do exame de saúde aumentem além de 5 segundos? Em caso afirmativo, existe uma prática padrão para determinar o tempo limite da verificação de saúde?

    

Answer 1

A resposta para sua pergunta deve ser vaga. A resposta para a pergunta ' Como determino o tempo limite correto da verificação de saúde '? ' é muito semelhante a responder à pergunta ' Que latência ainda é considerada saudável para a minha aplicação? '.

O guia geral poderia ser parafraseado da seguinte forma:

1. Determine uma latência aceitável para seu aplicativo. No seu caso, podemos supor que 50 segundos ainda são aceitáveis. Eu consideraria isso muito anormal, mas como não conheço seu aplicativo, estou trabalhando com isso.

2. Defina o tempo limite para algo um pouco além disso, digamos, 55 segundos.

3. Carregue seu aplicativo com carga semelhante à sua carga de produção e veja se funciona para você.

4. Faça ajustes em sua inscrição e exame de saúde conforme necessário, repita até estar satisfeito com os resultados e coloque-o em produção.

5. Comece de novo em 1.

Considerando sua segunda pergunta sobre a utilização da CPU: isso depende do seu aplicativo. Execute testes, execute testes de carga, encontre o gargalo da garrafa, remova o gargalo da garrafa.