Escalabilidade do Tomcat - quantos servidores

Question

Estou tentando dimensionar um cluster de tomcat. Os fatores-chave provavelmente serão:

1. O tamanho do cache de memória em cluster que decidimos usar. Por exemplo, se quiséssemos oferecer suporte a um cache de memória de 100 GB, talvez precisássemos de 50 instâncias (assumindo um tamanho máximo de heap de 2 GB), em talvez 5 servidores (assumindo 24 GB de RAM).
2. A latência da solicitação, em relação a algum destino predefinido.
3. A CPU.

Considerando o último, durante o teste de carga, estamos monitorando o topo.

Para um servidor de 2 CPUs x 8 Core, estamos vendo, por exemplo:

top - 15:49:34 up 99 days,  3:00,  5 users,  load average: 1.51, 1.16, 1.04
Tasks:   1 total,   0 running,   1 sleeping,   0 stopped,   0 zombie
Cpu(s):  1.5%us,  0.1%sy,  0.0%ni, 98.4%id,  0.0%wa,  0.0%hi,  0.1%si,  0.0%st
Mem:  24551264k total,  6872016k used, 17679248k free,   702612k buffers
Swap: 10731412k total,        0k used, 10731412k free,  4487096k cached

  PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND
18227 tomcat    18   0 1751m 857m  11m S 26.0  3.6   3:15.96 java

Para o número de usuários em nosso teste de carga, não parecemos estar limitados à CPU, mas se aumentássemos o número de usuários, qual seria a estatística mais útil no dimensionamento?

• A média de carga?
• Os valores% us /% id da CPU?
• O processo do tomcat% CPU?

Obrigado.

    

Answer 1

O% de CPU do processo é o quanto o processo está usando no núcleo em que está sendo executado. Os outros cabeçalhos da CPU são para todos os núcleos / CPUs. Esta não é uma resposta simples, pois o dimensionamento do tomcat pode ser simples, mas é realmente uma questão dos aplicativos que serão executados dentro do tomcat que determinarão o dimensionamento. Alguns aplicativos usam mais CPU do que outros e alguns usam mais memória ou IO de rede do que outros. A menos que você tenha métricas de desempenho e estatísticas de uso nos aplicativos que serão executados, espere e veja a escala conforme o cenário necessário.