Adicionar mais servidores atrás de um balanceador de carga não ajudará se seu aplicativo estiver demorando muito tempo para enviar a resposta.
Esta é a lei do tempo de resposta .
O balanceador de carga não melhorará seu tempo de resposta porque ele precisa aguardar a resposta do servidor de aplicativos para atender o cliente, nesse tempo a conexão continuará estabelecida e aguardando.
Seu tempo máximo de resposta é de cerca de 70 segundos e há +17000 solicitações expiradas (isso não é bom). Este é um problema de aplicativo.
Verifique também se seu banco de dados pode lidar com esse número de conexões.
More application servers = more database connections
.