O balanceamento de carga não está correto conforme esperado usando o Nginx

Question

Eu tenho um servidor que envia milhares de solicitações em um minuto. Isso está conectado a um servidor Nginx. O Nginx fará o upstream dos pedidos para 4 servidores conforme as configurações abaixo.

upstream cmdc {
server cmdc2b:5600 max_fails=3 fail_timeout=30s;
server cmdc2a:5600 max_fails=3 fail_timeout=30s;
server cmdc1d:5600 max_fails=3 fail_timeout=30s;
server cmdc1c:5600 max_fails=3 fail_timeout=30s;
keepalive 30;
}

O que eu posso ver no ELK é que quase 50% dos pedidos vão para o cmdc2b e outros são distribuídos entre outros. Alguém suspeita de algum outro valor que esteja causando o problema? Estou listando minha configuração Nginx abaixo.

user  nginx;
worker_processes  1;

error_log  /var/log/nginx/error.log warn;
worker_rlimit_nofile 30000;
pid        /var/run/nginx.pid;


events {
    worker_connections  10240;
}


http {
include       /etc/nginx/mime.types;
default_type  application/octet-stream;


log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                  '$status $body_bytes_sent "$http_referer" '
                  '"$http_user_agent" cachestatus: $upstream_cache_status'
    'dest: $upstream_addr'
                  ' response_time: $request_time';

access_log  /var/log/nginx/access.log  main;
sendfile        off;
#tcp_nopush     on;

keepalive_timeout  65;
keepalive_requests 5000;
gzip  on;#page will be served using Nginx Gzip Module if requested by client
gzip_http_version 1.1;
gzip_vary on;
gzip_comp_level 6;
gzip_proxied any;
gzip_types text/plain text/html text/css application/json application/x-javascript text/xml application/xml application/xml+rss text/javascript application/javascript text/x-js;
gzip_buffers 16 8k;
gzip_disable "MSIE [1-6]\.(?!.*SV1)";
#error_page--configure the server's statuses when errors occur
proxy_cache_path /opt/nds/data/nginx/cache levels=1:2 keys_zone=cmdc_cache:10m max_size=11g loader_threshold=300 loader_files=200 inactive=5m;
proxy_cache_key "$scheme$request_method$host$request_uri";
include /etc/nginx/conf.d/cmdc.conf;
}

Alguém por favor pode colocar alguma luz aqui?

    

Answer 1

Em vez de depender do padrão round robin, você pode achar que está procurando menos conexões:

upstream cmdc {
  least_conn;
  server cmdc2b:5600 max_fails=3 fail_timeout=30s;
  server cmdc2a:5600 max_fails=3 fail_timeout=30s;
  server cmdc1d:5600 max_fails=3 fail_timeout=30s;
  server cmdc1c:5600 max_fails=3 fail_timeout=30s;
  keepalive 30;
}

Você também pode aplicar ponderação aos servidores. Consulte aqui para obter mais informações