Como invalidar o cache de proxy reverso nginx na frente de outros servidores nginx?

Question

Estou executando um servidor Proxmox em um único endereço IP, que enviará solicitações HTTP para contêineres, dependendo do host solicitado.

Estou usando o nginx no lado do Proxmox para ouvir solicitações HTTP e estou usando a diretiva proxy_pass em meus diferentes blocos server para enviar solicitações de acordo com o server_name .

Meus contêineres são executados no Ubuntu e também estão executando uma instância nginx.

Estou tendo problemas com o armazenamento em cache em um site específico que é totalmente estático: nginx continua me exibindo conteúdo obsoleto após atualizações de arquivos, até que eu:

• Limpar / var / cache / nginx / e reiniciar o nginx
• ou defina proxy_cache off para este servidor e recarregue a configuração

Aqui está o detalhe da minha configuração:

No servidor (proxmox):

/etc/nginx/nginx.conf :

user www-data;
worker_processes 8;
pid /var/run/nginx.pid;

events {
    worker_connections 768;
    # multi_accept on;
    use epoll;
}

http {

    ##
    # Basic Settings
    ##

    sendfile on;
    #tcp_nopush on;
    tcp_nodelay on;
    #keepalive_timeout 65;
    types_hash_max_size 2048;
    server_tokens off;

    # server_names_hash_bucket_size 64;
    # server_name_in_redirect off;

    include /etc/nginx/mime.types;
    default_type application/octet-stream;

    client_body_buffer_size 1k;
    client_max_body_size    8m;
    large_client_header_buffers 1 1K;
    ignore_invalid_headers on;

    client_body_timeout 5;
    client_header_timeout 5;
    keepalive_timeout 5 5;
    send_timeout 5;
    server_name_in_redirect off;

    ##
    # Logging Settings
    ##

    access_log /var/log/nginx/access.log;
    error_log /var/log/nginx/error.log;

    ##
    # Gzip Settings
    ##

    gzip on;
    gzip_disable "MSIE [1-6]\.(?!.*SV1)";

    gzip_vary on;
    gzip_proxied any;
    gzip_comp_level 6;
    # gzip_buffers 16 8k;
    gzip_http_version 1.1;
    gzip_types text/plain text/css application/json application/x-javascript text/xml application/xml application/xml+rss text/javascript;


    limit_conn_zone $binary_remote_addr zone=gulag:1m;
    limit_conn gulag 50;

    ##
    # Virtual Host Configs
    ##

    include /etc/nginx/conf.d/*.conf;
    include /etc/nginx/sites-enabled/*;
}

/etc/nginx/conf.d/proxy.conf:

proxy_redirect          off;
proxy_set_header        Host            $host;
proxy_set_header        X-Real-IP       $remote_addr;
proxy_set_header        X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_hide_header       X-Powered-By;
proxy_intercept_errors  on;
proxy_buffering         on;

proxy_cache_key         "$scheme://$host$request_uri";
proxy_cache_path        /var/cache/nginx levels=1:2 keys_zone=cache:10m inactive=7d max_size=700m;

/etc/nginx/sites-available/my-domain.conf:

server {
    listen 80;
    server_name .my-domain.com;

    access_log off;

    location / {
            proxy_pass http://my-domain.local:80/;
            proxy_cache cache;
            proxy_cache_valid 12h;
            expires 30d;
            proxy_cache_use_stale error timeout invalid_header updating;
    }
}

No contêiner (my-domain.local):

nginx.conf: (tudo está dentro do arquivo de configuração principal - foi feito rapidamente ...)

user  www-data;
worker_processes  1;

error_log  logs/error.log;

events {
    worker_connections  1024;
}


http {
    include       mime.types;
    default_type  application/octet-stream;

    sendfile        on;
    #tcp_nopush     on;

    keepalive_timeout  65;

    gzip  off;

    server {
        listen       80;
        server_name  .my-domain.com;
        root /var/www;

        access_log  logs/host.access.log;
    }
}

Li muitas postagens e respostas de blog antes de resolver postar minhas próprias perguntas ... a maioria das respostas pode ser vista sugerindo a configuração de sendfile off; , mas que não funcionou para mim . Eu tentei muitas outras coisas, verifiquei minhas configurações e tudo parece bem.

Estou pensando se não estou esperando que o cache do nginx faça algo que não é feito para ...?

Basicamente, pensei que, se um dos meus arquivos estáticos no meu contêiner fosse atualizado, o cache do meu proxy reverso seria invalidado e meu navegador receberia a nova versão do arquivo quando solicitada ...

Mas agora eu tenho o sentimento que eu não entendi muitas coisas.

De todas as coisas, agora me pergunto como o nginx no servidor pode saber que um arquivo no container mudou? Eu tenho visto uma diretiva proxy_header_pass (ou algo parecido), devo usar isso para permitir que a instância nginx do contêiner de alguma forma informe ao Proxmox sobre arquivos atualizados?

Esta expectativa é apenas um sonho, ou posso fazê-lo com o nginx na minha arquitetura atual?

    

Answer 1

O que você quer fazer não é possível. Quando uma URL é armazenada em cache pelo proxy, nenhuma outra consulta será feita ao back-end dessa URL até a expiração do cache. Não há como o proxy saber que o arquivo foi atualizado no back-end.

Alguns caches avançados, como o Varnish, são capazes de lidar com a demanda de invalidez por meio de cabeçalhos ou solicitações PURGE. Por exemplo, quando um usuário edita uma página mediawiki, a resposta à solicitação POST contém um cabeçalho que invalida a entrada do cache para o artigo. Mas esse processo só funciona se um recurso for modificado usando uma chamada de URL: alterar um arquivo estático no back-end não informa o cache do proxy.

É possível implementar esse tipo de invalidação no nginx por meio do módulo lua: link .

    

Answer 2

Você pode conseguir essa funcionalidade usando um cache autônomo (por exemplo, memcached ou redis). O nginx tem módulos para trabalhar com eles. Você precisará de alguma convenção sobre chaves de cache (por exemplo, construa a chave a partir do cookie e do URL do usuário). Nesse caso, você pode controlar os itens de cache do back-end, inclusive invalidando e atualizando.