Se você não precisar de conteúdo dinâmico, daemons fastcgi, etc, vhosts ilimitados podem ser tão simples quanto este resposta SF .
server_name *.dom.tld;
root /var/www/$http_host/public;
Nesse caso, seu primeiro gargalo provavelmente será o sistema de arquivos, não o Nginx.
Observe também que os principais proxies reversos, como o uso do Cloudflare (uma versão modificada do) Nginx, por isso parece plausível fazer.