Quantos núcleos seu servidor possui? Se você tem dois núcleos, eu sugiro que você pode definir 2 trabalhadores e 250 conn. max.
max_clients = worker_processes * worker_connections
E sim, a conexão 501 receberá um erro. Mas tenha cuidado, um navegador abre 2 conexões por padrão.
EDIT: Mais uma coisa, você pode definir um limite máximo de conexão por IP (10 aqui) com
## Max conns for one ip
limit_zone gulag $binary_remote_addr 5m;
limit_conn gulag 10;
no /etc/nginx/nginx.conf