O servidor maxconn aplica-se a conexões TCP simultâneas ao servidor para não sobrecarregar o servidor. No entanto, conexões em excesso não são rejeitadas, elas são enfileiradas e encaminhadas para o servidor assim que ele libera outra conexão. Existem duas filas, uma no backend para qualquer conexão de entrada e outra no servidor dedicada a conexões explicitamente destinadas a esse servidor (solicitações com cookies). Então, o que acontece é que as conexões de novos visitantes são enfileiradas no back-end e selecionadas por qualquer servidor, enquanto as conexões de visitantes já vistos são enfileiradas no servidor e escolhidas por este apenas.
Você parece acreditar que o maxconn conta os visitantes simultâneos, embora sejam realmente conexões simultâneas. Você pode facilmente ter 10000 visitantes simultâneos com apenas 100 conexões TCP simultâneas. O maxconn é analógico para a configuração MaxClients do Apache e deve ser definido um pouco abaixo do limite do servidor.
Você também observará que muitos servidores apresentam um desempenho melhor com valores maxconn mais baixos, e você pode ficar tentado reduzindo o valor para melhorar o desempenho. Não diminua muito, porém, como você quer ser capaz de cobrir as situações em que seu servidor atende respostas lentas (por exemplo: aguarda por um servidor de banco de dados).