Você tem vários limites:
- Portas: max 65536, praticamente menos, os primeiros 1024 são reservados, se você precisar de mais, você precisa de vários NIC (Network Interface Card) ou vários servidores para balanceamento de carga.
- Largura de banda, o que seu provedor permite fazer upstream em MB / s
- Licenças que dependem do software que você usa nos bastidores, você pode ter limitações em termos de licenciamento para acessos simultâneos ao banco de dados ou a partir do sistema operacional, por exemplo
- provavelmente muitas outras em que ainda não consigo pensar
Considerando isso, seus usuários enfrentarão situações diferentes:
- Não foi possível conectar-se ao seu site (muitos usuários já estão nele)
- Carregamento de página lenta (pequena largura de banda)
- Erros intermitentes devido a problemas de licenciamento, ...
Isso deprimirá e desencorajará os usuários a voltarem. A melhor estratégia é sempre limitar o número de usuários a um pequeno número, digamos 100 e escalar juntos (esperamos que para cima!) Com o número de usuários. Você teria que comprar mais hardware, habilitar o balanceamento de carga, ... mas apenas quando precisar.
Para proteger seu servidor contra ataques triviais, você também pode configurar regras para evitar, por exemplo, muitas conexões de um único IP (protege contra DoS) ou introduzir alguns atrasos se você for inundado por tentativas de conexão (Distributed DoS), ...
Também sob carga alta, alguns problemas podem aparecer como problemas de simultaneidade, as chamadas condições de corrida (bugs) que não eram tão aparentes enquanto 2 ou 3 usuários estavam on-line. Esteja preparado para isso testando seu site com ênfase.