Is there a limit to the number of machines that can connect to one single machine (at the same time)?
Em última análise, ele será limitado por vários fatores - máximo de arquivos abertos, memória disponível e muito mais -, mas 100 conexões não são muito grandes.
Para restringir o número de conexões, use connlimit opção no iptables.
Se você quiser medir a quantidade de memória que cada conexão usa (em média), inicie a gravação do número de conexões e plote-a contra a memória livre (menos buffers + cache).