Você pode querer experimentar o mod_vhost_limit (apache 1.3x) ... que pode então ser configurado MaxVhostClients n sob a diretiva VirtualHost
Módulo semelhante é mod_slotlimit.
E bw_mod (apache 2.x) - link .
Espero que você possa encontrar o pacote para o seu sistema operacional para esses pacotes.
Caso contrário, você pode limitar a quantidade de recursos da CPU e recursos de memória que o apache pode gastar por host virtual ... mas, para as conexões, esse módulo é o que você mais deseja.