Você pode usar a diretiva maxclients na configuração do apache para limitar o número de solicitações que o apache pode atender.
Por exemplo:
MaxClients 200
Permitirá apenas 200 clientes ao mesmo tempo.
(editar)
Se um vhost tiver problemas ou especificidades particulares, geralmente é uma boa ideia isolá-lo em uma instância dedicada do apache (pode estar no mesmo hardware).
Você pode tentar limitar as conexões em uma base por vhost, mas de acordo com este post, você precisa de módulos extras como mod_cban Apache limitando conexões por VHOST
(/ edit)