Da minha experiência é um pouco mais complicado do que apenas limitar "uma conexão por IP" eu tenho medo (não é sempre :-)).
No entanto, havia outros parâmetros configuráveis, como "MinSpareServers, MaxSpareServers e StartServers" (não tenho certeza se eles ainda existem, mas certamente estavam no Apache 2.0).
Além disso, aparentemente, a compactação da saída pode melhorar as necessidades de largura de banda e acelerar o tempo de resposta em até 75% com "mod_deflate", se isso ajudar.
"mod_bandwidth" pode oferecer alguma ajuda em vez de tentar limitar uma única conexão e é provavelmente o caminho que eu percorreria depois de analisar a compactação.
Ou se você pode escrever C, você pode criar um módulo para contar as conexões por IP.
A coisa a ser observada é o que acontece quando um IP recebe uma única conexão. Vamos apenas dizer que geralmente não é uma visão bonita! Você pode ir para uma página "Server Busy" ou similar, mas eu vou seguir a rota de otimizar seu servidor, então é bom como pode ser do que frustrar os visitantes.