Este é um problema difícil de resolver. Existem empresas (como link ) por aí que podem ajudá-lo com isso, mas não será barato. Como você disse "meu servidor" na sua pergunta, ele informa que seu site está no lado menor e talvez você não tenha recursos para envolver uma empresa como eles.
Você sabe como eles estão atacando você? Você pode chegar ao console do seu servidor e configurar o iptables (assumindo o Linux) para eliminar o tráfego dos IPs ofensivos? Se Linux, você ativou syncookies TCP? echo 1 > /proc/sys/net/ipv4/tcp_syncookies
.
Tem certeza de que isso não é um erro de configuração do servidor? Se você tiver seu MaxClients configurado muito alto no Apache, isso pode fazer com que a máquina troque, o que efetivamente seria um DDOS, com conexões suficientes. (Combine isso com um vazamento de memória e o desastre será o resultado.)
É muito comum que os principais DDOSs saturem os links de rede de entrada. Dado o seu provedor não está realmente preocupado com isso, não é realmente um grande ataque. O seu site volta a ficar online depois de um reinício apenas para ficar sobrecarregado pouco tempo depois? Isso pode ser apenas um problema de configuração com seus MaxClients.