Talvez pesquise pfSense , m0n0wall , Smoothwall ou Untangle - eles são pequenos sistemas operacionais de roteador, que são executados em hardware de PC normal (antigo / lento).
Qualquer uma destas opções irá lidar com um lote de conexões, e pode fazer praticamente qualquer coisa que você possa desejar de tal sistema (multi-conexões com failover, QoS, detecção de intrusão, host / conexão a VPNs etc etc)