Você tem algumas opções aqui.
1. Obtenha um switch de roteador de baixo custo e instale o OpenWRT ou o Tomato firmware
É difícil recomendar qualquer peça de hardware em particular, eu examino os projetos de software e descubro um que parece ter o conjunto de recursos que você está procurando e, em seguida, encontre um hardware que ofereça suporte a ele.
NOTA: Existem outros projetos além destes 2. Veja estes artigos da Wikipédia:
- Lista de projetos de firmware de roteadores sem fio
- Lista de distribuições de roteadores ou firewall
2. Configurar uma caixa básica com o pfSense
OpfSense é uma distribuição personalizada de código aberto do FreeBSD feita sob medida para uso como firewall e roteador. Além de ser uma plataforma poderosa e flexível de firewall e roteamento, ela inclui uma longa lista de recursos relacionados e um sistema de pacotes que permite mais expansibilidade sem adicionar vulnerabilidades inchadas e potenciais à distribuição base.
- Há uma boa visão geral da implantação comum configurações
- Informações sobre possíveis dispositivos de hardware
3. IPCop
Você já mencionou este aqui, mas estou colocando aqui apenas para detalhar mais informações sobre ele.
4. Outros
Confira esta revisão para mais detalhes sobre os aplicativos de firewall mencionados acima.