Se você está confortável com o Linux, eu recomendo olhar para a utilização dos muitos pacotes disponíveis para isso. Eu pessoalmente gosto de PFSense .
Se você tem um PC antigo, pode transformá-lo facilmente em uma solução de firewall / firewall bastante poderosa por um custo mínimo.