Você consultou o firmware alternativo para roteadores de consumidor? Eu sei que o DD-WRT oferece todos os recursos que você está solicitando. É grátis e pode ser compatível com o seu hardware existente. Apenas esteja ciente de que as imagens vpn requerem roteadores com um pouco mais de flash.
Outras opções
- OpenWRT
- O Tomato pode funcionar ... não tenho certeza se tem a lista completa de recursos que você está procurando, pois não tenho experiência com isso.