Eu recomendaria o link do MasterShaper. Tem modelagem, interface web, é open source e possui outros recursos. Não tem compressão.
Na minha antiga empresa (Provedor de Serviços de Internet com uma grande base de usuários), substituímos um PacketShaper Packete com o servidor MasterShaper e ele funciona bem com o tráfego em torno de 100 Mbps e milhares de conexões ao mesmo tempo. Não é o mesmo que uma solução de hardware, mas talvez atenda aos seus requisitos.