Eu recomendo strongmente que você use o OpenBSD. A tarefa sobre a qual você está perguntando é feita pelo ALTQ (framework ALTernate Queuing) que foi originalmente portado do FreeBSD e integrado ao PF. A boa notícia é que o OpenBSD está prestes a ter sua própria estrutura de enfileiramento (está em fase de testes). Eu iria desencorajar você de usar o pfSense. pfSense é uma distro baseada no FreeBSD que usa filtro de pacotes do OpenBSD (PF) para filtragem. Ao contrário do OpenSSH, por exemplo, o PF não é portátil, sua funcionalidade depende da pilha da rede. A versão do PF fornecida com o pfSense e o FreeBSD é obsoleta por 3 anos e não está totalmente funcional devido à falta de funcionalidade no kernel do FreeBSD e na pilha de rede. O engraçado é que o ALTQ não foi carregado no kernel do FreeBSD por padrão. Se você estiver usando o FreeBSD, use o IPFW, que é o firewall padrão do FreeBSD. O FreeBSD suporta também o IPfilter. O IPFW foi usado como base para o IPTables no Linux e até cerca de um ano atrás era o firewall padrão no OS X quando o OS X mudava para uma versão muito recente do PF. Se você não gosta do OpenBSD, use o NetBSD que tenha seu próprio NPF otimizado para máquinas com múltiplos núcleos. Eu não sei como o enfileiramento é feito no NPF.
Também incentivo você a aprender sobre filas antes de começar a fazer as coisas. Você pode se surpreender ao descobrir que o enfileiramento é útil somente para pacotes na direção de saída. Uma vez que um pacote chega em uma interface na direção de entrada, já é tarde demais para enfileirá-lo - a largura de banda da rede já consumida é suficiente para chegar à interface que acabou de recebê-lo. A única solução é habilitar enfileiramento no roteador adjacente ou, se o host que recebeu o pacote estiver agindo como um roteador, habilitar enfileiramento na interface interna onde os pacotes saem do roteador. Então, no seu caso, a caixa do OpenBSD tem que agir
como um roteador para você poder gerenciar usuários.
A partir da GUI, se você precisar de uma GUI para configurar seu firewall, provavelmente não tem como configurar um. A partir do seu pedido de enfileiramento sem o uso de portas, eu o direcionaria de volta à documentação do ALTQ para que você aprendesse sobre vários métodos de enfileiramento.