Sem usar hardware ou software adicional em um computador dedicado, é mais provável que seja impossível fazer exatamente o que você quiser, e você não especificou exatamente o quanto está disposto a ir (em termos de gastar dinheiro / tempo) para realizar sua objetivo.
Observe que o endereço MAC pode ser alterado na maioria das plataformas, para que alguém ainda possa escapar de seu monitoramento falsificando e usando o endereço MAC de outro usuário enquanto seus dispositivos não estão conectados à rede.
Com base no hardware que você tem à sua disposição, o melhor que você pode fazer é criar concessões estáticas de DHCP em seu roteador para que todos os dispositivos sempre obtenham o mesmo endereço IP. Em seguida, você poderia usar o traffic shaping / QoS para limitar o uso de largura de banda para alguns dos endereços IP.
Se o seu roteador puder ser colocado no modo bridge, você pode considerar a compra de Ubiquiti EdgeRouter Lite . Por um preço de 100 USD com o firmware atual (1.7.0), você também terá o monitoramento DPI , que permitirá a você veja a divisão de tráfego por protocolo para cada endereço IP. A filtragem de DPI está programada para aparecer em futuras atualizações de firmware. Você pode usar o NetFlow com este roteador e um coletor externo do NetFlow.
Uma alternativa a isso, supondo que o seu roteador atual suporte SNMP, seria usar algo como Observium . No entanto, talvez seja necessário adquirir a versão profissional para obter todos os recursos de que você precisa.