Isso soa semelhante ao conceito de porta batendo, que você pode implementar no iptables. O conceito é que alguém "bate" conectando-se a uma série de portas conhecidas, em ordem, e depois é permitido conectar-se a uma porta final para concluir uma conexão.