O que o iptables faz é não aceitar os segmentos (pacotes de dados enviados pela rede) pedindo a abertura de uma conexão, então não há como perguntar quem está do outro lado. O pacote tcpwrappers foi usado para fazer tais travessuras (registrar a origem das conexões, perguntar quem está do outro lado,. ..) juntamente com inetd , mas a maior parte de sua funcionalidade foi absorvida em substituições como xinetd(8) . Deve ser possível configurar algo, mas provavelmente você não encontrará pacotes pré-compilados (não está presente no Fedora 19, por exemplo).
Mas tenha cuidado com o que você está tentando fazer, a outra extremidade da conexão está (por definição) completamente fora de seu controle, eles podem mentir através de seus dentes sem que você tenha nenhuma maneira de descobrir.