Acho que você pode estar misturando problemas diferentes. Se você tem o qmail em execução na configuração padrão, ele estará escutando na porta 25. Você pode verificar isso com o comando:
sudo ss -lntp | grep 25
Este comando mostrará o processo (a opção -p ) escutando na porta 25.
Agora vamos imaginar que um aplicativo diferente do pc antera envia pacotes para sua porta 25: o que vai acontecer? Nada, a menos que o aplicativo esteja pedindo exatamente por qmail . Portanto, não há necessidade (nem possibilidade) de barrar aplicativos em qualquer porta. Se algum pc enviar um pacote destinado a um aplicativo X para uma porta em que Y esteja escutando, nada acontecerá. Portanto, não há necessidade (e nenhuma possibilidade) de usar o iptables para barrar aplicativos .
Se você não acredita em mim, apenas tente carregar uma página da Web a partir da porta 25, ou estabelecer uma conexão ssh com ela, e ver o que acontece.