Why iftop is showing so much traffic if iptables is blocking it to come inside my server?
Porque os utilitários pcap procuram capturar dados de uma interface antes que qualquer regra do netfilter (iptables) seja aplicada.
Sua regra de bloqueio do tráfego impedirá que o tráfego seja encaminhado ou processado por qualquer software em execução no servidor. O Netfilter não pode impedir que os pacotes cheguem ao seu sistema em primeiro lugar. Para isso, algum tipo de filtragem precisaria acontecer antes.
Is there a difference between blocking an IP and a domain address in iptables?
O Netfilter (iptables) opera principalmente na camada 3 no modelo de rede. Tudo o que sabe são endereços IP e portas. A ferramenta iptables, que adiciona as regras ao kernel (netfilter) tentará resolver o DNS por uma regra para você, mas isso acontece quando a regra é inserida no kernel.