Não é possível com iptables
. iptables
é uma ferramenta de camada de rede.
Quanto ao SSH, a resolução é feita no lado do cliente, portanto, o servidor simplesmente não sabe se o cliente digitou o nome IP ou DNS.
As solicitações HTTP contêm o cabeçalho "Host:", portanto a filtragem sugerida pode ser feita com o software do servidor da web.