Como suas regras de entrada começam com uma regra de aceitação universal, nenhuma de suas outras regras entrará em vigor (porque o iptables funciona de acordo com a primeira regra: a primeira regra na cadeia para descartar o pacote de alguma forma última regra processada e a meta ACCEPT
é descartada). Sua segunda regra também é questionável (bloquear todo o tráfego do host local), mas apenas porque geralmente não há qualquer razão confiável para isso. Também é incomum aceitar especificamente somente pacotes novos, relacionados ou estabelecidos na porta SSH.
Tudo isso dito, suas regras aceitam corretamente o tráfego SMTP, então o problema é que você não estava executando o SMTP. O Dovecot não é um servidor SMTP; considere usar qualquer um dos vários daemons SMTP, como o postfix.
Se alguma coisa, para sua regra 127.0.0.0/8, especifique a interface de entrada na qual você espera receber pacotes de localhost falsificados, se estiver preocupado com isso.