Quando definimos o nosso 5510 pela primeira vez, tivemos um problema semelhante e concluímos que era mais fácil desabilitar totalmente a inspeção de pacotes SMTP.
Veja o que você tem para:
yourfirewall# show running-config policy-map
Se houver algo sobre o esmtp, você poderá desativá-lo com:
yourfirewall# configure terminal
yourfirewall(config)# policy-map global_policy
yourfirewall(config-pmap)# class inspection_default
yourfirewall(config-pmap-c)# no inspect esmtp
Eu acredito que você pode fazer o mesmo no ASDM, olhando no Firewall - > Objetos - > Inspecionar mapas - > ESMTP