Você não menciona sua versão do sendmail. Sendmail quebrou ... desculpe, mudei a forma como o mailertable funciona, com a versão 8.14. Eu tive todos os meus hubs de e-mail quebrados ao atualizar para o RHEL6 com o sendmail-8.14. Ainda estou tentando entender exatamente o que eles mudam e por que eles mudaram. Mas eu peguei duas dicas até agora:
1) Se você quiser usar virtusertable, e também usar mailertable no RHS das entradas virtusertable, o LHS precisa estar na nova classe VirtHost. Existem macros VIRTUSER_DOMAIN_FILE e VIRTUSER_DOMAIN para ajudar com isso.
2) Se um domínio do LHS aparecer em nomes de hosts locais, o mailertable nunca será usado.
Não tenho certeza de quão precisas são essas, mas há tão pouca informação sobre essa mudança drástica e não documentada que talvez isso ajude alguém em minha posição.