Eu sugeriria o Postfix, especialmente no Debian, onde o postfix é dividido em vários pacotes. Você pode escolher e aparar recursos conforme necessário.
O Postfix é poderoso, modular, altamente seguro, leve, extensível e fácil de configurar.
No meu VPS com 256MB de RAM, os daemons do postfix usam coletivamente cerca de 6.5MB de memória residente, que inclui os módulos TLS e PCRE.