Sugiro o Postfix . Este é um servidor de email que é muito fácil de configurar (na minha opinião). Você encontrará alguns documentos úteis:
- HOWTO SMTP AUTH (e TLS) do Postfix
- Leiame do TLS do Postfix
- Wiki do Postfix
- Site de documentação do Postfix
Esses documentos abrangem a configuração básica do Postfix. Se você encontrar problemas, você deve voltar (ou melhor, pergunte ao Superusuário).