Ars Technica fez um comentário muito bom sobre isso há algum tempo. Ele vai do começo ao fim, delineando o que cada software faz, por que você precisa e o básico sobre como configurá-lo.
Note que este é um esforço bastante complexo. Existem muitas, muitas maneiras que um servidor de correio configurado incorretamente pode causar problemas, e infelizmente os benefícios quando tudo está funcionando perfeitamente são poucos. Se você está apenas fazendo isso para aprender, mergulhe bem, eu fiz e é certamente uma experiência. Se, no entanto, você planeja usar esse servidor para realmente hospedar o email para você ou familiares / amigos, certifique-se de entender totalmente o trabalho necessário para configurar e manter um servidor de email seguro e as muitas maneiras pelas quais as coisas podem dar errado. .
Novamente, não dizer o que você quer fazer não é um esforço que valha a pena, mas certifique-se de avaliar cuidadosamente os custos e os benefícios.