Ignacio explicou-lhe o que é um MTA.
Agora vamos ver os outros aspectos da sua pergunta. As principais diferenças entre os vários servidores de email são
- segurança
- flexibilidade
- funcionalidade auxiliar
- facilidade de uso
Os MTAs mais usados em todo o mundo são sendmail, qmail, postfix, exim e MS Exchange. Outro MTA relativamente popular (particularmente com ISPs menores) é o IMail.
Destes, o MS Exchange não é realmente um MTA, embora certamente possa ser usado como um. No entanto, oferece muita funcionalidade que não é essencial para um MTA (pastas públicas, calendários, listas de tarefas compartilhadas e listas de eventos), e é muito popular devido a isso. No entanto, ele realmente não tem um grande registro quando se trata de segurança e flexibilidade (embora alguns aspectos tenham sido abordados tardiamente). O Exim é provavelmente o mais flexível de todos, e sua segurança é mais que adequada para qualquer servidor de correio corporativo normal.
Sendmail é considerado por muitos como um fóssil. É um bom servidor de email, mas um bastardo para configurar.
O postfix costumava ser uma boa opção para um servidor de e-mail de uso geral, mas o problema é que há apenas uma pessoa cuidando da base de código, o que reduziu consideravelmente sua base de usuários nos últimos anos. O Qmail é provavelmente o mais seguro de todos.
Qualquer MTA normal só oferecerá SMTP para comunicação (e talvez soquetes locais). Protocolos de cliente, como POP3 ou IMAP, precisam ser fornecidos por software adicional.
Outros usuários do e-mail não podem enviar e-mails diretamente para você. Tem de haver pelo menos um servidor de email envolvido, aquele que mantém sua caixa de correio. Este servidor irá oferecer-lhe uma variedade de opções de como acessar essa caixa de correio (webmail, IMAP, POP3, dependendo do seu ISP ou provedor de email). Seu cliente de e-mail (por exemplo, Outlook, Thunderbird, Evolution ou o que você usa para ler e gravar e-mails) se conecta a esse servidor de e-mail para recuperar mensagens e apresentá-las a você.
Quando você responde a uma mensagem (ou envia uma nova mensagem), ela é enviada para o servidor de e-mail usando o SMTP. Na maioria dos casos (por exemplo, usuários domésticos que usam um provedor de serviços de Internet), a mensagem é enviada ao servidor de email do provedor (via SMTP), que a encaminha para o servidor de email que mantém a caixa postal do destinatário.
Se você usa e-mail dentro de uma empresa (particularmente para empresas maiores), não é incomum que esta empresa execute seus próprios servidores de e-mail. Nesse caso, seu cliente de e-mail envia a mensagem para o servidor de e-mail da empresa, que lida com o encaminhamento (retransmissão).
Se você está fazendo essa pergunta porque geralmente está interessado em saber como isso funciona, então espero ter explicado o básico. Se você está perguntando porque deseja configurar seu próprio servidor de e-mail, então meu conselho é: "Não faça isso. Apenas não". E-mail é um assunto complexo e executar um servidor de e-mail requer tempo, conhecimento e dedicação, caso contrário você será rapidamente vítima de algum hacker ou spammer, e o resultado final será que você não pode enviar ou receber e-mails sem gastar muito tempo saindo das várias listas negras.