Use o servidor SMTP embutido, você não pode ficar mais leve do que isso, especialmente se o IIS já estiver em execução. Não tenho certeza do que você entende por suficiente - como você diz, suas exigências são mínimas.
Você não precisa aceitar e-mails de outra coisa que não seja a máquina local. Tenha cuidado para que suas páginas da Web não possam ser usadas para retransmitir mensagens, mas esse problema é independente de sua escolha do servidor SMTP.
Quanto a badmail, tentativas etc., alguém mais tem algumas ideias de configuração? Eu tentaria minimizar o número de novas tentativas, e ou enviar badmail para NULL de alguma forma, ou agendar um script para limpar o diretório periodicamente.