Supondo que o seu servidor de e-mail aceite a conexão TCP (em vez de o telnet aguardar a conexão ser descartada e você simplesmente digitando :)), tente o seguinte (você tem erros em sua conversa SMTP):
telnet localhost 25
helo carlo.ru
mail from:<test@localhost>
rcpt to:<test@localhost>
data
test
.
exit
É helo ou ehlo não hello e também rcpt to em vez de rep .