Supondo que o seu servidor de e-mail aceite a conexão TCP (em vez de o telnet aguardar a conexão ser descartada e você simplesmente digitando :)), tente o seguinte (você tem erros em sua conversa SMTP):
telnet localhost 25
helo carlo.ru
mail from:<test@localhost>
rcpt to:<test@localhost>
data
test
.
exit
É helo
ou ehlo
não hello
e também rcpt to
em vez de rep
.