Quando você faz eco a partir da linha de comando, o md5 calcula a soma de 6 caracteres - h, e, l, l, o mais nova linha. O texto que você insere em um site não tem uma nova linha.
Tente fazer
echo -n hello | md5
e isso lhe dará o que você espera. O -n diz ao echo para não gerar uma nova linha.