O md5sum usa nomes de arquivos como parâmetros.
Se você tiver uma string que você deseja calcular o hash de, você precisa passá-lo para a entrada padrão do md5sum através de um pipe:
echo -n $variable | md5sum
(- n para suprimir a adição de uma nova linha)