ejabberdctl é de propriedade do root com 550 permissões instaladas em /usr/sbin , o que significa que usuários não-root não podem executar o binário. Experimente:
sudo ejabberdctl register admin localhost mypassword
sudo eleva seus privilégios para root nesse terminal (depois de inserir uma senha), dando acesso ao binário.