O mplayer não suporta o protocolo HTTPS. Então você deve usar o mplayer em conjunto com o youtube-dl para baixar o vídeo em um framebuffer e depois reproduzi-lo.
Assim:
curl --ciphers RC4-SHA "$(youtube-dl -g http://www.youtube.com/watch?v=XEVlyP4_11M)" | mplayer -