O MPlayer não pode abrir arquivos ISO (que são arquivos de imagem de uma mídia física).
O que você precisa fazer é montar o arquivo .iso em seu sistema, para que o "drive" seja disponibilizado.
Você pode montar o arquivo clicando com o botão direito do mouse e escolher "Abrir com" - > "Diskmounting Tool" (ou algo assim, eu não corro uma versão em inglês, então não posso te dizer ao certo).
Isso deve montar o arquivo, então o sistema acha que é um CD ou DVD. Agora você abre os arquivos a partir dele, como faria com qualquer outro CD ou DVD.
VLC, deve ser capaz de abri-lo, de acordo com um comentário abaixo.