Se você tem o compositor do xubuntu ativo (suporta apenas sombras e transparência), tente executar o mplayer com -vo gl
ou -vo gl2
. Se isso não ajudar, tente desativar o compositor (configurações / ajustes do gerenciador de janelas, guia mais à direita).