Eu tive o mesmo problema que você. Então testei minha reprodução de vídeo (mp4, h264) com o VLC e funcionou muito bem. Mas não consegui reproduzir Quicktime no Firefox com mozilla-plugin-vlc e browser-plugin-vlc .
Então, meu conselho para você seria usar mplayer com gecko-mediaplayer . Isso resolve todos os meus problemas.