O VLC está usando o fork Libav em vez do seu FFmpeg. Você não mencionou sua versão do Ubuntu, mas o Libav no Ubuntu 13.10 não suporta a decodificação do MSS2 (MS Windows Media Video V9). Você compila o VLC para usar o FFmpeg recente, como mostrado em:
Howto: Compile a versão de desenvolvimento do vlc no último lançamento do Ubuntu