Eu enfrentei o mesmo problema e fiz isso.
Ir para o VLC player Tools - > Preferências - > Áudio - > Selecione "Manter níveis de áudio entre as sessões". Em seguida, altere o módulo de saída de "Padrão" para "Saída de pulso de áudio" ou "Saída de áudio ALSA", o que for adequado para você.
Funcionou para mim no Ubuntu 11.04 e no VLC 1.1.9.
Verifique também a opção configure ... Vídeo - > Saída "X11"