Houve problemas com o Windows 7 e o VLC com pixelização. Uma solução alternativa era mudar o renderizador de vídeo (não funcionava para mim).
No entanto, se você usar a versão mais recente do VLC, verá que o problema foi corrigido. Estou usando o Windows 7 RTM de 64 bits e o VLC 1.0.3 RC. Eu tenho uma Radeon HD4870.
ftp://ftp.videolan.org/pub/testing/vlc- 1.0.3-rc / win32 /