Tente brincar com a configuração de cache de arquivos.
Ferramentas > Preferências > Mostrar configurações: todas (canto inferior esquerdo) > Entrada / Codecs > Seção avançada > Armazenamento em Cache de Arquivos
Eu mudei de 300ms para 1000ms e consertei o problema. Eu suspeito que o problema de tela cinza acontece sempre que o VLC não consegue obter os dados de vídeo da unidade rápido o suficiente (unidade lenta / outros programas acessando-o).