Eu não acho que seja uma mensagem de erro vlc, creio que, em vez disso, é o Problem Reporter do Mac. No Snow Leopard, a partir de um terminal, este comando
sudo chmod 000 /System/Library/CoreServices/Problem\ Reporter.app
desativa, enquanto isso
sudo chmod 755 /System/Library/CoreServices/Problem\ Reporter.app
reativa. Você não especificou seu sistema operacional, mas espero que possa usar isso como ponto de partida.
EDITAR:
Eu não disse que não sabia como desabilitar o Crash Reporter, lol. Eu só disse que não sabia em qual sistema operacional você estava. ; -)
De qualquer forma:
defaults write com.apple.CrashReporter DialogType none
desliga,
defaults write com.apple.CrashReporter DialogType crashreport
liga novamente. A única coisa é: não posso testá-lo.