Claro. Eu abri um vídeo aleatório do youtube , depois extraí link de download do FLV com este script greasemonkey , e o alimentou para VLC usando Mídia - > Abra o item de menu Fluxo da Rede (ou Ctrl + N). Há apenas uma desvantagem: o VLC não mostra a parte do vídeo que já foi baixada, como faz o player padrão, tornando visível a barra de progresso.
Além disso, se você tiver integração VLC no seu navegador, você pode tentar este script greasemonkey que substituirá todo o YouTube (desculpe, encontrado apenas para ele) flash players com VLC incorporado correspondente (ou qualquer outro player nativo).