Mais ou menos corri para os mesmos problemas em um PC antigo (desatualizado): o processador começou a funcionar muito bem e os vídeos do YouTube ficaram agitados quando reproduzidos em tela cheia - vídeos em HD, mesmo em uma tela pequena. Eu finalmente descobri que copiar e colar a URL de um vídeo do YouTube para o VLC Player (use CTRL-N e depois colar) praticamente eliminou todos os detalhes e me deu vídeos em tela cheia. Não é uma solução perfeita, mas pode ser uma solução aceitável para alguns. Além disso, DVD-video também é normal quando eu o reproduzo no VLC-player.
Como nota, notei também que a maioria dos vídeos tocava melhor no site do Youtube quando eu usava um Ubuntu live-USB (apesar de eu ter recebido pop-ups sobre o flash não estar instalado antes do vídeo começar a tocar) .
* Pentium IV 2,8 GHz, cerca de 1,7 Gb de RAM, HP Compaq D330, placa gráfica: Ati-Radeon 9200PRO - então eu suponho que poderia ser uma mistura de hardware antigo, drivers ruins e plugins de navegador imperfeitos. Btw eu experimentei o mesmo problema em um monte de sabores do Ubuntu e Mint, mas Lubuntu ainda teve o melhor desempenho (por causa da baixa carga do sistema).