Com problemas como esses, a melhor aposta é tentar diminuir o problema.
Como você esgotou as correções de software óbvias (atualizando os drivers Flash, Firefox e gfx), tentaria descartar um problema de hardware.
Tente inicializar algum tipo de CD ao vivo no computador (por exemplo, o Ubuntu Live CD ou o BartPE), instale o Firefox nele (o Ubuntu já o possui), instale o Flash, experimente o vídeo. Observe que há alguns problemas com o ATI HD5770 no Linux (consulte link ), portanto, certifique-se de você não se depara com isso.
Você também pode tentar:
- instalando um navegador diferente (IE, Chrome, Opera) + Flash para ver se faz diferença
- execute seu cartão com drivers VESA genéricos (eu sei, horrível ...) para testar o vídeo
- faça o download de um vídeo problemático do YouTube (usando uma das muitas ferramentas de download) e, em seguida, reproduza-o em um media player (MPlayer, VNC, Windows Media ...)
Dependendo de onde você pode reprocultar os problemas, você terá que cavar ainda mais ...
Boa sorte!
Editar: Eu também me lembro do Adobe Flash tendo problemas com sistemas de 64 bits. Talvez seja um erro de flash específico de 64 bits?