Estou tendo exatamente o mesmo problema, embora eu tenha um AMD HD5870 (com painel de controle do catalisador) e um sistema de 32 bits (Ubuntu 12.04).
Eu já desativei Sync to VBlank no gerenciador de configuração do Compiz, mas isso não fez nada para o meu atraso.
EDITAR
Depois de reativar o Sync para o Vblank em compiz-config e logout e in, a reprodução de vídeo foi ótima. Eu sugiro que você tente o mesmo.