Você deve tentar explicar mais detalhadamente a configuração que está usando. Quais drivers de vídeo você está usando? Que tipo de placa de vídeo é? Quais são as configurações de vídeo no seu jogo? Quais são as configurações do seu driver de vídeo? Isso acontece em outros aplicativos, como reproduzir vídeos em tela cheia?
Todas essas coisas podem ter um impacto direto na maneira como o vídeo é renderizado e o que está causando o tremeluzir.
A primeira coisa que gostaria de verificar é o seu driver de configurações forçadas, eles estão forçando v-sync (Vertical Sync)? Se não, tente ligá-lo e ver se isso resolve o problema. Além disso, verifique esta configuração no aplicativo que você está tentando executar.
Qual taxa de atualização seu monitor é capaz de manipular? Qual é a sua taxa de atualização no jogo definida para?
Com as informações fornecidas, pode haver qualquer combinação de coisas.