Suponha que isso esteja acontecendo porque você está exigindo muito do seu computador, enquanto está importando e jogando. Seu computador pode não ter memória suficiente ou poder de processamento para exibir um vídeo nítido e importá-lo ao mesmo tempo (reproduzindo e salvando o vídeo do videocassete).
Eu só ficaria preocupado se depois de desconectar o videocassete ou retirar a fita, você ainda tiver esse problema ao tentar reproduzir o vídeo.