Dê uma olhada nas aplicações xmag
ou xmagnify
X; eles leem parte do framebuffer, ampliam e exibem em uma janela separada.
Isso não funcionará para vídeos exibidos na sobreposição de vídeo (que raramente é usada atualmente, já que as sobreposições agora usam principalmente a GPU para renderizar a superfície).
Observe também que esses aplicativos são X puro e compositores anteriores, não tenho idéia de como eles interagem com um compositor.
Além disso, a visualização da janela "em outra área de trabalho" pode não funcionar, pois as janelas que não estão na sua área de trabalho atual não são mapeadas e não serão atualizadas.
Provavelmente, seria possível modificar a fonte para ler diretamente a partir do armazenamento de apoio da janela do aplicativo em que você está interessado.