Como você planeja ter a atualização de exibição em "CompB" se você não quiser usar algum protocolo de rede para obter as atualizações de vídeo por lá? Isso é um pouco desconcertante.
O VNC não é a coisa mais eficiente do mundo, mas com a compressão não é tão ruim. Se esses PCs estiverem em uma LAN juntos, a largura de banda consumida provavelmente não será um problema.
Se essas atualizações ocorrerem em uma rede de largura de banda menor, talvez você queira pensar em reproduzir a exibição localmente transferindo as informações de estado que geram a exibição "CompA" com um aplicativo sendo executado localmente em "CompB", em vez de mover o framebuffer de vídeo ou o ambiente de janelas primitivos de desenho na rede.
Então, do meu ponto de vista, você tem duas (2) opções: Replicar as informações primitivas de framebuffer / desenho de vídeo ou replicar o estado subjacente que direciona a exibição remota. Você poderia fazer o primeiro w / algo como VNC em uma janela dimensionada. Você vai ter que ter código escrito para fazer o segundo.
Edit: Se os computadores estiverem fisicamente próximos, você poderá dividir e converter a saída VGA em "CompA" e canalizá-la para um aplicativo (como um programa "TV Viewer" ou outro) em "CompB" ou como Garrett diz, basta usar um monitor que pode fazer PIP em "CompB".