Normalmente, essas máquinas IP KVM carregam um programa java (ou, no caso de um particularmente irritante, Belkin, ActiveX) que exibe a tela remota e permite que você interaja dessa maneira.
Eu nunca vi um com VNC, e tenho quase certeza que o RDP / X não funcionaria devido às limitações de apenas ler a porta de vídeo.