Parece que o RealVNC tem uma opção avançada para isso, chamada IdleTimeout
:
IdleTimeout This setting tells WinVNC how many seconds a connected VNC client may remain idle for (no input events or update requests) before being disconnected. If this setting is not specified or is set to zero then no timeout is enforced. Local or Global per-user setting
Este parâmetro deve ser definido no Registro do Windows em:
HKEY_LOCAL_MACHINE\Software\ORL\WinVNC3\Default
Mais leituras na documentação .