x11vnc -auth $XAUTHORITY inicia um servidor VNC onde você autentica com um cookie . Um cookie é uma seqüência de bytes que é gerada aleatoriamente quando o servidor X é iniciado e que (na maioria das configurações hoje em dia) qualquer aplicativo que deseja se conectar ao servidor X deve fornecer. O cookie é normalmente armazenado em um arquivo chamado ~/.Xauthority ou indicado pela variável de ambiente XAUTHORITY . Você pode manipular arquivos de cookie com o comando xauth . Você normalmente não digitaria cookies X manualmente; em vez disso, você copia-os com o uso criterioso de cp (e comandos como o ssh podem copiá-los automaticamente). Um caso de uso comum é x11vnc -auth guess , que diz para usar o mesmo cookie ao passar pelo canal x11vnc como ao se conectar diretamente ao servidor X.
x11vnc -rfbauth $RFB_PASSWORD_FILE inicia um servidor VNC onde você autentica digitando uma senha. Se você não especificar -rfbauth , qualquer um pode se conectar ao servidor VNC (mas não se conectar ao servidor X, a menos que ele saiba que o cookie X ou o servidor X aceita conexões sem um cookie).