Atualmente não é possível usar x11vnc no Ubuntu 17.10 se você usar o Wayland DM. Vários problemas sobre segurança e interfaces de exposição para captura de quadros.
Referências: [ link
Você pode desativar o Wayland e habilitar implicitamente o x11 e ele funcionará bem. Eu testei isso em uma nova instalação do Ubuntu Desktop 17.10
#Bash
#UD17.10ARTFUL
MYFILE=/etc/gdm3/custom.conf
sed --in-place --expression "s/^#WaylandEnable=false/WaylandEnable=false/g" ${MYFILE}
grep 'WaylandEnable' ${MYFILE}
#Logout/Login the Ubuntu Desktop session
# A quick test (you must add the security yourself)
x11vnc -display :0 -auth /var/run/lightdm/root/:0 -shared
@note Também é possível fazer o login com X11, em vez de Wayland, na tela de login (clique no botão cog), mas esse botão nem sempre é visível em vários hardwares.
Eu também recomendaria instalar o & amp; faça a última versão do DEVelopment x11vnc-0.9.14-dev em vez do pacote do repositório padrão do Ubuntu.
Meu conselho geral é realmente ficar com o Ubuntu 16 LTS ou o Ubuntu 17.04 porque o Wayland tem muitos problemas de compatibilidade.Deixe-me saber como é isso.