Existe um relatório de erros para este problema: Bug # 1281250: VNC acessível a partir de máquinas não-linux apenas com criptografia desativada .
Este bug data de 2014 e ainda não foi tratado. A última entrada no relatório de erros data de 2018-06-17:
Common guys. This bug is still present in Ubuntu18, and it makes for a truly lousy out-of-box experience.
Just turn encryption off by default.
Eu não acredito que depois de quatro anos este bug será resolvido em breve. A solução pode ser usar outro servidor VNC que o padrão.
Veja este Wiki de Ajuda da Comunidade Ubuntu para obter uma lista de tais servidores: VNC / Servers .
Outra alternativa é a plataforma cruzada NoMachine :
Go from your desktop to any NoMachine-enabled computer at the speed of light. Thanks to our NX technology, NoMachine is the fastest and highest quality remote desktop you have ever tried. Get to any computer in the world in just a few clicks! Take what's important where you go and share with who you want! NoMachine is your own personal server, private and secure. Did we say NoMachine is free? No strings attached.
Outra solução pode ser instalar no Linux um servidor para o Protocolo de área de trabalho remota do Windows. O xrdp pode ser uma solução aqui:
Based on the work of FreeRDP and rdesktop, xrdp uses the remote desktop protocol to present a GUI to the user.
The goal of this project is to provide a fully functional Linux terminal server, capable of accepting connections from rdesktop, freerdp, and Microsoft's own terminal server / remote desktop clients.
Unlike Windows NT/2000/2003/2008/2012 server, xrdp will not display a Windows desktop but an X window desktop to the user.