Consegui corrigir meu problema. Meu Ubuntu 17.04 VM foi muito confuso e era mais fácil abandoná-lo e começar de novo. Eu instalei uma nova VM do Ubuntu Gnome 17.04. Após a instalação eu corri o comando
gsettings set org.gnome.Vino require-encryption false
Então eu corri
vino-passwd
e defina uma senha.
Minha conexão não funcionou depois de ativar o compartilhamento nas preferências do vino, por isso entrei em
Configurações do sistema - Compartilhamento
e o compartilhamento ativado e o compartilhamento de tela. Depois disso eu iniciei uma conexão do meu iPad e funcionou. Eu não tenho certeza se o vino-passwd foi necessário ou se eu deveria mesmo me incomodar com as preferências de vino.
Parece que apenas ativar o compartilhamento de tela nas preferências de compartilhamento do gnome fez isso em uma instalação não alterada.