Eu estava tendo um problema semelhante após a atualização de 16.10 para 17.10: a sessão do gnome funcionou, mas a unidade continuou exibindo a mensagem "tamanho virtual requerido não se encaixa [...]" e minha configuração de monitor duplo não estava sendo manipulada corretamente (os monitores foram trocados).
Eu dei uma olhada no arquivo ~/.config/monitors.xml e percebi que ele tinha alterado o formato ! Na parte superior, agora era uma string <monitors version=" 2 "> , enquanto a anterior tinha uma string <monitors version=" 1 "> e resto do arquivo mostrou um layout e tags completamente diferentes.
Concluí assim que a mensagem "tamanho virtual necessário não cabe [...]" estava sendo exibida por unity-settings-daemon , que não conseguiu analisar o conteúdo do novo arquivo monitors.xml .
Além disso, o painel de exibição do gnome-control-center não estava funcionando durante a sessão do Unity, devido a um erro:
GDBus.Error:org.freedesktop.DBus.Error.ServiceUnknown: The name org.gnome.Mutter.DisplayConfig was not provided by any .service files
Por isso, instalei unity-control-center , executei e, com certeza, o painel de exibição estava funcionando e a versão correta (versão anterior) monitor.xml estava sendo gravada.
Após a reinicialização, tudo funcionou como esperado.
CONCLUSÕES
O problema parece estar relacionado a uma incompatibilidade entre o esperado monitor.xml e o real. O shell Unity e Gnome grava e analisa versões diferentes e incompatíveis desse arquivo, o que torna impossível alternar continuamente entre esses dois tipos de sessão.