De alguma forma, deparei-me com esta resposta a uma pergunta não relacionada e ela ajudou a corrigir meu problema. Parece que quando o VMware sabe que o VMware Tools está instalado, ele pára de manipular certas resoluções corretamente. Tudo o que fiz foi abrir o arquivo vmx
da minha VM (depois de desligar a VM, é claro, já que o arquivo foi sobrescrito no desligamento) e alterei essa linha:
svga.guestBackedPrimaryAware = "TRUE"
... para isso:
svga.guestBackedPrimaryAware = "FALSE"
E agora posso maximizar a janela do VMware novamente e o convidado é redimensionado corretamente. Pastas compartilhadas também parecem funcionar.
Mais informações sobre vmx
arquivos: