Reiniciar meu computador host corrigiu-o. Eu acho que porque a resolução 4k foi aplicada e eu não tinha reiniciado ainda. Fazer o logoff provavelmente poderia ter funcionado também.
Eu tenho um laptop de 4k, por isso, o dimensionamento de DPI é o que o Windows usa para aplicativos que não são dimensionados automaticamente.
Clique direito no VirtualBox > Propriedades > Compatibilidade > Desativar o DPI Scaling deve fazer o truque. No entanto, continua a ser upsampled para os hóspedes.
A tela real de gerenciamento de virtualbox parece boa, no entanto. (Host do Windows 8)
Tive o mesmo problema com um host do Windows 10 e um convidado do Ubuntu, onde de repente tudo ficou um pouco pixelado e embaçado.
Substituir a amostragem de DPI ao clicar com o botão direito do mouse no arquivo exe e alterar a seguinte configuração para "aplicativo".
Nunca teria encontrado isso sem sua pergunta aqui. Basta postá-lo se alguém pesquisar o mesmo problema no futuro.
Tags virtualbox windows-8 dpi high-dpi