Parece que seu host tem uma resolução mais alta do que o convidado, por isso, quando você configura o convidado para 1600x900, ele é exibido em uma pequena janela. Para habilitar a escala na janela Virtual Box, você pode usar Host + C (right ctrl é a chave do host padrão no Windows).