Você pode iniciar uma VM com
VBoxManage startvm <vm>
e desligue-o com
VBoxManage controlvm <vm> poweroff
Você pode executar comandos no Convidado usando
VBoxManage guestcontrol execute ...
isso funciona bem para programas de linha de comando e você pode redirecionar a saída para o seu host. No entanto, não tenho certeza de como isso funciona com aplicativos de GUI, como um pacote normal de instalação do Windows MSI. Também o pouco sobre 'gravar os resultados' é um pouco vago, o seu instalador escreve um arquivo de log que você poderia enviar para um compartilhamento de rede antes de desligar a VM?
Você também pode tirar um instantâneo da VM e depois analisá-la