O Windows XP Mode é secretamente uma Máquina Virtual sem cabeçalho que o Windows lança uma conexão de Área de Trabalho Remota para. Como é sem cabeça, ele pode fazer muitas coisas em segundo plano (ou seja, fazer login com a caixa de diálogo de login 'Secure' no Windows 7 antes que o Windows XP seja carregado), de modo que, quando inicializado, você esteja pronto para trabalhar. Você precisará se conectar a ele como uma máquina, não como uma instância do Windows.
Este site descreve os recursos da VM integrada e como desativá-los. Para resumir:
Start the VM
Select Tools->Disable Integrated Mode
When you see the loading dialog
Press Shift+Escape
Isso desativa os recursos de integração e faz com que ele funcione mais como uma máquina virtual; por exemplo, você pode iniciar o sistema no Modo de segurança a partir desse ponto. Outra grande diferença é que o Modo XP não estará sendo executado como uma Sessão de Área de Trabalho Remota e você deverá ser capaz de instalar o pacote MSI então.