Durante a inicialização do Windows, tente instalar o núcleo do servidor, em vez da versão "completa". Como isso não instalará uma GUI, se ela for instalada sem problemas, é provável que o problema esteja nos drivers de vídeo padrão para qualquer placa gráfica que você tenha. Você pode precisar inserir novos drivers na mídia de instalação.
Se você não conseguir instalar a versão principal, o problema pode estar na mídia que você está usando ou no problema com o hardware. Eu vi de tudo, de más placas de vídeo a fontes de alimentação ruins, que causam problemas ao instalar janelas. Tente testar a mídia em outra máquina.