O Hyper-V tem sido conhecido há muito tempo para não funcionar bem (com trocadilho) com placas de vídeo 3D, devido à natureza do hypervisor tipo 1, que coloca a camada de virtualização entre o sistema operacional Windows e o hardware subjacente; quando a função é ativada, as operações de conversão de memória necessárias para fazer a virtualização funcionar não permitem que os drivers 3D sejam executados como deveriam; No artigo relacionado acima, a Microsoft recomenda explicitamente não usar placas gráficas 3D com servidores Hyper-V ou, se isso for realmente necessário, não usar seus drivers específicos de placa e alternar para drivers VGA padrão, perdendo toda a aceleração 3D capacidades no processo.
Uma explicação mais detalhada desse problema, junto com uma solução viável, pode ser encontrada aqui : CPUs recentes com suporte de virtualização de hardware de última geração são capazes de contornar esse problema usando uma tecnologia chamada SLAT, permitindo uso de placa gráfica 3D em servidores Hyper-V, sem qualquer problema de desempenho, e até mesmo possibilitando coisas como RemoteFX . Aqui você pode encontrar uma lista de CPUs que suportam SLAT.
Se a sua CPU não suporta SLAT, então você definitivamente não deve tentar usar qualquer placa gráfica 3D junto com o Hyper-V : se o servidor não travar, ele terá um vídeo terrível desempenho sempre que você tentar usar qualquer coisa, mesmo que vagamente relacionada a 3D (como temas de desktop Aero).
Se, no entanto, a sua CPU suporta SLAT, então este é provavelmente um problema de compatibilidade e / ou driver: sua placa não está presente na Lista de compatibilidade de hardware para o Windows Server , por isso não é garantido que funcione; no entanto, como o O.S. kernel é o mesmo que o Windows 7 x64, deve trabalhar com drivers apropriados e atualizados.
O fato de você estar enfrentando uma falha no sistema somente após ativar a função Hyper-V me faz pensar que você está enfrentando o problema que eu estava falando no início desta resposta, ou seja, sua CPU não suporta SLAT.