Virtualização de GPU ainda não está aqui. Pelo menos não corretamente. O VMWare Workstation tem isso como um recurso experimental .
Quanto ao resto - Você é capaz de dedicar uma peça de hardware para ser um host de VM, ou isso precisa ser executado sobre o sistema operacional existente?
Se você está dedicando algum hardware, o Citrix XenServer ou o VMWare ESXi são opções excelentes e comparáveis, e ambos são gratuitos. O ESXi tem uma interface web que pode ser usada para acessar o console em VMs e funciona bem na rede.
Se você só puder executar VMs sobre uma instalação existente do Windows / Linux, pois ela será usada para outras tarefas, isso dependerá da sua opção de sistema operacional. VMWare Workstation é uma boa escolha, mas não é gratuita.