O ReactOS pode ser uma recriação do kernel do NT em geral, mas, para trabalhar com o software Windows, ele precisa relate-se como algo reconhecível. O ReactOS é um sistema operacional de servidor, de modo que atualmente se reporta como Windows Server 2003. Não sei qual versão exata do Windows Server 2003.
Com base nisso, faz mais sentido usar o perfil do Windows Server 2003 Standard. Se você tiver problemas com o mouse, puxar a parte inferior da tela do VMware para cima para que você tenha uma barra de rolagem, isso deve permitir que você clique no botão seguinte, e na próxima tela o mouse deve funcionar corretamente. Livre-se da barra de rolagem, puxando novamente a tela para baixo e prossiga com a instalação.
Se você tentar usar o recurso interno do ReactOS para instalar o driver SVGA a partir do VMware Tools, o VMware fornecerá a iso correta, e se você está se perguntando é "windows.iso". Infelizmente o ReactOS ainda não encontrará o driver SVGA em o disco de instalação, porque ele está escondido dentro do instalador do vmware.
Após concluir a instalação do ReactOS, se você tentar instalar o driver usando o instalador do VMware Tools, ele será falhou. Inicie o instalador do VMware Tools e escolha o tipo de configuração "personalizado". Desmarque tudo, exceto o driver SVGA, que deve ser definido como "instalar todo o recurso". Você receberá um erro de rundll32 dizendo "LoadLibrary falhou ao carregar 'tpvmmon.dll'. O processo de instalação é apenas parcialmente concluído antes do erro. Se você navegar para os aplicativos ReactOS Manager você deve ver o VMware Tools listado em "Instalado", mas se você olhar no seu Gerenciador de Dispositivos, você verá o adaptador de vídeo ainda está usando o driver fornecido pela Equipe ReactOS.
Se você tentar instalar manualmente o driver SVGA, o disco rígido estará armazenando, porque está enterrado dentro do instalador do VMware Tools. A maneira mais simples é instalar o VMware Tools em um Máquina virtual Windows 98 e, em seguida, navegue até "C: \ Programas \ VMware \ Ferramentas Vmware \ Drivers \ video \ vmx_svga.inf", e Copie o driver SVGA. Em ReactOS clique direito e escolha "instalar". Isso não funciona também. Depois de executar um reinicie você ainda verá que o adaptador está usando o driver da equipe do ReactOS.
A quarta e última opção é pegar o driver copiado e adicioná-lo ao arquivo iso "windows" do VMware Tools para que quando o instalador do ReactOS tenta encontrá-lo, ele não está escondido no instalador. Isso não funciona também.
Neste momento, não parece ser possível instalar o driver SVGA, embora pareça haver planos para fazer possível, dado que o processo de instalação do ReactOS inclui a capacidade pretendida para o fazer.