Existem muitos problemas ao instalar o VMWare 11.1 - ajudaria se você imprimisse os arquivos de log, mas em termos gerais:
O VMWare 11.1 não será compilado corretamente. Há vários patches que precisam ser aplicados ao produto, que podem ser obtidos em este site do gitbub .
O processo básico de aplicar as correções é bem abordado em este arquivo leia-me e, embora eu deva, não vou copiar e colar o conjunto inteiro de instruções aqui: Se o link para o github falhar, ter as instruções aqui é discutível.
Uma solução melhor, se estiver disponível para você, é baixar o VMWare Workstation 12.01