Eu recebi exatamente a mesma mensagem de erro do carregador de boot do GRUB ao tentar instalar o Ubuntu 12.04 LTS Server no VMware Player 4.0.3.
Em seguida, voltei para a instalação básica e, em determinado momento, é perguntado qual kernel você vai usar. Escolhi a segunda opção, ou seja, o linux-virtual e, em seguida, continuei a reinstalar os serviços básicos, bem como o grub e a tela de login do Ubuntu.
Eu continuo usando o 4.0.3, já que parece ser a última versão contendo vmnetcfg.exe na sua pasta cab, que pode ser extraída com o comutador / e, já que o VMware parou de incluir isso nas versões mais recentes. O VMware Player 5 certamente não tem isso.
É claro que você pode optar por usar o VMware Workstation 8.0 ou 9.0 se o dinheiro não fosse o problema.