Você não menciona qual distro seu convidado linux está executando. Mais informações ajudariam a fornecer uma resposta mais descritiva.
Você deve instalar (ou potencialmente ambos) os pacotes kernel-devel
ou kernel-headers
. Você também pode precisar instalar os pacotes ou grupos de ferramentas de desenvolvimento para que o vmware-tools possa compilar.