A Apple não é amigável para pessoas que tentam executar em hardware não aprovado. Na verdade, eles ativamente desencorajam isso.
Tenho o OSX 10.9.3 em execução no VMware, e foi realmente um incômodo para a configuração. Ainda tem baixa qualidade de som, mas desistiu disso por enquanto. Não consigo me lembrar de como consegui isso, mas acredito que comecei basicamente com uma instalação do Snow Leopard e, eventualmente, fiz um upgrade para um Mavericks limpo. Um site para começar com informações sobre isso é tonymacx86