Primeiramente, você não pode usar binários ou drivers para o FreeBSD no OpenBSD. O OpenBSD, o NetBSD e o FreeBSD são sistemas operacionais muito diferentes.
Respeite seu problema com a resolução. Você precisa configurar o Xorg, provavelmente o problema é que você está usando o driver "vesa" e não o driver "vmware".
Outra sugestão: atualizar para 5.1 . O OpenBSD aprimora o suporte de hardware a cada nova versão.