As pastas compartilhadas exigem um driver no sistema operacional convidado. Ativar a opção na configuração da VM simplesmente dá ao convidado permissão para acessar as pastas compartilhadas. O convidado pode não saber como transformar as pastas compartilhadas VMware em sua noção de sistema de arquivos. De acordo com a documentação do SCO OpenServer como sistema operacional convidado , as ferramentas VMware (que incluem o driver de pasta compartilhada) são não suportado pela SCO.
Você deve conseguir acessar os arquivos host no guest executando um servidor NFS no host, exportando as árvores de diretórios que deseja compartilhar para a VM e montando essas exportações NFS na VM.