Para acessar o Mac a partir de uma máquina Windows, você precisará instalar um cliente VNC na máquina Windows ou localizar o software do servidor RDP para o Mac (não tenho certeza se ele existe). Eu uso VNC eu mesmo desde que é onipresente, fácil de configurar, multiplataforma e essencialmente open source. No entanto, esteja ciente de que não é um protocolo muito seguro, pois não possui criptografia suficiente ou até mesmo um parâmetro de nome de usuário. Mesmo assim, ainda é amplamente usado em ambientes seguros. O protocolo VNC também pode ser endurecido por tunelamento através do SSH, mas isso é um tópico para outro dia.
Para ativar o VNC no Mac, navegue até SystemPreferences > Sharing > RemoteManagement. Verifique se esse recurso está ativado (como você diz que já fez). Em seguida, clique no botão "Configurações do computador ...". Na nova janela, marque a opção "Ativar visualizadores VNC podem controlar a tela com senha:" e defina uma senha.
De volta à máquina Windows, instale seu cliente VNC preferido e inicie o programa (eu prefiro o TightVNC). Digite o endereço IP do Mac e a senha que você criou anteriormente nas configurações do Mac, se necessário. Se você não for solicitado a fornecer a senha nas configurações de conexão do cliente VNC, você será solicitado a fornecê-la após a conexão começar a ocorrer.