Verifique as permissões na pasta C: \ ProgramData \ Microsoft \ Crypto \ RSA \ MachineKeys. No meu domínio se juntou ao servidor membro W2k8 as permissões são definidas assim:
Everyone
List folder / read data
Read attributes
Read extended attributes
Create files /write data
Create folders / append data
Write attributes
Write extended attributes
Read permissions
This folder only
SERVER\Administrators Full Control This folder only
No inheritance
Além disso, todos os arquivos dessa pasta têm suas próprias permissões. Você pode querer ver se seu certificado auto-assinado está sendo criado e excluído quando o erro de acesso negado é exibido.